La Déclaration de Montréal pour un développement responsable de l'intelligence artificielle
Je souhaite signer la
Déclaration de Montréal
pour un développement responsable de
l'intelligence artificielle
Une Déclaration, pour quoi faire?
La Déclaration de Montréal pour un développement responsable de l’intelligence artificielle poursuit
trois objectifs :
- Élaborer un cadre éthique pour le développement et le déploiement de l’IA ;
- Orienter la transition numérique afin que tous puissent bénéficier de cette révolution technologique ;
- Ouvrir un espace de dialogue national et international pour réussir collectivement un développement inclusif, équitable et écologiquement soutenable de l’IA.
Une Déclaration de quoi ?
Une Déclaration pour qui ?
Une Déclaration selon quelle méthode ?
Après la Déclaration ?
Préambule
Pour la première fois dans l’histoire de l’humanité, il est possible de créer des systèmes autonomes capables d’accomplir des tâches complexes que l’on croyait réservées à l’intelligence naturelle : traiter de grandes quantités d’informations, calculer et prédire, apprendre et adapter ses réponses aux situations changeantes, et reconnaître et classer des objets.
En raison de la nature immatérielle de ces tâches qu’ils réalisent, et par analogie avec l’intelligence humaine, on désigne ces systèmes très divers par le terme général d’intelligence artificielle. L’intelligence artificielle constitue un progrès scientifique et technologique majeur qui peut engendrer des bénéfices sociaux considérables en améliorant les conditions de vie, la santé et la justice, en créant de la richesse, en renforçant la sécurité publique ou en maîtrisant l’impact des activités humaines sur l’environnement et le climat. Les machines intelligentes ne se contentent pas de mieux calculer que les êtres humains, elles peuvent interagir avec les êtres sensibles, leur tenir compagnie et s’occuper d’eux.
Le développement de l’intelligence artificielle présente cependant des défis éthiques et des risques sociaux majeurs. En effet, les machines intelligentes peuvent contraindre les choix des individus et des groupes, abaisser la qualité de vie, bouleverser l’organisation du travail et le marché de l’emploi, influencer la vie politique, entrer en tension avec les droits fondamentaux, exacerber les inégalités économiques et sociales, et affecterles écosystèmes, l’environnement et le climat. Bien qu’il n’y ait pas de progrès scientifique ni de vie sociale sans risque, il appartient aux citoyennes et aux citoyens de déterminer les finalités morales et politiques qui donnent un sens aux risques encourus dans un monde incertain.
Les bénéfices de l’intelligence artificielle seront d’autant plus grands que les risques liés à son déploiement seront faibles. Or le premier danger que présente le développement de l’intelligence artificielle consiste à donner l’illusion que l’on maîtrise l’avenir par le calcul. Réduire la société à des nombres et la gouverner par des procédures algorithmiques est un vieux rêve qui nourrit encore les ambitions humaines. Mais dans les affaires humaines, demain ressemble rarement à aujourd’hui, et les nombres ne disent pas ce qui a une valeur morale, ni ce qui est socialement désirable.
Les principes de la présente Déclaration sont les directions d’une boussole éthique qui permet d’orienter le développement de l’intelligence artificielle vers des finalités moralement et socialement désirables. Ils offrent aussi un cadre éthique qui permet de promouvoir les droits humains reconnus internationalement dans les domaines concernés par le déploiement de l’intelligence artificielle. Pris dans leur ensemble, les principes formulés posent enfin les bases de la confiance sociale envers les systèmes artificiellement intelligents.
Les principes de la présente Déclaration reposent sur l’idée commune que les êtres humains cherchent à s’épanouir comme êtres sociaux doués de sensations, d’émotions et de pensées, et qu’ils s’efforcent de réaliser leurs potentialités en exerçant librement leurs capacités affectives, morales et intellectuelles. Il incombe aux différents acteurs et décideurs publics et privés, au niveau local, national et international, de s’assurer que le développement et le déploiement de l’intelligence artificielle sont compatibles avec la protection et l’épanouissement des capacités humaines fondamentales. C’est en fonction de cet objectif que les principes proposés doivent être interprétés de manière cohérente, en tenant compte de la spécificité des contextes sociaux, culturels, politiques et juridiques de leur application.
Principes
Principe de
Bien-être
- Les SIA doivent permettre aux individus d’améliorer leurs conditions de vie, leur santé et leurs conditions de travail
- Les SIA doivent permettre aux individus de satisfaire leurs préférences, dans les limites de ce qui ne cause pas de tort à un autre être sensible.
- Les SIA doivent permettre aux individus d’exercer leurs capacités physiques et intellectuelles.
- Les SIA ne doivent pas constituer une source de mal-être, sauf si ce dernier permet d’engendrer un bien-être supérieur que l’on ne peut atteindre autrement.
- L’utilisation des SIA ne devrait pas contribuer à augmenter le stress, l’anxiété et le sentiment de harcèlement liésà l’environnement numérique.
Principe de
Respect de l’autonomie
- Les SIA doivent permettre aux individus de réaliser leurs propres objectifs moraux et leur conception de la vie digne d’être vécue.
- Les SIA ne doivent pas être développés ni utilisés pour prescrire aux individus un mode de vie particulier, soit directement, soit indirectement en mettant en œuvre des mécanismes de surveillance, d’évaluation ou d’incitation contraignants.
- Les institutions publiques ne doivent pas utiliser les SIA pour promouvoir ni défavoriser une conception de la vie bonne.
- Il est indispensable d’encapaciter les citoyennes et les citoyens face aux technologies du numérique en assurant l’accès à différents types de savoir pertinents, le développement de compétences structurantes (la littératie numérique et médiatique) et la formationde la pensée critique.
- Les SIA ne doivent pas être développés pour propager des informations peu fiables, des mensonges et de la propagande, et devraient être conçus dans le but d’en réduire la propagation.
- Le développement des SIA doit éviter de créer des dépendances par les techniques de captation de l’attention et par l’imitation de l’apparence humaine qui induit une confusion entre les SIA et les humains.
Principe de
Protection de l'intimité et de la vie privée
- Des espaces d’intimité dans lesquels les personnes ne sont pas soumises à une surveillance, ou à une évaluation numérique, doivent être protégés de l’intrusion de SIA ou de systèmes d’acquisition et d’archivage des données personnelles (SAAD).
- L’intimité de la pensée et des émotions doit être strictement protégée de l’usage de SIA et de SAAD susceptible de faire du tort, en particulier de l’usage visant à juger moralement des personnes ou de leur choix de vie.
- Les personnes doivent toujours avoir le choix de la déconnexion numérique dans leur vie privée et les SIA devraient explicitement offrir le choix de la déconnexion à intervalle régulier, sans inciter à rester connecté.
- Les personnes doivent avoir un contrôle étendu sur les informations relatives à leurs préférences. Les SIA ne doivent pas construire de profils de préférences individuelles pour influencer le comportement des personnes concernées sans leur consentement libre et éclairé.
- Les SAAD doivent garantir la confidentialité des données et l’anonymisation des profils personnels.
- Toute personne doit pouvoir garder un contrôle étendu sur ses données personnelles, en particulier par rapport à leur collecte, usage et dissémination. L’utilisation par des particuliers de SIA et de services numériques ne peut être conditionnée à l’abandon de la propriété de ses données personnelles.
- Toute personne peut faire don de ses données personnelles aux organismes de recherche afin de contribuer au progrès de la connaissance.
- L’intégrité de l’identité personnelle doit être garantie. Les SIA ne doivent pas être utilisés pour imiter ni modifier l’apparence physique, la voix et d’autres caractéristiques individuelles dans le but de nuire à la réputation d’une personne ou pour manipuler d’autres personnes.
Principe de
Solidarité
- Les SIA ne doivent pas nuire au maintien de relations humaines affectives et morales épanouissantes, et devraient être développés dans le but de favoriser ces relations et de réduire la vulnérabilité et l’isolement des personnes.
- Les SIA doivent être développés dans le but de collaborer avec les humains sur des tâches complexes et devraient favoriser le travail collaboratif entre les humains.
- Les SIA ne devraient pas être mis en œuvre pour remplacer des personnes sur des tâches qui requièrent une relation humaine de qualité, mais devraient être développés pour faciliter cette relation.
- Les systèmes de santé qui recourent aux SIA doivent prendre en considération l’importance pour les patients des relations avec le personnel médical et la famille.
- Le développement des SIA ne devrait pas stimuler des comportements cruels avec des robots qui prennent l’apparence d’êtres humains ou d’animaux et semblent agir comme eux.
- Les SIA devraient permettre d’améliorer la gestion des risques et créer les conditions d’une société de mutualisation des risques individuels et collectifs plus efficace.
Principe de
Participation démocratique
- Le fonctionnement des SIA qui prennent des décisions affectant la vie, la qualité de la vie ou la réputation des personnes doit être intelligible pour leurs concepteurs.
- Les décisions des SIA affectant la vie, la qualité de la vie ou la réputation des personnes, devraient toujours être justifiables dans un langage compréhensible aux personnes qui les utilisent ou qui subissent les conséquences de leur utilisation. La justification consiste à exposer les facteurs et les paramètres les plus importants de la décision et doit être semblable aux justifications qu’on exigerait d’un être humain prenant le même type de décision.
- Le code des algorithmes, publics ou privés, doit toujours être accessible aux autorités publiques compétentes et aux parties prenantes concernées à des fins de vérification et de contrôle.
- La découverte d’erreurs de fonctionnement des SIA, d’effets imprévus ou indésirables, de failles de sécurité et de fuites de données doit être impérativement signalée aux autorités publiques compétentes, aux parties prenantes concernées et aux personnes affectées par la situation.
- En vertu de l’exigence de transparence des décisions publiques, le code des algorithmes de décision utilisé par les pouvoirs publics doit être accessible à tous, à l’exception des algorithmes présentant, en cas d’usage détourné, un danger sérieux avec une probabilité élevée.
- Pour les SIA publics ayant un impact important sur la vie des citoyens, ces derniers devraient avoir la possibilité et la compétence de délibérer sur les paramètres sociaux de ces SIA, leurs objectifs et les limites de leur utilisation.
- On doit pouvoir s’assurer en tout temps que les SIA font ce pour quoi ils ont été programmés et ce pour quoi ils sont utilisés.
- Tout utilisateur d’un service devrait savoir si une décision le concernant ou l’affectant a été prise par un SIA.
- Tout utilisateur d’un service qui recourt à des agents conversationnels doit pouvoir identifier facilement s’il interagit avec un SIA ou une personne.
- La recherche dans le domaine de l’intelligence artificielle devrait rester ouverte et accessible à tous.
Principe d'
Équité
- Les SIA doivent être conçus et entraînés de sorte à ne pas créer, renforcer ou reproduire des discriminations fondées entre autres sur les différences sociales, sexuelles, ethniques, culturelles et religieuses.
- Le développement des SIA doit contribuer à éliminer les relations de domination entre les personnes et les groupes fondées sur la différence de pouvoir, de richesses ou de connaissance.
- Le développement des SIA doit bénéficier économiquement et socialement à tous en faisant en sorte qu’il réduise les inégalités et la précarité sociales.
- Le développement industriel des SIA doit être compatible avec des conditions de travail décentes, et cela, à toutes les étapes de leur cycle de vie, de l’extraction des ressources naturelles jusqu’à leur recyclage, en passant par le traitement des données.
- L’activité numérique des utilisateurs de SIA et de services numériques devrait être reconnue comme un travail qui contribue au fonctionnement des algorithmes et créé de la valeur.
- L’accès aux ressources, aux savoirs et aux outils numériques fondamentaux doit être garanti pour tous.
- Le développement de communs algorithmiques et de données ouvertes pour les entraîner et les faire fonctionner est un objectif socialement équitable qui devrait être soutenu.
Principe d'
Inclusion de la diversité
- Le développement et l’utilisation de SIA ne devraient pas conduire à une uniformisation de la société par la normalisation des comportements et des opinions.
- Le développement et le déploiement des SIA doivent prendre en considération les multiples expressions des diversités sociales et culturelles, et cela dès la conception des algorithmes.
- Les milieux de développement de l’IA, aussi bien dans la recherche que dans l’industrie, doivent être inclusifs et refléter la diversité des individus et des groupes de la société.
- Les SIA doivent éviter d’enfermer les individus dans un profil d’utilisateur ou une bulle filtrante, de fixer les identités personnelles par le traitement des données de leurs activités passées et de réduire leurs options de développement personnel, en particulier dans les domaines de l’éducation, de la justice et des pratiques commerciales.
- Les SIA ne doivent pas être utilisés ni développés dans le but de limiter la liberté d’exprimer des idées et de communiquer des opinions, dont la diversité est la condition de la vie démocratique.
- Pour chaque catégorie de service, l’offre de SIA doit être diversifiée afin que des monopoles de fait ne se constituent pas et ne nuisent pas aux libertés individuelles.
Principe de
Prudence
- Il est nécessaire de développer des mécanismes qui tiennent compte du potentiel de double-usage (bénéfique et néfaste) de la recherche en IA (qu’elle soit publique ou privée) et du développement des SIA afin d’en limiter les usages néfastes.
- Lorsque l’utilisation détournée d’un SIA peut représenter un danger sérieux pour la sécurité ou la santé publique, avec une probabilité élevée, il est prudent de restreindre la diffusion publique ou l’accès libre à son algorithme.
- Avant d’être mis sur le marché, qu’ils soient payants ou gratuits, les SIA doivent satisfaire des critères rigoureux de fiabilité, de sécurité et d’intégrité, et faire l’objet de tests qui ne mettent pas en danger la vie des personnes, ne nuisent pas à leur qualité de vie et ne portent pas atteinte à leur réputation ou leur intégrité psychologique. Ces tests doivent être ouverts aux autorités publiques compétentes et aux parties prenantes concernées.
- Le développement des SIA doit prévenir les risques d’une utilisation néfaste des données d’utilisateurs et protéger l’intégrité et la confidentialité des données personnelles.
- Les erreurs et les failles découvertes dans les SIA et SAAD devraient être partagées publiquement par les institutions publiques et les entreprises dans les secteurs qui présentent un danger important pour l’intégrité personnelle et l’organisation sociale, et ce, à l’échelle mondiale.
Principe de
Responsabilité
- Seuls des êtres humains peuvent être tenus responsables de décisions issues de recommandations faites par des SIA et des actions qui en découlent.
- Dans tous les domaines où une décision qui affecte la vie, la qualité de la vie ou la réputation d’une personne doit être prise, la décision finale devrait revenir à un être humain et cette décision devrait être libre et éclairée
- La décision de tuer doit toujours être prise par des êtres humains et la responsabilité de cette décision ne peut être transférée à un SIA.
- Les personnes qui autorisent des SIA à commettre un crime ou un délit, ou qui font preuve de négligence en les laissant en commettre, sont responsables de ce crime ou de ce délit.
- Dans le cas où un tort a été infligé par un SIA, et que le SIA s’avère fiable et a fait l’objet d’un usage normal, il n’est pas raisonnable d’en imputer la faute aux personnes impliquées dans son développement ou son utilisation.
Principe de
Développement soutenable
- Les équipements de SIA, leurs infrastructures numériques et les objets connectés sur lesquels ils s’appuient comme les centres de données, doivent viser la plus grande efficacité énergétique et minimiser les émissions de gaz à effet de serre (GES) sur l’ensemble de leur cycle de vie.
- Les équipements de SIA, leurs infrastructures numériques et les objets connectés sur lesquels ils s’appuient, doivent viser à générer un minimum de déchets électriques et électroniques et prévoir des filières de maintenance, de réparation et de recyclage dans une logique d’économie circulaire.
- Les équipements de SIA, leurs infrastructures numériques et les objets connectés sur lesquels ils s’appuient, doivent minimiser les impacts sur les écosystèmes et la biodiversité à toutes les étapes de leur cycle de vie, notamment lors de l’extraction des ressources naturelles et des étapes de fin de vie.
- Les acteurs publics et privés doivent soutenir le développement de SIA écologiquement responsables afin de lutter contre le gaspillage des ressources naturelles et des biens produits, de mettre en place des chaînes d’approvisionnement et des échanges commerciaux soutenables, et de réduire la pollution à l’échelle planétaire.
Crédits
MARC-ANTOINE DILHAC
Responsable du comité d’élaboration
Professeur agrégé au Département de philosophie de l’Université de Montréal, directeur de l’axe Éthique et politique du Centre de recherche en éthique, directeur de l’Institut Philosophie Citoyenneté Jeunesse; Chaire de recherche du Canada en Éthique publique et théorie politique
CHRISTOPHE ABRASSART
Responsable de la délibération citoyenne et de la coconstruction
Professeur agrégé à l’École de design et codirecteur du Lab Ville Prospective à la Faculté de l’aménagement de l’Université de Montréal, membre du Centre de recherche en éthique (CRÉ)
YOSHUA BENGIO, professeur titulaire au Département d’informatique et recherche opérationnelle (DIRO) de l’Université de Montréal, directeur scientifique du Mila et d’IVADO
GUILLAUME CHICOISNE, directeur des programmes scientifiques, IVADO
NATHALIE DE MARCELLIS-WARIN, présidente directrice générale du Centre interuniversitaire de recherche en analyse des organisations (CIRANO), professeure titulaire à Polytechnique Montréal
SÉBASTIEN GAMBS, professeur d’informatique à l’UQAM; Chaire de recherche du Canada en analyse respectueuse de la vie privée et éthique des données massives
VINCENT GAUTRAIS, professeur titulaire à la Faculté de droit de l’Université de Montréal et directeur du Centre de recherche en droit public (CRDP)
MARTIN GIBERT, conseiller en éthique pour IVADO et chercheur au Centre de recherche en éthique
LYSE LANGLOIS, professeure titulaire et vice-doyenne à la recherche, Faculté des sciences sociales, Département des relations industrielles de l'Université Laval, directrice de l’Institut d’éthique appliquée (IDÉA) et chercheuse au Centre interuniversitaire sur la mondialisation et le travail (CRIMT)
FRANÇOIS LAVIOLETTE, professeur titulaire au Département d’informatique et de génie logiciel de l’Université Laval et directeur du Centre de recherche en données massives (CRDM)
PASCALE LEHOUX, professeur titulaire à l’École de santé publique de l’Université de Montréal (ESPUM); Chaire de l’Université de Montréal sur l’innovation responsable en santé
JOCELYN MACLURE, professeur titulaire à la Faculté de philosophie de l’Université Laval et président de la Commission de l’éthique en science et technologie (CEST)
MARIE MARTEL, professeure adjointe à l’École de bibliothéconomie et des sciences de l’information de l'Université de Montréal
JOËLLE PINEAU, professeure agrégée à la School of Computer Science de l’Université McGill, directrice du Laboratoire IA de Facebook, codirectrice du Laboratoire Reasoning and Learning
PETER RAILTON, Gregory S. Kavka Distinguished University Professor; John Stephenson Perrin Professor; Arthur F. Thurnau Professor, au Département de philosophie de l’Université du Michigan et membre de l’Académie américaine des arts et des sciences
CATHERINE RÉGIS, professeure agrégée à la Faculté de droit de l’Université de Montréal; Chaire de recherche du Canada sur la culture collaborative en droit et politiques de la santé, chercheuse régulière au Centre de recherche en droit public (CRDP)
CHRISTINE TAPPOLET, professeure titulaire au Département de philosophie de l’Université de Montréal, directrice du Centre de recherche en éthique (CRÉ), responsable du Groupe interuniversitaire sur la normalité (GRIN)
NATHALIE VOARINO, coordonnatrice scientifique de la Déclaration, candidate au doctorat en Sciences biomédicales, option bioéthique de l'Université de Montréal
La Déclaration de Montréal, disponible en 10 langues
Rapports
Rapport des activités de la Déclaration de Montréal 2018 - 2022
Rapport de la Déclaration de Montréal
Le 3 novembre 2017, l’Université de Montréal lançait les travaux de coconstruction de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle (Déclaration de Montréal). Un an plus tard, nous présentons les résultats du processus de délibération citoyenne. Des dizaines d’événements ont été organisés pour engager la discussion autour des enjeux sociétaux de l’intelligence artificielle (IA), et une quinzaine d’ateliers de délibération ont été tenus, faisant participer plus de 500 citoyens, experts et parties prenantes de tous les horizons.
