À propos de la
Déclaration de Montréal IA responsable
Une initiative de l'Université de Montréal
La Déclaration de Montréal est une œuvre collective qui a pour objectif de mettre le développement de l’IA au service du bien-être de tout un chacun, et d’orienter le changement social en élaborant des recommandations ayant une forte légitimité démocratique.
Contexte
Le 3 novembre 2017, l’Université de Montréal lançait les travaux de coconstruction de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle (Déclaration de Montréal). Un an plus tard sont présentés les résultats du processus de délibération citoyenne. Des dizaines d’événements ont été organisés pour engager la discussion autour des enjeux sociétaux de l’intelligence artificielle (IA), et une quinzaine d’ateliers de délibération ont été tenus en trois mois, faisant participer plus de 500 citoyens, experts et parties prenantes de tous les horizons.
La Déclaration de Montréal est une œuvre collective qui a pour objectif de mettre le développement de l’IA au service du bien-être de tout un chacun, et d’orienter le changement social en élaborant des recommandations ayant une forte légitimité démocratique.
La méthode retenue de la coconstruction citoyenne s’appuie sur une déclaration préliminaire de principes éthiques généraux qui s’articulent autour de 7 valeurs fondamentales : l’autonomie, la justice, le bien-être, la vie privée, la démocratie, la connaissance et la responsabilité. À la fin du processus, la Déclaration a été enrichie et présente désormais 10 principes autour des valeurs suivantes: le bien-être, l’autonomie, l’intimité et la vie privée, la solidarité, la démocratie, l’équité, l’inclusion, la prudence, la responsabilité et la soutenabilité environnementale.
La coconstruction en un coup d'œil pour une IA responsable
La Déclaration de Montréal IA responsable s’appuie sur une déclaration de principes éthiques qui s’articulent autour de 7 valeurs fondamentales : bien-être, autonomie, justice, vie privée, connaissance, démocratie et responsabilité. Ces valeurs, proposées par un groupe d’experts de l’éthique, du droit, des politiques publiques et de l’intelligence artificielle, ont été enrichies par un processus délibératif. Cette délibération a pris la forme de consultations qui se sont échelonnées sur trois mois, dans 15 lieux publics différents et ont suscité des échanges avec plus de 500 citoyens, experts et parties prenantes de tout horizon.
Coconstruction
Perspectives expertes et expérience citoyenne
pour un développement éthique de l'IA
La délibération - Exposer, Débattre, Proposer
Exposer
Introduction pédagogique, éthique et méthodologique
Qu’est-ce que l’intelligence artificielle? Quels sont les enjeux éthiques soulevés par l’IA? Qu’est-ce que la coconstruction et surtout, qu’attend-on des citoyens? Les codirecteurs scientifiques de la Déclaration répondent à ces questions et mettent la table aux discussions qui suivront.
Débattre
Discussions en équipe sur les enjeux de l’IA
Éducation, Santé, Ville intelligente, Justice et Marché du travail sont les 5 secteurs autour desquels des scénarios prospectifs ont été élaborés. À partir de ces scénarios se déroulant en 2025, des groupes de 5 à 8 personnes, guidées par un facilitateur, discutent d’enjeux éthiques.
Proposer
Des enjeux éthiques aux propositions
À partir des enjeux formulés pour 2025, les participants doivent maintenant imaginer des recommandations pour permettre un déploiement et une utilisation responsables de l’IA au Québec.
Éducation
À l’une des tables discutant d’éducation, il était question d’une classe du primaire de 2025 où AlterEgo, une IA qui assiste les professeurs, peut détecter les enfants en difficulté d’apprentissage et même faire des recommandations pédagogiques.
Extrait du débat
Depuis quand les données sur l’élève sont collectées? Qui a accès à ces données? Est-ce que l’enfant va vivre avec « son profil » toute sa vie d’étudiant? Le risque de discrimination est bien réel.
Une proposition
retenue par le groupe
Tout le monde doit comprendre les conséquences de l’utilisation des données : les professionnels, les étudiants comme les parents. Une formation en littératie numérique est primordiale.
Ville intelligente
L’un des scénarios du thème de la ville intelligente a porté la discussion sur un couple muni d’un appareil qui prépare lui-même le menu de la semaine et qui est connecté à un réfrigérateur intelligent, à leurs montres et leurs cellulaires. Les données sur leur sommeil, dépense d’énergie, quantité de gras consommé, sont enregistrées et transmises… à leur assureur santé.
Extrait du débat
Bien utile pour une vie chargée. Mais le jour où la famille souhaite manger un burger et une frite, est-ce qu’elle verra le coût de ses assurances augmenter? Les données sur la consommation, est-ce que ça peut être transmis à des compagnies? Sommes-nous autonomes face à nos choix dits santé?
Une proposition
retenue par le groupe
La loi sur la protection des consommateurs devrait être modernisée, adaptée, afin d’éviter tout conflit d’intérêt. On doit s’assurer de la transparence de l’utilisation des données et l’utilisateur doit avoir le droit de paramétrer des objets connectés.
Santé
À l’une des tables sur la santé, on a discuté du cas de Soline, une dame âgée maintenue à domicile grâce à son robot Vigilo. Cette IA évalue l’évolution de la démence de la patiente, prépare ses piluliers et peut même converser avec elle. La famille peut consulter l’ensemble des données et des interactions à tout moment. Voilà qui est très rassurant pour la famille.
Extrait du débat
Rester à domicile, c’est une priorité pour la patiente, et un gain pour le système de santé. Mais est-ce qu’une prise en charge par un robot aura comme conséquence de déresponsabiliser la famille ET le personnel soignant? Et la patiente… souhaite-t-elle vraiment que sa famille sache tout sur elle?
Une proposition
retenue par le groupe
Les programmes de recherche devraient favoriser le développement des algorithmes en open source (libre de droits) pour réduire le coût, pour la transparence et pour favoriser la mutualisation. Une bonne façon d’éviter la discrimination sociale et régionale.
Comité d’élaboration de la Déclaration
Responsable
Marc-Antoine Dilhac
codirecteur scientifique de la coconstruction, professeur au Département de philosophie de l’Université de Montréal; directeur de l’axe Éthique et politique, Centre de recherche en éthique; chaire de recherche du Canada en Éthique publique et théorie politique
Délibération citoyenne et coconstruction
Responsable
Christophe Abrassart
codirecteur scientifique de la coconstruction, professeur à l’École de design et codirecteur du Lab Ville Prospective à la Faculté de l’Aménagement de l’Université de Montréal, membre du Centre de recherche en éthique (CRÉ)
Analyse et
recommandations
Responsables
Christophe Abrassart
codirecteur scientifique de la coconstruction, professeur à l’École de design et codirecteur du Lab Ville Prospective à la Faculté de l’Aménagement de l’Université de Montréal, membre du Centre de recherche en éthique (CRÉ)
Marc-Antoine Dilhac
codirecteur scientifique de la coconstruction, professeur au Département de philosophie, Université de Montréal; directeur de l’axe Éthique et politique, Centre de recherche en éthique; chaire de recherche du Canada en Éthique publique et théorie politique
Pascale Lehoux
professeur titulaire à l’École de santé publique de l’Université de Montréal (ESPUM); Chaire de l’Université de Montréal sur l’innovation responsable en santé
Évaluation du processus et des retombées
Responsable
Lise Gauvin
professeure titulaire et doyenne de l’École de santé publique de l’Université de Montréal (ESPUM)
Les partenaires de la Déclaration
Fonds de recherche du Québec
