À propos de la
Déclaration de Montréal IA responsable
Une initiative de l'Université de Montréal
La Déclaration de Montréal est une œuvre collective qui a pour objectif de mettre le développement de l’IA au service du bien-être de tout un chacun, et d’orienter le changement social en élaborant des recommandations ayant une forte légitimité démocratique.
Contexte
Le 3 novembre 2017, l’Université de Montréal lançait les travaux de coconstruction de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle (Déclaration de Montréal). Un an plus tard sont présentés les résultats du processus de délibération citoyenne. Des dizaines d’événements ont été organisés pour engager la discussion autour des enjeux sociétaux de l’intelligence artificielle (IA), et une quinzaine d’ateliers de délibération ont été tenus en trois mois, faisant participer plus de 500 citoyens, experts et parties prenantes de tous les horizons.
La Déclaration de Montréal est une œuvre collective qui a pour objectif de mettre le développement de l’IA au service du bien-être de tout un chacun, et d’orienter le changement social en élaborant des recommandations ayant une forte légitimité démocratique.
La méthode retenue de la coconstruction citoyenne s’appuie sur une déclaration préliminaire de principes éthiques généraux qui s’articulent autour de 7 valeurs fondamentales : l’autonomie, la justice, le bien-être, la vie privée, la démocratie, la connaissance et la responsabilité. À la fin du processus, la Déclaration a été enrichie et présente désormais 10 principes autour des valeurs suivantes: le bien-être, l’autonomie, l’intimité et la vie privée, la solidarité, la démocratie, l’équité, l’inclusion, la prudence, la responsabilité et la soutenabilité environnementale.
La coconstruction en un coup d'œil pour une IA responsable
La Déclaration de Montréal IA responsable s’appuie sur une déclaration de principes éthiques qui s’articulent autour de 7 valeurs fondamentales : bien-être, autonomie, justice, vie privée, connaissance, démocratie et responsabilité. Ces valeurs, proposées par un groupe d’experts de l’éthique, du droit, des politiques publiques et de l’intelligence artificielle, ont été enrichies par un processus délibératif. Cette délibération a pris la forme de consultations qui se sont échelonnées sur trois mois, dans 15 lieux publics différents et ont suscité des échanges avec plus de 500 citoyens, experts et parties prenantes de tout horizon.
Coconstruction
Perspectives expertes et expérience citoyenne
pour un développement éthique de l'IA
La délibération - Exposer, Débattre, Proposer
Exposer
Introduction pédagogique, éthique et méthodologique
Qu’est-ce que l’intelligence artificielle? Quels sont les enjeux éthiques soulevés par l’IA? Qu’est-ce que la coconstruction et surtout, qu’attend-on des citoyens? Les codirecteurs scientifiques de la Déclaration répondent à ces questions et mettent la table aux discussions qui suivront.
Débattre
Discussions en équipe sur les enjeux de l’IA
Éducation, Santé, Ville intelligente, Justice et Marché du travail sont les 5 secteurs autour desquels des scénarios prospectifs ont été élaborés. À partir de ces scénarios se déroulant en 2025, des groupes de 5 à 8 personnes, guidées par un facilitateur, discutent d’enjeux éthiques.
Proposer
Des enjeux éthiques aux propositions
À partir des enjeux formulés pour 2025, les participants doivent maintenant imaginer des recommandations pour permettre un déploiement et une utilisation responsables de l’IA au Québec.
Éducation
À l’une des tables discutant d’éducation, il était question d’une classe du primaire de 2025 où AlterEgo, une IA qui assiste les professeurs, peut détecter les enfants en difficulté d’apprentissage et même faire des recommandations pédagogiques.
Extrait du débat
Depuis quand les données sur l’élève sont collectées? Qui a accès à ces données? Est-ce que l’enfant va vivre avec « son profil » toute sa vie d’étudiant? Le risque de discrimination est bien réel.
Une proposition
retenue par le groupe
Tout le monde doit comprendre les conséquences de l’utilisation des données : les professionnels, les étudiants comme les parents. Une formation en littératie numérique est primordiale.
Ville intelligente
L’un des scénarios du thème de la ville intelligente a porté la discussion sur un couple muni d’un appareil qui prépare lui-même le menu de la semaine et qui est connecté à un réfrigérateur intelligent, à leurs montres et leurs cellulaires. Les données sur leur sommeil, dépense d’énergie, quantité de gras consommé, sont enregistrées et transmises… à leur assureur santé.
Extrait du débat
Bien utile pour une vie chargée. Mais le jour où la famille souhaite manger un burger et une frite, est-ce qu’elle verra le coût de ses assurances augmenter? Les données sur la consommation, est-ce que ça peut être transmis à des compagnies? Sommes-nous autonomes face à nos choix dits santé?
Une proposition
retenue par le groupe
La loi sur la protection des consommateurs devrait être modernisée, adaptée, afin d’éviter tout conflit d’intérêt. On doit s’assurer de la transparence de l’utilisation des données et l’utilisateur doit avoir le droit de paramétrer des objets connectés.
Santé
À l’une des tables sur la santé, on a discuté du cas de Soline, une dame âgée maintenue à domicile grâce à son robot Vigilo. Cette IA évalue l’évolution de la démence de la patiente, prépare ses piluliers et peut même converser avec elle. La famille peut consulter l’ensemble des données et des interactions à tout moment. Voilà qui est très rassurant pour la famille.
Extrait du débat
Rester à domicile, c’est une priorité pour la patiente, et un gain pour le système de santé. Mais est-ce qu’une prise en charge par un robot aura comme conséquence de déresponsabiliser la famille ET le personnel soignant? Et la patiente… souhaite-t-elle vraiment que sa famille sache tout sur elle?
Une proposition
retenue par le groupe
Les programmes de recherche devraient favoriser le développement des algorithmes en open source (libre de droits) pour réduire le coût, pour la transparence et pour favoriser la mutualisation. Une bonne façon d’éviter la discrimination sociale et régionale.
Comité d’élaboration de la Déclaration
Responsable
Marc-Antoine Dilhac
codirecteur scientifique de la coconstruction, professeur au Département de philosophie de l’Université de Montréal; directeur de l’axe Éthique et politique, Centre de recherche en éthique; chaire de recherche du Canada en Éthique publique et théorie politique
Isabelle Bayard
Adjointe à la vice-rectrice à la recherche, à la découverte, à la création et à l’innovation de l’Université de Montréal
Joliane Grandmont-Benoit
Coordonnatrice de projets, vice-rectorat aux affaires étudiantes et aux études de l’Université de Montréal
Anne-Marie Savoie
Conseillère, vice-rectorat à la recherche, à la découverte, à la création et à l’innovation de l’Université de Montréal
Nathalie Voarino
Coordonnatrice scientifique, candidate au doctorat en bioéthique de l’Université de Montréal
Christophe Abrassart
Codirecteur scientifique de la coconstruction, professeur à l’École de design et codirecteur du Lab Ville Prospective à la Faculté de l’Aménagement de l’Université de Montréal, membre du Centre de recherche en éthique (CRÉ)
Yoshua Bengio
Professeur titulaire au Département d’informatique et recherche opérationnelle (DIRO) de l’Université de Montréal, directeur scientifique du MILA et membre d’IVADO
Guillaume Chicoisne
Directeur des programmes scientifiques, IVADO.
Marc-Antoine Dilhac
Codirecteur scientifique de la coconstruction, professeur au Département de philosophie, de l’Université de Montréal; directeur de l’axe Éthique et politique, Centre de recherche en éthique; chaire de recherche du Canada en Éthique publique et théorie politique
Sébastien Gambs
Professeur d’informatique à l’UQAM, Chaire de recherche du Canada en analyse respectueuse de la vie privée et éthique des données massives
Vincent Gautrais
Professeur titulaire à la Faculté de droit de l’Université de Montréal; Directeur du Centre de recherche en droit public (CRDP)
Martin Gibert
Conseiller en éthique pour IVADO et chercheur au Centre de recherche en éthique (CRÉ)
Lyse Langlois
Professeure titulaire et vice-doyenne à la recherche, Faculté des sciences sociales, Département des relations industrielles, Université Laval; directrice de l’Institut d’éthique appliquée (IDÉA), Chercheure au centre interuniversitaire sur la mondialisation et le travail (CRIMT)
Pascale Lehoux
Professeur titulaire à l’École de santé publique de l’Université de Montréal (ESPUM); Chaire de l’Université de Montréal sur l’innovation responsable en santé
Jocelyn Maclure
Professeur titulaire de philosophie à l’Université Laval et président de la Commission de l’éthique en science et technologie (CEST)
Joëlle Pineau
Professeure agrégée en sciences des données à l’Université McGill, directrice du Laboratoire IA de Facebook, codirectrice du Laboratoire Reasoning and Learning
Peter Railton
Professeur de philosophie à l’Université du Michigan
Catherine Régis
Professeure agrégée à la Faculté de droit de l’Université de Montréal; titualire, Chaire de recherche du Canada sur la culture collaborative en droit et politiques de la santé; chercheuse régulière, Centre de recherche en droit public (CRDP)
Christine Tappolet
Professeure titulaire au Département de philosophie de l’Université de Montréal, directrice du Centre de recherche en éthique (CRÉ), responsable du Groupe interuniversitaire sur la normalité (GRIN)
Esma Aimeur
Professeure titulaire au Département d'informatique et de recherche opérationnelle, Université de Montréal
Sylvain Bédard
Coordonnateur patient au Centre d’excellence sur le partenariat avec les patients et le public (CEPPP), Université de Montréal
Louise Béliveau
Vice-rectrice aux affaires étudiantes et aux études de l’Université de Montréal
Hugues Bersini
Codirecteur du laboratoire IRIDIA, Université Libre de Bruxelles
David Décary-Hétu
Professeur adjoint à l’École de criminologie de l’Université de Montréal; chercheur régulier au Centre international de criminologie comparée
Pierre-Luc Déziel
Professeur de droit des technologies de l’information à la Faculté de droit de l’Université Laval
Benoit Dupont
Professeur titulaire à l’École de criminologie de l’Université de Montréal; Chaire de recherche du Canada en cybersécurité; directeur scientifique du Réseau intégré sur la cybersécurité
Vincent Gautrais
Professeur titulaire à la Faculté de droit de l’Université de Montréal; directeur du Centre de recherche en droit public (CRDP);titulaire de la Chaire L.R. Wilson sur le droit des technologies de l’information et du commerce électronique
Thierry Karsenti
Professeur titulaire à la Faculté des sciences de l’éducation de l’Université de Montréal; titulaire de la Chaire de recherche du Canada sur les technologies de l’information et de la communication en éducation
Jihane Lamouri
Coordonnatrice à la diversité, IVADO
Pascale Lehoux
Professeur titulaire à l’École de santé publique de l’Université de Montréal (ESPUM); Chaire de l’Université de Montréal sur l’innovation responsable en santé
François Laviolette
Professeur titulaire au Département d’informatique et de génie logiciel de l’Université Laval et directeur du Centre de recherche en données massives (CRDM)
Nicolas Merveille
Professeur à l’École des sciences de la gestion (ESG) de l’Université du Québec à Montréal (UQAM); cotitulaire de la Chaire internationale sur le cycle de vie de l’École Polytechnique de Montréal et de l’ESG de l’UQAM; superviseur pour le projet Éthique et acceptabilité sociale de l’Internet des objets pour la Ville de Montréal
Gregor Murray
Directeur du Centre de recherche interuniversitaire sur la mondialisation et le travail
Christelle Papineau
Doctorante, Centre de recherche en droit public, UdeM & Paris 1
Nicolas Roby
Coordonnateur scientifique au Centre de recherche interuniversitaire sur la mondialisation et le travail
Frank Scherrer
Professeur titulaire, École d’urbanisme, Université de Montréal; directeur de l’École d’urbanisme et d’architecture de paysage de l’Université de Montréal; directeur académique de l’Institut de l’environnement, du développement durable et de l’économie circulaire (Institut EDDEC) — Daniel Weinstock, professeur titulaire, Faculté de droit, Université McGill; directeur de l’Institut de recherche sur les politiques sociales et de santé
Daniel Weinstock
Professeur titulaire, Faculté de droit, Université McGill ; Directeur, Institut de politique sociale et de santé de McGill
Délibération citoyenne et coconstruction
Responsable
Christophe Abrassart
codirecteur scientifique de la coconstruction, professeur à l’École de design et codirecteur du Lab Ville Prospective à la Faculté de l’Aménagement de l’Université de Montréal, membre du Centre de recherche en éthique (CRÉ)
Xavier Boileau
Doctorant en philosophie, Université de Montréal
Valentine Crosset
Doctorante en criminologie, Université de Montréal
Marc-Antoine Dilhac
Codirecteur scientifique de la coconstruction, professeur au Département de philosophie, Université de Montréal; directeur de l’axe Éthique et politique, Centre de recherche en éthique; chaire de recherche du Canada en Éthique publique et théorie politique
Martin Gibert
Conseiller en éthique pour IVADO et chercheur au Centre de recherche en éthique (CRÉ)
Vincent Mai
Doctorant en robotique, Université de Montréal
Marie Martel
Professeure adjointe à l’École de bibliothéconomie et des sciences de l’information, Université de Montréal
Christophe Mondin
Professionnel de recherche chez CIRANO
Pauline Noiseau
Maîtrise en philosophie, Université de Montréal
Léa Ricard
Maîtrise en informatique, Université de Montréal
Camille Vézy
Doctorante en communication, Université de Montréal
Nathalie Voarino
Coordonnatrice scientifique, candidate au doctorat en bioéthique, Université de Montréal
Alessia Zarzani
Ph.D en aménagement, Université de Montréal et Ph.D en Paysage et Environnement, Université la Sapienza de Roma
Alexandre Beaudoin-Peña
Université de Montréal
Bhavish Beejan
Université Laval
Karl Bherer
Université Laval
Alexis Bibeau
Université Laval
Pierre-Antoine Boutin-Panneton
Université Laval
Dominic Cliche
Université Laval
Eve Gaumond
Université Laval
Emilie Guiraud
Université Laval
Hubert Hamel-Lapointe
Université de Montréal
Audrey Houle
Université Laval
Nico Julien
Université Laval
Henri Lajeunesse
Université Laval
Guillaume Macaux
Université Laval
Mariève Mauger-Lavigne
Université de Montréal
Orly Nahmias
citoyenne
Judith Paquet
Université Laval
Pierre-Luc Plante
Université Laval
Lynda Robitaille
directrice des opérations du Centre de recherche en données massives (CRDM)
Jason Stanley
Université de Montréal
Yanis Taleb
Université de Montréal
Clémence Varin
Université Laval
Analyse et
recommandations
Responsables
Christophe Abrassart
codirecteur scientifique de la coconstruction, professeur à l’École de design et codirecteur du Lab Ville Prospective à la Faculté de l’Aménagement de l’Université de Montréal, membre du Centre de recherche en éthique (CRÉ)
Marc-Antoine Dilhac
codirecteur scientifique de la coconstruction, professeur au Département de philosophie, Université de Montréal; directeur de l’axe Éthique et politique, Centre de recherche en éthique; chaire de recherche du Canada en Éthique publique et théorie politique
Pascale Lehoux
professeur titulaire à l’École de santé publique de l’Université de Montréal (ESPUM); Chaire de l’Université de Montréal sur l’innovation responsable en santé
En collaboration avec les experts des domaines
Valentine Crosset
Doctorante en criminologie, Université de Montréal
Jean-François Gagné
Chercheur au CÉRIUM, Université de Montréal
Vincent Mai
Doctorant en robotique, MILA, Université de Montréal
Mario Ionut Marosan
Maîtrise en philosophie politique, Université de Montréal
Marie Martel
Professeure adjointe à l’École de bibliothéconomie et des sciences de l’information, Université de Montréal
Loubna Mekki-Berrada
Doctorante en neuropsychologie, Université de Montréal
Christophe Mondin
Professionnel de recherche chez CIRANO
Camille Vézy
Doctorante en communication, Université de Montréal
Nathalie Voarino
Coordonnatrice scientifique, candidate au doctorat en bioéthique, Université de Montréal
Alessia Zarzani
Ph.D en aménagement, Université de Montréal et Ph.D en Paysage et Environnement, Université la Sapienza de Roma
Évaluation du processus et des retombées
Responsable
Lise Gauvin
professeure titulaire et doyenne de l’École de santé publique de l’Université de Montréal (ESPUM)
Les partenaires de la Déclaration
Fonds de recherche du Québec
