4. Collecte des données
4.1. Méthodes de collecte
4.1.1. Le projet de la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle
Le projet de la Déclaration de Montréal est une initiative de l’Université de Montréal visant à faire évoluer la première version d’une déclaration de principes éthiques en vue du développement responsable de l’IA, lancée le 3 novembre 2017 lors du Forum IA responsable au palais des congrès de Montréal (Déclaration de Montréal IA Responsable 2018). Le projet de la collecte initiale20 visait ainsi à définir des principes éthiques directeurs et des recommandations de
politiques publiques pour un développement responsable de l’IA. Afin d’encadrer le débat entourant le développement de l’IA et les valeurs qu’il mobilise, dans la première phase de la Déclaration, sept valeurs ont été identifiées : bien-être, autonomie, justice, vie privée, connaissance, démocratie et responsabilité (Déclaration de Montréal IA Responsable 2018).
Afin de mobiliser « l’intelligence collective », de nombreuses activités de coconstruction ont été réalisées et plus de 500 citoyens ont été consultés. Les consultations ont mobilisé les citoyens autour des développements de l’IA dans cinq secteurs d’activité clés : éducation, monde du travail, système judiciaire et police prédictive, santé et ville intelligente et objets connectés. L’analyse de ces données a conduit à la réalisation d’une cartographie de l’ensemble des risques et enjeux éthiques associés au développement de l’IA (cf. Déclaration de Montréal IA Responsable
2018 p. 117) mais également à mettre en évidence des pistes de solutions envisagées par les citoyens pour répondre à ces enjeux. Ainsi, 12 catégories de risques et enjeux éthiques ainsi que 11 catégories de pistes de solution ont été mises en évidence (cf. Déclaration de Montréal IA Responsable 2018, p.106 et 107), sur la base de l’analyse de post-it rédigés par les participants, d’affiches de synthèses rédigées collectivement et de comptes rendus issus des membres de l’équipe de la Déclaration.
L’ensemble de ces analyses a permis d’aboutir à la rédaction d’une Déclaration de 10 principes éthiques (cf. Tableau 7 du Chapitre 5 de la présente thèse) pour un développement responsable de l’IA, eux-mêmes divisés en nombreux sous-principes d’applications. Cette analyse a également permis la formulation de 8 recommandations en vue de politiques publiques (cf. Déclaration de Montréal IA Responsable 2018, p. 311 à 318).
4.1.2. Données issues de la coconstruction de la Déclaration de Montréal
Les données analysées dans la présente thèse relèvent des discussions qui ont porté sur le thème de la santé uniquement (cf. Annexe 2 : Informations sur les tables de coconstruction), et diffèrent de celles analysées dans le cadre du projet de la Déclaration de Montréal. En effet, l’analyse réalisée dans le cadre de la présente thèse se base sur la retranscription des enregistrements disponibles – et non sur les comptes rendus, post-its et affiches. S’il existe forcément quelques redondances avec les analyses réalisées une première fois pour la Déclaration de Montréal (ex. la mise en évidence que les citoyens demandent la création de lois), une analyse des retranscriptions s’est avérée complémentaire, étant plus ciblée et ayant permis d’explorer en profondeur les discussions citoyennes relativement à l’utilisation des systèmes d’IA dans le secteur de la santé. La grille d’analyse a été conçue de manière à répondre aux objectifs de recherche (qui diffèrent des objectifs de la collecte initiale) et ne vise donc pas à identifier des catégories de risques et enjeux éthiques ou des pistes de solution mais la perception citoyenne sur les défis de l’exercice de la responsabilité.
Concernant les consultations en présentiel qui font l’objet de l’analyse de la présente thèse21, elles se sont déroulées du 16 février 2018 au 6 avril 2018. Ces consultations se déclinent en trois principales activités : 1. Cafés citoyens; 2. Journées de coconstruction et 3. Groupes de
21 Ce projet a été approuvé par le Comité d’éthique de la recherche en santé (CERES) de l’Université de Montréal en
discussion. La coconstruction a réuni un total de 45 tables dont 12 sur le thème de la santé (six cafés-citoyens; cinq tables de coconstruction et un groupe de discussion).
Les cafés citoyens étaient des ateliers d’une durée de trois heures, qui se sont déroulés dans différentes bibliothèques de la ville de Montréal. La participation se basait sur la prise de connaissance de scénarios prospectifs se déroulant en 2025 et mettant en scène différents développements potentiels de l’IA en santé ainsi que certains des enjeux éthiques associés (cf. Annexe 3 : Scénarios et Tableau 1 qui résume ces scénarios). Les citoyens participants étaient invités à réagir aux enjeux soulevés dans les scénarios sur la base des principes de la Déclaration. Tableau 1. – Les quatre scénarios utilisés pour stimuler les discussions ayant eu lieu autour du thème
de la santé.
Titre Résumé Applications d’IA
en jeu (cf. Chapitre 2)
Principaux enjeux éthiques mobilisés (cf. Chapitre 3)
Les jumeaux numériques Olivier reçoit un pronostic de dépression par le biais d’une notification sur son téléphone intelligent. Le pronostic est établi sur la base du diagnostic de ses jumeaux numériques, qui ont des profils de santé similaires déterminés sur la base des données partagées dans un nuage de santé mondial.
Santé mobile Déshumanisation du patient
Vie privée et confidentialité
L’assurance santé discriminante Olivier doit répondre à une recommandation algorithmique concernant ses habitudes de vie s’il ne veut pas voir sa franchise d’assurance santé majorée de 10%. Il peut sinon choisir de ne plus partager ses données dans le nuage de santé mondial, au risque d’être défavorisé sur les listes d’attente pour accéder à des soins.
Santé mobile Justice sociale
Un robot pour maintenir une
personne âgée à domicile Une famille fait l’acquisition d’un robot de soins à domicile, Vigilo, afin d’éviter à leur grand-mère Soline une institutionnalisation dans une maison de retraite. Le robot est responsable d’évaluer périodiquement l’évolution de la démence de Soline, de sa prise de médicaments et est capable de
Robots de soins Déshumanisation des soins Consentement libre et éclairé
Vie privée et confidentialité
converser avec elle. Il transfert régulièrement les données collectées à une équipe de soin et fait également des suivis à sa famille. La présence du robot conduit Soline à éviter de plus en plus les relations sociales avec d’autres humains; elle finit même par s’attacher à lui.
Décision thérapeutique à l’hôpital Soline se rend à l’hôpital après un malaise vagal. Après plusieurs examens, les résultats de l’analyse de l’algorithme d’aide au diagnostic sont contradictoires avec le pronostic du cardiologue de Soline, expert réputé du domaine. Le médecin ne sait alors plus s’il doit suivre son intuition ou respecter les recommandations du système expert. Il hésite à informer Soline de la situation.
Systèmes experts Consentement libre et éclairé
Sécurité
Chaque café citoyen était organisé en tables thématiques regroupant chacune cinq à douze personnes. Les discussions se sont déroulées en deux phases : la première visait l’identification d’enjeux éthiques, la seconde la formulation de recommandations. Les réactions, commentaires et idées émanant de chacune des tables étaient synthétisés par les participants (avec l’aide de l’animateur) sur une affiche par le biais de Post-its dans un premier temps (phase 1) et sur une affiche mettant en évidence les enjeux et recommandations à adresser de manière prioritaire dans un second temps (phase 2). Cette seconde phase se terminait par la rédaction d’une première page (une) de journal fictive mettant en scène la recommandation identifiée comme prioritaire par la table. Les phases 1 et 2 de l’activité se déroulaient sur 1h30 au total. Une session introductive de 45 minutes posait les bases nécessaires à la compréhension de l’activité, sous la forme de conférences, présentant les principes de la Déclaration et la démarche de coconstruction. Les données ont ainsi été collectées par le biais des affiches rédigées en groupe, des notes des animateurs et auxiliaires de recherche, et de l’enregistrement des discussions.
Les tables de coconstruction suivaient la même approche de collecte de données que les cafés citoyens, mais se déroulaient sur une journée complète. Ainsi, la phase 1 se déroulait le matin
(1h30) et la phase 2 l’après-midi (1h30) (soit un total de 3h) suivies d’une session plénière d’une heure.
Des groupes de discussion ont également été organisés, récoltant le même type d’informations mais suivant un format plus libre, adapté au contexte. Les données issues du groupe de discussion qui s’est déroulé lors de l’intervention dans le cours « Éthique et politique de santé » le 29 mars 2018 ont été intégrées à la présente analyse (1h30 de discussion sur les enjeux et les recommandations qui concernent le développement de l’IA en santé lors de 3h de cours). Bien que le format de collecte était plus libre que les cafés citoyens et tables de coconstruction, les discussions de ce groupe portaient sur les mêmes scénarios et étaient organisées autour des mêmes phases (enjeux et recommandations). La collecte ne s’est cependant pas centrée autour des principes de la Déclaration et les résultats n’ont pas été synthétisés sur les affiches. Les données récoltées lors de ce groupe de discussion sont cependant complémentaires et demeurent pertinentes pour l’objet de l’analyse de la présente thèse.