À deux semaines des élections
présidentielles, une réunion de crise a lieu au sein de l’Agence sur l’intégrité de l’information (AII) mise en place dans le cadre de la Loi contre la manipulation de l’information. Une vidéo diffusant des propos compromettants du président sortant sur des travailleurs immigrés est devenue virale. Le porte-parole de la présidence a fait savoir qu’il s’agissait d’un faux créé par une agence étrangère qui tentait d’interférer dans les élections en tirant parti des algorithmes GAN (generative
adversarial networks). Bien que la diffusion
de la vidéo soit interdite, celle-ci continue à circuler via différents sites étrangers. À un mois du premier tour des élections présidentielles, l’AII doit présenter un plan pour enrayer les effets dévastateurs de cette fausse information et rétablir les conditions d’une campagne électorale saine.
163 CONNAISSANCE ET ESPRIT CRITIQUE
« [L’] importance de la corrélation démocratie/ éducation (notamment l’éducation à la pensée critique) » a été soulignée, marquant un appel au développement de l’esprit critique pour la « participation éclairée à la vie publique ». Un participant précise que plutôt que de se prémunir contre la propagande elle-même, le développement de l’esprit critique permet de se prémunir contre les effets de la propagande (endoctrinement, modifications de choix et comportements, polarisation vers les extrêmes, etc.) En effet, empêcher toute propagande, c’est-à-dire toute action exercée sur l’opinion, risquerait de mener à la censure ou d’entraver la liberté d’expression. Il faudrait donc plutôt miser sur l’éducation des citoyens pour développer la « pensée critique » ainsi que la « littératie médiatique et statistique ». L’enjeu de démocratisation de l’accès à l’information et à la connaissance a par la suite été soulevé. Plusieurs conditions sont ici nécessaires : que la neutralité d’internet soit assurée afin de garantir le libre accès à toute information, et que tous aient accès à des outils technologiques permettant de se renseigner et de s’exprimer. Chacun, sans discrimination, devrait ainsi pouvoir être sensibilisé au fonctionnement de l’IA et à ses enjeux.
AUTHENTIFICATION ET CAPACITÉ DE L’IA POUR IDENTIFIER LE FAUX
En apprenant certaines techniques d’IA, plusieurs pourraient par exemple devenir capables de développer des outils de détection et de correction de fausses nouvelles. Cela dépend cependant de la possibilité et de la nécessité d’utiliser l’IA pour identifier le faux du vrai dans un contexte où il est par exemple impossible de distinguer à l’œil nu la différence entre une vidéo créée par IA et une vidéo originale. Les participants se sont ainsi interrogés sur les « mécanismes d’authentification des nouvelles/informations » ou encore sur la « capacité de la technologie à comprendre les sarcasmes ». La « traçabilité des sources sur tous les outils de diffusion (ex : WhatsApp) » a été par exemple proposée comme piste de mécanisme d’authentification. Il a cependant été précisé
qu’une IA qui censurerait automatiquement les publications considérées comme fausses, malveillantes ou non fiables aurait un effet négatif sur la liberté d’expression.
RESPONSABILITÉ
Face à l’impression de « perte de contrôle de l’information » dans un contexte de propagation très rapide, voire virale des fausses nouvelles, l’enjeu de la responsabilité a été abordé à plusieurs étapes : création, diffusion, partage, lecture des informations. Les participants se sont demandé à quel moment la véracité des nouvelles devrait être évaluée (avant sa création, avant sa publication, avant son partage, pendant sa lecture, etc.), par quelle entité (organisation internationale, État, journalistes, lecteurs, plateforme de diffusion qui permet la publication et/ou le partage tel que WhatsApp ou Facebook), et de quelle manière (développement de l’esprit critique du lecteur, création d’un label indiquant le niveau de véracité de l’information et de fiabilité de la source).
La création et la diffusion de fausses nouvelles font ainsi appel à une combinaison des rôles de plusieurs acteurs devant assumer des responsabilités quant au fait de créer des informations, les diffuser, juger de leur crédibilité, vérifier leur véracité et la fiabilité des sources qu’ils soient journalistes, lecteurs ou autres. Cette entité devrait évaluer la véracité des nouvelles, la plateforme de diffusion d’information ainsi que tout individu qui crée ou diffuse des informations à titre personnel.
Les participants ont ainsi discuté de la « déontologie des médias (captation et diffusion d’informations) » et de la « crédibilité du journalisme ». Un nouveau rôle des journalistes et médias pourrait être de juger l’information publiée et partagée en vérifiant et déclarant si celle-ci provient ou non d’une source fiable.
164
Enjeux éthiques
2022 1 2 3
Description Assurer la véracité des informations
Encadrer la diffusion des informations sans empiéter sur les libertés
fondamentales
Outiller les citoyens face aux usages politiques
de l’IA
Principes associés responsabilitéDémocratie, Démocratie, autonomie connaissance, Démocratie, autonomie Tableau 1 : Démocratie, Premier moment délibératif : formulation d’enjeux éthiques en 2022
Tableau 2 : Démocratie, Deuxième moment délibératif : propositions d’encadrement de l’IA pour 2018-2020 À la suite de cette discussion, les participants ont
formulé ces trois enjeux prioritaires en proposant des pistes d’encadrement afin de veiller à la santé de la démocratie face aux effets de la propagande via la création et la diffusion automatisées de fausses informations :
1. Assurer la véracité et la fiabilité des informations, notamment pour préserver la santé des échanges démocratiques.
2. Encadrer la diffusion des informations sans empiéter sur les libertés fondamentales, dont la liberté d’expression, en particulier par le développement de normes journalistiques et technologiques en matière de diffusion de l’information.
3. Outiller les citoyens quant aux usages politiques de l’IA, pour que ceux-ci puissent se renseigner et développer leur propre opinion librement.