Enjeux de l’apprentissage artificiel

La propension à traiter de grands volumes de données pour en extraire des informations et des connaissances présente des avantages exploitables pour favoriser l’apprentissage hu- main. Cependant, l’apprentissage artificiel soulève de multiples questions qui sont aussi bien techniques que sociales, politiques, éthiques et économiques. Elles sont discutées sont par de nombreux chercheurs évoquant notamment la protection de la vie privée et les problèmes de gouvernementalité algorithmique. Ces questions sont complexes et importantes pour le développement des SIA et leur intégration dans nos activités quotidiennes. Toutefois, pour des raisons pratiques, nous nous concentrons sur les enjeux des SIA qui touchent plus di- rectement l’apprentissage. Nous identifions deux principaux enjeux : la compréhension des résultats rendus par l’apprentissage artificiel ainsi que la nature des apprentissages humains

produit par l’apprentissage artificiel.

Comprendre les boîtes noires

Publiée en 2018, la Déclaration de Montréal pour un développement responsable de l’IA constate que « Les machines intelligentes ne se contentent pas de mieux calculer que les êtres humains, elles peuvent interagir avec les êtres sensibles, leur tenir compagnie et s’occuper d’eux »86_{. Ce fait implique un regard critique sur la manière dont sont conçus les algorithmes,} sur leur rôle dans les systèmes informatiques (e.g. au niveau d’une entreprise, au niveau national) et les décisions qu’ils sont amenés à prendre ainsi que sur les données utilisées pour l’apprentissage. Ce questionnement fait émerger des problématiques éthiques auxquelles la Déclaration de Montréal répond en énonçant dix principes. Parmi ces principes figurent, entre autres : le respect de la vie privée des individus, la primauté de l’autonomie des individus dans un contexte d’automatisation, la collaboration humain-machine, l’explicabilité des décisions algorithmiques et l’anticipation de leurs effets.

Dans le processus de conception d’algorithmes d’apprentissage, les caractéristiques des données d’entraînement (e.g. origine, format, description) constituent un point crucial en ma- tière d’éthique. En effet, le choix des données d’entraînement détermine le modèle prédictif et donc la nature des prédictions qui pourront être générées. Loin de produire de l’objecti- vité, les algorithmes d’apprentissage renferment les opinions et les valeurs implicites de leurs concepteurs ce qui conduit à la reproduction de biais (e.g. sexisme, racisme) (O’Neil,2018). Par exemple, Buolamwini et Gebru (2018) ont montré que les systèmes de reconnaissance faciale de IBM, Microsoft et Face++ ont un taux d’erreur de 1% lorsqu’il s’agit d’un homme blanc et d’environ 34% s’il s’agit d’une femme noire.

Après la phase d’apprentissage, les résultats et décisions prises par le modèle doivent pouvoir être expliqués et justifiés. L’explicabilité est un enjeu particulier de l’apprentissage profond où le modèle constitue une « boîte noire » à partir de laquelle sont formulées des prédictions87_{. En ce sens, Vayre (2018) rapporte dans les résultats de son enquête auprès de} professionnels de l’analyse de données que « les apprentissages de ces machines sont, a minima dans certains cas, extrêmement difficiles à comprendre » (p. 97). « plus les apprentissages réalisés par le système sont humainement compréhensibles et moins ce dernier est capable de considérer la complexité du réel que représente la base de données » (Vayre, 2018, p. 85). Cet enjeu requiert de la transparence : dans le choix des données d’entraînement et de leur contrôle, des caractéristiques discriminantes du phénomène (features) et dans l’application des décisions algorithmiques. La transparence est nécessaire pour savoir où, quoi, comment et pourquoi les données sont collectées et pour comprendre les décisions algorithmiques.

S’éduquer au milieu de SIA

Outre l’explicabilité des décisions algorithmiques, le développement des individus dans un milieu composé de SIA soulève plusieurs interrogations.

86. Source :https://www.declarationmontreal-iaresponsable.com/la-declaration. Consulté le 3 mai 2019. 87. Pour certains chercheurs, les sciences sociales ont depuis longtemps développé des méthodes pour étudier et comprendre les boîtes noires que sont les êtres humains. Ils avancent que celles-ci pourraient être appliquées à l’évaluation des SIA. Source :https://www.technologyreview.com/s/613440/ai-researchers-want-to-study- ai-the-same-way-social-scientists-study-humans/. Consulté le 3 mai 2019.

Nous avons vu que l’éducation est un champ d’application des SIA donnant lieu à des tuteurs intelligents, des évaluateurs, des outils d’analyse et de suivi d’apprentissage, etc. Ces outils intégrant des SIA exercent des fonctions métacognitives du point de vue de l’apprenant : évaluer ce qu’on sait et ne sait pas, planifier des phases d’étude ou encore identifier ses erreurs. Derian assimile le smartphone à une « prothèse cognitive », car « il épaule au jour le jour notre comportement » (Derian, 2018, p. 13), influence notre quotidien et nos interactions avec les autres. De la même manière, en épaulant l’apprenant dans la gestion de ses apprentissages, les outils éducatifs intégrant des SIA contribueraient à externaliser les fonctions métacognitives. Or, nous avons vu dans la section1.3.2que la métacognition est un facteur clé de la réussite scolaire et contribue largement à l’apprentissage. Dès lors, l’enjeu de la recherche sur les SIA pour l’apprentissage est d’évaluer la manière dont les SIA peuvent s’articuler avec le processus d’apprentissage et, plus particulièrement s’ils peuvent soutenir les fonctions métacognitives plutôt que de les suppléer.

De manière plus diffuse et sans être explicitement lié à l’apprentissage dans un contexte formel, la présence de SIA dans l’environnement des enfants peut possiblement influencer leur développement. Par exemple, des parents ont exprimé leur crainte quant à l’impact de l’assistant vocal sur leur enfant88_{. Selon eux, l’assistant favoriserait le développement} d’un comportement autoritaire, sans que l’enfant soit capable de différencier un robot d’une personne sur le plan relationnel. Face à cette crainte, les assistants Amazon Echo et Google Home ont mis en place les fonctions Magic Word et Pretty please pour valoriser la politesse. L’assistant remercie l’interlocuteur quand il emploie des formes de politesse (e.g. s’il te plaît, merci).

Étant donné la nouveauté des SIA dans l’environnement, il existe peu de données empi- riques sur les effets des SIA sur l’activité mentale, en particulier chez les enfants. Néanmoins, lorsque les SIA sont intégrés dans des objets ou des robots, l’imitation d’un comportement intelligent produite ne semble pas être sans effet sur la cognition. Par exemple, Kahn (2006) montre que les robots sous la forme d’animaux de compagnie brouillent la distinction entre animaux et objets inanimés chez les enfants de 30 à 70 mois. Toute proportion gardée quant à l’interprétation des réponses des enfants, les auteurs notent qu’ils agissent comme si le robot était un agent social (e.g. humain, chat) et accordent leurs valeurs morales en conséquence (e.g. ne pas frapper le robot). Un groupe de chercheurs du MIT Media Lab a lancé plusieurs projets visant à familiariser les enfants avec les concepts fondamentaux de l’IA89_{. Leurs} études auprès d’enfants montrent que ces derniers jugent aux premiers abords les SIA com- ment étant intelligents, au même titre qu’un humain (Druga, 2018). Cependant, après avoir appris à élaborer des modèles prédictifs et programmer des robots, les enfants ont changé leur regard sur les SIA. Ils se sont montrés plus sceptiques quant aux qualités humaines telles que la capacité de se souvenir et de comprendre qu’ils attribuaient aux SIA (Druga, 2018). Ces premières études semblent montrer que la multiplication de SIA dans l’environnement n’est pas sans effets sur la cognition humaine, notamment de par leur apparence « intelligente ».

88. Source :https://hunterwalk.com/2016/04/06/amazon-echo-is-magical-its-also-turning-my-kid-into-an- asshole/. Consulté le 5 mai 2019.

∗ ∗ ∗

Dans le chapitre précédent, nous avons décrit l’état des connaissances sur le processus d’apprentissage et postulé que la possibilité de formuler des hypothèses, d’explorer et d’expé- rimenter favorise la construction des connaissances. Dans ce chapitre, nous venons d’examiner la façon dont les technologies sont utilisées pour l’apprentissage. Les TIC sont intégrés dans des dispositifs d’apprentissage qui opèrent une médiation entre les savoirs et l’apprenant avec pour objectif de stimuler la construction des connaissances. Nous avons montré que les modes d’apprentissage soutenus par ces dispositifs relèvent d’une adéquation entre des caractéris- tiques techniques, des pratiques existantes et des stratégies d’apprentissage. Nous observons que les dispositifs de m-learning et de u-learning visent majoritairement à distribuer des ressources d’apprentissage, en prenant en compte le contexte et en s’insérant dans le quoti- dien des individus. Les technologies de réalité virtuelle et de réalité augmentée permettent le développement d’environnements de simulation et d’entraînement. Enfin, l’apprentissage artificiel a apporté de nouveaux moyens pour analyser les données générées dans le cadre d’activités d’apprentissage. Dans cette recherche, nous nous intéressons aux possibilités ainsi qu’aux conditions de médiation des savoirs dans le contexte de l’IdO. Ainsi, dans les chapitres suivants, nous allons décrire l’IdO et en identifier les caractéristiques spécifiques qui peuvent être pertinentes pour la médiation.

Internet des Objets : de

l’ordinateur à l’objet connecté

In retrospect it looks like the rapid growth of the World Wide Web may have been just the trigger charge that is now setting off the real explosion, as things start to use the Net1_.

– Neil Gerhenfeld, When Things Start to Think, 1999

Les TIC ont connu une évolution exponentielle au cours du temps, des premiers ordina- teurs mainframes au cloud Computing, en passant par les postes de travail et l’informatique mobile. L’Internet des Objets (IdO) est une nouvelle étape dans cette évolution où les TIC transforment objets du quotidien les plus simples (e.g. grille-pain, verre, lunette) et les plus complexes (e.g. voiture, robot industriel) en objets connectés. Ces derniers sont le support d’applications et de services dans de nombreux domaines : médecine, bien-être, domotique, agriculture, industrie manufacturière, transport, logistique ou encore prêt-à-porter.

Dans le cadre de notre recherche, nous étudions les articulations possibles entre les objets connectés et les mécanismes de l’apprentissage. Ces objets connectés sont pris dans l’écosys- tème complexe de technologies, d’applications et de services que constitue l’IdO. De ce fait, ce chapitre éclaircit à la fois les concepts d’IdO et d’objet connecté, leurs origines concep- tuelles, les technologies qu’ils recouvrent et les enjeux qu’ils soulèvent. La première partie est consacrée au contexte historique (3.1.1) et théorique (3.1.2) de l’apparition des concepts d’IdO et d’objet connecté ainsi qu’aux définitions contemporaines (3.1.3). La seconde partie décrit l’organisation fonctionnelle (3.2.1) et les technologies (3.2.2) nécessaires à la mise en place d’un écosystème de l’IdO. La troisième partie expose les perspectives de l’IdO dans les principaux domaines affectés par son développement (e.g. médecine, agriculture, industrie) (3.3.1) ainsi que les problématiques techniques, scientifiques, sociales et économiques (3.3.2). 1. Traduction personnelle : « Rétrospectivement, il semble que la croissance rapide du World Wide Web n’ait été que l’élément déclencheur qui provoque maintenant la véritable explosion, au moment où les choses commencent à utiliser le Net. »

3.1

Développement de l’Internet des Objets

Le développement de l’IdO est prégnant depuis les années 2009-2010 de par la multipli- cation d’objets connectés tels que les bracelets, les tablettes, les montres, les thermostats ou encore les télévisions connectées (Roxin & Bouchereau, 2017a). L’IdO fait partie des tendances technologiques et suscite un engouement en tant que sujet de débat, d’actualité, d’investigation et de recherche. De ce fait, la réalité du concept est difficile à saisir tant il existe des définitions différentes, qui se confondent parfois avec celles de la communication de machine à machine, de l’informatique ubiquitaire ou du Web 3.0 (Weill & Souissi, 2010). Ce flou conceptuel tient également au fait que les idées sous-jacentes à l’IdO sont présentes dès l’émergence de l’informatique connectée, d’internet et du World Wide Web (WWW). Afin de lever une partie de ce flou conceptuel et d’approcher notre objet de recherche, nous exposons dans les sections suivantes le contexte historique et technologique qui a conduit au développement d’objets connectés.