HAL Id: hal-01744075
https://hal.inria.fr/hal-01744075
Submitted on 27 Mar 2018
HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.
L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.
Intelligences Artificielles, Mythes et Ethique
Maxime Amblard
To cite this version:
Maxime Amblard. Intelligences Artificielles, Mythes et Ethique. Café-débat EKOS, Mar 2018, Nancy,
France. �hal-01744075�
Intelligences Artificielles, Mythes et Ethique Intelligences Artificielles, Mythes et Ethique
Maxime Amblard 20 Mars 2018
1/15
Plan
Fiction du r ´eel
Les algorithmes d ´ecident
Chaˆıne de responsabilit ´e ?
Ethique et consid ´eration des enjeux ´
Fiction du r ´eel
Des r ´ealisations r ´ecentes
• Watson, qui a gagn ´e Jeopardy
• Benjamin Gotesman et le Test de Turing.
• jeu de Go : victoire de AlphaGo de Google face au champion d’Europe.
Mars 2016 : match contre Lee Sedol, champion du monde
• assistant virtuel
Des r ´ealisations r ´ecentes
• redaction automatique
• FaceBook : identifier les mots manquants, cartographier la population mondiale
• gestion de la sant ´e : identification de pathologies
r ´eussites, mais sans mod `ele interpr ´etatif
4/15
FranceInfo 20 mars 2018
Qui est responsable ?
L’IA ? l’algorithme ?
FranceInfo 20 mars 2018
Qui est responsable ?
L’IA ? l’algorithme ?
5/15
FranceInfo 20 mars 2018
Qui est responsable ?
L’IA ? l’algorithme ?
Les algorithmes d ´ecident
Les algorithmes d ´ecident
“un algorithme, c’est la preuve d’un th ´eor `eme”
1Un algorithme est cette description m ´ecanique, qui est en m ˆeme temps une preuve au sens math ´ematique et l’ ´el ´ement de base de l’informatique
Le code ou le programme permet de passer d’une description abstraite qu’est l’algorithme `a l’obtention d’un r ´esultat, objectif de l’algorithme
1
Jean-Marc Petit, ´edito d’avril 2017 de la revue de la SIF
Les algorithmes d ´ecident
“un algorithme, c’est la preuve d’un th ´eor `eme”
1Un algorithme est cette description m ´ecanique, qui est en m ˆeme temps une preuve au sens math ´ematique et l’ ´el ´ement de base de l’informatique
Le code ou le programme permet de passer d’une description abstraite qu’est l’algorithme `a l’obtention d’un r ´esultat, objectif de l’algorithme
1
Jean-Marc Petit, ´edito d’avril 2017 de la revue de la SIF
6/15
Les algorithmes d ´ecident
“un algorithme, c’est la preuve d’un th ´eor `eme”
1Un algorithme est cette description m ´ecanique, qui est en m ˆeme temps une preuve au sens math ´ematique et l’ ´el ´ement de base de l’informatique
Le code ou le programme permet de passer d’une description abstraite qu’est l’algorithme `a l’obtention d’un r ´esultat, objectif de l’algorithme
1
Jean-Marc Petit, ´edito d’avril 2017 de la revue de la SIF
co-d ´ecisions
Pierre Levy dans (Levy, 1992) propose de consid ´erer qu’il y a une
co-op ´eration entre l’intelligence, naturelle, de l’homme et celle, artificielle, de la machine.
La d ´ecision est effectivement r ´ealis ´ee par l’algorithme, mais la motivation de la d ´ecision revient `a l’humain qui d ´efinit l’algorithme
La capacit ´e de d ´ecision est en fait celle de celui qui contr ˆole l’algorithme, sans qu’on sache v ´eritablement de qui il s’agit
7/15
co-d ´ecisions
Pierre Levy dans (Levy, 1992) propose de consid ´erer qu’il y a une
co-op ´eration entre l’intelligence, naturelle, de l’homme et celle, artificielle, de la machine.
La d ´ecision est effectivement r ´ealis ´ee par l’algorithme, mais la motivation de la d ´ecision revient `a l’humain qui d ´efinit l’algorithme
La capacit ´e de d ´ecision est en fait celle de celui qui contr ˆole l’algorithme,
sans qu’on sache v ´eritablement de qui il s’agit
co-d ´ecisions
Pierre Levy dans (Levy, 1992) propose de consid ´erer qu’il y a une
co-op ´eration entre l’intelligence, naturelle, de l’homme et celle, artificielle, de la machine.
La d ´ecision est effectivement r ´ealis ´ee par l’algorithme, mais la motivation de la d ´ecision revient `a l’humain qui d ´efinit l’algorithme
La capacit ´e de d ´ecision est en fait celle de celui qui contr ˆole l’algorithme, sans qu’on sache v ´eritablement de qui il s’agit
7/15
Chaˆıne de co-d ´ecision
• cr ´eateur de l’algorithme,
• les programmeurs et les programmeuses,
• le propri ´etaire du logiciel produit `a la fin,
• les utilisateurs et les utilisatrices finaux du logiciel,
• les cr ´eateurs des donn ´ees,
• les employeurs des uns et des autres
Chaˆıne de responsabilit ´e ?
FranceInfo 20 mars 2018
Chaˆıne de responsabilit ´e ?
• cr ´eateur du programme,
• les programmeurs et les programmeuses,
• le propri ´etaire du logiciel produit `a la fin,
• les utilisateurs et les utilisatrices finaux du logiciel,
• les cr ´eateurs des donn ´ees,
• les employeurs des uns et des autres
10/15
Ethique et consid ´eration des enjeux ´
Evaluation vs publicit ´e ´
11/15
Prise en compte des biais
Consentement et propri ´et ´e des donn ´ees (explicites et implicites)
13/15
Ethique et consid ´eration des enjeux ´
• Trac¸abilit ´e des d ´ecisions et des donn ´ees
• Prise en compte de la temporalit ´e (dans la chaˆıne de responsabilit ´e et dans la propri ´et ´e des donn ´ees)
• Maturit ´e face `a la technologie
• N ´ecessit ´e de produire les outils de mani `ere ´ethique (d ´eontologie)
FranceInfo 20 mars 2018
15/15
