8 Une machine qui joue aux échecs :
9. Machines, intelligence et jeu de l’imitation :
- La machine à calculer universelle :
Mathématicien et logicien britannique, Alan Turing « a apporté en 1936
des éléments théoriques [et logiques] fondamentaux ouvrant la voie à l’informatique et à l’intelligence artificielle. » 970 Il a aidé « à définir ce qui
pourrait être un modèle mathématique simple pour tout processus de calcul. Cette “machine de Turing” est explicitée dans un article de 1936 […] » 971 intitulé “Théorie des nombres calculables, suivie d’une application
au problème de la décision”. L’auteur commence par définir 967 Ibid., p. 243. 968 Ibid. 969 Ibid. 970
SIRI F., “Turing Alan Mathison”, Dictionnaire d’histoire et philosophie des sciences, D. Lecourt, PUF, Paris, 1999, 2006, p. 1117.
« sommairement les nombres “calculables” comme étant les réels dont l’expression décimale est calculable avec des moyens finis. » Selon sa définition, « un nombre est calculable si sa représentation décimale peut
être écrite par une machine. »972 Une note des traducteurs rappelle
qu’« un nombre réel, en notation décimale, est représentée par une suite
infinie de chiffres (π = 3.14159…). Dire que cette représentation est calculable avec des moyens finis, c’est dire, en termes modernes, qu’il existe un programme qui affiche cette suite de chiffres. Cette opération prend par essence un temps infini. » Après avoir décrit les principes et donné des
exemples de la machine à calculer, Turing présente sa machine à calculer
universelle :
« Précurseur et modèle abstrait des ordinateurs, [cette machine] relie le concept mathématique de calculabilité au concept intuitif ou informel d’algorithme, procédure effective de réalisation d’un calcul : est calculable, selon Turing, toute opération qui peut être réalisée par sa machine idéale. Par ce moyen, Turing résout “le problème de la décision” de Hilbert : il démontre […] qu’il existe des problèmes mathématiques pour lesquels il n’y a pas d’algorithme de résolution.»973
Avec l’article qu’il publie en 1950,974 975 Turing, qui a contribué « à la
réalisation du premier ordinateur britannique (en 1949) […], » 976 « ne
s’en tient plus, comme en 1937, à la formalisation des conditions de vérité d’un calculateur universel (la machine de Turing) : il met en compétition ce calculateur avec l’homme en imaginant une situation dans laquelle sont évoquées les conditions d’une imitation ludique (Imitation Game) de la pensée humaine par ce qu’on nomme aujourd’hui un ordinateur. » 977 Si le
premier texte de Turing, « profondément ancré dans l’univers délimité par
Gödel, ne présageait l’informatique que malgré lui ; il en va tout autrement de ce second texte, écrit quinze ans plus tard : à la “machine de papier” est venu se substituer le calculateur électronique […]. » 978
Dans l’interview qu’il a donné au Times en 1949, Turing « laisse entendre
[…] ce qu’il développera l’année suivante dans “Computing Machinery and Intelligence” » 979 :
972
TURING A. M., “On Computable Numbers, with an Application to the Entscheidungsproblem”, 1936-1937, in
La machine de Turing, Seuil, Paris, 1995, p. 49.
973 SIRI F., “Turing Alan Mathison”, op. cit., 1999, 2006, p. 1117. 974
TURING A. M., “Computing Machinery and Intelligence”, Mind, 1950, vol. LIX, n° 236 et Collected Works of A. M. Turing, Mechanical Intelligence, D. C. Ince éd., North-Holland, 1992, trad. Pélissier A., op. cit., 1995, p. 247.
975
J. Basch et P. Blanchard ont traduit “Computing Machinery” par “ordinateurs”, là où A. Pélissier préfère
“machines à calculer”. Note de l’auteur.
976 SIRI F., “Turing Alan Mathison”, op. cit., 1999, 2006, p. 1117. 977
PELISSIER A., TETE A., op. cit., 1995, p. 250.
978
GIRARD J.-Y., “Intelligence artificielle et logique naturelle”, in La machine de Turing, op. cit., 1995, p. 107.
« Il ne s’agit là que d’un avant-goût de ce qui doit venir et nous ne voyons que l’ombre de ce qui va se produire. Il nous faut encore procéder à quelques expériences avant de pouvoir connaître réellement ses capacités. Il faudra peut- être des années pour que nous nous attaquions aux nouvelles possibilités, mais je ne vois pas pourquoi la machine n’aborderait pas tous les domaines couverts par l’intellect humain, et ne finirait pas par rivaliser avec lui en termes d’égalité » (cité par Hodges, « Alan Turing », op. cit., p.341). » 980
- Le jeu de l’imitation :
Turing « propose de considérer la question : “Les machines peuvent-elles
penser ?”» Il juge que la voie qui consisterait à « établir la signification des termes “machine” et “penser” sur l’examen de l’utilisation qui en est communément faite […] » amènerait « à la conclusion qu’on doit chercher la signification de la question […] et sa réponse dans une étude statistique du type sondage Gallup, » ce qu’il juge absurde. Aussi choisit-il de
remplacer la question « par une autre qui lui est étroitement rattachée et
qui s’exprime dans des termes relativement non ambigus. » 981 Le
problème reformulé peut être décrit dans les termes d’un jeu que Turing appelle le “jeu de l’imitation” :
« Il se joue à trois personnes, un homme (A), une femme (B) et un interrogateur (C) qui peut être de l’un ou l’autre sexe. L’interrogateur ne se trouve pas dans la même pièce que les deux autres personnes. Le but du jeu pour l’interrogateur est de déterminer qui est l’homme et qui est la femme. 982 Il les connaît par des étiquettes X et Y et, à la fin du jeu, il dit soit « X est A et Y est B » ou « X est B et Y est A ». » 983
L’auteur donne un exemple de question que C peut poser, et précise le mode de transmission des réponses et l’attitude respective de l’homme
(A) et de la femme (B) : 984
« [L’interrogateur] peut poser à A et B des questions du type : C – “X peut-il [ou peut-elle] me dire la longueur de ses cheveux ?” Maintenant, supposons que X est véritablement A ; alors A doit répondre. Le but de A dans le jeu est d’essayer de faire faire à C une fausse identification. Sa réponse devrait [pourrait] donc être : X – “Mes cheveux sont coupés courts [à la garçonne] et les plus longues mèches sont d’environ 23 cm”. De façon à ce que le timbre des voix ne puisse aider l’interrogateur, les réponses devraient être écrites ou, mieux encore, dactilographiées. L’idéal serait de disposer d’une téléimprimante pour communiquer entre les deux pièces. […] Le but du jeu pour le troisième joueur [la joueuse] (B) est d’aider l’interrogateur. La meilleure stratégie pour elle est probablement de donner des réponses vraies. Elle peut ajouter à ses réponses des commentaires tels que « Je suis la femme, ne l’écoutez pas, lui » mais cela ne servirait à rien puisque l’homme peut faire des remarques similaires. » 985
980
TURING A. M., op. cit., 1950, 1992, 1995, p. 251.
981
Ibid., p. 255.
982 « Il est clair que pour Turing la pensée n’est identifiable, comme telle, que dans le discours : il adopte la thèse cartésienne du “Discours de la méthode”. » (TETE A., op. cit., 1995, note 1, p. 285.)
983
TURING A. M., op. cit., 1950, 1995, p. 255.
984 Dans ce paragraphe et les deux suivants nous notons entre crochets les termes choisis par Basch et
Blanchard dans leur traduction quand ils nous paraissent pouvoir remplacer avantageusement ceux choisis par Pélissier. Note de l’auteur.
Turing demande ce qu’il arrivera si une machine prend la place de A dans le jeu : « L’interrogateur se trompera-t-il aussi souvent que dans la
situation où le jeu comporte un homme et une femme ? Ces questions remplacent notre interrogation première “Les machines peuvent-elles penser ?” » 986 Le logicien admet que le jeu peut éventuellement soulever
des critiques sous le prétexte que « les chances sont trop fortes du côté
de la machine, » et que dans l’hypothèse où l’homme prétendrait être la
machine, « il ferait à l’évidence une très pauvre démonstration […] trahi
par sa lenteur et son inexactitude en arithmétique. » L’objection selon laquelle les machines pourraient effectuer « quelque chose qui devrait être
décrit comme un acte [une forme] de “penser” [“pensée”] mais qui est très différent de ce que fait l’homme » lui paraît « très forte, » mais il
estime pouvoir dire que « si, toutefois, on peut construire une machine qui
joue de façon satisfaisante au jeu de l’imitation, nous n’avons pas besoin de nous préoccuper de cette objection. » 987
Avec le jeu de l’imitation, Turing n’entend pas étudier la théorie des jeux. Il « supposera que la meilleure stratégie est d’essayer de fournir des
réponses qui auraient été données naturellement par un homme. » Le logicien considère que la question de savoir si les machines peuvent penser « ne sera pas tout à fait définie tant que nous n’aurons pas spécifié
ce que nous entendons par le mot “machine”. » 988 Il prévient qu’il
n’accepte dans son jeu « que les calculateurs numériques. » 989 Ceux-ci
sont conçus « pour effectuer toutes les opérations qui pourraient être
exécutées par un calculateur humain » :
« On suppose que le calculateur humain suit des règles fixées. Il n’a aucune autorité pour en dévier en quelque détail que ce soit. On peut supposer que ces règles sont inscrites dans un livre qui change chaque fois que le calculateur humain commence un nouveau travail. Il a aussi une provision illimitée de papier sur lequel il fait ses calculs. 990 Il peut en outre faire ses multiplications et ses additions sur un “pupitre de machine” [une “machine de bureau”], mais ce n’est pas important. » 991
Turing admet que cette explication prise comme une définition expose à la circularité de l’argument : les calculateurs numériques seraient définis par le calculateur humain, qui serait défini par les calculateurs numériques. Il estime éviter ce danger « en donnant un aperçu des moyens par lesquels
le résultat désiré est atteint. » 992 Pour ce faire, il décrit les trois parties –
une mémoire, une unité d’exécution, un contrôle – constituant habituellement un calculateur numérique, ainsi que les principes de leur fonctionnement. Le lecteur doit accepter le fait que « les calculateurs 986 Ibid., p. 256. 987 Ibid., p. 257. 988 Ibid. 989 Ibid., p. 258. 990
« Les commentateurs n’ont pas manqué d’observer que le cerveau humain, fini, ne saurait disposer d’une
mémoire infinie (symbolisée par la bande de papier) mais il suffit pour Turing de poser le caractère a priori illimité qu’a l’homme de calculer tout nombre calculable pour fonder son équivalence. » (TETE A., op. cit., 1995,
note 7, p. 288).
991
TURING A. M., op. cit., 1950, 1992, 1995, pp. 258-259.
numériques peuvent […] mimer les actions d’un calculateur humain de très près. » 993 Faire mimer le comportement d’un calculateur humain par
une machine requiert une programmation, laquelle nécessite de
« demander à ce dernier comment procéder et ensuite traduire la réponse sous la forme d’une table d’instructions. » 994
Après avoir rappelé que « la plupart des calculateurs réels n’ont qu’une
mémoire finie, » Turing souligne l’absence de « difficulté théorique à l’idée d’un calculateur possédant une mémoire illimitée, » et l’« intérêt théorique particulier […] » de tels « calculateurs à capacité infinie. » On attache de l’importance au fait que les calculateurs numériques modernes et le système nerveux sont électriques ; Turing rappelle que la machine de
Babbage 995 ne l’était pas. Or, comme « tous les calculateurs numériques
sont dans un sens équivalents […], » le logicien en déduit « que cette utilisation de l’électricité ne peut avoir d’importance théorique. »
Considérant - comme ont pu le faire Wiener et von Neumann - que « dans
le système nerveux, les phénomènes chimiques sont au moins aussi importants que les phénomènes électriques, » l’auteur juge « l’utilisation de l’électricité comme une similarité de surface, » et conseille de « chercher plutôt des analogies mathématiques de fonction. » 996
Les calculateurs numériques de type “machines à états discrets” sont des machines « qui fonctionnent par saut subits d’un état tout à fait défini à
un autre » qui s’en distingue nettement. De telles machines n’existent pas
à proprement parler, elles fonctionnent toutes « réellement de façon
continue. » Il existe cependant « de nombreuses sortes de machines qu’on aurait tout intérêt à envisager comme des machines à états discrets. » Turing prend l’exemple des interrupteurs d’un système
d’éclairage :
« On peut imaginer commodément que chaque interrupteur doit être en position ouverte ou en position fermée. Il y a nécessairement des positions intermédiaires, mais, pour la plupart des cas, nous pouvons les oublier. » 997 Le fait que des calculateurs numériques puissent « mimer toute machine à
états discrets les désigne comme des machines universelles, » avec pour
conséquence l’inutilité « de concevoir des machines nouvelles différentes
pour exécuter des calculs différents. » L’auteur en conclut que « tous les calculateurs numériques sont dans un sens équivalents. » 998 Fort de ces
résultats, le mathématicien propose de remplacer la question « Les
machines peuvent-elles penser ? » par « Peut-on imaginer des calculateurs numériques qui fonctionneraient bien dans le jeu de
993
Ibid., p. 260.
994
Ibid.
995 « Babbage, vers 1850, eut l’idée de construire une machine capable d’exécuter un algorithme quelconque. La technologie mécanique de l’époque ne lui permit pas, malgré son acharnement de 20 ans, de mener à bien la réalisation de sa “machine analytique”. » (BOKSENBAUM C., SALLANTIN J., “Informatique”, Dictionnaire d’Histoire et Philosophie des Sciences, op. cit., 1999, 2006, p. 625. )
996
TURING A. M., op. cit., 1950, 1992, 1995, p. 261.
997
Ibid., p. 262.
l’imitation ? » Il considère que « du point de vue de l’universalité de la propriété […] » la question est équivalente à celle-ci : « Fixons notre attention sur un calculateur numérique particulier C. Est-il vrai qu’en modifiant ce calculateur […], C peut être construit pour tenir de façon satisfaisante le rôle de A dans le jeu de l’imitation, le rôle de B étant tenu par un homme ? » 999
Turing prévoit qu’à partir des années 2000, « un interrogateur moyen
n’aura pas plus de 70% de chances de faire une bonne identification après cinq minutes de questionnement. » Quant à la question « Les machines
peuvent-elles penser ? », il la croit « trop insignifiante pour mériter discussion », mais prévoit « néanmoins, qu’à la fin du siècle l’usage des mots et l’opinion générale éduquée auront tellement évolué qu’on pourra parler de machines pensantes sans s’attendre à être contredit. » 1000
Le logicien examine ensuite un certain nombre d’objections. Parmi celles- ci figure “l’objection mathématique” : le plus célèbre résultat montrant
« qu’il y a des limitations aux pouvoirs des machines à états discrets » est
le théorème de Gödel, qui indique que « dans n’importe quel système
logique suffisamment puissant, on peut formuler des énoncés qui ne peuvent être ni prouvés ni réfutés à l’intérieur du système, à moins que le système soit lui-même inconsistant. » 1001Turing répond « qu’il existe des
limitations évidentes aux pouvoirs d’une machine particulière, » mais que
la déclaration selon laquelle l’intelligence humaine ne connaît aucune limitation ne repose sur aucune preuve.
Une seconde objection repose sur une remarque concernant la « machine
analytique de Babbage. » Les informations les plus détaillées concernant cette machine « proviennent d’un mémoire de Lady Lovelace » dans lequel elle déclare : « La machine analytique n’a aucune prétention à faire
quoique ce soit. Elle peut faire tout ce que nous savons lui commander d’exécuter. » Turing précise que cette déclaration est citée par Hartree,
qui ajoute : « Cela n’implique pas qu’il ne soit pas possible de construire
un matériel électronique qui “penserait pour lui-même” ou dans lequel, en termes biologiques, on pourrait établir un réflexe conditionné qui servirait de base d’“apprentissage”. » Turing est « en profond accord avec Hartree là-dessus. » 1002
Une troisième objection soutient un point de vue que nous avons déjà rencontré, à savoir que « le système nerveux n’est certainement pas une
machine à états discrets » car une petite erreur dans « la mesure d’une impulsion nerveuse heurtant un neurone peut entraîner une grande différence au niveau de la taille de l’impulsion résultante. » Il n’est en
conséquence « pas possible de reproduire le comportement du système
nerveux avec un système à états discrets. » Turing reconnaît « qu’une machine à états discrets doit être différente d’une machine continue, »
mais remarque que dans « les conditions du jeu de l’imitation, 999 Ibid. 1000 Ibid., p. 265. 1001 Ibid., p. 267. 1002 Ibid., p. 273.
l’interrogateur ne sera pas capable de tirer avantage de cette différence. »1003
Selon une quatrième objection, « il n’est pas possible de produire un
ensemble de règles ayant la prétention de décrire ce qu’un homme ferait dans tous les cas imaginables. » Turing admet qu’élaborer « des règles de comportement qui englobent toutes les éventualités […] paraît impossible.» Il estime toutefois que l’« on tire argument de cela pour dire que nous ne pouvons pas être des machines. » 1004 L’argument lui paraît
fonctionner comme suit : « “Si chaque homme avait un ensemble de
règles de conduite auquel assujettir sa vie, il ne serait pas mieux qu’une machine. Mais il n’existe pas de telles règles, aussi les hommes ne peuvent être des machines.” Le dénombrement imparfait est manifeste.»1005
Le logicien reconnaît qu’il ne « dispose pas d’argument très convaincants
pour étayer [ses] points de vue. » Il revient à l’objection de Lovelace « qui dit que la machine ne peut exécuter que ce que nous lui disons de faire. »
Il la traduit en écrivant « qu’un homme peut “injecter” une idée dans la
machine et qu’elle répondra jusqu’à un certain point puis reviendra au repos comme une corde de piano frappée par un marteau. »1006 Pour
cerner ce qui ressort de l’esprit, l’auteur recourt à l’analogie de la “peau
de l’oignon” :
« En considérant les fonctions de l’esprit ou du cerveau, il existe certaines opérations que nous pouvons expliquer en termes purement mécaniques. Cela, disons-nous, ne correspond pas à l’esprit réel : c’est une sorte de peau que nous devons ôter si nous voulons trouver l’esprit réel. Mais alors, dans ce qui reste, nous trouvons une autre peau à enlever et ainsi de suite. En procédant ainsi, arrivons-nous jamais à l’esprit “réel” ou arrivons-nous éventuellement à la peau sous laquelle il n’y a rien ? Dans ce dernier cas, l’esprit entier est mécanique. »1007
Turing estime que le seul argument réellement satisfaisant qui peut être opposé à « “l’objection de Lady Lovelace” sera celui fourni à la fin du
siècle par la réalisation de l’expérience décrite, » soit le jeu d’imitation. Le
problème de Turing « est de trouver comment programmer ces machines
pour jouer au jeu. » 1008 Il souligne la lenteur de ce travail de
programmation. A la recherche d’une méthode plus rapide, celle qui permettrait aux machines d’apprendre, Turing pense à l’esprit-cerveau de l’enfant dont il donne une image qui n’est pas sans rappeler la description,
par les premiers humanistes du XIVe siècle, de l’enfant « comme une cire
que l’on peut modeler […] » : 1009
1003 Ibid., p. 275. 1004 Ibid. 1005 Ibid., p. 276. 1006 Ibid., p. 278. 1007 Ibid., pp. 278-279. 1008 Ibid., p. 279.
« Au lieu d’essayer de produire un programme qui simule l’esprit adulte, pourquoi ne pas plutôt essayer d’en produire un qui simule celui de l’enfant ? S’il était soumis à une éducation appropriée, on aboutirait au cerveau adulte. Il est probable que le cerveau de l’enfant est une sorte de calepin comme on peut en trouver dans les papeteries : un mécanisme plutôt petit et beaucoup de feuilles blanches. […] Notre espoir est qu’il y ait un si petit mécanisme dans le cerveau de l’enfant qu’il soit aisément programmable.» 1010
Turing ne s’attend pas « à trouver une bonne machine-enfant au premier
essai. » Il prévoit d’« essayer d’enseigner à une telle machine et [de] voir si elle apprend bien. »1011 Il comprend que « l’idée d’une machine qui
apprend peut paraître paradoxale à certains lecteurs. » Comment en effet « les règles d’opération de la machine peuvent-elles changer ? » Le
logicien confirme que les règles sont « tout à fait invariantes dans le
temps, » puis il lève l’apparente contradiction : « Les règles qui changent dans le processus d’apprentissage sont d’une nature plutôt moins ambitieuse, ne prétendant qu’à une validité éphémère. »1012 L’auteur
termine son article en formant le vœu « que les machines feront
éventuellement concurrence aux hommes dans tous les domaines purement intellectuels. » Il se demande quels sont les meilleurs domaines
pour commencer, le jeu d’échecs ou l’apprentissage de l’anglais. - Commentaires :
Pour l’éditeur des travaux de Turing relatifs à l’intelligence mécanique, “Machines à calculer et intelligence” est « l’article fondamental sur
l’intelligence artificielle (IA) et fournit une base théorique sur laquelle se fondent les discussions qui ont suivi sur la nature de la pensée et sa relation au calcul ». » 1013Turing est considéré par le courant cognitiviste
comme « l'un des pères fondateurs des sciences cognitives modernes et
l'un des premiers chefs de file de la théorie selon laquelle le cerveau humain est en grande partie un ordinateur. [Turing] émet l'hypothèse que