Il y a une activité humaine qui se prête à l’étude de cette articulation : c’est l’activité de jeu. Le jeu possède en effet un aspect cognitif et un aspect praxique.
Son aspect cognitif vient de ce que tout jeu obéit à des règles que l’on peut qualifier de formelles dans la mesure où elles ne répondent à aucune signification qui leur préexisterait. Par exemple, il n’y a pas de raison, aux échecs, pour que le fou se déplace de biais : le fait qu’il se déplace ainsi relève d’une convention.
Son aspect praxique vient de ce qu’un jeu, quand il est en train d’être joué, ne vise que son propre accomplissement. Le jeu semble ainsi dénué de tout but qui lui serait extérieur puisqu’il ne vise la réalisation d’aucune action réelle; cela ne veut pas dire qu’il n’y ait pas d’actions dans les jeux (à preuve les jeux sportifs) mais les actions qui y sont menées ne visent pas la réalisation d’un but mais seulement la représentation de cette réalisation. Ainsi aux échecs, faire échec et mat ne fait que représenter la victoire sur l’adversaire et ne vise pas une victoire réelle165. Le but d’un jeu n’est donc pas de parvenir à agir mais seulement de se représenter une action.
De ce point de vue, le jeu entretient avec une autre notion qui n’a de sens que par rapport au domaine de la représentation un rapport certain : c’est la notion d’apprentissage. L’apprentissage ne vise en effet aucune réalisation réelle : même si l’on souhaite apprendre en vue de réaliser telle ou telle action et que l’apprentissage consiste le plus souvent à effectuer l’action que l’on veut réaliser, l’apprentissage en tant que tel consiste à mimer cette action en vue de la réaliser ultérieurement au mieux. L’apprentissage se situe donc avant toute réalisation et la
165 On peut évidemment imaginer un jeu où la victoire imaginaire serait aussi suivie d’une victoire réelle. Aux échecs par exemple, la victoire par échec et mat pourrait consister en la mise à mort de l’adversaire, si l’on respecte l’étymologie arabe de “mat” [mort]. A l’évidence, cette seconde victoire ne fait pas partie du jeu dans la mesure où elle résulte d’une convention qui n’est pas liée aux règles de celui-ci.
réalisation qu’elle effectue se situe de ce fait dans le domaine de la représentation, comme c’est le cas du jeu.
221. La notion de représentation dans le jeu et l’apprentissage
Comme l’a remarqué Norbert Wiener166, tout système organisé peut être considéré comme transformant un message d’entrée en message de sortie suivant un principe de transformation. Si le principe de transformation est soumis à un critère permettant de mesurer la valeur de la performance du système et si le système organisé en question est réglé en vue d’améliorer ses performances par rapport à ce critère, on dit que le système apprend. Or il est possible de se représenter ce type de système organisé par le moyen de la notion de jeu. Wiener fait ainsi remarquer 167:
«Un type très simple de système possédant un critère de performance facile à interpréter selon des règles fixes est un jeu dans lequel le critère de performance est la victoire telle qu’elle a été définie par ces règles».
L’apprentissage pour les joueurs consiste donc à améliorer leurs chances de victoire. Quelle est la nature de cet apprentissage ? Il peut être considéré comme l’adoption d’une stratégie optimale. A l’évidence, la stratégie la meilleure consisterait à savoir gagner pour toutes les parties. Ce type de stratégie a été défini axiomatiquement par von Neumann168 et, en droit, celle-ci est valable pour tous les jeux. Elle consiste à suivre une fois pour toutes et quelle que soit la stratégie de l’adversaire (parce que l’on sait répondre à tous ses coups possibles) le plan d’action qui a été adopté au départ, c’est-à-dire avant même le début du jeu. On appellera cette stratégie la “stratégie d’omniscience”.
En fait, pour des raisons pratiques tenant à l’explosion combinatoire qu’implique la mise à l’étude de toutes les réponses possibles de l’adversaire à un coup donné, peu de jeux peuvent être joués au moyen d’une stratégie d’omniscience. Aussi, dès que l’on a affaire à un jeu un peu “compliqué” comme les échecs, cette stratégie n’est-elle plus praticable, au moins tant que les capacités
166 Cf. N. Wiener, God and Golem, Inc., MIT Press, Cambridge, Massachusetts, 1964, p. 14.
167 N. Wiener, God and Golem, Inc., op. cit., p. 14.
168 Cf. B. Saint-Sernin, Les Mathématiques de la Décision, PUF, Paris, 1973, p. 175.
de stockage des coups possibles sont relativement limitées. Dans ce cas, il faut adopter une tout autre attitude qui prend en compte la stratégie de l’adversaire et permet de réagir par rapport à celle-ci. Borel faisait remarquer à ce propos 169:
«[…] La connaissance de la psychologie de l’adversaire doit, à chaque instant, entrer en ligne de compte pour modifier les règles de conduite qu’on adopte».
Cette stratégie, que nous appellerons “pragmatique” par opposition à la
“stratégie d’omniscience”, repose sur la reconnaissance de l’existence d’un adversaire et de son intériorité : elle a donc pour objet la psychologie de l’adversaire et la victoire passe par l’analyse mathématique de cet objet dont on postule l’existence, la psychologie d’autrui.
On peut donc dire que les deux stratégies se distinguent par la réalité qu’elles attribuent à la psychologie.
La première, en éliminant la question de la réalité de la psychologie, supprime la validité de toute enquête psychologique qui n’a dès lors plus d’objet propre puisque la “stratégie d’omniscience” ne prend en compte la stratégie de l’adversaire que par l’introduction d’un changement aléatoire dans sa propre stratégie. La seconde se fonde au contraire sur la reconnaissance de la réalité de la psychologie de l’adversaire et de la validité d’une enquête mathématique la concernant. Bref, dans le premier cas, on peut faire comme si l’adversaire n’avait pas de psychologie, tandis que dans le second, on accorde une réalité à un objet psychologique dont on ne peut que postuler l’existence.
Ainsi la notion de jeu permet-elle de prendre conscience du fait qu’il y a un rapport entre le débat sur la nature de l’apprentissage dans les systèmes organisés telle qu’elle apparaît dans le modèle du jeu et le débat sur la nature de la psychologie. Tâchons d’expliciter ce rapport par un exemple.
Pour un jeu “compliqué” comme les échecs, la question que l’on peut poser est celle-ci : dans le cas où l’un des adversaires est une machine universelle de Turing dont les capacités de stockage sont par définition infinies et qui est correctement programmée compte tenu des règles du jeu, quel type de stratégie
169 E. Borel, Note du 19 déc. 1921, Compte-Rendus de l’Académie des Sciences, t. 173, p. 1304-1305, cité dans [B.Saint-Sernin, Les Mathématiques de la Décision, op. cit.], p. 176.
doit être employé pour parvenir à ce que la machine gagne ? Comme on vient de le voir, c’est le problème du statut de la psychologie qui est le réel enjeu de la question. Aussi peut-elle se traduire sous cette forme : quelle place y a-t-il pour la psychologie dans un jeu où l’un des adversaires est omniscient ? Ou encore : quelle psychologie attribuer à un système organisé du type de celui d’une machine universelle de Turing ?
Avant d’aborder la réponse à cette question qui va nous occuper tout au long de cette partie, remarquons que son enjeu est aussi un héritage de la tradition philosophique. Comme l’a noté Norbert Wiener, passant outre à toute timidité positiviste, le problème de l’apprentissage de machines qui apprennent à jouer à des jeux, est de nature théologique : c’est le problème du rapport entre le créateur et la créature qui s’y trouve en fait posé. Wiener remarquait en effet à propos des machines et de ceux qui les inventait170:
«En construisant des machines avec lesquelles il joue, l’inventeur s’est arrogé la fonction d’un créateur limité, quelle que soit la nature de l’appareil à jouer qu’il a inventé. Ceci est particulièrement vrai dans le cas de machines pouvant jouer et qui apprennent par expérience».
En jouant, le créateur du jeu ne fait qu’obéir aux règles qu’il a lui-même inventées. De ce point de vue, il joue en fait avec sa propre création et découvre donc, par le biais d’une manipulation de symboles praxiques, ce qu’il ne sait pas à propos de lui-même. Le jeu qu’il a inventé apparaît donc comme une expérience indirecte de sa propre faculté psychologique d’invention. Aussi le modèle du jeu permet-il de mener, d’un point de vue général, une enquête sur ce que l’on entend par invention, parce que c’est par le biais du jeu que l’on peut parvenir à s’en faire une idée. Le jeu entretient ainsi avec l’explicitation de la nature de l’esprit un rapport profond.
Un texte de la tradition philosophique décrit précisément le rapport du créateur à la créature par le modèle du jeu : c’est le pari de Pascal 171. Dans ce texte, le rapport de la créature au créateur prend la forme d’une enquête de nature
170 N. Wiener, God and Golem, Inc., op. cit., p. 17.
171 Cf. Pascal, Pensées, “Infini-Rien”, n° 418 (éd. Lafuma) ou 233 (éd. Brunschvicg).
probabiliste172. En se plaçant du point de vue de la créature, le type de stratégie adoptée par Pascal est une stratégie de type “pragmatique” qui tend à fonder son plan d’action sur la réalité de la psychologie de l’adversaire, en l’occurrence le créateur omniscient. Ce faisant, Pascal confère à “l’adversaire” une psychologie réelle. Mais selon ce que nous disions de la nature des jeux, c’est par ce biais qu’il se donne aussi les moyens d’étudier le fonctionnement de sa psychologie.
Nous retrouverons ce type d’argument dans le cadre de la réflexion menée par Turing sur la “psychologie” qu’il faut prêter à la machine universelle quand on l’étudie dans une situation d’interaction entre joueurs propre à un jeu spécifique, et plus généralement, sur le type de théorie psychologique que l’on peut construire à partir du projet de l’intelligence artificielle.
Ainsi la notion d’apprentissage pour un système organisé et celle de psychologie pour l’être humain peuvent-elles s’expliciter l’une l’autre, si l’on parvient à construire un modèle de jeu dont les résultats pourront être interprétés dans la perspective d’une enquête sur la nature de l’invention.
222. Utilisation du modèle du jeu par Turing
Turing ne s’y était pas trompé lui qui a inventé un jeu tout à fait particulier, le “jeu de l’imitation”, pour étudier l’articulation du plan informel et du plan formel, selon le schéma de la thèse de Turing.
On peut assimiler , en suivant la définition proposée par N. Wiener, le “jeu de l’imitation” à un système organisé susceptible d’apprentissage : un message d’entrée de nature informelle - les questions de l’interrogateur - est transformé en un message de sortie de nature informelle par un principe de transformation constitué d’une boîte noire dont on ne sait pas s’il s’agit d’un être humain (objet informel) ou d’un ordinateur “digital”173 (objet formel). Dans ce cas, le montage expérimental réalisé dans le jeu permet d’étudier l’articulation du plan informel et
172 Ian Hacking a montré qu’il fallait voir dans l’argument du pari l’acte de naissance du calcul des probabilités. Cf. I. Hacking, The Emergence of Probability, Cambridge University Press, Cambridge, 1975, chapitre 8, pp. 63-72.
173 Nous nous sommes habitués en français à cet anglicisme subreptice que représente le terme de “digital”. Il n’y a pas d’équivalent français direct au terme anglais [digit], puisque “chiffrique”
n’est pas reçu. “Digital” étant de racine latine, il ne semble pas choquant de l’employer en français, d’autant plus que l’usage courant semble l’avoir assimilé.
du plan formel, puisque le but du jeu consiste à essayer de deviner la nature de la boîte noire en question.
C’est donc ce jeu qu’il faut tenter d’analyser pour légitimer notre point de vue sur la place à accorder à un “modèle computationnel de l’esprit”174. Le jeu de l’imitation est décrit par Turing dans un article qui date de 1950, “Computing Machinery and Intelligence”175. Cet article a servi et sert encore de “charte” pour l’intelligence artificielle. Placé en tête de nombreuses anthologies176, il a été abondamment commenté depuis sa parution et on le considère habituellement comme le premier article d’intelligence artificielle. Son analyse ne nous paraît pourtant pas épuisée : il recèle de multiples pièges, obscurités, ironies, mots à double sens et demi-confidences autobiographiques qu’il paraît impensable de justifier par une analyse en termes purement formels. Ce qui nous semble être décrit dans cet article est l’invention du modèle computationnel de l’esprit et non pas du tout sa viabilité, contrairement au but déclaré de l’article. C’est pourquoi le jeu de l’imitation nous paraît décrire d’une part l’itinéraire psychologique qui va de l’informel au formel pour le cas particulier de l’individu Turing - et non pas la formalisation du domaine psychologique en général - et d’autre part la psychologie que l’on peut attribuer au modèle de la machine de Turing dans le cadre d’une situation ludique d’interaction entre joueurs.
Nous allons donc tenter de montrer comment le modèle du jeu tel qu’il a été élaboré par Turing peut permettre de fonder un autre type de réflexion que celle de l’intelligence artificielle sur l’activité psychologique du calcul et de situer ainsi l’intelligence artificielle à la place qui lui revient dans l’enquête sur la nature et le fonctionnement de l’esprit. Il s’agit en quelque sorte de prendre l’attitude
174 L’expression de “modèle informationnel de l’esprit” serait sans doute plus heureuse en français mais les termes de “computationnalisme” et de “computationnel” formé en anglais à partir du terme de [computer], semblent faire aujourd’hui l’unanimité parmi la communauté cognitive.
La racine de l’expression étant latine, elle semble pouvoir faire retour en français sans dommage.
175 Cf. A. M. Turing, “Computing Machinery and Intelligence”, Mind, Vol. LIX. n° 236, pp.
433-460.
176 On peut citer : A. R. Anderson ed., Minds and Machines, Prentice-Hall, Englewood Cliffs, N. J., 1964; traduction française sous le titre Pensée et Machine Champ Vallon, Seyssel, 1983, pp.
39-67; Butterworth ed., Key Papers : Brain Physiology and Psychology, University Park Press, Manchester, England, 1967; D. Hofstadter et D. C. Dennett eds., The Minds’I, Basic Books, New York, 1981; traduction française sous le titreVues de l’esprit, InterEditions, Paris, 1987, pp. 61-104 et M. Boden ed., The Philosophy of Artificial Intelligence, Oxford University Press, Oxford, 1990, pp. 40-66.
méthodologique de l’intelligence artificielle “à rebours” en retrouvant ainsi le sens originel de la thèse de Turing : au lieu de modéliser mathématiquement une activité psycho-physique, à la manière décrite par D. Marr, il faut essayer de comprendre comment le psycho-physique peut donner lieu à une idéalisation sur le point précis de la notion d’algorithme. C’est pourquoi l’articulation du formel et de l’informel recoupe en fait la distinction entre l’idéalité des objets mathématiques et la réalité du monde physique. On verra que c’est dans ce débat que réapparaît la question de la nature du continu parce que c’est par ce biais que Turing caractérise le monde matériel.
___________
Chapitre I
Le jeu de l’imitation
Turing, dans “Computing Machinery and Intelligence”, se propose de réfléchir à la notion d’intelligence en élaborant un jeu, le “jeu de l’imitation”, permettant de juger de la présence ou de l’absence d’un comportement intelligent chez les êtres humains et les ordinateurs digitaux.
Pourquoi mettre l’accent sur les ordinateurs digitaux et non pas sur d’autres types de machines ? On peut invoquer deux raisons, la première théorique et la seconde historique.
Premièrement, parce que les ordinateurs digitaux sont les paradigmes de toute machine. En tant qu’ils sont les matérialisations au sein du monde physique des machines de Turing définies dans “On Computable Numbers …” et plus particulièrement de la notion de machine universelle, ils peuvent imiter n’importe quelle opération et donc exécuter les instructions de n’importe quelle machine de Turing, au moins du point de vue logique du contrôle des opérations177. Ces matérialisations de machines de Turing n’en sont évidemment que des modèles approchés puisque celles-ci disposent d’un ruban infini sur lequel opérer des calculs, alors que toute machine au sein de l’univers physique ne possède qu’une
177 L’ordinateur est bien le paradigme logique de toute machine mais ne vise pas à remplacer les machines exécutant des tâches impliquant un mouvement physique : un ordinateur ne produit pas du mouvement comme une machine à vapeur, même s’il peut simuler les échanges thermodynamiques indispensables au fonctionnement d’une machine de ce type.
capacité de mémoire limitée (mais qu’il est toujours possible d’augmenter si l’on en possède les moyens techniques).
Deuxièmement, une autre raison, plus contingente, vient s’ajouter à la première et qui explique pourquoi la réflexion de Turing se situe désormais non seulement dans le cadre théorique des machines “de papier”178 telle qu’il les avait imaginées en 1936 mais aussi dans le cadre concret des ordinateurs réels : un peu plus de deux ans avant la parution de “Computing Machinery and Intelligence”
qui date d’octobre 1950, le premier ordinateur digital au monde a commencé à fonctionner à l’université de Manchester, précisément le 21 juin 1948179. C’est donc dans la continuation de cette première mondiale à laquelle Turing a participé à la fois d’un point de vue théorique depuis son article de 1936 et d’un point de vue pratique au National Physical Laboratory à partir de 1945 puis à l’université de Manchester elle-même à partir d’octobre 1948, qu’il rédige son article de nature philosophique.
Le jeu de l’imitation apparaît comme une expérience de pensée qui vise à convaincre le lecteur de l’article que, du point de vue de ce que l’on a coutume d’appeler un “comportement intelligent”, il n’est pas possible de prêter ce type de comportement à l’être humain dans le jeu sans également le prêter aux ordinateurs digitaux convenablement programmés pour le jeu. La conclusion que Turing tire de l’expérience du jeu revêt ainsi la forme d’une implication logique de type “si
… alors”.
178 Par “machine de papier”, Turing entend l’effectuation des instructions par un opérateur humain. Cf. A. M. Turing, “Intelligent Machinery”, op. cit., p. 34 : «Il est possible de produire l’effet d’une machine à calculer en écrivant l’ensemble des règles de procédure et en demandant à un homme de les effectuer. La combinaison d’un homme et d’instructions écrites sera appelée
“Machine de papier”».
179 Cf. A. Hodges, Alan Turing, The Enigma of Intelligence, Unwin Paperbacks, London, 1983, p. 385 et p. 392. Il s’agissait d’une machine à architecture von Neumann (c’est-à-dire composée de cinq éléments fondamentaux : unité arithmétique; unité de contrôle; mémoire; unité d’entrée et unité de sortie) possédant une mémoire de 1K sous la forme d’un tube à vide. Le programme avait été rédigé par Tom Kilburn et consistait à trouver le plus grand facteur d’un nombre entier. Turing n’a participé ni à la construction effective de ce premier ordinateur appelé par les ingénieurs de Manchester “MADM” [Manchester Automatic Digital Machine] et plus communément la
“machine-bébé” [baby-machine] à cause de la taille de sa mémoire, ni à la rédaction des premiers programmes. Nommé à Manchester en mai 1948, il n’a rejoint son poste qu’à la rentrée universitaire suivante, en octobre 1948. Il avait cependant envoyé courant juin son premier programme (effectuation d’une division) aux responsables du département. Il se trouve que ce programme comportait une erreur. Cf. A. Hodges, Alan Turing, The Enigma of Intelligence, op.
cit., p. 560 note 6.
Exposons maintenant dans le détail le but et les règles du jeu de
Exposons maintenant dans le détail le but et les règles du jeu de