Quand on s’interroge sur la nature de la notion de calcul en mathématique, on s’aperçoit qu’elle procède d’une attitude constructive. A l’origine, la notion de construction désignait la manipulation, par des procédés abstraits, des entités géométriques construites à la règle et au compas. Le sens s’est peu à peu déplacé et désigne tout procédé effectué en un nombre fini d’étapes permettant la manipulation d’entités abstraites, figures ou signes : la notion s’apparente à celle d’algorithme. La caractérisation de la notion d’algorithme a fait l’objet, au cours du XXème siècle, d’un certain nombre de thématisations39. Elles sont apparentées dans la mesure où elles tentent de préciser ce que l’on entend par calcul quand on se limite à la manipulation, par des procédés effectués en un nombre fini d’étapes,
39 Comme le fait remarquer J. Largeault au sujet de la pratique mathématique des siècles passés :
«Le constructivisme existait en mode dispersé; il ne reçut une impulsion que lors de l’extension des méthodes abstraites contemporaines de la théorie des ensembles, et finit sous nos yeux par se centrer autour des notions de règles et d’algorithme». J. Largeault, L’intuitionisme, Coll. Que Sais-je ? n° 2684, Presses Universitaires de France, Paris, 1992, p. 110. Les formes du constructivisme sont multiples; on en compte au moins trois grands courants qui correspondent à trois périodes chronologiques : l’école appelée rétrospectivement “pré-intuitionniste” (Borel, Lebesgue); l’école intuitionniste (Brouwer, Weyl); l’école d’analyse non-standard (Robinson, Reeb, Nelson). Turing a été l’instigateur d’un nouveau courant, qui a donné naissance à l’algorithmique et à l’informatique théorique.
d’entités dénombrables, qu’elles soient en nombre fini ou infini.
Une de ces thématisations, d’ordre mathématico-logique40, a été effectuée par Turing. Celui-ci a proposé une façon d’envisager la question de la nature du calcul en s’aidant d’une notion mathématique qu’il invente et qui s’apparente à celle de “machine à calculer”. Cette thématisation a un statut exemplaire quand on se place, comme nous le faisons, d’un point de vue psychologique, parce que Turing fait appel, pour introduire sa nouvelle notion de “machine à calculer”, à la figure du mathématicien calculant et aux états de son esprit, contrairement aux autres thématisations de la notion de calcul qui ne font référence, pour décrire la notion de calcul, qu’à des signes et à des compositions de signes selon des opérations. La formulation de Turing, de par son caractère psychologique, apparaît ainsi de nature plus réflexive que les autres, dans la mesure où elle rapporte à la capacité de penser l’introduction de ce qui apparaît comme un nouveau concept de nature mathématique. C’est cette apparition presque inédite41
40 Par “mathématico-logique”, on fait référence au point de vue que Brouwer qualifiait de
“logico-linguistique”. Parlant du logicisme en mathématique en le désignant sous le nom
“d’ancienne école formaliste”, Brouwer décrivait ainsi l’attitude mathématique propre à ce courant : «Encouragée par l’importance du rôle joué par la méthode logico-linguistique en géométrie, l’ancienne école formaliste plongea la logique et les mathématiques dans une science linguistique unique travaillant sur des mots ou des symboles dénués de sens en employant des lois logiques, ce qui efface la différence de caractère entre logique et mathématique et les dépouille de leur autonomie». Brouwer L. E. J., “Points and Spaces”, Collected Works, I, p. 523, traduction française dans J. Largeault, L’intuitionisme, Coll. Que Sais-je ? n° 2684, Presses Universitaires de France, Paris, 1992, p. 109.
41 A notre connaissance, seuls Bolzano, Cantor et Dedekind avaient, avant Turing, justifié l’introduction d’un concept mathématique - les notions d’ensemble infini et de cardinalité - par le biais de considérations psychologiques. Dans “Was ist und was sollen die Zahlen ?”, Dedekind justifie ainsi l’introduction de la notion d’ensemble infini : « §66. Théorème : il existe des systèmes infinis. Démonstration (une considération semblable se trouve au § 13 des Paradoxes de l’infini de Bolzano, Leipzig, 1851) : le domaine de mes pensées, c’est-à-dire l’ensemble S de toutes les choses qui peuvent être objets de ma pensée est infini. Car si a désigne un élément de S, la pensée s’, que s peut être objet de ma pensée, est elle-même un élément de S. Si l’on considère le même élément comme l’image (s) de l’élément s, l’application de S ainsi définie a la propriété que l’image S’ est une partie propre de S; et en particulier, S’ est une partie propre de S, car il y a dans S des éléments (par exemple mon moi) qui sont distincts de toute pensée de s’ de ce genre et pour cette raison ne sont pas contenus dans S’. Enfin, il est clair que si a, b, sont des éléments différents de S, leurs images a’, b’ sont aussi différents, donc que l’application est une application distincte. Par conséquent, S est infini. C.Q.F.D.». Dedekind R., Continuité et nombres irrationnels, trad. franç. par J. Milner revue par H. Sinaceur, Les cahiers d’Ornicar, Paris 1978.
Chez Cantor, la définition du nombre cardinal est justifiée par un processus psychologique qu’il appelle l’abstraction; Cf. Cantor G., “Mitteilungen zur Lehre vom Transfiniten”, section VIII, pp.
411-412, cité dans Dauben J. W., Georg Cantor, His Mathematics and Philosophy of the Infinite, Harvard University Press, Cambridge, Mass., 1979, p. 221. A ces trois auteurs, on peut sans doute ajouter l’introduction par Brouwer de la notion de suite de choix libre comme acte de production du sujet créateur, si tant est qu’il s’agisse encore d’une psychologie au sens que l’on donne
de la psychologie sur le terrain des mathématiques qui devra nous retenir au premier chef.
La seconde question présente un aspect directement philosophique : comment réussir à penser la pensée ? On sait que cette question revient à se demander comment opérer une rupture dans l’adhérence de la pensée à elle-même, rupture permettant de s’en faire une représentation. On a vu que seule une expérience indirecte reposant sur l’usage de signes semble permettre d’opérer cette rupture dans la continuité. R. Ruyer donne l’exemple d’une expérience indirecte concernant notre faculté de vision42:
«[…] il nous arrive d’avoir à obtenir un jugement sur notre propre champ visuel, soit par l’intermédiaire du spécialiste auquel nous faisons rapport, soit par nous-mêmes en tant qu’oculiste improvisé, en cherchant à voir des objets quelconques : “Je puis lire sur le tableau A H J X …” Cette auto-observation n’est pas “un regard jeté sur …” notre vision. C’est une constatation indirecte de succès ou d’échec relativement à une réussite idéale ou normale.»
Deux remarques doivent être faites concernant l’aspect indirect de l’expérience nécessaire pour rompre la continuité de la pensée avec elle-même.
Premièrement, dans l’exemple décrit par R. Ruyer, c’est l’utilisation d’objets comme symboles qui rend l’expérience indirecte : dans le cas de la visite chez l’oculiste, l’expérience de la lecture des lettres (ou de la description précise de tout autre objet) permet de projeter sur un plan externe, dans le monde des objets, les caractéristiques propres à la faculté de la vision dans son usage interne.
On crée donc artificiellement un intermédiaire, qui permet de projeter ce qui se donne sans intermédiaire, la vision. Ce qui est signe est précisément ce qui relève de cette projection : objet extérieur (en l’occurrence, des lettres) il est investi d’un rôle de représentation puisque sa perception (la vision des lettres) n’est pas opérée pour elle-même mais pour ce qu’elle signifie de la vision elle-même. La signification est donc artificiellement déplacée des objets qu’elle vise aux facultés qui la rendent possible : elle est détournée de son usage direct qui consiste, dans le
habituellement à ce terme. Cf. par exemple, Brouwer L. E. J., “Base historique, principes et méthodes de l’intuitionisme”, traduction française dans [Largeault J., Intuitionisme et théorie de la démonstration, op. cit.], p. 445-458.
42 Ruyer R., Paradoxes de la conscience et limites de l’automatisme, Albin Michel, Paris, 1966, p. 24.
cas de la vision des lettres, à établir des rapports entre les lettres et les mots pour être indirectement associée à ses conditions de production. La notion de représentation peut être définie, dans une première approche, comme le résultat de ce déplacement.
Deuxièmement, l’exemple de R. Ruyer tend à montrer que pour réussir à circonscrire le pouvoir d’une faculté psychologique (en l’occurrence, la vision), il faut réussir à se placer d’un point de vue dans lequel cette limitation ne joue pas : ici, c’est la personne de l’oculiste qui, en occupant une position suffisamment proche du tableau où sont inscrites les lettres, n’est pas soumise à une limitation dans sa vision, au moins pas à l’échelle de grandeur où s’opère le déchiffrement des lettres. Dans le cas de l’appréhension par un individu de sa propre pensée, la nécessité de s’en remettre à autrui pour tâcher d’en circonscrire les bords est tout aussi présente. On en conclut, d’un point de vue général, qu’il doit exister pour chaque individu des pensées inaccessibles à sa pensée, celles précisément qui résistent à sa compréhension43. C’est seulement dans le temps qu’une prise de conscience de l’existence de pensées non directement accessibles peut avoir lieu et une fois que cette limitation a été localement dépassée grâce à l’aide d’autrui.
L’accès au langage et à la temporalité sont donc les moyens par lesquels la pensée peut prendre une distance par rapport à elle-même. C’est ce qui rend possible la constitution d’une théorie de la psychologie, qui doit nécessairement délimiter un champ spécifique dans lequel des phénomènes vont pouvoir être étudiés. La différentiation de la pensée d’avec elle-même apparaît alors comme un processus qui n’a pas nécessairement de fin; elle se constitue en effet dans une ouverture temporelle indéfinie et dans une expérience seulement indirecte d’elle-même menée grâce à la maîtrise de signes dans des représentations.
C’est par le biais de moyens symboliques qu’il est possible à la pensée d’opérer un retour sur elle-même : ainsi, même l’absence originelle de
43 Comme le fait remarquer Fodor : «Et, dès lors que l’on admet que l’esprit a une structure endogène, on voit mal comment la théorie pourrait ne pas imposer de limitations à la classe des croyances accessibles. Ces remarques sont tout à fait indépendantes de la question de la modularité; elles suggèrent qu’en un sens toute théorie de l’esprit doit accepter le fait que celui-ci a un domaine propre. La seule question épistémiquement intéressante est donc de savoir s’il est probable que certaines pensées inaccessibles soient à la fois intéressantes et vraies.» Fodor J. A., The Modularity of Mind, MIT Press, 1983, trad. franç. La modularité de l’esprit, Minuit, Paris, 1986, p. 161.
délimitation de la pensée devient descriptible dans la sphère symbolique quand on fait usage d’une notion telle que le continu. Cette notion apparaît comme assurant le passage entre l’aspect indifférencié et non-linguistique de la pensée dans son rapport originel à elle-même et les états bien différenciés de la pensée, susceptibles d’être décrits comme des éléments discrets : entre la continuité de la pensée et son modèle qui la décrit comme relevant d’un fonctionnement discret, la notion de continu assure une transition.
Si on peut concevoir les éléments de la pensée sur le mode du fonctionnement discret, on voit cependant que cette description n’est possible que par l’appel à un état premier non différencié. Ainsi l’idée d’un fonctionnement de la pensée demande-t-elle à être explicitée dans une démarche temporelle, à partir d’un état non-différencié. Si l’on considère l’intelligence artificielle comme une théorie du fonctionnement de la pensée, alors c’est à partir d’un état non-différencié que l’on caractérisera par la notion de continu qu’il faut réussir à en penser l’émergence.
Or c’est précisément ce à quoi Turing aboutit quand il invente son concept de “machine à calculer” en se servant de l’introspection pour décrire les états mentaux du mathématicien au travail : c’est bien en effet pour résoudre la question de la calculabilité des nombres réels, c’est-à-dire des nombres qui forment le continu mathématique, qu’il invente son concept de “machine à calculer”. Cette conjonction de faits n’est pas le fruit d’une coïncidence : il doit y avoir un rapport profond - qu’il nous reste à expliciter - entre l’appel à l’introspection, le calcul des réels et la caractérisation de la pensée comme fonctionnant sur un mode discret.
On voit maintenant pourquoi on peut tenter de mettre en rapport les deux questions que nous venons de mentionner, l’une mathématique et l’autre philosophique. Dans la première, un concept mathématico-logique, celui de calcul, ne s’explicite que par un appel aux facultés du sujet. Dans la seconde, la pensée ne devient accessible à elle-même que par le biais d’une identification à un fonctionnement de type discret. Bref, dans la première question, pour penser cet objet mathématique particulier qu’est le calcul, on fait appel à la notion subjective
de pensée tandis que dans la seconde, pour penser la pensée sur le mode de l’objet, on fait appel à la notion de fonctionnement. C’est ce double mouvement qu’il va falloir tenter d’analyser, parce que c’est lui qui caractérise en propre ce que l’on nomme “l’intelligence artificielle”.
On peut s’aider, pour concevoir cette question, de la tradition philosophique.