rencontres pendant la Guerre (1943 1945) :
B. Recherches, rencontres et premier cycle de conférences Macy (1946-1948) :
17. Le Symposium Hixon :
Du 20 au 25 septembre 1948 eu lieu au California Institute of Technology (Cal-Tech), Université de Pasadena, un symposium intitulé Les
mécanismes cérébraux dans le comportement. 682 La rencontre, organisée
pour parler d’un problème classique – comment le système nerveux
contrôle-t-il le comportement ? - avait pour but de « permettre un niveau plus technique de discussion des mécanismes dans le cerveau qui pourraient correspondre aux idées, aux perceptions et au comportement. »683 Le symposium, qui a réuni plusieurs membres du
groupe cybernétique, est un moment important de la formation du paradigme. En effet, von Neumann et McCulloch ont été confrontés à la critique des plus grands noms de la neurophysiologie (Karl Lashley, Ralph Gerard), de la psychologie (Wolfgang Köhler), de l’embryologie (Paul Weiss), de la physiologie (Halstead) et de la neurophysiologie (Lorente de Nó) de l’époque, d’une façon beaucoup plus vive, voire houleuse, qu’aux conférences Macy sur lesquelles McCulloch exerçait son influence et sa maîtrise.
679
HEIMS S. J., op. cit., 1991, pp. 95-96.
680 Ibid., p. 96. 681
Ibid.
682
Cerebral Mechanisms in Behavior.
- “La Théorie Générale et Logique des Automates”, par John von
Neumann : 684
Von Neumann remarque que « les organismes naturels sont, en général,
beaucoup plus complexes et subtils, et donc bien moins finement compris, que les automates artificiels, » 685mais qu’une meilleure connaissance des
uns peut contribuer à améliorer la compréhension des autres. Il prévient que la comparaison entre « les organismes naturels, et en particulier le
plus complexe d’entre eux, le système nerveux central humain, avec les automates artificiels » doit être soumise à des conditions restrictives. Face
à la très grande complexité des systèmes naturels, il recommande de diviser le problème en plusieurs niveaux. La méthode de subdivision qu’il préconise consiste à « se représenter les organismes comme composés de
parties qui, dans une certaine mesure, sont des unités élémentaires et indépendantes. » 686
L’examen du problème va consister, d’une part à étudier « la structure et
le fonctionnement de ces unités prises individuellement, » d’autre part « à comprendre comment ces éléments sont organisés pour former un tout, et comment le fonctionnement du tout peut être exprimé en termes de ces éléments. » La première partie du problème « est actuellement celle qui domine la physiologie. Elle est étroitement liée aux chapitres les plus difficiles de la chimie organique et de la chimie […]. »687 L’auteur ne
s’estime pas qualifié pour en parler. Pour traiter la seconde partie du problème, il va être tenté « de supprimer la première partie du problème
au moyen de la procédure d’axiomatisation, et de [se] concentrer sur la seconde. » Il explique ce que signifie « axiomatiser le comportement des éléments » :
« Nous supposons que les éléments ont des caractéristiques fonctionnelles, externes, bien définies, ce qui veut dire qu’on doit les traiter comme des “boîtes noires”. Il faut les voir comme des automatismes dont la structure interne n’a pas à être dévoilée, mais dont on suppose qu’ils produisent certaines réponses, définies sans ambiguïté, en réaction à des stimuli eux aussi définis sans ambiguïté. » 688
Von Neumann décide « d’ignorer les caractéristiques physico-chimiques
internes [du neurone] pour ne retenir que ses réactions aux stimulations non ambiguës qu’un observateur extérieur peut constater. » 689 La
justification épistémologique de la boîte noire évoquée par von Neumann
« ne doit rien au béhaviorisme mais s’inspire de la “méthode axiomatique” de Hilbert dont von Neumann avait été l’élève. » 690 Jean-Luc
684 Notre lecture de ce texte qui date de 1948 et a été publié en 1951 repose pour l’essentiel sur la traduction
de Gérard Chazal. Nous signalerons les passages où nous nous référons à celle d’A. Pélissier. Note de l’auteur.
685
VON NEUMANN J., The General and Logical Theory of Automata, in Llyod A. Jeffries éd., Cerebral Mechanism
in Behavior: The Hixon Symposium, New York, John Wiley and Sons, 1951; Théorie Générale et Logique des Automates, Champ Vallon, Seyssel, 1996, trad. J.-P. Auffrand, p. 62.
686 Ibid. 687 Ibid. 688 Ibid., p. 63. 689
PELISSIER A., TETE A., op. cit., 1995, pp. 94-95.
Verley évoque le « mouvement général d'axiomatisation de l'ensemble des
mathématiques » :
« L'algèbre au sens moderne, à savoir l'étude des structures algébriques indépendamment de leurs réalisations concrètes, ne s'est dégagée que très progressivement au cours du XIXe siècle, en liaison avec le mouvement général
d'axiomatisation de l'ensemble des mathématiques et la préoccupation croissante des mathématiciens de “substituer les idées au calcul” […]. Ils furent ainsi amenés à penser que la “nature” des objets mathématiques étudiés est au fond secondaire, et le mathématicien anglais George Boole pouvait déclarer en 1847 : “La mathématique traite les opérations considérées en elles-mêmes, indépendamment des matières diverses auxquelles elles peuvent être appliquées.” » 691
Tête note que cette procédure d’axiomatisation a été généralisée à l’ensemble de la cybernétique : « Von Neumann adopte le même point de
vue épistémologique que Wiener avec son postulat d’une boucle rétroactive (feedback avec seuil) et que McCulloch avec le postulat d’une équivalence “neurone formel = proposition logique”. Il ne suppose “à l’intérieur” de cet élément que ce qui est logiquement nécessaire pour rendre compte des différences (0 ou 1) qui apparaissent à la sortie par rapport aux valeurs d’entrée. »692 Von Neumann présente la théorie de
McCulloch et Pitts comme « probablement le résultat le plus significatif
obtenu jusqu’ici par la méthode axiomatique […]. »693
Une fois cette axiomatisation admise, « nous pouvons alors étudier les
organismes de plus grande taille qu’on peut construire à partir de ces éléments […]. » Le mathématicien reconnaît les risques que comporte la
procédure d’axiomatisation « pour déterminer la validité des axiomes. » 694
Ces risques « résultent de l’extrême simplification ainsi décidée. » Mais,
face à « l’excès de complexité du système cérébral qui interdit toute
tentative d’une approche expérimentale de sa structure fonctionnelle […], simplifier de façon aussi extrême l’intelligence du fonctionnement cérébral » ne présente pas d’alternative. Et quand bien même on axiomatise le comportement des éléments, les organismes naturels restent « des assemblages incroyablement complexes de ces éléments » : « Le nombre de cellules dans le corps humain est de l’ordre de 1015 ou 1016. Le
nombre de neurones dans le système nerveux central est de l’ordre de 1010.
Nous n’avons absolument aucune expérience de systèmes d’une telle complexité.» 695
Von Neumann avance prudemment que les automates artificiels et plus particulièrement les calculateurs, bien qu’infiniment moins complexes,
« ont quelque ressemblance avec le système nerveux central, ou du moins
691
VERLEY J.-L., “Algèbre”, Encyclopædia Universalis [en ligne], consulté le 10 février 2013. URL:
http://www.universalis-edu.com.scdbases.uhb.fr/encyclopedie/algebre/ 692 PELISSIER A., TETE A., op. cit., 1995, p. 95.
693
VON NEUMANN J., op. cit, 1951, 1996, trad. Auffrand J.-P., pp. 90-91.
694
Ibid., p. 63.
avec un segment particulier des fonctions de ce système. » 696 L’exigence
que les calculateurs ne fassent aucune erreur fait qu’« une comparaison
entre les calculateurs et le fonctionnement des organismes naturels n’est pas totalement déplacée. » Le mathématicien rappelle que tous les automates de calcul se divisent en deux grandes classes : les machines
analogiques et les machines digitales.697 Cette distinction est «transférable
aux organismes vivants. »698Après avoir rappelé le principe analogique et
la manière dont on peut le réaliser dans un montage, l’auteur souligne que
« le principe directeur sans lequel il est impossible d’arriver à comprendre la situation est le principe classique de toute “théorie de la communication”, le rapport “signal/bruit” » :
« La question cruciale qui se pose à propos de toute procédure analogique est la suivante : quelle est la taille des fluctuations incontrôlables du mécanisme qui constituent le “bruit”, par rapport aux “signaux” qui expriment les nombres sur lesquels la machine travaille ? » 699
Il n’existe pas de machine analogique qui forme réellement le produit de deux nombres. Ce qu’elle forme, « c’est le produit, plus une quantité,
faible mais inconnue, qui représente le bruit aléatoire du mécanisme et des processus physiques mis en œuvre. » L’enjeu est « de maintenir cette quantité au plus bas niveau possible. » 700 Une machine digitale fonctionne
« selon la méthode bien connue de représentation des nombres par des ensembles de chiffres. […] Le système décimal (base 10) est le plus courant […]. Il est cependant vraisemblable que le système binaire (base 2) se révélera en définitive préférable […]. » 701Pas plus qu’une machine
analogique, une machine digitale ne réalise la précision absolue : « Ce
qu’elle fournit quand il faut calculer un produit n’est pas ce produit exactement, mais plutôt ce produit plus un petit terme supplémentaire, l’erreur d’arrondi. »702 La véritable importance d’une procédure digitale
réside « dans sa capacité à réduire le niveau de bruit dû au calcul dans
des proportions qui sont complètement inaccessibles dans toute autre procédure (analogique). » 703 Von Neumann souligne le caractère mixte –
analogique et digital - du système nerveux central. Ce caractère mixte des organismes vivants introduit une différence avec les calculateurs. Pour simplifier la discussion, il va considérer les organismes vivants comme des
« automates purement digitaux. » 704 Il ne sous-estime pas pour autant
l’importance des processus continus. Le neurone n’étant « pas exactement
un organe digital, » l’impulsion nerveuse ne peut être considérée comme
un phénomène élémentaire : « C’est un état dégradé du complexe
électrochimique compliqué qui constitue le neurone, et qui dans l’analyse
696
Ibid., p. 65.
697
Aline Pélissier utilise ici le terme numérique au lieu de digital. (PELISSIER A., op. cit., 1995, p. 104.).
698 VON NEUMANN J., op. cit, 1951, 1996, trad. Auffrand J.-P., p. 68. 699 Ibid., p. 69. 700 Ibid. 701 Ibid., p. 70. 702 Ibid., p. 71. 703 Ibid., p. 72. 704 Ibid., p. 74.
complète de son fonctionnement doit être vu comme une machine analogique. » 705 706
Le neurone, considéré comme un organe électrique, comme le tube à vide, « sont deux exemples de la même entité générique qu’on appelle
couramment un “organe de commutation” (commutateur) ou “organe relais”. » Les commutateurs ou relais produisent une « réponse
indépendante du point de vue énergétique, » c’est-à-dire que « l’énergie de la réponse ne peut […] pas être fournie par le stimulus original. Elle doit venir d’une source d’énergie différente et indépendante. […] (Dans le cas des neurones, cette source est le métabolisme général du neurone ; dans le cas d’un tube à vide, c’est l’énergie qui maintient la différence de potentiel de la cathode […].) »707 Alors que les organismes naturels
rendent « les erreurs aussi discrètes et inoffensives que possible, » les automates artificiels les rendent « aussi visibles et désastreuses que
possible. » Alors que les organismes naturels sont « capables de
fonctionner même après que des dysfonctionnement se sont établis, » pour un automate artificiel tout dysfonctionnement représente « le risque
considérable qu’un processus de dégénérescence générale se soit déjà instauré à l’intérieur de la machine. » 708
Après avoir expliqué comment le neurone « digitalise des quantités
continues » - pour une pression, par exemple, le nerf transmet des
impulsions à une fréquence qui varie -, von Neumann décrit le neurone considéré comme une boîte noire et les conventions qui régissent son fonctionnement, dans des termes proches de ceux de McCulloch et Pitts. Le résultat important des deux cybernéticiens « est que tout
fonctionnement qui peut être décrit complètement, logiquement et sans ambiguïté, en un nombre fini de mots peut aussi être réalisé par un réseau de neurones formels. » Ce rappel est l’occasion pour le
mathématicien de poser deux questions. La première porte sur les dimensions que pourrait occuper un réseau de neurones formels, en particulier si celui-ci pourrait « entrer dans les limites physiques de
l’organisme considéré. » La seconde question « est de savoir si effectivement tous les comportements peuvent être décrits complètement et sans ambiguïté par des mots. »709 A cette deuxième question von
Neumann répond par l’affirmative, considérant qu’une réponse négative
« reviendrait à adhérer à une forme de mysticisme. » 710 Il précise que
cela vaut pour chaque élément d’un comportement pris séparément mais que cela reste à démontrer pour la totalité de celui-ci. En outre, certaines descriptions pourraient s’avérer excessivement longues et indéfinies à
leurs frontières. Le mathématicien remarque à ce propos, comme Wiener
l’a dit du modèle du chat, que face à des entités vraiment complexes, il est possible que le plus simple modèle d’un objet soit cet objet lui-même.
705 Ibid., pp. 74-75. 706
Von Neumann adopte sur ce sujet un point de vue opposé à celui de McCulloch qui considère l’impulsion discrète comme le phénomène élémentaire. Voir l’intervention de McCulloch ci-après. Note de l’auteur.
707 VON NEUMANN J., op. cit, 1951, 1996, trad. Auffrand J.-P., p. 77. 708
Ibid., pp. 86-87.
709
Ibid., p. 92.
Von Neumann, qui s’interroge sur la possibilité théorique de réaliser des
« automates autoreproducteurs, » remarque que la reproduction des
organismes vivants s’effectue sans perte de complexité, ce qui ne semble
pouvoir être le cas « si un automate peut en construire un autre. » 711
L’auteur termine son article par le concept d’automate universel introduit par Turing :
« Un automate est “universel” si toute séquence qui peut être produite par tout automate peut aussi être produite par cet automate particuler. Bien sûr, il aura généralement besoin d’une instruction différente à cet effet. […] Cet automate, qui est construit pour lire la description d’un objet et pour imiter l’objet décrit, est alors l’automate universel au sens où l’entend Turing. » 712
Von Neumann ne voit pas de difficulté de principe à passer de l’automate
universel à l’autoreproduction des automates. Dans la discussion qui a suivi la conférence du mathématicien, McCulloch a envié le conférencier d’avoir une idée depuis le début « de ce que les machines auxquelles il est
confronté sont censées faire et de la façon dont elles sont censées le faire. » Il a déploré qu’« en psychiatrie nous sommes confrontés à une machine étrangère ou ennemie. Nous n’avons […] aucun plan de la machine et nous ne savons même pas exactement ce qu’elle est supposée faire. » Nous savons seulement « que la machine produit de mauvaises réponses. Nous le savons du fait du dommage causé à la machine par la machine elle-même et parce qu’elle fait les cent coups. » Mais « le type de difficulté existant dans cette machine n’est pas chose aisée à déterminer. » 713
Lashley a trouvé qu’on exagérait la précision de la machine organique. Quand on étudie l’organisme « ce que nous ne trouvons jamais c’est
l’exactitude ou la précision. » Dans le cas d’une réaction organique, « il existe une distribution normale ou presque des erreurs autour d’une moyenne. Les mécanismes de réaction ont un caractère statistique et leur exactitude n’est que celle de la distribution de probabilités parmi l’activité d’un nombre énorme d’éléments. » Le psychologue a prolongé son propos en exprimant l’idée selon laquelle la culture transforme le fonctionnement analogique de l’organisme en processus numérique :
« L’invention de symboles et l’utilisation de séries de nombres mémorisées transforment l’organisme en une machine numérique mais le gain en exactitude s’acquiert au détriment de la vitesse. On peut estimer le nombre de livres sur une étagère d’un coup d’œil, avec quelque erreur. Les compter exige plus de temps. En tant que machine numérique, l’organisme est inefficace. C’est pourquoi nous construisons des calculateurs. » 714
711 Ibid., p. 95. 712
Ibid., pp. 98-99.
713
McCULLOCH W. S., discussion in Von Neumann J., 1951, trad. Pélissier A., op. cit., 1995, p. 134.
- “Pourquoi l’esprit est-il dans la tête ?”
McCulloch a décrit le modèle de réseau neuronal Pitts-McCulloch, « en
prêtant une attention particulière aux données de Lorente de Nó sur les propriétés des neurones individuels, le rôle des circuits avec feedbacks négatifs, et leur modèle de mécanisme (et son substrat anatomique) à lui et à Pitts pour percevoir les formes. » 715 Le conférencier a commencé par
définir l’esprit et le corps : « Par le terme "esprit", je veux dire des idées
et des buts. Par le terme "corps", je veux dire la substance et le processus. » 716 Dans le modèle McCulloch-Pitts, « la transmission d'une
impulsion discrète d'un neurone à son voisin était l'événement élémentaire, "l'atome" à partir duquel la pensée et la perception étaient construites. » 717Malgré l’objection de von Neumann, McCulloch considère
« l'impulsion nerveuse comme un événement atomique. » 718 Il considère
en revanche que, bien que le système nerveux soit « par excellence une
machine logique, » 719 il existe au moins une raison qui le distingue d’un
ordinateur, c’est le fait que le système nerveux ne reçoive qu’une petite partie des informations recueillies par les organes des sens :
« L'œil retransmet au cerveau environ la centième partie des informations qu'il reçoit. La chance que ce qu'il retransmet vraiment soit dû au hasard est fantastiquement petite, 2-100 […]. Ici, alors, est la première différence
techniquement importante entre nous et des robots. » 720
McCulloch termine sa conférence en répondant au titre de son intervention. Considérant le neurone autant comme élément d’un réseau
que comme opérateur logique,721 et anticipant la notion de plasticité
neuronale, 722 le conférencier croit que l’esprit est dans la tête « parce que
là, et seulement là, sont les hôtes de possibles connexions [qui peuvent] être formées selon les exigences du moment […]. Chaque nouvelle connexion sert pour préparer le terrain pour d'autres encore à venir et plus aptes à nous adapter au monde, car par le cortex passent les plus grands feedbacks inversés dont la fonction est la vie résolue de l'intellect humain. La joie de créer des idéaux, nouveaux et éternels, dans et d'un
715
HEIMS S. J., op. cit., 1991, p. 239.
716 McCULLOCH W.S., “Why the Mind Is in the Head” (first published in: Cerebral Mechanisms in Behavior, L.A.
Jeffress (ed.), The Hixon Symposium, Jon Wiley Publ., New York 1951, pp. 42-57), in Warren S. McCulloch :
Embodiments of Mind, The MIT Press, Cambridge, Mass. 1965, pp. 72-87. Trad. de l’auteur, p. 1. [En ligne]. http://www.vordenker.de/ggphilosophy/mcculloch_why-the-mind-is-in-the-head.pdf
717 HEIMS S. J., op. cit., 1991, p. 239. 718
McCULLOCH W.S., op. cit., 1951, 1965, p. 4.
719 Ibid., p. 2. 720 Ibid., pp. 3-4. 721
Ces deux points de vue vont être séparés par la suite : le cognitivisme computationnel va envisager le
neurone formel comme un opérateur logique, tandis que le connexionnisme va le considérer en tant
qu’élément d’un réseau. Note de l’auteur.
722
« Longtemps, les scientifiques ont cru que le cerveau, une fois mature, se caractérisait par la stabilité de ses
connexions, jugées immuables. Depuis une trentaine d'années, cette vision de la structure et du fonctionnement cérébral a volé en éclats. Grâce à la plasticité cérébrale, le cerveau modifie l'organisation de ses réseaux de neurones en fonction des expériences vécues par l'organisme. »
(LAMBERT P., “La plasticité cérébrale”, in Sciences humaines en ligne, 2009, [en ligne], consulté le 23/06/13
monde, vieux et temporel, les robots ne l'ont pas. Pour cela ma Mère m'a porté. » 723
- Théories cérébrales de l’impulsion discrète ou des champs continus ? Le principal débat au symposium a porté sur la viabilité de la théorie de la localisation. Le psychologue Heinrich Klüver, le neurologue Johannes Nielsen et le neuropsychologue Ward Halstead ont fourni des éléments en faveur de cette théorie. En réponse, Lashley, « peut-être le
neuropsychologiste le plus remarquable de son temps, » 724 a une nouvelle
fois « passé en revue ses expériences sur la reconnaissance de modèles et
sur l’orientation des rats dans les labyrinthes. Après avoir souligné le manque remarquable de preuve en faveur de la localisation, » 725 il a jugé
qu’on avait « peu de preuves expérimentales de déficits intellectuels
provoqués par l’ablation simple des lobes préfrontaux. » 726 Il a signalé
« quelques études en neurochirurgie sur des singes qui semblaient réfuter la localisation anatomique spécifique de la perception des formes suggérée par Pitts et McCulloch. » 727
Le symposium comptait un autre opposant à la théorie de la localisation en la personne de Köhler, lequel, on s’en souvient, n’avait pas su convaincre les cybernéticiens à Macy 4. A l’époque du symposium, il avait plus de données à l’appui de « la croyance en un champ
électrophysiologique continu dans le cerveau comme corrélat physique de la perception. » 728 Köhler considérait que « le caractère atomiste de la
neurophysiologie du Dr McCulloch interdit toute approche directe des faits déterminés de façon relationnelle, comme les formes visuelles […]. »
Selon lui, « si nous concevons la fonction corticale en termes de physique