Deux exemples de processus de construction de preuves

Ce paragraphe est construit en deux temps. Le premier temps est celui d’une étude épistémologique d’un mémoire de Bolzano sur le théorème des valeurs intermédiaires

(Bolzano, 1817)¹⁰. Cette étude réinvestit des éléments de mon mémoire de DEA (Barrier, 2005) et de Barrier (à paraître-b). Le deuxième temps, plus bref, s’appuie sur un travail conduit par des membres de l’IREM de Lyon dans le cadre de Math.en.Jeans¹¹ (Pontille, Feurly-Raynaud & Tisseron, 1996). L’objectif commun de ces deux moments est de confronter le vocabulaire des jeux (d’intérieur et d’extérieur) installé précédemment aux détails de processus de preuve.

Je commence par la présentation du mémoire de Bolzano sur le théorème de valeurs intermédiaires (Bolzano, 1817, traduit par Sebestik, 1964). Dans ce texte, Bolzano commence par une revue de plusieurs preuves qui ont été faites avant lui. Bien qu’il ne doute à aucun moment de la vérité du théorème qu’il souhaite démontrer, il considère qu’aucune des ces preuves n’est satisfaisante :

« Dans la méthode de démonstration la plus courante, on s’appuie sur une vérité empruntée à la géométrie : à savoir que toute ligne continue à courbure simple dont les ordonnées sont d’abord positives, puis négatives (ou inversement), doit nécessairement couper quelque part l’axe des abscisses en un point situé entre ces ordonnées. Il n’y a absolument rien à objecter contre la justesse ni contre l’évidence de ce théorème géométrique. Mais il est tout aussi manifeste qu’il y a là une faute intolérable conte la bonne méthode qui consiste à vouloir déduire les vérités des mathématiques pures (ou générales) (c'est-à-dire de l’arithmétique, de l’algèbre ou de l’analyse) de considérations qui appartiennent à une partie appliquée (ou spéciale) seule, à savoir la géométrie. » (Bolzano, 1817, 1964, p.

137)

Après avoir également sévèrement critiqué les preuves reposant sur les concepts de temps et d’espace, les preuves circulaires, fausses ou indirectes (i.e. reposant sur des théorèmes plus forts qu’il faudrait à leur tour démontrer), il conclut de la manière suivante :

« De telle lacunes se retrouvent donc dans toutes les démonstrations du théorème qui est énoncé dans le titre de ce mémoire connues jusqu’ici. Or la démonstration que je présente ici au jugement des savants contient, comme je m’en flatte, non seulement une simple affirmation d’évidence (Gewissmachung), mais un fondement objectif de la vérité à démontrer ; elle est donc véritablement scientifique. » (Bolzano, 1817, 1964, p. 143)

10 Je reviendrai sur ce texte de Bolzano au cours du deuxième chapitre de la troisième partie de la thèse.

11 http://mathenjeans.free.fr

Ce mémoire se situe dans le projet plus général de Bolzano de recherche de fondements analytiques pour l’analyse (et plus généralement pour l’ensemble des mathématiques qu’il qualifie de « pures »). Ce projet s’inscrit notamment en réaction contre la doctrine kantienne selon laquelle les preuves mathématiques se fondent sur l’usage de l’intuition pure (voir le premier chapitre de la partie 2 pour une présentation succincte de la philosophie des mathématiques de Kant). Il est décrit dans Bolzano (1810, traduit par Ewald, 1996). On peut trouver dans ce texte un appendice intitulé sur la doctrine kantienne de la construction des concepts dans l’intuition dans lequel il montre que le concept d’intuition pure est contradictoire en reprenant pour l’essentiel les arguments pré-kantiens des philosophes empiristes. Selon lui, une intuition sensible ne peut pas assurer la nécessité objective des jugements mathématiques :

« For ma part, I wish to admit openly that I have not yet been able to persuade myself of the truth of many doctrines of the critical philosophy and especially of the correctness of the Kantian assertions about pure intuitions and about the construction of concepts through them. Furthermore, I believe that in the concept of a pure (i.e. a priori) intuition there already lies an intrinsic contradiction. » (Bolzano, 1810, 1996, p. 182)¹²

Russell (1953, p. 684-85) utilisera contre Kant le même type d’arguments en considérant, avec Bolzano, que si sa philosophie est une réponse aux philosophes empiristes, cette réponse peut être réfutée « par les arguments de Hume ». Les travaux de Kant en philosophie des mathématiques ont été amplement diffusés et il ne fait aucun doute que l’approche des mathématiques de Bolzano, sa recherche de fondements objectifs constitue une réponse critique à l’approche kantienne (Laz (1993), George (2003), Sebestik (2003)). Bolzano oppose au subjectivisme kantien, qui fait d’une capacité cognitive humaine (la construction des concepts dans l’intuition) le fondement des vérités mathématiques, une sémantique platonicienne : les vérités mathématiques s’organisent dans un réseau de relations de causes à conséquences au sein d’une connexion objective des vérités. Selon lui, les arguments qui ont recours à l’intuition peuvent convaincre de la vérité d’une proposition mathématique mais ils ne peuvent pas fournir son fondement objectif, c'est-à-dire sa localisation dans la connexion objective des vérités. Selon Bolzano, et avec toutes les réserves nécessaires à une

12 « Pour ma part, je souhaite reconnaître ouvertement que je n’ai pas encore été capable de me persuader de la vérité de beaucoup de doctrines de la philosophie critique, et en particulier de

l’exactitude des déclarations kantiennes à propos de l’intuition pure et de la construction des concepts à travers elle. De plus, je crois que le concept de pure (i.e. a priori) intuition recèle une contradiction intrinsèque. » (ma traduction)

réinterprétation dans un autre cadre conceptuel, les règles des jeux d’intérieur et des jeux d’extérieur semblent relever de deux champs distincts par nature. Les jeux d’extérieur sont des jeux dont les règles font intervenir les sens. L’intuition sensible donne accès aux objets mathématiques qui peuvent être manipulés afin de parvenir à des décisions et se convaincre de la vérité d’un énoncé. A l’opposé, les jeux d’intérieur se jouent dans un domaine platonicien qui est d’intersection vide avec le domaine des choses sensibles. Pour atteindre les fondements objectifs des énoncés mathématiques, ce que Bolzano se propose de faire pour le théorème des valeurs intermédiaires, les jeux d’intérieur doivent se soumettre à la rigueur analytique et logique. Cette rigueur est pour lui largement négligée en philosophie :

« Un des traits les plus étonnants des penseurs de notre siècle est qu’ils ne se sentent pas du tout liés ou du moins ne satisfont que très médiocrement aux règles jusque là en vigueur de la logique, notamment au devoir de dire toujours précisément et avec clarté de quoi on parle, en quel sens on prend tel ou tel mot, etc. » (Traité de science de la religion, §63, cité dans Laz (1993, p. 32))

Sur le plan mathématique, Bolzano est amené à une étude précise des concepts, à une décomposition de ceux-ci en termes primitifs. Par exemple, dans le mémoire discuté, il propose, avant Weierstrass, une définition assez moderne de la notion de continuité (bien qu’elle ne permette pas encore franchement de distinguer entre continuité et continuité uniforme) :

« Car dans une explication correcte, on entend par l’expression : une fonction f(x) varie suivant la loi de continuité pour toutes les valeurs de x située à l’intérieur ou à l’extérieur de certaines bornes, rien d’autre que ceci : si x est une telle valeur quelconque, la différence f(x) - f(x + ω) peut être rendue plus petite que toute grandeur donnée, si l’on peut toujours prendre ω aussi petit que l’on voudra, c'est-à-dire lorsqu’on a (selon les notations […]) : f(x+ω)= f(x)+Ω^{. »} (Bolzano, 1817, 1964, p. 139)

Sur le plan logique, Bolzano proposera une définition de la notion de conséquence logique, à distinguer de la relation de cause à conséquence, si bien que le travail de Bolzano sur la recherche de fondements pour les mathématiques a pu être considéré comme précurseur de ceux de Frege (Benmakhlouf (2000) p. 489, Chihara (1999) p. 345, Sebestik (1999) p. 481 ou Sinaceur (1996) p. 155), plus rarement ceux de Hilbert (Rusnock (1999) p. 159) et comparé à celui de Tarski (Rusnock (1999) p. 411, Sebestik (1999) p. 501, Sinaceur (1996) p. 159, Morcher (2003) p. 149, Dubucs et Lapointe (2003) p. 230, Siebel (2003) p. 171). Je présente cette relation dans Barrier (2005). Au niveau d’analyse utile à la problématique de cette thèse, je retiendrais essentiellement le fait que Bolzano, à l’opposé de nombre de ses contemporains

mathématiciens, s’intéresse davantage à la reconstruction théorique des mathématiques dans le cadre de la relation métaphysique de cause à conséquence qu’à la recherche de nouveaux théorèmes. Comparant les approches mathématiques de Bolzano et de Lagrange, Rusnock (1999, p. 418) affirme que « Lagrange had a real talent for stating significant theorems, Bolzano for grounding them »¹³. Concernant cette fois une comparaison entre le travail de Bolzano et celui de Cauchy, Sinaceur (1973) écrit :

« Bolzano est avant tout préoccupé de rigueur théorique, d’où le souci constant de démonstrations formelles, qui nous semblent aujourd’hui souvent compliquées, sinon embarrassées ou maladroites ; d’où encore l’absence d’intérêt pour les résultats et leurs conséquences de quelque nature qu’elles soient » (Sinaceur, 1973, p. 102)

Puis, un peu plus loin :

« Les exigences de Cauchy sont, du moins dans la préface du Cours d’analyse, d’un type opposé. » (Sinaceur, 1973, p. 105)

Pour poursuivre cette mise en perspective du mémoire, on peut remarquer que Bolzano oppose de manière radicale, comme le fera plus tard Frege à travers son anti-psychologisme, l’usage des sens, nos spécificités d’êtres biologiques et les fondements des mathématiques pures. Son objectif est de rendre compte de la stabilité des mathématiques, de ce qu’il appelle leur objectivité. Pour faire cela les sens sont selon lui trop labiles. Il en résulte dans sa conception ce que j’interprète a posteriori comme une opposition radicale entre jeux d’extérieur, associés par Bolzano au sens, et jeux d’intérieur, associés à l’objectivité. Une difficulté de ce type de points de vue connue sous le nom du dilemme de Benacerraf est alors d’expliquer par quel moyen les mathématiciens parviennent à une connaissance effective de ce qui se trouve hors du champ sensible (pour Bolzano, le réseau des propositions de l’en-soi).

Bolzano n’y répond pas (Sebestik, 1992, p. 121). Diverses réponses ont été proposées par les philosophes des mathématiques. On peut par exemple postuler l’existence d’une intuition suprasensible qui donnerait accès aux objets non sensibles des mathématiques pures et aux jeux d’intérieur les concernant ce qui revient à réintégrer les jeux d’intérieur dans le domaine du sensible en postulant l’existence d’un sens extrasensible (Gödel, 1947). On peut au contraire réintégrer les mathématiques et les jeux d’intérieur parmi les sciences de la nature et remettre en cause leur caractère objectif, ou plutôt chercher l’origine de l’objectivité des

13 « Lagrange avait un véritable talent pour énoncer des théorèmes importants, Bolzano pour les fonder ». (ma traduction)

mathématiques ailleurs que dans un monde platonicien (Maddy, 1990). D’autres solutions sont bien sûr envisageables. S’il m’a semblé pertinent d’utiliser la distinction entre jeux d’intérieur et jeux d’extérieur pour analyser les pratiques mathématiques, leurs relations sont aussi au centre de ce travail. Par la suite, je cherche à montrer que bien que cela paraisse opposé à son positionnement philosophique, l’étude concrète de son mémoire montre que les deux types de jeux interagissent dans sa pratique mathématique. Avant d’en venir à l’analyse mathématique du mémoire, il me faut signaler ici que mon identification des jeux d’extérieur avec les pratiques mathématiques qui font intervenir les sens à travers l’utilisation d’objets dans les processus de preuve est sans aucun doute en contradiction avec les convictions de Hintikka. Comme Bolzano, Hintikka s’oppose à Kant sur l’intervention d’intuitions sensibles, c’est à l’appréhension d’objets à travers les sens, dans l’activité mathématique. Je préciserai ceci dans la deuxième partie de la thèse. Je fais donc en conscience un usage non conforme du vocabulaire de Hintikka en considérant que l’intervention des objets dans les jeux d’extérieur se fait à travers des processus sensibles¹⁴. De la même manière la notion de jeux d’intérieur, c'est-à-dire de jeux de déduction s’appuyant sur la forme des énoncés est assez différente de celle de relation de cause à conséquence qui est beaucoup plus « chargée » sur le plan métaphysique¹⁵. Mon interprétation de cette relation par des jeux d’intérieur repose cette fois sur le constat de l’exclusion de la prise en compte des interactions avec les particuliers.

De nombreux auteurs affirment, avec raison, que l’absence d’une définition adéquate des nombres réels rend impossible l’aboutissement complet du projet de Bolzano (par exemple Ewald (1996, p. 226), Sebestik (1992, p. 101), Sinaceur (1996, p. 163) ou Dugac (2003, p.

86)). En particulier, la tentative de preuve de la convergence des séries de Cauchy, que j’étudierai en détail dans la troisième partie de la thèse (chapitre 2), est vouée à l’échec. La perspective de mon analyse est en quelque sorte de renverser ce point : il me parait intéressant d’étudier comment les convictions sémantiques d’un mathématicien comme Bolzano sur la nature des nombres réels associées à ses conceptions philosophiques tranchées l’ont conduit à engager un travail important sur la description formelle des nombres réels. Bolzano est convaincu que l’ensemble des nombres réels doit être tel que le théorème des valeurs intermédiaires soit vrai. Autrement dit, que les jeux d’extérieur dont la structure

14 De ce point de vue, mon usage est certainement plus proche de celui de Vernant (2007) qui

considère que la Nature intervient dans les jeux d’extérieur à travers des procédures intramondaines.

15 Voir par exemple Dubucs (2003) pour des précisions et une critique à propos de la consistance de cette relation.

d’interprétation est l’ensemble des nombres réels se jouent sur un continuum, une structure sans trou. L’objectif de sa preuve n’est donc pas de s’assurer de la vérité du théorème (puisqu’il n’en doute pas) mais de parvenir à « saisir » la structure et les règles d’un jeu d’intérieur susceptible de venir fonder la vérité du théorème. Il s’agit pour lui d’expliquer quelle est la place de ce théorème dans la structure platonicienne des vérités mathématiques.

En quelque sorte, dans la démarche de Bolzano, les jeux d’extérieur précèdent les jeux d’intérieur, ils viennent guider la recherche d’un parcours formel entre causes et conséquences à l’intérieur de la connexion objective des vérités. Son travail rompt, tant sur le contenu que sur la forme, avec les standards de ses contemporains. Il « innove sur tant de points et (qui) réussit à éviter les innombrables pièges qui hantaient les analystes du début du XIXième siècle » (Sebestik, 1992, p. 102). Selon Sinaceur (1974, p. 714-715) :

« Bolzano est ici un contre-exemple : il fausse la linéarité fut-elle multipliée. La marche de l’Histoire par point d’appui successif est, par lui, mise en défaut. Au moment où l’Analyse équilibre les idées par des calculs et les calculs par des idées, où elle n’entreprend rien de fondamental ici qui ne fut « utilitaire », Bolzano

« a couru devant tous ses contemporains » et avant celui qu’on tient pour le

« vainqueur de la course » (Canguilhem, Etude d’histoire et de philosophie des sciences, 1968, p. 22), Weierstrass ou Cantor. »

Plus que ses convictions métaphysiques, il m’a paru intéressant d’étudier, toujours dans une perspective naturaliste, la pratique mathématique de Bolzano. Je présente maintenant le contenu mathématique de son mémoire en essayant de montrer plus précisément comment les jeux d’extérieur ont contribué à l’émergence de la construction théorique de Bolzano.

Dans ce mémoire, Bolzano entreprend de démontrer le théorème des valeurs intermédiaires pour les fonctions polynomiales. Bolzano l’énonce de la manière suivante (j’utilise à nouveau la traduction de Sebestik) :

L’un est le suivant : il faut qu’il y ait toujours, entre deux valeurs quelconques de la grandeur inconnue qui donnent deux résultats de signes opposés, au moins une racine réelle de l’équation. (Bolzano, 1817, 1964, p. 136)

Dans la citation précédente, il est implicite que la grandeur inconnue est une fonction polynomiale. Après avoir énoncé ce théorème et après avoir critiqué les preuves de ses contemporains, Bolzano termine une longue préface en revenant sur sa conception des mathématiques et l’organisation globale de son travail et de ses publications mathématiques.

La structure de la preuve stricto sensu est alors la suivante : Bolzano commence par énoncer et démontrer le critère de Cauchy pour les séries (§ 7) puis le théorème de la borne inférieure

(§ 12) ; il en déduit le théorème des valeurs intermédiaires (§ 15) pour les fonctions continues.

Il lui reste alors à montrer la continuité des fonctions polynomiales (§ 17) avant de conclure (§ 18). Le critère de Cauchy est nécessaire à la preuve du théorème de la borne inférieure. Il est donc raisonnable, selon les conceptions de Bolzano, que celui-ci l’ait placé avant dans l’organisation de sa preuve puisque celle-ci est supposée refléter l’organisation objective des vérités mathématiques. Je reviendrai sur la preuve de ce critère plus loin dans la troisième partie de cette thèse. En attendant, voici comment Bolzano énonce la propriété de la borne inférieure¹⁶ :

« Théorème. Si une propriété M n’est pas vérifiée par toutes les valeurs d’une grandeur variable x, mais appartient à toutes celles qui sont plus petites qu’un certain u : alors il existe toujours une grandeur U qui est la plus grande de celles dont on peut affirmer que toutes les valeurs inférieures x possèdent la propriété M. » (Bolzano, 1817, 1964, p. 153)

Cette formulation est l’élément théorique ad hoc pour expliquer pourquoi les jeux d’extérieur de recherche d’une racine d’une la fonction polynomiale sont systématiquement gagnants. Il est donc « naturel » qu’il intervienne dans le jeu d’intérieur de preuve. La démonstration de l’énoncé fait appel à un procédé dichotomique aujourd’hui classique (utilisé par exemple pour démontrer la version du théorème de Bolzano-Weierstrass pour les nombres réels) mais novateur au moment de la preuve de Bolzano : il s’agit de construire une suite d’intervalle en prenant étape par étape la moitié droite ou gauche du précédent. Pour pouvoir conclure, il est nécessaire de pouvoir affirmer que les suites formées par les extrémités des intervalles convergent. Le critère de Cauchy intervient à ce moment là. La fin de la démonstration est sans surprise. Ce qu’il me paraît intéressant de remarquer est que la procédure de preuve de Bolzano fait très fortement écho aux jeux d’extérieur et ceci malgré les convictions très radicales de Bolzano à propos de la stricte séparation entre la confirmation issue de l’intuition et la justification objective que devrait selon lui constituer une démarche

« vraiment mathématique ». Au-delà de l’expression ad hoc du théorème de la borne inférieure, on peut remarquer que le procédé dichotomique que Bolzano utilise pour démontrer le théorème de la borne inférieure aurait pu lui fournir une preuve plus directe générale des valeurs intermédiaires. Une preuve alternative consiste en effet à appliquer

16 Bolzano n’utilise pas le vocabulaire de « borne inférieure » mais son théorème peut être lu de la manière suivante : « si l’ensemble {x, ¬M(x)} est non vide et minoré alors il possède une borne inférieure ». Par ailleurs, cette propriété est équivalente à celle de la borne supérieure qui lui est souvent préférée dans l’enseignement moderne de l’analyse.

directement et « à l’aveugle » le procédé dichotomique sans passer par le théorème de la

même type d’arguments que ceux que Bolzano utilise dans sa preuve, on peut montrer que les deux suites a et _n b convergent vers une racine de la fonction polynomiale. Mon hypothèse _n est que la raison principale pour laquelle Bolzano n’a pas présenté cette preuve, alors qu’il en avait les moyens théoriques et pratiques, est que sa construction de la preuve s’est appuyée de manière importante sur ses convictions sémantiques. Pour dire les choses autrement, il me semble que malgré la volonté de Bolzano de développer une pratique de preuve éthérée, la construction de sa preuve s’inspire du jeu d’extérieur qui consiste à choisir comme candidat pour être une racine de la fonction polynomiale vérifiant les conditions du théorème la plus petite des racines de la fonction à travers un procédé intuitif qui consiste à suivre la courbe de la fonction en attendant qu’elle croise l’axe des abscisses. De ce point de vue il me semble que, bien qu’il le revendique, Bolzano ne parvient pas à éviter le « détour » qui consiste à utiliser une « connaissance accidentelle »¹⁷. Ce que je voulais mettre en évidence à travers cette étude est le fait que malgré une philosophie des mathématiques opposant farouchement ce que j’ai appelé en reprenant le vocabulaire de Hintikka les jeux d’intérieur et les jeux

même type d’arguments que ceux que Bolzano utilise dans sa preuve, on peut montrer que les deux suites a et _n b convergent vers une racine de la fonction polynomiale. Mon hypothèse _n est que la raison principale pour laquelle Bolzano n’a pas présenté cette preuve, alors qu’il en avait les moyens théoriques et pratiques, est que sa construction de la preuve s’est appuyée de manière importante sur ses convictions sémantiques. Pour dire les choses autrement, il me semble que malgré la volonté de Bolzano de développer une pratique de preuve éthérée, la construction de sa preuve s’inspire du jeu d’extérieur qui consiste à choisir comme candidat pour être une racine de la fonction polynomiale vérifiant les conditions du théorème la plus petite des racines de la fonction à travers un procédé intuitif qui consiste à suivre la courbe de la fonction en attendant qu’elle croise l’axe des abscisses. De ce point de vue il me semble que, bien qu’il le revendique, Bolzano ne parvient pas à éviter le « détour » qui consiste à utiliser une « connaissance accidentelle »¹⁷. Ce que je voulais mettre en évidence à travers cette étude est le fait que malgré une philosophie des mathématiques opposant farouchement ce que j’ai appelé en reprenant le vocabulaire de Hintikka les jeux d’intérieur et les jeux