En 1912, Hausdorff est professeur à l’université de Bonn ; il donne un cours sur la théorie des ensembles. Le chapitre 6 de ses notes de cours traite des en- sembles de points et s’intitule « Voisinages » (« Umgebungen »). Hausdorff y dé- finit les points de RN, la distance euclidienne et la notion de voisinage. Nous nous appuyons sur la retranscription du manuscrit de Hausdorff présentée par Koetsier et Mill (James, 1999) pour montrer comment Hausdorff introduit ces notions.
Il commence par expliquer qu’un point peut se situer sur une ligne droite, dans le plan, dans l’espace ou de manière générale dans un espace à n dimen- sions qu’il note r = rn. Un point est défini comme un système de n nombres réels
(x1, x2, ..., xn). Hausdorff définit ensuite la distance euclidienne entre deux points
par
x.y =q(x1− y1)2+ (x2− y2)2+ ... + (xn− yn)2>0
Ce qu’il définit alors comme le voisinage d’un point x est en fait, dans le langage actuel, une boule ouverte de centre x : il écrit en effet qu’un voisinage Ux
Chapitre V. Genèse et développement historiques de quelques notions de topologie 89
Hausdorff explique que les voisinages possèdent les quatre propriétés sui- vantes :
chaque voisinage de x contient x et est contenu dans l’espace r ;
deux voisinages de x, notés Uxet Ux′sont tels que Ux⊆ Ux′ou bien Ux′⊆ Ux; si y appartient à Ux, alors il existe un voisinage de y, noté Uy, qui est contenu
dans Ux;
si x et y sont deux points distincts, alors on peut trouver deux voisinages Ux
et Uyqui sont disjoints.
Dans un espace topologique général, on fait de cette dernière propriété un axiome et l’espace qui le vérifie a alors une topologie dite « séparée ».
Au chapitre 7, Hausdorff pose la question de définir une théorie des en- sembles plus générale. Son but est de définir une notion générale d’espace qui englobe RN, les surfaces de Riemann, les espaces de dimension infinie et les es-
paces où les éléments sont des courbes ou des fonctions. Il donne deux avantages à définir cette notion : la théorie s’en trouve simplifiée et est libérée du recours à l’intuition.
Hausdorff examine brièvement les différentes approches possibles pour tra- vailler dans un espace général sans considérer les relations entre les éléments. Il dispose des notions de limite, de voisinage et de distance. Les voisinages et les limites de suites peuvent être définis en termes de distance. Les voisinages per- mettent de définir la notion de limite mais pas nécessairement celle de distance. Et à partir des limites, on ne peut définir ni les voisinages ni les distances. Koetsier et Mill reprennent les propos de Hausdorff : « Thus the distance theory seems to be the most special and the limit theory the most general ; on the other hand, the limit theory creates immediately a relation with the countable (with sequences of elements), which the neighborhood theory avoids » (ibid., p. 215).
En 1914, Hausdorff introduit l’expression « metrische Raum », traduite par Bouligand en « espace distancié » car le nom d’espace métrique ne lui semble pas approprié. Cela tient au fait que dans les travaux de Fréchet, le mot « métrique » ne fait pas référence à l’espace métrique des géomètres et donc à la géométrie. Le risque de confusion provoqué par ce mot tient à ce que « la construction des espaces abstraits, qui vise à systématiser et à généraliser des travaux épars d’ana- lyse fonctionnelle, n’est en rien – aux yeux de son auteur – une géométrisation du cadre adapté au développement de cette analyse. Le modèle est ici, comme on l’a souligné, celui de la construction par Cantor de la théorie des ensembles linéaires » (Chevallard, 1991, p. 136).
Hausdorff remarque qu’en supprimant des propriétés de dénombrabilité, on peut encore définir sur un ensemble quelconque les mêmes notions topologiques que dans un espace métrique sans recourir à l’usage d’une distance. Il appelle ce type de structure « topologie ». Cette structure est définie par un système d’axiomes imposés à des sous-ensembles appelés « ouverts » ou par un système équivalent imposé à une autre famille d’ensembles appelés « voisinages ». Ces noms sont liés au fait que dans un espace métrique, les ouverts et les voisinages
Chapitre V. Genèse et développement historiques de quelques notions de topologie 90
vérifient ces axiomes. Une grande partie des résultats établis dans les espaces mé- triques demeurent valables ou partiellement dans un espace topologique.
Après avoir donné les axiomes qui définissent un espace topologique, Haus- dorff définit la notion de point intérieur d’un sous-ensemble A : x est intérieur à A si on peut trouver un voisinage de x est un sous-ensemble de A. Un ensemble est ouvert si tous ses points sont des points intérieurs. Hausdorff montre que toute réunion d’ouverts est un ouvert et que toute intersection finie d’ouverts est un ouvert.
Après avoir défini les ouverts en termes de voisinages, il définit les notions de point d’accumulation et de fermé. Un point p est un point d’accumulation de B si chaque voisinage de p contient une infinité d’éléments de B (définition qui concorde avec la définition de point limite de Cantor). Un ensemble est fermé s’il contient tous ses points d’accumulation. Hausdorff démontre qu’une intersection de fermés est un fermé et qu’une union finie de fermés est un fermé.
6 Les traités
Nous avons vu que les efforts de rigueur des années 1860 et avec eux la construction rigoureuse de R, donnent une impulsion nouvelle aux mathémati- ciens qui s’attachent à fonder l’analyse sur des bases solides. En particulier, les questions que se posent les mathématiciens sur les fondements de l’analyse et sur la structure de la droite réelle font émerger les premières notions de topologie. Ces notions apparaissent de façon dispersée. D’où l’idée de nous pencher sur quelques traités de cette époque de façon à étudier comment y sont développées les notions de topologie.
Notre choix s’est porté sur les traités de Jordan parus en 1882 et en 1893, sur un article de Baire, rédigé dans l’Encyclopédie des Sciences mathématiques (1904), sur le livre de topologie générale de Bourbaki (1965) et sur un traité de topologie écrit par Kuratowski (1933).