Le rôle de la théorie des catégories

Le développement de la topologie algébrique entre 1945 et 1956 vit également apparaître la théorie des catégories. À l’origine de la théorie des catégories se trouvent deux articles de Eilenberg et Mac Lane, « Group Extensions and Homology » et « General Theory of Natural Equivalence », publiés respectivement en 1942 et en 1945. Leur objectif était la résolution d’un problème en topologie algébrique concer- nant le nombre de classes d’homotopie d’une application continue S3− Σ → S2 _où

Σ est un solénoïde dans la sphère tridimensionnelle. Ce problème les conduisit à considérer des isomorphismes « naturels »52.

La théorie des catégories fut introduite afin de comprendre dans toute sa géné- ralité ce caractère « naturel » dont disposent certains isomorphismes. À cette fin, Eilenberg et Mac Lane durent développer de nouveaux outils. Ceux-ci furent au pre- mier chef les concepts de foncteur et de transformation naturelle. La théorie des catégories apparut donc dès ses origines comme un langage utile facilitant l’expres- sion de certaines propriétés d’objets mathématiques ou de phénomènes rencontrés en topologie algébrique.

Eilenberg and Mac Lane’s use of categories, functors and natural transfor- mations certainly marks the birth of what can be called the first phase of category theory, a phase during which category theory was seen as providing the right mathematical framework to give a precise expression of certain problems which were previously only informally formulated. (. . . ) category theory was, dur- ing this period, which extends roughly from 1945 up to 1955–1957, considered a convenient language, or more generally, a convenient framework . [Marquis 2009, p. 11]

Cette conception de la théorie des catégories en tant que langage s’expliquait notamment par l’absence de statut ontologique accordé aux catégories elles-mêmes. Chez Eilenberg et Mac Lane, les catégories sont définies par nécessité dans la mesure

52. Pour un compte-rendu des débuts de la théorie des catégories, voir Marquis [2009, chapitre 3] et Krömer [2007, §2.2 et 2.3].

où un foncteur doit avoir un domaine et un codomaine. Leur rôle se résume ainsi à pourvoir un support afin que puissent être définis le concept de foncteur et, par extension, celui de transformation naturelle. « In itself, a category was thought to constitute neither a useful tool nor an object of study. » [Marquis 2009, p. 43]

Cette absence de statut ontologique pour les catégories se maintiendra durant toute cette première phase de la théorie à laquelle réfère Marquis. Ainsi, il n’est explicitement question de catégories qu’à une seule occasion dans Homological Al- gebra, c’est-à-dire au début du deuxième chapitre lorsque Cartan et Eilenberg défi- nissent le concept de foncteur. Ici encore, une catégorie n’est que le domaine et le codomaine d’un foncteur :

Let Λ1, Λ be any two rings. Suppose that for each Λ1-module A a Λ-module

T (A) is given and that to each Λ1-homomorphism ϕ : A → A0 a Λ-homo-

morphism T (ϕ) : T (A) → T (A0) is given such that

(1) if ϕ : A → A is the identity, then T (ϕ) is the identity, (2) T (ϕ0ϕ) = T (ϕ0)T (ϕ) for ϕ : A → A0, ϕ0: A0→ A00_.

We then say that the pair of functions T (A), T (ϕ) forms a covariant func- tor T on the category of Λ1-modules with values in the category of Λ-modules.

[Cartan et Eilenberg 1956, p. 18]

Il n’y aucune explication quant à ce qu’est une catégorie. Pis, le terme « catégorie » ne fait pas partie de l’index53. De plus, comme l’illustra déjà la section 2.2, les catégories n’interviennent pas dans la théorie de l’homologie et de la cohomologie formulée par Cartan et Eilenberg. Seules les propriétés des foncteurs jouent un rôle. Le statut des catégories dans Foundations of Algebraic Topology exige un examen plus nuancé, mais n’est au fond guère différent. Le livre de Eilenberg et Steenrod contient un chapitre — le chapitre IV intitulé Categories and functors — exclu- sivement consacré à la présentation de la théorie des catégories. Cependant, ce chapitre arrive après la définition axiomatique des théories de l’homologie. Dans le premier chapitre, Eilenberg et Steenrod définissent la notion de catégorie admis- sible sans définir auparavant celle de catégorie en général. Les catégories admissibles ne servent que de support pour définir une théorie de l’homologie comme un fonc- teur qui associe à tout espace topologique un groupe abélien. Pour citer à nouveau Marquis,

Hence a category has absolutely no ontological relevance in this context. It is part of the required “preparation” of the data for the translation to take place. If a homology theory is a machine, to use Dieudonné’s expression, then the categories involved are simply parts of the machine. [2009, p. 77]

À la lumière de ces considérations, la compréhension de la théorie des catégories en tant que langage lui fit jouer à ses débuts un rôle dans l’organisation conceptuelle de la topologie et, plus précisément, de la théorie de l’homologie. En effet, de sa

création jusqu’en 1957, la théorie des catégories fut envisagée comme un cadre tech- nique pratique, mais ultimement dispensable, pour la topologie algébrique et l’algè- bre homologique comme l’affirme Marquis : « It is probably fair to say that category theory was in this period first and foremost a useful framework for algebraic topology and homological algebra. » [2009, p. 67] Les espaces topologiques apparurent alors sous un jour nouveau parce qu’appréhendés par l’entremise des concepts propres à la théorie des catégories tels, pour n’en nommer que quelques-uns, ceux de foncteur, de foncteur dérivé, de transformation naturelle et de limite. Pour donner un exemple simple en ce sens, une théorie de l’homologie n’est ni plus ni moins qu’un foncteur. Ce faisant, la topologie s’éloigna de l’approche axiomatico-ensembliste inhérente aux mathématiques modernes, mais sans la remplacer explicitement.