Quelques pathologies mathématiques et contre-exemples en analyse.

Directeur de TER : Matthieu Fradelizi

Quelques pathologies math´ematiques et

contre-exemples en analyse

Arnaud Marsiglietti

Préface

Dans cette préface, je vais expliquer les raisons de mon choix du sujet de TER (Travaux Encadrés de Recherche).

Mon but premier étant l'obtention de l'agrégation, j'ai donc choisi de tra-vailler sur le sujet  Quelques pathologies mathématiques et contre-exemples en analyse . Un sujet qui est certes général mais qui me trottait en tête de-puis un certain temps car à l'oral de l'agrégation, il est très utile d'avoir à l'esprit un certain nombre de contre-exemples sur l'ensemble des thèmes mathématiques au programme. En eet, le jury pose souvent des questions du type :  existe-t-il des ensembles connexes qui ne sont pas connexes par arc ? . Alors, il faudra être en mesure de répondre  oui  en donnant un contre-exemple, notamment le fameux :

A o`u A = {(x, sin(1

x)) ; x > 0}

Ce TER est également l'occasion pour moi d'approfondir mes connais-sances particulièrement en algèbre, en géométrie, et surtout en théorie de la mesure.

Par ailleurs, je suis persuadé que mon sujet intéressera de nombreuses personnes puisqu'il y a tellement de pathologies mathématiques et de contre-exemples étonnant comme celui de Banach-Tarski qui prétend que nous pou-vons décomposer une boule en un nombre ni de morceaux de telle sorte qu'en réarrangeant ces morceaux par des isométries directes (rotations) nous obtenons deux fois le première boule ! Etonnant, non ? Mais lorsque ce pa-radoxe sera abordé, au cours de ce TER, nous verrons que ce n'est pas si loufoque que ça en a l'air.

Et voici encore un autre résultat tout aussi déroutant :

 Il existe une fonction f : R → R continue partout (donc borélienne), dérivable presque partout, de dérivée nulle presque partout, mais pourtant non constante (qui vaut 0 en 0 et 1 en 1). 

Il y a une certaine beauté dans les mathématiques qui ne peut être perçue que lorsque nous faisons des mathématiques pures.

Arnaud MARSIGLIETTI

Remerciements

Je remercie mon directeur de TER Monsieur Matthieu FRADELIZI pour avoir accepté, d'une part, de prendre des élèves pour la composition d'un TER, d'autre part pour avoir accepté le sujet que je lui ai proposé. Il m'a également appris à rédiger convenablement un mémoire, ce qui est un acquis non négligeable, utile pour toujours.

Je remercie également les personnes qui ont assisté à ma soutenance : Matthieu Meyer et Marie-Hélène Mourgues.

Table des matières

Préface iii

Remerciements v

1 Autour du théorème de Baire 1

1.1 Le théorème de Baire . . . 2

1.2 Applications . . . 4

2 Le paradoxe de Banach-Tarski 15 2.1 Préliminaires . . . 16

2.1.1 Qu'est-ce qu'un paradoxe ? . . . 17

2.1.2 Rendons le paradoxe moins paradoxal . . . 18

2.1.3 Plan de la démonstration . . . 19

2.1.4 L'axiome du choix . . . 19

2.2 Dénitions et résultats généraux . . . 21

2.3 Equidécomposabilité . . . 24

2.4 Le théorème de Banach-Tarski . . . 31

2.4.1 La sphère paradoxale de Hausdor . . . 31

2.4.2 Paradoxe de Banach-Tarski . . . 37

2.5 Commentaires . . . 40

3 Les ensembles de Cantor 45 3.1 Présentation . . . 46

3.2 Quelques dénitions et précisions . . . 47

3.3 Construction de l'ensemble triadique de Cantor . . . 48

3.4 Propriétés de l'ensemble triadique de Cantor . . . 49

3.4.1 C est compact . . . 49

3.4.2 La mesure de C est nulle . . . 50

3.4.3 C a la puissance du continu . . . 50

3.4.4 C est totalement discontinu . . . 51

3.4.5 C est d'intérieur vide . . . 51

3.4.6 C est parfait . . . 52

3.4.7 C est nulle part dense . . . 52

3.5 Les ensembles de Cantor en général . . . 52 ix

3.6 L'escalier du diable . . . 53 3.7 Conséquences . . . 56

Bibliographie 59

Autour du théorème de Baire

Dans ce chapitre, nous allons discuter du théorème de Baire et surtout de ses conséquences, car comme nous allons le voir, même si la démonstration de ce théorème semble anodine, les conséquences n'en sont pas du moins inutiles, bien au contraire.

Dans un premier temps, nous parlerons brièvement du mathématicien à l'origine de ce théorème, puis nous énoncerons son théorème. Dans une deuxième partie, nous étudierons quelques conséquences comme par exemple l'existence de fonctions continues partout sur un intervalle et qui ne sont nulle part dérivables. Nous verrons alors comment ce théorème possède de fructueuses conséquences.

Ma principale source de référence pour la rédaction de ce chapitre est [QUE].

1.1 Le théorème de Baire

Pour des informations complémentaires concernant la biographie des ma-thématiciens, veuillez consulter [DIE].

René Baire

René Baire (1874 [Paris]  1932 [Chambéry])

Avec Henri Lebesgue et Emile Borel, René Baire est un des mathémati-ciens français du début du 20ème siècle dont les idées nouvelles ont le plus inuencé le développement de l'analyse.

C'est dans une courte période de dix ans que Baire, entre vingt-trois et trente-trois ans créa son oeuvre, dont le joyau est la découverte de la propriété pour un espace topologique E qu'on appelle alors espace de Baire, qui consiste en ceci que l'intersection de toute famille dénombrable d'ouverts denses est dense. [CHO]

Théorème 1.1.1 (Baire). Soit (E,d) un espace métrique complet.

i) Si (Un)n≥1 est une suite d'ouverts denses de E, alors ∩n≥1Un est encore dense dans E.

De façon duale :

ii) Si (Fn)n≥1 est une suite de fermés d'intérieur vide de E, alors ∪n≥1Fn est encore d'intérieur vide dans E.

La démonstration suivante du théorème de Baire est issue du livre de [RUD].

Démonstration. Soit (E, d) un espace métrique complet. Soit (Un)n≥0 une suite d'ouverts denses de E et V une partie ouverte non vide de E. Nous devons montrer que ∩n≥0Unrencontre V . Comme U0est dense, U0rencontre V et nous pouvons choisir un point x0∈ V ∩ U0. Comme V ∩ U0 est ouvert (intersection nie d'ouverts), il existe un nombre r0 > 0 que nous pouvons choisir inférieur ou égal à 1 tel que la boule ouverte B(x0, 2r0) soit contenue dans V ∩ U0.

Par récurrence sur n ≥ 0, nous construisons une suite (xn)d'éléments de Eet une suite (rn)de nombres réels strictement positifs tels que rn≤ 2−n, et tels que pour tout n ≥ 1, B(xn, 2rn) soit contenue dans Un∩ B(xn−1, rn−1). En eet, supposons construits xn et rn. Comme Un+1 est dense, il existe xn+1 ∈ Un+1∩ B(xn, rn). Comme Un+1∩ B(xn, rn) est ouvert, il existe un nombre rn+1tel que 0 < rn+1 ≤ 2−n−1. Nous obtenons bien cette majoration pour rn+1 car : r1 ≤ r02−1, r2 ≤ r12−1 ≤ r02−12−1 = r02−2, ..., rn ≤ r02−n ≤ 2−n(par construction et le fait que 0 < r0 ≤ 1). Donc, rn+1 ≤ rn2−1 ≤ 2−n−1. Et rn+1 est tel que la boule ouverte B(xn+1, 2rn+1) soit contenue dans Un+1∩ B(xn, rn).

Notons Bf_(x

n, rn) la boule fermée de centre xn et de rayon rn. Nous avons Bf_(x

l'espace E est complet, et que les Bf_(x

n, rn) sont fermés, décroissants, non vides et que leur diamètre tend vers 0, nous avons ∩n≥0Bf(xn, rn) 6= ∅. Or, par construction, ∩n≥0Bf(xn, rn) ⊂ V ∩ (∩n≥0Un), ce qui montre que cette dernière intersection est non vide.

Remarque 1.1.2. La densité est relative à la topologie issue de d.

Dénition 1.1.3 (Espaces de Baire). Soit (E, d) un espace métrique. Cet espace métrique est dit de Baire s'il vérie la propriété suivante :

Pour toute suite (Un)n≥1 d'ouverts de E denses dans E, alors ∩n≥1Un est dense dans E.

D'un point de vue général, on parle d'espace topologique séparé, plutôt que d'espace métrique.

Le théorème de Baire nous informe que tout espace métrique complet est un espace de Baire. Toutefois, nous voudrions savoir ce qu'il en est de la réciproque. En fait, nous avons la proposition suivante :

Proposition 1.1.4. Soit E un espace de Baire. Alors tout ouvert de E est un espace de Baire.

Démonstration. Soit E un espace de Baire et A un ouvert de E. Nous voulons montrer que A est un espace de Baire, c'est-à-dire que pour toute suite (Un) d'ouverts de A denses dans A alors ∩nUn est dense dans A.

Soit (Un)n≥1 une suite d'ouverts de A denses dans A et posons U = ∩n≥1Un. Soit n ≥ 1. Posons On= Un∪ (A)c. L'ensemble On est clairement un ouvert de E, de plus On= Un∪ A
c = Un∪ A
c ⊃ A ∪ A
c = E Ainsi, On= E. Donc, Onest dense dans E.

L'ensemble E étant un espace de Baire, alors ∩n≥1On est dense dans E, donc : E = ∩n≥1On= ∩n≥1Un∪ A
c = U ∪ A
c = U ∪ A
c Or, A ∩ A
c⊂ A ∩ A
c = A ∩ Ac= ∅ Ainsi, A ∩ A
c

= ∅. Donc, puisque E = U ∪ A
cet U ⊂ A, alors A = U.

De cette proposition, nous pouvons construire de nombreux espaces de Baire non complet, comme par exemple (] − 1; 1[, |.|) où |.| désigne la valeur absolue.

1.2 Applications

Dans la suite, Ω désigne un ouvert de Rp_.

Dénition 1.2.1. On dit qu'un ensemble E est un : i) Gδ si E est une intersection dénombrable d'ouverts. ii) Fσ si E est une réunion dénombrable de fermés.

Considérons une fonction f : Ω → C quelconque. Que pouvons-nous dire de l'ensemble des points où f est continue ? Nous pouvons dire ceci : Proposition 1.2.2. L'ensemble des points de continuité d'une fonction f dénie sur Ω à valeurs dans C est un Gδ.

Démonstration. Pour n ≥ 1, posons

Ωn= {x ∈ Ω ; ∃Vx ; ∀y, z ∈ Vx |f (y) − f (z)| < 1 n}

où Vx désigne un voisinage ouvert de x. Montrons que pour tout n ≥ 1, Ωn est ouvert :

Soit n ≥ 1. Soit x0 ∈ Ωn. nous voulons montrer qu'il existe un voisinage ouvert Vx0 de x0 tel que Vx0 ⊂ Ωn. Par dénition, il existe Vx0 tel que pour

tous y, z ∈ Vx0, |f (y) − f (z)| <

1

n. Soit x ∈ Vx0, alors il existe un voisinage

ouvert Vx de x tel que Vx ⊂ Vx0, car Vx0 est un ouvert. Or, ∀y, z ∈ Vx0,

|f (y) − f (z)| < 1

n. Donc, si nous choisissons y et z dans Vx ⊂ Vx0, alors

|f (y) − f (z)| < 1

n. Et ainsi, x ∈ Ωn, ce qui implique que Vx0 ⊂ Ωn.

Ensuite, notons A = {x ∈ Ω ; f est continue en x}. Il ne reste plus qu'à montrer que A = ∩n≥1Ωn. ∩_n≥1Ωn⊂ A: Soit x ∈ ∩n≥1Ωn. Alors ∀n ≥ 1 ∃V_x ; ∀y, z ∈ Vx |f (y) − f (z)| < 1 n. Donc, pour z = x, nous avons que

∀n ≥ 1 ∃Vx ; ∀y ∈ Vx |f (y) − f (x)| < 1 n. Donc, ∀ε > 0 ∃V_x ; ∀y ∈ Vx |f (y) − f (x)| < ε. Ainsi, x ∈ A. A ⊂ ∩n≥1Ωn:

Soit x ∈ A. Par dénition

Alors, ∀n ≥ 1 ∃Vx ; ∀y ∈ Vx |f (y) − f (x)| < 1 2n. Alors, pour y, z ∈ Vx, |f (y) − f (z)| ≤ |f (y) − f (x)| + |f (x) − f (z)| ≤ 1 2n+ 1 2n = 1 n. Donc, x ∈ Ωn pour tout n ≥ 1. Donc, x ∈ ∩n≥1Ωn.

Nous utilisons le fait qu'il y a équivalence entre : (a)∀n ≥ 1 ∃Vx ; ∀y ∈ Vx |f (x) − f (y)| <

1 n. (b)∀ε > 0 ∃Vx ; ∀y ∈ Vx |f (x) − f (y)| < ε. Equivalence évidente si nous constatons que

∀ε > 0 ∃n ∈ N∗ ; 1 n < ε. Ainsi que, ∀n ∈ N∗ ∃ε > 0 ; ε < 1 n. Finalement, A est un Gδ.

Conséquence 1.2.3. Il n'existe pas de fonction continue sur Q et disconti-nue sur R \ Q.

Démonstration. Par la proposition 1.2.2, il sut de démontrer que Q n'est pas un Gδ.

Supposons que Q est un Gδ. Alors, il existe une suite d'ouverts (Un)n≥1 telle que Q = ∩n≥1Un. Et donc,

R \ Q = ∪n≥1Unc= ∪n≥1Fn

où pour tout n, Fn= Uncest fermé comme complémentaire d'un ouvert. De plus, pour tout n, int(Fn) = ∅. En eet, ∪n≥1Fn = R \ Q, donc pour tout n, Fn ⊂ R \ Q, donc pour tout n, int(Fn) = ∅ car int(R \ Q) = ∅. Mais, Q est dénombrable, donc il existe une suite (xn) de rationnels telle que Q = {xn; n ≥ 1} = ∪n≥1{xn}. Nous avons pour tout n ≥ 1, int({xn}) = ∅. Par ailleurs,

R = (R \ Q) ∪ Q = (∪n≥1Fn) ∪ (∪n≥1{xn})

Ce qui entraîne que R serait réunion dénombrable de fermés d'intérieur vide. Ce qui est impossible par le théorème de Baire qui arme que, puisque R est complet, au moins l'un de ses fermés est d'intérieur non vide.

Finalement, Q n'est pas un Gδ. Par ailleurs, nous venons de voir que Q est un Fσ et que R \ Q est un Gδ.

Cela dit, nous voudrions savoir s'il existe une fonction continue sur R \ Q et discontinue sur Q. Ce qui est l'objet de la proposition suivante :

Proposition 1.2.4. Il existe une fonction continue sur R \ Q et discontinue sur Q.

Démonstration. Considérons la fonction suivante :

f (x) =    1 q si x = p

q non nul irréductible, q > 0 1 si x = 0

0 si x est irrationnel

Montrons que f est continue en tout point irrationnel et discontinue ailleurs.

Soit x0 rationnel. R \ Q étant dense dans R (nous le démontrerons à la n du chapitre), il existe une suite (an)d'irrationnels telle que lim an= x0. Mais, pour tout n, f(an) = 0. Donc, lim f(an) = 0 6= f (x0) = f (lim an). nous avons donc exhibé une suite (Un) telle que lim Un= x0 et lim f(Un) 6= f (lim Un). Ce qui nie la continuité de f en x0.

Soit x0irrationnel. Soit ε > 0. Il existe q ∈ N∗tel que 1_q < ε. Considérons les fractions de la forme p

q! et prenons p tel que p

q! < x0 < p+1

q! . En fait, p est la partie entière de x0· q!, donc p existe bien. Soit x ∈]_q!p;p+1_q! [. Alors :

ou bien x est irrationnel et alors f(x) = 0.

ou bien x est rationnel, et alors son dénominateur est supérieur à q. En eet, si x = a b avec p q! < a b < p+1 q! , nous avons : p < aq! b < p + 1, donc aq! b n'est pas entier. Et donc, b est supérieur à q sinon la fraction aq!

b pourrait se simplier par b. Donc, 0 < f(x) < 1

q < ε. Nous avons donc trouvé un voisinage de x0 tel que pour tout x dans ce voisinage, f(x) ∈ ]f(x0) − ε ; f (x0) + ε[. Donc, par dénition, f est continue en x0.

Maintenant, venons-en à l'une principales conséquences du théorème de Baire : nous cherchons à savoir s'il existe une fonction continue sur tout un intervalle, mais qui est nulle part dérivable.

Lors que l'on demande à quelqu'un d'énoncer un exemple d'une fonction continue qui n'est pas dérivable, généralement on obtient comme réponse la fonction x → |x|. En eet, cette fonction est continue sur R et n'est pas dérivable en 0. Cela étant, cette fonction n'est pas dérivable qu'en un seul point. Nous pourrions alors nous dire que la plupart des fonctions continues sont dérivables par morceaux. Mais il n'en est rien, comme le prouve cet énoncé :

Proposition 1.2.5. L'ensemble A des fonctions continues sur [0; 1] qui ne sont dérivables en aucun point de [0; 1] contient un Gδ dense de C0[0; 1] l'ensemble des fonctions continues sur [0; 1].

Démonstration. Nous allons montrer que A contient un Gδ dense. A sera alors un espace de Baire. Puisque (C0_{[0; 1], k.k}

∞) est complet, A sera donc dense dans (C0_{[0; 1], k.k}

∞).

Soit B = Ac _{l'ensemble des fonctions continues dérivables en au moins} un point de [0; 1].

Posons, pour n ≥ 1,

Fn= {f ∈ C0[0; 1] ; ∃x ∈ [0; 1] ; ∀y ∈ [0; 1] |f (x) − f (y)| ≤ n|x − y|} Rappelons que pour une fonction dérivable en x0 la quantité f (x_x0₀)−f (y)−y est bornée lorsque y tend vers x0 et puisque l'intervalle [0; 1] est borné, nous en déduisons que B ⊂ ∪n≥1Fn. Nous allons montrer que Fnest fermé et que int(Fn) = ∅.

Fn est fermé :

Soit (fk)une suite de Fnqui converge vers f dans (C0[0; 1], k.k∞). Montrons que f ∈ Fn. Tout d'abord, f ∈ C0[0; 1] d'après le théorème de convergence uniforme. Ensuite, à chaque fk correspond un élément xk ∈ [0; 1] tel que pour tout y ∈ [0; 1],

|f_k(xk) − fk(y)| ≤ n|xk− y|

Puisque [0; 1] est compact, de la suite (xk) nous pouvons extraire une sous-suite, notée (xkj)j, convergeant vers x0 ∈ [0; 1]. Travaillons avec cette

sous-suite. Puisque (fk)k converge uniformément vers f, alors (fkj)j converge

uniformément vers f. Si nous montrons que lim

j→+∞(fkj(y) − fkj(xkj)) = f (y) − f (x0) alors nous aurons que f ∈ Fn.

Soit ε > 0. i) limj→+∞fkj = f dans (C 0_{[0; 1], k.k} ∞) donc, ∃N_{1 ∈ N ; ∀j ≥ N1} kf_kj− f k∞< ε 2.

ii) f est continue en x0 donc il existe δ > 0 tel que si |x − x0| < δ, alors |f (x) − f (x0)| < ₂ε. Or, limj→+∞xkj = x0 donc,

∃N_{2 ∈ N ; ∀j ≥ N2} |x_kj− x₀| < δ et alors pour tout j ≥ N2, |f(xkj) − f (x0)| <

ε

2. Nous avons

|fkj(xkj) − f (x0)| ≤ |fkj(xkj) − f (xkj)| + |f (xkj) − f (x0)|

Donc, pour tout j ≥ max(N1, N2), |fkj(xkj) − f (x0)| <

ε 2 +

ε

2 = ε. Ainsi, limj→+∞fkj(xkj) = f (x0). Par ailleurs, limj→+∞fkj(y) = f (y). En

conclu-sion,

lim

j→+∞(fkj(y) − fkj(xkj)) = f (y) − f (x0)

Finalement, puisque pour tout j ≥ 1, pour tout y ∈ [0; 1], |fkj(xkj) −

fkj(y)| ≤ n|xkj − y|, alors par passage à la limite lorsque j tend vers +∞,

nous obtenons

|f (x₀) − f (y)| ≤ n|x0− y| D'où la fermeture des Fn.

int(Fn) = ∅ :

Soit f ∈ Fn. Soit ε > 0. Notons B(f, ε) la boule ouverte de centre f et de rayon ε pour la norme k.k∞. Nous devons montrer que B(f, ε) rencontre Fnc, c'est-à-dire qu'il existe g ∈ C0_{[0; 1] telle que kf − gk}

∞ < ε et pour tout x ∈ [0; 1]il existe y ∈ [0; 1] tel que |g(y) − g(x)| > n|y − x|.

D'après le théorème de Weierstrass, il existe un polynôme P tel que kP − f k∞ < ε₂. Notons M = sup_x∈[0;1]|P0(x)| qui est ni car P est un polynôme. Soit N un entier tel que εN ≥ 2(M + n + 1). Un tel entier existe bien, en prenant par exemple N = [2(M +n+1)

ε ] + 1, où [.] désigne la partie entière. Ensuite, découpons l'intervalle [0; 1] en ∪N −1

k=0 [ k N;

k+1

N ]et considérons la fonction g0 périodique de période _N1 qui sur [0;_N1]est égale à :



g0(x) = εN₂ x si 0 ≤ x ≤ _2N1 g0(x) = ε₂− εN₂ x si _2N1 ≤ x ≤ _N1

go est continue sur [0; 1] : lim x→ 1 2N −g0(x) = lim x→ 1 2N − εN 2 x = ε 4 lim x→ 1 2N +g0(x) = lim x→ 1 2N +( ε 2 − εN 2 x) = ε 4

Donc, lim_x→ 1 2N −g₀(x) = lim x→_2N1 +g0(x). lim x→0+g0(x) = lim_x→0+ εN 2 x = 0 lim x→_N1− g0(x) = lim x→_N1− (ε 2 − εN 2 x) = 0 Donc, limx→0+g₀(x) = lim

x→1 N

−g₀(x).

Par ailleurs, g0 est ane par morceaux et périodique de période _N1, donc g0 est continue partout sur [0; 1] et est dérivable sur [0; 1] sauf en un nombre ni de points. Si x ∈ [0; 1 2N], g 0 0(x) = εN2 et si x ∈ [ 1 2N; 1 N], g 0 0(x) = −εN2 . Donc, aux points où g0 est dérivable, |g00(x)| = εN2 ≥ M + n + 1, par dénition de N. De plus, nous avons clairement que supx∈[0;1]|g0(x)| = ε₄.

Posons g = P + g0. Alors, kf − gk∞ = kf − P − g0k∞ ≤ kf − P k∞+ kg0k∞ ≤ ε 2+ ε 4 < ε.

Par ailleurs, soit x dans [0; 1], alors x se situe dans un des intervalles du type [K

2N; K+1

2N ], K = 0, ..., 2N − 1. Choisissons y dans le même intervalle, ce qui donne |g₀(y) − g0(x)| =    |εN₂ y −εN₂ x| = εN₂ |y − x| ou |ε 2 − εN 2 y − ε 2 + εN 2 y| = εN 2 |y − x|

De plus, par le théorème des accroissements nis, |P (y) − P (x)| ≤ M|x − y|. Ainsi :

|g(y) − g(x)| = |go(y) + P (y) − g0(x) − P (x)| ≥ |g0(y) − g0(x)| − |P (y) − P (x)| = εN 2 |x − y| − |P (y) − P (x)| ≥ (M + n + 1)|x − y| − M |x − y| = (n + 1)|x − y| Finalement, g ∈ B(f, ε) ∩ Fc

n. Donc, int(Fn) = ∅. Nous en concluons que ∩_n≥1F_nc est un Gδ dense. Or, B ⊂ ∪n≥1Fn, donc A = Bc ⊃ ∩n≥1Fnc. Et alors, A contient un Gδ dense. Puisque (C0[0; 1], k.k∞) est complet, A est dense dans (C0_{[0; 1], k.k}

Non seulement cette proposition nous assure l'existence de telles fonc-tions, mais en plus elle nous informe qu'il y a beaucoup de fonctions continues qui ne sont dérivables en aucun point, ce qui est contraire à l'intuition et à la pratique usuelle. D'ailleurs, de grands mathématiciens importants tel Henri Poincaré estimaient extravagantes et inutiles d'intérêts de telles fonctions ; il dit :  De l'étude de tels monstres, ou de théorèmes sous des hypothèses non analytiques, il ne sortira jamais rien de bon . [CHO]

Remarque 1.2.6. Le théorème de Baire a bien d'autres applications impor-tantes comme le théorème de Banach-Steinhaus ; le théorème de l'application ouverte ; le fait qu'il n'existe pas de norme sur l'espace vectoriel R[X] des polynômes qui rende cet espace complet ; le fait que l'ensemble des points de continuité de la limite simple d'une suite de fonctions soit un ensemble gras (c'est-à-dire qu'il contient une intersection dénombrable d'ouverts denses), etc. D'ailleurs, nous terminerons ce chapitre par cette dernière proposition, ainsi que quelques remarques.

Dénition 1.2.7. Dans un espace métrique, un ensemble est dit :

i) maigre, s'il est contenu dans une réunion dénombrable de fermés d'inté-rieurs vides.

ii) gras, s'il contient une intersection dénombrable d'ouverts denses.

Les ensembles maigres (resp. gras) sont aussi appelés ensembles de pre-mière catégorie de Baire (resp. de deuxième catégorie).

Nous avons alors :

Proposition 1.2.8. Soit (fk) une suite de fonctions continues sur Rp à valeurs dans C, qui converge simplement vers une fonction f. Alors, f est continue sur un ensemble gras, donc dense.

Démonstration. Soit (fk) comme dans l'énoncé, qui converge simplement vers une fonction f. Nous avons vu dans la proposition 1.2.2 que l'ensemble des points de continuité de f est l'ensemble ∩n≥1Ωn où

Ωn= {x ∈ Rp ; ∃Vx ; ∀y, z ∈ Vx |f (y) − f (z)| < 1 n} est ouvert.

Si nous montrons que, pour tout n ≥ 1, Ωn est dense, alors il viendra que l'ensemble des points de continuité de f sera gras.

Soit n ≥ 1, soit O un ouvert quelconque non vide, montrons alors que O ∩ Ωn6= ∅. Pour k ≥ 1, posons

Ek= ∩i,j≥k{x ∈ Rp ; |fi(x) − fj(x)| ≤ 1 5n}

Pour tout j ≥ 1, fj est continue. Donc, pour i, j ≥ 1, fi− fj est continue. Or, {x ∈ Rp _{; |f} i(x) − fj(x)| ≤ 1 5n} = {x ∈ Rp ; (fi− fj)(x) ∈] − ∞; − 1 5n] ∪ [ 1 5n; +∞[} = (fi− fj)−1(] − ∞; − 1 5n] ∪ [ 1 5n; +∞[) Donc, {x ∈ Rp_{; |f}

i(x)−fj(x)| ≤ _5n1 }est fermé comme image réciproque d'un fermé par une application continue. Ainsi, Ek est fermé comme intersection de fermés. D'autre part, ∪_k≥1Ek = ∪k≥1∩i,j≥k{x ∈ Rp ; |fi(x) − fj(x)| ≤ 1 5n} = {x ∈ Rp ; ∃k ≥ 1 ; ∀i, j ≥ k, |fi(x) − fj(x)| ≤ 1 5n} = Rp

car pour tout x ∈ Rp_{, lim}

k→∞fk(x) = f (x), donc (fk(x)) est une suite de Cauchy, et donc ∃N ∈ N ; ∀i ≥ N, ∀j ≥ N |fi(x) − fj(x)| ≤ _5n1 .

L'ensemble O est ouvert, donc il existe un ouvert O1 inclus dans O tel que O1 ⊂ O. Nous avons :

O1 = O1∩ Rp = O1∩ (∪k≥1Ek) = ∪_k≥1(O1∩ Ek)

Puisque O1 ⊂ O1, O1 n'est pas d'intérieur vide. Or, O1 est fermé et nous avons vu que Ekétait également fermé, ainsi il en est de même pour O1∩ Ek. Par ailleurs, si pour tout k ≥ 1, O1∩ Ek était d'intérieur vide, alors d'après le théorème de Baire, ∪k≥1(O1∩ Ek) = O1 serait d'intérieur vide. Donc, il existe k0 ≥ 1 tel que O1∩ Ek0 n'est pas d'intérieur vide. Il existe donc un

ouvert V contenu dans O1∩ Ek0. Autrement dit, pour tout y ∈ V , pour tout

i, j ≥ k0, |fi(y) − fj(y)| ≤ _5n1 . En particulier, en prenant j = k0 et en faisant tendre i vers +∞, alors

∀y ∈ V |f (y) − f_k0(y)| ≤ 1 5n Ensuite, fk0 étant continue sur R

p_{, alors}

∀x ∈ V ∃Wx ⊂ V ; ∀y ∈ Wx |fk0(x) − fk0(y)| ≤

1 5n

Nous en déduisons que ∀x ∈ V ∃Wx⊂ V ; ∀y ∈ Wx :

|fk0(x) − f (y)| ≤ |fk0(x) − fk0(y)| + |fk0(y) − f (y)|

≤ 1 5n + 1 5n = 2 5n Si z ∈ Wx, alors |f (y) − f (z)| ≤ |f (y) − f_k0(x)| + |fk0(x) − f (z)| ≤ 2 5n + 2 5n = 4 5n < 1 n

Ceci montre que V ⊂ Ωn. Puisque V ⊂ O1∩ Ek0 ⊂ O1 ⊂ O, nous avons que

V ⊂ O ∩ Ωn. Donc, O ∩ Ωn6= ∅.

Finalement, l'ensemble des points de continuité de f est une intersection dénombrable d'ouverts denses de Rp_{, c'est donc un ensemble gras et même} un ensemble dense dans Rp _{car (R}p_{, |.|)est métrique complet.}

Terminons ce chapitre par quelques remarques.

Remarque 1.2.9. i) Soit (E, d) un espace métrique quelconque. Si U et V sont deux ouverts denses dans E, alors U ∩ V est un ouvert dense de E. En eet, U ∩ V est évidemment ouvert comme intersection de deux ouverts (intersection nie). Montrons la densité.

Soit x ∈ E, soit ε > 0. Montrons que B(x, ε) ∩ U ∩ V 6= ∅. Nous aurons alors montré que U ∩V est dense dans E. U est dense dans E, donc B(x, ε)∩ U 6= ∅. Ainsi, il existe y ∈ E tel que y ∈ B(x, ε) ∩ U qui est ouvert, donc il existe ε1 > 0 tel que 0 < ε1 < ε et B(y, ε1) ⊂ B(x, ε) ∩ U. D'autre part, V est dense dans E, donc B(y, ε1) ∩ V 6= ∅. Ainsi, il existe z ∈ E tel que z ∈ B(y, ε1) ∩ V ⊂ B(x, ε) ∩ U ∩ V. Donc, B(x, ε) ∩ U ∩ V 6= ∅.

ii) Ce qui est encore vrai pour un nombre ni d'ouverts denses.

iii) Le théorème de Baire est faux en général pour les espaces métriques quelconques. En eet, plaçons-nous sur (Q, |.|). Q est dénombrable, donc Q = {xn; n ∈ N}. Considérons Un= Q \ {xn}. La suite (Un) est évidemment une suite d'ouverts denses de Q. Or nous avons, ∩n∈NUn = ∅. Cependant, ∅ n'est pas dense dans Q. En fait, Q n'est pas complet, ce qui pose bien un problème.

Remarque 1.2.10. Précisons que ∩n≥1Un est dense dans E mais n'est pas nécessairement ouvert.

En eet, plaçons-nous dans (R, |.|), qui est un espace de Banach. Q est dénombrable, donc il existe une suite de rationnels (xn) telle que Q = {x_n; n ≥ 1}. Considérons une suite d'ensembles (Un) telle que pour tout n ≥ 1, Un= R \ {xn}. Alors, pour tout n ≥ 1, Un est clairement un ouvert dense de R. Et nous avons ∩n≥1Un= ∩n≥1(R \ {xn}) = R \ Q. L'ensemble R \ Q est bien dense dans R (nous venons de le démontrer) mais n'est ni ouvert ni fermé.

D'autre part, nous venons de montrer que nous pouvons trouver un espace de Banach E dans lequel une de ses parties A soit dense dans E ainsi que son complémentaire Ac_{, ce qui semble contradictoire a priori car intuitivement} un ensemble A est dense dans E s'il  est partout  dans cet ensemble et donc on penserait que le complémentaire Ac _{est nécessairement  presque} nulle part .

Le paradoxe de Banach-Tarski

Dans ce chapitre, nous étudierons le paradoxe de Banach-Tarski qui arme qu'il est mathématiquement possible de décomposer une boule en nombre ni de morceaux de telle sorte qu'en recomposant ces morceaux nous obtenons deux fois la première boule. Vous avez très bien entendu (ou plutôt lu) !

Dans un premier temps, nous parlerons des mathématiciens en question puis nous tenterons de rendre le résultat du paradoxe moins  paradoxal  en expliquant ce qui fait fonctionner les choses et en détaillant le plan de la démonstration pour la rendre moins brutale. En deuxième partie, nous at-taquerons la démonstration propre au paradoxe Banach-Tarski. Finalement, nous fournirons quelques détails sur le contexte historique de ce paradoxe an de comprendre comment on l'a découvert.

Pour des informations complémentaires sur ce sujet, consultez l'article original de [BAN] et [HAU] ou pour une version plus moderne consultez [GUI] ou [WAG], ou encore [HAR] notamment pour la dernière partie, qui sont les livres de référence du sujet.

Dans ce chapitre, nous écrirons (AC) devant les propositions qui utilisent l'axiome du choix.

2.1 Préliminaires

Stefan Banach

Stefan Banach : (1892 [Cracovie]  1945 [Lvov])

Mathématicien polonais. Il fut étudiant à l'école polytechnique de Lvov en Pologne (aujourd'hui cette ville est en Ukraine) en 1910 avant de devenir professeur à l'université. Il est l'un des fondateurs de l'analyse fonctionnelle. On lui doit les espaces de Banach (qu'il appelait espaces de type (B)). Alfred Tarski

Alfred Tarski : (1901 [Varsovie]  1983 [Berkeley])

Alfred Tarski était un logicien et philosophe polonais. Il fut avec Kurt Gödel l'un des logiciens les plus éminents du vingtième siècle, fondateur de la théorie des modèles et de la sémantique formelle. D'abord disciple de Stanis-law Lesniewski et Jan Lukasiewicz, membre de la brillante école polonaise de logique et du cercle de Vienne durant l'entre-deux-guerres, Tarski (né Alfred Tajtelbaum d'une famille juive de la bourgeoise de Varsovie, et devenu Alfred Tarski en 1924, an d'enseigner à l'université comme docent(conférencier)) fuit la Pologne et s'exile aux Etats-Unis en 1939. C'est là qu'à partir de 1945 il fonde à l'Université de Berkeley l'un des centres les plus actifs au monde dans le domaine de la logique mathématique, où il formera plusieurs générations de mathématiciens, jusqu'à sa mort en 1983.

Toutefois, un autre mathématicien est important dans l'élaboration de ce paradoxe. Il s'agit de Hausdor.

Félix Hausdor

Félix Hausdor : (1868 [Breslau]  1942 [Bonn])

Félix Hausdor est un mathématicien allemand. Comme il est issu d'une famille aisée, Hausdor n'a pas l'obligation de faire carrière et, s'il enseigne à l'université de Leipzig à compter de 1895, il consacre la majeure partie de son temps à la littérature et à la philosophie. Sous le pseudonyme de Paul Mongré, il publie des poèmes, des ouvrages critiquant les thèses de Nietzsche, ainsi qu'une farce jouée dans douze villes allemandes. Ce n'est qu'à partir de 1904 qu'il se consacre totalement aux mathématiques. Sa renommée repose surtout sur son ouvrage Grundzüge der Mengenlehre (1914), qui en t le fondateur de la topologie et de la théorie des espaces métriques.

Théorème 2.1.1 (Paradoxe de Banach-Tarski). (AC) La boule unité eu-clidienne de R3 _{est paradoxale sous l'action du groupe des isométries de} l'espace.

Nous dénirons le terme  paradoxal  par la suite mais concrètement, ce paradoxe signie qu'il est théoriquement possible de découper une boule euclidienne en un nombre ni de morceaux, de telle sorte qu'en réarrangeant

ces morceaux par rotations (et sans apport de matière) ils forment deux boules de même volume que la boule de départ.

Autant dire tout de suite que cet énoncé mérite bien son nom de paradoxe. Intuitivement, cela semble littéralement impossible.

2.1.1 Qu'est-ce qu'un paradoxe ?

Etymologiquement, paradoxe vient du grec  paradoxos  signiant  ce qui va contre l'opinion commune  [LAR]. Bien qu'actuellement plusieurs dénitions existent, les diverses signications attribuées à ce mot conservent toujours cette référence à un énoncé provoquant une émotion de surprise, car contraire au sens commun, à ce qui est attendu.

Au sens strict, le paradoxe est  toute conclusion apparemment inaccep-table dérivant de prémisses qui, elle, semblent accepinaccep-tables, par l'intermédiaire de raisonnements qui semblent corrects . En réalité, soit la solution n'est pas réellement inacceptable, soit le point de départ ou le raisonnement peuvent être remis en cause par la mise en évidence d'une faille non perceptible au premier abord.

Historiquement, les paradoxes se retrouvent souvent associés à des crises majeures de la pensée scientique, ces crises aboutissant parfois à des avan-cées révolutionnaires dans le domaine des mathématiques.

Nous pouvons distinguer plusieurs catégories de paradoxes, en voici trois : 1) Le raisonnement et la conclusion sont parfaitement exacts, mais la conclusion choque, parce que contraire à celle attendue ; c'est le  para-doxe  au sens classique du terme ; ainsi par exemple le parapara-doxe de Ga-lilée, qui se rendit compte que l'ensemble de tous les nombres entiers positifs est inni et découvrit également que l'ensemble des carrés de tous les en-tiers positifs est lui aussi inni. Il le prouve en démontrant qu'il existe une correspondance terme à terme entre les éléments de chacun des deux en-sembles. Il semble alors logique d'en conclure qu'il existe une quantité égale de nombres dans chaque ensemble, car il existe dans chacun d'entre eux un et un seul nombre correspondant à un nombre unique dans l'autre ensemble. Mais cela semble surprenant, puisque nous nous attendions à ce que l'en-semble des carrés de tous les entiers positifs soit strictement plus petit que

l'ensemble de tous les entiers positifs. Et plus généralement les paradoxes liés aux ensembles innis. Il n'est pas nécessaire de leur trouver une  solution , puisque le résultat est juste !

2) La conclusion est exacte, les prémisses aussi, mais une faille bien cachée aecte le raisonnement. Il sut alors de détecter cette faille, mais cette re-cherche peut donner des renseignements intéressants sur les modes de raison-nement mathématique et inciter à créer de nouveaux savoirs mathématiques. Ainsi, le paradoxe d'Achille et de la Tortue, qui s'énonce ainsi :  Achille voit une tortue qui se déplace en avant sur son chemin. Il se met à courrir pour la rattraper. Mais, malgré sa grande vélocité, Achille ne pourra jamais y arriver car lorsqu'il atteint la place qu'occupait la tortue, cette dernière a avancé, il doit donc maintenant atteindre la place qu'elle occupe alors, et ainsi de suite, etc. , constitue une bonne motivation à parler de convergence de séries, y compris une incitation pédagogique. Le paradoxe des classes de Russell, qui s'énonce ainsi :  L'ensemble des ensembles n'appartenant pas à eux-mêmes appartient-il à lui-même ? , nous force à prendre un certain nombre de pré-cautions dans la construction de la logique propositionnelle et nous dirige vers la théorie des types.

3) Le paradoxe dépend d'une prémisse particulière comme par exemple le paradoxe du barbier qui s'énonce ainsi :  Sur l'enseigne du barbier d'un village, on peut lire :  Je rase tous les hommes du village qui ne se rasent pas eux-mêmes, et seulement ceux-là. . Savez-vous qui rase le barbier ? 

- S'il se rase lui-même, alors il ne respecte pas son enseigne. Il raserait quelqu'un qui se rase lui-même.

- S'il ne se rase pas lui-même, alors son enseigne ment. De ce fait, il ne raserait pas tous les hommes du village.

De tels paradoxes démontrent simplement par l'absurde que l'objet dont il est question ne peut exister.

Notre paradoxe de Banach-Tarski se situe dans la première catégorie ! En eet, si le paradoxe de Banach-Tarski va à l'encontre de l'intuition commune et surprend, voire dérange, il n'en demeure pas moins un résultat mathéma-tique démontré et vrai dans le cadre de l'axiomamathéma-tique de Zermelo-Fraenkel + axiome du choix (ZFC). Il s'agit donc de ne pas se laisser entraîner à croire qu'il y a une erreur dissimulée ici ou là, non, tout ce qui va suivre est bel et bien mathématiquement vrai.

Pour des informations complémentaires sur les paradoxes, je vous invite à consulter [FAL].

2.1.2 Rendons le paradoxe moins paradoxal

Tout d'abord, le paradoxe utilise l'axiome du choix, qui, bien qu'ar-mant quelque chose d'intuitivement évident, n'est ni réfutable (1938) [GÖD],

ni démontrable (1963) [COH], dans le cadre de ZFC. Et certaines de ses conséquences sont terriblement gênantes comme par exemple le paradoxe de Banach-Tarski justement, ou encore le fait que tout ensemble soit bien or-donnable, c'est-à-dire que par exemple nous pouvons munir R d'un ordre tel que tout sous-ensemble de R possède un plus petit élément.

Deuxièmement, il est entièrement impossible de réaliser la décomposition paradoxale d'une boule physiquement, ni même de l'imaginer.

Enn, le raisonnement suivant ne tient pas :  Le volume de la boule de départ doit être égal à la somme des volumes des morceaux, qui doit être égal au volume de la boule d'arrivée . En eet, les morceaux utilisés ne sont pas mesurables pour la mesure de Lebesgue. Ainsi, nous comprenons mieux le résultat du paradoxe.

2.1.3 Plan de la démonstration

Nous commencerons par donner quelques dénitions, comme celle d'équi-décomposabilité qui traduit le fait que l'on puisse  découper  deux en-sembles en nombre ni de morceaux,  déplacer  les morceaux, et obtenir l'autre. Le problème est alors de montrer qu'il existe deux parties disjointes d'une boule, chacune équidécomposable à la boule tout entière. On dit dans ce cas que la boule est paradoxale.

Ensuite, nous montrerons qu'il existe deux rotations de l'espace R3 _qui engendrent un groupe libre de rang 2. Ceci se fait par des moyens d'arith-métiques.

Nous déduirons alors le paradoxe de Hausdor, en utilisant l'axiome du choix, qui arme que la sphère unité S2 de l'espace, privée d'un nombre dénombrable de points, est paradoxale.

Enn, nous éliminerons le problème du nombre dénombrable de points à retirer, puis nous passerons de la sphère à la boule.

2.1.4 L'axiome du choix

Avant de nous intéresser aux ensembles paradoxaux et au théorème de Banach-Tarski, nous allons évoquer rapidement le pilier de la démonstration, celui qui va faire naître le paradoxe : l'axiome du choix.

L'axiome du choix, que l'on note (AC), arme qu'il est légitime de construire des objets mathématiques en répétant un nombre inni (même non dénombrable) de fois l'opération de choisir un élément dans un ensemble non vide.

Il existe de nombreux énoncés équivalents pour (AC). En voici quelques exemples :

Théorème de Tykhonov. Le produit d'une famille non vide d'ensembles non vides est non vide.

Lemme de Zorn. Tout ensemble ordonné non vide et inductif, c'est-à-dire que toute partie non vide et totalement ordonnée de cet ensemble possède un majorant, admet un élément maximal.

Théorème de Zermelo. Tout ensemble non vide est bien ordonnable, c'est-à-dire que l'on peut munir tout ensemble d'une relation d'ordre de telle sorte que tout sous-ensemble non vide de cet ensemble possède un plus petit élément.

Dénition 2.1.2 (Fonction de choix). Soit X un ensemble non vide. On ap-pelle fonction de choix sur X une application F : X \{∅} → ∪Y ∈XY vériant F (x) ∈ x pour tout x non vide dans X.

Une fonction de choix est une fonction qui choisit un élément et un seul dans chaque élément non vide de X, c'est-à-dire de chaque élément pour lequel un tel choix soit possible. Dans le contexte du système axiomatique de Zermelo-Fraenkel que nous adoptons, X désigne un ensemble d'ensemble. Exemple 2.1.3. Supposons X = {{0}, {1, 2}, {1, 2, 3}}. Une fonction de choix sur X serait une fonction qui à chaque élément de X (ici, tous les élé-ments sont non vides) choisit un élément (de l'élément de X). Par exemple, considérons la fonction F dénie par

F ({0}) = 0 F ({1, 2}) = 1 F ({1, 2, 3}) = 1 Alors, F est une fonction de choix sur X.

Dénition 2.1.4 (Axiome du choix). On appelle axiome du choix, l'énoncé suivant :  Tout ensemble non vide possède une fonction de choix . Autre-ment dit :

(∀X)(X 6= ∅) =⇒ (∃F : X \ ∅ → ∪Y ∈XY, ∀x ∈ X \ ∅, F (x) ∈ x) Habituellement, nous préférons donner la dénition plus commune sui-vante :

Dénition 2.1.5 (Axiome du choix). Soit X un ensemble. Alors il existe une fonction f : P(X) \ {∅} → X qui à A associe a ∈ A.

Nous ne nous attarderons pas plus longtemps sur l'axiome du choix. Il est par contre important de souligner le fait que si l'axiome du choix arme l'existence d'une fonction de choix, il n'en donne aucune construction.

2.2 Dénitions et résultats généraux

Commençons par énoncer plusieurs dénitions et propriétés que nous utiliserons tout le temps par la suite.

Dénition 2.2.1 (Dénombrabilité). Un ensemble E est dit dénombrable s'il existe une bijection de E dans N.

Résultats 2.2.2. i) N, Z, Q sont dénombrables. ii) R n'est pas dénombrable, il est dit non dénombrable.

iii) (AC) Une union dénombrable d'ensembles dénombrables est dénombrable. Dénition 2.2.3 (Partition). Soit A un ensemble. Une partition de A est une suite nie (Ai)1≤i≤n de parties non vides de A deux à deux disjointes telle que ∪n

i=1Ai = A. Chaque Ai s'appelle un morceau de A.

Dénition 2.2.4 (groupe). Un groupe est un ensemble G muni d'une loi ∗ : G × G → G de composition interne telle que :

i) ∗ est associative : pour tous x, y, z ∈ G, x ∗ (y ∗ z) = (x ∗ y) ∗ z.

ii) ∗ possède un élément neutre : Il existe e ∈ G tel que pour tout x ∈ G, x ∗ e = e ∗ x = x.

iii) Tout élément de G admet un inverse : Pour tout x ∈ G, il existe y ∈ G tel que x ∗ y = y ∗ x = e.

Dans la suite, si cela ne créer pas d'ambiguïtés, nous noterons ab plutôt que a ∗ b l'image du couple (a, b) par ∗ ; 1 l'élément neutre ; an _désignera a ∗ · · · ∗ a nfois (n ∈ N∗ et a0 = 1) ; a−1 l'inverse de a ; a−n= (an)−1. Dénition 2.2.5 (Indépendance entre éléments d'un groupe). On dit que deux éléments a et b d'un groupe G sont indépendants si les éléments a, b, a−1, b−1 de G sont tous distincts et si pour tout n ≥ 2 et pour toute liste (g1, . . . , gn) de G tous égaux à a, b, a−1 ou b−1, il est impossible d'avoir g1. . . gn= 1 si gigi+16= 1 pour i = 1, . . . , n − 1.

Une liste est une famille (g1, . . . , gn)dont l'ordre des éléments est impor-tant.

Dénition 2.2.6 (Mot). Une telle liste dénie précédemment (g1, . . . gn) d'éléments de G est appelé un mot. L'entier n est appelé la longueur du mot. Si n = 0, on dit que le mot est vide, nous le noterons 1 par commodité et s'il n'y a pas d'ambiguïté avec le neutre de G.

Dénition 2.2.7 (Mot réduit). Un mot est dit réduit s'il n'y a pas dans le mot deux éléments consécutifs qui soient inverses l'un de l'autre.

Dénition 2.2.8 (Groupe libre de rang 2). Si un groupe G est engendré par deux éléments a et b indépendants, on dit que G est librement engendré par a et b. Dans ce cas, tout élément de G sauf le neutre est représenté par un mot réduit. G est alors appelé un groupe libre de rang 2.

La loi de composition est celle qui consiste à écrire deux mots réduits côte à côte, puis à réduire le nouveau mot obtenu. Par exemple (aaab)(b−1_a−1_{b) =} aab.

Remarque 2.2.9. Si G est un groupe libre de rang 2, alors il ne peut pas être abélien(commutatif). En eet, si nous considérons le mot aba−1_b−1_{, alors par} dénition, aba−1_b−1 _{6= 1. Or si G était abélien, nous aurions aba}−1_b−1 ₌ aa−1bb−1= 1. Ce qui est contradictoire.

Dénition 2.2.10 (Action de groupe). Soient E un ensemble et G un groupe. On dit que G opère sur E s'il existe une application · : G × E → E qui à (g, x) associe g · x qui vérie :

i) Pour tout x ∈ E, 1 · x = x.

ii) Pour tous g, g0_{∈ G et x ∈ E, g · (g}0_{· x) = (gg}0_{) · x.} Une telle application · s'appelle une action de groupe.

Résultats 2.2.11. Tout groupe G opère sur lui-même par translation à gauche. En eet, soit ·: G × G → G qui à (g, x) associe g · x = gx (la loi du groupe), alors :

i) Pour tout x ∈ G, 1 · x = 1x = x.

ii) Pour tous g, g0_{, x ∈ G, g · (g}0_{· x) = g · (g}0_{x) = g(g}0_{x) = (gg}0_{)x = (gg}0_{) · x} car la loi d'un groupe est associative.

Dénition 2.2.12. On dit qu'un groupe G opère librement sur un ensemble X si pour tout g 6= 1 de G et pour tout x ∈ X, g · x 6= x.

Proposition 2.2.13. Tout groupe G opère librement lorsqu'il opère sur lui-même par translations à gauche.

Démonstration. Soit ·: G × G → G qui à (g, x) associe g · x = gx l'action de translations à gauche. Soient g ∈ G et x ∈ G. Alors,

gx = x ⇐⇒ gxx−1 = xx−1 ⇐⇒ g = 1

Dénition 2.2.14 (Orbite). Soit · une action du groupe G sur l'ensemble non vide X. Pour tout x ∈ X, l'orbite de x est le sous-ensemble suivant de X :

G · x = {g · x ; g ∈ G}

Résultats 2.2.15. La relation ∼ sur X dénie par x ∼ y ⇐⇒ y ∈ G · x est une relation d'équivalence.

Nous en déduisons que deux orbites sont toujours identiques ou disjointes. Plus précisément, pour tous x, y ∈ X,

- ou bien y ∈ G · x et dans ce cas G · x = G · y. - ou bien y /∈ G · x et dans ce cas G · x ∩ G · y = ∅.

Ainsi, les orbites forment une partition de X et, si X est ni, card(X) est la somme des nombres d'éléments des diérentes orbites.

Maintenant, précisions des dénitions de géométrie euclidienne que nous aurons également besoin dans ce chapitre. Les dénitions sont issues du livre de [LAD].

Dénition 2.2.16 (Espace préhilbertien réel). Soit E un R-espace vectoriel, on appelle produit scalaire euclidien sur E une application < ·, · > de E2_dans R telle que :

i) < ·, · > est bilinéaire.

ii) Pour tout (x, y) ∈ E2_{, < x, y >=< y, x >.} iii) Pour tout x 6= 0, < x, x > > 0.

On appelle espace préhilbertien réel un R-espace vectoriel munit d'un pro-duit scalaire euclidien.

Dénition 2.2.17 (Espace euclidien). On appelle espace euclidien un espace préhilbertien réel de dimension nie non nulle.

Par exemple, pour tout n ≥ 1, Rn _{est un espace euclidien.}

Dénition 2.2.18 (Isométrie). Soient E et F deux espaces euclidiens et soient dE et dF les distances issues des produits scalaires respectivement de E et F . Une application f de E dans F est une isométrie si pour tout couple (x, y) de E2_{, d}

F(f (x), f (y)) = dE(x, y).

L'ensemble des isométries de E dans E est un groupe pour la loi de composition ◦ des applications, que l'on note Is(E). Nous noterons Is(3) au lieu de Is(R3_).

Dénition 2.2.19 (Automorphisme orthogonal). Soit E un espace eucli-dien. Soit f une application de E dans E. On dit que f est un automor-phisme orthogonal si f est un automorautomor-phisme (application linéaire bijective de E dans E) et si f conserve le produit scalaire :

∀(x, y) ∈ E2 < f (x), f (y) >=< x, y >

Proposition  Dénition 2.2.20 (Groupe orthogonal). On appelle groupe orthogonal d'un espace euclidien E l'ensemble des automorphismes orthogo-naux de E munit de la composition ◦. On le note O(E).

C'est un sous-groupe de (Is(E), ◦).

Proposition  Dénition 2.2.21 (Groupe spécial-orthogonal). On appelle groupe spécial-orthogonal d'un espace euclidien E l'ensemble des automor-phismes orthogonaux de E de déterminant +1 muni de la composition ◦. On le note SO(E).

C'est un sous-groupe de (O(E), ◦). Nous noterons, pour n ≥ 1, SO(n) pour SO(Rn_{)le groupe spécial-orthogonal de R}n_.

Dénition 2.2.22 (Angle). Soit E un espace euclidien. L'angle entre deux vecteurs non nuls x et y de E est le réel θ de R tel que cos(θ) = <x,y>

kxkkyk [2π]. Dénition 2.2.23 (Rotation). Dans le plan euclidien P orienté, la rotation RI,θ de centre I et d'angle θ (I ∈ P, θ ∈ R), est l'application qui à tout M ∈ P\{I} associe le points M0de P tel que k−IM k = k−→ −−→IM0ket (−IM ,−→ −−→IM0) = θ [2π]. RI,θ laisse xe I. RI,θ s'appelle une rotation plane.

Dans l'espace euclidien orienté R3_{, si θ est un réel et ∆ un axe (droite} orientée), la rotation R∆,θ d'axe ∆ et d'angle θ est l'application qui à tout point M de R3_{\∆associe le point M}0 _{de R}3 _{transformé de M par la rotation} plane de centre H, où ∆ ∩ PM = {H}, et d'angle θ dans le plan PM passant par M et orthogonal ∆, orienté par sa normale ∆. R∆,θ laisse xe ∆. Résultats 2.2.24. La composée de rotations diérentes de l'identité d'axes concourants en un point I est une rotation diérente de l'identité d'axe pas-sant par I.

La matrice M d'une rotation d'axe ∆ engendré par le premier vecteur de la base et d'angle θ est de la forme :

M =   1 0 0 0 cos(θ) − sin(θ) 0 sin(θ) cos(θ)  

Enn terminées les dénitions et les propriétés. Attaquons alors le coeur du problème. Dans la suite, nous noterons B3 la boule unité fermée de R3 et S2 la sphère unité de R3.

2.3 Equidécomposabilité

Dénition 2.3.1 (Equidécomposabilité). Si E est un ensemble et G un groupe opérant sur E, on dit que deux sous-ensembles A et B de E sont G-équidécomposables s'il existe une partition (Ai)1≤i≤n de A, une parti-tion (Bi)1≤i≤n de B, ayant le même nombre n de morceaux, et n éléments (gi)1≤i≤n de G tels que Bi = gi· Ai pour tout 1 ≤ i ≤ n. On note par gi· Ai l'ensemble gi· Ai= {gi· x ; x ∈ Ai}.

On notera alors A ∼G B ou tout simplement A ∼ B si le groupe G est évident ou s'il s'agit d'un sous-groupe du groupe des isométries de l'espace.

Familiarisons-nous davantages avec cette notion d'équidécomposabilité en donnant quelques exemples et en énonçant plusieurs propriétés élémen-taires, qui nous servirons pour la suite.

Exemple 2.3.2. Considérons pour E l'ensemble des entiers naturels N et pour G le groupe des bijections munit de la loi de composition ◦. Alors, si nous notons P l'ensemble des entiers naturels pairs, nous avons que P ∼GN.

En eet, puisque P et N sont en bijection, il existe un élément g de G tel que g(P) = N.

Remarque 2.3.3. Si G est un sous-groupe de G0 _{et A ∼}

G B, alors A ∼G0 B.

Proposition 2.3.4. ∼G est une relation d'équivalence.

Démonstration. Dans la suite, A, B et C sont des parties de E. i) Reexivité : A = 1 · A. Donc, A ∼G A.

ii) Symétrie : Si A ∼G B, alors il existe une partition (Ai)1≤i≤n de A et une partition (Bi)1≤i≤n de B et (gi)1≤i≤n tels que pour tout 1 ≤ i ≤ n, Bi = gi· Ai.

Alors, pour tout 1 ≤ i ≤ n, g−1

i · Bi = g −1 i · (gi· Ai) = (g −1 i gi) · Ai = Ai. Donc, B ∼GA.

iii) Transitivité : Si A ∼G B et B ∼G C, alors il existe une partition (Ai)1≤i≤n de A et une partition (Bi)1≤i≤n de B et (gi)i≤i≤n ⊂ G tels que Bi = gi · Ai. Par ailleurs, il existe une partition (Bj0)1≤j≤m de B et une partition (Cj)1≤j≤m de C et (hj)1≤j≤m⊂ G tels que Cj = hj · Bj0.

Pour 1 ≤ i ≤ n et 1 ≤ j ≤ m, posons :

Aij = g−1i · (Bi∩ Bj0) et Cij = hj· (Bi∩ Bj0)

Montrons que les ensembles Aij sont deux à deux disjoints. Soient 1 ≤ i, k ≤ net 1 ≤ j, l ≤ m.

Si, i 6= k, puisque nous avons g−1

i ·Bi= Ai, gk−1·Bk= Aket Bi∩Bj0 ⊂ Bi, Bk∩Bl0⊂ Bk, alors Aij = gi−1·(Bi∩Bj0) ⊂ g

−1

i ·Bi = Ai. De même, Akl⊂ Ak. Or, Ai∩ Ak= ∅ car i 6= k. Donc, Aij ∩ Akl= ∅.

Si i = k et j 6= l, alors nous avons

(Bi∩ Bj0) ∩ (Bk∩ Bl0) = Bi∩ (Bj0 ∩ B 0 l) (car Bj0∩B 0 l=∅) = ∅ (car j6=l) Alors, Aij ∩ Akl = g−1_i · (Bi∩ B0j) ∩ g −1 k · (Bk∩ B 0 l) = g−1_i · (Bi∩ B0j) ∩ g −1 i · (Bi∩ B 0 l)

= g−1_i · (Bi∩ B0j∩ Bi∩ Bl0) (∀f ∈F (E,F ) f−1(A∩B)=f−1(A)∩f−1(B)) = g−1_i (∅)

= ∅

Par ailleurs,

∪i,jAij = ∪ni=1(∪mj=1Aij)

= ∪n_i=1(∪m_j=1g_i−1· (Bi∩ Bj0) = ∪n

i=1gi−1· ∪mj=1(Bi∩ B0j)) (∀f ∈F (E,F ) f−1(∪ni=1Ai)=∪ni=1f−1(Ai))

= ∪n i=1gi−1· (Bi∩ ∪mj=1B0j) = ∪n i=1gi−1· (Bi∩ B) = ∪n_i=1g_i−1· B_i = ∪n_i=1Ai= A

De même nous montrons que ∪i,jCij = C.

Pour conclure, pour tout 1 ≤ i ≤ n et 1 ≤ j ≤ m,

(hjgi) · Aij = hj · (gi· Aij) = hj· (Bi∩ Bj0) = Cij D'où le résultat.

Dénition 2.3.5 (Ensemble paradoxal). Si E est un ensemble et G un groupe opérant sur E, on dit que E est paradoxal sous l'action de G ou tout simplement G-paradoxal s'il existe A0 _{et A}00 _{deux parties de E telles que} A0∩ A00= ∅ et telles que E ∼G A0 et E ∼GA00.

Exemple 2.3.6. Reprenons les mêmes ensembles que précédemment, c'est-à-dire N pour E et le groupe des bijections pour G. Alors, N est G-paradoxal. En eet, Si nous notons P pour l'ensemble des entiers naturels pairs et I pour l'ensemble des entiers naturels impairs, alors P ∩ I = ∅ et P ∼G N et I ∼_GN.

Remarque 2.3.7. Si G est sous-groupe de G0 _{et si X est G-paradoxal, alors} X est G0-paradoxal.

Nous omettrons parfois de mentionner le groupe G s'il est évident, ou bien s'il s'agit d'un sous-groupe du groupe des isométries de l'espace. Ainsi, nous désirons prouver qu'une boule est paradoxale.

Maintenant, nous allons démontrer un résultat essentiel pour la suite. Théorème fondamental 2.3.8. Soit G un groupe libre de rang 2. Alors, Gest G-paradoxal lorsqu'il opère sur lui-même par translation à gauche. Démonstration. Soit A0 _{l'ensemble de tous les mots (réduits) de G} commen-çant par a, A00 _{ceux commençant par a}−1_{, B}0 _{ceux commençant par b et B}00 ceux commençant par b−1_.

Alors, a−1_A0 _{est l'ensemble des mots ne commençant pas par a}−1_{. En} eet, il ne peut y avoir de a−1 _{après un a (les mots sont réduits) ; or tous}

les mots de A0 _{commencent par a, donc s'il y a une deuxième lettre dans un} mot de A0 _{ce n'est jamais a}−1_.

Il vient que a−1_A0_∪A00 _{= G, et c'est une réunion disjointe. Nous noterons} dorénavant t pour désigner une réunion disjointe. Alors, si nous posons A = A0t A00_{, nous venons de montrer que A ∼ G. En eet,}

G = G1t G2 où G1= a−1A0 et G2= A00 A = A1t A2 où A1= A0 et A2= A00

g1 = a−1 et g2 = 1

Ainsi, nous venons de voir que pour tout i ∈ {1, 2}, Gi = giAiet G = ∪2i=1Gi, A = ∪2

i=1Ai. Donc, par dénition, A ∼ G.

De la même manière que précédemment, en posant B = B0_{t B}00_{, alors} B ∼ G.

Puisque A ∩ B = (A0 _{∪ A}00_{) ∩ (B}0 _{∪ B}00_{) et que A}0 _{∩ B}0 _{= A}0 _{∩ B}00 ₌ A00∩ B0 _{= A}00_{∩ B}00_{= ∅, alors A ∩ B = ∅.}

Il s'ensuit que G est G-paradoxal.

Pour clore cette partie attardons-nous sur quelques propositions et co-rollaires qui seront importants dans la prochaine partie.

Proposition 2.3.9. Soient A, A0_{, B et B}0 _{des parties d'un ensemble X} telles que A ∩ A0 _{= ∅ et B ∩ B}0 _{= ∅. Si A ∼}

G B et A0 ∼G B0, alors (A ∪ A0) ∼G(B ∪ B0).

Démonstration. Puisque A ∼G B et A0 ∼G B0, alors il existe des partitions (Ai)1≤i≤n, (Bi)1≤i≤n, (A0j)1≤j≤m et (B0j)1≤j≤m, ainsi que des éléments du groupe G, g1, · · · gn, h1, · · · hm tels que

A = ∪n_i=1Ai B = ∪ni=1Bi et Bi= giAi pour tout 1 ≤ i ≤ n A0 = ∪m_j=1A0_j B0 = ∪m_j=1B_j0 et B0_j = hjA0j pour tout 1 ≤ j ≤ m Soit A00 = (A00_k)1≤k≤n+m avec  A00_k= Ak si 1 ≤ k ≤ n A00_k= A0_k−n si n + 1 ≤ k ≤ n + m Alors, puisque A ∩ A0 _{= ∅, A}00_{= A ∪ A}0 _{et (A}00

k)k est une partition de A ∪ A0. Il en est de même pour B ∪ B0 _{si nous considérons}

B00= (B_k00)1≤k≤n+m avec 

B_k00= Bk si 1 ≤ k ≤ n B_k00= B0_k−n si n + 1 ≤ k ≤ n + m Pour nir, si nous considérons la suite (g00

k)1≤k≤n+m d'éléments de G dénie de la sorte : _

g_k00= gk si 1 ≤ k ≤ n g00_k = hk−n si n + 1 ≤ k ≤ n + m

alors il vient que pour tout 1 ≤ k ≤ n + m, B00 k = g 00 kA 00 k. Autrement dit, (A ∪ A0) ∼G(B ∪ B0).

Corollaire 2.3.10. Soient A, B, C des parties d'un ensemble X telles que A ∩ C = B ∩ C = ∅. Si A ∼GB alors (A ∪ C) ∼G(B ∪ C).

Démonstration. Il sut de prendre A0_{= B}0 _{= C dans la proposition 2.3.9.}

Proposition 2.3.11. Soient E et F deux sous-ensembles d'un ensemble X. Soit G un groupe opérant sur X. Si E est G-paradoxal et si E ∼G F, alors F est G-paradoxal.

Démonstration. Puisque E ∼G F, alors il existe une partition (Ei)1≤i≤n de E, une partition (Fi)1≤i≤n de F et n éléments g1, ..., gn de G tels que

E = ∪n_i=1Ei, F = ∪ni=1Fi et pour tout 1 ≤ i ≤ n Fi= giEi

Nous pouvons alors dénir une application g : E → F telle que g|Ei = gei pour tout 1 ≤ i ≤ n, oùgei: Ei → X qui à x associe gix. Tout d'abord, pour tout 1 ≤ i ≤ n,gei(Ei) = giEi = Fi. Donc, gei: Ei → Fi est surjective pour tout 1 ≤ i ≤ n. Ensuite, soient x, y ∈ Ei, alors

e

gi(x) =gei(y) =⇒ gix = giy =⇒ x = y

Donc, gei est injective. Finalement, pour tout 1 ≤ i ≤ n, gei: Ei → Fi est bijective. Et puisque les Ei et les Fi forment respectivement une partition de E et de F , alors g : E → F est bijective.

Montrons que si C est une partie de E, alors C ∼Gg(C). En eet, C = C ∩ E = C ∩ (∪n_i=1Ei) = ∪ni=1(C ∩ Ei)

et puisque, pour tout 1 ≤ i ≤ n, C ∩ Ei ⊂ Ei, alors les (C ∩ Ei) sont deux à deux disjoints. Nous avons

g(C) = g(∪n_i=1(C ∩ Ei))

= ∪n_i=1g(C ∩ Ei) (∀f ∈F (E,F ) f (∪i=1n Ai)=∪ni=1f (Ai))

= ∪n_i=1(g(C) ∩ g(Ei)) (g(A∩B)=g(A)∩g(B) car g injective) = ∪n_i=1(g(C) ∩ Fi)

et les (g(C) ∩ Fi) sont deux à deux disjoints par la même remarque que précédemment. Or,

gi(C ∩ Ei) = gei(C ∩ Ei) par definition de gei = g(C ∩ Ei) car g_|Ei=gei = g(C) ∩ g(Ei)

Ainsi, C ∼Gg(C).

Pour nir, puisque E est G-paradoxal, alors il existe A, B ⊂ E tels que A t B = E et A ∼GE et B ∼G E. Ainsi, par transitivité de ∼G, g(A) ∼GF car, par hypothèses, A ∼GE et E ∼GF donc A ∼GF et nous avons vu que A ∼G g(A), donc g(A) ∼G F. Il en est de même avec B. Et puisque g est bijective de E dans F et que A et B sont disjoints, alors g(A) et g(B) sont également disjoints. Ainsi, F = g(A) t g(B), g(A) ∼GF, g(B) ∼GF.

Proposition 2.3.12 (AC). Si un groupe G est G-paradoxal et s'il opère librement sur un ensemble X, alors X est paradoxal sous l'action de G (X est G-paradoxal).

Démonstration. Soient x ∈ X et A ⊂ G. Posons Ax l'ensemble Ax = {ax ; a ∈ A} ⊂ X

(Ax est une partie de l'orbite de x). Soit O l'ensemble de toutes les orbites de X pour l'action de G. Alors, O n'est pas vide et le vide n'appartient pas à O. De plus, deux éléments distincts de O sont disjoints. C'est alors à ce niveau que nous appliquons l'axiome du choix pour pouvoir construire une fonction qui choisit un élément et un seul de chacun des éléments de O, et posons M, qui est inclus dans X, l'ensemble constitué du choix de cette fonction. Notons enn A0 _{= AM = {am ; a ∈ A, m ∈ M }. Nous venons de} dénir une fonction de choix de P(G) \ {∅} dans P(X) \ {∅} qui à A associe A0.

Nous allons maintenant établir quelques propriétés pour aboutir au ré-sultat.

Lemme 2.3.13. Soit (Ai)1≤i≤n nsous-ensembles de G. Alors, (∪n_i=1Ai)0 = ∪n

i=1A0i.

Démonstration. Nous avons de manière évidente : (A ∪ B)0 = (A ∪ B)M

= {zm ; z ∈ A ∪ B, m ∈ M } = A0∪ B0

Puis, par une récurrence triviale, (∪n

i=1Ai)0 = ∪ni=1A0i. Lemme 2.3.14. Si A ∩ B = ∅, alors A0_{∩ B}0 _{= ∅.}

Démonstration. Supposons A∩B = ∅ et A0_{∩ B}0 _{6= ∅. Soit z ∈ A}0_{∩ B}0_{. Alors,} il existe x ∈ M et y ∈ M tels que z ∈ Ax ∩ By.

Supposons x 6= y. Alors, par dénition de M, x et y sont dans deux orbites diérentes et donc disjointes. Ainsi, Gx ∩ Gy = ∅. Or, Ax ⊂ Gx et

By ⊂ Gy. Donc, Ax ∩ By = ∅. Ce qui est absurde puisque z ∈ Ax ∩ By. Donc nécessairement x = y.

Ensuite, il existe g ∈ A et h ∈ B tels que z = gx = hx. Donc, h−1_{gx = x.} Or, G opère librement, donc h−1_{g = 1, d'où h = g. Ce qui est absurde car} A ∩ B = ∅.

Finalement, A0_{∩ B}0_{= ∅.}

Lemme 2.3.15. S'il existe g ∈ G tel que B = gA, alors B0 _{= (gA)}0_{= gA}0_. Démonstration. Il vient immédiatement que :

(gA)0 = (gA)M = g(AM ) = gA0

Il résulte de ces résultats que si A ∼G B, c'est-à-dire s'il existe une partition (Ai)1≤i≤nde A, une partition (Bi)1≤i≤nde B et n éléments g1, ..., gn de G tels que

A = ∪n_i=1Ai, B = ∪ni=1Bi et pour tout 1 ≤ i ≤ n Bi = giAi alors :

(∪1_i=1Ai)0 = ∪ni=1A0i = A0 lemme 2.3.13 (∪1_i=1Bi)0 = ∪ni=1B 0 i = B 0 _{lemme 2.3.13} ∀ 1 ≤ i ≤ n B_i0 = giA0i lemme 2.3.15 Il vient que A0_∼ GB0.

Finalement, si G est G-paradoxal, alors il existe A et B deux sous-ensembles de G tels que A t B = G et A ∼GGet B ∼GG. Donc,

(A ∪ B)0 = A0∪ B0 _{= G}0 _{lemme 2.3.13}

A0∩ B0 = ∅ lemme 2.3.14

De plus, A0 _∼

G G0 et B0 ∼GG0 d'après ce qui précède. Or, G0 = GM

= {gm ; g ∈ G, m ∈ M } = X (par d´efinition de M ) Nous concluons alors que X est G-paradoxal.

Corollaire 2.3.16 (AC). Un groupe G qui contient un sous-groupe H, H-paradoxal, est G-paradoxal.

Démonstration. Le sous-groupe H opère librement sur G par translations à gauche, donc d'après la proposition 2.3.12, G est paradoxal sous l'action de H, a fortiori G est paradoxal sous sa propre action car H ⊂ G.

Corollaire 2.3.17 (AC). Un groupe G contenant deux éléments indépen-dants est G-paradoxal sous l'action par translations à gauche.

Démonstration. Le sous-groupe H de G engendré par ces deux éléments indépendants forme un groupe libre de rang 2, donc est H-paradoxal par l'action de translations à gauche d'après le théorème 2.3.8, et le corollaire 2.3.16 permet de conclure que G est G-paradoxal sous l'action de translations à gauche.

2.4 Le théorème de Banach-Tarski

2.4.1 La sphère paradoxale de Hausdor

Pour parvenir à montrer qu'une boule est paradoxale, nous allons com-mencer par montrer qu'il existe des éléments indépendants dans Is(3). Ce seront en fait des rotations.

Proposition 2.4.1. Le groupe SO(3) contient deux éléments indépendants, qui engendrent alors un groupe libre de rang 2.

Démonstration. Considérons les rotations φ et ρ déterminées par les matrices suivantes dans la base canonique :

φ+1 =    1 3 −2√2 3 0 2√2 3 1 3 0 0 0 1    φ −1 =    1 3 2√2 3 0 −2√2 3 1 3 0 0 0 1    ρ+1 =    1 0 0 0 1₃ −2 √ 2 3 0 2 √ 2 3 1 3    ρ −1 =    1 0 0 0 1₃ 2 √ 2 3 0 −2 √ 2 3 1 3   

D'après le résultat 2.2.24, φ+1 _{et ρ}+1 _{sont bien des matrices de rotations} d'inverses respectifs φ−1 _{et ρ}−1_{, et φ}+1 _{est une rotation d'angle arccos}1 3 d'axe (Oz) et ρ+1 _{une rotation de même angle et d'axe (Ox).}

Nous voulons montrer que le groupe engendré par ces rotations est un groupe libre de rang 2. Pour y arriver, nous supposons que w est un mot réduit de φ+1_{, φ}−1_{, ρ}+1_{, ρ}−1_.

Tout d'abord, si w se termine par ρ+1 _{ou ρ}−1_{, considérons w}0 _{= φ}−1_wφ+1 (naturellement, si w commençait par φ+1_{, il faudrait réduire le φ}+1_φ−1_initial

de w0_{). Ainsi, si nous montrons que w}0 _{6= 1, alors il viendra que w sera} diérent de 1. Nous pouvons donc nous limiter à l'étude des cas où w se termine par φ+1 _{ou φ}−1_.

Dans la suite, ε, η ∈ {−1, 1}.

Lemme 2.4.2. w(1, 0, 0) est de la forme (a 3k, b√2 3k , c 3k)où a, b, c ∈ Z et k ∈ N ∗ Démonstration. Nous allons montrer ceci par récurrence sur la longueur de w. Pour k = 1 : Si w = φε_{, alors} w   1 0 0  =    1 3 −2ε√2 3 0 2ε√2 3 1 3 0 0 0 1      1 0 0  =   1 3 2ε√2 3 0   qui est bien de la forme voulue (a = 1, b = 2ε, c = 0, k = 1).

Soit k ≥ 1. Supposons que tous les mots w0 _{de longueur k vérient} l'hypothèse de récurrence. Si w = φε_w0_{, alors}

w   1 0 0  =    1 3 −2ε√2 3 0 2ε√2 3 1 3 0 0 0 1       a0 3k0 b0√2 3k0 c0 3k0   =    a0 3k0+1 − 4εb0 3k0+1 2εa0√2 3k0+1 + b0√2 3k0+1 c0 3k0    =    a0_−4εb0 3k0+1 (2εa0_+b0₎√₂ 3k0+1 c0 3k0   =    a 3k b√2 3k c 3k    avec        a = a0− 4εb0 b = 2a0+ b0 c = 3c0 k = k0+ 1 Donc, w vérie bien la propriété.

Si w = ρε_w0_{, alors} w   1 0 0  =    1 0 0 0 1₃ −2ε √ 2 3 0 2ε √ 2 3 1 3       a0 3k0 b0√₂ 3k0 c0 3k0   =    a0 3k0 (b0−2εc0₎√₂ 3k0+1 4εb0+c0 3k0+1    =    a 3k b√2 3k c 3k    avec        a = 3a0 b = b0− 2εc0 c = 4εb0+ c0 k = k0+ 1 Donc, w vérie bien la propriété.

Nous venons donc de montrer par récurrence que w(1, 0, 0) est de la forme (₃ak, b√2 3k , c 3k) où a, b, c ∈ Z et k ∈ N ∗_.

Lemme 2.4.3. Soit w 6= 1. Alors w(1, 0, 0) = (a 3k, b√2 3k , c 3k) où a, b, c ∈ Z et

k ∈ N∗ et b n'est jamais divisible par 3.

Démonstration. Il reste à montrer que b n'est jamais divisible par 3, la pre-mière partie de ce lemme étant démontrée lors du lemme précédent 2.4.2.

Nous allons également procéder par récurrence, mais cette fois-ci ce sera une récurrence  forte .

Pour k = 1 : φε   1 0 0  =   1 3 2ε√2 3 0   Donc, b = 2ε, qui n'est pas divisible par 3

Pour k = 2, il faut étudier les combinaisons suivantes : ρε_φη_{, φ}2ε_.

ρεφη   1 0 0  =    1 0 0 0 1₃ −2ε √ 2 3 0 2ε √ 2 3 1 3      1 3 2η√2 3 0  =    3 32 2η√2 32 8εη 32    Donc, b = 2η, qui n'est pas divisible par 3.

φ2ε   1 0 0  =    1 3 −2ε√2 3 0 2ε√2 3 1 3 0 0 0 1      1 3 2ε√2 3 0  =   −7 32 4ε√2 32 0  

Donc, b = 4ε, qui n'est pas divisible par 3.

Soit k ≥ 1. Supposons la propriété vraie jusqu'à l'ordre k + 1. Soit w00 un mot réduit de longueur k (w00 _{vérie donc l'hypothèse de récurrence). Il} faut montrer que la propriété reste vraie pour les mots suivants de longueur k + 2 : w = φερηw00, w = ρεφηw00, w = φ2εw00, w = ρ2ηw00. En réduisant le mot, si nous obtenons un mot de longueur plus petite ou égale à k+1 alors la propriété est vraie, sauf si après réduction nous obtenons le mot vide. Ainsi, nous supposons que les w sont bien de longueur k + 2.

Si w0 _{= φ}η_w00_{, alors} w0   1 0 0  =    1 3 −2η√2 3 0 2η√2 3 1 3 0 0 0 1       a00 3k b00√2 3k c00 3k   =    a00−4ηb00 3k+1 (2ηa00_+b00₎√₂ 3k+1 c00 3k    =    a0 3k+1 b0√₂ 3k+1 c0 3k+1    avec    a0 = a00− 4ηb00 b0 = 2ηa00+ b00 c0 = 3c00

Si w0 _{= ρ}η_w00_{, alors} w0   1 0 0  =    1 0 0 0 1₃ −2η √ 2 3 0 2η √ 2 3 1 3       a00 3k b00√₂ 3k c00 3k   =    a00 3k (b00−2ηc00₎√₂ 3k+1 4ηb00+c00 3k+1    =    a0 3k+1 b0√₂ 3k+1 c0 3k+1    avec    a0 = 3a00 b0 = b00− 2ηc00 c0= 4ηb00+ c00 Si w = φε_w0 _{avec w}0 _{= ρ}η_w00_{, alors} w   1 0 0  =    1 3 −2ε√2 3 0 2ε√2 3 1 3 0 0 0 1       a0 3k+1 b0√2 3k+1 c0 3k+1   =    a 3k+2 b√2 3k+2 c 3k+2    avec    a = a0− 4εb0 b = 2εa0+ b0 c = 3c0 et    a0= 3a00 b0 = b00− 2ηc00 c0 = 4ηb00+ c00

Or, a0 _{= 3a}00_{. Donc, b = 6εa}00_{+ b}0_{. Et c'est là que nous constatons que nous} avons besoin d'une telle récurrence car a priori nous ne pouvons rien dire de b0. Mais ici, b0 n'est pas divisible par 3 car w0 est un mot de longueur k +1 et donc l'hypothèse de récurrence s'applique pour w0_{. 6εa}00 _{étant divisible par} 3et b0 n'étant pas divisible par 3, nous concluons que b = 6εa00+ b0 n'est pas divisible par 3 (cf. lemme 2.4.4).

Si w = ρε_w0 _{avec w}0_{= φ}η_w00_{, alors} w   1 0 0  =    1 0 0 0 1₃ −2ε √ 2 3 0 2ε √ 2 3 1 3       a0 3k+1 b0√₂ 3k+1 c0 3k+1   =    a 3k+2 b√2 3k+2 c 3k+2    avec    a = 3a0 b = b0− 2εc0 c = 4εb0+ c0 et    a0= a00− 4ηb00 b0 = 2ηa00+ b00 c0 = 3c00

Or, c0 _{= 3c}00_{. Donc, b = b}0_{− 6εc}00 _{qui n'est pas divisible par 3 par les mêmes} arguments que précédemment.

Si, w = φ2ε_w00_{, alors} w   1 0 0  =    1 3 −2ε√2 3 0 2ε√2 3 1 3 0 0 0 1       a0 3k+1 b0√2 3k+1 c0 3k+1   =    a0_−4εb0 3k+2 (2εa0_+b0₎√₂ 3k+2 c0 3k+1    =    a 3k+2 b√2 3k+2 c 3k+2    avec    a = a0− 4εb0 b = 2εa0+ b0 c = 3c0 et    a0 = a00− 4εb00 b0 = 2εa00+ b00 c0 = 3c00