1.2. Pr´ esentation du th´ eor` eme de Birkhoff 1

LE LEMME DU COL ET LE TH ´ EOR ` EME DE BIRKHOFF

IDRISS MAZARI

L’auteur tient `a remercier Jean-Claude Sikorav pour son travail de relecture et ses remarques pertinentes.

Table des mati` eres

1. Introduction 1

1.1. Notations 1

1.2. Pr´ esentation du th´ eor` eme de Birkhoff 1

2. Rappels sur les g´ eod´ esiques d’une surface 2

2.1. Longueur d’une courbe trac´ ee sur une surface 2

2.2. L’´ equation des g´ eod´ esiques 2

2.3. Une id´ ee intuitive de la preuve du th´ eor` eme de Birkhoff 5

3. Le lemme du col 5

3.1. Le cas de la dimension finie 5

3.2. Les ingr´ edients fondamentaux de la d´ emonstration 7

4. La d´ emonstration du th´ eor` eme de Birkhoff 7

4.1. Le lemme du col en dimension infinie 7

4.2. L’espace des courbes ferm´ ees comme vari´ et´ e : un autre point de vue

sur les g´ eod´ esiques 9

4.3. Strat´ egie de preuve 11

5. Conclusion 14

R´ ef´ erences 14

1. Introduction

1.1. Notations. Dans tout cet article, et si f : E → R est une application diff´ erentiable d´ efinie entre un espace de Hilbert de R , ∇ f d´ esignera la diff´ erentielle de f , en identifiant par le th´ eor` eme de Riesz formes lin´ eaires et vecteurs de E.

Si Σ d´ esigne une surface de R

suppos´ ee lisse orient´ ee, ν d´ esigne sa normale ext´ erieure sortante.

1.2. Pr´ esentation du th´ eor` eme de Birkhoff. L’objectif de cet article est de donner une preuve d’un r´ esultat, dˆ u ` a George D. Birkhoff( [2]), qui porte sur les g´ eod´ esiques de certaines surfaces. Plus pr´ ecis´ ement, il s’agit de d´ emontrer l’exis- tence de g´ eod´ esiques ferm´ ees sur une surface Σ, suppos´ ee compacte dans toute la suite (c’est-` a-dire ferm´ ee et sans bords). L’´ etude des g´ eod´ esiques ferm´ ees d’une surface (et, plus g´ en´ eralement, d’une vari´ et´ e), est un premier pas vers l’´ etude de

Date : Version du 30 juin 2017.

1

la g´ eom´ etrie globale des surfaces. Pour plus d’informations, on se reportera ` a [1].

Nous nous proposons une ´ etude du th´ eor` eme suivant :

Th´ eor` eme 1.1 (Birkhoff,1917). Soit Σ une surface de R

, diff´ eomorphe ` a la sph` ere S

. Il existe au moins une g´ eod´ esique ferm´ ee sur Σ.

Pour d´ emontrer ce th´ eor` eme, nous aurons besoin d’un th´ eor` eme fondamental du calcul des variations dans les espaces de Hilbert (en fait dans les Banach, mais nous ne travaillerons que dans des Hilbert), le lemme du col. La preuve en dimension finie est assez intuitive et contient tous les ´ el´ ements du cas g´ en´ eral, de sorte que nous en proposons une d´ emonstration dans ce cas-l` a plutˆ ot que d’attaquer avec la version la plus abstraite. Enfin, nous donnons deux pr´ esentations variationnelles des g´ eod´ esiques, d’une part pour l’amour du geste et d’autre part car les points de vue que ces pr´ esentations font ressortir nous semblent int´ eressants.

2. Rappels sur les g´ eod´ esiques d’une surface

2.1. Longueur d’une courbe trac´ ee sur une surface. Sans rentrer dans les d´ etails, on consid` ere une courbe γ param´ etr´ ee, disons par t ∈ [ − 1; 1], trac´ ee sur Σ.

On en consid` ere la d´ eriv´ ee, que nous noterons par la suite ˙ γ(t) ∈ R

. Rappelons que le plan tangent ` a Σ en un point x est l’ensemble des ˙ γ(0) pour toutes les courbes trac´ ees sur Σ telles que γ(0) = x. Il devient alors possible de d´ efinir la longueur de γ, not´ ee L (γ) :

(2.1) L (γ) :=

ˆ

−1

√ ⟨ γ(t), ˙ γ(t) ˙ ⟩ dt.

On appelle g´ eod´ esique de Σ un chemin qui minimise localement la distance entre deux points (en d’autres termes, γ : R /2π Z → Σ est une g´ eod´ esique si, pour tout t ∈ ]0; 2π[ il existe ε > 0 tel que γ minimise la distance dans l’ensemble des courbes trac´ ees sur Σ qui joignent γ(t − ϵ) et γ(t +ϵ)). Le caract` ere local est bien sur important : par exemple, sur la sph` ere, que nous noterons S

, les grands cercles sont des g´ eod´ esiques. Cependant, si l’on consid` ere une param´ etrisation simple (injective sur [0; 2π)) γ d’un grand cercle, suivre le chemin γ en partant du pˆ ole nord pour minimiser la distance n’est plus malin d` es que le pˆ ole sud est d´ epass´ e. Notons, pour x, y ∈ Σ, Γ(x, y) l’ensemble des courbes trac´ ees sur Σ joignant x et y. Une g´ eod´ esique de x ` a y est une courbe γ telle que

L ( γ )

= inf

γ∈Γ(x,y)

L (γ).

Tout cela est bel et bon, mais peut-on ´ ecrire une ´ equation satisfaite par ces g´ eod´ esiques ? 2.2. L’´ equation des g´ eod´ esiques. Nous allons montrer la caract´ erisation sui- vante :

Une g´ eod´ esique est une courbe trac´ ee sur Σ dont l’acc´ el´ eration est orthogonale au plan tangent. En d’autres termes, si I est un intervalle r´ eel, une fonction

u : R /2π Z → Σ est une g´ eod´ esique si et seulement si

∀ t ∈ I , u(t) ¨ ∈ T

Σ

.

Plus pr´ ecis´ ement, nous n’allons montrer que l’implication :

γ est g´ eod´ esique ⇒ son acc´ el´ eration est orthogonale ` a la surface

. Pour le sens retour, nous renvoyons

`

a l’ouvrage de DoCarmo [3].

Nous tenons ` a donner cette preuve parce qu’il s’agit d’un premier pas dans le calcul

2

des variations, qui sera d’importance cruciale dans la d´ emonstration du th´ eor` eme de Birkhoff.

L’id´ ee est donc qu’une g´ eod´ esique γ est un point critique de la fonctionnelle de longueur : ` a cet effet, nous allons utiliser la notion de variation. Pour essayer d’en comprendre le sens, supposons que nous soyions en train de travailler dans R

, et que nous cherchions ` a minimiser une fonctionnelle, par exemple d’´ energie ou de longueur. Supposons que cette fonctionnelle F soit une fonction d’un certain espace de courbes, g´ ene´ eriquement not´ ees y : [0; 1] → R , et que la fonctionnelle prenne la forme

F : y 7→

ˆ

L (

t, y(t) ˙ y(t) ) dt, o` u l’application L = L (x, z, p) est appel´ ee Lagrangien.

Pour des raisons de simplicit´ e, on supposera ´ egalement que les courbes de X satis- font les conditions aux limites y(0) = a, y(1) = b, a et b ´ etant deux points fix´ es.

Comment d´ eterminer les minimiseurs de F ? En se ramenant ` a un probl` eme unidi- mensionnel : soit y

un minimiseur, ou simplement un ppoint critique. Fixons nous une application ∂

, telle que δy(0) = δy(b) = 0, de sorte que, pour tout ε ∈ R , y

+ εδy ∈ X , et d´ efinissons l’application

f : ε 7→ F (y

+ εδy).

Notre hypoth` ese sur y

s´ ecrit

df dε

ε=0

= 0.

Proc´ edons alors ` a un d´ eveloppement limit´ e ` a l’int´ erieur de l’int´ egrale : F (

y

+ εδy )

− F (y

) = ˆ

0

L (

x, y

(x) + εδy(x), y ˙

(x) + ε δy(x) ˙ )

dx − ˆ

0

L (x, y

(x), y ˙

(x))dx

= ε ˆ

0

( ∂ L

∂z

( x, y

(x), y ˙

(x) ))

δy(x)dx

+ ε ˆ

0

δy(x) ˙ ( ∂ L

∂p

( x, y

(x), y ˙

(x) ))

dx + o(ε).

On int` egre par parties, en utilisant la condition δy(0) = δy(1) = 0, pour obtenir ˆ

0

δy(x) ˙ ( ∂ L

∂p

( x, y

(x), y ˙

(x) )) dx =

[ δy ∂ L

∂p (x, y

, y ˙

) ]

0

− ˆ

0

δy d dx

( ∂ L

∂p (x, y

(x), y ˙

(x)) )

dx

= − ˆ

0

δy d dx

( ∂ L

∂p (x, y

(x), y ˙

(x)) )

dx.

D´ efinissons la fonction z :=

(x, y

, y ˙

) −

(x, y

, y

). Alors, pour toute va- riation admissible δy, si y

est un point critique, on a

ˆ

z(δy) = 0.

C’est ensuite un simple exercice de montrer que, sous de bonnes hypoth` eses de r´ egularit´ e, ceci implique que z est identiquement nulle (ce r´ esultat est le lemme

3

fondamental du calcul des variations). Ainsi, le long d’un point critique y

de la fonctionnelle F , on a

∂ L

∂z (x, y

, y ˙

) − d dx

∂ L

∂p (x, y

, y

) ≡ 0.

Dans le cas qui nous occupe dans cet article cependant, un objet de la forme y

+εh n’aurait pas de sens, une surface ayant le mauvais goˆ ut de n’ˆ etre pas un espace vectoriel. Mais si l’on regarde la preuve pr´ ec´ edente dans les yeux, on voit que la structure additive n’´ etait pas le point cl´ e ; le point cl´ e ´ etait d’obtenir une famille y

= y

+ εδy, o` u ε est un param` etre r´ eel, et de d´ eriver la fonction f(ε) := F (y

) en 0. Notons que ce genre de raisonnement, que nous qualifierons de perturbatif ou variationnel, se transpose sans probl` emes pour travailler sur des espaces de Hilbert.

Mais on peut consid´ erer d’autres familles { y

}

, le seul point important est que cette famille soit suffisamment lisse en ε en ε = 0. C’est ce que nous allons faire pour essayer de trouver l’´ equation des g´ eod´ esiques.

On consid` ere donc une g´ eod´ esique γ et une famille { γ

}

de courbes trac´ ees sur Σ telles que :

• ∀ ε ∈ ( − 1; 1) , γ

(0) = γ(0) et γ

(2π) = γ(2π),

• γ

= γ.

Le probl` eme de la fonctionnelle L , c’est que les racines carr´ ees sont peu agr´ eables

. On introduit donc la fonctionnelle d’´ energie cin´ etique

E (u) := 1 2

ˆ

| u(t) ˙ |

dt

d´ efinie sur les courbes trac´ ees sur Σ. C’est un exercice assez simple que de voir que les minima de E correspondent aux minima de L . Introduisons la fonction φ d´ efinie sur ( − 1; 1) par

∀ ε ∈ ( − 1; 1) , φ(ε) := E (γ

).

Prenons en la d´ eriv´ ee ; par int´ egration par parties (parce que les extr´ emit´ es sont fix´ ees), on obtient

dφ dε

ε=0

= ˆ

0

⟨

˙ γ

(t),

( ˙

∂γ

∂ε )

(t)

⟩

ε=0

dt

= − ˆ

0

⟨ ∂γ

∂ε , γ ¨

⟩

ε=0

dt

= − ˆ

0

⟨

¨ γ, ∂γ

∂ε

⟩

ε=0

dt.

Maintenons, donnons une interpr´ etation de la d´ eriv´ ee partielle sous l’int´ egrale : Pour t ∈ [0; 2π], on peut consid´ erer { γ

(t) }

comme une chemin passant par γ(t) en ε = 0. Ce chemin est continu, d´ erivable en ε et on peut voir

(0, t) comme un vecteur tangent ` a γ(t). Si γ, maintenant, est un point critique de l’´ energie, on voit que la condition pr´ ec´ edente se r´ e´ ecrit :

1. Et ´egalement qu’elle est invariante par reparam´etrage, ce qui entraˆıne la pr´esence de beau- coup (trop ?) de minima.

4

Pour tout champ de vecteurs X tangent ` a γ(t) en tout t, ˆ

0

⟨ ¨ γ(t), X(γ(t)) ⟩ dt = 0.

On voit alors (exercice) que cela se r´ eecrit

¨ γ est orthogonal ` a T Σ.

2.3. Une id´ ee intuitive de la preuve du th´ eor` eme de Birkhoff. La preuve du th´ eor` eme de Birkhoff que nous allons mettre en œuvre, tir´ ee de Struwe [8], est fond´ ee sur l’id´ ee simple suivante : nous allons donc sur l’espace Γ

(Σ) des courbes ferm´ ees trac´ ees sur Σ et trouver des points critiques de la fonctionnelle d’´ energie. Il y a d´ ej` a des points critiques triviaux, les chemins stationnaires en un point, qui sont des minima de E . Ce n’est pas ce qui nous int´ eresse. La question est donc : existe-il un point critique de E sur Γ

(Σ) d’´ energie strictement positive ? La r´ eponse ` a cette question est apport´ ee par un principe de min-max, fondamental en calcul des variations, et dont l’expression la plus simple est le lemme du col en dimension finie.

3. Le lemme du col

3.1. Le cas de la dimension finie. Int´ eressons-nous donc au cas de la dimension finie : soit n un entier et F : R

→ R une fonction de classe C

. F est suppos´ ee positive, et on suppose qu’il existe deux points x

et x

distincts tels que F(x

) = F (x

) = 0 et tels qu’ils soient des minima locaux stricts. Supposons enfin que la fonctionnelle F est coercive, c’est-` a-dire que l’on a F (x) −→

||x||→+∞

+ ∞ . Alors F admet un point critique x

, qui n’est pas un minimum relatif de F, qui v´ erifie par ailleurs

F(x

) = inf

ω∈Ω(x₁,x₂)

max

x∈ω

F(x) =: F ,

o` u Ω(x

, x

) est l’ensemble des compacts de R

connexes qui contiennent x

et x

. Essayons de comprendre ce th´ eor` eme : la coercivit´ e nous permet de ne travailler que dans un compact : dans l’ensemble Ω(x

, x

), seules les parties born´ ees par une borne uniforme nous int´ eresserons. On est donc dans la situation o` u, se trouvant au fond d’une vall´ ee, il s’agit de rejoindre le point le plus bas d’une seconde vall´ ee.

Pour cela, on associe ` a chaque

chemin

ω ∈ Ω(x

, x

) son altitude maximale max

F (x). Le chemin qui minimise cette quantit´ e passera alors n´ ecessairement par un col, c’est-` a-dire que ce chemin contiendra un point selle .

Nous allons dans un premier temps montrer que cette inf est un min, c’est-` a-dire qu’il existe ω ∈ Ω(x

, x

) tel que

F = max

x∈ω

F (x).

2. C’est une variante du lemme fondamental du calcul des variations.

5

On utilise la m´ ethode directe du calcul des variations : soit { ω

}

∈ Ω(x

, x

)

une suite minimisante :

max

F (x) →

k→+∞

F . Introduisons alors l’ensemble

ω := ∩

(

∪

ω

)

.

L’ensemble ω, en tant qu’il est intersection d´ ecroissante de compacts (puisque l’on a pu choisir les ω

uniform´ ement born´ es) connexes , est lui-mˆ eme compact est connexe. Puisqu’il contient x

et x

, on a ω ∈ Ω(x

, x

). On obtient donc

max

x∈ω

F (x) ≥ F . Mais, par continuit´ e, on a ´ egalement

max

F (x) ≤ lim sup

k→+∞

max

x∈ω_k

F (x).

Ainsi, ω est un ensemble optimal. Par ailleurs, dans la mesure o` u x

et x

sont des minima locaux stricts, on a F > 0.

Montrons ` a pr´ esent qu’il existe x ∈ ω tel que

F (x) = F et ∇ F (x) = 0, ce qui terminera la d´ emonstration.

Supposons par l’absurde que ce ne soit pas le cas. Notons ω

:= { x ∈ ω , F (x) = F } . Par compacit´ e, cet ensemble n’est pas vide, et il est ferm´ e. Par compacit´ e, il existe donc ε > 0 tel que

∀ x ∈ ω

, ||∇ F (x) || ≥ 2δ.

De mˆ eme, par le caract` ere C

de F, il existe ε > 0 tel que, sur ω

:= ω

+ B (0; ε), on ait ||∇ F || ≥ δ.En particulier, x

, x

∈ / ω

.

C’est cette propri´ et´ e qui va nous permettre de trouver un chemin ω

qui a un sommet plus bas, ce qui contredira la d´ efinition de ω. Pour ce faire, nous allons utiliser une m´ ethode de descente de gradient : soit φ une fonction plateau, c’est-` a- dire 0 ≤ φ ≤ 1, φ ≡ 1 sur ω

2

, φ ≡ 0 sur R

\ ω

et φ est de classe C

. Introduisons le flot

φ

(x) := x − tφ(x) ∇ F (x), solution de

∂φ

(x)

∂t = − φ(x) ∇ F(x) , φ

(x) = x.

D´ efinissons ψ(t, x) := F (

φ

(x) )

. On calcule calmement

∂ψ

∂t = − φ

(x) ⟨

∇ F(φ

(x)), ∇ F (x) ⟩

= − φ

(x) ⟨

∇ F(φ

(x)), ∇ F (x) ⟩

− φ

(x) |∇ F (x) |

+ φ

(x) |∇ F (x) |

= − φ

(x) |∇ F (x) |

− φ

(x)

⟨ ∇ F (

φ

(x)

) − ∇ F (x), ∇ F (x)

⟩ .

Mais maintenant, on sait que, sur le support de φ, on a ||∇ F ||

> δ

. Par compacit´ e de ω

, il existe T > 0 tel que

∀ t ∈ [0; T ] , ∂ψ

∂t ≤ − φ(x)

2 |∇ F (x) |

.

6

En int´ egrant cette in´ egalit´ e, on obtient donc, pour tout x ∈ ω, ψ(T, x) ≤ F(x) − T φ(x)

2 |∇ F(x) |

.

Il est par ailleurs clair que ψ(t, x) est constante si x / ∈ ω

. D´ eformons le chemin optimal ω obtenu grˆ ace ` a ce flot en posant

ω

:= { φ

(x) , x ∈ ω } .

Puisque φ

est continue, ω

est compact et connexe par arcs et, puisque x

, x

∈ / ω

2

, ω

∈ Ω(x

, x

). Il est alors clair, par ce qui pr´ ec` de, que max

x∈ω^T

F(x) < F , ce qui, par construction, est absurde.

Enfin, supposons que tous les points critiques de ω

soient des minima locaux.

Alors cet ensemble de points serait ouvert (puisque F = max

x∈ω

F(x)) et ferm´ e (par continuit´ e de F), donc ´ egal ` a ω, ce qui contredirait le fait que x

et x

soient des minima locaux stricts. Ceci termine la d´ emonstration du lemme du col.

3.2. Les ingr´ edients fondamentaux de la d´ emonstration. Si on lit calmement cette d´ emonstration, on voit que nous avons finalement eu besoin de peu de chose : il nous a fallu utiliser

(1) De la compacit´ e pour pouvoir parler de maxima et de points critiques, (2) Un ensemble (ici, Ω(x

, x

)) de parties de R

, qui est de plus

(3) invariant par le flot associ´ e ` a F , φ

, un flot qui est localis´ e sur le chemin optimal (par la fonction plateau φ).

En dimension infinie, la propri´ et´ e de compacit´ e sera remplac´ ee par la condition dite de Palais-Smale, les deux suivantes par un lemme de d´ eformation.

4. La d´ emonstration du th´ eor` eme de Birkhoff 4.1. Le lemme du col en dimension infinie.

4.1.1. Une premi` ere g´ en´ eralisation aux espaces de Hilbert. Le cadre hilbertien est particuli` erement bien adapt´ e pour la simple et bonne raison que, par le th´ eor` eme de Riesz, la diff´ erentielle d’une fonction de classe C

` a valeurs r´ eelles d´ efinie sur un espace de Hilbert ( H , ⟨· , ⟩ ) se repr´ esente par un gradient. Travailler dans des espaces de Banach g´ en´ eraux (ce qui est toujours possible) supposerait de d´ efinir l’´ equivalent d’un gradient, un pseudo-gradient, ce qui rendrait la pr´ esentation consid´ erablement plus technique. On se fixe une fonctionnelle F de classe C

sur H .

La condition de Palais-Smale Comme pr´ ec´ edemment indiqu´ e, la condition de Palais-Smale est une sorte de palliatif ` a la compacit´ e. En dimension infinie, c’est traditionnellement la compacit´ e faible qui est importante ; rappelons qu’une suite { u

}

converge faiblement vers u

∈ H si, pour tout v ∈ H ,

⟨ u

, v ⟩ −→

k→+∞

⟨ u

, v ⟩ .

Dans le cas d’un Hilbert s´ eparable, une application du proc´ ed´ e diagonal montre que toute suite born´ ee en norme admet une sous-suite faiblement convergente (th´ eor` eme de Banach-Alaoglu dans un Hilbert s´ eparable). Cette condition n’est pas suffisante ici, puisque certaines fonctionnelles sont continues fortement mais pas faiblement.

7

En revanche, puisque nous cherchons des points critiques de certains ensembles de niveaux et que nous travaillons avec des ensembles de niveaux, une condition qui semble raisonnable est la suivante :

(P-S) Toute suite { u

}

telle que sup

k∈N

| F (x

) | < + ∞ et telle que

||∇ F (x

) || →

k→+∞

0 admet une sous-suite convergente.

Cette condition semble tr` es forte, et elle l’est. Dans le cas qui nous int´ eressera, cette compacit´ e forte s’obtiendra justement en combinant une compacit´ e faible et des applications compactes.

Un lemme de d´ eformation Pour ce qui vient, il sera pratique de fixer quelques notations : si α ∈ R , δ, ε > 0, on note (en suivant Struwe) :

• F

:= { F < α } ,

• K

:= { F = α } ∩ {∇ F = 0 } ,

• N

:= {| F − α | < δ } ∩ {||∇ F || ≤ δ } ,

• ω

:= K

+ B (0; ε).

A ce stade on voit donc apparaˆıtre les objets d´ ` ej` a utilis´ es dans la d´ emonstration du lemme du col en dimension finie. En fait, ` a quelques d´ etails techniques pr` es (comme l’existence d’une fonction ` a support compact au moins lipschitzienne en dimension infinie ), on montre de mani` ere analogue le th´ eor` eme suivant :

Th´ eor` eme 4.1 (Lemme de d´ eformation). Supposons que F satisfasse la condition de Palais-Smale. Soit β ∈ R . Soit ε

> 0. Soit N un voisinage de K

. Alors il existe ε ∈ (0; ε

) et une famille d’hom´ eomorphismes { φ

}

, d´ ependant de β et F, de H tels que

(1) φ

= Id,

(2) φ

= Id sur {∇ F = 0 } et sur {| F − β | > ε

} , (localisation de la d´ eformation) (3) φ

= φ

◦ φ

, (propri´ et´ e de semi-groupe)

(4) F ◦ φ

(x) est d´ ecroissante en t, (propri´ et´ e de Lyapunov) (5) φ

(

F

\ N

) ⊂ F

et φ

(

F

) ⊂ F

∪ N. (d´ eformation des en-

sembles de niveau).

On d´ eduit de ce lemme de d´ eformation le lemme du col suivant :

Th´ eor` eme 4.2 (Lemme du col). Soit Ω ⊂ P ( H ) une famille de parties inva- riante sous l’action de toute famille d’hom´ eomorphismes { φ

}

(qui n’est pas n´ ecessairement un semi-groupe) de H telle que F ◦ φ

(x) est d´ ecroissante en t pour tout x. Alors, si la quantit´ e

F

:= inf

ω∈Ω

sup

x∈ω

F(x)

est finie, c’est une valeur critique de F : il existe x ∈ H tel que F (x) = F

et

∇ F (x) = 0.

La d´ emonstration est assez simple : supposons que F

soit une valeur r´ eguli` ere de F . On choisit ε

= 2, N = ∅ comme voisinage de K

Ω

= ∅ et ε ∈ (0; ε

). Alors,

8

par d´ efinition de F

, il existe ω ∈ Ω tel que ω ⊂ F

Ω+ε

. En choisissant le flot donn´ e par le lemme de d´ eformation, on obtient alors

φ

(ω) ⊆ F

Ω−ε

∈ Ω, ce qui fournit une contradiction.

4.1.2. Une deuxi` eme (br` eve) g´ en´ eralisation aux vari´ et´ es hilbertiennes. Commen¸cons par d´ efinir, peut-ˆ etre pas dans toute sa rigueur, une vari´ et´ e hilbertienne : on dit qu’une partie X d’un espace de Hilbert H

est une C

-sous-vari´ et´ e hilbertienne sur un espace de Hilbert H si X admet une base de voisinage { U

}

et une famille de cartes { φ

: U

∈ Λ }

, c’est-` a-dire d’hom´ eomorphismes de classe C

des U

∩ X sur leurs images, v´ erifiant en outre que φ

◦ φ

est de classe C

d` es que U

∩ U

∩ X ̸ = ∅ . Bien entendu, on peut d´ efinir, comme dans le cas des sous-vari´ et´ es d’un espace de dimension finie, l’espace tangent ` a une telle sous-vari´ et´ e X comme l’ensemble des ˙ γ(0) pour toutes les courbes γ : ( − ε; ε) → X telles que γ(0) = x.

Ici encore, nous passons quelques d´ etails sous silence, et renvoyons pudiquement le lecteur ` a l’ouvrage de Klingenberg [6]. Dans le cas de vari´ et´ es, on d´ efinit ´ egalement la notion de fonction de classe C

, et les deux th´ eor` emes pr´ ec´ edents (lemme du col et principe de min-max) s’´ enoncent exactement de la mˆ eme mani` ere en remplacant

≪

H espace de Hilbert

par

M sous-vari´ et´ e hilbertienne

.

On voit qu’il suffit de construire Ω une famille de parties invariante sous le flot donn´ e par le lemme de d´ eformation, ´ evidemment.

4.2. L’espace des courbes ferm´ ees comme vari´ et´ e : un autre point de vue sur les g´ eod´ esiques. Nous allons donner une r` egle d’orthogonalit´ e : supposons travailler sur un probl` eme d’optimisation du type suivant : on se donne une fonction f : R

→ R r´ eguli` ere, ainsiqu’une fonction de contrainte h. Essayons d’attaquer le probl` eme d’optimisation suivant :

min

x ,h(x)=0

f (x),

en supposant que ce probl` eme ait un sens (qu’une solution existe donc). Choisisonns une solution x

. De la mˆ eme mani` ere que pour d´ eriver l’´ equation d’Euler-lagrange, nous allons consid´ erer, pour trouver une condition sur x

, une courbe quelconque y = y(t), t ∈ ( − 1; 1), y(0) = x

, d´ efinie sur la sous-vari´ et´ e { h = 0 } . Introduisons la fonction

φ : t 7→ f ( y(t) )

.

Alors la fonction φ admet un minimum en t = 0. Sa d´ eriv´ ee est donc nulle, ce qui s’´ ecrit

dφ

dt = 0 = ⟨ y(0), ˙ ∇ f (x

) ⟩ .

En particulier, ∇ f (x

) est orthogonal ` a tout vecteur tangent ` a { h = 0 } en x

. Peut-on adapter cette preuve en dimensions sup´ erieures ? D’une certaine mani` ere, oui. La pr´ esentation qui arrive est parfaitement informelle, parfois fausse, et nous renvoyons au premier chapitre de l’ouvrage de Klingenberg, pour une pr´ esentation rigoureuse de toutes ces notions dans le cas des courbes ferm´ ees, sur lequel nous reviendrons plus tard.

Moralement, on consid` ere Γ

(Σ) l’ensemble des courbes continues trac´ ees sur Σ. Le gros probl` eme de cet ensemble, c’est qu’il ne s’agit absolument pas d’un espace vectoriel, de sorte que l’attirail d’alg` ebre lin´ eaire dont nous avons l’habitude

9

pour calculer des diff´ erentielles n’est absolument pas accessibles. Bon. Mais on peut voir cet ensemble comme une sous-partie d’un espace bien plus gros, l’espace des chemins continus trac´ es dans R

, qui sera sans grande surprise not´ e Γ

( R

). On a besoin d’une structure hilbertienne sur cet espace. Pour cela, on consid` ere les chemins suffisamment r´ eguliers (W

pour ˆ etre pr´ ecis ; les lecteurs non familiers avec les espaces de Sobolev peuvent remplacer cette r´ egularit´ e par C

), c’est-` a-dire d’´ energier E : u 7→ ´

| u ˙ |

finie. ` A reparam´ etragre pr` es, on peut supposer toutes les courbes param´ etr´ ees par R /2π Z , puisque les courbes sont ferm´ ees. Le produit scalaire est donn´ e par

⟨ u, v ⟩ = ˆ

⟨ u, ˙ v ˙ ⟩ .

Convenons que Γ

(Σ) est une

sous-vari´ et´ e

de Γ

( R

).

Essayons ` a pr´ esent de voir ce que serait le plan tangent ` a Γ

(Σ) en une courbe γ. Si l’on essaie d’adapter la construction du cas de la dimension finie, c’est-` a-dire en consid´ erant le plan tangent comme l’ensemble des vecteurs vitesses des courbes passant par le point, on se retrouve ` a devoir d´ eriver un chemin p : [ − 1; 1] × Γ

(Σ) tel que p(0) = γ. Consid´ erons, ` a reparam´ etrage pr` es, que, pour tout τ , p(τ) est un chemin param´ etr´ e par R /2π Z , not´ e p(τ, · ). Ce chemin est continu, d´ erivable en τ, et l’on s’int´ eresse ` a la quantit´ e

(4.1) ∂p

∂τ

τ=0

∈ Γ

( R

).

Un param` etre t ∈ R /2π Z ´ etant fix´ e, on peut voir la famille { (p(τ, t) } comme une chemin trac´ e sur Σ et

(0, t) comme un vecteur tagent ` a γ(t). Ceci nous donnerait envie d’´ ecrire, d’une certaine mani` ere, que le plan tangent est

T

= {

φ ∈ Γ

( R

) , ∀ t ∈ [ − 1; 1] , φ(t) ∈ T

Σ } .

Maintenant qu’on a le plan tangent, regardons la fonctionnelle d’´ energie ` a minimiser

(4.2) E (u) := 1

2 ˆ

| u ˙ |

.

Et maintenant, sur l’espace Γ

( R

), l’application E est effectivement diff´ erentiable (au sens de Gˆ ateaux), et sa diff´ erentielle (que nous noterons ∇E ; l’analogie avec le cas de la dimension n’en sera que plus apparent par la suite) est donn´ ee par

(4.3) ∇E

(v) =

ˆ

⟨ γ, ˙ v ˙ ⟩ .

Admettons donc que la r` egle d’orthogonalit´ e s’adapte ` a un cas infini dimensionnel.

Fixons deux points x et y sur la surface Σ et consid´ erons l’ensemble des chemins joignant x et y trac´ es sur Σ. On note cet ensemble Γ

(Σ). Une g´ eod´ esique est un point critique de la longueur, donc de l’´ energie, d´ efinie cette fois sur l’espace Γ

( R

) des courbes joignant x ` a y. En une courbe g´ eod´ esique, la r` egle d’orthogo- nalit´ e se r´ e´ ecrit

∀ φ ∈ T

Γ

(Σ) , ˆ

⟨ φ, ˙ γ ˙ ⟩ = ∇E

(φ) = 0.

En int´ egrant par parties, et puisque les fonctions en jeu sont p’eriodiques, on peut donc ´ ecrire que

∀ φ ∈ T

Γ

(Σ) , ˆ

⟨ ¨ γ, φ ⟩ = 0.

10

On se convainc alors

ains´ ement que cela signifie que ¨ γ est orthogonal ` a la surface en tout point. ´ Evidemment, cela est ais´ e si l’on suppose que la fonction γ soit de classe C

. Sans cette hypoth` ese, il est n´ ecessaire de travailler un peu plus. Autrement dit :

Un point critique de la fonctionnelle d’´ energie sur Γ

(Σ) est une g´ eod´ esique p´ eriodique.

Le probl` eme, c’est qu’on ne sait pas s’il existe, ou non, un point critique non trivial de la fonctionnelle d’´ energie...

4.3. Strat´ egie de preuve. Pour appliquer le lemme du col version vari´ et´ es hil- bertiennes, il nous faut deux choses : la condition de Palais-Smale, ainsi qu’une famille de parties Ω invariante sous l’action du flot associ´ e ` a E . On rappelle que l’on travaille sur la vari´ et´ e

Γ

(Σ) := { u ∈ W

( R /2π Z , Σ) , ˆ

2

−^π2

| u(t) ˙ |

dt < + ∞ . }

4.3.1. La condition de Palais-Smale. Soit donc { u

}

une suite de Palais-Smale, c’est-` a-dire qu’elle v´ erifie

∀ k ∈ N , E (u

) ≤ λ et

|∇E (u

) | −→

k→+∞

0.

Par l’in´ egalit´ e de Cauchy-Schwarz, on a, pour tout (t, s) ∈ ( R /2π Z )

,

| u(t) − u(s) | = ˆ

t

˙ u(τ )dτ

≤ √ 2λ √

| t − s | .

En particulier, cette suite est ´ equi-uniform´ ement continue. De plus, puisque Σ est une surface compacte, cette famille est ´ egalement uniform´ ement born´ ee. Le th´ eor` eme d’Arz´ ela-Ascoli garantit la convergence vers une fonction u

en norme uniforme. Par ailleurs, on utilise les injections de Sobolev. Dans le cas qui nous occupe, l’injection de Sobolev W

(Ω) − L

(Ω) nous dit que le caract` ere born´ e L

(Ω) de la suite ainsi que le caract` ere born´ e L

(Ω) de la suite des gradients assure l’existence u

∈ W

(Ω) telle que

(1) u

−→

k→+∞

u

dans L

(Ω), (2) ˙ u

−→

k→+∞

u ˙

faiblement : pour tout φ ∈ W

(Ω)

, ˆ

Ω

⟨ φ, u ˙

⟩ −→

k→+∞

ˆ

Ω

⟨ φ, u ˙

⟩ . Evidemment, nous avons ´ u

= u

.

Pour l’instant, nous n’avons donc pas de convergence forte. Pour la r´ ecup´ erer, mon- trons que la suite {∇ (u

− u

) }

tend en norme vers 0. Introduisons ` a cet effet la projection π

de la suite { u

− u

}

sur le plan tangent T

Γ

(Σ) : cela

3. Il faut voir cela comme l’analogue du lemme fondamental du calcul des variations : sifest une fonction continue sur [0; 1] v´erifie que, pour toute fonctionh continue sur [0; 1] la quantit´e

´hf = 0, alorsf est identiquement nulle ; la preuve est tr`es simple dns ce cas ´el´ementaire, bien plus compliqu´ee dans le cas qui nous int´eresse r´eellement.

11

revient ` a projeter en tout point la fonction sur le plan tangent ` a u

(t). En notant ν la normale sortante ` a Σ, on introduit

ψ

:= π

(u

− u

) : t 7→ u

(t) − u

(t) − ν(u

(t))

( ⟨ ν (u

(t)), u

(t) − u

(t) ⟩ ) . La normale sortante est de classe C

, de sorte qu’un calcul explicite montre que { ψ

}

∈ W

(Ω)

et mˆ eme que cette suite est uniform´ ement born´ ee. Ainsi,

⟨∇E (u

), ψ

⟩ → 0.

Enfin, on peut ´ ecrire

k→

o

(1) = ⟨∇E (u

), ψ

⟩ = ˆ

0

⟨ ψ ˙

, u ˙

⟩

= ˆ

0

⟨ ( ˙ u

− u ˙

), ψ ˙

⟩ + ⟨ | {z } u ˙

, ψ ˙

⟩

k→+∞−→ 0

= ˆ

0

⟨ ( ˙ u

− u ˙

), ψ ˙

⟩ + o

k→+∞

(1)

= ˆ

0

| u ˙

− u ˙

|

− (

⟨ u ˙

− u ˙

, ν(u

) ⟩ )

+ o

k→+∞

(1).

Mais, par d´ efinition du plan tangent,

⟨ u ˙

, ν(u

) ⟩ ≡ 0.

De mˆ eme,

⟨ u ˙

, ν(u

) ⟩ ≡ 0.

Ainsi, en majorant simplement, on arrive ` a ˆ

0

( ⟨ u ˙

− u ˙

, ν(u

) ⟩ )

= ˆ

0

( ⟨ u ˙

, ν(u

) − ν(u

) ⟩ )

≤ 2 E (u

) || ν(u

) − ν (u

) ||

= o

k→+∞

(1),

par continuit´ e de ν et par convergence uniforme de la suite { u

}

. Il suffit de remettre tous ces ´ el´ ements ensemble pour finalement tomber sur

ˆ

| u ˙

− u ˙

|

−→

k→+∞

0,

donc sur la convergence forte. La condition de Palais-Smale est v´ erifi´ ee.

Passons ` a la construction d’un ensemble Ω de parties invariant sous l’action de tout flot.

4.3.2. Construction de Ω. C’est ici que notre hypoth` ese de diff´ eomorphie ` a la sph` ere va ˆ etre utile. Fixons un diff´ eomorphisme f : Σ → S

.

On consid` ere une courbe p : [

−

;

]

→ Γ

(Σ) telle que p (

±

)

soit une courbe constante. On note P l’ensemble de ces courbes.

On travaille sur S

muni de ses coordonn´ ees sph´ eriques (θ, ϕ). On envoie la famille

12

de courbes { p(θ) }

[

] sur une famille de courbes trac´ ees sur S

en d´ efinissant une famille de courbes { p(θ) ˜ }

[

] d´ efinie par

˜

p(θ)(ϕ) := f (

p(θ)(ϕ) ) .

Par ailleurs, cette correspondance est continue en (θ, ϕ). En consid´ erant les deux arguments θ et ϕ simultan´ ement, on peut voir ˜ p comme une transformation de S

, de sorte que dire que ˜ p est homotpe ` a l’identit´ e (c’est-` a-dire que ˜ p se d´ eforme par un chemin continu en l’identit´ e) a un sens. Posons

Ω := { p ∈ P , p ˜ est homotope ` a id

} .

Il est clair, en utilisant f

, que cet ensemble est non vide. De plus, vu la conti- nuit´ e de p → p, cet ensemble est invariant sous l’action de tout hom´ ˜ eomorphisme de Γ

(Σ) qui fixe les courbes constantes. Mais maintenant, si F est un hom´ eomorphisme de Γ

(Σ) qui fait d´ ecroˆıtre E , typiquement si on consid` ere le flot gradient associ´ e

`

a E , cette derni` ere propri´ et´ e est v´ erifi´ ee.

On peut alors conclure que la quantit´ e E := inf

p∈Ω

sup

γ∈p

E (γ) est une valeur critique de E .

4.3.3. Non-trivialit´ e de la valeur critique. Reste donc ` a v´ erifier que E > 0.

Nous allons montrer cela par l’absurde. Toujours par Cauchy-Schwarz, on sait que, si δ > 0, alors il existe une borne γ > 0 telle que, pour tout u ∈ Γ

(Σ),

(4.4) diam(u) := sup

x,s∈R/2πZ

| u(x) − u(s) | ≤ δ.

Nous allons montrer que, si β est trop petit, alors on peut homotoper p

a un ensemble de courbes constantes, ce qui est en contradiction avec la d´ efinition de Ω. Encore une fois, c’est le manque de lin´ earit´ e de Σ qui va nous embˆ eter. Ce que nous allons faire, c’est nous ramener ` a des homotopies entre fonctions ` a valeurs dans R

avant de les projeter sur Σ. Ce qui implique qu’il nous faut unicit´ e de la projection. Aucune chance en g´ en´ eral d’avoir de la convexit´ e, mais le fait que Σ soit diff´ eomorphe ` a S

lui donne suffisamment de r´ egularit´ e pour pouvoir dire qu’il existe δ > 0 tel que, pour tout x ∈ Σ + B (0; δ), la projection de x sur Σ existe et soit unique. On la note π(x). On v´ erifie par ailleurs que cette application est continue.

Choisissons un γ donn´ e par la propri´ et´ e (4.4), et supposons par l’absurde que E < γ.

On choisit p ∈ Ω tel que, pour toute courbe u ∈ p, on ait E (u) ≤ γ.

En particulier, toute courbe de p est de diam` etre major´ e par δ. Fixons donc un

´

el´ ement ϕ ∈ R /2π Z . Soit u ∈ p. montrons que u est homotope ` a la courbe constante u(ϕ). Il suffit de poser, pour tout t ∈ [0; 1],

[u, u(ϕ)]

:= π (

(1 − t)u + tu(ϕ) ) ,

et de noter que, toutes les applications en jeu ´ etant continues, cette application v´ erifie toutes les propri´ et´ es d´ esir´ ees. Il est ensuite clair (en le faisant pour chaque u ∈ p) que le chemin p est homotope ` a un chemin form´ e de courbes constantes, ce qui est impossible.

13

Notons donc que l’´ energie d’une g´ eod´ esique ferm´ ee est contrˆ ol´ ee par la taille du voisinage de la surface n´ ecessaire pour que la projection soit univoquement d´ efinie.

5. Conclusion

Nous avons donc trait´ e le cas d’une surface diff´ eomorphe ` a la sph` ere ; cependant, si Σ n’est pas diff´ eomorphe ` a la sph` ere, le th´ eor` eme est-il toujours valable ? La r´ eponse est oui, et est mˆ eme plus facile ` a obtenir, grˆ ace au th´ eor` eme de classification des surfaces compactes (nous renvoyons ` a Hirsch [5], chapitre 9, ou ` a Massey, [ ?], pour une d´ emonstration), on sait que notre surface compacte orient´ ee plong´ ee dans R

est hom´ eomorphe ou bien un tore ` a n trous ou bien ` a la sph` ere S

. En particulier, si S n’est pas diff´ eomorphe ` a la sph` ere, alors il existe une courbe ferm´ ee γ trac´ e sur Σ qui n’est pas homotope ` a un point (autrement dit, qui ne peut se r´ eduire en un point). On consid` ere alors l’ensemble des courbes ferm´ ees ˜ γ : R /2π Z → S homotope

`

a γ. Chacune de ces courbes est suppos´ ee parcourue ` a vitesse constante. Dans cette classe d’homotopie, le mˆ eme type d’arguments que pr´ ec´ edemment (` a savoir, utiliser de la compacit´ e pour montrer qu’une suite minimisante de l’´ energie admet une valeur d’adh´ erence) montre qu’il existe un minimiseur de l’´ energie dans la classe d’homotopie. Par ailleurs, quand nous avons d´ eriv´ e l’´ equation des g´ eod´ esiques, nous n’avons utilis´ e qu’une famille de variations { γ

}

telle que γ

= γ, donc de courbes homotopes ` a γ. Ainsi, le minimiseur obtenu dans la classe d’homotopie est en fait un point critique de l’´ energie. Donc c’est une g´ eod´ esique, qui n’est pas triviale, puisque dans une classe d’homotopie non triviale.

R´ ef´ erences

[1] Marcel Berger. A Panoramic View of Riemannian Geometry. Springer Berlin Heidelberg, 2003.

[2] George D. Birkhoff.Dynamical systems with two degrees of freedom. Proceedings of the Na- tional Academy of Sciences of the United States of America, 1917.

[3] Manfredo P. Do Carmo.Differential Geometry of Curves and Surfaces. Prentice-Hall, 1976.

[4] Fancis Clarke.Functional Analysis, Calculus of Variations and Optimal Control. Springer, 2013.

[5] Morris W. Hirsch.Differential Topology. Springer, 1976.

[6] Wilhelm Klingenberg.Lectures on Closed Geodesics. Springer, 1978.

[7] William S. Massey.Algebraic topology : an Introduction. Springer, 1977.

[8] Michael Struwe.Variational Methods- Applications to nonlinear Partial Differential Equations and Hamiltonian Systems. Springer, 2008.

E-mail address:idriss.mazari@ens-lyon.Fr

14