Théorème 1. E est un R-ev de dimension n . Soit G un sous groupe compact de GL(E) . Alors il existe un produit scalaire h.|.i

Sous groupes compacts de GL _n ( R ) .

Résumé

Cet exposé reprend une démonstration se trouvant dans [Ale], mais qui est assez rapide et manque un peu de justications. Cette même référence présente une autre preuve, qui utilise les ellipsoïdes de volume maximal. De plus, une démonstration utilisant l'existence d'une mesure de Haar sur un sous groupe compact se trouve dans [MT86].

Théorème 1. E est un R-ev de dimension n . Soit G un sous groupe compact de GL(E) . Alors il existe un produit scalaire h.|.i

sur E , de forme quadratique q

tel que G ⊂ O(q

) .

Dans la suite, on identie E à R

par le choix d'une base, et G à un sous groupe de GL

( R ) . Etude dans le cas ni

Si on suppose G ni, la réponse est évidente, il sut de considérer :

∀(x,y) ∈ E

, hx,yi

= 1

|G|

X

g∈G

hg(x),g(y)i (1)

En eet, on a, pour g

∈ G, l'application g 7→ gg

est un bijection de G, et donc :

∀(x,y) ∈ E

, hg

(x),g

(y)i

= 1

|G|

X

g∈G

h(gg

)(x),(gg

)(y)i = hx,yi

(2)

Construction d'un point xe pour v ∈ G

Si on suppose que l'on dispose d'un compact convexe non vide K ⊂ E tel que pour un v ∈ G xé, on ait v(K) ⊂ K , on va construire un point xe pour v . En eet, on prend x

∈ K et un considère la suite :

x

= 1 k + 1

k

X

i=0

v(x

) (3)

qui est un élément de K par convexité. Comme K est compact, on extrait de x

une suite x

qui converge vers a ∈ K. Cette sous suite vérie :

v(x

) = x

+ 1

n

+ 1 v

(x

) − x

(4) comme v

(x

)−x

est une suite d'élément de K , donc bornée, on a v(x

) −−−→

n→∞

a , et par continuité de v , on a aussi v(x

) −−−→

n→∞

v(a) , d'où v(a) = a .

Construction d'une norme strictement convexe stable par G On dénit :

∀x ∈ E, N

(x) = max

g∈G

kg(x)k (5)

cette quantité est bien dénie, car G

= {g(x)}

est compact (comme image continue de G par l'application g 7→ g(x) ), est donc la norme k.k qui est continue atteint son maximum sur G . De plus, cette quantité est invariante par G, ie :

∀x ∈ E, ∀g ∈ G, N

(gx) = N

(x) (6)

pour la même raison qu'en (2). La propriété importante de cette norme est quelle est strictement convexe

, ce qui signie que si (x,y) ∈ E

vérient N

(x + y) = N

(x) + N

(y) , alors ces vecteurs

1. ie que sa boule unité est strictement convexe

1

sont liés positivement. Ceci est simple conséquence du fait que le max dans la dénition de N

(x + y) est atteint pour un élément g

∈ G , et donc :

N

(x + y) = kg

(x + y)k ≤ kg

(x)k + kg

(y)k ≤ N

(x) + N

(y) = N

(x + y) (7) ce qui implique kg

(x) +g

(y)k = kg

(x)k +kg

(y)k et donc la stricte convexité de la norme euclidienne k.k implique qu'il existe (λ,µ) ∈ R

tel que λg

(x) + µg

(y) = 0 , et donc λx + µy = 0 .

Construction d'un point xe pour G

Cette fois ci, on suppose que l'on dispose d'un compact K stable par tous les éléments de G . Pour u ∈ G , on note :

F

= {x ∈ E, u(x) = x} (8)

On veut donc montrer que :

\

u∈G

F

6= ∅ (9)

Dans le cas contraire, comme les F

sont fermés comme images réciproques (u − Id)

({0}) , inclus dans le compact K , on pourrait extraire une sous famille nie : {F

}

telle que :

n

\

k=1

F

= ∅ (10)

Il sut donc de montrer que pour toute famille nie {F

}

, on a :

n

\

k=1

F

6= ∅ (11)

Pour ce faire, on construit :

v = 1 p

p

X

k=1

u

(12)

comme K est convexe, pour x ∈ K , on a :

∀k ∈ {1, . . . ,p}, u

(x) ∈ K donc v(x) = 1 p

p

X

k=1

u

(x) ∈ K (13)

Donc v(K) ⊂ K . On sait donc construire un élément a ∈ K tel que v(a) = a . Ceci implique donc que :

N

(a) = N

(v(a)) ≤ 1 p

n

X

k=1

N

(u

(a)) = 1 p

n

X

k=1

N

(u

(a)) = N

(a) (14)

Donc on a :

n

X

k=1

N

(u

(a)) =

n

X

k=1

N

(u

(a)) (15)

2

et par stricte convexité de la norme N

, les vecteurs u

(a)

sont positivement liés deux à deux, par exemple,

∀i ∈ {2, . . . p}, ∃λ

> 0, u

(a) = λ

u

(a) (16) Mais puisque l'on sait que N

est invariant par G , on a N

(u

(a)) = N

(u

(a)) , et donc λ

= 1 , ce qui signie u

(a) = u

(k) . Pour conclure, il sut de noter que :

a = v(a) = 1 p

p

X

k=1

u

(a) = u

(a) = u

(a) (17)

Donc a est bien un point xe pour tous les u

. Une opération linéaire de G sur S

On note S

l'espace vectoriel des matrices symétriques, et S

le cône convexe des matrices symé- triques dénies positives. On note ∗ la loi symétrisée sur G , ie dénie par ∀(g

,g

) ∈ G

, g

∗ g

= g

g

. On peut dénir une action de (G,∗) sur S

par via la formule ∀g ∈ G, ∀S ∈ S

, gS =

gSg , ce qui correspond à la donnée du morphisme :

ρ : (G,∗) → GL(S

) (18)

g 7→ ρ(g) avec ρ(g)(S) =

gSg (19)

On vérie que ceci dénit bien une action, ie ρ(g

∗ g

) = ρ(g

)ρ(g

) et ρ(Id) = Id . De plus, cette action est linéaire.

Construction de h.|.i

On note G = ρ(G) ⊂ GL(S

) , qui est compact comme image continue de G compact par ρ continue (car polynômiale). Soit alors S = {

gg, g ∈ G} , compact comme image de G par g →

gg continue car polynômiale, et est inclus dans S

, par construction (les éléments de G sont inversibles). On note K l'enveloppe convexe de S , qui est à son tour compacte, d'après le théorème de Carathéodory, et incluse dans S

qui est convexe. On remarque que, comme l'action de G est linéaire, comme S est stable par l'action de G , K l'est aussi, ce qui veut dire que K est stable par G , qui est un sous groupe de GL(S

) . D'après l'étude menée aux paragraphes précédents, on peut donc trouver un élément S ∈ K ⊂ S

xe par tous les éléments de G , ce qui signie :

∀g ∈ G, ρ(g)(S) =

gSg = S (20)

ie G ⊂ O(q

), où q

est le produit scalaire euclidien déni par S.

Références

[Ale] Alessandri. Thèmes de géométrie. Masson.

[MT86] Rached Mneimné and Frédéric Testard. Introduction à la théorie des groupes de Lie classiques.

Herman, 1986.

3