18/9/06

(1)

1. Groupes topologiques

Définition 1.1. — Un groupe topologique est un groupe G muni d’une topologie telle que les deux applications :

G×G→G, et G→ G, (g, h) 7→gh g 7→g⁻¹

soient continues (ici, G×G est muni de la topologie produit). Ceci équivaut à la continuité de l’application (g, h)7→gh⁻¹.

Dans ce cas, tout sous-groupe H de G, muni de la topologie induite, est un groupe topologique.

Exemples 1.2(Groupes discrets). — Tout groupe Γ, muni de la topologie dis- cr`ete, est un groupe topologique. Par exemple,Z,Z/nZ, tout groupe fini, etc.

Exemples 1.3(Groupes additifs et multiplicatifs). — 1) (R,+) est un groupe topologique, puisque l’application (x, y)7→x−yest continue. De même, (C,+) est un groupe topologique, isomorphe à (R²,+). Plus généralement, (Rⁿ,+).

2) (R^∗,×) est un groupe topologique, puisque l’application (x, y) 7→ xy⁻¹ est continue. Il n’est pas connexe, puisque R^∗₊ est un sous-groupe ouvert et ferm´e.

De mˆeme, (C^∗,×) est un groupe topologique. Le cercle S¹ = {z ∈ C | zz= 1} est un sous-groupe de (C^∗,×). On le note aussi U(1). Comme espace topologique, il est compact. On a un isomorphisme de groupes topologiques C^∗ ∼= S¹×R^∗₊.

Exemples 1.4(Groupes linéaires). — Soit K = R ou C. On munit M_n(K) ∼= Kⁿ² de la topologie usuelle. L’application A 7→ d´et A est continue, puisque

(0)version du 19/9/06

(2)

2 S´EANCE DU 18/9

c’est un polynˆome en les coefficients a_i,j de A. Donc le groupe GL_n(K) ={A∈M_n(K)|d´et A6= 0}

est un ouvert de M_n(K). L’application (A,B) 7→ AB est continue, puisque chaque coefficient

(AB)_i,j = Xn k=1

a_i,kb_k,j

est une fonction continue (un polynôme quadratique) en les coefficients de A et B. Soit C(A) la matrice des cofacteurs de A, c.-à-d., C(A)_i,j est le déterminant de la matrice de taille n−1 obtenue à partir de A en supprimant la i-ème ligne et la j-ème colonne ; c’est un polynôme homogène de degrén−1 en les coefficients de A. D’après la formule

A⁻¹ = 1 d´et A

tC(A),

où ^t désigne la matrice transposée, on voit que A 7→ A⁻¹ est une application continue. Donc GL_n(K) est un groupe topologique. Le groupe

SL_n(K) ={A∈GL_n(K)|d´et A = 1}

est un sous-groupe ferm´e. Ni GL_n(K) ni SL_n(K) ne sont compacts, car SL_n(K) contient, par exemple, les matrices I +xE_i,j, pour i < j et x ∈K arbitraire, donc la fonction continue A7→A_i,j est non born´ee sur SL_n(K).

Exemples 1.5(Groupes orthogonaux, unitaires ou symplectiques)

Ce sont les sous-groupes de GL_n(K) qui préservent une forme bilinéaire symétrique, une forme hermitienne, ou une forme bilinéaire antisymétrique (forme alternée). En particulier, on a les deux exemples suivants.

1) On munit Rⁿ du produit scalaire euclidien usuel, c.-`a-d., si x = (x₁, . . . , x_n) et y= (y₁, . . . , y_n), alors

(x, y) =X

i

x_iy_i, et kxk=p

(x, x) =sX

i

x²_i.

Alors, on d´efinit le groupe orthogonal

O(n) ={A∈GL_n(R)|(Ax,Ay) = (x, y), ∀x, y∈Rⁿ}

={A∈GL_n(R)|^tAA = I}

={A = (a_i,j∈M_n(R)|P_n

k=1a_k,ia_k,j =δ_i,j, ∀i, j}.

Alors, O(n) est un sous-groupe ferm´e de GL_n(R) et aussi un sous-espace ferm´e de M_n(R). De plus, P

ka²_k,i = 1 entraˆıne|a_k,i|61 pour tout k, i; donc O(n) est un ferm´e born´e de M_n(R), donc est compact.

(3)

D’autre part, comme dét(^tA) = A, pour tout A ∈O(n) on a dét(A)² = 1, d’où dét(A) =±1. Ceci conduit à introduire le groupe spécial orthogonal

SO(n) ={A∈O(n)|d´et(A) = 1}.

C’est un sous-groupe ferm´e de O(n), il est donc ´egalement compact. Pour n= 2, on a

SO(2) =

½ µa−b b a

¶¯¯

¯¯a²+b²= 1

¾

∼= S¹.

2) On munit Cⁿ du produit scalaire hermitien usuel, c.-`a-d., si x = (x₁, . . . , x_n) et y= (y₁, . . . , y_n), alors

(x, y) =X

k

x_ky_k, et kxk=p

(x, x) =sX

k

|x_k|².

Alors, on d´efinit le groupe unitaire

U(n) ={A∈GL_n(C)|(Ax,Ay) = (x, y), ∀x, y∈Cⁿ}

={A∈GL_n(C)|^tAA = I}

={A = (a_i,j)∈M_n(C)|P_n

k=1a_k,ia_k,j =δ_i,j, ∀i, j}.

Alors, U(n) est un sous-groupe ferm´e de GL_n(C), et aussi un sous-espace ferm´e de M_n(C). De plus,P

k|a_k,i|²= 1 entraˆıne|a_k,i|61 pour toutk, i; donc U(n) est un ferm´e born´e de M_n(C), donc est compact.

D’autre part, l’image de U(n) par l’application continue d´et est un sous- groupe compact deC^∗, donc contenu dans S¹. En fait, on peut voir que l’image est exactement S¹. On introduit aussi le groupe sp´ecial unitaire

SU(n) ={A∈U(n)|d´et(A) = 1}.

C’est un sous-groupe ferm´e de U(n), il est donc ´egalement compact. Pour n= 1, on a

U(1) ={z∈C^∗ |zz= 1}= S¹.

Exemples 1.6(Groupesp-adiques). — Soit Z_p l’anneau des entiers p-adiques.

Alors (Z_p,+) et (Z^∗_p,×) sont des groupes topologiques compacts, voir par exemple [Am, Chap. 1].

2. Interlude sur les repr´esentations de groupes finis

Définition 2.1. — Soit G un groupe. Une représentation (complexe) de G dans un C-espace vectoriel V est la donnée d’un morphisme de groupes ρ : G→ GL(V). Dans ce cas, on dit aussi que V est un G-module. Si V est de dimension finie n, ceci équivaut à la donnée d’un morphisme G→GL_n(C).

(4)

4 S´EANCE DU 18/9

Définition 2.2. — 1) Soit V une repr´esentation de V. On dit que V est irr´e- ductible si V ne contient pas de sous-espace G-stable autre que {0} et V.

Dans ce cas, on dit aussi que V est un G-modulesimple.

2) On dit que V estcomplètement réductible, ousemi-simple, si V est somme directe de représentations irréductibles.

Si V est de dimension finie, alors tout sous-espace G-stable de dimension minimale est un sous-module irréductible (c’est clair). C’est un problème im- portant de comprendre toute les représentations, disons de dimension finie, d’un groupe G. On veut d’une part classifier toutes les représentations irré- ductibles, et d’autre part on est content si toute représentation de G est somme directe d’irréductibles. Ce n’est pas toujours le cas, mais c’est la cas si G est un groupe fini.

Théorème 2.3. — SoitGun groupe fini,V une représentation deGde dimen- sion finie. Alors V est complètement réductible.

D´emonstration. — Choisissant une base de V, on identifie V =Cⁿ. On munit V du produit scalaire hermitien usuel, qu’on d´esigne parh−,−i. Pourx, y∈V, on pose

(x, y) = 1

|G|

X

g∈G

hgx, gyi.

Il est clair que (−,−) est hermitien sym´etrique, et il est d´efini positif puisque pour x6= 0 on a

(x, x) = 1

|G|

X

g∈G

hgx, gxi>0.

Donc (−,−) est un nouveau produit scalaire hermitien sur V. De plus, il est G-invariant, c.-`a-d., pour toutg∈G, et x, y∈V, on a

(∗) (gx, gy) = (x, y).

En effet,

(gx, gy) = 1

|G|

X

h∈G

hhgx, hgyi= 1

|G|

X

h⁰∈G

hh⁰x, h⁰yi= (x, y).

On peut maintenant démontrer le théorème. Soit W un sous-espace G-stable de V, de dimension minimale. Alors W est irréductible. De plus, on a une décomposition orthogonale, relativement à (−,−) :

(∗∗) V = WL^⊥

W^⊥,

et W^⊥ est G-stable. En effet, six ∈W^⊥ etg∈G alors, pour toutv ∈W, on a

(v, gx) = (g⁻¹v, x) = 0,

(5)

d’où gx ∈ W^⊥. Alors, la restriction de (−,−) à W^⊥ est encore un produit scalaire hermitien, G-invariant, et on peut répéter le processus. Comme V est de dimension finie, on obtient ainsi une décomposition en somme directe orthogonale de sous-modules irréductibles :

V = W₁L^⊥ W₂L^⊥

· · ·L^⊥ W_r. Le théorème est démontré.

3. Mesure de Haar sur un groupe compact

3.1. Représentations régulières gauche et droite. — Soit G un groupe compact. On note C(G) l’espace des fonctions continues φ: G→ C, muni de la norme

kφk= sup

g∈G

|φ(g)|.

C’est un espace de Banach (c.-`a-d., il est complet pour cette norme), voir par exemple [Di81, 6.1.12].

On a deux représentations de G dans C(G), notées L :g7→L_get R :g7→R_g, appelées représentation régulière gauche (resp. droite), et définies comme suit.

Soit φ∈C(G) ; pour tout h∈G on pose :

(L_gφ)(h) =φ(g⁻¹h), (R_gφ)(h) =φ(hg).

D’abord, L_gφ est bien continue, car c’est la compos´ee de h 7→ g⁻¹h et de φ.

De mˆeme, R_gφ est continue. Pourg₁, g₂∈G, on a

(L_g₁(L_g₂φ))(h) = (L_g₂φ)(g₁⁻¹h) =φ(g⁻¹₂ g₁⁻¹h) =φ((g₁g₂)⁻¹h) = (L_g₁_g₂φ)(h), d’o`u

L_g₁ ◦L_g₂ = L_g₁_g₂

et L : G→GL(C(G)) est bien un morphisme de groupes : c’est la raison pour laquelle on a défini L_gφpar (L_gφ)(h) =φ(g⁻¹h). On vérifie de même que

R_g₁ ◦R_g₂ = R_g₁_g₂, et L_g◦R_g⁰ = R_g⁰◦L_g.

C’est-à-dire, L et R sont deux représentations de G dans C(G), et elles com- mutent. En particulier, L_g◦R_g = R_g◦L_g est l’action par conjugaison, notée Int_g :

(Int_gφ)(h) =φ(g⁻¹hg).

Remarque 3.1. — Certains auteurs (par exemple, [Ru73]) utilisent (L⁰_gφ)(h) = φ(gh) ; mais alors on a L⁰_g₁◦L⁰_g₂ = L⁰_g₂_g₁, c.-`a-d., L⁰ fait de C(G) un G-module

`a droite...

(6)

6 S´EANCE DU 18/9

3.2. Intégration invariante. — On veut définir une théorie de l’intégration sur G qui soit invariante par translation à gauche ou à droite (en fait, on aura les deux simultanément, ce qui est une particularité du cas compact). C.-à-d., pour toutφ∈C(G), on veut définir une intégrale

M(φ) = Z

G

φ(g)dg

de sorte que, pour touth∈G, on ait M(L_hφ) = M(φ), c.-`a-d., Z

G

φ(hg)dg = Z

G

φ(g)dg.

L’existence d’une telle intégrale a été démontrée en 1933 par Alfred Haar ; on parle donc d’intégrale (ou de mesure) de Haar.

3.3. Deux résultats de compacité. Théorème du point fixe de Kaku- tani. —

Définition 3.2. — Soit E un espace métrique. Une partie X de E est dite totalement bornée si, pour tout ε > 0, il existe un nombre fini d’éléments x₁, . . . , x_n de X, tels que

X⊆ [n i=1

B(x_i, ε),

où B(x_i, ε) désigne la boule fermée de centrex_i et de rayon ε.

Dans ce cas, il est clair que l’adhérence X est également bornée.

Lemme 3.3. — Soit X une partie fermée totalement bornée d’un espace mé- trique complet (par exemple, un espace de Banach). Alors X est compacte.

D´emonstration. — Raisonnant par l’absurde, supposons qu’il existe un recou- vrement ouvert Γ de X dont on ne puisse extraire un sous-recouvrement fini.

Par hypothèse, X est recouvert par un nombre fini de fermés de diamètre61.

Donc l’un d’eux, disons X₁, ne peut être recouvert par un nombre fini d’élé- ments de Γ. Or X₁ est lui aussi fermé et totalement borné, donc recouvert par un nombre fini de fermés de diamètre 6 1/2. L’un d’eux, disons X₂, ne peut être recouvert par un nombre fini d’éléments de Γ. On construit ainsi une suite décroissante de fermés

X⊇X₁⊇X₂ ⊇ · · ·

avec X_n de diamètre 61/2ⁿ et ne pouvant être recouvert par un nombre fini d’éléments de Γ.

Choisissonsx_n∈X_n. Alors (x_n)_n>1 est une suite de Cauchy, donc converge vers un point x∈T

nX_n (car chaque X_n est ferm´e). Alors il existe un ouvert U du recouvrement Γ contenantx, et donc la boule ferm´ee B(x,2⁻ⁿ) pour un

(7)

certain n >0. Alors U contient X_n, ce qui contredit l’hypoth`ese. Ceci montre que X est compact.

Remarque 3.4. — (Pour la culture.) Le lemme précédent est une étape dans la démonstration du théorème d’Ascoli-Arzela.

Théorème 3.5. — SoientV un espace de Banach,Kune partie compacte, etC l’enveloppe convexe de K, c.-`a-d., l’ensemble de toutes les sommes finies

Xn i=1

t_ix_i, o`u x_i∈K, t_i >0, et X t_i = 1.

Alors Cest un convexe compact.

D´emonstration. — Soit ε >0. Comme K est compact, il existeg₁, . . . , g_n∈K tels que

(1) K⊆

[n i=1

B(g_i, ε).

Soit C₁ l’enveloppe convexe des g_i; c’est l’image du compact

∆ⁿ⁻¹ ={(s₁, . . . , s_n)∈(R₊)ⁿ|X

s_i= 1}

par l’application

θ: ∆ⁿ⁻¹ −→C₁, (s₁, . . . , s_n)7→X

i

s_ig_i,

qui est continue, puisque

kθ(s)−θ(s⁰)k6 Xn i=1

|s_i−s⁰_i| · kg_ik.

Donc C₁ est compact.

Soit x ∈C arbitraire. Alors, il existe x₁, . . . , x_p ∈K et (t₁, . . . , t_p)∈ ∆^p−1 tels que

x=t₁x₁+· · ·+t_px_p.

D’après (1), à chaque x_i on peut associer un élément y_i de S := {g₁, . . . , g_n} tel quekx_i−y_ik6ε. Posons

x⁰ =X

i

t_iy_i, x⁰⁰=X

i

t_i(x_i−y_i).

Alorsx⁰∈C etx⁰⁰∈B(0, ε). Comme x=x⁰+x⁰⁰, ceci montre que

(2) C⊆C₁+ B(0, ε) = [

c∈C

B(0, ε).

(8)

8 S´EANCE DU 18/9

De plus, C₁ ´etant compact, il existe un sous-ensemble fini F de C₁ tel que

(3) C₁⊆F + B(0, ε).

Donc, (2) et (3) entraˆınent :

C⊆F + B(0, ε) + B(0, ε)⊆F + B(0,2ε).

Commeε´etait arbitrairement choisi, ceci montre que C est totalement born´e.

Par conséquent, C est compact, d’après le lemme 3.3. Enfin, C est convexe d’après le lemme 3.7 ci-dessous.

Corollaire 3.6. — SoitG un groupe compact, op´erant continument et lin´eaire- ment dans un espace de Banach V. Soit f ∈V et soit C l’enveloppe convexe de Gf. Alors C est un convexe compact stable parG.

D´emonstration. — Fixonsg ∈G. Comme l’application φ_g :v7→gv est continue,φ⁻¹_g (C) est un ferm´e, qui contient C et donc aussi C. Ceci montre que C est G-stable.

D’autre part, l’application g7→ gf est continue. Comme G est compact, il en est de même de Gf. Donc C est compact, d’après le théorème précédent. Il est convexe d’après le lemme 3.7 ci-dessous.

Dans la démonstration du théorème 3.5 et du corollaire 3.6, on a utilisé (implicitement en cours) le lemme suivant.

Lemme 3.7. — Soient V un espace vectoriel norm´e, C une partie convexe.

Alors Cest convexe.

D´emonstration. — Soient x, y∈C ets, t>0 tels ques+t= 1. Soitε >0. Il existex⁰, y⁰ ∈C tels que

kx−x⁰k+ky−y⁰k6ε.

Alors c=sx⁰+ty⁰ ∈C etk(sx+ty)−ck6ε. Ceci montre que sx+ty ∈C, donc C est convexe.

Fin de la séance du 18/9 (en fait, avant le corollaire précédent).