Séance 6/11/06

S´ EANCE DU 6 NOVEMBRE

1. Exponentielle et action adjointe

1.0. Un «rappel» sur espaces tangents et diff´erentielles. —

Proposition 1.0.1. — Soient X,Y,Z des vari´et´es C^∞, φ: X×Y →Z un mor- phisme de vari´et´es, etx₀∈X, y₀ ∈Y. Alors

T_(x0,y0)(X×Y)∼= T_x0X⊕T_y0Y.

De plus, si l’on fait cette identification, alors

d_(x0,y0)φ=d_x0φ^y0 +d_y0φ_x0,

o`u φ^y0 : X→Z et φ_x0 : Y →Z sont les morphismes d´efinis par φ^y0(x) =φ(x, y₀) et φ_x0(y) =φ(x₀, y), ∀x∈X, y∈Y.

D´emonstration. — L’isomorphisme T_(x0,y0)(X×Y)∼= T_x0X⊕T_y0Y r´esulte de la d´efinition des vari´et´es produits et espaces tangents (voir 7.5 et 7.46, s´eances des 2 et 3 octobre).

Notonsτ^y0 l’immersion X,→X×Y,x7→(x, y₀) et d´efinissons de fa¸con ana- logue l’immersionτ_x0 : Y→X×Y. Alors, d_x0τ^y0 etd_y0τ_x0 sont les inclusions ci-dessous :

T_x0X^dx0τ

y0

,→ T_x0X⊕T_y0Y ^dy←^0τ-^x0 T_y0Y.

De plus, φ^y0 =φ◦τ^y0 et φ_x0 =φ◦τ_x0. Le r´esultat en d´ecoule. En effet, soit (u, v)∈T_(x0,y0)(X×Y)∼= T_x0X⊕T_y0Y. Alors,

(d_(x0,y0)φ)(u, v) = (d_(x0,y0)φ)(u,0) + (d_(x0,y0)φ)(0, v)

=d_x0(φ◦τ^y0)(u) +d_y0(φ◦τ_x0)(v)

= (d_x0φ^y0+d_y0φ_x0)(u, v).

(0)version du 13/11/06

A titre d’application, signalons le corollaire suivant. Soit G un groupe de` Lie. Notonsµ: G×G→G la multiplication,ι: G→G le passage `a l’inverse, et d´esignons pardµ, resp.dι, leur diff´erentielles au point (e, e), resp.e.

Corollaire 1.0.2. — On a dµ(X,Y) = X + Y et dι(X) = −X, pour X,Y ∈ T_e(G).

D´emonstration. — La premi`ere assertion r´esulte de la proposition 1.0.1, car µ(e,·) = id<sub>G</sub> = µ(·, e). D’autre part, µ◦ (id, ι) est l’application constante G→ {e}. On en d´eduit que 0 = id<sub>Te(G)</sub>+dι, d’o`u la seconde assertion.

1.1. Champs de vecteurs et flots. — Commen¸cons par quelques r´esultats concernant l’int´egration des champs de vecteurs.

Soient M une vari´et´e C^∞etf : I→M une application C^∞, o`u I⊆Rest un intervalle ouvert non vide. On rappelle que, pour tout t ∈ I, la diff´erentielle d<sub>t</sub>f de f au point t est une application lin´eaire R → T<sub>f(t)</sub>M et l’on d´esigne parf<sup>0</sup>(t) sa valeur sur le vecteur 1∈R, c.-`a-d.,f⁰(t) = (d_tf)(1).

Définition 1.1(Courbes intégrales). — Soient M une vari´et´e C^∞et X un champ de vecteurs C^∞ sur M. Unecourbe int´egrale de X est une application C^∞ f d’un intervalle ouvert non vide I⊆Rdans M telle que :

(∗∗∗) ∀t∈I, f⁰(t) = X(f(t)).

Dans ce cas, on dit aussi que f est une solution de (l’´equation diff´erentielle d´efinie par) (∗∗∗). On dit que (f,I) est une courbe int´egrale (ou solution)maxi- male si f ne peut ˆetre prolong´ee en une courbe int´egrale sur un intervalle contenant strictement I.

Théorème 1.2(Existence locale et unicité). — Soient M une vari´et´e C^∞ et X un champ de vecteurs C^∞ sur M.

1)Pour tout t₀ ∈R et x₀ ∈M, il existe un intervalle ouvert I contenant t₀ et une application C^∞ f : I→M v´erifiant (∗∗∗) et f(t₀) =x₀.

2) Si I,J sont deux intervalles ouverts contenant t₀ et si f : I → M et g: J→M sont deux solutions de (∗∗∗) telles que f(t₀) =x₀ =g(t₀), alorsf et g co¨ıncident sur I∩J et se recollent donc en une solution h de (∗∗∗), v´erifiant h(t₀) =x₀ et d´efinie sur l’intervalle I∪J.

3) Par cons´equent, il existe une unique courbe int´egrale maximale passant par x₀ au temps t₀, d´efinie sur un intervalle I(t₀, x₀). On la note

t7→φ(t₀, x₀, t) ou simplement t7→φ_t(x₀) si t₀ est d´etermin´e par le contexte, par exemple si l’on a fix´e t₀ = 0.

D´emonstration. — Voir [Ca, 1`ere partie, II, § §1 & 3] ou [Ma,§II.2].

Définition 1.3. — Ungroupe `a un param`etre de diff´eomorphismesde M est une famille (φ_t)_t∈R de diff´eomorphismes de M telle que :

l’application : R×M−→M, (t, x)7→φ_t(x) est C^∞; φ₀= id_M, φ_s◦φ_t=φ_s+t, ∀s, t∈R.

Soient M une vari´et´e C^∞et X un champ de vecteurs C^∞ sur M. Pour tout x₀ ∈M, on notet7→φ^X_t(x₀), ou simplementt7→φ_t(x₀) si le champ de vecteurs X est sous-entendu, la solution maximale de l’´equation :

(∗∗∗) f⁰(t) = X(f(t)), f(0) =x₀,

et l’on note I_x0 son domaine de d´efinition. Soit alors :

Ω = S

x0∈M

{x₀} ×I_x0 ⊆M×R et soit Φ = Φ^Xl’application Ω→M d´efinie par

Φ(x₀, t) =φ_t(x₀), ∀x₀ ∈M, t∈I_x0. Enfin, pourt∈R, on pose

U_t={x₀∈M|t∈I_x0}= Ω∩(M× {t}).

Théorème 1.4(Flot d’un champ de vecteurs). — 1) Ω est un ouvert deM×R, contenant M× {0}, et l’application Φest C^∞. De plus, φ₀ = id_M.

2)Pour tout (x, t)∈Ω et s∈R, on a :

a) (x, t+s)∈Ω⇔(φ_t(x), s)∈Ω ;

b) φ_s+t(x) = φ_s(φ_t(x)) si a) est r´ealis´e.

2⁰) Pour tout t∈ R, U_t est un ouvert de M et, si U_t 6=∅, alors φ_t est un diff´eomorphisme C^∞ deU_t surU_−t, dont le diff´eomorphisme inverse est φ_−t. De plus, pour tout s, t∈Ron a :

U_t∩U_s+t={x∈U_t|φ_t(x)∈U_s} et φ_s(φ_t(x)) =φ_s+t(x), ∀x∈U_t∩U_t+s. 3)L’applicationx7→I_x est «semi-continue» en ce sens queI_x ne peut que croˆıtre par sp´ecialisation, c.-`a-d., pour tout x ∈ M il existe un voisinage V_x de x dansM tel que :

∀x⁰∈V_x, I_x ⊆I_x⁰. D´emonstration. — Voir [Le,§IV.1] .

Remarque 1.5. — On appelle Φ = Φ^X le flot de X. On exprime parfois la propri´et´e 2⁰) en disant que Φ est un pseudo-groupe `a un param`etre de diff´eo- morphismes locaux.

Exemples 1.6. — Pour illustrer les r´esultats du th´eor`eme, le lecteur pourra

´etudier les exemples suivants.

1) M =R, X(x) =x², cf. [Le,§IV.1.C].

2) M =R², X(x, y) =y²(1 +x²)e₁ = (y²(1 +x²),0).

3) M =R, X(x) = sinx.

Définition 1.7. — On dit que le champ de vecteurs X estcompletsi pour tout x∈M on a I_x =R, c.-`a-d., si φ^X_t (x) est d´efini pour tout t∈R.

1.2. Exponentielle d’un groupe de Lie. — Soit G un groupe de Lie.

On d´esignera son ´el´ement neutre par 1 ou e, selon le contexte. Pour tout X ∈ Lie(G) = T₁G, on d´esignera par X le champ de vecteurs invariant `a gauche associ´e, c.-`a-d.,

X₁ = X et X_g =d₁`_g(X), ∀g∈G.

Définition 1.8. — Unsous-groupe `a un param`etrede G (en abr´eg´e : 1-psg) est un morphisme de groupes de Lieα :R→G.

Théorème 1.9. — Soient X ∈ Lie(G) et X le champ de vecteurs invariant `a gauche associ´e. AlorsX est complet et le flot associ´e est G-invariant, c.-`a-d., v´erifie

φ_t(g) =g φ_t(e), ∀t∈R, g∈G.

Par cons´equent, l’application

α_X:R−→G, t7→φ_t(e) est un morphisme de groupes de Lie.

R´eciproquement, si θ est un 1-psg alors θ=α_X, o`u X = θ⁰(0). Par cons´e- quent, on a une bijection

Lie(G)↔ {1-psg de G}.

D´emonstration. — Notons Φ : (g, t)7→φ_t(g) le flot associ´e `aX. Soit I = I_e le domaine de d´efinition de la courbe int´egrale maximale α:t7→φ_t(e) telle que α(0) = e. Alors I est un intervalle ouvert contenant 0 et il s’agit de montrer que I =R, et que

φ_t(g) =g φ_t(e), ∀t∈I, g∈G.

Soient s∈I et g∈G. Posons

(†) β(t) =gα(t−s), ∀t∈s+ I.

Alors, pour tout t∈s+ I,β⁰(t) ´egale :

(d_α(t−s)`<sub>g</sub>)(α<sup>0</sup>(t−s)) = (d<sub>α(t−s)</sub>`_g)(X(α(t−s))) =X(gα(t−s)) =X(β(t)).

Donc t 7→ β(t) est une courbe int´egrale de X, d´efinie sur s+ I et telle que β(s) =gα(0) =g.

Prenant g= 1, on obtient que α et β co¨ıncident sur l’intervalle I∩(s+ I), doncα se prolonge `a l’intervalle I∪(s+ I). Par maximalit´e de I, ceci entraˆıne que

s+ I⊆I, ∀s∈I,

et on en d´eduit que I =R. Alors, pour g arbitraire et s= 0, β(t) =gα(t) est la courbe int´egrale maximale deX telle que β(0) =g, d’o`u

∀t∈R, φ_t(g) =g φ_t(e).

En particulier, pourg=φ_s(e) on obtient que

α_X(s+t) =φ_t+s(e) =φ_t(φ_s(e)) =φ_s(e)φ_t(e) =α_X(s)α_X(t).

Comme α_X :t 7→ α_X(t) est C^∞, c’est donc un morphisme de groupes de Lie R→G. Enfin, comme α⁰_X(0) = X, l’application X7→α_X est injective.

R´eciproquement, soit θ un 1-psg et soient X = θ⁰(0) et X le champ de vecteurs invariant `a gauche associ´e. Alors, en d´erivant par rapport `a s, en s= 0, l’´egalit´e

θ(s+t) =θ(t)θ(s) = (`_θ(t)◦θ)(s) on obtient

θ⁰(t) =d₁`<sub>θ(t)</sub>(θ<sup>0</sup>(0)) =d<sub>1</sub>`_θ(t)(X₁) =X(θ(t)).

Doncθest la courbe int´egrale deX passant pareent= 0, d’o`u θ=α<sub>X</sub>. Ceci prouve la bijection annonc´ee. Le th´eor`eme est d´emontr´e.

Corollaire 1.10. — Pour tout X∈Lie(G)et t∈R, on a α_tX(1) =α_X(t).

D´emonstration. — L’application φ : s 7→ α_X(ts) est un 1-psg, et φ⁰(0) = tα_X⁰ (0) =tX. Donc φco¨ıncide avec α_tX.

Définition 1.11(L’application exponentielle). — On pose exp(X) = α_X(1).

Alors exp(0) =eet, d’apr`es le corollaire pr´ec´edent,

exp((s+t)X) =α_X(s+t) =α_X(s)α_X(t) = exp(sX) exp(tX), ∀s, t∈R.

Exemple 1.12. — Pour G = GL_n(R), on ag= M_n(R) et pour tout X∈M_n(R), l’application exponentielle usuelle :

R−→GL_n(R), t7→X

k>0

t^k k!X^k

est un 1-psg, dont la d´eriv´ee en 0 est X. Ceci montre que pour G = GL_n(R), l’exponentielle de Lie d´efinie plus haut co¨ıncide avec l’exponentielle usuelle des matrices. Ceci explique la notation exp = exp_G pour G un groupe de Lie arbitraire.

Soit G⁰ la composante connexe de G. Posons g= Lie(G) = Lie(G⁰).

Théorème 1.13. — 1)L’application exp :g→G estC^∞.

2)d₀exp = id_g. Par cons´equent, expest un diff´eomorphisme d’un voisinage ouvertU de0 dans g sur un voisinage ouvertV de e dansG.

3)Le sous-groupe engendr´e par V (ou par exp(g))´egale G⁰.

D´emonstration. — 1) Consid´erons la vari´et´e M = G×get le champ de vecteurs v sur M d´efini par

v(g,X) = (d₁`_g(X),0) = (X_g,0).

Il est C^∞. Son flot est l’application

Ψ : M×R−→M, ((g,X), t)7→(φ^X_t (g),X),

qui est donc C^∞. Notons pr₁ la projection M→G etτ l’inclusion de la sous- vari´et´e

g={e} ×g× {1} dans G×g×R.

Alors exp :g→G ´egale pr₁◦Ψ◦τ donc est C^∞. Ceci prouve le point 1).

Montrons le point 2). Pour toute courbe C^∞ f :R→ g telle quef(0) = 0,

on a d

dt

¯¯

¯¯

t=0

exp(f(t)) = (d₀exp)(f⁰(t)).

Appliquant ceci `a la courbe f(t) =tX, on obtient que (d₀exp)(X) = d

dt

¯¯

¯¯

t=0

α_X(t) = X, ∀X∈g.

Ceci montre que d₀exp = id_g. La derni`ere assertion du point 2) r´esulte alors du th´eor`eme d’inversion locale.

Enfin, comme exp est continue et g connexe, alors exp(g) ⊆ G⁰. D’autre part, comme V est un voisinage ouvert de e, le sous-groupe engendr´e par V ´egale G⁰, d’apr`es le lemme 6.18 (s´eance du 26/9) que nous rappelons ci- dessous.

Lemme 1.14. — SoitGun groupe topologique connexeet soitVun voisinage de e. Alors le sous-groupe engendr´e par V´egale G.

D´emonstration. — Soit W = V ∪V⁻¹; c’est un voisinage de e stable par g7→g⁻¹ (on peut aussi prendre W = V∩V⁻¹). Alors

H := S

n>1

Wⁿ

est un sous-groupe de G, et est ouvert. En effet, si x ∈H, il existe n tel que x∈Wⁿ et alors xW est un voisinage dex contenu dans Wⁿ⁺¹ donc dans H.

Ainsi, H est un sous-groupe ouvert, donc aussi ferm´e (car son compl´emen- taire est la r´eunion des classes gH distinctes de H, qui sont aussi ouvertes).

Comme G est suppos´e connexe, alors H = G.

Théorème 1.15(Fonctorialité deexp). — Soit φ : G → H un morphisme de groupes de Lie et soient g = Lie(G), h= Lie(H). Alors, pour tout X ∈ g, on a :

exp_H(dφ(X)) =φ(exp_G(X)), c.-`a-d., le diagramme ci-dessous est commutatif :

g −−−−→^dφ h

exp_G

 y

 y^expH G −−−−→^φ H.

D´emonstration. — L’application α : t 7→ φ(exp(tX)) est un 1-psg de H, tel que α⁰(0) =dφ(X), doncα est le 1-psg associ´e `a dφ(X).

On peut maintenant pr´eciser le th´eor`eme 7.79 (s´eance du 3/10) de la fa¸con suivante.

Théorème 1.16. — SoientGun groupe de Lie,g= Lie(G)ethune sous-alg`ebre de Lie de g. Soit H le sous-groupe de Lie connexe de G associ´e `ah. Alors, H est le sous-groupe de Gengendr´e par exp(h).

D´emonstration. — L’hypoth`ese signifie qu’il existe une immersion injective τ : H,→G telle quedτ soit l’inclusion dehdansg. Identifions H `a son image dans G. Alors, il r´esulte du th´eor`eme 1.15 que exp<sub>H</sub> est la restriction `a hde exp = exp_G.

Donc exp(h) ⊆ H, et comme H est connexe il est engendr´e par exp(h), d’apr`es le point 3) du th´eor`eme 1.13.

Remarque 1.17. — Dans le th´eor`eme pr´ec´edent, on a suppos´el’existence de H

´etablie (grˆace au th´eor`eme d’int´egrabilit´e de Frobenius), et montr´e qu’alors H est n´ecessairement ´egal au sous-groupe engendr´e par exp(h). Une autre approche consiste `a montrer directement que le sous-groupe de G engendr´e par exp(h), notons-le H⁰, peut ˆetre muni d’une (unique) structure de groupe de Lie telle que l’inclusion H⁰ ,→G soit un morphisme de groupes de Lie. C’est l’approche suivie dans [Go,§6.13] et [DK, 1.10.3].

Corollaire 1.18. — SoientGun groupe de Lie, g= Lie(G), hune sous-alg`ebre de Lie de g, et soitKun sous-groupe de Lie (non n´ecessairement connexe) de G tel queLie(K) =h. Alors,K⁰ est le sous-groupe de G engendr´e par exp(h).

En particulier, si Gest connexe et si Lie(K) =g, alors K = G.

D´emonstration. — Soit H le sous-groupe de Lie connexe de G associ´e `ah, c’est le sous-groupe de G engendr´e par exp(h), d’apr`es le th´eor`eme pr´ec´edent.

Notons τ (resp.σ) l’inclusion de H (resp. K⁰) dans G. Comme Lie(K⁰) = Lie(K), l’hypoth`ese entraˆıne que dσ = dτ est l’inclusion de h dans g. Alors

l’assertion d’unicit´e dans le th´eor`eme 7.79 (s´eance du 3/10) entraˆıne que H = K⁰. Ceci prouve le corollaire.

1.3. Calcul diff´erentiel sur G. —

Lemme 1.19. — Soitf une fonctionC^∞au voisinage d’un pointg∈G. Alors : 1)Soit X∈g. Alors, pour tdans un voisinage de 0, etk∈N, on a

(1) d^k

dt^kf(gexp(tX)) = (X^kf)(gexp(tX)).

En particulier,

(2) d

dt

¯¯

¯¯

t=0

f(gexp(tX)) = (Xf)(g).

2)Soient X₁, . . . ,X_s∈g. Alors (3) (X₁· · ·X_sf)(g) = ∂^s

∂t₁· · ·∂t_s

¯¯

¯¯

t1=···=ts=0

f(gexp(t₁X₁)· · ·exp(t_sX_s)).

D´emonstration. — Par hypoth`ese,f est d´efinie et C^∞sur un voisinage ouvert V de g dans G, et comme t 7→ exp(tX) est C^∞, a fortiori continue, il existe un intervalle ouvert I contenant 0 tel que gexp(tX)∈V pour toutt∈I.

Pour toute fonctionφC^∞sur V et tout x∈V, on a, puisque X = exp⁰_X(0) : (Xφ)(x) = (d_xφ)(X_x) = (d_xφ◦d₁`_x)(X) = d

dt

¯¯

¯¯

t=0

φ(xexp(tX)).

Fixons t₀ ∈ I. Appliquant l’´egalit´e pr´ec´edente `a x = gexp(t₀X), on obtient que

(Xφ)(gexp(t₀X)) = d ds

¯¯

¯¯

s=0

φ(xexp((t₀+s)X)) = d dt

¯¯

¯¯

t=t0

φ(xexp(tX)).

Ceci montre que

(†) d

dtf(gexp(tX)) = (Xφ)(gexp(tX)), ∀t∈I.

La formule (1) en d´ecoule aussitˆot, par r´ecurrence sur k. La formule (2) est, bien sˆur, l’´evaluation en t= 0 de (1).

Montrons (3). Posons

F(t₁, . . . , t_s) =f(gexp(t₁X₁)· · ·exp(t_sX_s)).

Alors il existeε >0 tel que F soit d´efinie et C^∞sur le voisinage de 0 dansR^s suivant :

I^s_ε={(t₁, . . . , t_s)∈R^s| ∀i= 1, . . . s, |t_i|< ε}.

D’apr`es (1), on a :

∂F

∂t_s(t₁, . . . , t_s−1,0) =f(gexp(t₁X₁)· · ·exp(t_s−1X_s−1)), pour tout (t₁, . . . , t_s−1)∈I^s−1_ε , et (3) en d´ecoule par r´ecurrence surs.

Théorème 1.20(Produits d’exponentielles). — Soient X₁, . . . ,X_s ∈ g. Alors, pourt→0, on a

(∗) exp(tX₁)· · ·exp(tX_s) = exp



t Xs

i=1

X_i+t² 2

X

16i<j6s

[X_i,X_j] + O(t³)



.

En particulier,

(i) exp(tX) exp(tY) = exp µ

t(X + Y) +t²

2[X,Y] + O(t³)

¶ . (ii) exp(tX) exp(tY) exp(−tX) = exp¡

tY +t²[X,Y] + O(t³)¢ . (iii) exp(tX) exp(tY) exp(−tX) exp(−tY) = exp¡

t²[X,Y] + O(t³)¢ . (cf. Prop. 6.5, s´eance du 26/9)

D´emonstration. — On renvoie pour le moment `a [Va, Th. 2.12.4].

1.4. G-vari´et´es et repr´esentations d’isotropie. —

Définition 1.21(Actions). — Soient Γ un groupe quelconque et E un ensemble.

Uneactionde Γ sur E est une application

µ: Γ×E−→E, (g, x)7→gx

telle que 1x=xet g(hx) = (gh)x, pour tout x∈E,g, h∈Γ. Dans ce cas, on dit que E est un Γ-ensemble. On notera µ_g, resp.µ^x, les applications

E−→E, x7→gx, resp. Γ−→E, g7→gx.

Définition 1.22(ActionsC^∞). — Soient G un groupe de Lie et M une vari´et´e C^∞. On dit que M est une G-vari´et´esi l’on s’est donn´e une actionµ: G×M→ M qui est une application C^∞. Dans ce cas, chaque µ_g : M → M est un diff´eomorphisme de M, d’inverse µ_g−1.

Théorème 1.23(Représentation d’isotropie). — Soit M une G-vari´et´e et soit p∈M un point fixe de G (c.-`a-d., gp=p pour tout g∈G). Alors

g7→d_pµ_g∈GL(T_pM)

est une repr´esentation C^∞ de G dans l’espace tangent T_pM.

D´emonstration. — Pour tout g ∈ G, µ_g est un diff´eomorphisme de M, donc la diff´erentielle d_pµ_g applique bijectivement T_pM sur T_gpM = T_pM. De plus, d_pµ₁= id et pourg, h∈G l’on a :

d_pµ_gh=d_p(µ_g◦µ_h) =d_hpµ_g◦d_pµ_h =d_pµ_g◦d_pµ_h.

Ceci montre queρ : G→GL(T_pM), g7→d_pµ_g est un morphisme de groupes.

Reste `a voir que c’est une application C^∞.

Soient (x₁, . . . , x_n) des coordonn´ees locales sur un voisinage V depdans M.

Soit

(dx₁, . . . , dx_n)

la base correspondante de l’espace cotangent T^∗_pM =m_p/m²_p, et soit µ ∂

∂x₁, . . . , ∂

∂x_n

¶

la base correspondante de T_pM. Il faut montrer que les coefficients matriciels g7→ hdx_i, d_pµ_g(∂/∂x_j)i

sont des fonctions C^∞ deg.

Comme µ: G×M→ M est C^∞, il existe des fonctions C^∞ f₁, . . . , f_n, de G×V dansR, telles que

µ(g, x) = (f₁(g, x), . . . , f_n(g, x)), ∀(g, x)∈G×V, c.-`a-d., on a f_i =x_i◦µ. D’autre part, on a

d_(g,x)µ=d_xµ_g+d_gµ^x, ∀(g, x)∈G×M, d’o`u

(d_(g,p)µ) µ ∂

∂x_j

¶

= (d_pµ_g) µ ∂

∂x_j

¶

, ∀g∈G, j= 1, . . . , n.

Il en r´esulte que

hdx_i◦d_pµ_g, ∂

∂x_ji=d_(g,p)(x_i◦µ) µ ∂

∂x_j

¶

= ∂f_i

∂x_j(g, p) est une fonction C^∞ de g. Le th´eor`eme est d´emontr´e.

1.5. Action adjointe. — Soient G un groupe de Lie et g = Lie(G). Alors G agit sur lui-mˆeme par conjugaison, car l’application

µ: G×G−→G, (g, x)7→gxg⁻¹

est C^∞. Pour toutg∈G, l’applicationµ_gcorrespondante est not´ee Int(g) ; c’est l’«automorphisme int´erieur» de conjugaison parg. Alors,eest un point fixe de cette action et donc, d’apr`es le th´eor`eme 1.23, on obtient une repr´esentation de G dansg, appel´ee larepr´esentation adjointede G et not´ee :

Ad : G−→GL(g), g7→Ad(g) =d_eInt(g).

Lemme 1.24. — 1)Soient g∈G et X∈g. Pour tout t∈R, on a gexp(tX)g⁻¹ = Int(g)(exp(tX)) = exp(tAd(g)(X)).

2)Pour tout X∈g et t∈R, on a

Ad(exp_G(tX)) = exp_GL(g)(ad(tX)).

D´emonstration. — 1) Fixonsg∈G. Alors, Int(g) : G→G est un morphisme de groupes de Lie dont la diff´erentielle est Ad(g) :g→g. Donc 1) d´ecoule du th´eor`eme 1.15, appliqu´e `aφ= Ad(g).

2) De mˆeme, Ad : G→GL(g) est un morphisme de groupes de Lie dont la diff´erentielle est ad :g→gl(g). Donc 2) d´ecoule du th´eor`eme 1.15, appliqu´e `a φ= Ad.

Définition 1.25(Représentation adjointe deg). — La diff´erentielle de Ad, not´ee ad :g−→gl(g) = End_R(g),

est un morphisme d’alg`ebres de Lie (cf. Th. 7.61, s´eance du 3/10). On obtient donc une repr´esentation de gdans g.

Notation 1.26(Centres). — 1) On note Z(G) le centrede G, c.-`a-d., Z(G) ={g∈G|gh=hg, ∀h∈G}.

C’est un sous-groupe ferm´e de G, invariant par tout automorphisme de G.

2) On note z(g) le centre deg, c.-`a-d.,

z(g) ={X∈g|[X,Y] = 0, ∀Y∈g}.

C’est un id´eal deg, stable par tout automorphisme deg.

Théorème 1.27(Représentation adjointe et centres). — 1) Pour tout X,Y ∈ g, on a ad(X)(Y) = [X,Y].

2)Pour tout X∈g, on a

Ad(exp_G(X)) = exp_GL(g)(ad(X)) =X

k>0

ad(X)^k k! . 3)Supposons G connexe. Alors

Ker(Ad) = Z(G) et Lie(Z(G)) = Ker(ad) =z(g).

D´emonstration. — 1) Soient X,Y∈g. Consid´erons le sous-groupe `a un para- m`etre

φ:R−→GL(g), t7→Ad(exp(tX)).

Sa d´eriv´ee en 0 est φ⁰(0) = d₁Ad(exp⁰_X(0)) = ad(X). Par d´efinition de la d´eriv´ee, on a donc, dans End(g), l’´egalit´e

φ(t) =φ(0) +tφ⁰(0) + O(t²), pour t−→0.

Appliquant `a cette ´egalit´e l’application lin´eaire d’´evaluation en Y, ε_Y: End(g)−→g, u7→u(Y),

on obtient, en posant g_t= exp(tX),

(1) Ad(g_t)(Y) = Y +tad(X)(Y) + O(t²), pour t−→0.

D’autre part, d’apr`es le point 1) du lemme 1.24 et le th´eor`eme 1.20, on a : (2) exp(Ad(g_t)(tY)) = exp(tX) exp(tY) exp(−tX)

= exp¡

tY +t²[X,Y] + 0(t³)¢ .

En comparant (1) et (2), on obtient que ad(X)(Y) = [X,Y]. Ceci prouve le point 1).

Le point 2) d´ecoule du lemme 1.24 et du fait que l’application exponentielle pour GL(g) est l’exponentielle usuelle d’une matrice (1.12).

Montrons le point 3). Pour tout morphisme φ: G→ H de groupes de Lie, on a

Lie(Kerφ) = Ker(dφ),

d’apr`es le th´eor`eme 7.74 (s´eance du 3/10). Appliquant ceci `aφ= Ad et tenant compte du point 1), on obtient :

Lie(Ker Ad) = Ker ad =z(g).

Il reste `a montrer l’´egalit´e Ker(Ad) = Z(G), lorsque G est connexe. On a toujours l’inclusion Z(G)⊆Ker(Ad). En effet, si g∈Z(G), alors Int(g) = id<sub>G</sub> et donc Ad(g) = id<sub>g</sub>, d’o`ug∈Ker(Ad).

R´eciproquement, supposons G connexe et soit g ∈ Ker(Ad). Alors, pour tout X∈g, on a

gexp(X)g⁻¹ = exp(Ad(g)(X)) = exp(X),

et doncg commute au sous-groupe de G engendr´e par exp(g), qui ´egale G⁰ = G d’apr`es le point 3) du th´eor`eme 1.13. Ceci ach`eve la preuve du th´eor`eme 1.27.

1.6. Le yoga des -zateurs. — Soient G un groupe de Lie, V un R-espace vectoriel de dimension finie, et ρ : G → GL(V) un morphisme de groupes de Lie, c.-`a-d., une repr´esentation de G dans V. Soit θ le morphisme d’alg`ebres de Liedρ:g→End(V).

Dans la suite, on ´ecrira souventg·v ou gv au lieu deρ(g)(v), et de mˆeme X·v ou Xv au lieu deθ(X)(v), pourg∈G, v∈V, X∈g.

Lemme 1.28. — Pour tout v ∈V, la diff´erentielle en e de g 7→ gv est l’appli- cation X7→Xv.

D´emonstration. — Posons φ_v(g) =gv et notons η_v l’application GL(V)−→V, A7→Av.

Sa diff´erentielle en tout point A∈GL(V) est l’application lin´eaire ε_v: End(V)−→V, Y7→Y(v).

Commeφ_v =η_v◦ρ alors, pour tout X∈g, on a (d_eφ_v)(X) = (ε_v◦d_eρ)(X) = Xv.

Ceci prouve le lemme.

Soient W un sous-espace de V etg∈G tels que ρ(g)(W)⊆W.

Comme ρ(g) est inversible,ρ(g)(W) a mˆeme dimension que W, et donc on a l’´egalit´eρ(g)(W) = W, d’o`u aussi W =ρ(g<sup>−1</sup>)(W). Posons alors les d´efinitions suivantes, o`u l’´egalit´e (∗) r´esulte de ce qui pr´ec`ede.

Définition 1.29(Stabilisateurs dansG). — Soient v ∈ V et W un sous-espace de V. On introduit leurs stabilisateurs dans G :

Stab_G(v) ={g∈G|gv=v};

Stab_G(W) ={g∈G|gW = W}^(∗)= {g∈G|gW⊆W}.

Ce sont des sous-groupes de G. On dit aussi que Stab_G(v) est le fixateur de v, not´e Fix_G(v), ou le groupe d’isotropie (dans G) de v, not´e G_v. De mˆeme, Stab_G(W) est aussi not´e G_W.

Lemme 1.30. — Stab_G(v) et Stab_G(W) sont des sous-groupes ferm´es de G, donc des sous-groupes de Lie ferm´es.

D´emonstration. — Pour tout v ∈ V, l’application µ_v : G → V, g 7→ gv est continue, et l’on a

Stab_G(v) =µ⁻¹_v (v) et Stab_G(W) = T

w∈W

µ⁻¹_w (W),

ce qui montre que ce sont des sous-groupes ferm´es de G. Ce sont donc des sous-groupes de Lie ferm´es, d’apr`es le th´eor`eme 7.69 (s´eance du 3/10).

Notation 1.31. — On note Stab⁰_G(v), resp. Stab⁰_G(W), la composante connexe de Stab_G(v), resp. Stab_G(W). On les appelle les«stabilisateurs connexes».

On introduit aussi les stabilisateurs dans g. (La d´efinition ci-dessous est valable pour toute repr´esentationθ:g→End(V).)

Définition 1.32(Stabilisateurs dansg). — Soientv∈V et W un sous-espace de V. On introduit leurs stabilisateurs dans g:

Stab_g(v) ={X∈g|X·v= 0};

Stab_g(W) ={X∈g|X·W⊆W}.

Ce sont des sous-alg`ebres de Lie de g (v´erification imm´ediate). On les note aussig_v, resp.g_W.

Théorème 1.33. — On a Lie(G_v) = g_v (resp.Lie(G_W) = g_W) et donc G⁰_v (resp.G⁰_W) est le sous-groupe de Lie connexe (et ici, ferm´e) associ´e `a g_v (resp.g_W).

D´emonstration. — L’application G_v →V,g7→gv =v est constante, donc sa diff´erentielle est nulle. Par cons´equent, d’apr`es le lemme 1.28, on a

Xv= 0, ∀X∈Lie(G_v), d’o`u Lie(G<sub>v</sub>)⊆g<sub>v</sub>. De mˆeme, pour toutw∈W, on a φ<sub>w</sub>(g)∈W pour toutg∈G<sub>W</sub>, d’o`u

Xw=d_eφ_w(X)∈W, ∀X∈Lie(G_W), d’o`u Lie(G_W)⊆g_W. Montrons les inclusions r´eciproques.

Soit S (resp. H) le sous-groupe connexe de G associ´e `ag<sub>v</sub> (resp.g<sub>W</sub>) ; il est engendr´e par exp(g<sub>v</sub>) (resp. exp(g<sub>W</sub>)), d’apr`es le th´eor`eme 1.16.

D’apr`es le th´eor`eme 1.15 et l’exemple 1.12 on a, pour tout X∈g, ρ(exp(X)) = exp(θ(X)) =X

k>0

θ(X)^k k! .

Par cons´equent,v est fix´e par exp(g_v), donc par S, et, de mˆeme, W est laiss´e stable par exp(g_W), donc par H. Donc

(∗) S⊆G⁰_v et H⊆G⁰_W

d’o`u les inclusions

g_v = Lie(S)⊆Lie(G_v) et g_W= Lie(H)⊆Lie(G_W).

On obtient donc les ´egalit´es

Lie(G_v) =g_v et Lie(G_W) =g_W,

et donc les inclusions dans (∗) sont des ´egalit´es, d’apr`es le corollaire 1.18.

Remarque 1.34. — Voici une autre d´emonstration de l’´egalit´e Lie(G_v) = g_v, qui n’utilise pas l’application exponentielle (mais utilise `a la place le th´eor`eme du rang constant). On a vu plus haut que Lie(G_v) ⊆ g_v, donc il suffit de montrer que ces deux espaces ont mˆeme dimension.

L’application φ: G→ V, g 7→ gv est C^∞. Pour tout g ∈ G, on a φ◦`<sub>g</sub> = ρ(g)◦φ, d’o`u

d_gφ◦d₁`_g =ρ(g)◦d₁φ.

Comme d₁`_g et ρ(g) sont inversibles, d_gφ a mˆeme rang que d₁φ. Or d₁φ est l’application

g−→V, X7→X·v,

dont le noyau estg_v. Ceci prouve queφest de rang constant ´egal `a dimg−dimg_v.

Donc, d’apr`es le th´eor`eme du rang constant (voir 7.35, s´eance du 2 octobre), G_v =φ⁻¹(v) est une sous-vari´et´e ferm´ee de dimension dimg_v. Par cons´equent, on a l’´egalit´e Lie(G_v) =g_v.

Définition 1.35(Vecteurs invariants). — Soit V une repr´esentation de dimen- sion finie de G. On pose

V^G = {v∈V|gv =v, ∀g∈G}

V^g ={v∈V|Xv= 0, ∀X∈g}.

Théorème 1.36. — Supposons G connexe.

1)On a V^g= V^G.

2)Soit W un sous-espace de V stable par g. AlorsW est stable par G.

D´emonstration. — 1) Il est clair que V^G⊆V^g. R´eciproquement, soitv∈V^g. Alors, Lie(G_v) = g. Donc, d’apr`es le corollaire 1.18, G<sub>v</sub> = G, d’o`u v ∈ V^G. Ceci prouve 1).

De mˆeme, on a Lie(G_W) =g, d’o`u G<sub>W</sub> = G, c.-`a-d., W est stable par G.

Théorème 1.37. — Soient G un groupe de Lie connexe, g = Lie(G), h une sous-alg`ebre de Lie deg, et H le sous-groupe de Lie connexe de Gassoci´e `ah.

On a les ´equivalences suivantes :

1)h est un id´eal de g ⇔ H est normal dans G.

2)h⊆z(g) ⇔ H⊆Z(G).

D´emonstration. — 1) Si H est normal, alors h est stable par Ad(G) donc a fortiori par ad(g). R´eciproquement, supposons quehsoit un id´eal deg, c.-`a-d., que son stabilisateur dans g, pour la repr´esentation adjointe, ´egale g. Alors, d’apr`es le th´eor`eme pr´ec´edent,hest stable par Ad(G).

De plus, d’apr`es le th´eor`eme 1.15, l’application exponentielle de H est la restriction `a h de celle de g. Donc, utilisant le lemme 1.24, on obtient que, pour tout X∈hetg∈G,

gexp(X)g⁻¹= exp(Ad(g)(X))∈H.

Donc G normalise le sous-groupe engendr´e par exp(h), qui ´egale H d’apr`es le th´eor`eme 1.16. Ceci montre que H est normal dans G. Le point 1) est d´emontr´e.

La preuve du point 2) est analogue et est laiss´ee au lecteur.

S´eance du 18/9 . . . 1

1. Groupes topologiques . . . 1

2. Interlude sur les repr´esentations de groupes finis . . . 3

3. Mesure de Haar sur un groupe compact . . . 5

3.1. Repr´esentations r´eguli`eres gauche et droite . . . 5

3.2. Int´egration invariante . . . 6

3.3. Th´eor`eme du point fixe de Kakutani . . . 6

S´eance du 19/9 . . . 9

3. Mesure de Haar sur un groupe compact (suite) . . . 9

3.4. Mesures de Radon . . . 11

3.5. Mesure de Haar sur un groupe compact . . . 12

4. Repr´esentations unitaires et th´eor`eme de Peter-Weyl . . . 16

4.1. Repr´esentations continues . . . 16

4.2. Repr´esentations unitaires . . . 17

4.3. Op´erateurs compacts . . . 18

4.4. Op´erateurs `a noyaux . . . 19

S´eance du 25/9 . . . 21

5. L’alg`ebre des «fonctions repr´esentatives» . . . 21

5.1. Coefficients matriciels . . . 21

5.2. Fonctions repr´esentatives . . . 23

5.3. Cas des groupes compacts . . . 24

5.4. Schur, Burnside et produits tensoriels . . . 25

5.5. R´esultats sur les modules semi-simples . . . 26

5.6. Appendice : preuve du th´eor`eme de Burnside . . . 28

4. Th´eor`eme de Peter-Weyl (suite) . . . 29

4.4. Op´erateurs `a noyaux . . . 29

S´eance du 26/9 . . . 35

4.5. Une cons´equence du th´eor`eme de Peter-Weyl . . . 35

6. Sous-groupes ferm´es de GL_n(R) . . . 36

6.1. Alg`ebres de Lie . . . 36

6.2. Propri´et´es de l’exponentielle . . . 36

6.3. L’alg`ebre de Lie d’un sous-groupe ferm´e de GL_n(R) . . . 39

6.4. Composante connexe d’un groupe topologique . . . 40

7. Groupes de Lie . . . 42

7.1. Vari´et´es diff´erentiables . . . 42

S´eance du 2 octobre . . . 45

7. Groupes de Lie (suite) . . . 45

7.1. Vari´et´es diff´erentiables (suite) . . . 45

7.2. «Rappels»de calcul diff´erentiel . . . 47

7.3. Espace tangent en un point `a une sous-vari´et´e deR^N . . . 50

7.4. Sous-vari´et´es d´efinies par des ´equations de rang constant . . . 52

S´eance du 3 octobre . . . 55

7. Groupes de Lie (suite) . . . 55

7.5. D´erivations et champs de vecteurs . . . 55

7.6. Alg`ebre de Lie d’un groupe de Lie . . . 63

7.7. Retour aux sous-groupes ferm´es de GL_n(R) . . . 65

7.8. Morphismes de groupes et d’alg`ebres de Lie . . . 69

7.9. Repr´esentations . . . 73

Partie II : Alg`ebres de Lie S´eances du 9 et 10 octobre . . . 75

1. Alg`ebres de Lie : d´efinitions et premi`eres propri´et´es . . . 75

1.1. Alg`ebres de Lie, id´eaux, modules . . . 75

1.2. Alg`ebres de Lie r´esolubles ou nilpotentes . . . 80

1.3. Formes invariantes et forme de Killing . . . 82

1.4. Th´eor`eme d’Engel et applications . . . 85

2. Th´eor`eme de Lie et crit`ere de Cartan . . . 87

2.1. Th´eor`eme de Lie et cons´equences . . . 87

2.2. Poids des alg`ebres de Lie nilpotentes . . . 90

2.3. Sous-alg`ebres de Cartan . . . 93

2.4. Crit`ere de Cartan . . . 97

Partie II : Alg`ebres de Lie S´eances du 16 et 17 octobre . . . 99

3. Racines d’uneC-alg`ebre de Lie semi-simple . . . 99

3.1. Racines dehdansg . . . 99

3.2. Alg`ebre enveloppante d’unek-alg`ebre de Lie . . . 102

3.3. Repr´esentations de sl₂(C) . . . 104

3.4. Retour `a la preuve du th´eor`eme d’int´egralit´e . . . 105

3.5. Passage `a unR-espace euclidien . . . 106

3.6. Le syst`eme de racines R⊂h^∗_R . . . 107

Partie II : Alg`ebres de Lie S´eances du 17 et 23 octobre . . . 109

3. Racines d’uneC-alg`ebre de Lie semi-simple (suite) . . . 109

3.7. Le cas desl₂(C) . . . 109

4. Syst`emes de racines . . . 109

4.1. D´efinitions . . . 109

4.2. Syst`emes de racines de rang 2 . . . 110

4.3. Bases d’un syst`eme de racines . . . 113

4.4. Matrices de Cartan, graphes de Coxeter, diagrammes de Dynkin 115 5. Classification des graphes admissibles . . . 116

5.1. Premi`eres r´eductions . . . 116

5.2. Fin de la classification des graphes admissibles . . . 118

5.3. Classification des diagrammes de Dynkin connexes . . . 121

6. Groupe de Weyl et classification des syst`emes de racines . . . 122

Partie II : Alg`ebres de Lie S´eance du 24 octobre . . . 125

6. Groupe de Weyl et classification des syst`emes de racines (suite) . . . 125

6.1. Groupe de Weyl et conjugaison des bases . . . 125

6.2. Isomorphismes de syst`emes de racines . . . 128

6.3. Fin de la classification des syst`emes de racines . . . 128

7. Classification des C-alg`ebres de Lie semi-simples . . . 129

7.1. Le syst`eme de racines deg . . . 129

7.2. Th´eor`eme d’existence et d’unicit´e . . . 130

7.3. Type A_n−1 =sl_n(C) . . . 131

7.4. Types B et D : groupes orthogonaux . . . 132

7.5. Type C : groupes symplectiques . . . 135

Partie FI : Groupes et alg`ebres de Lie S´eance du 6 novembre . . . 1

1. Exponentielle et action adjointe . . . 1

1.0. Un «rappel»sur espaces tangents et diff´erentielles . . . 1

1.1. Champs de vecteurs et flots . . . 2

1.2. Exponentielle d’un groupe de Lie . . . 4

1.3. Calcul diff´erentiel sur G . . . 8

1.4. G-vari´et´es et repr´esentations d’isotropie . . . 9

1.5. Action adjointe . . . 10

1.6. Le yoga des -zateurs . . . 12

Bibliographie . . . v

Bibliographie

[Ad] J. F. Adams, Lectures on Lie groups, Univ. Chicago Press, 1969.

[Am] Y. Amice, Les nombres p-adiques, P.U.F., 1975.

[Bl] A. Blanchard, Les corps non commutatifs, P.U.F., 1972.

[BA8] N. Bourbaki, Alg`ebre, Chap. 8, 1958.

[BL1] N. Bourbaki, Groupes et alg`ebres de Lie, Chap.1, 1971.

[BL4-6] N. Bourbaki, Groupes et alg`ebres de Lie, Chap. 4–6, 1968.

[BS] M. Brion, G. Schwarz, Th´eorie des invariants & G´eom´etrie des vari´et´es quotients, Hermann, 2000.

[BtD] Th. Br¨ocker, T. tom Dieck, Representations of compact Lie groups, Springer 1985 (3rd printing, 2003).

[Ca] H. Cartan, Cours de calcul diff´erentiel, Hermann, nouvelle ´edition, refondue et corrig´ee, 1977.

[Di74] J. Dixmier, Alg`ebres enveloppantes, Gauthier-Villars, 1974 [Di81] J. Dixmier, Topologie g´en´erale, P.U.F., 1981.

[DK] J. J. Duistermaat, J. A. C. Kolk, Lie groups, Springer, 2000.

[Fa] J. Faraut, Analyse sur les groupes de Lie, Calvage & Mounet, 2005.

[Go] R. Godement, Introduction `a la th´eorie des groupes de Lie, Publ.

Math. Paris VII, 1982, et Springer, 2004.

[GH] M. J. Greenberg, J. R. Harper, Algebraic Topology, a first course, Addison-Wesley, 1981.

[He] I. N. Herstein, Noncommutative rings, Carus Math. Monogr., 1968, nouveau tirage, 1994.

[Ho] G. P. Hochschild, The structure of Lie groups, Holden-Day, 1965, trad.

fran¸caise : La structure des groupes de Lie, Dunod, 1968.

[Hu] J. E. Humphreys, Introduction to Lie algebras and representation theory, Springer-Verlag, 1972, third printing, revised, 1980.

[Jac] N. Jacobson, Lie algebras, Wiley, 1962, Dover, 1979.

[Ka] V. Kac, Infinite-dimensional Lie algebras, Birkh¨auser 1983, 3rd edi- tion, Cambridge Univ. Press, 1990.

[Laf] J. Lafontaine, Introduction aux vari´et´es diff´erentielles, Presses Univ.

Grenoble, 1996.

[La] S. Lang, Algebra, Addison-Wesley, 1965. Traduction fran¸caise de la 3`eme ´edition :Alg`ebre, Dunod, 2004.

[Le] D. Leborgne, Calcul diff´erentiel et g´eom´etrie, P.U.F., 1982.

[Ma] P. Malliavin, G´eom´etrie diff´erentielle intrins`eque, Hermann, 1972.

[MT] R. Mneimn´e, F. Testard, Introduction `a la th´eorie des groupes de lie classiques, Hermann, 1986, nouveau tirage 2005.

[Pi] G. Pichon, Groupes de Lie : repr´esentations lin´eaires et applications, Hermann, 1973.

[Ro] A. Robert, Introduction to the representation theory of compact and locally compact groups, Cambridge Univ. Press, 1983.

[Ru73] W. Rudin, Functional analysis, McGraw-Hill, 1973.

[Ru75] W. Rudin, Analyse r´eelle et complexe, Masson, 1975.

[Se] J.-P. Serre, Alg`ebres de Lie semi-simples complexes, Benjamin, 1965, Complex semisimple Lie algebras, Springer, 2001.

[Va] V. S. Varadarajan, Lie groups, Lie algebras, and their representations, Prentice-Hall 1974, Springer 1984.

[Wa] F. W. Warner, Foundations of differentiable manifolds and Lie groups, Scott & Foresman, 1971, Springer, 1983.

[Zi] R. Zimmer, Essential results of functional analysis, Univ. Chicago Press, 1990.