Séance 4 (16 novembre)

S ´ EANCE DU 16/11/07

2.8. Action adjointe, suite. — ⁽⁴⁾ Soient G un groupe de Lie et g = Lie(G).

Lemme 2.46. — Soit f une fonction C^∞ au voisinage d’un pointg∈G.

1) Soit X∈g. Alors, pour tdans un voisinage de 0, et k∈N, on a ⁽⁵⁾

(1) d^k

dt^kf(gexp(tX)) = (X^kf)(gexp(tX)).

En particulier,

(2) d

dt

t=0

f(gexp(tX)) = (Xf)(g).

2) Soient X₁, . . . ,X_s∈g. Alors (3) (X₁· · ·X_sf)(g) = ∂^s

∂t₁· · ·∂t_{s t}

1=···=t^s=0

f(gexp(t₁X₁)· · ·exp(t_sX_s)).

D´emonstration. — Par hypoth`ese,f est d´efinie et C^∞sur un voisinage ouvert V de g dans G, et comme t 7→ exp(tX) est C^∞, a fortiori continue, il existe un intervalle ouvert I contenant 0 tel que gexp(tX)∈V pour tout t∈I.

Pour toute fonctionφC^∞sur V et tout x∈V, on a, puisque X = exp^′_X(0) : (Xφ)(x) = (d_xφ)(X_x) = (d_xφ◦d₁ℓ_x)(X) = d

dt

t=0

φ(xexp(tX)).

(4)version du 22/11/07

(5)avec l’abus de notation usuel, qui consiste `a noter (d/dt)F(t) la fonction qui `at associe F^′(t) = (dtF)(1).

Fixonst₀ ∈I. Appliquant l’´egalit´e pr´ec´edente `a x=gexp(t₀X), on obtient : (Xφ)(gexp(t₀X)) = d

ds

s=0

φ(gexp((t₀+s)X)) = d dt

t=t0

φ(gexp(tX)).

Ceci montre que, avec l’abus de notation d´ej`a signal´e,

(†) d

dtf(gexp(tX)) = (Xφ)(gexp(tX)), ∀t∈I.

La formule (1) en d´ecoule aussitˆot, par r´ecurrence sur k. La formule (2) est, bien sˆur, l’´evaluation en t= 0 de (1).

Montrons (3). Posons

F(t₁, . . . , t_s) =f(gexp(t₁X₁)· · ·exp(t_sX_s)).

Alors il existeε >0 tel que F soit d´efinie et C^∞sur le voisinage de 0 dansR^s suivant :

I^s_ε={(t₁, . . . , t_s)∈R^s| ∀i= 1, . . . s, |t_i|< ε}.

D’apr`es (2), on a :

∂F

∂ts

(t1, . . . , ts−1,0) = (Xsf)(gexp(t1X1)· · ·exp(ts−1Xs−1)), pour tout (t1, . . . , ts−1)∈I^s_ε⁻¹, et (3) en d´ecoule par r´ecurrence surs.

Théorème 2.47 (Représentation adjointe et centres). — 1) La diff´erentielle de Ad : G → GL(g) co¨ıncide avec l’application adjointe ad : g → End(V), c.-

`

a-d., pour tout X,Y∈g, on a :

d(Ad)(X)(Y) = [X,Y] = ad(X)(Y).

2) Pour tout X∈g, on a

Ad(exp_G(X)) = exp_GL(g)(ad(X)) =X

k>0

ad(X)^k k! . 3) Supposons G connexe. Alors

Ker(Ad) = Z(G) et Lie(Z(G)) = Ker(ad) =z(g).

D´emonstration. — 1) Notons provisoirement fad = d(Ad). Comme d₁exp = id_g, on a, pour tout X∈g, l’´egalit´e suivante dans End(g) :

(1) ad(X) =f d

dt

t=0

Ad(exp(tX)).

En composant ceci avec l’application lin´eaire d’´evaluation en Y∈g, on obtient l’´egalit´e suivante dans g:

(2) ad(X)(Y) =f d

dt

t=0

Ad(exp(tX))(Y).

Soit f une fonction C^∞ sur un voisinage de e. Alors, l’application Z 7→

(Zf)(e) =d_ef(Z) est une forme lin´eaire surg; en l’appliquant `a (2) on obtient l’´egalit´e suivante dans R:

(3)

ad(X)(Y)ff

(e) = d dt

t=0

Ad(exp(tX))(Y)f (e).

Or, pour tfix´e, on a, d’apr`es les lemmes 2.46 et 2.43 : (4)

Ad(exp(tX))(Y)f

(e) = _ds^d_s=0f

exp Ad(exp(tX))(sY)

= _ds^d

s=0f

exp(tX) exp(sY) exp(−tX) . Par cons´equent, posant F(t, s) =f(exp(tX) exp(sY) exp(−tX)), on obtient que

fad(X)(Y)f

(e) = ∂²F

∂t ∂s(0,0) = ∂²F

∂s ∂t(0,0).

Or, F est la compos´ee de l’application (t, s)7→(t, s,−t) et de l’application H :R³−→R, (t₁, s, t₂)7→f(exp(t₁X) exp(sY) exp(t₂X)).

On en d´eduit que d dt

t=0

F(t, s) = d dt₁

t1=0

H(t₁, s,0)− d dt₂

t2=0

H(0, s, t₂), d’o`u

ad(X)(Y)ff

(e) = ∂²

∂s ∂t

s=t=0

f(exp(tX) exp(sY))−f(exp(sY) exp(tX)) . D’apr`es le lemme 2.46, combin´e avec l’´egalit´e ∂²/∂s ∂t=∂²/∂t ∂s, ceci ´egale

(XYf)(e)−(YXf)e= ([X,Y]f)(e).

Ceci montre qued(Ad)(X)(Y) = [X,Y] = ad(X)(Y). Le point 1) est d´emontr´e.

Le point 2) d´ecoule du th´eor`eme 2.39 (fonctorialit´e de l’exponentielle), ap- pliqu´e `a φ = Ad, et du fait que l’application exponentielle pour GL(g) est l’exponentielle usuelle d’une matrice (2.37).

Montrons le point 3). Pour tout morphisme φ: G→ H de groupes de Lie, on a

Lie(Kerφ) = Ker(dφ),

d’apr`es le th´eor`eme 2.16. Appliquant ceci `aφ= Ad et tenant compte du point 1), on obtient :

Lie(Ker Ad) = Ker ad =z(g).

Il reste `a montrer l’´egalit´e Ker(Ad) = Z(G), lorsque G est connexe. On a toujours l’inclusion Z(G)⊆Ker(Ad). En effet, si g∈Z(G), alors Int(g) = id<sub>G</sub> et donc Ad(g) = id<sub>g</sub>, d’o`ug∈Ker(Ad).

R´eciproquement, supposons G connexe et soit g ∈ Ker(Ad). Alors, pour tout X∈g, on a

gexp(X)g⁻¹ = exp(Ad(g)(X)) = exp(X),

et doncg commute au sous-groupe de G engendr´e par exp(g), qui ´egale G⁰ = G d’apr`es le point 3) du th´eor`eme 2.38. Ceci ach`eve la preuve du th´eor`eme 2.47.

Remarque 2.48. — En particulier, si G est commutatif, alors Lie(G) est une alg`ebre de Lie ab´elienne, et r´eciproqument si G est connexe.

2.9. Sous-groupes et sous-alg`ebres de Lie. —

Définition 2.49 (Immersions, etc.). — Soit f : M → N une application C^∞ entre deux vari´et´es C^∞, et soit m∈M. On dit quef est une

immersion en m si d_mf est injective resp.submersionen m si dmf est surjective resp.application ´etaleen m si d_mf est bijective.

On dit que f est une immersion, resp. submersion, resp. application ´etale, si elle l’est en tout pointm∈M. Ainsi, «application ´etale» est synonyme de diff´eomorphisme local.

Remarque 2.50. — Attention, une immersion n’est pas n´ecessairement injec- tive ! Par exemple, on a une immersion non injective

S¹ −→ ⊂R².

De plus, une immersion injective X ֒→ Y n’est pas n´ecessairement un ho- m´eomorphisme de X sur une sous-vari´et´e de Y. Par exemple,

f :R−→ ⊂R²

est une immersion injective, dont l’image n’est pas une sous-vari´et´e au voisi- nage du pointf(0) = lim_t→+∞f(t), et qui n’est pas un hom´eomorphisme (car l’image inverse de tout voisinage def(0) dansR²est la r´eunion d’un voisinage de 0 et de +∞).

Pire encore, pour α ∈ R\Q, l’application R → S¹×S¹,t 7→ (e^it, e^iαt) est un morphisme de groupes de Lie et une immersion injective, dont l’image est dense :

Définition 2.51 (Plongements). — Soit f : Y→ X une application C^∞. On dit que c’est un plongement (= “imbedding” in American, or “embedding” in English, according to Spivak [Spi, p.49]), si : 1) c’est une immersion injective, et un hom´eomorphisme de Y sur son image, 2) f(Y) est une sous-vari´et´e (localement ferm´ee !) de X.

Si de plus f(Y) est ouvert (resp. ferm´e) dans X, on dit que que f est un plongement ouvert (resp. ferm´e).

Remarque 2.52. — En fait, on peut montrer que la condition 2) est cons´e- quence de la condition 1), voir par exemple la preuve de [Le,§I.4.B, Prop. 2].

Lemme 2.53 (Immersions, etc. de groupes de Lie). — Soit φ: G→G^′ un mor- phisme de groupes de Lie. Alors φ est une immersion (resp. submersion, resp. application ´etale) si et seulement si d₁φ est injective (resp. surjective, resp. bijective).

D´emonstration. — Notonsℓ_g, resp.ℓ_h, la translation `a gauche par un ´el´ement g∈G, resp.h∈G^′. Pour toutg∈G, on aφ◦ℓg =ℓ_φ(g)◦φet donc :

dgφ◦d₁ℓg =d₁ℓ_φ(g)◦d₁φ.

Comme d1ℓg et d1ℓ_φ(g) sont inversibles, ceci montre que dgφ est injective (resp. surjective, resp. bijective) si et seulement si d1φl’est.

Définition 2.54 (Sous-groupes de Lie). — Soit G un groupe de Lie. Un sous- groupe de Lie de G est un sous-groupe H, muni d’une structure de groupe de Lie telle que l’inclusion H֒→G soit une application C^∞(et donc un morphisme de groupes de Lie).

De fa¸con plus formelle mais ´equivalente, un sous-groupe de Lie est une classe d’´equivalence de couples (H, τ), o`u H est un groupe de Lie etτ une immersion injective ; deux tels couples (H, τ) et (H^′, τ^′) ´etant ´equivalents s’il existe un isomorphismeφ: H−→^∼ H^′ tel queτ^′◦φ=τ.

Le th´eor`eme suivant est important. Pour une d´emonstration reposant sur la th´eorie des ´equations diff´erentielles (plus pr´ecis´ement, le th´eor`eme d’int´e- grabilit´e de Frobenius), on renvoie `a [Va,§2.5] ou [Wa, 3.19]. (Pour d’autres d´emonstrations, voir [Go,§6.13] ou [DK, 1.10.3].)

Théorème 2.55 (Sous-groupes de Lie). — Soient G un groupe de Lie, g = Lie(G) et h une sous-alg`ebre de Lie de g. Il existe un unique sous-groupe de Lie connexe H tel que Lie(H) = h, c.-`a-d., il existe un groupe de Lie connexe H et une immersion injective

τ : H֒→G telle que dτ =σ,

o`u σ d´esigne l’inclusion h⊆g. De plus, le couple (H, τ) est unique `a isomor- phisme unique pr`es. On dit que H est le sous-groupe associ´e `a h.

Proposition 2.56. — Soient G un groupe de Lie, g = Lie(G) et h une sous- alg`ebre de Lie de g. Soit H le sous-groupe de Lie connexe de G associ´e `a h.

Alors, H est le sous-groupe de Gengendr´e par exp(h).

D´emonstration. — L’hypoth`ese signifie qu’il existe une immersion injective τ : H֒→G telle quedτ soit l’inclusion dehdansg. Identifions H `a son image dans G. Alors, il r´esulte du th´eor`eme 2.39 que exp<sub>H</sub> est la restriction `a hde exp = exp_G.

Donc exp(h) ⊆ H, et comme H est connexe il est engendr´e par exp(h), d’apr`es le point 3) du th´eor`eme 2.38.

Remarque 2.57. — Dans la proposition pr´ec´edente, on a suppos´el’existence de H´etablie (grˆace au th´eor`eme d’int´egrabilit´e de Frobenius), et montr´e qu’alors H est n´ecessairement ´egal au sous-groupe engendr´e par exp(h). Une autre approche consiste `a montrer directement que le sous-groupe de G engendr´e par exp(h), notons-le H^′, peut ˆetre muni d’une (unique) structure de groupe de Lie telle que l’inclusion H^′ ֒→G soit un morphisme de groupes de Lie. C’est l’approche suivie dans [Go,§6.13] et [DK, 1.10.3].

Exemples 2.58. — 1) Soit G = S¹. Alors g =R et l’application exponentielle est t7→ e^it. Ou bien, mieux encore, consid´erons G = S¹ comme sous-groupe de Lie (ferm´e) de G₁=C^∗. Alors

g1=C=R⊕iR

et l’application exponentielle exp_G1 :C→C^∗ est l’exponentielle usuelle.

Alors, le sous-groupe S¹deC^∗´etant d´efini par l’´equationzz= 1, son alg`ebre de Lie est d´efinie par l’´equationz+z= 0, c.-`a-d., Lie(S¹) =iR, et l’application exponentielle exp_S1 est la restriction de exp = expC^∗ `a la sous-alg`ebre de Lie iR= Lie(S¹).

2) De mˆeme, l’alg`ebre de Lie du toreT= S¹×S¹ estR². Pour toutα∈R, consid´erons la droite

∆_α ={(t, αt)∈R² |t∈R}.

Le sous-groupe de Lie connexe qui lui est associ´e par le th´eor`eme 2.55 est le sous-groupe de Lie

{(e^it, e^iαt)∈T|t∈R},

rencontr´e plus haut : si α6∈Q, ce sous-groupe est dense dans T, et n’est pas une sous-vari´et´e.

Corollaire 2.59. — SoientGun groupe de Lie, g= Lie(G), hune sous-alg`ebre de Lie de g, et soitKun sous-groupe de Lie (non n´ecessairement connexe) de G tel queLie(K) =h. Alors,K⁰ est le sous-groupe de G engendr´e par exp(h).

En particulier, si Gest connexe et si Lie(K) =g, alors K = G.

D´emonstration. — Soit H le sous-groupe de Lie connexe de G associ´e `ah, c’est le sous-groupe de G engendr´e par exp(h), d’apr`es la proposition 2.56.

Notons τ (resp.σ) l’inclusion de H (resp. K⁰) dans G. Comme Lie(K⁰) = Lie(K), l’hypoth`ese entraˆıne que dσ = dτ est l’inclusion de h dans g. Alors l’assertion d’unicit´e dans le th´eor`eme 2.55 entraˆıne que H = K⁰. Ceci prouve le corollaire.

2.10. Sous-groupes ferm´es d’un groupe de Lie. — Dans ce paragraphe, on va d´emontrer le th´eor`eme suivant (´etabli dans le cas G = GLn(R) par John von Neumann en 1929, puis g´en´eralis´e pour G arbitraire par ´Elie Cartan).

Théorème 2.60. — SoitG un groupe de Lie et soitH un sous-groupe ferm´e de G. AlorsH est un sous-groupe de Lie ferm´e de G, dont l’alg`ebre de Lie est :

Lie(H) ={X∈Lie(G)|exp(tX)∈H, ∀t∈R}.

D´emonstration. — Elle se fait en trois ´etapes. Posonsg= Lie(G) et munissons g d’une norme euclidiennek · k.

Lemme 2.61. — Soit(X_n)_n∈Nune suite d’´el´ements non-nuls de g, convergeant vers0 et telle que

exp(Xn)∈H, ∀n∈N,

et que la suite Un:= Xn/kXnk converge vers U∈g. Alors, on a exp(tU)∈H, ∀t∈R.

D´emonstration. — Fixons t ∈ R et posons tn = t/kXnk. Soient kn la partie enti`ere de t_n et t^′_n =t_n−k_n. Comme t^′_n ∈[0,1[ et X_n →0, la suite (t^′_nX_n)_n tend vers 0, et donc la suite de terme g´en´eral

k_nX_n=t_nX_n−t^′_nX_n=tU_n−t^′_nX_n

converge vers tU. Par cons´equent, comme l’application exp :g → G est C^∞, donca fortiori continue, la suite de terme g´en´eral

exp(k_nX_n) = exp(X_n)^kn

converge vers exp(tU). Le sous-groupe H contient exp(Xn) par hypoth`ese, donc aussi exp(Xn)^kn, et comme H est ferm´e il contient aussi la limite exp(tU). Ceci prouve le lemme.

Posons maintenant

h={X∈g|exp(tX)∈H, ∀t∈R}.

Lemme 2.62. — hest un sous-espace vectoriel de g.

D´emonstration. — Soient X,Y ∈ h. Il est clair que sX ∈ hpour tout s∈R, donc il suffit de montrer que X + Y ∈h. On peut ´evidemment supposer que X + Y 6= 0.

On sait qued₀exp = idg, donc exp induit un diff´eomorphisme d’un voisinage U de 0 dansg sur un voisinage V de 1 dans G. Notons log le diff´eomorphisme r´eciproque. Alors d₁log = idg.

La multiplication G×G → G est C^∞, donc a fortiori continue, donc il existe un intervalle ouvert I contenant 0 tel que

exp(sX) exp(tY)∈V, ∀s, t∈I.

Alors l’application

ψ: I−→U, t7→log(exp(tX) exp(tY))

est bien d´efinie, C^∞, et v´erifie ψ(t) 6= 0 si t 6= 0 (car ψ(t) = 0 et t ∈ I impliquent exp(tX) = exp(−tY), d’o`u tX = −tY, et t = 0 car on a suppos´e X + Y 6= 0), et

∀t∈I, exp(ψ(t)) = exp(tX) exp(ty)∈H, puisque X,Y∈h.

De plus, comme la d´eriv´ee en (1,1) deµest l’additiong×g→g, on obtient que ψ^′(0) = X + Y, d’o`u

(∗) ψ(t) =t(X + Y) + O(t²), pour t−→0.

Soit alors (tn)n∈N une suite d’´el´ements non-nuls de I convergeant vers 0, et posons Z_n = ψ(t_n). Alors on a Z_n 6= 0 et exp(Z_n) ∈ H pour tout n ∈ N, la suite (Zn)n converge vers 0, et d’apr`es (∗), la suite (Zn/tn)n converge vers X + Y, d’o`u en d´eduit que la suite de terme g´en´eral Z_n/kZ_nk converge vers U := (X + Y)/kX + Yk. Par cons´equent, d’apr`es le lemme pr´ec´edent, U et donc X + Y appartiennent `a h. Ceci prouve que h est un sous-espace vectoriel de g.

Soit maintenant m un sous-espace vectoriel suppl´ementaire de h dans g, c.-`a-d.,

(†) g=hL

m.

Lemme 2.63. — Il existe un voisinage ouvert W_m de 0 dans m tel que exp(W_m)∩H ={1}.

D´emonstration. — En effet, il existerait sinon une suite d’´el´ements non nuls Y_k ∈m, convergeant vers 0, et telle que chaqueh_k = exp(Y_k) soit un ´el´ement de H, distinct de 1 (puisque exp est bijective au voisinage de 0 dans g). Alors chaque

Xk= Yk

kY_kk

appartient `a la sph`ere unit´e S(m) de m, qui est compacte, donc la suite X_k poss`ede une valeur d’adh´erence X∈S(m). Alors, d’apr`es le lemme 2.61, X∈h, d’o`u une contradiction avec l’hypoth`esem∩h={0}. Ceci prouve le lemme.

On peut maintenant achever la d´emonstration du th´eor`eme 2.60. L’applica- tion

φ:h⊕m−→g, (X,Y)7→exp(X) exp(Y),

est C^∞, et sa diff´erentielle en (0,0) est idh⊕idm, qui est un isomorphisme.

Donc d’apr`es le th´eor`eme d’inversion locale (1.24), il existe des voisinages ouverts Uh,Um, resp. V, de 0 dansh,m, resp. de 1 dans G, tels que φinduise un diff´eomorphisme

ψ: U_h×Um

−→∼ V.

De plus, d’apr`es le lemme pr´ec´edent on peut supposer, quitte `a remplacer Um

par U_m∩W_m, que l’on a exp(U_m)∩H ={1}. Il est clair que exp(U_h) =ψ(U_h× {0_m})⊆V∩H.

R´eciproquement, soit h ∈ H∩V. Alors, il existe X ∈ U_h et Y ∈ U_mtels que h= exp(X) exp(Y), mais alors

exp(Y) = exp(−X)h appartient `a exp(Um)∩H ={1}, d’o`u Y = 0. Posant U = Uh×Um, ceci montre que

V∩H =ψ(U_h) =ψ(U∩h).

Par cons´equent, H est, au voisinage de 1, une sous-vari´et´e C^∞ de G, de di- mension d= dimh.

Il en est de mˆeme en tout point h ∈H, puisque la translation ℓh :g7→ hg est un diff´eomorphisme C^∞ de G. Ceci montre que H est un sous-groupe de Lie ferm´e de G, de dimensiond.

Enfin, pour tout X∈h, la courbef(t) = exp(tX) est C^∞, `a valeurs dans H, et v´erifie f(0) = 1 et

f^′(0) = X.

Donc X∈T₁H = Lie(H), et ceci montre queh⊆Lie(H). Comme dim Lie(H) = dim(H) = dimh,

on a l’´egalit´eh= Lie(H). (On pouvait aussi dire que, pour tout X∈Lie(H) et t∈R, on a, par fonctorialit´e de l’exponentielle :

exp_G(tX) = exp_H(tX)∈H,

d’o`u X∈het l’inclusion Lie(H)⊆h). Le th´eor`eme est d´emontr´e.

Proposition 2.64 (Stabilisateurs). — Soient G un groupe de Lie et M une G- vari´et´eC^∞. Pour tout p∈M, son stabilisateur

Stab_G(p) ={g∈G|gp=p}, qu’on note aussi G_p, est un sous-groupe de Lie ferm´e de G.

D´emonstration. — G_p est un sous-groupe, et il est ferm´e car c’est l’image inverse de la diagonale de M×M par l’application C^∞ (donc continue)

G−→M×M, g7→(p, gp).

Corollaire 2.65 (Représentation d’isotropie, II). — Soient M une G-vari´et´e et p∈M. Alors,

h7→dpµ_h∈GL(TpM)

est une repr´esentation C^∞ de G_p dans l’espace tangent T_pM (o`u l’on a not´e µ_h l’application M→M,x7→hx).

D´emonstration. — Sachant que Gpest un groupe de Lie, d’apr`es la proposition pr´ec´edente, ceci r´esulte du th´eor`eme 2.42.

2.11. Le yoga des -zateurs. — Soit G un groupe de Lie. Reprenons les conventions sur les repr´esentations introduites dans le paragraphe 2.4, c.-`a-d., d´esignons parKle corps de base, avec la convention queK=Rou bienK=C.

Soit V un K-espace vectoriel de dimension finie n, et soit ρ : G → GL(V) un morphisme de groupes de Lie, c.-`a-d., une repr´esentation lisse de G dans V. Soitθ le morphisme d’alg`ebres de Liedρ:g→End(V).

Dans la suite, on ´ecrira souventg·v ou gv au lieu deρ(g)(v), et de mˆeme X·v ou Xv au lieu deθ(X)(v), pourg∈G, v∈V, X∈g.

Lemme 2.66. — Pour tout v ∈V, la diff´erentielle en e de g 7→ gv est l’appli- cation X7→Xv.

D´emonstration. — Posons φ_v(g) =gv et notons η_v l’application GL(V)−→V, A7→Av.

Sa diff´erentielle en tout point A∈GL(V) est l’application lin´eaire ε_v : End(V)−→V, Y7→Y(v).

Commeφv =ηv◦ρ alors, pour tout X∈g, on a (deφv)(X) = (εv◦deρ)(X) = Xv.

Ceci prouve le lemme.

Soient W un sous-espace de V et g∈G tels que ρ(g)(W)⊆W.

Comme ρ(g) est inversible,ρ(g)(W) a mˆeme dimension que W, et donc on a l’´egalit´eρ(g)(W) = W, d’o`u aussi W =ρ(g<sup>−1</sup>)(W). Posons alors les d´efinitions suivantes, o`u l’´egalit´e (∗) r´esulte de ce qui pr´ec`ede.

Définition 2.67 (Stabilisateurs dansG). — Soient v ∈ V et W un sous-espace de V. On introduit leurs stabilisateurs dans G :

Stab_G(v) ={g∈G|gv =v};

Stab_G(W) ={g∈G|gW = W}⁽=^∗){g∈G|gW⊆W}.

Ce sont des sous-groupes de G. On dit aussi que Stab_G(v) est le fixateur de v, not´e Fix_G(v), ou le groupe d’isotropie (dans G) de v, not´e Gv. De mˆeme, Stab_G(W) est aussi not´e G_W.

Lemme 2.68. — Stab_G(v) et Stab_G(W) sont des sous-groupes ferm´es de G, donc des sous-groupes de Lie ferm´es.

D´emonstration. — Pour tout v ∈ V, l’application µv : G → V, g 7→ gv est continue, et l’on a

Stab_G(v) =µ⁻¹_v (v) et Stab_G(W) = T

w∈W

µ⁻¹_w (W),

ce qui montre que ce sont des sous-groupes ferm´es de G. Ce sont donc des sous-groupes de Lie ferm´es, d’apr`es le th´eor`eme 2.60.

Notation 2.69. — On note Stab⁰_G(v), resp. Stab⁰_G(W), la composante connexe de Stab_G(v), resp. Stab_G(W). On les appelle les«stabilisateurs connexes».

On introduit aussi les stabilisateurs dans g. (La d´efinition ci-dessous est valable pour toute repr´esentationθ:g→End(V).)

Définition 2.70 (Stabilisateurs dansg). — Soientv∈V et W un sous-espace de V. On introduit leurs stabilisateurs dansg :

Stabg(v) ={X∈g|X·v= 0};

Stabg(W) ={X∈g|X·W⊆W}.

Ce sont des sous-alg`ebres de Lie de g (v´erification imm´ediate). On les note aussig_v, resp.g_W.

Théorème 2.71. — On a Lie(Gv) = gv (resp. Lie(G_W) = g_W) et donc G⁰_v (resp. G⁰_W) est le sous-groupe de Lie connexe (et ici, ferm´e) associ´e `a g_v (resp. gW).

D´emonstration. — L’application Gv →V,g7→gv =v est constante, donc sa diff´erentielle est nulle. Par cons´equent, d’apr`es le lemme 2.66, on a

Xv = 0, ∀X∈Lie(G_v), d’o`u Lie(G<sub>v</sub>)⊆g<sub>v</sub>. De mˆeme, pour toutw∈W, on a φw(g)∈W pour toutg∈G<sub>W</sub>, d’o`u

Xw=d_eφ_w(X)∈W, ∀X∈Lie(G_W), d’o`u Lie(G_W)⊆g_W. Montrons les inclusions r´eciproques.

Soit S (resp. H) le sous-groupe connexe de G associ´e `agv (resp.g<sub>W</sub>) ; il est engendr´e par exp(g<sub>v</sub>) (resp. exp(g<sub>W</sub>)), d’apr`es la proposition 2.56.

D’apr`es le th´eor`eme 2.39 et l’exemple 2.37 on a, pour tout X∈g, ρ(exp(X)) = exp(θ(X)) =X

k>0

θ(X)^k k! .

Par cons´equent,v est fix´e par exp(g_v), donc par S, et, de mˆeme, W est laiss´e stable par exp(gW), donc par H. Donc

(∗) S⊆G⁰_v et H⊆G⁰_W

d’o`u les inclusions

g_v= Lie(S)⊆Lie(G_v) et g_W= Lie(H)⊆Lie(G_W).

On obtient donc les ´egalit´es

Lie(G_v) =g_v et Lie(G_W) =g_W,

et donc les inclusions dans (∗) sont des ´egalit´es, d’apr`es le corollaire 2.59.

Remarque 2.72. — Voici une autre d´emonstration de l’´egalit´e Lie(G_v) = g_v, qui n’utilise pas l’application exponentielle (mais utilise `a la place le th´eor`eme du rang constant). On a vu plus haut que Lie(G_v) ⊆ g_v, donc il suffit de montrer que ces deux espaces ont mˆeme dimension.

L’application φ: G→ V, g 7→ gv est C^∞. Pour toutg ∈ G, on a φ◦ℓg = ρ(g)◦φ, d’o`u

d_gφ◦d₁ℓ_g =ρ(g)◦d₁φ.

Comme d₁ℓ_g et ρ(g) sont inversibles, d_gφ a mˆeme rang que d₁φ. Or d₁φ est l’application

g−→V, X7→X·v,

dont le noyau estgv. Ceci prouve queφest de rang constant ´egal `a dimg−dimg_v.

Donc, d’apr`es le th´eor`eme du rang constant 1.38, Gv =φ⁻¹(v) est une sous- vari´et´e ferm´ee de dimension dimg_v. Par cons´equent, on a l’´egalit´e Lie(G_v) = gv.

Définition 2.73 (Vecteurs invariants). — Soit V une repr´esentation de dimen- sion finie de G. On pose

V^G= {v∈V|gv =v, ∀g∈G}

V^g ={v∈V |Xv= 0, ∀X∈g}.

Théorème 2.74. — Supposons G connexe.

1) On a V^g= V^G.

2) Soit W un sous-espace de V stable par g. AlorsW est stable par G.

D´emonstration. — 1) Il est clair que V^G⊆V^g. R´eciproquement, soitv∈V^g. Alors, Lie(Gv) = g. Donc, d’apr`es le corollaire 2.59, Gv = G, d’o`u v ∈ V^G. Ceci prouve 1).

De mˆeme, on a Lie(G_W) =g, d’o`u G<sub>W</sub> = G, c.-`a-d., W est stable par G.

Théorème 2.75. — Soient G un groupe de Lie connexe, g = Lie(G), h une sous-alg`ebre de Lie deg, et H le sous-groupe de Lie connexe de Gassoci´e `ah.

On a les ´equivalences suivantes :

1) h est un id´eal de g ⇔ H est normal dans G.

2) h⊆z(g) ⇔ H⊆Z(G).

D´emonstration. — 1) Si H est normal, alors h est stable par Ad(G) donc a fortiori par ad(g). R´eciproquement, supposons quehsoit un id´eal deg, c.-`a-d., que son stabilisateur dans g, pour la repr´esentation adjointe, ´egaleg. Comme G est connexe alors, d’apr`es le th´eor`eme pr´ec´edent,hest stable par Ad(G).

De plus, d’apr`es le th´eor`eme 2.39, l’application exponentielle de H est la restriction `a h de celle de g. Donc, utilisant le lemme 2.43, on obtient que, pour tout X∈hetg∈G,

gexp(X)g⁻¹ = exp(Ad(g)(X))∈H.

Donc G normalise le sous-groupe engendr´e par exp(h), qui ´egale H d’apr`es le th´eor`eme 2.56. Ceci montre que H est normal dans G. Le point 1) est d´emontr´e.

La preuve du point 2) est analogue et est laiss´ee au lecteur.

I. Groupes de Lie r´eels et groupes alg´ebriques sur C

S´eance du 8/11/07 . . . 1

1. Groupes de Lie . . . 1

1.1. Vari´et´es diff´erentiables . . . 1

1.2. «Rappels»de calcul diff´erentiel . . . 5

1.3. Espace tangent en un point `a une sous-vari´et´e deR^N . . . 8

1.4. Sous-vari´et´es d´efinies par des ´equations de rang constant . . . 11

1.5. Composante connexe d’un groupe topologique . . . 14

I. Groupes de Lie r´eels (suite) S´eance du 9/11/07 . . . 17

1.6. D´erivations et champs de vecteurs . . . 17

1.7. Alg`ebre de Lie d’un groupe de Lie . . . 27

I. Groupes de Lie r´eels (suite) S´eance du 15/11/07 . . . 31

2. Groupes et alg`ebres de Lie . . . 31

2.1. Le cas de GL_n . . . 31

2.2. Un «rappel» sur espaces tangents et diff´erentielles . . . 33

2.3. Sous-groupes de Lie ferm´es . . . 34

2.4. Repr´esentations . . . 38

2.5. Champs de vecteurs et flots . . . 42

2.6. Exponentielle d’un groupe de Lie . . . 44

2.7. G-vari´et´es et repr´esentations d’isotropie . . . 47

2.8. Action adjointe . . . 48

I. Groupes de Lie r´eels (suite) S´eance du 16/11/07 . . . 49

2.8. Action adjointe, suite . . . 49

2.9. Sous-groupes et sous-alg`ebres de Lie . . . 52

2.10. Sous-groupes ferm´es d’un groupe de Lie . . . 55

2.11. Le yoga des -zateurs . . . 58

Bibliographie . . . iii

Bibliographie

[Abe] E. Abe, Hopf algebras, Cambridge Univ. Press, 1977.

[Ad] J. F. Adams, Lectures on Lie groups, Univ. Chicago Press, 1969.

[Am] Y. Amice, Les nombres p-adiques, P.U.F., 1975.

[AM] M. Atiyah, I. G. Macdonald, Commutative algebra, Addison Wesley, 1969.

[Bl] A. Blanchard, Les corps non commutatifs, P.U.F., 1972.

[Bo] A. Borel, Linear algebraic groups, Second enlarged edition, Springer Verlag, 1991.

[BA1-3] N. Bourbaki, Alg`ebre, Chapitres 1 `a 3, 1981.

[BA8] N. Bourbaki, Alg`ebre, Chap. 8, 1958.

[BL1] N. Bourbaki, Groupes et alg`ebres de Lie, Chap. 1, 1971.

[BL4-6] N. Bourbaki, Groupes et alg`ebres de Lie, Chap. 4–6, 1968.

[BL7-8] N. Bourbaki, Groupes et alg`ebres de Lie, Chap. 7-8, 1975.

[BI7-8] N. Bourbaki, Int´egration, Chap. 7-8, 1963.

[BrM] J. Brian¸con, Ph. Maisonobe, ´El´ements d’alg`ebre commutative, niveau M1, Ellipses, 2004.

[BS] M. Brion, G. Schwarz, Th´eorie des invariants & G´eom´etrie des vari´et´es quotients, Hermann, 2000.

[BtD] Th. Br¨ocker, T. tom Dieck, Representations of compact Lie groups, Springer 1985 (3rd printing, 2003).

[Ca] H. Cartan, Cours de calcul diff´erentiel, Hermann, nouvelle ´edition, refondue et corrig´ee, 1977.

[Ca2] H. Cartan, Th´eorie ´el´ementaire des fonctions analytiques d’une ou plusieurs variables complexes, Hermann, 1961, nouveau tirage, 1978.

[Die] J. Dieudonn´e, Cours de g´eom´etrie alg´ebrique, tome 2, P.U.F., 1974.

[Di74] J. Dixmier, Alg`ebres enveloppantes, Gauthier-Villars, 1974 [Di81] J. Dixmier, Topologie g´en´erale, P.U.F., 1981.

[Do88] D. Z. Dokovi´c, An elementary proof of the structure theorem for connected solvable affine algebraic groups, Enseign. Math. (2) 34 (1988), 269-273.

[DK] J. J. Duistermaat, J. A. C. Kolk, Lie groups, Springer, 2000.

[Eis] D. Eisenbud, Commutative algebra with a view towards algebraic geometry, Springer, 1995.

[Fa] J. Faraut, Analyse sur les groupes de Lie, Calvage & Mounet, 2005.

[Go] R. Godement, Introduction `a la th´eorie des groupes de Lie, Publ.

Math. Paris VII, 1982, et Springer, 2004.

[GH] M. J. Greenberg, J. R. Harper, Algebraic Topology, a first course, Addison-Wesley, 1981.

[Ha] R. Hartshorne, Algebraic Geometry, Springer Verlag, 1977.

[Hel] S. Helgason, Differential geometry, Lie groups, and symmetric spaces, Academic Press 1978, ninth printing Amer. Math. Soc. 2001.

[Her] I. N. Herstein, Noncommutative rings, Carus Math. Monogr., 1968, nouveau tirage, 1994.

[Ho] G. P. Hochschild, The structure of Lie groups, Holden-Day, 1965, trad.

fran¸caise : La structure des groupes de Lie, Dunod, 1968.

[Ho81] G. P. Hochschild, Basic theory of algebraic groups and Lie algebras, Springer-Verlag, 1981.

[Hu] J. E. Humphreys, Introduction to Lie algebras and representation theory, Springer-Verlag, 1972, third printing, revised, 1980.

[Hu2] J. E. Humphreys, Linear algebraic groups, Springer-Verlag, 1975, cor- rected 2nd printing 1981.

[Iit] S. Iitaka, Algebraic geometry, Springer, 1982.

[Jac] N. Jacobson, Lie algebras, Wiley, 1962, Dover, 1979.

[Jac80] N. Jacobson, Basic Algebra II, Freeman & Co., 1980.

[KSS] H. Kraft, P. Slodowy, T. A. Springer (Ed.), Algebraische Transfor- mationsgruppen und Invariantentheorie - Algebraic Transformation Groupes and Invariant Theory, Birk¨auser, 1989.

[Ka] V. Kac, Infinite-dimensional Lie algebras, Birkh¨auser 1983, 3rd edi- tion, Cambridge Univ. Press, 1990.

[Ke] G. R. Kempf, Algebraic varieties, Cambridge Univ. Press, 1993.

[Kna] A. W. Knapp, Lie groups beyond an introduction, Birkh¨auser, 1996, 2nd edition, 2002.

[Ku] E. Kunz, Introduction to commutative algebra and algebraic geome- try, Birkh¨auser, 1985.

[Laf74] J.-P. Lafon, Les formalismes fondamentaux de l’alg`ebre commutative, Hermann, 1974.

[Laf77] J.-P. Lafon, Alg`ebre commutative (Langages g´eom´etrique et alg´e- brique), Hermann, 1977.

[Laf] J. Lafontaine, Introduction aux vari´et´es diff´erentielles, Presses Univ.

Grenoble, 1996.

[La] S. Lang, Algebra, Addison-Wesley, 1965. Traduction fran¸caise de la 3`eme ´edition :Alg`ebre, Dunod, 2004.

[Le] D. Leborgne, Calcul diff´erentiel et g´eom´etrie, P.U.F., 1982.

[Lu99] Retour sur un th´eor`eme de Chevalley, Enseign. Math. (2) 45 (1999), 317-320.

[Ma] P. Malliavin, G´eom´etrie diff´erentielle intrins`eque, Hermann, 1972.

[Ma1] H. Matsumura, Commutative algebra (2nd edition), Benjamin, 1980.

[Ma2] H. Matsumura, Commutative ring theory, Cambridge Univ. Press, 1986, paperback edition with corrections, 1989.

[MT] R. Mneimn´e, F. Testard, Introduction `a la th´eorie des groupes de lie classiques, Hermann, 1986, nouveau tirage 2005.

[Pe] D. Perrin, G´eom´etrie alg´ebrique - Une introduction, Inter ´Editions/- CNRS ´Editions, 1995.

[Po] P. Polo, Alg`ebre et th´eorie de Galois, cours de M1 2005/06 `a l’Uni- versit´e Paris 6, www.math.jussieu.fr/epolo

[Pi] G. Pichon, Groupes de Lie : repr´esentations lin´eaires et applications, Hermann, 1973.

[Ro] A. Robert, Introduction to the representation theory of compact and locally compact groups, Cambridge Univ. Press, 1983.

[Ru73] W. Rudin, Functional analysis, McGraw-Hill, 1973.

[Ru75] W. Rudin, Analyse r´eelle et complexe, Masson, 1975.

[Se] J.-P. Serre, Alg`ebres de Lie semi-simples complexes, Benjamin, 1965, Complex semisimple Lie algebras, Springer, 2001.

[Spi] M. Spivak, A Comprehensive Introduction to Differential Geometry I, Publish or Perish, 1970, 3rd edition 2005.

[Spr] T. A. Springer, Linear algebraic groups, Birk¨auser, 1981, 2nd edition 1998.

[Sw] M. E. Sweedler, Hopf Algebras, Benjamin, 1969.

[Ti] J. Tits, Liesche Gruppen und Algebren, Springer-Verlag, 1983.

[Va] V. S. Varadarajan, Lie groups, Lie algebras, and their representations, Prentice-Hall 1974, Springer 1984.

[Wa] F. W. Warner, Foundations of differentiable manifolds and Lie groups, Scott & Foresman, 1971, Springer, 1983.

[Zi] R. Zimmer, Essential results of functional analysis, Univ. Chicago Press, 1990.