Classification des orbites coadjointes affines hermitiennes

Le but de ce paragraphe est de d´emontrer le th´eor`eme suivant :

Th´eor`eme 2.4.1 Les orbites adjointes affines hermitiennes sym´etriques irr´e-ductibles des L<sup>∗</sup>-alg`ebres simples de type compact sont isomorphes aux espaces homog`enes suivants :

1. U2(H)/ U2(P0)×U2(P₀^⊥)

, o`u P0 est un sous-espace vectoriel complexe ferm´e d’un espace de Hilbert H, soit de dimension finie p, soit de dimen-sion infinie pet de codimension infinie ;

2. O⁺₂(H,R)/ SO(P0)×O⁺₂(P₀^⊥)

o`u P0 est un 2-plan orient´e de l’espace de Hilbert r´eelH;

3. O⁺₂(H,R)/U2(HJ0), o`u HJ0 est l’espace de Hilbert complexe obtenu en munissant l’espace de Hilbert r´eel H d’une structure complexe J0, et o`u O⁺₂(H,R)est la composante connexe de l’identit´e de O2(H,R);

4. Sp2(H,H)/U2(P0), o`uP0est un sous-espace lagrangien de l’espace de Hil-bert symplectique complexe H.

Dans la suite, g d´esigne l’une des L^∗-alg`ebres simples de dimension infinie s´eparable de type compact r´ealis´ee comme sous-alg`ebre r´eelle de gl₂(H,R), o`u H est un espace de Hilbert r´eel, et G est le L<sup>∗</sup>-groupe connexe d’alg`ebre de Lieg. Soit Dune d´erivation de g, telle que l’orbite coadjointe affine de 0 dans g associ´ee soit k¨ahl´erienne. D’apr`es le th´eor`eme 2.3.13, il existe D ∈ B(H) v´erifiantD^∗ =−D tel que ∀x∈g,Dx= [D, x], et une sous-alg`ebre de Cartan h^Ccontenue dans Ker ad(D). En identifiant orbite coadjointe et orbite adjointe par le biais du produit scalaire invariant, l’orbite adjointeO^D obtenue est :

O^D={gDg⁻¹−D∈g, g∈G}

Notations 2.4.2 On notera k ⊂ g le stabilisateur de 0 et K le L^∗-groupe associ´e :

k :={x∈g,[D, x] = 0}.

D´efinition 2.4.3 On dira que l’orbite adjointe affine O^D est sym´etrique s’il existe un suppl´ementaire topologiquem dekdans ginvariant sous l’action ad-jointe deK v´erifiant :

[m,m]⊂k.

Notations 2.4.4 Dans la suite de cette section, O^D d´esignera une orbite ad-jointe affine sym´etrique de la L^∗-alg`ebre simple g. On notera g<sup>C</sup> l’alg`ebre de Lie complexifi´ee de g, k^C et m^C les complexifications de k et m, de sorte que g^Cest somme directe orthogonale dek^Cet m^C relativement au produit scalaire hermitien deg^C.

Proposition 2.4.5 Soit h^C une sous-alg`ebre de Cartan de g^C contenue dans Ker adD et

g^C=h^C⊕X

α∈R

Vα

la d´ecomposition de Cartan associ´ee, o`u Rd´esigne l’ensemble des racines non nulles deg<sup>C</sup>relativement `ah^C. Alors il existe des sous-ensemblesAetB de R tels queA ∪ B=Ret tels que :

k^C=h^C⊕P

α∈AVα, m^C=P

α∈BVα. 2Preuve de la proposition 2.4.5 :

PuisqueO^D est sym´etrique, on ag^C=k^C⊕m^Cavec :

[k^C,k^C]⊂k^C; [k^C,m^C]⊂m^C; [m^C,m^C]⊂k^C.

Soitvun vecteur non nul deVα, etv=v0+v1sa d´ecomposition selon la somme directeg^C=k^C⊕m^C. Pour touth∈h^C, on a :

[h, v] = [h, v0+v1] =α(h)(v0+v1) =α(h)v0+α(h)v1= [h, v0] + [h, v1].

Comme [h^C,k^C]⊂k^Cet [h^C,m^C]⊂m^C, il vient :

[h, v0] =α(h)v0 et [h, v1] =α(h)v1.

OrVα est de dimension 1, donc soit v0 = 0, soit v1 = 0. AinsiVα est contenu

soit dansk^Csoit dans m^C. 2

Proposition 2.4.6 Pour tout α∈ R, il existecα∈R tel que[D, eα] =icαeα. De plusc₋α=−cα.

2Preuve de la proposition 2.4.6 : Pour toutα∈ Ret touth∈h, on a :

[h,[D, eα]] = [[h, D], eα] + [D,[h, eα]] =α(h)[D, eα].

Vα´etant de dimension 1, on en d´eduit que [D, eα] est proportionnel `aeα. Puisque D v´erifieD^∗=−D, pour toutα∈ R, on a :

h[D, eα], eαi=−heα,[D, eα]i=−h[D, eα], eαi,

Ainsi il existe une constante r´eellecα telle que : [D, eα] =icαeα

D’autrepart,

[D, eα]^∗= [e^∗_α, D^∗] =−[e^∗_α, D] = [D, e^∗_α].

Ainsi :

h[D, e^∗_α], e^∗_αi=heα,[D, e^∗_α]^∗i=heα,[D, eα]i=−icα.

2 Notations 2.4.7 On note m+ (resp.m₋) le sous-espace vectoriel ferm´e de g^C engendr´e par leseα, ou αparcourt les racines telles quecα>0 (resp.cα<0).

On noteB⁺ (resp.B−) l’ensemble des racinesβ deBtelles queVβ∈m+ (resp.

Vβ ∈m₋).

D´efinition 2.4.8 Une orbiteO^D est dite irr´eductible si et seulement sim est un Ad(K)-module irr´eductible non nul.

Proposition 2.4.9 Si l’orbite O^D est irr´eductible,m+ etm₋ sont des Ad(K)-modules irr´eductibles, et il existe une constante c >0 telle que : ad(D)_|m+ = icid et ad(D)_|m₋ = −icid. En particulier le spectre de ad(D) est r´eduit `a {0, ic,−ic}.

2Preuve de la proposition2.4.9 : Pour toutk∈ket touteα∈m_±, on a :

[D,[k, eα]] = [[D, k], eα] + [k,[D, eα]] =icα[k, eα].

Ainsi : [k,m_±]⊂m_± etm_±est stable par l’action adjointe deK. Supposons que m+ se d´ecompose en deux sous-Ad(K)-modulesm1 et m2. Alors :

m₋=m^∗₁⊕m^∗₂,

etm se d´ecompose en deux sous-Ad(K)-modules, `a savoirg∩(m1⊕m^∗₁) et g∩ (m2⊕m^∗₂). L’orbiteO^D´etant irr´eductible,mest un Ad(K)-module irr´eductible.

On en d´eduit l’irr´educibilit´e dem_±. Soiteα∈m+ etc=cα : [D, eα] =iceα.

Le noyau Ker (D−ic) ´etant un sous-Ad(K)-module dem+, ad(D)_|m+ =icid.

La relationc₋α=−cαimplique que ad(D)_|m₋ =−icid. 2 D´efinition 2.4.10 Etant donn´e un ordre sur l’ensemble des racines non nulles´ Rdeg, une racine simpleφest dite de type non compact si toute racineα∈ R est de la forme :

α=± X

Ψ∈S−φ

aΨΨ, aΨ≥0, ou de la forme :

α=±(φ+ X

Ψ∈S−φ

aΨΨ), aΨ≥0.

Lemme 2.4.11 Soient O^D une orbite adjointe affine sym´etrique irr´eductible d’une L^∗-alg`ebre simple g, h<sup>C</sup> une sous-alg`ebre de Cartan de g^C contenue dans

Ker adD et

g^C=h^C⊕X

α∈A

Vα⊕X

β∈B

Vβ

la d´ecomposition deg^C correspondante, avec : k^C=h^C⊕X

α∈A

Vα, etm^C=X

β∈B

Vβ.

Pour tout ordre R=R⁺∪ R− sur l’ensemble des racines, il existe une unique racine simple appartenant `aB.

MPreuve du lemme2.4.11 :

Soit {φi,Ψj}ⁱ∈I,j∈J l’ensemble des racines simples avecφi ∈ A et Ψj ∈ B. Supposons J vide. La relation [k^C,k^C] ⊂ k^C implique que toutes les racines positives appartiennent `a A et m = {0}, ce qui contredit le fait que m est un Ad(K)-module irr´eductible non nul. Soitβ une racine simple appartenant

`

a B. L’espace vectoriel ferm´e engendr´e par l’action adjointe de k sur eβ est un Ad(K)-module irr´eductible non nul de m. Puisque l’orbite est irr´eductible,

ad(k)(Vβ) =m+ oum₋. M

Lemme 2.4.12 Soit β la racine simple appartenant `a B. Il existe une suite croissante de syst`emes finis ind´ecomposablesNⁿ de racines degtelle que :

1. R=∪n∈N∗Nⁿ;

2. les alg`ebres de Liegn de dimensions finies engendr´ees parN<sup>n</sup> sont toutes de mˆeme type A, B, C, ou D et gest l’adh´erence de l’union desgn; 3. β est une racine de type non-compact pour chaque alg`ebregn pour l’ordre

induit par l’ordre sur R. MPreuve du lemme2.4.12 :

Soit {α1, . . . , αn, . . .} une num´erotation des racines appartenant `a A. Posons Fn={α1, . . . , αn}. On construit par r´ecurrence une suite croissante de syst`emes finis ind´ecomposablesNⁿcomme suit. D’apr`es la proposition 2.2.47, il existe un syst`eme fini ind´ecomposableN¹ contenant{β} ∪F1. Supposons que Nⁿ−1soit construit, il existe un syst`eme fini ind´ecomposable N<sup>n</sup> contenant Fn ∪ N<sup>n</sup>−1. Puisque toute racine deB est somme de β et de racines de A (´eventuellement en nombre infini),R=∪<sup>n</sup>∈N∗N<sup>n</sup>. La suite{gn}<sup>n</sup>∈N∗ de sous-alg`ebres simples de dimensions finies engendr´ees par les syst`emesN<sup>n</sup> est une suite croissante telle que g =∪<sup>n</sup>∈N∗gn. Puisqu’il n’existe que 9 types d’alg`ebres de Lie simples de dimension finie, au moins un des types est pris une infinit´e de fois. Puisque g est de dimension infinie et que seuls les types A, B, C, ou D correspondent `a des alg`ebres de Lie de dimensions arbitraires, au moins un des type A, B, C, ou D est pris une infinit´e de fois. Il existe donc une sous-suiteN^nk deNⁿ telle que les alg`ebresgnk soient toutes de mˆeme type A, B, C, ou D.

SoitS^nkl’ensemble des racines simples degnk pour l’ordre induit par l’ordre sur R. Pour toute racine positive γ de Nⁿk il existe une suite finie {γi, i = 1, . . . , k}de racines deSⁿk telle que :

γ=γ1+γ2+· · ·+γk,

et telle que les sommes partielles γ1+· · ·+γj, 1 ≤j ≤k, soient des racines ([Bou]). Ainsi l’espace vectorielVγ est engendr´e par :

v= [eγk,[eγ_k−1,[eγ_k−2, . . . ,[eγ2, eγ1]. . .]]].

L’orbite ´etant irr´eductible, [D, eβ] =δβiceβavecδβ= +1 (resp.−1) siVβ⊂m+

(resp.m₋). Ainsi :

[D, v] = card({i, γi=β})δβicv.

Puisque ad(k^C) pr´eserve k^C, m+ et m₋, on en d´eduit que pour γ ∈ A ∩ R⁺, card({i, αi=β}) = 0 et pourγ∈ B∩R⁺, card({i, αi=β}) = 1. Par cons´equent

β est de type non-compact. M

Corollaire 2.4.13 Soit O = G/K une orbite coadjointe affine hermitienne sym´etrique irr´eductible d’un L^∗-groupe G, et g = k⊕m la d´ecomposition de Cartan associ´ee o`ugetkd´esigne respectivement les alg`ebres de Lie deGetK.

Alors il existe une suite croissante{gn}ⁿ∈Nde sous-alg`ebres de Lie de dimension finie degde mˆeme type A, B, C ou D et une suite croissante{kn}n∈N de sous-alg`ebres de Lie dektelles que :

1. g=∪gn

2. k=∪kn

3. Pour toutn∈N, l’orthogonalmn de kn dansgn v´erifie : [kn,mn]⊂mn [mn,mn]⊂kn, de sorte que(gn,kn)est une paire sym´etrique.

4. les orbites coadjointesOⁿ:=Gn/Kn o`uGn estKn sont les sous-groupes de Lie de G d’alg`ebres de Lie gn et kn respectivement, forme une suite croissante d’orbites hermitiennes sym´etriques irr´eductibles telle queO =

∪Oⁿ.

Ainsi, pour classifier les orbites coadjointes affines des L^∗-groupes simples de type compact, il suffit de connaˆıtre les racines simples de type non-compact des alg`ebres de Lie simples de dimension finie. Une racine simple d’une alg`ebre de Lie simple de dimension finie est de type non-compact si elle apparaˆıt avec un coefficient +1 dans l’´ecriture de la plus grande racine. La liste des racines non-compactes des alg´ebres de Lie simples de type A, B, C, ou D de dimension finie est donn´ee dans le tableau 2.2 ([Lie] ou [Wol2]).

Preuve du th´eor`eme2.4.1 :

Cette classification r´esulte directement du tableau 2.2 et du fait que toute racine de type non-compact φ d´etermine une paire sym´etrique (g,k) o`u k est la L<sup>∗</sup> -alg`ebre dont le diagramme de Dynkin est obtenu en supprimantφdu diagramme de Dynkin deg(k est l’orthogonal de l’espace vectoriel ferm´e engendr´e par les

eφ+α).

2.4.3 Description des orbites coadjointes affines