Semaine 4 (séances 18 et 19/10)

(1)

III. C-ALG` EBRES DE LIE SEMI-SIMPLES (SUITE)

S ´ EANCES DU 18 ET 19/10

(5) Un ajout dans le paragraphe 8.1. Au d´ebut du paragraphe 8.1, il faut ajouter avant la d´efinition 8.17 le paragraphe ci-dessous.

On note hR le sous-R-espace vectoriel de h engendré par les hα, pour α ∈ R. Comme R engendre h^∗, on peut choisir des racines α1, . . . , α` formant une C-base de h^∗. Notons h1, . . . , h` les éléments correspondants de hR. Ils forment une C-base de h, et d’après le lemme suivant ils forment uneR-base dehR, d’où l’égalité dimRhR= dimCh=`.

Lemme. — Pour toutβ∈R,hβ s’´ecrit de fa¸con unique hβ=

X` i=1

cβ,ihi

avec lescβ,i∈Q(donc a fortiori dans R).

Démonstration. — Fixons β ∈ R. Pour j = 1, . . . , `, on note Hj = Hα_j, c.-à-d., Hj = αj(Hj)hj/2. Alors les cβ,i, a priori dansC, sont solutions du système suivant, où K est la forme de Killing :

(∗) ∀j= 1, . . . , `, X` i=1

K(hi,Hj)cβ,i= K(hβ,Hj) =αj(hβ)∈Z.

La matrice

(K(hi,Hj))i,j=1,...,`

est à coefficients dans Z (donc a fortiori dans Q) puisque K(hi,Hj) = αj(hi) ∈ Z par le théorème d’intégralité ; de plus, comme Hj= (αj(Hj)/2)hj, le déterminant de cette matrice est un multiple non nul du déterminant D de la matrice

(K(hi, hj))i,j=1,...,`,

et D6= 0 puisque la restriction de K àh est non-dégénérée. Donc (cβ,i)i=1,...,` est l’unique solution du système (∗), et comme ce dernier est à coefficients dansZ, la solution est dansQ^`. Ceci prouve que chaquecβ,i ∈Q, d’où le lemme, et le résultat que hR est engendré comme R-espace vectoriel par uneC-base deh.

Pour une autre d´emonstration, voir [BL4-6,§VI.1, Prop. 1].

(5)version du 26/10, avec une note ajout´ee dans la preuve du Th. 11.8.

(2)

11. Groupe de Weyl et classification des syst`emes de racines

Dans le paragraphe 10.3, on a donné la liste des diagrammes de Dynkin, anticipant la fin de la classification des systèmes de racines. Pour terminer cette classification, il reste à voir les points suivants.

(1) Soit R un système de racines. Le diagramme de Dynkin D(R) (ainsi que le graphe de CoxeterC(R)) ne dépend pas de la base de R choisie. Pour cela, on introduit le groupe de Weyl de R et l’on montre que toutes les bases de R sont conjuguées par W. Ceci est l’objet de cette section, dans laquelle on montre également que R est déterminé, à isomorphisme près, par son diagramme de Dynkin.

(2) D’autre part, d’après la classification des graphes admissibles obtenue en 10.2, les seuls diagrammes de Dynkin possibles sont ceux listés en 10.3. Il reste donc à montrer que chacun de ces diagrammes est effectivement le diagramme d’un système de racines R (nécessairement unique, d’après (1) ci-dessus).

Plutôt que de construire abstraitement les systèmes de racines, on construira dans la section suivante les C-algèbres de Lie simples«classiques», dont les systèmes de racines sont A_n, B_n, C_n, D_n, et l’on énoncera l’existence des cinq algèbres exceptionnelles de type E₆,E₇,E₈, F₄ et G₂.

Pour plus de d´etails sur les syst`emes de racines, on renvoie au livre de Serre [Se, Ch. V, § §10–11 & 16] ou celui de Humphreys [Hu,§ §10–12], voir aussi [BL4-6, Planches I–IX].

11.1. Groupe de Weyl et conjugaison des bases. — Soit R un syst`eme de racines dans V, un R-espace vectoriel euclidien de dimension finie.

Définition 11.1(Automorphismes deR). — Soit A(R) le groupe des automorphismes de R (cf. D´efinition 9.3), c.-`a-d.,

A(R) ={g∈GL(V)|gR = R}.

Comme R engendre V, alors A(R) s’identifie `a un sous-groupe du groupe des permutations de R ; c’est donc un groupe fini. D’apr`es l’axiome (R2), on a s_α∈A(R) pour toutα∈R.

Définition 11.2(Groupe de Weyl). — On appelle groupe de Weyl de R et on note W(R) ou simplement W, le sous-groupe de A(R) engendr´e par les r´e- flexions s_α, pour α∈R.

Définition 11.3. — Une base ∆ de R étant fixée, on note R⁺ l’ensemble des racines qui sont somme d’éléments de ∆, et R⁻ = −R⁺. Les éléments de ∆ sont appelés les racines simples, ceux de R⁺ et R⁻ les racines positives et négatives.

(3)

11. GROUPE DE WEYL ET CLASSIFICATION DES SYST`EMES DE RACINES 75

On pose

ρ= 1 2

X

β∈R⁺

β.

Notation 11.4. — Si α est une racine, on ´ecrira parfois α > 0 pour dire que α∈R⁺, et de mˆemeα <0 pour dire queα∈R⁻.

Lemme 11.5. — Soit α∈∆. Alors : 1)s_α laisse stableR⁺\ {α}.

2)On a s_α(ρ) =ρ−α, et donc (ρ, α^∨) = 1.

D´emonstration. — 1) Soit γ ∈ R⁺ \ {α}. On a γ = P

β∈∆ m_ββ, avec les m_β ∈N, et commeγ 6=α, il existeβ 6=α tel quem_β >1. Comme

s_α(γ) =γ−(γ, α^∨),

le coefficient de β dans s_α(γ) est inchangé, donc égal à m_β >1. Donc s_α(γ) est une racine positive, distincte deα. Ceci prouve le point 1), et le point 2) en résulte.

Notation 11.6. — Pour toutα∈R, on noteH_α l’hyperplan orthogonal `aα : H_α={λ∈V|(λ, α) = 0}.

(Comme H_α =H_−α, on peut se limiter à considérer α∈ R⁺.) On note V_rég (cf. 9.8) le complémentaire de la réunion desH_α, c.-à-d.,

V_r´eg= V\ S

α∈R

H_α={λ∈V|(λ, α)6= 0, ∀α∈R}.

Définition 11.7(Chambres de Weyl). — Les composantes connexes de V_r´eg s’appellent les chambres de Weyl. (Par exemple, en rang 2, ce sont des cˆones ouverts triangulaires.)

La base ∆ de R ´etant fix´ee, on pose

C := C⁺(∆) ={y∈V_r´eg|(y, α)>0, ∀α∈∆}.

On l’appelle la chambre de Weyl dominante (ou positive) associée à ∆. Réci- proquement, avec la notation de 9.8, on a :

∀y∈C⁺(∆), ∆(y) = ∆.

On rappelle que toute base de R est de la forme ∆(y), pour un certain y∈V_rég (théorème 9.12).

Théorème 11.8(Les bases deRsont conjugées). — Soit ∆une base de R.

(1) Pour tout t ∈ V_r´eg, il existe w ∈ W tel que w(t) ∈ C := C⁺(∆). Par cons´equent, W agit transitivement sur l’ensemble des bases de R.

(2) Pour tout α∈R, il existe w∈W tel quew(α)∈∆.

(3) W est engendr´e par les r´eflexions s_α, α∈∆.

(4)

D´emonstration. — Soit W⁰ le sous-groupe de W engendr´e par les s_α,α ∈∆.

Nous allons d’abord d´emontrer (1)–(2) pour W⁰, puis en d´eduire que W⁰ = W.

Soit t∈V_r´eg, et soit w∈W tel que (w(t), ρ) soit maximum (c’est possible puisque W est fini). Alors, pour tout α∈∆ on a

(w(t), ρ)>(s_αw(t), ρ) = (w(t), s_αρ) = (w(t), ρ)−(w(t), α).

On en d´eduit que (w(t), α) est> 0, et en fait >0 puisque w(t) est r´egulier.

Donc w(t)∈C. Alors, ∆(w(t)) = ∆, et l’on en d´eduit que

∆(t) =w⁻¹∆ ={w⁻¹(α)|α ∈∆}.

Ceci prouve (1).

Prouvons (2). Soitβ ∈R⁺, alorsβ =P

α∈∆n_αα, avec lesn_α ∈N. Montrons par r´ecurrence sur

X

α

n_α, appel´e la hauteurde β,

qu’il existe w ∈ W⁰ tel que w⁰(β) ∈ ∆. D’abord, il existe α₀ ∈ ∆ tel que (β, α^∨₀)>0, car sinon on aurait (β, β)60, impossible. Siβ =α₀, c’est gagn´e ; sinon

s_α₀(β) =β−(β, α^∨₀)α₀

est une racine positive de hauteur < à celle de β, et donc par hypothèse de récurrence il existe w⁰ ∈W⁰ tel quew⁰s_α₀(β)∈∆. L’assertion (2) en découle.

(3) Montrons que W⁰ = W. Par définition, W est engendré par less_β, pour β ∈R. Comme s_β =s_−β, on peut se limiter à β ∈R⁺. D’après (2), il existe w∈W⁰ tel quew(β) =α∈∆. Or, pour tout σ ∈W, on voit facilement que

σs_βσ⁻¹ =s_σ(β).⁽⁶⁾

Par conséquent, s_β égale w⁻¹s_αw donc appartient à W⁰. Il en résulte que W = W⁰. Le théorème est démontré.

Corollaire 11.9. — Le graphe de Coxeter C(R) et le diagramme de Dynkin D(R) ne d´ependent que de R.

Démonstration. — Soit ∆⁰ une autre base de R. D’après le théorème précé- dent, il existe w ∈ W tel que ∆⁰ = w(∆). Comme w préserve le produit scalaire, on a

w(α^∨) =w(α)^∨ et (w(β), w(α)^∨) = (β, α^∨), ∀α, β∈∆.

Il en résulte que ∆ et ∆⁰définissent les mêmes graphe de Coxeter et diagramme de Dynkin.

(6)C’est vrai, plus g´en´eralement, pour tout σ ∈ A(R), cf. [Hu, Lemma 9.2] ; voir aussi [BL4-6,§VI.1] Lemme 1 et Proposition 16.

(5)

11. GROUPE DE WEYL ET CLASSIFICATION DES SYST`EMES DE RACINES 77

11.2. Isomorphismes de systèmes de racines. — Dans ce paragraphe, on va montrer qu’un système de racines R est entièremement déterminé par son diagramme de Dynkin. Plus précisément, on a le théorème suivant.

Théorème 11.10. — Soit R⁰ un syst`eme de racines dans un espace euclidien V⁰, soit∆⁰ une base deR⁰, et supposons donn´ee une bijectionφ: ∆→∆⁰ telle que

(φ(α), φ(β)^∨) = (α, β^∨) ∀α, β ∈∆;

(c.-`a-d., φ est un isomorphisme entre les diagrammes de Dynkin).

Comme ∆, resp.∆⁰ est une base de V, resp.V⁰, alorsφ se prolonge en un isomorphisme lin´eaire V−→^∼ V⁰, encore not´e φ. Alors

φ(R) = R⁰ et donc R et R⁰ sont isomorphes.

D´emonstration. — Soient α, β∈∆. Alors

(s_φ(α)◦φ)(β) =s_φ(α)(φ(β)) =φ(β)−(φ(β), φ(α)^∨)φ(α), et

(φ◦s_α)(β) =φ(β−(β, α^∨)α) =φ(β)−(β, α^∨)φ(α).

Comme (φ(β), φ(α)^∨) = (β, α^∨), ces deux expressions sont ´egales, et comme

∆ engendre V on en d´eduit que

s_φ(α)=φ◦s_α◦φ⁻¹, ∀α∈∆.

Comme, d’après 11.8, W (resp. W⁰) est engendré par less_α (resp.s_φ(α)), pour α∈∆, il en résulte que l’application

w7→φ◦w◦φ⁻¹

induit un isomorphisme W −→^∼ W⁰. Enfin, comme R = W∆ et R⁰ = W⁰∆⁰, d’après 11.8 à nouveau, on en tire queφ(R) = R⁰. Ceci prouve le théorème.

11.3. Fin de la classification des systèmes de racines. — Soit R un système de racines. On a vu que le diagramme de Dynkin D(R) est bien défini (c.-à-d., indépendant du choix d’une base) et détermine R. D’autre part, on a la proposition suivante.

Proposition 11.11. — Soient R et R⁰ des systèmes de racines dans V et V⁰. Alors Rt R⁰ (réunion disjointe) est un système de racine dans la somme directe orthogonale

VL^⊥ V⁰,

et son diagramme de Dynkin est la r´eunion disjointe de D(R) et D(R⁰).

(6)

Démonstration. — On vérifie facilement que RtR⁰ est un système de racines et que, si ∆, resp. ∆⁰ est une base de R, resp. R⁰, alors

∆t∆⁰ est une base de RtR⁰.

Comme (α, β) = 0 pour tout α ∈∆, β ∈ ∆⁰, il en r´esulte que le diagramme de Dynkin de RtR⁰ est la r´eunion disjointe de D(R) et D(R⁰).

Notation 11.12. — On dit que RtR⁰ est lasomme directede R et R⁰. Pour plus de d´etails, voir [BL4-6, VI.1.2 ] ou [Hu, 10.4 & 11.3].

Par conséquent, pour terminer la classification des systèmes de racines, il suffit de montrer que chacun des diagrammes connexes énumérés au paragraphe 10.3 est effectivement le diagramme de Dynkin d’un système de racines.

Pour A_n, B_n, C_n, D_n, on va voir cela dans la section suivante. D’autre part, on a déjà vu (§9.2) le système de racines G₂ de rang 2. Avec les notations du

§9.2, les racines suivantes

α= 1, β =√

3 exp(i5π/6) = −3 2 +i

√3 2 forment une base de G₂. On a

(β, α^∨) = 2(β, α) =−3,

et donc le diagramme de Dynkin associ´e est bien celui de type G₂.

Enfin, pour les syst`emes de racines de type E₆,E₇,E₈ et F₄, on renvoie `a [BL4-6, Planches I–IX].

12. Classification des C-alg`ebres de Lie semi-simples 12.1. Sous-alg`ebres de Cartan. —

Définition 12.1. — Soient g une alg`ebre de Lie, hune sous-alg`ebre de Lie. Le normalisateurde hdansg est

N_g(h) ={x∈g|[x,h]⊆h}.

Il résulte de l’identité de Jacobi que N_g(h) est une sous-algèbre de Lie, et il est clair quehest un idéal de N_g(h).

SoitguneC-algèbre de Lie semi-simple de dimension finie, et soithune sous- algèbre torale maximale. On a vu quehest abélienne (Proposition 8.4), et égale

à son centralisateur (Théorème 8.7). De plus, il résulte de la décomposition g=hL M

α∈R

g_α que

h= N_gh.

(7)

12. CLASSIFICATION DES C-ALG`EBRES DE LIE SEMI-SIMPLES 79

En effet, supposons que x ∈ N_g(h) ait une composante x_α non nulle. Alors, pour tout h ∈ h, [h, x] appartient à h et a pour composante α(h)x_α sur g_α. Choisissanth tel queα(h)6= 0, on obtient une contradiction. Par conséquent, hest unesous-algèbre de Cartan deg au sens de la définition suivante.

Définition 12.2(Sous-algèbres de Cartan). — Une sous-alg`ebre de Cartan deg est une sous-alg`ebre de Lie atelle que : 1) a est nilpotente, 2)a= N_g(a).

Définition 12.3. — Le groupe des automorphismes deg est

Aut(g) ={g∈GL(g)|[gX, gY] =g([X,Y]), ∀X,Y ∈g}.

Remarque 12.4. — Posonsn= dim_Cg. Alors Aut(g) est un sous-groupealgé- brique de GL(g) = GL_n(C), c.-à-d., défini par des équations polynomiales.

En effet, soit (X₁, . . . ,X_n) une base deg. Posons, pour r, s= 1, . . . , n, [X_r,X_s] =

Xn

t=1

c^r,s_t X_t.

(Lesc^r,s_t s’appellent les constantes de structure du crochet de Lie, dans la base (X₁, . . . ,X_n).) Soit g = (g_ij) ∈GL_n(C). Alors g ∈ Aut(g) si et seulement si, pour toutr, son a :

[gX_r, gX_s] = Xn

t=1

c^r,s_t gX_t, et ceci ´equivaut `a :

∀r, s, k X

i,j

g_irg_jsc^i,j_k =X

t

c^r,s_t g_kt.

Théorème 12.5(Conjugaison des sous-algèbres de Cartan)

Toutes les sous-alg`ebres de Cartan de g sont conjugu´ees par Aut(g).

Démonstration. — On renvoie au livre de Serre : [Se,§III.4]. En fait, ce théo- rème est valable pourtoute C-algèbre de Lie de dimension finie (pas nécessai- rement semi-simple).

Dans notre cas, o`u g est semi-simple, on obtient le corollaire suivant.

Corollaire 12.6. — SoitguneC-alg`ebre de Lie semi-simple de dimension finie.

Alors une sous-algèbre de Cartan est la même chose qu’une sous-algèbre torale maximale.

Démonstration. — On a vu que toute sous-algèbre torale maximale est une sous-algèbre de Cartan. Comme ces dernières sont toutes conjuguées par Aut(g), le corollaire en découle.

(8)

12.2. Le système de racines de g. — Soit g une C-algèbre de Lie semi- simple, et soit h une sous-algèbre torale maximale, c.-à-d., d’après le paragraphe précédent, une sous-algèbre de Cartan de g. On a vu (§8.2) que les poids non nuls de h dans g forment un système de racines R = R(g,h) dans h^∗_R, où h^∗_R désigne le sous-R-espace vectoriel de h^∗ engendré par R.

A isomorphisme près, ce système de racines ne dépend pas du choix de` h, d’après la proposition suivante.

Proposition 12.7. — R(g,h) ne dépend pas, à isomorphisme près, du choix de h. On dira que c’est le système de racines deg.

Démonstration. — Soit h⁰ une autre sous-algèbre de Cartan de g. D’après le théorème 12.5, il existeg∈Aut(g) tel que g(h) =h⁰.

Soientα∈R(g,h) et x∈g_α non nul. Alors, pour touth⁰=g(h)∈h⁰ on a : [h⁰, g(x)] =g([h, x]) =α(h)g(x) = (α◦^tg⁻¹)(h⁰)g(x).

Ceci montre que α◦^tg⁻¹ est un poids, non nul, deh⁰ dans g. On montre de même que, pour toutα⁰ ∈R(g,h⁰),α⁰◦^tg est un poids non nul dehdansg. Il en résulte que l’isomorphismeC-linéaire

tg⁻¹ :h^∗−→^∼ h^0∗

applique bijectivement R := R(g,h) sur R⁰ := R(g,h⁰) (et donc h^∗_R sur h^0∗_R).

Ceci montre que les syst`emes de racines R et R⁰ sont isomorphes (cf. D´efinition 9.3).

12.3. Théorème d’existence et d’unicité. — Soient g une C-algèbre de Lie semi-simple, h une sous-algèbre de Cartan, R = R(g,h) le système de racines deg. Soit

∆ ={α₁, . . . , α_n}

une base de R. Pour i= 1, . . . , n, soite_i 6= 0 dans g_α_i, et soit h_i l’élément de hcorrespondant àα^∨_i, c.-à-d., l’unique élémenth_i ∈htel que

α_j(h_i) = (α_j, α^∨_i), ∀j= 1, . . . , n.

Enfin, soit f_i l’unique ´el´ement de g_−α_i tel que [e_i, f_i] = h_i (cf. 8.14). Alors, (h₁, . . . , h_n) est une base de h, et l’on a les relations suivantes, pour touti, j : (1) [h_i, h_j] = 0, [h_i, e_j] = (α_j, α^∨_i)e_j, [h_i, f_j] =−(α_j, α^∨_i)f_j,

(2) [e_i, f_j] =δ_i,jh_i,

(3) sii6=j, (ade_i)^−(α^j^,α^∨ⁱ⁾⁺¹(e_j) = 0 = (adf_i)^−(α^j^,α^∨ⁱ⁾⁺¹(f_j).

En effet, soient i 6= j. Alors α_i −α_j 6∈ R∪ {0}, d’o`u g_α_i_−α_j = 0 et donc [e_i, f_j] = 0, ce qui prouve (2).

(9)

Alors, consid´erantg comme unsl_α_i-module (pour l’action adjointe), f_j est un vecteur non nul deg annul´e par ade_i et de poids

n:=−α_j(h_i) =−(α_j, α^∨_i)∈N pour adh_i; par conséquent, d’après le théorème 1.48, on a :

0 = (adf_i)ⁿ⁺¹(f_j) = (adf_i)^1−(α^j^,α^∨ⁱ⁾(f_j).

Ceci prouve la seconde partie de 3). La première s’en déduit, en utilisant l’automorphisme θde sl₂ qui échangeeet f et changeh en −h.

Théorème 12.8. — 1)g est isomorphe à la C-algèbre de Lie définie par3ngé- nérateurs (h_i, e_i, f_i)_i=1,...,n soumis aux relations (1)–(3) ci-dessus. Par consé- quent, g est déterminée, à isomorphisme près, par son système de racines R.

2)Réciproquement, soientRun système de racines arbitraire et∆une base de R. Alors la C-algèbre de Lie g définie par 3n générateurs (h_i, e_i, f_i)_i=1,...,n soumis aux relations (1)–(3) est semi-simple ; les h_i forment une base d’une sous-algèbre de Cartanh, et l’on aR(g,h) = R.

3)De plus, les idéaux simples de gcorrespondent aux composantes connexes de D(R). Par conséquent, lesC-algèbres de Lie simples sont en bijection avec les diagrammes de Dynkin connexes, à savoir :

A_n, B_n, C_n, D_n, E₆, E₇, E₈, F₄, G₂.

Démonstration. — Pour la démonstration, on renvoie à [Se, Chap. VI] ou [Hu,§18].

On va d´ecrire plus bas les C-alg`ebres de Lie simples «classiques», correspondant aux diagrammes de type A–D.

12.4. Type A_n−1 =sl_n(C). — Les matrices

E_i,j pouri6=j et H_i = E_i,i−E_i+1,i+1, pour i= 1, . . . , n−1 forment une base de g = sl_n; les secondes forment une base de h, la sous- alg`ebre des matrices diagonales desl_n. Introduisons aussibh, l’alg`ebre des matrices diagonales dansgl_n. Alors (E_1,1, . . . ,E_n,n) est une base debh; soit

(bε₁, . . . ,εb_n)

la base duale, c.-à-d., chaqueεb_iest la forme linéaire qui associe à toute matrice diagonale son i-ème coefficient diagonal. Pour toutbh∈bhet tout i6=j, on a

[bh,E_i,j] = (bε_i−bε_j)(bh) E_i,j.

Notonsε_i la restriction deεb_i `ah. Alors, de la d´ecomposition

(1) g=hL M

i6=j

CE_i,j

(10)

on d´eduit quehest une sous-alg`ebre de Cartan et que les racines sont les ε_i−ε_j, pour 16i6=j 6n.

On munit bh^∗ du produit scalaire pour lequel (bε₁, . . . ,εb_n) est une base ortho- normale. Alors, pour touti6=j, la réflexion orthogonales_i,j associée à εb_i−bε_j

échange εb_i et εb_j, et vérifie s_i,j(ε_k) = ε_k pour k 6= i, j, et le groupe engendré est le groupe symétrique W = S_n, agissant par permutation desεb_i.

Alors,h^∗ s’identifie `a l’orthogonal deεb₁+· · ·+εb_n(qui est stable par W) et R ={ε_i−ε_j |i6=j}

est un syst`eme de racines dansh^∗. Posons

α_i =ε_i−ε_i+1 pour i= 1, . . . , n−1.

Alors ∆ ={α₁, . . . , α_n−1}est une base de R, pour laquelle les racines positives sont lesε_i−ε_j, aveci < j. En effet, c’est une base deh^∗, et pouri < j l’on a :

ε_i−ε_j = Xj−1

k=i

α_k. Chaque β∈R est de norme √

2 , donc ´egale `a β^∨, et pour i < j l’on a (α_i, α^∨_j) = (α_i, α_j) =

(−1 sij=i+ 1;

0 sinon.

Ceci montre que le diagramme de Dynkin associ´e est de type A_n−1.

Enfin, `a titre de v´erification, il y an(n−1)/2 racines positives, et (1) redonne bien la dimension connue :

dimg=n−1 + 2n(n−1)

2 = (n−1)(n+ 1) =n²−1,

12.5. Types B et D : groupes orthogonaux. — Soit φ une forme bili- néaire symétrique non dégénérée sur C^N et soit J sa matrice dans la base standard (e₁, . . . , e_N). Alors, pour

X = XN

i=1

x_ie_i, Y = XN

i=1

x_ie_i, on a, en notation matricielle,

φ(X,Y) =^tXJY et φ(AX,AY) =^tX (^tAJA) Y

pour tout A ∈ GL_N(C). Alors le groupe orthogonal de φ, formé des A ∈ GL_N(C) qui préserventφ, est égal à :

(∗) O(φ) ={A∈GL_N(C)|^tAJA = J}.

(11)

Il sera montré dans le cours Groupes algébriques et groupes de LieI, que l’al- gèbre de Lie de O(φ) est obtenue en dérivant en A = id l’égalité ^tAJA = J ; c.-à-d., l’algèbre de Lie de O(φ) est :

(∗∗) so(φ) =so(J) ={A∈M_n(C)|^tAJ + JA = 0}.

Pour le moment, prenons ceci commedéfinition deso(φ). On vérifie facilement que c’est une sous-algèbre de Lie de M_n(C).

Comme J est symétrique, la condition ^tAJ + JA = 0 équivaut à dire que la matrice JA est antisymétrique, et comme J est inversible on obtient que so(φ) = J⁻¹AS_N(C), où AS_N(C) désigne le sous-espace des matrices antisy- métriques. Donc

(∗∗∗). dimso(φ) = N(N−1)

2 .

De plus, les ´egalit´es A =−J⁻¹(^tA)J et Tr(^tA) = Tr(A) entraˆınent que

∀A∈so(φ), Tr(A) = 0, et donc so(φ)⊆sl_N(C),

ce qui justifie la notation so(φ). Enfin, comme C est algébriquement clos, toutes les formes bilinéaires symétriques non dégénérées sont équivalentes. Les algèbres de Lie so(φ) obtenues sont donc toutes isomorphes, et par abus de notation l’on désignera par

so_N=so_N(C)

l’une quelconque d’entre elles, correspondant `a un J arbitrairement choisi.

On pourrait prendre

J = id, qui correspond `a φ(X,Y) = XN

i=1

X_iY_i, c.-`a-d., `a la forme quadratique Q(X) = φ(X,X) = P_N

i=1X²_i. Mais il est plus commode de prendre pour J la matrice ayant des 1 sur la 2`eme diagonale et des 0 partout ailleurs, c.-`a-d.,

J :=







0· · · 0 1 0· · · 1 0 ... ... 1 0 · · ·0





.

Alors J⁻¹= J et pour tout A∈GL(2n,C), l’on a :

(†) J^tA J est la«symétrique de A par rapport à la 2ème diagonale».

Ecrivons N = 2n´ ou 2n+1, selon la parit´e de N. (Explicitement,nest le plus petit entier > (N−1)/2.) Il est commode d’introduire la notation suivante.

On pose, pour tout entier i6n:

i= N + 1−i.

(12)

Avec cette notation, la base standard deC^N est not´ee : (e₁, . . . , e_n, e_n, . . . , e₁) si N = 2n;

(e₁, . . . , e_n, e_n+1, e_n, . . . , e₁) si N = 2n+ 1.

Posons g = so_N et soit h la sous-alg`ebre des matrices diagonales dans g. On d´eduit de (†) que les matrices :

(1) H_i= E_i,i−E_{i, i}, i= 1, . . . , n;

forment une base deh. Notons

(ε₁, . . . , ε_n) la base duale deh^∗, c.-`a-d.,

(?) ∀h=

Xn

i=1

x_iH_i ∈h, ε_i(h) =x_i.

De plus, on d´eduit de (†) que, avec les H_i, les matrices suivantes forment une base deg :

(2)

½ X_ε_i_−ε_j := E_i,j−E_{j, i},

Y_−(ε_i_−ε_j₎:= E_j,i−E_{i, j}, 16i < j 6n;

(3)

½ X_ε_i_+ε_j := E_{i, j}−E_{j, i},

Y_−(ε_i_+ε_j₎:= E_{j, i}−E_{i, j}, 16i < j 6n;

(4) et, si N = 2n+ 1,

½ X_ε_i := E_i,n+1−E_{n+1, i},

Y_−ε_i := E_n+1,i−E_{i, n+1}, i= 1, . . . , n.

On v´erifie que chaque X_α, resp. Y_−α, est de poidsα, resp.−α, par exemple : [h,E_i,j−E_{j, i}] = (x_i−x_j)E_i,j+ (x_j −x_i)E_{j, i}= (x_i−x_j)

³

E_i,j−E_{j, i}

´ . Désignant parn⁺, resp.n⁻, le sous-espace des matrices A∈g qui sont triangulaires supérieures (resp. inférieures) avec des 0 sur la diagonale, on obtient que les X_α, resp. les Y_−α, forment une base de n⁺, resp.n⁻, et que cette dé- composition

R = R⁺tR⁻ correspond au choix de la base de R suivante.

(13)

12.5.1. Cas de so_2n(C). — Dans ce cas, on pose

α_i =ε_i−ε_i+1 pour i= 1, . . . , n−1;

α_n=ε_n−1+ε_n.

Alors, ∆ = {α₁, . . . , α_n} est une base de R ; les racines positives correspon- dantes sont les :

ε_i−ε_j =P_j−1

k=iα_k, pour 16i < j6n;

ε_i+ε_n=α_n+P_n−2

k=i α_k, pour 16i6n−1;

ε_i+ε_j =α_n+α_n−1+ 2P_n−2

k=j α_k+P_j−1

k=iα_k, pour 16i < j6n−1.

Comme en type A, chaqueβ ∈R est de norme√

2 , donc ´egale `aβ^∨, et pour i < j l’on a

(α_i, α^∨_j) = (α_i, α_j) = (

−1 sij=i+ 1 ou sij=n eti=n−2;

0 sinon.

Ceci montre que le diagramme de Dynkin associ´e est de type D_n.

Enfin, à titre de vérification, il y a n(n−1) racines positives, et la base donnée par (1)–(3) redonne bien la dimension déjà calculée :

dimg=n+ 2n(n−1) =n(2n−1) = 2n(2n−1)

2 .

12.5.2. Cas de so_2n+1(C). — Dans ce cas, on pose

α_i =ε_i−ε_i+1 pour i= 1, . . . , n−1;

α_n=ε_n.

k=iα_k, pour 16i < j 6n;

ε_i =P_n

k=iα_k, pour 16i6n;

ε_i+ε_j =P_j−1

k=iα_k+ 2P_n

k=jα_k, pour 16i < j 6n.

Cette fois, chaque racine β =ε_i±ε_j est de norme√

2 , donc égale à β^∨; par contre, pour α=ε_i on a α^∨ = 2α. Il en résulte que l’on a, pouri < j :

(α_i, α^∨_j) =







−2 sij =neti=j−1;

−1 sij < n eti=j−1;

0 sinon.

Ceci montre que le diagramme de Dynkin associ´e est de type B_n.

Enfin, à titre de vérification, il y a n(n−1) +n=n² racines positives, et la base donnée par (1)–(4) redonne bien la dimension déjà calculée :

dimg=n+ 2n² =n(2n+ 1) = (2n+ 1)2n

2 .

(14)

12.6. Type C : groupes symplectiques. — Soit φ une forme bilinéaire antisymétrique non dégénérée sur C^N. Alors, nécessairement, N = 2n et, comme toutes les formes symplectiques sont équivalentes, on peut supposer que la matrice de φdans la base (e₁, . . . , e_2n) est

J =

µ0−S S 0

¶ ,

où S ∈ GL_n(C) est la matrice ayant des 1 sur la 2ème diagonale et des 0 partout ailleurs. C.-à-d., pour i= 1, . . . , n, posanti= 2n+ 1−i, on a :

φ(e_i, e_i) = 1 =−φ(e_i, e_i)

etφ(e_i, e_j) = 0 sij6=i. Alors le groupe symplectique, formé des A∈GL_2n(C) qui préservent φ, est égal à :

(∗) SP(2n) ={A∈GL_2n(C)|^tAJA = J}.

Comme pour les groupes orthogonaux, on peut montrer que l’alg`ebre de Lie de SP(2n) est

(∗∗) sp_2n={a∈M_2n(C)|^taJ + Ja= 0}.

Pour le moment, prenons ceci commedéfinition desp_2n. On vérifie facilement que c’est une sous-algèbre de Lie de M_2n(C).

Comme J est antisymétrique, ceci équivaut à dire que la matrice Ja est symétrique, et comme J est inversible on obtient quesp_2n= J⁻¹Sym_2n(C), où Sym_2n(C) désigne le sous-espace des matrices symétriques. Donc

(∗∗∗) dimsp_2n=n(2n+ 1).

De plus, les ´egalit´esa=−J⁻¹(^ta)J et Tr(^ta) = Tr(a) entraˆınent que

∀a∈sp_2n, Tr(a) = 0, et donc sp_2n⊆sl_2n, ce qui justifie la notationsp_2n.

Ecrivant´ a = µA B

C D

¶

, o`u A,B,C,D ∈ M_n(C), on voit que la condition

taJ + Ja= 0 est ´equivalente aux conditions suivantes :

(‡) D =−S^tAS, B = S^tBS, C = S^tCS.

Donc A est arbitraire et, d’après (†) vu dans le cas orthogonal, B et C sont symétriques par rapport à la 2ème diagonale et−D est le symétrique de A par rapport à la 2ème diagonale.

Soit h la sous-alg`ebre des matrices diagonales dans sp_2n. On d´eduit de (‡) que les matrices :

(1) H_i= E_i,i−E_{i, i}, i= 1, . . . , n;

(15)

forment une base deh. Notons

(ε₁, . . . , ε_n) la base duale deh^∗, c.-`a-d.,

(?) ∀h=

Xn

i=1

x_iH_i ∈h, ε_i(h) =x_i.

De plus, on d´eduit de (‡) que, avec les H_i, les matrices suivantes forment une base deg :

(2)

½ X_ε_i_−ε_j := E_i,j−E_{j, i},

Y_−(ε_i_−ε_j₎:= E_j,i−E_{i, j}, 16i < j 6n;

(3)

½ X_ε_i_+ε_j := E_{i, j}+ E_{j, i},

Y_−(ε_i_+ε_j₎:= E_{j, i}+ E_{i, j}, 16i < j 6n;

(4)

½ X_2ε_i := E_{i, i},

Y_−2ε_i := E_{i, i}, i= 1, . . . , n.

On vérifie que chaque X_α, resp. Y_−α, est de poids α, resp.−α. Désignant par n⁺, resp.n⁻, le sous-espace des matrices A ∈sp_2n qui sont triangulaires supérieures (resp. inférieures) avec des 0 sur la diagonale, on obtient que les X_α, resp. les Y_−α, forment une base den⁺, resp.n⁻, et que cette décomposition

R = R⁺tR⁻

correspond au choix de la base de R suivante. Posons α_i =ε_i−ε_i+1 pour i= 1, . . . , n−1;

α_n= 2ε_n.

k=iα_k, pour 16i < j 6n;

2ε_i =α_n+ 2P_n−1

k=i α_k, pour 16i6n;

ε_i+ε_j =α_n+ 2P_n−1

k=j α_k+P_j−1

k=iα_k, pour 16i < j 6n.

Chaque racine β=ε_i±ε_j est de norme√

2 , donc égale à la coracineβ^∨; par contre, pour α= 2ε_i on a α^∨ =α/2. Il en résulte que l’on a, pour i < j :

(α_j, α^∨_i ) =







−2 sij=neti=j−1;

−1 sij < n eti=j−1;

0 sinon.

Ceci montre que le diagramme de Dynkin associ´e est de type C_n.

(16)

Enfin, à titre de vérification, il y a n(n−1) +n=n² racines positives, et la base donnée par (1)–(4) redonne bien la dimension déjà calculée :

dimsp_2n=n+ 2n² =n(2n+ 1).

(17)

TABLE DES MATI` ERES

I. Alg`ebres de Lie et repr´esentations, le cas de sl₂(C)

S´eances du 25 et 27/9 . . . 1

1. Alg`ebres de Lie et repr´esentations . . . 1

1.1. Alg`ebres de Lie . . . 1

1.2. Repr´esentations . . . 4

1.3. Dérivations et opérateurs différentiels . . . 7

1.4. Repr´esentations de sl₂(K) . . . 9

1.5. Alg`ebres enveloppantes . . . 11

1.6. Repr´esentations de sl₂(K) . . . 14

2. Généralités sur les modules . . . 17

2.1. Modules simples et suites de composition . . . 17

2.2. Modules semi-simples et socles . . . 18

3. Semi-simplicit´e dessl₂(K)-modules de dimension finie . . . 19

3.1. ´El´ement de Casimir . . . 19

3.2. Le théorème de semi-simplicité . . . 21

II. Algèbres de Lie résolubles ou semi-simples Séances du 2, 4 et 5/10 . . . 25

4. Alg`ebres de Lie r´esolubles . . . 25

4.1. Série dérivée . . . 25

4.2. Alg`ebres de Lie nilpotentes . . . 29

5. Th´eor`emes d’Engel et de Lie . . . 31

5.1. Th´eor`eme d’Engel et applications . . . 31

5.2. Théorème de Lie et conséquences . . . 34

6. Forme de Killing et alg`ebres de Lie semi-simples . . . 36

6.1. Alg`ebres de Lie semi-simples . . . 36

6.2. Formes invariantes et forme de Killing . . . 37

(18)

6.3. Critères de résolubilité et de semi-simplicité de Cartan . . . 40

7. D´ecomposition de Jordan et d´erivations . . . 43

7.1. D´erivations . . . 43

7.2. D´ecomposition de Jordan . . . 45

III. C-algèbres de Lie semi-simples et systèmes de racines Séances du 9, 11 et 12/10 . . . 49

8.C-alg`ebres de Lie semi-simples . . . 49

8.0. Sous-alg`ebres torales maximales et espaces de poids . . . 49

8.1. Passage `a unR-espace euclidien . . . 56

8.2. Le syst`eme de racines R⊂h^∗_R . . . 58

8.3. Le cas desl₂(C) . . . 59

9. Syst`emes de racines . . . 59

9.1. D´efinitions . . . 59

9.2. Syst`emes de racines de rang 2 . . . 60

9.3. Bases d’un syst`eme de racines . . . 63

9.4. Matrices de Cartan, graphes de Coxeter, diagrammes de Dynkin 65 10. Classification des graphes admissibles . . . 66

10.1. Premi`eres r´eductions . . . 66

10.2. Fin de la classification des graphes admissibles . . . 68

10.3. Classification des diagrammes de Dynkin connexes . . . 71

11. Groupe de Weyl et classification des syst`emes de racines . . . 72

III. C-alg`ebres de Lie semi-simples (suite) S´eances du 18 et 19/10 . . . 73

11. Groupe de Weyl et classification des syst`emes de racines . . . 74

11.1. Groupe de Weyl et conjugaison des bases . . . 74

11.2. Isomorphismes de syst`emes de racines . . . 77

11.3. Fin de la classification des syst`emes de racines . . . 77

12. Classification des C-alg`ebres de Lie semi-simples . . . 78

12.1. Sous-alg`ebres de Cartan . . . 78

12.2. Le syst`eme de racines de g . . . 80

12.3. Théorème d’existence et d’unicité . . . 80

12.4. Type A_n−1 =sl_n(C) . . . 81

12.5. Types B et D : groupes orthogonaux . . . 82

12.6. Type C : groupes symplectiques . . . 86

Bibliographie . . . iii

(19)

BIBLIOGRAPHIE iii

Bibliographie

[Bl] A. Blanchard, Les corps non commutatifs, P.U.F., 1972.

[BA1-3] N. Bourbaki, Alg`ebre, Chapitres 1 `a 3, 1981.

[BA8] N. Bourbaki, Alg`ebre, Chap. 8, 1958.

[BL1] N. Bourbaki, Groupes et alg`ebres de Lie, Chap. 1, 1971.

[BL4-6] N. Bourbaki, Groupes et alg`ebres de Lie, Chap. 4–6, 1968.

[BL7-8] N. Bourbaki, Groupes et alg`ebres de Lie, Chap. 7-8, 1975.

[BS] M. Brion, G. Schwarz, Théorie des invariants & Géométrie des variétés quotients, Hermann, 2000.

[BtD] Th. Br¨ocker, T. tom Dieck, Representations of compact Lie groups, Springer 1985 (3rd printing, 2003).

[Bu] D. Bump, Lie groups, Springer, 2004.

[CR] C. W. Curtis, I. Reiner, Representation theory of finite groups and associative algebras, John Wiley & Sons, 1962.

[Dix] J. Dixmier, Alg`ebres enveloppantes, Gauthier-Villars, 1974 [DK] J. J. Duistermaat, J. A. C. Kolk, Lie groups, Springer, 2000.

[Fa] J. Faraut, Analyse sur les groupes de Lie, Calvage & Mounet, 2005.

[Go] R. Godement, Introduction `a la th´eorie des groupes de Lie, Publ.

Math. Paris VII, 1982, et Springer, 2004.

[Hel] S. Helgason, Differential geometry, Lie groups, and symmetric spaces, Academic Press 1978, ninth printing Amer. Math. Soc. 2001.

[Her] I. N. Herstein, Noncommutative rings, Carus Math. Monogr., 1968, nouveau tirage, 1994.

[Hu] J. E. Humphreys, Introduction to Lie algebras and representation theory, Springer-Verlag, 1972, third printing, revised, 1980.

[Jac] N. Jacobson, Lie algebras, Wiley, 1962, Dover, 1979.

[Jac80] N. Jacobson, Basic Algebra II, Freeman & Co., 1980.

[Ka] V. Kac, Infinite-dimensional Lie algebras, Birkh¨auser 1983, 3rd edition, Cambridge Univ. Press, 1990.

[Kna] A. W. Knapp, Lie groups beyond an introduction, Birkh¨auser, 1996, 2nd edition, 2002.

[Laf] J. Lafontaine, Introduction aux variétés différentielles, Presses Univ.

Grenoble, 1996.

[La] S. Lang, Algebra, Addison-Wesley, 1965. Traduction fran¸caise de la 3ème édition :Algèbre, Dunod, 2004.

[Le] D. Leborgne, Calcul différentiel et géométrie, P.U.F., 1982.

[Ma] P. Malliavin, Géométrie différentielle intrinsèque, Hermann, 1972.

[MT] R. Mneimné, F. Testard, Introduction à la théorie des groupes de lie classiques, Hermann, 1986, nouveau tirage 2005.

(20)

[Mn] R. Mneimné, Réduction des endomorphismes (Tableaux de Young, cône nilpotent, représentations des algèbres de Lie semi-simples), Calvage &

Mounet, 2006.

[Pe] E. Petracci, Universal representations of Lie algebras by coderivations, Bull. Sci. Math. 127 (2003), no. 5, 439-465.

[Po] P. Polo, Algèbre et théorie de Galois, cours de M1 2005/06 à l’Uni- versité Paris 6, www.math.jussieu.fr/epolo

[Pic] G. Pichon, Groupes de Lie : repr´esentations lin´eaires et applications, Hermann, 1973.

[Pie] R. S. Pierce, Associative algebras, Springer, 1982.

[Se] J.-P. Serre, Alg`ebres de Lie semi-simples complexes, Benjamin, 1966, Complex semisimple Lie algebras, Springer, 2001.

[Va] V. S. Varadarajan, Lie groups, Lie algebras, and their representations, Prentice-Hall 1974, Springer 1984.

[Wa] F. W. Warner, Foundations of differentiable manifolds and Lie groups, Scott & Foresman, 1971, Springer, 1983.