Nous renvoyons à [MT, Bou4, Die2, Die3, CSM, Hel] pour d’autres informations sur ce chapitre. La référence [MT] est vraiment excellente, et donc vivement recommandée.
5.1 Groupes de Lie
• Groupes topologiques.
Un groupe topologique est un ensemble G muni d’une structure de groupe et d’une structure d’espace topologique compatibles, i.e. telles que l’application
G×G −→ G (x, y) 7→ xy−1
soit continue. Il revient au même de demander que les applications de composition(x, y)7→
xy et d’inversex7→x−1 soient continues.
Un morphisme (de groupes topologiques) entre deux groupes topologiques est un mor-phisme de groupes qui est continu. La collection des groupes topologiques, des ensembles de morphismes entre deux groupes topologiques, avec la composition des applications et les applications identités, est une catégorie (voir l’appendice A.6). Un isomorphisme de groupes topologiques est un isomorphisme de groupes qui est un homéomorphisme. Deux groupes topologiques sont isomorphess’il existe un isomorphisme de groupes topologiques de l’un sur l’autre.
La composante neutre d’un groupe topologique est la composante connexe de son élé-ment neutre.
SoitG un groupe topologique, d’élément neutre e. Définissons la translation à gauche Lg :G→Get latranslation à droiteRg :G→G, respectivement parx7→gxetx7→xg−1. Ces applications sont des homéomorphismes, car continues et bijectives d’inverses Lg−1 et Rg−1 respectivement. Il est à remarquer que ces applications commutent : pour tous g, h dansG,
Rg◦Lh=Lh◦Rg.
Si f :G → G′ est un morphisme de groupes, avec G′ un groupe topologique, alors, pour tout gdansG,
f◦Lg =Lf(g)◦f .
Donc un morphisme de groupes entre deux groupes topologiques est continu si et seulement s’il est continu en l’élément neutre.
SiHom´eo(G) désigne le groupe des homéomorphismes de G, alors les applications de G dansHom´eo(G) définies par g7→Lg etg7→Rg sont des morphismes de groupes :
Lgh=Lg◦Lh, Rgh=Rg◦Rh .
(C’est pour cette dernière propriété que l’on définit de la manière ci-dessus la translation à droite. Certains ouvrages notent à tort Rg l’application x 7→ xg.) En particulier, Le = id,(Lg)−1 =Lg−1, Re= id,(Rg)−1 =Rg−1.
Proposition 5.1 Si G0 est la composante neutre d’un groupe topologique G, alors
• G0 est un sous-groupe distingué de G,
• les composantes connexes de G sont les classes à gauche (ainsi que les classes à droite) de Gmodulo G0,
• siG0 est ouverte, alors le groupe topologique quotient (i.e. l’ensemble quotient muni des structures de groupe quotient et d’espace topologique quotient – qui est un groupe topologique –) G/G0 est discret.
Preuve. L’application de G0×G0 dans G définie par (x, y) 7→ xy−1 est continue, donc son image est contenue dans G0 par connexité, donc G0 est un sous-groupe. Pour tout g dans G, l’application de G0 dans Gdéfinie par x 7→gxg−1 est continue, donc son image est contenue dansG0 par connexité, doncG0 est distingué. Le reste est immédiat.
Exercice E.105 Montrer que tout groupe topologique connexe est engendré par tout voi-sinage de son élément neutre.
• Définitions.
Un groupe de Lie (réel) est un ensemble G muni d’une structure de groupe et d’une structure de variété C∞ compatibles, i.e. telles que l’application
G×G −→ G (x, y) 7→ xy−1
soit de classe C∞. Il revient au même de demander que les applications de composition (x, y)7→xy et d’inverse x7→x−1 soient de classe C∞.
Tout groupe de Lie, quand on oublie son atlas maximal de cartes, est un groupe topo-logique. Nous verrons dans la fin de ce paragraphe consacré à des résultats culturels ce qui est vrai dans le problème réciproque.
Notons qu’il découle facilement de la définition que, dans un groupe de Lie G, les translations à gauche Lg : G → G et à droite Rg : G → G, définies respectivement par x7→gxetx7→xg−1, sont des C∞-difféomorphismes.
Un morphisme (de groupes de Lie) entre deux groupes de Lie est un morphisme de groupes qui est de classeC∞. Notons qu’un morphisme de groupes entre deux groupes de Lie est C∞si et seulement s’il estC∞ en e, carf◦Lg =Lf(g)◦f pour toutg dansG. La collection des groupes de Lie, des ensembles des morphismes entre deux groupes de Lie, avec la composition des applications et les applications identité, est une catégorie (voir l’appendice A.6) : les applications identité sont des morphismes et la composition de deux morphismes est un morphisme. Unisomorphisme (de groupes de Lie)est un isomorphisme de groupes qui est unC∞-difféomorphisme. Deux groupes de Lie sontisomorphess’il existe un isomorphisme de l’un sur l’autre.
On définit de même ungroupe de Lie complexe (en demandant queG soit une variété analytique complexe, et que l’application (x, y)7→xy−1 soit analytique complexe), et pour tout corps local K, un groupe de Lie sur K (appelé groupe de Lie p-adique si K =Qp), voir paragraphe 2.3. Mais nous ne considérerons essentiellement que des groupes de Lie réels dans ce cours. Comme pour les variétés, un groupe de Lie complexe admet aussi une structure naturelle de groupe de Lie réel.
Soit G un groupe de Lie. Unsous-groupe de Lie de Gest une partie de G qui est un sous-groupe deGet une sous-variété de classe C∞ deG. Comme les translations à gauche
sont desC∞-difféomorphismes, il suffit de vérifier que cette partie est un sous-groupe et une sous-variétéC∞ au voisinage de l’élément neutre. Sauf mention explicite du contraire, une telle partie sera toujours muni de ces deux structures. Comme celles-ci sont compatibles par restriction, tout sous-groupe de Lie est donc un groupe de Lie. Un plongement (de groupes de Lie) d’un groupe de Lie H dans un groupe de Lie G est un morphisme de groupes de H dans G qui est un plongement de variétés C∞. L’image de H est alors un sous-groupe de Lie de G.
• Exemples.
(1) SoitGun groupe. Muni de la topologie discrète, Gest un groupe topologique, que l’on appelle groupe discret. SiGest dénombrable, alors le groupeG, muni de son atlas de cartes de variété de dimension 0évident, est un groupe de Lie.
(2) Les groupes (R,+), (R∗,×), (C,+), (C∗,×), munis de leur structure de variété analytique réelle, donc C∞, évidente, sont des groupes de Lie (et les deux derniers sont des groupes de Lie complexes).
(3) Le produit de deux groupes de Lie, pour la structure de groupe produit et de variété produit, est un groupe de Lie.
(4) SiV est un espace vectoriel réel (resp. complexe) de dimension finie, alors le groupe GL(V)
des automorphismes linéaires deV, muni de sa structure d’ouvert de l’espace vectoriel réel (resp. complexe) de dimension finieEnd(V)des applications linéaires deV dans lui-même, est un groupe de Lie réel (resp. complexe).
En effet, montrons que la composition et l’inverse sont C∞ (resp. analytiques com-plexes). La composition(f, g)7→f◦g est la restriction à l’ouvertGL(V)d’une application bilinéaire de End(V), donc est C∞ (resp. analytique complexe). Si g est un élément de GL(V), alors son inverse est l’unique application f vérifiant l’équation g◦ f −id = 0.
Le théorème des fonctions implicites, appliqué à la fonction F(g, f) =g◦f −id, dont la différentielle partielle par rapport à la seconde variable en un point (g, f) est l’application linéaire inversible Y 7→g◦Y deEnd(V) dans lui-même, montre que l’inverse g7→g−1 est C∞ (resp. analytique complexe).
L’espace tangent en tout point de GL(V) est identifié à End(V), et le fibré tangent à GL(V) est identifié àpr1 : GL(V)×End(V)→ GL(V).
(5) La multiplication de deux matrices carrées réelles (resp. complexes) est polyno-miale en les coefficients, donc C∞ (resp. analytique complexe). Par la formule M−1 =
1
detM tComatrice(M) exprimant l’inverse d’une matrice inversible, l’inverse d’une matrice carrée inversible réelle (resp. complexe) est rationnelle (de dénominateur ne s’annulant pas) en les coefficients, doncC∞(resp. analytique complexe). Donc, pourK=R(resp.K=C), le groupe
GLn(K),
muni de sa structure de variété C∞ (resp. analytique complexe) en tant qu’ouvert de l’espace vectoriel réel (resp. complexe)Mn(R)≃Rn2 (resp.Mn(C)≃Cn2) est un groupe de Lie réel (resp. complexe).
Les groupes de LieGL(Rn) etGLn(R) sont canoniquement isomorphes, par l’applica-tion qui à un automorphisme linéaire de Rn associe sa matrice dans la base canonique.
De même pourGL(Cn) etGLn(C). Notons que GL(Rn)est un sous-groupe de Lie réel du groupe de Lie réel défini par GL(Cn).
(6) L’application exponentielle x 7→ ex de (R,+) dans (R∗+,×) est un isomorphisme de groupes de Lie. L’application déterminant x 7→ det x de GLn(R) dans (R∗,×) est un morphisme de groupes de Lie. Pour tout g dansG, laconjugaison ig :G→G définie par x7→gxg−1 est un isomorphisme de groupes de Lie.
Exercice E.106 Soient n, p, q des éléments de N. On note In la matrice identité n×n,
Montrer que les parties suivantes du groupe de Lie réel défini par GLm(C) pour un entier m convenable, en sont des sous-groupes de Lie, et calculer leurs dimensions :
SLn(C) = {x∈GLn(C) : detx= 1}
Parmi les groupes ci-dessus, on peut montrer que seuls les groupes de Lie réelsSLn(C), On(C), SOn(C) et Spn(C) ont une structure de groupe de Lie complexe qui est C∞ -compatible avec leur structure de groupe de Lie réel. Les notations des trois derniers groupes ne sont pas standards.
• Propriétés élémentaires.
Proposition 5.2 (a) Un morphisme de groupes de Lie est une application de rang cons-tant.
(b) Un morphisme de groupes de Lie, qui est bijectif, est un isomorphisme de groupes de Lie.
Preuve. Soitf :G→H un morphisme de groupes de Lie.
(a) Pour tout x dans G, comme f ◦Lx = Lf(x)◦f, le théorème de dérivation des applications composées montre que
Txf ◦TeLx=TeLf(x)◦Tef .
Les translations à gauche sont des C∞-difféomorphismes, donc TeLx et TeLf(x) sont des isomorphismes linéaires. Par conséquent, Txf etTef ont même rang.
(b) Supposons f bijectif. Comme f ◦ Lx = Lf(x) ◦f pour tout x dans G, il suffit de vérifier que f est un C∞-difféomorphisme local en e. Sinon, par le théorème de forme normale des subimmersions (proposition 2.8) et l’injectivité def, il existerait un voisinage compact V de edansGtel quef(V)soit un fermé d’intérieur vide dansH. CommeGest séparable, il existe une suite (gi)i∈N dense dans G, et en particulier G=S
i∈NgiV. Donc l’image f(G) =S
i∈Nf(gi)f(V) de f serait une union dénombrable de parties fermées de H d’intérieur vide. Comme H est métrisable, le théorème de Baire contredirait alors la
surjectivité de f.
Proposition 5.3 Si G0 est la composante neutre d’un groupe de Lie G, alors G0 est un sous-groupe de Lie distingué ouvert de G, les composantes connexes de G sont les classes à gauche (ainsi que les classes à droite) de G moduloG0, et le groupe topologique quotient G/G0 est discret.
Preuve. Cela découle de la proposition 5.1, en remarquant que G0 est ouverte, ce qui découle du fait que toute variété est localement connexe par arcs.
La proposition suivante n’est pas complètement immédiate, car il existe des sous-variétés non fermées dans R, par exemple, mais elle n’est guère compliquée. Nous verrons sa réciproque, qui est vraie et plus profonde, dans le paragraphe 5.3.
Proposition 5.4 Tout sous-groupe de Lie d’un groupe de Lie est fermé.
Preuve. Rappelons qu’une sous-variété est localement fermée, i.e. ouverte dans son adhé-rence. SiHest un sous-groupe d’un groupe topologiqueG, alors son adhérenceH est aussi un sous-groupe deG. Donc siH est un sous-groupe de Lie d’un groupe de Lie, alorsH est un ouvert dense dans H. Or si g ∈H, alors gH est ouvert dans H, car la multiplication pargest un homéomorphisme deHdans lui-même. DoncgH rencontreH, etgappartient
à H.
• Culture.
Concluons ce paragraphe en donnant quelques résultats de culture générale, dont nous n’aurons pas besoin dans ce cours, mais qu’il est bien utile de connaître.
Théorème 5.5 (voir [God, tome II, p. 6.27]) Tout groupe de Lie G admet une unique structure de variété analytique réelle qui rende analytique réelle l’application(x, y)7→xy−1. Théorème 5.6 (voir [God, tome II, p. 6.33], [Die3, page 172] et le corollaire 5.22.) Soient G, H deux groupes de Lie. Tout morphisme de groupes continu de G dans H est C∞ (et
même analytique réel pour la structure précédente).
En particulier, siGest un groupe topologique, alors il existe surGau plus une structure de groupe de Lie compatible avec sa structure de groupe topologique. Les deux résultats suivants donnent des conditions purement topologiques sur un groupe topologique pour qu’il en admette au moins une.
Théorème 5.7 (5-ème problème de Hilbert, démontré par Gleason, voir par exemple [MZ, page 184]) SoitGun groupe topologique qui soit une variété topologique. AlorsGadmet une et une seule structure de groupe de Lie compatible avec sa structure de groupe topologique.
Un groupe topologique est ditsans petit sous-groupes’il existe un voisinage de l’identité qui ne contient aucun sous-groupe non trivial. Par exemple, le groupe additif Qp muni de sa distance usuelle (voir par exemple [Ser2]) n’est pas sans petit sous-groupe. Rappelons que le corpsQp est le corps complété du corps Qpour la distance
d(x, x′) =
e−νp(x−x′) six6=x′
0 sinon
oùνp :Q∗ →Zest définie en notant νp(x)l’élément ndeZtel quex=pn uv avecu, v dans Z premiers entre eux, et non divisibles par p. En effet, si Zp est l’adhérence de Z, alors pour tout N, le sous-groupe pNZp est un sous-groupe additif de Qp, proche de l’élément neutre siN est grand.
Notons que le groupe topologique(Qp,+)est totalement discontinu, et non discret, en particulier la composante neutre de 0, qui est réduite à 0, n’est pas ouverte.
Théorème 5.8 (Montgomery-Zippin [MZ, pages 169,163], voir aussi les problèmes (5) à (9), pages 162 à 166, de [Die3]) Soit G un groupe topologique localement compact, mé-trisable séparable, et sans petit sous-groupe. Alors G admet une et une seule structure de groupe de Lie compatible avec sa structure de groupe topologique.
Enfin, citons une condition nécessaire pour être un groupe de Lie, qui montre l’im-portance des exemples ci-dessus. Le résultat ci-dessous dit que tout groupe de Lie est localement linéaire, au sens qui sera rendu précis dans la partie 5.7.
Théorème 5.9 (Ado, voir par exemple [Bou4, Chap. I, page 99]) Soit G un groupe de Lie. Alors il existe un élément ndans N, un voisinage ouvert U de l’élément neutre edans G, et un plongement analytique réel j:U →GLn(R) tel que pour tous x, y dans U, sixy appartient à U, alors
j(xy) =j(x)j(y).
Ceci permet théoriquement de ramener l’étude locale (mais seulement locale) des grou-pes de Lie à celle de GLn(R) (et de ses sous-groupes), mais cela ne serait pas très in-trinsèque. De plus, il existe effectivement des groupes de Lie non linéaires (i.e. qui ne se plongent pas dans unGLn(R)), comme le revêtement universel PSL^2(R) dePSL2(R), voir [DNF, tome 2, chap. I] et le paragraphe 5.7. Par contre, ceci permet de montrer que tout groupe de Lie est sans petit sous-groupe, en prouvant (en exercice, en utilisant l’application exponentielle de Mn(R)dans GLn(R)) queGLn(R) est sans petit sous-groupe (mais voir aussi l’exercice E.119 pour une preuve directe).
5.2 Algèbres de Lie
SoitK un corps (commutatif). Unealgèbre de Liesur K est un espace vectoriel gsur K muni d’une application bilinéaire deg×gdansg, notée(x, y)7→[x, y], telle que
• ∀x, y∈g, [y, x] =−[x, y],
• ∀x, y, z∈g, [x,[y, z]] + [y,[z, x]] + [z,[x, y]] = 0.
L’application(x, y)7→[x, y]s’appelle lecrochet de Liedeg, la première propriété s’appelle l’anticommutativité, et la seconde l’identité de Jacobi pour le crochet de Lie.
Soient g,g′ deux algèbres de Lie. Un morphisme (d’algèbres de Lie) de g dans g′ est une application linéaire ϕ:g→g′ qui préserve les crochets de Lie, i.e. telle que
∀x, y∈g, ϕ([x, y]) = [ϕ(x), ϕ(y)].
La collection des algèbres de Lie, des ensembles des morphismes entre deux algèbres de Lie, avec la composition des applications et les applications identité, est une catégorie (voir l’appendice A.6) : les applications identité sont des morphismes et la composition de deux morphismes est un morphisme. Unisomorphisme (d’algèbres de Lie) degdansg′ est un isomorphisme linéaire, qui préserve les crochets de Lie. Son inverse est alors aussi un isomorphisme d’algèbres de Lie.
Soit g une algèbre de Lie. Une sous-algèbre de Lie de g est un sous-espace vectoriel h de g qui est stable par le crochet de g (i.e. si X, Y ∈ h, alors [X, Y] ∈ h). Muni de la restriction de ce crochet, c’est une algèbre de Lie. Sauf mention explicite du contraire, toute sous-algèbre de Lie de g sera munie de cette structure d’algèbre de Lie.
Exemples. (1) Tout espace vectorielV surK, muni du crochet de Lie nul, est une algèbre de Lie sur K, ditecommutative.
(2) SiAest une algèbre (associative) surK, alors l’espace vectorielA, muni du crochet [x, y] =xy−yx ,
est une algèbre de Lie sur K. C’est par exemple le cas, pour tout espace vectoriel V sur K, de l’algèbre End(V) des endomorphismes de V, et on note
gl(V)
l’algèbre de Lie obtenue. Pour tout ndansN− {0}, c’est aussi le cas de l’algèbreMn(K) des matrices carrées n×nà coefficients dans K, et on note
gln(K) l’algèbre de Lie obtenue.
Si V est un espace vectoriel de dimension finie n sur K, et B une base de V, alors l’application, qui à un endomorphisme de V associe sa matrice dans la base B, est un isomorphisme d’algèbres de Lie de gl(V) dansgln(K) (mais il dépend de la base choisie).
Par exemple, les algèbres de Lie gl(Kn) et gln(K) sont canoniquement isomorphes, par l’application qui à un endomorphisme deKn associe sa matrice dans la base canonique.
(3) Soitgune algèbre de Lie surK. Pour tout sous-corpsK′ de K, l’ensemble g, muni de son crochet et de sa structure d’espace vectoriel naturelle surK′, est aussi une algèbre de
Lie surK′. En particulier, sigest une algèbre de Lie complexe, nous noteronsgRl’algèbre de Lie réelle ainsi obtenue. SiK′ est un sur-corps deK, alors le crochet de Lie degs’étend par bilinéarité de manière unique à l’espace vectoriel g⊗KK′ surK′
l’algèbre Mn(C) possède à la fois une structure d’algèbre de Lie complexe gln(C) et une structure d’algèbre de Lie réelle, que l’on peut noter pompeusement ResRCgln(C).
(4) Sig et g′ sont deux algèbres de Lie sur K, alors l’espace vectoriel produit g×g′, muni de l’application
[(x, y),(x′, y′)] = ([x, x′],[y, y′])
est une algèbre de Lie surK, appeléealgèbre de Lie produit. On définit de même l’algèbre de Lie produit d’une famille quelconque d’algèbres de Lie.
(5) Si M est une variété différentielle réelle de classe C∞, alors l’espace vectoriel réel Γ(T M) des champs de vecteurs C∞ sur M, muni du crochet de Lie des champs de vec-teurs, est une algèbre de Lie réelle (voir la proposition 4.9). Si f : M → N est un C∞ -difféomorphisme local, alors l’application f∗ : Γ(T N) → Γ(T M) est un morphisme d’al-gèbres de Lie (par les propriétés des images réciproques de champs de vecteurs, voir la proposition 4.9). En particulier, si f :M → N est unC∞-difféomorphisme, alors l’appli-cation f∗ : Γ(T M)→Γ(T N) est un isomorphisme d’algèbres de Lie.
(6) Le noyau et l’image d’un morphisme d’algèbres de Lie est une sous-algèbre de Lie.
(7) Soitgune algèbre de Lie. Unedérivation (d’algèbres de Lie)degest une application linéaire δ :g→g telle que
∀x, y∈g, δ([x, y]) = [δ(x), y] + [x, δ(y)].
Remarquons que l’espace des dérivations de g est une sous-algèbre de Lie de l’algèbre de Lie gl(g) des endomorphismes linéaires deg, que l’on note Der(g). En effet, siδ etδ′ sont des dérivations, alors
δ◦δ′([x, y]) = [δ◦δ′(x), y] + [δ(x), δ′(y)] + [δ′(x), δ(y)] + [x, δ◦δ′(y)], donc [δ, δ′] =δ◦δ′−δ′◦δ est encore une dérivation.
Par exemple, pour toutX dansg, l’application adX:g→gdéfinie par adX(Y) = [X, Y]
est une dérivation d’algèbres de Lie (parfois appelée dérivation intérieure), car pour tous Y etZ dans g, on a
adX([Y, Z]) = [adX(Y), Z] + [Y,adX(Z)], ce qui est une simple réécriture de l’identité de Jacobi. L’application
ad :g→Der(g)
est un morphisme d’algèbres de Lie, car pour tous X etY dansg, on a ad [X, Y] (Z) = adX◦adY (Z)−adY ◦adX (Z), ce qui est aussi une simple réécriture de l’identité de Jacobi.
Exercice E.107 On notetrX la trace d’une matrice carréeX, et on reprend les notations de l’exercice E.106. Montrer que les exemples suivants sont des sous-algèbres de Lie de l’algèbre de Lie réelle définie par glm(C), pour un m convenable, et que sln(C),on(C) = son(C),spn(C) sont des sous-algèbres de Lie complexes deglm(C), pour un mconvenable :
sln(C) = {X ∈gln(C) : trX= 0} sln(R) = {X ∈gln(R) : trX= 0} o(n) = {X ∈gln(R) : tX=−X} so(n) = o(n)
o(p, q) = {X ∈glp+q(R) : tX Ip,q+Ip,qX= 0} so(p, q) = o(p, q)
u(n) = {X ∈gln(C) : tX=−X} su(n) = u(n)∩sln(C)
u(p, q) = {X ∈glp+q(C) : tX Ip,q+Ip,qX= 0} su(p, q) = u(p, q)∩slp+q(C)
spn(R) = {X ∈gl2n(R) : tX Jn+JnX= 0} on(C) = {X ∈gln(C) : tX=−X}
son(C) = on(C)
spn(C) = {X ∈gl2n(C) : tX Jn+JnX= 0} sp(p, q) = {X ∈spp+q(C) : tX Kp,q+Kp,qX= 0} sp∗(n) = spn(C)∩su(2n)
sl(n,H) = {X ∈sl2n(C) : JnX=XJn} so(n,H) = {X ∈so2n(C) : tX Jn+JnX= 0}
.
Ainsi o(n) est l’algèbre de Lie des matrices réelles n-n antisymétriques, et u(n) est l’algèbre de Lie (réelle) des matrices complexes n-nantihermitiennes.
Soitg une algèbre de Lie surK. Le centrede g est le sous-ensemble z(g) ={X∈g : ∀Y ∈g, [X, Y] = 0}.
Par l’identité de Jacobi, le sous-ensemblez(g) est une sous-algèbre de Lie deg. Le résultat suivant est une version facile (sous l’hypothèse très particulière d’avoir un centre trivial) du théorème d’Ado de linéarité des algèbres de Lie de dimension finie, qui est l’étape essentielle de la preuve du théorème 5.9 et sur lequel nous reviendrons (mais toujours sans donner de preuve) au paragraphe 5.7.
Proposition 5.10 Une algèbre de Lie sur K de dimension finie n et de centre trivial se plonge dans l’algèbre de Lie gln(K).
Preuve. L’application adjointe ad : g → gl(g) est un morphisme d’algèbres de Lie, dont
le noyau est exactement le centre deg.
5.3 Algèbre de Lie d’un groupe de Lie.
SoientGun groupe de Lie (réel), etTeGl’espace tangent àGen son élément neutre e.
Pour tout g dansG, rappelons que la conjugaison parg est l’isomorphisme de groupes de
Lie ig :G→G défini par
ig :x7→gxg−1.
SiAut(G) désigne le groupe des automorphismes de groupes de Lie deG, il est immédiat que l’application i : G → Aut(G), définie par g 7→ ig, est un morphisme de groupes : igg′ =ig◦ig′ (et doncie= id).
Notons
Adg=Teig :TeG→TeG
l’application tangente en e de ig. L’application Ad : G → GL(TeG), définie par g 7→
Adg, est un morphisme de groupes de Lie (par le théorème de dérivation des applications composées et le fait que l’application de G×GdansGdéfinie par (g, h)7→ghg−1 soit de classe C∞), appelé lareprésentation adjointede G.
Notons
ad =TeAd :TeG→End(TeG)
l’application tangente en edeAd. Pour tousX, Y dansTeG, posons [X, Y] = adX(Y),
et notons que [·,·] : TeG×TeG → TeG est bilinéaire sur R. Si G est un groupe de Lie complexe, alors TeGest un espace vectoriel complexe, et[·,·]est bilinéaire surC, car Teig
etTeAd sont linéaires surC (voir la propriété (6) de la partie 3.4).
Exemples. (1) SiG est abélien, alorsig vaut l’identité pour tout g dansG, donc Ad g: TeG→TeGvaut l’identité et ad :TeG→End(TeG) est l’application nulle.
(2) Explicitons les applications Ad,ad lorsque G= GLn(R). Comme G est un ouvert de Mn(R), l’espace tangent à G en l’élément neutre Id est Mn(R). Comme ig :G → G est la restriction à l’ouvert G de Mn(R) de l’application linéaire X 7→gXg−1 de Mn(R) dans elle-même, on a
Adg(X) =gXg−1 .
Donc la représentation adjointe de GLn(R) est l’action par conjugaison de GLn(R) sur
Donc la représentation adjointe de GLn(R) est l’action par conjugaison de GLn(R) sur