Séance 2/10/06

7. Groupes de Lie (suite)

7.1. Vari´et´es diff´erentiables (suite). — Pour la commodit´e du lecteur, reprenons les d´efinitions 7.1, 7.5, 7.6 et 7.8 introduites `a la fin du polycopi´e de la s´eance du 26/9. (On renvoie `a ce polycopi´e pour les exemples et remarque 7.2–7.4, 7.7 et 7.9).

En fait, par rapport `a la d´efinition du 26/9, il est plus commode de nepas imposer dans la d´efinition ci-dessous que les ouverts U_i soient connexes.

Définition 7.1. — Unevari´et´e de classe C^∞, de dimension n, est un espace topologique s´epar´e X, muni d’un recouvrement ouvert (U_i)_i∈I, et d’hom´eo- morphismes φ_i de chaque U_i sur un ouvert V_i de Rⁿ, tels que, pour tout i6=j, l’application φ_j◦φ⁻¹_i soit un diff´eomorphisme de classe C^∞ de l’ouvert φ_i(U_i∩U_j) deRⁿ sur l’ouvertφ_j(U_j∩U_i) de Rⁿ.

On dit que les (U_i, φ_i) sont des cartes de d´efinition de X. On dit alors qu’un couple (U, ψ), o`u U est un ouvert de X etψun hom´eomorphisme de U sur un ouvert V de Rⁿ, est une carte de X si, pour tout i∈ I, l’application ψ◦φ⁻¹_i est un diff´eomorphisme de classe C^∞de l’ouvertφ_i(U_i∩U) deRⁿsur l’ouvert ψ(U∩U_i) de Rⁿ.

On d´efinit de mˆeme la notion de vari´et´e de classe C^k, pour toutk∈N^∗. Définition 7.5(Produits de variétés). — Soient X et Y deux vari´et´es C^∞, de dimensionnetprespectivement. Alors X×Y est une vari´et´e C^∞, de dimension n+p.

En effet, si (U_i, φ_i)_i∈I, resp. (V_j, ψ_j)_j∈J est un syst`eme de cartes pour X, resp. Y, alors les U_i×V_j forment un recouvrement ouvert de X×Y, et chaque φ_i×ψ_j est un hom´emomorphisme de U_i×V_j sur un ouvert deR^n+p. Enfin,

(0)version du 23/10/06

les changements de cartes sont «s´epar´ement C^∞» en les variables de X et celles de Y, et ceci entraˆıne qu’ils sont globalement C^∞, voir par exemple [Ca], premi`ere partie, I.3.7.2.

Définition 7.6(Applications différentiables). — Soient X et Y deux vari´et´es C^∞, de dimension n et p respectivement. Un morphisme de vari´et´es X → Y est une application continuef : X→Y v´erifiant la propri´et´e suivante : soient x ∈ X, y = f(x), (V, ψ) une carte au voisinage de y, et (U, φ) une carte au voisinage de x telle que f(U)⊆V ; alors W = φ(U), resp. W⁰ =ψ(V) est un ouvert de Rⁿ, resp. deR^p, et l’on demande que l’application

f◦φ⁻¹: W−→W⁰

soit C^∞. On laisse au lecteur le soin de v´erifier que cette notion ne d´epend pas du choix des cartes choisies. . .

Définition 7.8. — Un groupe de Lie est une vari´et´e G de classe C^∞, munie d’une structure de groupe telle que l’application

G×G−→G, (x, y)7→xy⁻¹ soit C^∞.

Un cas particulier important de vari´et´es est le suivant.

Définition 7.10(Sous-variétés deR^N). — Soit X un sous-ensemble de R^N. On dit que X est une «sous-vari´et´e C^∞ de R^N» de dimension n, si, pour tout x ∈ X, il existe des ouverts U et V de R^N, avec x ∈ U et 0 ∈ V, et un diff´eomorphisme C^∞

φ: U−→^∼ V tel que (

φ(x) = 0,

U∩X =φ⁻¹(V∩(Rⁿ× {0})).

Proposition 7.11. — Soit X une «sous-vari´et´e C^∞ de R^N» de dimension n.

AlorsXest une vari´et´eC^∞ au sens de la d´efinition7.1, et l’inclusionX,→R^N est un morphisme de vari´et´es. Par cons´equent, on peut ´ecrire que X est une sous-vari´et´eC^∞ deR^N (sans guillemets !).

D´emonstration. — Pour toutx∈X, il existe des ouverts U_xet V_xdeR^N, avec x ∈U et 0∈V, et un diff´eomorphisme C^∞ φ: U_x −→^∼ V_x tel que φ_x(x) = 0 et

U_x∩X =φ⁻¹_x (V_x∩(Rⁿ× {0})).

Ces ouverts U_x∩X forment un recouvrement de X, et il faut voir que, pour x6=y, les «changements de cartes»sont C^∞. Posons

Ω_x =φ_x(U_x∩U_y) et Ω_y =φ_y(U_y∩U_x);

ce sont des ouverts de R^N et par hypoth`ese on a un diff´eomorphisme C^∞ φ_y◦φ⁻¹_x : Ω_x −→^∼ Ω_y.

De plus, l’inclusionτ : Ω_x∩(Rⁿ×{0}),→Ω_xet la projectionπ: Ω_y →Rⁿ×{0}

sont C^∞, et donc l’hom´eomorphisme

Ω_x∩(Rⁿ× {0})−→^∼ Ω_y∩(Rⁿ× {0})

induit parφ_y◦φ⁻¹_x est C^∞, ainsi que son inverse (qui est induit parφ_x◦φ⁻¹_y ).

Ceci prouve que X est une vari´et´e, et aussi que l’inclusion X ,→ R^N est un morphisme de vari´et´es.

7.2. «Rappels»de calcul diff´erentiel. — Sif : X→Y est un morphisme de vari´et´es, pour d´efinir la diff´erentielle def en un pointxde X, il faut avoir au pr´ealable d´efini l’espace tangent T_xX. Et pour d´efinir l’espace tangent T_xX, on a besoin de disposer de la notion de diff´erentielle d’une application C^∞ entre deux ouverts Rⁿ. Heureusement, il n’y a pas de cercle vicieux, car l’espace tangent en un point d’un ouvert U deRⁿ est Rⁿ.

On va donc commencer par rappeler les notions d’application diff´erentiable, de d´eriv´ees partielles, d’applications de classe C^∞, etc. Pour les r´esultats don- n´es sans d´emonstration, on renvoie `a [Ca] ou [Laf].

Définition 7.12. — Soit U un ouvert de Rⁿ et soit x₀ ∈ U. Une application f : U → R^p est diff´erentiable en x₀ s’il existe une application lin´eaire L :Rⁿ→R^p telle que

f(x₀+h) =f(x₀) + L(h) +o(h).

(Ceci implique, en particulier, que f est continue en x₀.) Dans ce cas, L est unique, on l’appelle la diff´erentielle (ou application lin´eaire tangente) de f en x₀, et on la note d_x0f ou (df)_x0.

On dit que f est diff´erentiable(sous-entendu : sur U) si elle est diff´eren- tiable en tout point de U.

Remarque 7.13. — Sin= 1, on voit quef est diff´erentiable en x₀ si et seule- ment si la limite

limt→0

f(x₀+t)−f(x₀) t

existe ; c’est alors un ´el´ement v₀ de R^p. Dans ce cas, f est d´erivable en x₀, sa d´eriv´ee f⁰(x₀) est le vecteur v₀, et sa diff´erentielle en x₀ est l’application lin´eaire

R−→R^p, t7→tv₀. Par cons´equent,f⁰(x₀) =d_x0f(1).

Si f est une application diff´erentiable d’un intervalle ouvert I ⊆ R dans R^p, on dit que f est une courbediff´erentiable, et pour tout t∈I, le vecteur f⁰(t)∈R^p est parfois appel´e levecteur vitesse ent (ou«`a l’instant t» ).

Notons (e₁, . . . , e_n) la base canonique deRⁿ.

Proposition 7.14. — Soit U un ouvert de Rⁿ et f : U→ Rune fonction diff´e- rentiable. Alors, pour tout x∈U et i= 1, . . . , n, la d´eriv´ee partielle

∂f

∂x_i(x) = lim

t→0

f(x+te_i)−f(x) t

existe : c’estd_xf(e_i).

Remarque 7.15. — Il est bien connu que la r´eciproque est fausse ; par exemple l’application f :R²→R d´efinie par f(0,0) = 0 et

f(x, y) = xy

x²+y² si (x, y)6= (0,0)

admet des d´eriv´ees partielles en tout point, mais n’est pas continue, donc a fortiori pas diff´erentiable, en (0,0).

Cependant, on a le r´esultat suivant.

Théorème 7.16. — Soient U un ouvert de Rⁿ et f : U→ R. Si f poss`ede des d´eriv´ees partielles sur U et si elles sont continues en x₀ ∈ U, alors f est diff´erentiable en x₀.

Définition 7.17. — On dit quef : U→Rest de classe C¹ si elle poss`ede des d´eriv´ees partielles continues sur U. Ceci entraˆıne que f est diff´erentiable sur U, et que l’application

U−→Hom_R(Rⁿ,R), x7→d_xf

est continue. On peut alors d´efinir, par r´ecurrence sur k, la notion suivante.

Une applicationf : U→Restde classe C^k si elle poss`ede sur U des d´eriv´ees partielles qui sont de classe C<sup>k−1</sup>. Enfin, on dit que f est (de classe) C<sup>∞</sup> si elle est de classe C<sup>k</sup> pour tout k > 1. Ceci ´equivaut `a dire que les d´eriv´ees partielles de tout ordre :

∂^kf

∂x_ik· · ·∂x_i1 existent et sont continues.

Revenant au cas d’une application f : U→R^p, tout ce qui pr´ec`ede s’´etend comme suit. Notonsf₁, . . . , f_p les composantes def. Alors, on a le r´esultat et la d´efinition qui suivent.

Théorème 7.18. — f est diff´erentiable, resp. de classeC¹, surUsi et seulement si chaquef_i l’est.

On dit que f est de classe C^∞ si chaquef_i l’est.

Théorème 7.19(Différentielle d’une composée). — Soient U ⊆ Rⁿ et V ⊆ R^p des ouverts et soient f : U → V et g : V → R^q des applications C^∞. Alors g◦f : U→R^q estC^∞ et l’on a

d_x(g◦f) =d_f(x)g◦d_xf, ∀x∈U.

D’autre part, la diff´erentielle de id_U est, en tout point, l’application identique de Rⁿ.

Définition 7.20. — Soient U ⊆ Rⁿ et V ⊆ R^p des ouverts et soit f : U → V une application C^∞. On dit que f est un diff´eomorphisme (de classe C^∞) si f est bijectif et si l’application r´eciproquef⁻¹ : V→U est de classe C^∞.

Dans ce cas, le th´eor`eme pr´ec´edent nous dit que les applications lin´eaires d_xf :Rⁿ−→R^p et d_f(x)f⁻¹:R^p −→Rⁿ

sont inverses l’une de l’autre. Ceci implique, en particulier, quen=p.

Remarque 7.21. — Une bijection C^∞ n’est pas n´ecessairement un diff´eomor- phisme, par exemple, l’applicationx7→ x³, deR dansR, est C^∞ et bijective, mais son inverse y7→ √³

y n’est pas d´erivable en 0.

Théorème 7.22(Théorème d’inversion locale). — Soient U un ouvert de Rⁿ et f : U→Rⁿ une application C^∞, et soitx₀ ∈U tel que d_x0f soit inversible.

Alors il existe un voisinage ouvertV de x₀ dansU tel quef(V) soit ouvert et f induise un diff´eomorphisme de V sur f(V).

D´emonstration. — Voir [Ca, 1`ere partie, Chap. I, sec. 4], ou [Le, Chap. I,

§4.A ].

Définition 7.23. — Soient U un ouvert de Rⁿ et f : U → Rⁿ une application C^∞. On dit que f est un diff´eomorphisme local sid_xf est inversible, pour toutx∈U.

Dans ce cas, tout x∈ U poss`ede un voisinage ouvert assez petit V tel que f(V) soit ouvert etf induise un diff´eomorphisme de V sur f(V).

Exemples 7.24. — 1) L’application exponentielle exp : C→ C^∗ est un diff´eo- morphisme local. (Et, ´evidemment, exp est un diff´eomorphisme R−→^∼ R^∗₊.)

2) Pour toutk∈N^∗, l’applicationC^∗ →C^∗,z7→z^kest un diff´eomorphisme local.

Remarque 7.25. — Les deux exemples pr´ec´edents sont reli´es, en ce sens que l’on a le diagramme commutatif ci-dessous :

C −−−−→^x7→kx C

exp

 y

 y^exp

C^∗ −−−−→^z7→zk C^∗.

Remarque 7.26. — G´en´eralisant l’exemple 1) pr´ec´edent, on verra plus loin que, pourK=RouCetn>1 l’application exponentielle exp : M_n(K)→GL_n(K) est un diff´eomorphisme local.

7.3. Espace tangent en un point `a une sous-vari´et´e de R<sup>N</sup>. — Soient X une sous-vari´et´e deR<sup>N</sup>, de dimensionn, etx<sub>0</sub> ∈X. Il y a plusieurs mani`eres de d´efinir l’espace tangent `a X en x₀. La plus intuitive est peut-ˆetre de dire que c’est l’ensemble des vecteurs vitesse en x₀ des courbes passant par x₀. Définition 7.27. — On note T_x0X le sous-ensemble deR^N form´e des vecteurs

f⁰(0) = lim

t→0

f(t)−x₀

t ,

o`u f une application C^∞: ]−ε, ε[→X telle que f(0) =x₀.

Remarque 7.28. — Si n = N et si X = U est un ouvert de Rⁿ, la d´efinition pr´ec´edente donne bien, pour tout x₀ ∈U,

T_x0U =Rⁿ.

En effet, soit (e₁, . . . , e_n) la base standard de Rⁿ. Comme U est ouvert, il existeε >0 tel quex₀+te_i ∈U pour |t|< ε, et alorsf(t) =x₀+te_i est une application C^∞: ]−ε, ε[→X telle quef(0) =x₀ et f⁰(0) =e_i.

Il n’est pas imm´ediatement ´evident, d’apr`es la d´efinition 7.27, que T_x0X est un sous-espace vectoriel deR^N. Ceci r´esulte de la proposition suivante.

Proposition 7.29. — Soient X une sous-vari´et´e de R^N de dimension n, et x∈ X. Alors T_xX est un sous-espace vectoriel de dimension nde R^N

D´emonstration. — Par hypoth`ese, il existe des ouverts U_x et V_x deR^N, avec x∈U et 0∈V, et un diff´eomorphisme C^∞

(∗) φ: U−→^∼ V tel que (

φ(x) = 0,

U∩X =φ⁻¹(V∩(Rⁿ× {0})). Soit v∈Rⁿ, et soitε >0 tel que

|t|< ε⇒tv∈V_xT

(Rⁿ× {0}).

Alors la courbe f : ]−ε, ε[→X,t7→φ⁻¹(tv) est C^∞ et l’on a : f(0) =x et f⁰(0) =d_xφ⁻¹(v).

Ceci montre que d_xφ⁻¹(Rⁿ)⊆T_xX.

R´eciproquement, siv∈T_xX, il existe un intervalle I = ]−ε, ε[ et une courbe C^∞ f : I → X telle que f(0) = x et v =f⁰(0) ; alors φ◦f : I → Rⁿ est une courbe C^∞ telle que

(φ◦f)(0) = 0 et d_xφ(v) =d_x(φ◦f)(0)∈Rⁿ. Ceci montre que d_xφ(T_xX)⊆Rⁿ. Il en r´esulte qu’on a l’´egalit´e

T_xX =d_xφ⁻¹(Rⁿ× {0}),

ce qui montre que T_xX est un sous-espace vectoriel de R^N, de dimension n.

De plus, l’´egalit´e ci-dessus a lieu pour toutφv´erifiant (∗).

La d´efinition pr´ec´edente n’est en g´en´eral pas pratique pour calculer T_xX.

Mais on a la seconde approche suivante.

Soit X une sous-vari´et´e deR^Nde dimensionn, soitx∈X, et soitφ: U−→^∼ V v´erifiant la condition (∗) pr´ec´edente. Soient φ₁, . . . , φ_N les composantes de φ.

Alors,φ_n+1, . . . , φ_Nsont identiquement nulles sur le voisinage X∩U dexdans X, tandis que (φ₁, . . . , φ_n) induit un diff´eomorphisme de X∩U sur un voisinage de 0 dans Rⁿ. On dit que (φ₁, . . . , φ_n) forme un syst`eme de coordonn´ees locales sur X au voisinage dex.

Proposition 7.30. — T_xX =T_N

i=n+1Kerd_xφ_i.

D´emonstration. — Par hypoth`ese,φest un diff´eomorphisme entre des ouverts U,V de R^N, tels que x ∈ U et φ(x) = 0 ∈ V. Alors, la diff´erentielle d_xφ est inversible ; c’est l’application lin´eaire

R^N−→R^N

dont les composantes sont les formes lin´eaires d_xφ_i, pour i = 1, . . . ,N. C.-`a- d., si on ´ecrit la matrice de d<sub>x</sub>φ dans la base standard de R<sup>N</sup>, alors la i-`eme ligne de la matrice correspond `a la forme lin´eaired_xφ_i. Comme la matrice est inversible, les formes lin´eairesd_xφ₁, . . . , d_xφ_Nsont lin´eairement ind´ependantes, et il en r´esulte que

dim_R T^N

i=n+1

Kerd_xφ_i = N−(N−n) =n.

D’autre part, soit f : I→X une courbe C^∞ telle que f(0) =x. Pour |t|assez petit, on af(t)∈X∩U d’o`u, pour i=n+ 1, . . . ,N, φ_i(f(t)) = 0, et donc

0 = (φ_i◦f)⁰(0) =d_xφ_i(f⁰(0)).

Ceci montre que T_xX = T_N

i=n+1Kerd_xφ_i, et comme ils sont tous deux de dimensionn, on a l’´egalit´e. La proposition est d´emontr´ee.

Exemple 7.31. — Soit S² = {(x, y, z) ∈ R³ | x²+y² +z² = 1} et soit p₀ le point (0,0,1). Alors, au voisinage dep₀ l’application

φ: (x, y, z)7→(x, y, x²+y²+z²−1)

est un diff´eomorphisme d’un voisinage ouvert U dep₀ dansR³ (explicitement, le demi-espace z > 0) sur un voisinage de 0 dans R³; le diff´eomorphisme inverse ´etant

ψ: (x, y, z⁰)7→(x, y,p

z⁰+ 1−x²−y²).

Alorsφ₃ =x²+y²+z²−1, d’o`u d<sub>p0</sub>φ<sub>3</sub> = 2dz. On retrouve ainsi que l’espace tangent `a S² en p₀ ´egale Kerdz = le plan horizontal passant parp₀.

Dans l’exemple ci-dessus, on a montr´e explicitement que l’´equation de la sph`ere F =x<sup>2</sup>+y<sup>2</sup>+z<sup>2</sup>−1 faisait partie d’un syst`eme de coordonn´ees locales au voisinage de p₀, afin de pouvoir appliquer la proposition pr´ec´edente. Il ne serait pas commode de faire de mˆeme dans le cas g´en´eral d’une sous-vari´et´e X de R^N d´efinie par des ´equations f₁, . . . , f_p, par exemple pour montrer que le groupe orthogonal

O(n) ={A∈M_n(R)|^tAA = I_n}

est une sous-vari´et´e et d´eterminer son espace tangent en l’identit´e. Heureuse- ment, on dispose des r´esultats g´en´eraux suivants.

7.4. Sous-vari´et´es d´efinies par des ´equations de rang constant. — Soit Ω un ouvert de Rⁿ et soient f₁, . . . , f_p des applications Ω→ R de classe C^∞. On va montrer que, sous certaines hypoth`eses, l’ensemble

X ={x∈Ω|f_i(x) = 0, ∀i= 1, . . . , p}

est une sous-vari´et´e deRⁿ. Introduisons l’application C^∞ f : Ω−→R^p, x7→(f₁(x), . . . , f_p(x)).

Alors, X ={x∈Ω|f(x) = 0}.

Remarque 7.32. — Il est parfois plus commode de travailler avec l’application f : Ω→R^pqu’avec ses composantes (f₁, . . . , f_p). Par exemple, prenant l’ouvert GL_k(R) de M_k(R) et l’application C^∞

f : GL_k(R)−→M_k(R), A7→^tAA−I_k

on obtiendra plus bas que le groupe orthogonal O(k) est un sous-groupe de Lie ferm´e de GL_n(R), de dimensionk(k−1)/2.

Revenons au cas g´en´eral. La diff´erentielledf a pour composantesdf₁, . . . , df_p et, dans les bases standard de Rⁿ et R^p, chaque d_xf est repr´esent´e par la matrice

d_xf =





∂f1

∂x1 · · · _∂x^∂f_n¹ ... . .. ...

∂fp

∂x1 · · · _∂x^∂fp_n



(x).

Définition 7.33. — Le rang r(x) de cette matrice est le rang de d_xf; on l’ap- pelle aussi le rang de (df₁, . . . , df_p) en x. C’est la dimension du sous-espace de (Rⁿ)^∗ engendr´e par les formes lin´eaires d_xf₁, . . . , d_xf_p. Par cons´equent, on a

dim_R T^p

i=1

Kerd_xf_i =n−r(x).

Définition 7.34. — On dit que f est de rang constant sur Ω si r(x) est constant sur Ω.

Pour touty∈f(Ω), on pose X_y =f⁻¹(y).

Théorème 7.35(Théorème du rang constant). — Soient Ω un ouvert de Rⁿ et f : Ω→ R^p une application C^∞ de rang constant r. Alors, X_y est une sous- vari´et´e de Rⁿ de dimension n−r, pour tout y ∈ f(Ω). De plus, pour tout x∈X_y, on a

T_xX_y = Kerd_xf = T^p

i=1

Kerd_xf_i.

D´emonstration. — Voir [Le, Chap. I,§4.A] ou [Laf, Chap. I, Ex. 10].

Exemple 7.36. — La sph`ere S² est d´efinie par l’´equation 0 =f(x, y, z) =x²+y²+z²−1.

Alorsdf = 2(xdx+ydy+zdz) est de rang maximum 1 en tout point deR³autre que (0,0,0) et le th´eor`eme permet de retrouver que S² est une sous-vari´et´e de R³ et que son espace tangent en tout pointp est Kerd_pf.

Remarque 7.37. — Un cas particulier du th´eor`eme du rang constant (qui est parfois appel´e «th´eor`eme de la subimmersion», cf. [Le]), est le «th´eor`eme de l’immersion», voir [Laf, I.21] ou [Le, Chap. I, 4.A.I]. Une cons´equence du th´eor`eme de l’immersion dont nous aurons besoin est la suivante (voir [Laf, I.22] ou [Le, p. 76, Prop. 4]).

Proposition 7.38. — Soient X et Y des sous-vari´et´es de R^m et Rⁿ et soit f : X→ Rⁿ une application C^∞ telle que f(X)⊆Y. Alors f est une application C^∞ de X versY.

Théorème 7.39(Groupe orthogonalO(n)). — Le groupe orthogonal O(n) ={A∈GL_n(R)|^tAA = I_n}

est une sous-vari´et´e de GL_n(R), et donc un groupe de Lie. Sa dimension est n(n−1)/2; plus pr´ecis´ement, pour tout g∈O(n), on a

T_gO(n) ={gX|X∈AS_n(R)},

o`u AS_n(R) d´esigne le sous-espace des matrices antisym´etriques.

D´emonstration. — Comme l’application

M_n(R)×M_n(R)−→M_n(R), (A,B)7→^tAB

est bilin´eaire, sa diff´erentielle en tout point (A,B) est l’application lin´eaire M_n(R)×M_n(R)−→M_n(R), (X,Y)7→^tXB + AY.

On en d´eduit que l’applicationf : A7→^tAA−I_n a pour diff´erentielle, en tout point A₀ ∈GL_n(R), l’application lin´eaire

M_n(R)−→M_n(R), X7→^tXA₀+^tA₀X, d’o`u

Kerd_A0f ={^tA⁻¹₀ X|X∈AS_n(R)}.

Donc, f est de rang constant sur GL_n(R) et, bien sˆur, f(I_n) = 0. Alors, il r´esulte du th´eor`eme du rang constant que O(n) =f⁻¹(0) est une sous-vari´et´e ferm´ee de GL_n(R), de dimensionn(n−1)/2 et que, pour toutg∈O(n), on a

T_gO(n) = Kerd_gf =gAS_n(R).

Enfin, posant G = O(n), l’application

G×G−→GL_n(R), (A,B)7→AB⁻¹

est C^∞et applique G×G dans G. Donc, d’apr`es la proposition 7.38, G = O(n) est un groupe de Lie.

S´eance du 18/9 . . . 1

1. Groupes topologiques . . . 1

2. Interlude sur les repr´esentations de groupes finis . . . 3

3. Mesure de Haar sur un groupe compact . . . 5

3.1. Repr´esentations r´eguli`eres gauche et droite . . . 5

3.2. Int´egration invariante . . . 6

3.3. Th´eor`eme du point fixe de Kakutani . . . 6

S´eance du 19/9 . . . 9

3. Mesure de Haar sur un groupe compact (suite) . . . 9

3.4. Mesures de Radon . . . 11

3.5. Mesure de Haar sur un groupe compact . . . 12

4. Repr´esentations unitaires et th´eor`eme de Peter-Weyl . . . 16

4.1. Repr´esentations continues . . . 16

4.2. Repr´esentations unitaires . . . 17

4.3. Op´erateurs compacts . . . 18

4.4. Op´erateurs `a noyaux . . . 19

S´eance du 25/9 . . . 21

5. L’alg`ebre des «fonctions repr´esentatives» . . . 21

5.1. Coefficients matriciels . . . 21

5.2. Fonctions repr´esentatives . . . 23

5.3. Cas des groupes compacts . . . 24

5.4. Schur, Burnside et produits tensoriels . . . 25

5.5. R´esultats sur les modules semi-simples . . . 26

5.6. Appendice : preuve du th´eor`eme de Burnside . . . 28

4. Th´eor`eme de Peter-Weyl (suite) . . . 29

4.4. Op´erateurs `a noyaux . . . 29

S´eance du 26/9 . . . 35

4.5. Une cons´equence du th´eor`eme de Peter-Weyl . . . 35

6. Sous-groupes ferm´es de GL_n(R) . . . 36

6.1. Alg`ebres de Lie . . . 36

6.2. Propri´et´es de l’exponentielle . . . 36

6.3. L’alg`ebre de Lie d’un sous-groupe ferm´e de GL_n(R) . . . 39

6.4. Composante connexe d’un groupe topologique . . . 40

7. Groupes de Lie . . . 42

7.1. Vari´et´es diff´erentiables . . . 42

S´eance du 2 octobre . . . 45

7. Groupes de Lie (suite) . . . 45

7.1. Vari´et´es diff´erentiables (suite) . . . 45

7.2. «Rappels»de calcul diff´erentiel . . . 47

7.3. Espace tangent en un point `a une sous-vari´et´e deR^N . . . 50

7.4. Sous-vari´et´es d´efinies par des ´equations de rang constant . . . 52

Bibliographie . . . i

Bibliographie

[Ad] J. F. Adams, Lectures on Lie groups, Univ. Chicago Press, 1969.

[Am] Y. Amice, Les nombres p-adiques, P.U.F., 1975.

[Bl] A. Blanchard, Les corps non commutatifs, P.U.F., 1972.

[BA8] N. Bourbaki, Alg`ebre, Chap. 8, 1958.

[BL1] N. Bourbaki, Groupes et alg`ebres de Lie, Chap.1, 1971.

[BL4-6] N. Bourbaki, Groupes et alg`ebres de Lie, Chap. 4–6, 1968.

[BS] M. Brion, G. Schwarz, Th´eorie des invariants & G´eom´etrie des vari´et´es quotients, Hermann, 2000.

[BtD] Th. Br¨ocker, T. tom Dieck, Representations of compact Lie groups, Springer 1985 (3rd printing, 2003).

[Ca] H. Cartan, Cours de calcul diff´erentiel, Hermann, nouvelle ´edition, refondue et corrig´ee, 1977.

[Di74] J. Dixmier, Alg`ebres enveloppantes, Gauthier-Villars, 1974 [Di81] J. Dixmier, Topologie g´en´erale, P.U.F., 1981.

[DK] J. J. Duistermaat, J. A. C. Kolk, Lie groups, Springer, 2000.

[Fa] J. Faraut, Analyse sur les groupes de Lie, Calvage & Mounet, 2005.

[Go] R. Godement, Introduction `a la th´eorie des groupes de Lie, Publ.

Math. Paris VII, 1982, et Springer, 2004.

[He] I. N. Herstein, Noncommutative rings, Carus Math. Monogr., 1968, nouveau tirage, 1994.

[Ho] G. P. Hochschild, The structure of Lie groups, Holden-Day, 1965, trad.

fran¸caise : La structure des groupes de Lie, Dunod, 1968.

[Hu] J. E. Humphreys, Introduction to Lie algebras and representation theory, Springer-Verlag, 1972, third printing, revised, 1980.

[Jac] N. Jacobson, Lie algebras, Wiley, 1962, Dover, 1979.

[Ka] V. Kac, Infinite-dimensional Lie algebras, Birkh¨auser 1983, 3rd edi- tion, Cambridge Univ. Press, 1990.

[Laf] J. Lafontaine, Introduction aux vari´et´es diff´erentielles, Presses Univ.

Grenoble, 1996.

[La] S. Lang, Algebra, Addison-Wesley, 1965. Traduction fran¸caise de la 3`eme ´edition :Alg`ebre, Dunod, 2004.

[Le] D. Leborgne, Calcul diff´erentiel et g´eom´etrie, P.U.F., 1982.

[Pi] G. Pichon, Groupes de Lie : repr´esentations lin´eaires et applications, Hermann, 1973.

[Ro] A. Robert, Introduction to the representation theory of compact and locally compact groups, Cambridge Univ. Press, 1983.

[Ru73] W. Rudin, Functional analysis, McGraw-Hill, 1973.

[Ru75] W. Rudin, Analyse r´eelle et complexe, Masson, 1975.

[Se] J.-P. Serre, Alg`ebres de Lie semi-simples complexes, Benjamin, 1965, Complex semisimple Lie algebras, Springer, 2001.

[Va84] V. S. Varadarajan, Lie groups, Lie algebras, and their representations, Prentice-Hall 1974, Springer 1984.

[Wa] F. W. Warner, Foundations of differentiable manifolds and Lie groups, Scott & Foresman, 1971, Springer, 1983.

[Zi] R. Zimmer, Essential results of functional analysis, Univ. Chicago Press, 1990.