Chap.1

Patrick Polo

COURS DE M2

GROUPES ALGÉBRIQUES

UNIVERSITÉ PIERRE ET MARIE

CURIE 2005-2006

Université Paris VI, Institut de Mathématiques,, 175 rue du Chevaleret, 75013 Paris.

E-mail : [email protected]

COURS DE M2

GROUPES ALGÉBRIQUES

UNIVERSITÉ PIERRE ET MARIE CURIE 2005-2006

Patrick Polo

CHAPITRE 1

GROUPES ALGÉBRIQUES AFFINES ET ALGÈBRES DE HOPF

Version du 9 novembre 2005

Dans tout ce chapitre, le corps de basekest algébriquement clos, de carac- téristique arbitraire.

1. Groupes algébriques affines et représentations 1.1. Groupes algébriques affines. —

Définition 1.1. — 1) Ungroupe algébrique affinesurkest une variété algébrique affine G sur k, munie d’une structure de groupe telle que les applications µ: G×G→ G, (x, y) 7→ xy, et κ :G→ G, x 7→ x⁻¹ soient des morphismes de variétés.

2) Un morphisme de groupes algébriques φ :G→ G⁰ est un morphisme de variétés algébriques qui est aussi un morphisme de groupes. C’est un isomor- phisme s’il existe un morphismeψ:G⁰ →Gtel queψ◦φ=id_Getφ◦ψ=id_G⁰. Remarque 1.2. — De façon plus générale, on peut introduire la notion de groupe algébrique sur k, non nécessairement affine. Dans ce cours, on se limitera exclusivement aux groupes algébriques affines.

Lemme 1.3. — SoitGun groupe algébrique affine etH une sous-variété fermée de Gqui est un sous-groupe. AlorsH est un groupe algébrique affine. On dira simplement queH est un sous-groupe fermé de G.

Démonstration. — Par hypothèse, H est une sous-variété fermée de G. La restriction µ_H de µ_G à H est un morphisme de H×H dans H. De même, la restriction κ_H de κ à H est un morphisme H → H. Ceci montre que H

est un groupe algébrique, et l’inclusion H ⊆G est un morphisme de groupes algébriques.

1.2. Exemples de groupes algébriques affines. — 1) Le groupe additif G_a = (k,+). Il est clair que µ : (x, y) 7→ x +y et κ : x 7→ −x sont des morphismes.

2) Le groupe multiplicatif G_m = (k^∗,×). D’abord, la première projection k² →kinduit un isomorphismek^∗ ∼={(x, y)∈k² |xy= 1}, donck^∗s’identifie à une sous-variété fermée dek², et

k[G_m] =k[X, T]/(XT −1) =k[X, X⁻¹].

Les applications µ : (x, y) 7→ xy et κ : x 7→ x⁻¹ sont des morphismes (car x7→x⁻¹ est une fonction régulière surk^∗).

3) Le groupe linéaireGL_n(k) s’identifie à :

{(A, t)∈M_n(k)×k|(détA)t= 1}, qui est une sous-variété fermée de kⁿ²⁺¹, et l’on a

k[GL_n] =k[X_1,1, . . . , X_n,n,dét⁻¹].

La multiplication est un morphisme, car(AB)_i,j =P_n

m=1A_i,mB_m,j; le passage à l’inverse aussi, carA⁻¹=dét(A)⁻¹C(A)^t, oùC(A)^tdésigne la transposée de la matrice des cofacteurs deA.

4) Le groupe spécial linéaire SL_n(k) = {A ∈ M_n(k) | détA = 1} est un sous-groupe fermé de GL_n(k).

5) Le sous-groupe des matrices triangulaires supérieures : B_n(k) = {A ∈ GL_n(k)|A_i,j = 0, pour i > j} est un sous-groupe fermé deGL_n(k).

6) Le sous-groupe des matrices triangulaires unipotentes : U_n(k) = {A ∈ B_n(k)|A_i,i= 1, pour i= 1, . . . , n} est un sous-groupe fermé de B_n(k).

7) Le sous-groupe D_n(k) des matrices diagonales est un sous-groupe fermé de B_n(k).

8) Tout groupe finiG est, de façon unique, un groupe algébrique. L’algèbre k[G]estL

g∈Gkδ_g etk[G×G]s’identifie àk[G]⊗k[G]. Le comorphisme de la multiplication µ:G×G→Gest

µ^∗:k[G]→k[G]⊗k[G], δ_g7→ X

h∈G

δ_gh−1 ⊗δ_h. Le comorphisme deκ:g7→g⁻¹ estκ^∗:k[G]→k[G],δ_g 7→δ_g⁻¹.

1. GROUPES ALGÉBRIQUES AFFINES ET REPRÉSENTATIONS 3

9) Plus compliqué et plus intéressant est le cas de PGL_n. On peut définir PGL_n comme le sous-groupe de GL(M_n(k)) formé des automorphismes d’al- gèbres. On sait, d’après le théorème de Skolem-Noether, que tout automor- phisme deM_n(k) est intérieur, et est donc de déterminant 1. Par conséquent, PGL_n est un sous-groupe deSL(M_n(k)). Sig= (g^ij_pq)1≤i,j,p,q≤n est un élément deSL(M_n(k)), on vérifie quegest un automorphisme d’algèbres si et seulement si

g(id) =id et g(E_ij)g(E_{r`</sub>) =δ<sub>jr</sub>q(E<sub>i`}), et ceci équivaut aux équations suivantes :

(†)

Xn

s=1

g_pq^ss=δ_pq,

Xn

s=1

g^ij_psg^{r`</sup><sub>sq</sub>=δ<sub>jr</sub>g<sub>pq</sub><sup>i`},

pour tout p, q, i, j, r, `. On peut montrer que l’idéal engendré par ces éléments est réduit (c.-à-d., égal à sa racine), et contient l’élément dét−1, où dét est le déterminantGL(M_n(k))→k^∗. (En effet, on vérifie que l’espace tangent en id_Mn(k) à la variété définie par (†) est de dimension n² −1, ce qui entraîne l’assertion précédente). Par conséquent, PGL_n a pour algèbre de fonctions régulières :

k[PGL_n] =k[X_pq^ij |1≤i, j, p, q≤n]/relations(†).

D’autre part, l’application Ad : GL_n→PGL_n,g7→Int(g) (oùInt(g) est l’au- tomorphisme intérieurX7→gXg⁻¹) est un morphisme de groupes algébriques.

En effet, on vérifie que

X_pq^ij(Int(g)) =dét(g)⁻¹a_pi(g)C_qj(g),

où a_rs(g), resp. C_rs(g), désigne le coefficient d’indice (r, s) de g, resp. de sa matrice des cofacteurs.

De plus, la restriction deAdàSL_nest surjective, et donck[PGL_n]s’identife à la sous-algèbre de k[SL_n]engendrée par les éléments

(‡) a_piC_qj, pouri, j, p, q= 1, . . . , n.

Ceci montre déjà que plusieurs points de vues sont nécessaires : on préfère considérer PGL_n(k) comme le quotient GL_n(k)/k^∗, plutôt que de considérer l’une des algèbres ci-dessus.

Indication L’espace tangent précité est l’ensemble des matrices X = (X_pq^ij) ∈ M_n(k) telles que la matrice id+εX ∈ M_n(k[ε]) vérifie les équations (†). On trouve que X_pq^ij = 0si i6=p etj6=q; si i=p etj6=q (resp., si i6=p etj=q) alors

E_q,j :=X_iq^ij, resp.E_p,i⁰ :=X_pj^ij

est indépendant dei(resp. dej), etE_q,p+E_p,q⁰ = 0. Enfin, pouri=petj=q, posant H_i,j =X_ij^ij, on a les relations :

H_i,j+H_{j,`</sub>=H<sub>i,`},

d’où l’on tire : H_i,i = 0, puis H_j,i=−H_i,j, et enfin, pour touti < j : H_i,j =H_i+· · ·+H_j−1,

où l’on a posé H_i := H_i,i+1 pour i = 1, . . . , n−1. Ceci montre que l’espace tangent considéré est engendré par les n(n−1) éléments E_i,j, pouri 6=j, et les n−1éléments H_i, pour i= 1, . . . , n−1, donc est de dimension ≤n²−1.

1.3. Algèbres de Hopf. — Soient G un groupe algébrique affine et k[G]

son algèbre des fonctions régulières. Alors k[G]⊗k[G] s’identifie à k[G×G]

par le morphisme qui à tout φ⊗ψ associe l’application (g, g⁰) 7→ φ(g)ψ(g⁰).

Donc, le comorphisme de la multiplication µ:G×G→ Gest un morphisme d’algèbres

∆ =µ^∗ :k[G]−→k[G]⊗k[G].

Pour toutφ∈k[G],∆(φ)est une somme finieP

iφ_i⊗ψ_iet, pour toutg, g⁰ ∈G, l’on a

φ(gg⁰) = (φ◦µ)(g, g⁰) = ∆(φ)(g, g⁰) =X

i

φ_i(g)ψ(g⁰).

De même, le comorphisme deκ:g7→g⁻¹est le morphisme d’algèbresτ =κ^∗: k[G]→k[G]tel que τ(φ)(g) =φ(g⁻¹)pour tout g∈G.

L’associativité deµse traduit par µ◦(µ×id_G) =µ◦(id_G×µ) (égalité de morphismes G×G×G→G) ; ceci équivaut à l’égalité

(Ass) (∆⊗id_k[G])◦∆ = (id_k[G]⊗∆)◦∆, qui exprime la coassociativitéde ∆.

Notonsε=ε_e, oùeest l’élément neutre deGet désignons par ul’inclusion de k dansk[G]et parm :k[G]⊗k[G]→k[G] la multiplication dansk[G]. La propriété eg=g=gepour tout g se traduit par

(Neutre) (ε⊗id_k[G])◦∆ =id_k[G]= (id_k[G]⊗ε)∆.

(On fait les identifications k⊗k[G] = k[G] = k[G]⊗k.) Enfin, la propriété gg⁻¹=e=g⁻¹g se traduit par

(Inv) m◦(τ ⊗id_k[G])◦∆ =u◦ε=m◦(id_k[G]⊗τ)◦∆.

Ces propriétés constituent les axiomes définissant la notion d’algèbre de Hopf (commutative).

1. GROUPES ALGÉBRIQUES AFFINES ET REPRÉSENTATIONS 5

Définition 1.4. — 1) SoitA unek-algèbre commutative. On dit queA est une algèbre de Hopf si l’on s’est donné trois morphismes d’algèbres

∆ :A→A⊗A, ε:A→k, τ :A→A

vérifiant les axiomes ci-dessus. Dans ce cas,∆ s’appelle la comultiplication,ε l’augmentation (ou co-unité), et τ l’antipode.

2) Un morphisme d’algèbres de Hopf φ : A → B est un morphisme d’al- gèbres qui respecte la comultiplication, l’augmentation et l’antipode, c.-à-d.,

qui vérifie : 





∆_B◦φ = (φ⊗φ)◦∆_A; ε_B◦φ =ε_A;

τ_B◦φ =φ◦τ_A.

Remarque 1.5. — On renvoie à [Abe, Chap.2] ou [Ho, Chap.I] pour la défini- tion d’unek-algèbre de Hopf arbitraireH, c.-à-d., non nécessairement commu- tative. On prendra garde que dans ce cas l’antipode n’est pas un morphisme d’algèbres, mais un anti-homomorphisme, c.-à-d., on a τ(ab) =τ(b)τ(a) pour touta, b∈H.

Si G est un groupe algébrique affine, on a vu plus haut que son algèbre de fonctions k[G] est une algèbre de Hopf commutative. Réciproquement, on a la proposition suivante. On note m_k : k⊗k → k la multiplication ; c’est un isomorphisme dek-algèbres. Plus généralement, pour toutek-algèbreS on notera m_S :S⊗S→S la multiplication, etu_S l’inclusionk→S.

Proposition 1.6. — SoitA une k-algèbre de Hopf commutative.

1) χ(A) := Hom_k-alg(A, k) est un groupe, pour la loi χ·χ⁰ =m_k◦(χ⊗χ⁰)◦∆.

L’élément neutre est l’augmentation ε, et pour tout χ ∈χ(A) son inverse est χ⁻¹ =χ◦τ.

2) Plus généralement, pour toute A-algèbre commutative S, l’ensemble G(S) := Hom_k-alg(A, S) est un groupe, pour la loi

φ·ψ=m_S◦(φ⊗ψ)◦∆.

L’élément neutre estu_S◦ε, et pour toutφ∈G(S), son inverse estφ⁻¹ =φ◦τ. Démonstration. — Démontrons 2), dont 1) est un cas particulier. On observe d’abord que la commutativité de S assure que φ·ψ est un morphisme de k-algèbres de Avers S. Ce point est laissé au lecteur.

Montrons l’associativité. Soient φ, ψ, η∈G(S). On vérifie que (φψ)η est le morphisme

m_S◦(m_S⊗id_S)◦(φ⊗ψ⊗η)◦(∆⊗id_A)◦∆, de Adans S, tandis queφ(ψη) égale

m_S◦(id_S⊗m_S)◦(φ⊗ψ⊗η)◦(id_A⊗∆)◦∆.

Orm_S(id_S⊗m_S) =m_S(m_S⊗id_S), par associativité dem_S, et (id_A⊗∆)∆ = (∆⊗id_A)∆par coassociativité de ∆. Ceci prouve que (φψ)η=φ(ψη).

Soitφ∈G(S). On a

(u_S◦ε)·φ=m_S◦(u_S⊗φ)◦(ε⊗id_A)◦∆,

et comme (ε⊗id_A)∆ : A → k⊗A = A est l’identité, on en déduit que (u_S◦ε)·φ=φ. On montre de même queφ·(u_S◦ε) =φ.

De plus, commeφ:A→Sest un morphisme d’algèbres, on am_S◦(φ⊗φ) = φ◦m_A, etφ◦u◦ε=u_S◦ε. Par conséquent,(φτ)·φ égale

m_S(φ⊗φ)(τ ⊗id_A)∆ =φm_A(τ ⊗id_A)∆ =φuε=u_Sε.

On montre de même que φ·(φτ) =u_Sε. Ceci prouve la proposition.

Corollaire 1.7. — Si A est unek-algèbre de Hopf commutative de type fini ré- duite, alors Max(A) =χ(A) est un groupe algébrique affine.

Démonstration. — L’égalitéMax(A) =χ(A)résulte du théorème des zéros de Hilbert. Posons G=χ(A). Alors∆etτ induisent des morphismes de variétés algébriques affines :

µ= ∆^]:G×G→G et κ=τ^],

qui font de Gun groupe, l’élément neutre étant ε∈G. DoncG est un groupe algébrique affine.

De plus, les comorphismes deµ etκ sont∆etτ, respectivement.

Théorème 1.8. — Se donner un morphisme de groupes algébriques affinesG→ G⁰ équivaut à se donner un morphisme d’algèbres de Hopf k[G⁰]→k[G].

Démonstration. — Se donner un morphisme de variétésφ:G→G⁰ équivaut à se donner le morphisme de k-algèbres φ^∗ :k[G⁰]→ k[G]. De plus, φ est un morphisme de groupes si, et seulement si, il vérifie

φ◦µ_G=µ_G⁰◦(φ×φ), φ(1_G) = 1_G⁰, φ◦κ_G=κ_G⁰◦φ,

2. REPRÉSENTATIONS DES GROUPES ALGÉBRIQUES AFFINES 7

oùκdésigne le passage à l’inverse. (En fait, la 1ère condition implique les deux autres). Ceci équivaut à ce que φ^∗ vérifie

∆_G◦φ^∗ = (φ^∗⊗φ^∗)◦∆_G⁰, ε_G◦φ^∗=ε_G⁰, τ_G◦φ^∗ =φ^∗◦τ_G⁰, c.-à-d., soit un morphisme d’algèbres de Hopf.

1.4. Exemples du point de vue Hopf. — 1) Le groupe additifG_a. On a k[G_a] =k[x],∆(x) =x⊗1 + 1⊗x,τ(x) =−x,ε(x) = 0.

2) Le groupe multiplicatif G_m. On a k[G_m] = k[x, x⁻¹], ∆(x) = x⊗x, τ(x) =x⁻¹,ε(x) = 1.

3) Le groupe linéaireGL_n. On a

k[GL_n] =k[t, x_1,1, . . . , x_n,n]/(tdét(x_i,j)−1).

La comultiplication correspond à la règle qui exprime le produit de deux ma- trices, c.-à-d.,

∀i, j, ∆(x_i,j) = Xn

r=1

x_i,rx_r,j,

et, comme dét(AB) = dét(A)dét(B), l’on a ∆(t) = t⊗t. L’augmentation ε est le morphisme « évaluation sur la matrice identité », d’oùε(x_i,j) =δ_i,j pour tout i, j, et ε(t) = 1. Enfin, l’antipode τ se déduit de la règle qui exprime l’inverse deAcomme1/dét(A)fois la transposée de la matrice des cofacteurs, c.-à-d., on a

∀i, j, τ(x_i,j) =t(−1)^i+jdét(x_r,s)_{r6=j, s6=i}.

Enfin, comme t(A) = dét(A)⁻¹, on a τ(t)(A) = dét(A) pour tout A, d’où τ(t) =dét(x_i,j).

2. Représentations des groupes algébriques affines

Commençons par une section sur les comodules, plus détaillée que ce dont on aura besoin dans la suite.

2.1. Cogèbres et comodules. —

Définition 2.1. — Une k-cogèbre est un k-module C muni de deux applica- tions k-linéaires ∆ : C → C⊗C et ε : C → k, vérifiant les deux axiomes suivants :

(1)(id_C ⊗∆)∆ = (∆⊗id_C)∆, (2)(ε⊗id_C)∆ =id_C = (id_C ⊗ε)∆.

∆, resp. ε s’appelle la comultiplication, resp. l’augmentation. L’axiome (1) exprime la coassociativité de la comultiplication, et on peut appeler (2) l’axiome de co-unité.

Un morphisme de k-cogèbres φ : C → C⁰ est une application k-linéaire vérifiant∆_C⁰◦φ= (φ⊗φ)◦∆_C etε_C⁰◦φ=ε_C.

Définition 2.2. — UnC-comodule(à droite) est unk-module V, muni d’une coaction ∆_V : V → V ⊗C, c.-à-d., une application k-linéaire vérifiant les axiomes suivants :

(1)(id_V ⊗ε)∆_V =id_V,

(2)(id_V ⊗∆)∆_V = (∆_V ⊗id_C)∆_V.

Un morphisme de C-comodules f : V → W est une application k-linéaire qui vérifie∆_W ◦f = (f⊗id_C)◦∆_V.

Il est clair que id_V est un morphisme, de même que la composée de deux morphismes. On obtient ainsi une catégorie, la catégorie C-comod des C- comodules.

Définition et proposition 2.3. — On dit que W est un sous-C-comodule de V si l’on a ∆_V(W) ⊆W ⊗C. Dans ce cas, on vérifie facilement que V /W est un C-comodule, et que la projection V →W est un morphisme deC-comodules.

Proposition 2.4. — Soit f : V → W un morphisme de C-comodules. Alors Kerf, resp Imf, est un sous-comodule de V, resp. de W, et l’on a un iso- morphisme de comodules V /Kerf ∼= Imf. Par conséquent, C-comod est une catégorie abélienne.

Démonstration. — Laissée au lecteur.

Incluons ici le lemme suivant, analogue de la restriction des scalaires pour les modules, c.-à-d., du fait que siA → B est un morphisme dek-algèbres et M un B-module, alorsM est aussi un A-module.

Lemme 2.5 (Corestriction des scalaires). — Soit φ:C →C⁰ un morphisme de k-cogèbres. Si V est un C-comodule, pour la coaction ∆_V :V →V ⊗C, alors c’est unC⁰-comodule, pour la coaction∆⁰_V = (id_V ⊗φ)∆_V.

Démonstration. — Laissée au lecteur.

Proposition 2.6 (Propriété de finitude des comodules). — Soit C une k-cogèbre et soit V un C-comodule arbitraire, c.-à-d., pas nécessairement de dimension finie.

2. REPRÉSENTATIONS DES GROUPES ALGÉBRIQUES AFFINES 9

1) Tout sous-espace vectoriel E de dimension finie est contenu dans un sous-comodule de dimension finie. Par conséquent, V est réunion de ses sous- comodules de dimension finie.

2) Toute intersection de sous-comodules est un sous-comodule. En particu- lier, pour tout sous-espace E de V il existe un plus petit sous-comodule E⁰ de V contenant E.

Démonstration. — Soit(c_λ)_λ∈Λ une base deC. Alors, tout élément deV ⊗C s’écrit de façon uniqueP

λv_λ⊗c_λ, pour desv_λ ∈V uniquement déterminés et nuls sauf pour un nombre fini deλ.

1) Soit E un sous-espace de V de dimension finie et soit (e₁, . . . , e_n) une base deE. Pour chaque i= 1, . . . , n, écrivons

∆_V(e_i) =X

λ

v_iλ⊗c_λ.

Soit F le sous-espace de V engendré par les v_iλ, il est de dimension finie.

De plus, F contient E puisque pour tout i on a e_i = (id_V ⊗ε)∆_V(e_i) = P

λv_iλε(c_λ). Montrons que ∆_V(F)⊆F⊗C.

Pour tout iet toutλ, écrivons

(1) ∆_V(v_iλ) =X

µ

v_iλµ⊗c_µ.

Alors on a, d’une part,

(2) (∆_V ⊗id_C)◦∆_V(e_i) =X

λ,µ

v_iλµ⊗c_µ⊗c_λ. D’autre part, pour chaque ν ∈ Λ, écrivons ∆(c_ν) = P

λ,µα_νλµ(ν)c_µ⊗c_λ, où les α_λµ(ν)∈ksont nuls sauf pour un nombre fini d’indices. Alors, on a, pour touti= 1, . . . , n,

(3) (id_V ⊗∆)◦∆_V(e_i) =X

λ,µ

ÃX

ν

α_λµ(ν)v_iν

!

⊗c_µ⊗c_λ.

Comme (∆_V ⊗id_C)◦∆_V = (id_V ⊗∆)◦∆_V, on en déduit, pour tout λ, µ, quev_iλµ égaleP

να_λµ(ν)v_iν donc appartient àF. D’après(1), ceci montre que

∆_V(F)⊆F⊗C, ce qui prouve le point 1).

2) Soit (W_i)_i∈I une famille arbitraire de sous-comodules et soit x ∈ W :=

T

i∈IW_i. Écrivons

∆_V(x) =X

λ

v_λ⊗c_λ.

Fixons un indice λ. Comme ∆_V(x)∈W_i⊗C, on av_λ ∈W_i pour touti, d’où v_λ ∈ W. Ceci montre que W est un sous-comodule de V. La dernière asser- tion en résulte, en prenantE⁰ égal à l’intersection de tous les sous-comodules contenantE. La proposition est démontrée.

2.2. Représentations rationnelles des groupes algébriques affines. — Définition 2.7. — SoitV un k-espace vectoriel de dimension finie. Unerepré- sentation rationnelledeGdansV est la donnée d’un morphisme de groupes algébriques ρ:G→GL(V).

Ceci équivaut à se donner un morphisme de variétésG×V →V,(g, v)7→gv qui est une action linéaire, c.-à-d., qui est linéaire enV et vérifieg(hv) = (gh)v etev=v, oùeest l’élément neutre deG. (On laisse au lecteur le soin de vérifier l’équivalence de ces deux définitions).

Lemme 2.8. — Soient n≥1etφ:G→GL_n(k)un morphisme de groupes. On note C_ij ∈k[GL_n(k)] les coefficients matriciels. Alors φest un morphisme de variétés si et seulement si C_ij ◦φ∈k[G], pour i, j= 1, . . . , n.

Démonstration. — La nécessité est claire. Réciproquement, si la condition est satisfaite alors on obtient un morphisme d’algèbres ϕ : k[M_n(k)] → k[G].

Désignons par D l’élément dét(C_i,j) de k[M_n(k)], et observons que ϕ(D) est un élément inversible de k[G], car ϕ(D)(g) = dét(φ(g)), d’où ϕ(D)⁻¹(g) = dét(φ(g⁻¹)). D’après la propriété universelle de la localisation,ϕs’étend en un morphisme d’algèbres de k[M_n(k)][D⁻¹] = k[GL_n(k)] vers k[G]. Ceci prouve le lemme.

Proposition 2.9. — SoitV un k[G]-comodule arbitraire.

a) V est muni de l’action linéaire deGdéfinie pargv= (id⊗ε_g)∆_V(v); de plus, on a la propriété suivante :

b) Un sous-espace vectoriel W de V estG-stable ssi ∆_V(W) ⊆W ⊗k[G], c.-à-d., ssi W est un sous-comodule.

c)Si dimV <∞, alors V est un G-module rationnel.

Démonstration. — a) Il faut vérifier queev =v etg(hv) = (gh)v, pour tout g, h∈G,v ∈V. Ceci résulte des axiomes de coaction (cf.2.2) et est laissé au lecteur.

Prouvons b). Il est clair que si ∆_V(W) ⊆W ⊗k[G] alorsW est G-stable.

Pour voir la réciproque, soitE un supplémentaire de W dans V. Soit v ∈W

2. REPRÉSENTATIONS DES GROUPES ALGÉBRIQUES AFFINES 11

arbitraire. Écrivons

∆_V(v) =X

i

w_i⊗φ_i+X

j

e_j⊗ψ_j,

avec w_i ∈W,φ_i, ψ_j ∈k[G], et les e_j linéairement indépendants dans E. Pour toutg∈G, l’hypothèse gv∈W implique0 =P

jψ_j(g)e_j et ceci entraîne que ψ_j = 0, pour tout j. On a donc∆_V(v)∈W ⊗k[G]. Ceci prouve b).

c) Supposons maintenant que dimV = n et montrons que l’application abstraiteρ:G→GL(V)obtenue plus haut est un morphisme. Soit(e₁, . . . , e_n) une base de V et(e^∗₁, . . . , e^∗_n) la base duale. D’après le lemme 2.8, il suffit de voir que les fonctionsC_ij◦ρ:G→kappartiennent àk[G], pour touti, j. Mais ceci est clair, car pour tout j l’on a

∆_V(e_j) = Xn

i=1

e_i⊗c_ij,

pour certains c_ij ∈ k[G]. Alors, c_ij(g) = C_ij(ρ(g)) pour tout g ∈ G, et donc c_ij =C_ij◦ρ. La proposition est démontrée.

Lemme 2.10. — Soit{v₁, . . . , v_n} une base de V ∼=kⁿ. L’application

∆_V :V →V ⊗k[GL_n(k)], v_j 7→

Xn

i=1

v_i⊗C_ij

munitV d’une structure de k[GL(V)]-comodule.

De plus, cette application est canonique : elle ne dépend pas de la base de V choisie. La structure de GL(V)-module rationnel sur V correspondante est l’action naturelle GL(V) ×V → V, qui correspond au morphisme identité GL(V)→GL(V)!

Démonstration. — Pour toutj= 1, . . . , n, on a(id⊗ε)∆_V(v_j) =P

iv_iδ_i,j =v_j et

(id⊗∆)∆_V(v_j) =X

i,`

v_i⊗C_{i`</sub>⊗C<sub>`j} = (∆_V ⊗id)∆_V(v_j).

Ceci montre que ∆_V est une coaction. On voit facilement que la structure de GL(V)-module rationnel sur V qui résulte du point a), correspond à l’action naturelle GL(V)×V →V, et donc au morphisme identitéGL(V)→GL(V).

Voyons l’indépendance vis-à-vis de la base. Notonsγ l’application naturelle V^∗⊗V −→^∼= End(V)^∗ ⊂k[End(V)].

AlorsC_ij =γ(v_i^∗⊗v_j). On en déduit que, pour tout v, on a ∆_V(v) = (id_V ⊗ γ)(P_n

i=1v_i ⊗v_i^∗⊗v). L’indépendance cherchée en découle, soit par un calcul direct, soit en observant que via l’isomorphisme

θ: End(V)⊗V −→^∼= V ⊗V^∗⊗V,

on a ∆_V(v) = (id_V ⊗γ)(I_V ⊗v), oùI_V désigne l’élément unité de End(V). Le lemme est démontré.

Corollaire 2.11. — Soit V de dimension finie. Il est équivalent de se donner sur V une structure de k[G]-comodule ou de G-module rationnel.

Démonstration. — Si V est un k[G]-comodule, on obtient une structure de G-module rationnel sur V, d’après la proposition précédente.

Réciproquement, d’après le lemme précédent, on a une structure de co- module ∆_V : V → V ⊗k[GL(V)]. Par conséquent, si ρ est un morphisme G→ GL(V), son comorphismeρ^∗ :k[GL(V)]→k[G]est un morphisme d’al- gèbres de Hopf et donc, d’après le lemme 2.5, (id_V ⊗ρ^∗)∆_V fait de V un k[G]-comodule.

On laisse au lecteur le soin de vérifier que la composée de ces deux opéra- tions redonne surV la structure initiale dek[G]-comodule, resp. deG-module rationnel. Ceci démontre le corollaire.

Proposition 2.12. — SoitV unk-espace vectoriel arbitraire, c.-à-d., pas néces- sairement de dimension finie. Il est équivalent de se donner :

i) une structure de k[G]-comodule sur V, ou

ii) une action linéaire localement finie de G sur V telle que, pour tout sous-espace G-stable W de dimension finie, l’application induite G→GL(W) soit un morphisme de groupes algébriques.

On dit que V est un G-module rationnel s’il est muni de l’une de ces données. Dans ce cas, pour tout sous-espaceW, on a :

W est un sous-G-module ⇔W est un sous-comodule.

Démonstration. — Supposons queV soit unk[G]-comodule et soitW un sous- espace G-stable de dimension finie. L’application induite ρ:G→ GL(W) est évidemment un morphisme de groupes. D’après la proposition 2.9, W est un sous-comodule etρ est un morphisme de groupes algébriques.

De plus, d’après le résultat de finitude (Proposition 2.6), tout sous-espaceE de dimension finie est contenu dans un sous-comodule (de façon équivalente, unG-module) de dimension finie. Ceci est la définition d’une action localement finie. Ceci montre que la condition ii) est vérifiée.

2. REPRÉSENTATIONS DES GROUPES ALGÉBRIQUES AFFINES 13

Réciproquement, supposons ii) vérifié. SiW est un sous-espaceG-stable de dimension finie, on a un morphisme d’algèbres de Hopfπ_W :k[GL(W)]→k[G], et on en déduit que (id⊗π_W)◦∆_W :W →W ⊗k[G]est une coaction, notée θ_W. De plus, si W₁ ⊆W₂, on vérifie facilement que le diagramme

W₁ −−−−→^θW1 W₁⊗k[G]

 y

 y

W₂ −−−−→^θW2 W₂⊗k[G]

est commutatif. On en déduit, puisque ⊗commute à la limite inductive, que ceci munitV d’une coactionθ_V, qui prolonge lesθ_W.

Définition et proposition 2.13 (Dual d’unG-module de dimension finie)

1)SoitV unG-module rationnel de dimension finien. Alors l’espace dual est de façon naturelle un G-module, pour la représentation dite contragrédiente, définie par

(g·φ)(v) =φ(g⁻¹v), ∀g∈G, φ∈V^∗, v ∈V.

2) Pour exprimer la coaction correspondante, soit (v₁, . . . , v_n) une base de V et (v₁^∗, . . . , v_n^∗) la base duale deV^∗. Si on pose, pour tout j= 1, . . . , n,

∆_V(v_j) = Xn

i=1

v_i⊗c_ij,

avec c_ij ∈k[G], alors pour touti= 1, . . . , n, l’on a

∆_V^∗(v_i^∗) = Xn

j=1

v_j^∗⊗τ(c_ij),

où τ désigne l’antipode de k[G]. De façon plus intrinsèque, posant C =k[G],

∆_V^∗ est l’image de∆_V via

Hom_k(V, V ⊗C)∼=V^∗⊗V ⊗C −−−−−→^volte⊗τ V ⊗V^∗⊗C ∼= Hom_k(V^∗, V^∗⊗C).

Démonstration. — Pour 1), il suffit d’observer que le morphisme de groupes θ_V : GL(V)→ GL(V^∗),g 7→ ^tg⁻¹, est un morphisme de groupes algébriques, ce qui se voit immédiatement en regardant les coefficients matriciels. Si on désigne parρ:G→GL(V)le morphisme de groupes algébriques définissant la structure deG-module deV, alors le module dualV^∗correspond au morphisme θ_V ◦ρ. Ceci prouve le point 1). Le point 2) est laissé au lecteur.

2.3. Linéarité des groupes algébriques affines. — On dit qu’un groupe algébriqueGestlinéaires’il est isomorphe à un sous-groupe fermé d’un groupe GL(V). Dans ce cas, G est évidemment un groupe algébrique affine. La réci- proque est vraie :

Théorème 2.14. — Tout groupe algébrique affine est linéaire.

Démonstration. — Soit G un groupe algébrique affine. Alors la comultiplica- tion∆ :k[G]→k[G]⊗k[G]fait dek[G]unk[G]-comodule et donc unG-module rationnel. Pour φ∈k[G],g, h∈G, on a(gφ)(h) =φ(hg).

Soientx₁, . . . , x_s des générateurs dek[G]comme algèbre, et soitV le sous- G-module (de dimension finie !) qu’ils engendrent. D’après la proposition 2.9, l’on a ∆(V)⊆V ⊗k[G] et l’on obtient un morphisme de groupes algébriques ρ :G→GL(V). Soit {f₁, . . . , f_n} une base deV ; il existe des c_ij ∈ k[G]tels que, pour tout j= 1, . . . , n,

(∗) ρ(g)f_j =

Xn

i=1

c_ij(g)f_i, ∀g∈G.

Pour montrer queρest une immersion fermée, il reste à voir que le comorphisme ρ^∗ : k[GL(V)] → k[G] est surjectif. Mais ceci résulte de (∗). En effet, c_ij = C_ij◦ρ=ρ^∗(C_ij), et pour j= 1, . . . , n, on a

∀g∈G, f_j(g) = (ρ(g)f_j)(e) = Xn

i=1

c_ij(g)f_i(e), d’où f_j =ρ^∗(P_n

i=1f_i(e)C_ij). Comme les f_j engendrent k[G], ceci prouve que ρ^∗ est surjective.

3. Action d’un groupe algébrique sur une variété SoitG un groupe algébrique affine.

3.1. Action par automorphismes sur une k-algèbre. —

Définition et proposition 3.1. — Soit A une k-algèbre. On dit que G agit (ra- tionnellemnent) par automorphismes sur A si l’on s’est donné une structure de G-module rationnel sur A telle que, pour tout g ∈G, l’application a7→ ga soit un automorphisme d’algèbre.

Ceci équivaut à dire que la coaction correspondante∆_A:A→A⊗k[G]est multiplicative, c.-à-d., est un morphisme de k-algèbres.

Démonstration. — Laissée au lecteur.

3. ACTION D’UN GROUPE ALGÉBRIQUE SUR UNE VARIÉTÉ 15

3.2. Action sur une variété affine. —

Définition et proposition 3.2. — Soit X une variété algébrique affine. Une ac- tion de G sur X est un morphisme de variétés µ_X :G×X →X vérifiant les axiomes d’une action, c.-à-d.,

(1) µ◦(µ×id_X) =µ_X ◦(id_G×µ_X), (2) µ_X◦(e×id_X) =id_X,

où µ, resp. e, désigne la multiplication, resp. l’élément neutre, de G.

Notant ∆_X :k[X]→ k[X]⊗k[G] le comorphisme de µ_X (qui est un mor- phisme de k-algèbres), ceci équivaut à dire que ∆_X est, de plus, une coaction.

Réciproquement, toute coaction∆_X :k[X]→k[X]⊗k[G]qui est multiplicative, c.-à-d., un morphisme de k-algèbres, induit un morphisme µ_X :G×X → X qui vérifie (1) et (2).

Par conséquent, se donner une action deG surX équivaut à se donner une coaction multiplicative ∆_X :k[X]→ k[X]⊗k[G]. Dans ce cas, on dira aussi que X est une G-variété.

Démonstration. — Laissée au lecteur.

Définition et proposition 3.3. — Soient X, Y deux G-variétés algébriques af- fines. UnG-morphismeφ:X→Y est un morphisme de variétés qui commute à l’action de G, c.-à-d., tel que φ(gx) = gφ(x) pour tout g ∈ G, x ∈ X.

En termes de morphismes, ceci signifie que φ◦µ_X = µ_Y ◦(id_G×φ), et ceci équivaut à dire que φ^∗ : k[X] → k[Y] est un morphisme (d’algèbres et) de comodules.

Démonstration. — Laissée au lecteur.

3.3. Linéarisation des actions affines. —

Proposition 3.4. — SoitX une G-variété affine. Alors il existe une immersion ferméeG-équivariante de X dans unG-module rationnel de dimension finie.

Démonstration. — La preuve est similaire à celle de la linéarité de G. Soit x₁, . . . , x_s des générateurs dek[X]comme algèbre, et soitV le sous-G-module de dimension finie de k[X]qu’ils engendrent.

D’après la propriété universelle de l’algèbre symétrique S(V), on obtient, d’une part, que G agit rationnellement, par automorphismes d’algèbre sur S(V). D’autre part, on obtient un morphisme d’algèbres G-équivariant φ : S(V) → k[X]. Ce morphisme est surjectif, puisque V engendre k[X]. Par

conséquent, le morphisme associé φ^] : X → V^∗ est une immersion fermée G-équivariante.

4. Premiers résultats sur les groupes linéaires : composante neutre, théorème de l’image fermée et lemme de l’orbite fermée

Le but de cette section est d’énoncer et démontrer les résultats du titre.

Commençons par des rappels de géométrie algébrique.

4.1. Espaces noethériens et composantes irréductibles. — Soit X un espace topologique non vide. On rappelle que X est connexe s’il n’est pas réunion disjointe de deux fermés propres (c.-à-d., distincts deX). Ceci équivaut à dire que toute partie à la fois ouverte et fermée est soit vide soit égale àX.

Définition 4.1. — On dit queX estirréductibles’il n’est pas réunion de deux fermés propres de X. Ceci équivaut à dire que l’intersection de deux ouverts non vides de X est un ouvert non vide, ou encore, que tout ouvert non vide est dense.

Ceci implique que tout ouvert non vide deX est également irréductible.

Lemme 4.2. — 1) L’image par une application continue d’un espace irréduc- tible, resp. connexe, est irréductible, resp. connexe.

2) Soient Y un sous-espace deX etY son adhérence. Si Y est irréductible, resp. connexe, Y l’est aussi. De plus, si Y est irréductible, Y l’est aussi.

Définition 4.3. — On dit qu’un espace topologiqueXestquasi-compactsi de tout recouvrement ouvertX=S

i∈IU_i on peut extraire un sous-recouvrement fini S

i∈JU_i, où J ⊂ I est une partie finie. Ceci équivaut à dire que si une intersection de fermésT

i∈IZ_iest vide, alors déjà une intersection finieT

i∈JZ_i est vide.

Définition et proposition 4.4. — SoitXun espace topologique. On dit que Xest noethérien s’il vérifie l’une des conditions équivalentes ci-dessous :

1) Toute suite décroissante de fermés, resp. toute suite croissante d’ouverts, est stationnaire.

2) Toute famille non vide de fermés, resp. d’ouverts, possède un élément minimal, resp. maximal.

3) Tout ouvert de X est quasi-compact.

4. COMPOSANTE NEUTRE, THÉORÈMES DE L’IMAGE ET ORBITE FERMÉES 17

Proposition 4.5. — SoientA unek-algèbre de type fini réduite etX = Max(A) la variété algébrique affine associée, munie de la topologie de Zariski.

1) X est un espace topologique noethérien.

2) X est connexe ssi A ne contient pas d’idempotent autre que0 et 1.

3) X est irréductible ssiA est intègre.

Définition 4.6. — Un sous-espace deX qui est irréductible (resp. connexe) et maximal pour cette propriété s’appelle unecomposante irréductible(resp.

connexe) de X.

D’après le point 2. du lemme 4.2, une telle composante est une partie fermée de X.

Remarque 4.7. — 1) Si Y, Z sont deux parties connexes deX ayant un point en commun,Y ∪Z est connexe. On en déduit que la relationx∼x⁰ s’il existe une partie connexe contenant x et x⁰ est une relation d’équivalence surX, et les composantes connexes sont les classes d’équivalence.

2) Pour un espace topologique arbitraire, l’existence de parties irréductibles maximales résulte du lemme de Zorn, voir [Die, (T, 6)]. Toutefois, pour un espace noethérien, on a la proposition suivante.

Proposition 4.8. — Soit X un espace topologique noethérien. Alors les compo- santes irréductibles de X sont en nombre fini et recouvrentX.

Démonstration. — Considérons l’ensembleY des fermés deX qui ne sont pas réunion finie de fermés irréductibles. Si Y était non vide, alors d’après la pro- priété de noethérianité il contiendrait un élément minimal Z, nécessairement non-irréductible. Donc Z est réunion de deux fermés propres Z₁ et Z₂. Mais d’après la minimalité de Z, Z₁ et Z₂ sont réunions finies de fermés irréduc- tibles, et donc aussi Z. Contradiction ! Donc Y =∅ et X est réunion finie de fermés irréductibles.

Considérons alors une décomposition X = X₁ ∪ · · · ∪X_n, avec nminimal.

SiY est un sous-espace irréductible deX, l’égalité Y =∪ⁿ_i=1(Y∩X_i)entraîne que Y ⊆ X_i pour un certain i. Par conséquent, tout sous-espace irréductible maximal de X est égal à l’un des X_i. Comme de plus X_i 6⊆ X_j pour j 6=

i, puisqu’on a choisi n minimal, on obtient que les X_i sont exactement les composantes irréductibles deX.

4.2. Dimension. —

Définition 4.9 (Dimension d’un espace topologique noethérien) SoientX un espace topologique noethérien, etx∈X.

a) On note dim_xX le supremum des longueurs des suites strictement dé- croissantes de fermés irréductibles de X contenantx (la longueur d’une suite X=F₀ ⊃F₁⊃ · · · ⊃F_n étantn). C’est un élément deN∪ {+∞}.

b) On posedimX = sup_x∈Xdim_xX; c’est encore un élément deN∪ {+∞}.

Pour tout sous-espace Y ⊆X, on a dimY ≤X. De plus, si X₁, . . . , X_n sont les composantes irréductibles de X, on adimX= Max_i dimX_i.

Définition 4.10 (Dimension d’un anneau noethérien). — Soient A un anneau noethérien etp un idéal premier.

a) On note ht(p) le supremum des longueurs des suites strictement crois- santes d’idéaux premiers contenus dans p, où, comme précédemment, la lon- gueur d’une suite P₀ ⊂ P₁ ⊂ · · · ⊂ P_n est n, c.à.d. le nombre de signes d’inclusion. On peut montrer que ht(p)<+∞, voir [AM, Chap. 11].

b) On notedimA le supremum des ht(m), pour m∈Max(A), c’est a priori un élément deN∪ {+∞}. Pour tout idéalI, on adim(A/I)≤dimA.

Lemme 4.11. — SoientAun anneau noethérien,X = Spec(A)etp∈Spec(A).

Alorsdim_pX = ht(p).

Démonstration. — Laissée au lecteur.

Remarque 4.12. — 1) Nagata a construit un exemple d’anneau noethérien A tel que dimA= +∞, voir [AM], Exercice 11.4.

2) Évidemment, la dimension est une notion plus intéressante lorsqu’elle est finie. À cet égard, on la proposition suivante.

Proposition 4.13. — Soient k un corps etX₁, . . . , X_n des indéterminées. On a dimk[X₁, . . . , X_n] =n, etdimk[X₁, . . . , X_n]/I < n pour tout idéal non nulI. Démonstration. — Voir, par exemple, [Ma1], §(14.A), Thm. 22.

Corollaire 4.14. — Soit k algébriquement clos. Toute variété algébrique affine X⊆kⁿ est de dimension ≤n, avec égalité ssi X=kⁿ.

4.3. Corps des fonctions rationnelles et dimension. — Soit X une variété irréductible. Si U,V sont des ouverts non-vides, U ∩V est un ouvert non-vide et l’application de restrictionk[U]→k[U∩V]est injective (carU∩V est dense). On notek(X)la limite injective desk[U], pourU ouvert non-vide.

4. COMPOSANTE NEUTRE, THÉORÈMES DE L’IMAGE ET ORBITE FERMÉES 19

En d’autres termes,k(X)s’identifie à l’ensemble des couples(U, f)oùU est un ouvert non-vide et f ∈ k[U], modulo la relation d’équivalence : (U, f) ∼ (V, g) si f et g coïncident sur un ouvert non-vide W ⊆ U ∩V (dans ce cas, f =g surU ∩V). C’est un corps, car si f est non-nulle et appartient à k[U] alors1/f appartient àk[U∩D(f)], où l’on rappelle queD(f)désigne l’ouvert : {x∈X|f(x)6= 0}.

Proposition 4.15. — Soit X irréductible. Alors k(X) = Frac(k[U]), pour tout ouvert affine U.

Démonstration. — D’abord, il résulte de la définition que k(X) =k(U) pour tout ouvert non-vide U. Donc il suffit de montrer que si X est affine alors k(X) = Frac(k[X]). Il est clair que k[X] ⊆ k(X). Réciproquement, soit f ∈ k(X). Alors f ∈ k[V] pour un ouvert non-vide V, et il existe g ∈ k[X] tel D(g)⊆k[V]. Alorsf ∈k[D(g)] =k[X]_g ⊆k(X).

Pour tout corpsKextension de type fini dek, on noteradeg.tr._kKson degré de transcendance sur k. On admettra le résultat suivant ; voir, par exemple, [Hu, 3.2, 3.4.A].

Théorème 4.16. — Soit X irréductible. Pour tout x ∈ X, on a dim_xX = deg.tr._kk(X). En particulier, dimX= deg.tr._kk(X).

4.4. Image et fibres d’un morphisme, théorème de Chevalley. — Définition 4.17. — SoientX, Y deux variétés algébriques affines etf :X →Y un morphisme. On dit quef estdominantsif(X) est dense dansY, c.-à-d., si f(X) = Y. Ceci équivaut à ce que le comorphisme f^∗ : k[Y] → k[X] soit injectif.

On admet le théorème suivant (voir [Die, §4]), qui est une variante (ou une conséquence) du théorème de constructibilité de Chevalley,cf.le cours de Laszlo [Las, §6.11] ou [Laf, Chap.7, §3.2] ou [Ma1, (6.E)].

Théorème 4.18. — Soient X, Y irréductibles et f : X → Y un morphisme dominant.

a) Il existe un ouvert dense V deY, contenu dans f(X), tel que, pour tout v ∈ V, toute composante irréductible de f⁻¹(v) soit de dimension dimX− dimY ≥0.

b) Pour touty ∈f(X) et toute composante irréductibleZ de f⁻¹(v), on a dimZ ≥dimX−dimY.