LA THEORIE DES INVARIANTS POUR GL(n)

Soit

K

un corps de caracteristique 0 La theorie est maintenant etablie en toute caracteristique mais les demonstrations les plus directes ne sont valables qu'en caracteristique 0.

Il y a classiquement deux types de theoremes. Le premier theoreme fondamental est un theoreme qui fournit un systeme de generateurs pour la sous-algebre des invariants. Le deuxieme theoreme fondamental decrit les relations entre ces invariants. Chacun de ces theoremes admet des variantes.Nous allons demontrer ces theoremes puis en deduire la construction des representations rationnelles de dimension nie de GL(n) ainsi que le calcul de leurs caracteres. Ceci utilisera les resultats du Chapitre 1

x

1 Les deux theor emes fondamentaux

. | Soit donc

K

un corps de caracteristique 0. On xe un espace vectoriel V sur

K

, de dimension nie r et on considere le groupe lineaire GL(V). Il opere dans V. Soit n un entier n1. Notons Vn le produit tensoriel de V par lui-m^eme n fois par exemple V3 =V V V. Le groupeGL(V) opere par

rn(g)(v1

vn) =gv1

gvn

Le groupe symetriqueSn opere aussi dans Vn. De maniere precise, si2Sn, on pose rn()(v1 v2 vn) =v;1 (1) v;1 (i) v;1 (n)

Ceci doit s'interpreter comme une permutation des places : l'eet de  est de mettre a la premiere place la composante qui etait a la place ;1(1). Si on applique maintenant une deuxieme permutation , a la premiere place on obtient la composante qui, apres application de  etait a la place ;1(1), c'est-a-dire v;1

(;1

(1)) =v() ;1

(1). On a bien une representation du groupe symetrique! SoitArn la sous-algebrede EndK(Vn) engendree par les endomorphismesrn(g). La representationrn se prolonge a l'algebre

K

"Sn] soit Brn l'image de

K

"Sn]. Il est clair que Arn etBrn commutent.

Theor eme 1-1 (Premier Theor eme Fondamental)

. | La sous-algebre Arn

est le commutant dans EndK(Vn) de la sous-algebre Brn et cette derniere est le commutant de Arn

Puisqu'on est en caracteristique 0, l'algebre

K

"Sn] est semi-simple. Elle est aussi unitaire. La representation rn est donc semi-simple et elle est non degeneree. Le theoreme du double commutant s'applique donc. Il sut de prouver que le commutant de Brn est Arn

Commencons par un lemme. Soit W un espace vectoriel de dimension nie. Le groupe symetrique Sn opere dans le produit tensorielWn. SoitS le sous-espace des invariants c'est-a-dire des tenseurs symetriques. Soit X un ouvert de Zariski non vide de W

Lemme 1-2

. | Le sous-espace S est engendre par les tenseurs de la forme

www w2X Soit e1:::er une base de W. Les tenseurs ei1

ein forment une base de Wn. Fixons une partition n = 1 ++n de n et notons la . Soit s la somme des vecteurs de baseei1

ein qui contiennent1 foise1,2 foise2:::. L'ensemble des s est une base du sous-espace des tenseurs symetriques. Soit f une forme lineaire sur Wn nulle sur tous les tenseurs symetriques decomposes c'est-a-dire de la formewn =ww avec de plusw2X. Il nous faut montrer qu'elle est nulle sur tous les tenseurs symetriques et il sut de le faire pour les s . Prenons w=t1e1++tnen On a wn =X t s donc 0 =X f(s )t

Ceci est valable quels que soient les elements ti de

K

tels que w2X donc, le corps etant inni, pour toutw2W (principe du prolongement des identites algebriques). Il en resulte que tous les coecients f(s ) sont nuls.

La demonstration ci-dessus a ete reprise de

Proc]

. Passons a la demonstration du theoreme. On a

EndK(Vn) =

EndK(V) n

La &eche de droite a gauche s'obtient en posant (T1

T2

Tn)(v1 v2

vn) =T1(v1)T2(v2)Tn(vn) SoitW = EndK(V). Soit

T = X

T1

un element du commutant de Brn. La relation de commutation s'ecrit X T;1 (1)(v;1 (1))T;1 (n)(v;1 (n)) =X T1(v;1 (1))Tn(v;1 (n)) Lesvietant quelconques cela signiequeT est un tenseursymetrique. Or GL(V) est un ouvert dense deW = End_K(V) donc d'apres le Lemme tout tenseur symetrique dans Wn est combinaison lineaire de tenseurs de la forme ggg avec g2GL(V). Comme gg=rn(g). le theoreme est demontre.

Donnons une premiere version du second theoreme fondamental. Considerons rn

comme une application de

K

"Sn] dans EndK(Vn).

Si r < n, plongeons Sr+1 dans Sn en le faisant operer sur les r premiers entiers. Soit

r+1 = X 2 Sr+1

"()e

Ici e est la fonction denie surS_n qui vaut 0 sauf enou elle vaut n!. On a donc rn(e) =rn() et

rn(r+1) = X 2Sr+1

"()rn()

Theor eme1-3 (Deuxi eme Theor eme Fondamental)

. |Si rnalorsrnest injective.

Si r < n, le noyau de rn est l'ideal bilatere engendre par r+1.

Montrons d'abord que si r < n alors rn(r+1) = 0. Soit v1v2:::vr une base de V. On a donc une base (vi1

vi2

vin) de W = Vn. Comme r < n dans chacun de ces vecteurs de base, au moins l'un desvj intervient au moins deux fois. Supposons par exemple quevi1 =vi2. Soit  la transposition qui echange 1 et 2. le vecteur de base considere est donc invariant par. D'autre part

r+1

e =X

"()e ="()r+1 = ;r+1

Il en resulte que le vecteur de base etudie est annule par rn(r+1). On a donc bien rn(r+1) = 0.

Soit  une partition de n. Il lui correspond une classe () de representations irreductibles du groupe symetrique soit

K

"Sn]la sous-algebre simple associee a (). Pour tout tableau T de forme, on a construit un symetriseur de Young

e_T =X

pq "(q)eqp

ou p (resp. q ) parcourt le sous-groupe P(T) (resp. Q(T) ) des permutations qui stabilisent les lignes (resp. les colonnes) de T. Le symetriseur e_T appartient a

K

"Sn]. L'intersection du noyau de rn avec

K

"Sn] est un ideal bilatere donc c'est

K

"Sn] ou (0).

Rappelons que `_T(i) est le numero de la ligne qui, dans le tableau T, contient i. Supposons que  soit de longueur au plusr. Soit

v_T =v_`T(1)

v_`T(n)

Avec un peu de sang froid on constate que

rn()v_T =v_(T)

De plus si  conserve les lignes de T alorsv_T est invariant par. On en tire que rn(e_T) = (#P(T))X

q "(q)v_qT

Or v_qT =v_T si et seulement si q est l'identite. On a doncrn(e_T)6=0. Dans ce cas

; Kernr \ ;

K

"S_n] = (0) `()r

Enn supposons que `() > r. Si J est l'ideal bilatere engendre par r+1 alors on a J\

K

"Sn] =

K

"Sn] ou J\

K

Sn] = (0). Prenons un tableau T de forme  et dont la premiere colonne commence par 12:::r+ 1. Pour un tel tableau

S_r+1 Q(T). Il vient r+1 e_T() = 1n! X  r+1()e_T(;1) Maise_T(;1) ="()e_T() donc r+1 e_T() = (r+ 1)!e_T Il en resulte quee_T2J et donc queJ

K

"Sn].

En conclusion l'ideal bilatere engendre par r+1 est le noyau de la representation et il est forme des sous-algebres simples associees aux partitions de longueur au moins r+ 1.

x

2. Les representationsde

GL(V). | Le corps

K

est toujours de caracteristique 0. On conserve les notations precedentes.

Proposition 2-1

. |L'algebre Arn est semi-simple.

On vient de determiner la structure deBrnqui est semi-simple.LeSnmoduleVn

est semi-simple de dimension nie et admet une decomposition en composantes isotypiques :

Vn= ;

Vn 

ou parcourt l'ensemble des partitions den de longueur au plusr. Aucune de ces composantes n'est reduite a (0). Pour un tel, soitm() la multiplicite le module (Vn) se decompose de maniere non canonique en la somme de m() modules de type (). Le commutant d'un tel module irreductible etant reduit aux scalaires, on peut appliquer la Proposition 2-4 de l'appendice. On a donc

Arn =Y

 Mm()(

K

) C'est une algebre semi-simple.

Fixons une partition  de longueur au plus r. Soit C le commutant du Sn;

module (Vn). C'est l'ensemble des restrictions a (Vn) des elements de Arn. Le commutant C est isomorphe a Mm()(K). La restriction de rn a V_n est un homomorphisme de GL(V) dans le groupe multiplicatif C. Si on choisit un isomorphisme de C avec M_m()(K), on obtient une representation de GL(V). La classe $() de cette representation est bien determinee.

Theor eme 2-2

. | La classe $() est irreductible et la representation de

GL(V)Sn dans (Vn) est irreductible de type$()().

Fixons une decomposition

;

Vn

=V1

 Vm()

en somme directe de Sn; modules simples ( tous de la classe () ). Pour tout i choisissons un isomorphisme Ti du Sn; module V1 sur le Sn; module Vi en particulier prenons T1 = Id. Pour tout couple (ij) on a un isomorphismeTiT;1

j

de Vj sur Vi. Soit e1 un element non nul de V1 posons ej = Tj(e1) et soit W le sous-espace vectoriel ayant pour base e1:::en.

SoitT2C. SiPi est la projection de ;

Vn

 surVi, alorsPiT2C. La restriction a Vj de PiT est un homomorphisme de Sn; modules de Vj sur Vi c'est donc un multiple de TiT;1

j . Il existe des scalairesaij tels que PiTPj =aijTiT;1

j Pj

L'application qui a T fait correspondre la matriceA = (aij) est un isomorphisme de C sur Mm()(K). Cette representation de C est evidemment irreductible et peut ^etre consideree comme une representation dans W. La representation de GL(V) obtenue en restreignant rn a W est donc irreductible puisque C est la sous-algebre engendree par les restrictions des rn(g). Ceci prouve la premiere assertion du theoreme. Pour la deuxieme, on considere l'application

 : (X tjejv1)7! X tjTj(v1) de WV1 dans ; Vn

. Elle se prolonge a W V1 et on verie de suite qu'elle est surjective, donc bijective (les dimensions sont les m^emes). De plus si on munit

V1 de sa structure de Sn; modules et W de sa structure de GL(V); module, alors W V1 est un GL(V)Sn; module (produit tensoriel externe) et  est un isomorphisme sur ;

Vn

. Les verications sont sans mysteres.

Il nous faut maintenant comparer ces representations de GL(V). Si  et sont deux partitions de n, de longueur au plus r et si $() = $( ) alors il existe un endomorphisme U du K; espace vectoriel ;

Vn

qui commute a GL(V) et tel que U;

(Vn)

soit non nul et contenu dans ;

Vn

. Mais U2 Brn donc l'image de ;

Vn

 est contenue dans ;

Vn

. On a donc  = . Pour un n xe les representations obtenues sont donc deux a deux inequivalentes. De plus prenons g = tId un element du centre de GL(V). Alorsrn(tId) =tnId et donc les series obtenues pour dierentes valeurs de nsont deux a deux disjointes.

On peut obtenir des modeles explicites pour les representations. Fixons a nouveau  et soit T un tableau de forme . On suppose que `()r de sorte qu'on a une composante isotypique ;

Vn

. Considerons cette composante comme un

K

"S_n]; module. Soit;

Vn

T l'image dern(eT). C'est un sous-espace invariant par GL(V). Supposons qu'il ne soit pas irreductible et soit F un sous-espace invariant non trivial. Soit J l'ensemble des '2

K

"Sn] tel que l'image de rn(') soit contenu dansF. C'est un ideal a droite contenu dans l'ideal a droiteIengendre pareT. Or on sait que ce dernier ideal est minimal doncJ = (0) ouJ =I. MaisF admet un supplementaire invariant par GL(V) (l'action de GL(V) est semi-simple) et le projecteur correspondant appartient a Brn donc est de la formern(') pour une fonction ' non nulle et qui appartient a J. Enn l'image de rn(eT) contient strictementF de sorte queeT2J= . On a une contradiction.

En tant que GL(V);module;

Vn

T est donc irreductible de type$().

Rappelons que pour obtenir un idempotent on doit normaliser eT en le divisant par un scalaire convenable. Notons e0

T cet idempotent. Supposons alors qu'on ait des tableauxT1:::Tsde formeet tels que les idempotents associese0

Tj verient e0

Tie0

Tj = 0 pouri < j. Les rn(e0

Tj) sont des projecteurs pj qui verient pipj = 0 pouri < j ce qui prouve que la somme desVTj est une somme directe.

Or on sait qu'un tel systeme de tableaux s'obtient en prenant les tableaux de Young standards de forme . Leur nombre est exactement m(). On a donc demontre le theoreme suivant.

Theor eme 2-3

. |Soit une partition den de longueur au plusr. On a

; Vn  =M T ; Vn T

ou T parcourt l'ensemble des tableaux de Young standards de forme .

Il est temps de donner un ou deux exemples. Prenons r quelconque.

Sin= 1, il y a une seule classe= (1) de longueur au plus 1. L'action deS1 dans V est triviale et l'action de GL(V) est irreductible.

standard sont

1

2 ^{1 2}

Soient 0 l'element neutre de S2 et 1 l'element non trivial. Pour le premier tableau on a eT =e0 ;e1 donc r2(eT)v1 v2 =v1 v2 ;v2 v1

L'image est donc le sous-espace des tenseurs antisymetriques, qui, en tant que GL(V); module est isomorphe a V

2

(V), muni de l'action evidente. On a m((11)) = 1 et la dimension est dim$((11)) = r(r ;1)=2. la representation ((11)) deS2 est le caractere signe.

Pour le deuxieme tableau, on a

eT =e0 +e1 donc r2(eT)v1 v2 =v1 v2+v2 v1

L'image est donc le sous-espace des tenseurs symetriques, qui, en tant que GL(V);

module est isomorphe aS2(V), muni de l'action evidente. On am((20)) = 1 et la dimension est dim$((20)) = r(r + 1)=2. la representation((20)) de S2 est la representation triviale.

Finalement, en tant que GL(V);module V V =^

2

(V) S2(V) Pourn= 3 et r3, les tableaux de Young standards sont

1 2 3 1

2 3

1 2

3 ^{1 3}2

Le premier tableau correspond a nouveau aux tenseurs symetriques, le deuxieme aux tenseurs antisymetriques. Les deux derniers ont la m^eme forme donc

$((210)) est une classe de representations irreductibles de GL(V) qui intervient avec la multiplicite 2.

Enumerons les elements de S3 : 0 =  1 2 3 1 2 3   1 =  1 2 3 1 3 2   2 =  1 2 3 3 2 1   3 =  1 2 3 2 1 3   4 =  1 2 3 2 3 1   5 =  1 2 3 3 1 2 

Le troisieme tableauT3 donne le symetriseur eT3 =e0 +e3 ;e2 ;e4 donc r3(eT3)(v1 v2 v3) =v1 v2 v3+v1 v3 v2 ;v3 v2 v1 ;v3 v1 v2

Le quatrieme tableau T4 donne le symetriseur eT4 =e0 +e2 ;e3 ;e5 donc r3(eT4)(v1 v2 v3) =v1 v2 v3+v3 v2 v1 ;v2 v1 v3 ;v2 v3 v1

La classe de representation irreductibles $((210) de GL(V) est de dimension la moitie de r3 ; 1 6r(r;1)(r;2); 1 6r(r+ 1)(r+ 2)

soit (r;1)r(r + 1)=3. La representation de S3 est de dimension 2. On peut la construire en faisant operer S3 dans

K

3, par permutation des coordonnees, et en notant que le plan \somme des coordonnees nulle" est invariant.

Si nest quelconque, parmi les tableaux de Young standards, on trouve celui qui a une seule ligne de forme (n00:::), qui correspond aux tenseurs symetriques et, si nr, le tableau a une seule colonne de forme 1(n) = (111:::1) qui correspond aux tenseurs antisymetriques.

Dans une autre direction prenonsr = 2. Les casn= 12 viennent d'^etre examines. Si n3, on doit se limiter aux partitions de longueur au plus 2, ce qui donne les n+ 1 possibilitees (mn;m) avec 0mn. On a donc obtenu un ensemble de classes de representations irreductibles de GL2(

K

) avec les deux parametres met n.

Revenons a la situation generale. Si  est une representation irreductible de dimension nie de GL(V) et n2

Z

, on peut \tordre"  par le caractere n(g) = Det(g)ⁿ. La representation tordue est le produit tensoriel (interne)

n(g) = Det(g)ⁿ(g)

Cette notion passe aux classes d'equivalence de representations. Il est naturel de chercher a determiner les representations obtenues en tordant les $(). On le fera plus loin Pour le moment, on va caracteriser les representations de GL(V) qu'on a construites.

Rappelonsqu'unerepresentationde GL(V) dansun espace vectoriel de dimension nie E est rationnelle si (g) est une fonction rationnelle de g, c'est-a-dire une fonction polynomiale des coecients matriciels de g (relativement a une base de V) et de l'inverse du deterninant de g. En tensorisant  avec une puissance convenable du determinant, on se ramene au cas polynomial. Une representation  polynomiale est homogene de degren si pour toutt2

K

, on a(tg) =tn(g)

Lemme 2-4

. | Toute representation polynomiale se decompose en la somme directe de representations polynomiales homogenes

Consideronsl'operateur(tId)c'est un polyn^ome enta coecients dans EndK(E) (tId) =X

n0

pntn

L'identite(tuId) =(tId)(uId) et le fait que

K

soit inni, donnentpnpn =pn

et, pour n6=m, pnpm = 0. D'autre part, pour tout e2E, on a, en prenant t = 1, la decomposition e = P

pn(e). Si En = pn(E) alors E = En. Notons que ceci est en fait la decomposition en sous-espaces propres pour l'action des matrices scalaires. Comme ces dernieres sont dans le centre du groupe, chaqueEnest stable par GL(V). La representation dansEn est homogene de degren.

Lemme 2-5

. |Soit une representation polynomiale homogene de degre n1 de

GL(V). Il existe une unique representation~ de Arn dans E telle = ~rn

Pour tout g2GL(V) notons g la masse +1 au point g et considerons les mesures a support ni ou si on prefere les combinaisons formelles nies, a coecients dans

K

des points du groupe. En posant g g0 = gg0, on obtient une algebre de convolution. Notons la C(GL(V)) La representation rn se prolonge en un homomorphisme surjectif de C(GL(V)) dansArn. Soit V le dual deV. Siv2V etv 2V , alorshgvv iest un coecient deg. Soientv1:::vn des elements de V et v1:::v_n des elements deV . La quantite

n Y

est un coecient de rn(g) et un coecient quelconque s'obtient en combinant lineairement les \mon^omes" precedents. Par suite P

gg appartient au noyau de , si et seulement si, pour tout choix desvi et des v_i, on a

X

gYⁿ 1

hgviv_ii= 0 L'espace vectoriel engendre par les Qn

1

hgviv_ii est exactement l'espace des polyn^omes homogenes de degre n donc P

gg appartient au noyau de  si et seulement si, pour tout polyn^omeP homogene de degren, on aP

gP(g) = 0. S'il en est ainsi, alors pour toute representation polynomiale  homogene de degre n on a P

g(g) = 0 et le theoreme est prouve. Si (E) est une representation homogene de degre 0 alors comme les seules fonctions polynomiales homogenes degre 0 sont les constantes, l'application(g) est independante degc'est toujours l'identite. La representation est donc un multiple de la representation triviale.

Theor eme 2-6

. | Les representations rationnelles de dimension nie de GL(V)

sont semi-simples. Le groupe GL(V) est lineairement reductif.

On se ramene au cas polynomial en tordant la representation,puis au cas homogene grace au Lemme 2-4. Le Lemme 2-5 nous reduit au cas deArn qui est semi-simple. Toute cette construction ne depend pas vraiment de

K

. Les representations sont construites sur

Q

et elles restent irreductibles par extension des scalaires. Exactement comme pour le groupe symetrique les $() sont absolument irreductibles.

Soient (1E1) et (2E2) deux representations de dimension nie de Sn. Considerons leur produit tensoriel interne (1

 2E1

E2) et cherchons le sous-espace

(E1

E2)Sn

des invariants. SoitE1 le dual deE1 et1 la representation contragrediente denie par 1() =^t 1(;1). On a un isomorphisme canonique

E1 E2



= Hom(E1E2) Si on denit l'action de Sn dans Hom(E1E2) par

(f) 7!2()f 1(;1)

alors on a un isomorphisme deSn;modules et les invariants deSn dansE1 E2

correspondent aux operateurs d'entrelacement entreE1 etE2

(E1

Si1et2sont irreductiblescet espace est de dimension0 si1n'est pasequivalente a 2 et de dimension 1 si 1 est equivalente a 2. En general la dimension de (E1

E2)Sn est la dimension de l'espace des operateurs d'entrelacement de 1

et de 2. Si 1 est irreductible c'est la multiplicite de 1 dans 2. Ceci est evidemment valable pour tout groupe ni, pour les representations rationnelles de dimension nie de GL(V) :::Dans le cas du groupe symetrique il y a une simplication supplementaire due au fait que toute representation est equivalente a sa contragrediente. En eet, il sut de montrer qu'elles ont m^eme caractere or le caractere de la contragrediente s'obtient en composant le caractere de la representation avec l'application  7! ;1. Comme  et ;1 sont conjugues par automorphisme interieur, ces deux caracteres sont egaux.

Soit alors  une partition de n, et M un Sn; module simple de la classe () posons

F(V) =;

MVn

Sn = HomSn(MVn)

C'est un espace vectoriel de dimensionm() et puisque les deux actions commutent c'est aussi un GL(V);module. D'apres les remarques ci-dessus

; MVn Sn =; MV_n Sn On a un isomorphisme ; Vn  =MU

ou U est un GL(V);module irreductible de type $() donc

;

MVn

Sn = (MM)Sn U =U

Le GL(V); moduleF(V) appartient donc a la classe $(). Ceci suppose que la longueur de  est au plusr. Dans le cas contraire, on a simplementF(V) = (0). Supposons qu'on ait deux espaces vectoriels de dimension nie V et W ainsi qu'une application lineairef deV dansW. On a, canoniquement, une application lineaire fn de Vn dans Wn. Cette application commute a l'action du groupe symetrique Sn. Soit  une partition den. On obtient une application lineaire

F(f) : ; MVn Sn ! ; MWn Sn

c'est-a-dire de F(V) dans F(W). Quelques verications triviales montrent que, pour tout ,. on a obtenu un foncteur covariant de la categorie des espaces vectoriels de dimension nie vers elle-m^eme. De plus l'application f 7! F(f) est polynomiale on dit que le foncteur est polynomial. On peut montrer que la construction de ce xfournit tous les foncteurs de ce type (ce sont les foncteurs de Schur). Ce point de vue est systematiquement developpe dans l'appendice du

Chapitre 1 de

Mac]

Empruntons a cette reference un resultat qui va jouer un r^ole essentiel dans le calcul des caracteres.

Soient une partition d'un entierpet une partition d'un entierq. On a donc une classe de representations() de S_p et une classe de representations ( ) de S_q. Comme dans le Chapitre 2, considerons SpSq comme un sous-groupe de Sp+q

et soit  la classe de representations induite par ()( ). rappelons que c'est cette construction qui fournit le produit sur l'anneau gradueR= RnouRnest le

Z

;module libre de base l'ensemble des classes irreductibles de representations de

Dans le document Introduction à la théorie classique des invariants (Page 32-65)