Introduction à la théorie classique des invariants

HAL Id: cel-00372870

https://cel.archives-ouvertes.fr/cel-00372870 Submitted on 2 Apr 2009

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci-entific research documents, whether they are pub-lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

Gérard Schiffmann

To cite this version:

Gérard Schiffmann. Introduction à la théorie classique des invariants. 3rd cycle. Monastir (Tunisie), 1996, pp.90. �cel-00372870�

INTRODUCTION A LA THEORIE CLASSIQUE DES INVARIANTS

Gerard Schimann

Introduction.

Prenons comme corps de base le corps des nombres complexes. On considere un groupe \classique"G. Le groupeG est donc soit un groupe lineaire, soit un groupe orthogonal, soit un groupe symplectique. Dans tous les cas il est deni comme un sous-groupe du groupe de tous les automorphismes d'un espace vectoriel V de dimension nie soit V le dual deV.

Soientp etq deux entiers positifs ou nuls et W =Vp V q

(pour les groupes orthogonaux et symplectiques, on peut prendre q = 0 ). On considere l'algebre des fonctions polynomiales sur W, invariantes sous l'action de G. Le premier theoreme fondamental decrit un systeme de generateurs de cette algebre et le deuxieme theoreme fondamental decrit les relations entre ces generateurs.

D'autre part, en decomposant l'action deGdans l'algebre tensorielleT(V) deV, on obtient (plus ou moins) toutes les representations irreductibles de dimension nie de G. Pour chaque groupe classique, le livre de Weyl

W]

contient la classication de ces representations ainsi que le calcul de leurs caracteres. Il contient bien d'autres choses:::

Malheureusement ce livre a la reputation, probablement justiee, d'^etre tres dicile a lire. Il est possible aujourd'hui de presenter les choses un peu plus simplement et c'est ce que nous avons essayer de faire. On a quand m^eme suivi l'approche generale de Schur et de Weyl. Les representations du groupe lineaire sont parametrees par celles des groupes symetriques autrement dit la construction de ces representations et les theoremes fondamentaux sont traites simultanement. Il y a une autre approche, d'ailleurs connue de Weyl, qui consiste a construire les representations des groupes lineaires, et plus generalement des groupes reductifs, a l'aide de la theorie des poids dominants et a appliquer ceci a la theorie des invariants. Ces idees sont introduites a la n du chapitre 2. On se reportera a

H]

ainsi qu'a

F-H]

pour un developpement systematique de ce point de vue.

Le premier chapitre est purement combinatoire. Apres avoir construit les representations du groupe symetrique, nous avons emprunte a I.G. Macdonald,

Mac]

sa presentation de la theorie des fonctions symetriques ainsi que le calcul des caracteres du groupe symetrique.

la construction des representations, et la theorie des poids dominants. Comme l'a montre R.Howe dans

H]

il est possible d'obtenir tres simplement les deux theoremes fondamentaux en raisonnant directement sur les vecteurs dominants (une remarque cle est que les representations qui interviennent sont de multiplicite 1). Nous presentons a la n du chapitre sa demonstration des deux theoremes fondamentaux.

Le troisieme chapitre est consacreaux groupes orthogonaux et symplectiques. Nous avons simplement demontre les deux theoremes fondamentaux. Pour le premier theoreme nous avons utilise la methode de

A-B-P]

et, pour le deuxieme, nous avons suivi

H]

. A ce stade il aurait ete facile de construire les representations et de calculer leurs caracteres

Enn en appendice on a rassemble, les quelques resultats de theorie generale des representations dont nous avons besoin.

Ce texte est une simple introduction a la theorie et n'a pas la pretention d'apporter du neuf. Bien au contraire nous avons puise sans mesure dans

Mac]

et dans

H]

. Le lecteur voulant aller plus loin pourra, outre ces deux references, faire son prot de

F-H]

. Nous nous sommes limites a la caracteristique 0. Les references

C-P]

et

P]

traitent le cas general.

Chapitre 1 : REPRESENTATIONS DU GROUPE SYMETRIQUE

Les deux premiersxde ce chapitre presentent la classication des representations,

complexes, irreductibles du groupe symetrique, a l'aide des tableaux de Young. Ceci utilise les resultats elementaires sur les representations induites.

La seconde partie explicite le calcul des caracteres du groupe symetrique. La methode suivie est celle de Frobenius. L'expose qu'en donne H.Weyl n'est guere facile a suivre, aussi avons nous choisi de suivre I.G.Macdonald, pratiquement sans modication

Mac]

. Notons quand m^eme que sur le fond tout ceci remonte a Frobenius et a Schur, que les demonstrations \modernes" ne dierent que dans leur forme de celles qu'on trouve dans leurs articles. Il y a une autre approche possible, qu'on peut sans risque attribuer a H.Weyl qui consiste a etudier en premier les representations (de dimension nie) de GLn, et ensuite, via les theoremes de

la theorie des invariants d'en deduire les resultats sur le groupe symetrique. Ceci permet en particulier d'eviter la partie la plus technique du calcul de Frobenius:::a condition de connaitre un minumumsur la theorie des representationsde dimension nie des algebres et groupes de Lie semi-simples.

x

1 Le groupe symetrique

. | Soit n un entier strictement positif. Le groupe

symetrique Sn est le groupe des permutations de l'ensemble n = f12:::ng.

Le support de 2Sn est l'ensemble des i tels que (i)6=i. La seule permutation

de support vide est l'identite. Une transposition est une permutation dont le support a exactement deux elements. Une permutation circulaire ou cycle est une permutation dont le support est non vide et peut s'ecrire

supp() =fi 1:::i` g avec (i1) =i2(i2) =i3:::(i`;1) =i`(i`) =i1

Proposition 1-1

1)Toute permutation se decompose de maniere unique en un produit de permutations circulaires dont les supports sont disjoints.

2) Toute permutation se decompose en un produit de transpositions.

C'est elementaire et bien connu. Dans la suite on parle de la decomposition en produit de cycles d'une permutation il s'agira toujours de la decomposition canonique ci-dessus. Soit  une permutation et soit H le sous-groupe de Sn

engendre par . Le groupe H opere dans n ce qui fournit une partition de n

suivant les orbites de H. Les orbites ayant plus d'un element correspondent a la decomposition en cycles de , les orbites reduites a un element sont les points xes de . Ordonnons les cardinaux de ces orbites :

`1 `

2

`r1

On a n=P

`j donc on a obtenu une partition den.

Proposition 1-2

. | Pour que deux permutations soient conjuguees par automorphismes interieurs, il faut et il sut que leurs decompositions en produit de cycles donnent la m^eme partition.

C'est bien connu et d'ailleurs evident.

Les classes de conjugaison par automorphismes interieurs dans Sn sont donc

canoniquement en bijection avec les partitions den. Dans la suite nous adopterons pour les partitions les conventions de I.G.Macdonald. Une partition est donc une suite decroissante d'entiers positifs ou nuls

1 

2

:::r:::

La suite peut-^etre innie mais pour r assez grand r = 0. On ne distingue pas

entre deux suites qui ne dierent que par un nombre plus ou moins grand de zeros. La longueur `() de la partition est le nombre de i non nuls et son poidsjj est

la somme des i. Une partition de n est une partition de poids n. On note Pn

l'ensemble des partitions de net P l'ensemble de toutes les partitions.

A toute partition  on associe un diagramme de Ferrers. C'est l'ensemble de tous les couples (ij) avec 1i`() et 1ji. Chacun de ces couples est en fait

represente par une case. La premiere ligne de cases contient 1 cases, la deuxieme

2 :::Par exemple (avec n= 20 )

La terminologie \diagramme de Ferrers" est celle de l'orthodoxie combinatoire. On les appelle aussi souvent \diagramme de Young" mais il faut alors bien distinguer d'avec les \tableaux de Young" denis plus loin.

Enn rappelons que toute permutation  a une signature "() qui vaut 1 et qui

est denie par exemple par

"() = Y 1i<jn

(i);(j)

i;j

x

2 Construction des representations

. | A toute partition de n1 on vient

d'associer un diagramme de Ferrers. Ce diagramme a n cases. Soit  une permutation de n. On remplit les cases du diagramme en commencant par

la premiere ligne, de gauche a droite, puis la deuxieme ligne, toujours de gauche a droite,:::et en inscrivant les entiers de 1 a npris dans l'ordre(1)(2):::(n). Par exemple si on part du diagramme

associe a la partition 4331 den= 11 et si on prend

 =  1 2 3 4 5 6 7 8 9 10 11 4 7 10 3 1 6 11 8 9 2 5  on obtient 4 7 10 3 1 6 11 8 9 2 5

Un couple forme d'une partition d'un entier n et d'une permutation de n est

appele un tableau de Young pratiquement un tableau de Young est un \tableau" analogue a celui qu'on vient de construire. Pour un diagramme donne, il y a donc n! tableaux de Young.

Soit T est un tableau de Young, pour un entier n donne. Tout entier i compris entre 1 et n apparait exactement une fois dans T. On notera `T(i) le numero de

la ligne ou se trouve i (on compte a partir du haut) et cT(i) le numero de la

colonne (on compte a partir de la gauche). Dans l'exemple ci-dessus on a donc `T(11) = 2 et cT(11) = 3. Notons que ceci fournit deux partitions de n, suivant

les lignes ou suivant les colonnes. On note P(T) le sous-groupe des permutations 2Sn qui laissent invariante la fonction `T. Autrement dit `T((i)) = `T(i) la

permutation  ne melange pas les lignes. De m^eme on note Q(T) le sous-groupe des permutations qui laissent cT invariantes c'est-a-dire qui ne melangent pas les

colonnes.

le groupeSn opere sur les tableaux de Young, ancases, de la maniere suivante. Si T est un tableau ancases et2Sn, le tableau(T) est celui obtenu en remplacant

Lemme 2-1

. | On a P; (T) =P(T);1 Q ; (T) =Q(T);1

En eet si p2P(T), alors pour tout i on a `T(i) = `T(p(i)). D'autre part, par

denition de (T), on a, aussi pour tout i, que `(T)((i)) =`T(i). En combinant

ces deux relations on obtient

`(T)(p(i)) = `(T)((i))

et en remplacant i par ;1(i) on voit que p;1

2P((T)). On a donc

P(T);1

P((T)). Ceci reste vrai si on remplace T par 

;1(T) donc

P(;1(T));1 = P(T) et on peut encore changer  en ;1 ce qui donne

P(T);1

P((T)) d'ou l'egalite. La deuxieme partie s'etablit de m^eme.

Lemme 2-2

. | L'intersection des sous-groupes P(T) et Q(T) est reduite a l'element neutre. Une permutation  se decompose d'au plus une maniere sous la forme  = pq avec p2P(T) et q2Q(T). Une telle decomposition existe si et

seulement si pour tout couple (ij)aveci6=jet`T(i) =`T(j)on ac (T)(i)

6

=c(T)(j)

En eet si une permutation2P(T)\Q(T) alors pour touti on a`T(i) =`T((i))

etcT(i) =cT((i)) donciet(i) sont dans la m^eme case de T ce qui signie qu'ils

sont egaux.

Une permutation  quelconque s'ecrit donc d'au plus une maniere sous la forme pq. Supposons que  =pq donc ;1 =q;1p;1. Soient i etj deux entiers distincts

gurant sur la m^eme ligne de T. Les entiersp;1(i) et p;1(j) sont distincts et sur

la m^eme ligne de T que i et j. Ils appartiennent donc a des colonnes dierentes de T. Maisq;1 conserve les colonnes de T donc ;1(i) et ;1(j) apparaissent sur

des colonnes distinctes de T. En sens inverse supposons la condition de l'enonce satisfaite. Notons T"ab] l'entier i tel que `T(i) = a et cT(b) = b autrement dit

celui qui gure dans la case de coordonnees (ab). Denissons la permutationqpar q(j) =T"`T((j)cT(j)]

Sijetj0appartiennent a la m^eme colonne deT, alors(j) et(j0) n'appartiennent

pas a la m^eme ligne de sorte que q est bien une permutation comme elle conserve les colonnes deT on aq2Q(T). Par denitionq(j) et(j) appartiennent a la m^eme

ligne de T doncp =q;1

2P(T).

On utilisera le Lemme precedent comme suit : si =2P(T)Q(T) alors il existe

i et j appartenant a la m^eme ligne de T, distincts et appartenant a la m^eme colonne de (T). Soit alors  la transposition qui echange i et j. On a 2P(T)\Q((T)) = P(T)\Q(T)

;1.

On peut maintenant commencer la construction des representations irreductibles de Sn. On xe un tableau de Young T. Soit 1_P(T) la representation triviale de

P(T) et "_Q(T) la restriction a Q(T) de la signature : c'est une representation de

Proposition 2-3

. |On a dim  HomSn ; IndSn P(T)(1P (T))Ind Sn Q(T)("Q (T))   = 1

En eet d'apres le Theoreme 4-4 de l'Appendice, on doit pour chaque double classe P(T)Q(T) considerer le sous-groupeP(T)\Q(T)

;1. Dans notre cas les

deux representations de ce sous-groupe qui interviennent sont la representation triviale et la restriction de la signature. Pour qu'il existe un entrelacement il faut et il sut que tout element du sous-groupe soit de signature 1. Or on vient de voir que si la double classe n'est pas P(T)Q(T), le sous-groupe contient une transposition qui est de signature ;1. La seule double classe qui contribue est

donc P(T)Q(T), le sous-groupe est alors reduit a l'element neutre et l'espace des operateurs d'entrelacement est bien de dimension 1.

Il existe donc une unique classe = (T) de representations irreductibles de

Sn qui intervient a la fois dans la decomposition de IndSn P(T)(1P

(T)) et dans celle

de IndSn

Q(T)("Q(T)) et de plus elle intervient dans chacune d'entre elles avec la

multiplicite 1.

On peut preciser. Rappelons qu'on note

C

"Sn] l'algebre (de convolution) des applications de Sn dans

C

. Pour toute permutation a, la mesurea, masse +1 au

point as'identie a la fonctionea qui vautn! en a et 0 ailleurs.

L'operateur d'entrelacement U U : IndSn P(T)(1P (T)) !Ind Sn Q(T)("Q(T))

est unique a la multiplication par un scalaire pres. On l'obtient comme suit. Soit L la fonction surG denie par

L(x) =



0 si x=2P(T)Q(T)

"(q) si x=pq

Toujours a un facteur constant pres, L est l'unique fonction qui est invariante a gauche par P(T) et qui se tranforme a droite suivant le caractere signature de Q(T). Pour toute classe a gauche P(T)s soit 's la fonction qui vaut 1 sur cette

classe et 0 ailleurs. On a

U('s)() =L(s;1)

Pour la suite il est preferable d'introduire la fonction e_T =X

pq "(q)eqp

Avec un peu de soin on verie que

La fonction e_T est cette fois invariante a droite parP(T) et se transforme a gauche suivant le caractere signature de Q(T). Notons que

e_T =  X q "(q)eq   X p ep  et aussi que  X p ep   X p ep  = #(P(T)  X p ep 

La fonction U(') est denie pour toute ', invariante a gauche par P(T) ou pas. Ainsi prolonge, et a des facteurs constants pres, l'operateur U s'obtient en composant la projection sur le sous-espace des fonctions invariantes a gauche par P(T) avec la projection sur le sous-espace des fonctions qui se transforment suivant le caractere signature deQ(T). L'image deU est un sous-espace invariant minimal pourSn operant par translations a droite et ceci fournit un modele pour(T).

On ae_T eT = eT car ce produit de convolution se transforme commeeT donc doit

lui ^etre proportionnel. En considerantU comme deni sur

C

"Sn] cela signie que

U2= U. En particulier la trace deU est egale au produit de son rang par donc

Tr(U) = dim (T). D'autre part, en utilisant la baseeb b2Sn de

C

"Sn], on voit

immediatement que l'operateur de convolution par e_T a pour trace e_T(1) =n!. On a donc la :

Proposition 2-4

. |On a

e_T eT =

n! dim(T)eT

Classiquement on dit que e_T est un symetriseur de Young cette terminologie sera justiee dans un chapitre ulterieur. Il resulte du calcul precedent que e_T= est un idempotent c'est donc un idempotent minimal.

Il nous faut maintenant faire varier le tableau de Young T.

Theor eme 2-5

. | Etant donnes deux tableaux de Young T et T0, ayant chacun

n cases, pour que (T) = (T0), il faut et il sut que T et T0 aient le m^eme

diagramme de Ferrers. De plus toute classe de representations irreductibles de Sn

est associe a un(unique)diagramme de Ferrers.

Pour la deuxieme partie, il sut de noter que Snc a autant d'elements qu'il y a de

classes de conjugaison par automorphismes interieurs dansSn. Or ces classes sont

parametrees par les partitions denet il en est de m^eme des diagrammes de Ferrers. Il sut donc de montrer que l'application est injective ce qui est consequence de la premiere partie du theoreme. Pour etablir cette derniere, on a besoin d'un nouveau Lemme.

Soient 1  2 r  0 1  0 2 r

deux partitions de m^eme poids n. On note  0 si 1  0 1  1+2  0 1+ 0 2  1+2+3  0 1+ 0 2+ 0 3 :::

C'est une relation d'ordre mais elle n'est pas totale. Par extension on note TT 0

pour des diagrammes de Ferrers ou des tableaux de Young associes aux partitions  et0. Dans la terminologie classique on dit que domine0.

Pour simplier on dit desormais qu'un tableau de Young est de forme  si cette derniere est la partition correspondant au diagramme de Ferrers sous-jacent au tableau.

Lemme 2-6

. | Soient  et deux partitions de m^eme poids n. Considerons les trois conditions suivantes :

1)La partition domine la partition .

2) Il existe un tableau de Young T de forme  et un tableau de Young U de forme , tels que sii et j sont deux entiers distincts appartenant a la m^eme ligne de T, alors ils appartiennent a des colonnes dierentes deU.

3) Il existe un tableau de Young T de forme  et un tableau de Young U de forme , tels que le groupeP(T)\Q(U) soit reduit a l'element neutre.

La condition 2) implique la condition 3) qui implique elle-m^eme la condition 1) 2) implique 3) En eet prenons T et U comme dans 2). Si une permutation 6=Id appartient a P(T)\Q(U) alors chacun de ses cycles appartient aussi a

cette intersection. Soit c l'un de ces cycles on peut le decomposer en un produit de transpositions entre elements de son support. Chacune de ces transpositions appartient aP(T)\Q(U). Soit l'une d'entre elles qui echangeietj. Les elements

i et j appartiennent a la m^eme colonne de U et a la m^eme ligne de T ce qui est contraire a 2). Par suite P(T)\Q(T) est reduit a l'element neutre.

3) implique 2). En eet si P(T)\Q(U) est reduit a l'element neutre et si i et j

sont distincts et appartiennent a la m^eme colonne de T, alors la transposition  qui echange i etj appartient a P(T) donc n'appartient pas aQ(T) ce qui signie que i etj n'appartiennent pas a la m^eme colonne deU.

Enn prouvonsque 2) implique 1). Quitte a appliquer une permutation convenable, on peut supposer que dans le tableauT les entiers apparaissent dans l'ordre naturel en commencant comme d'habitude en haut et a gauche et on peut aussi supposer que dans le tableau U, les colonnes sont strictement decroissantes, du haut vers le bas. Considerons les entiers contenus lesipremieres lignes deT ce sont les entiers de 1 a1+

+i. Examinons leurs emplacements dansU. Dans chaque colonne,

on les trouve a partir du haut sans qu'aucune case ne soit sautee (sinon la case sautee contiendrait un entier strictement plus grand). D'autre part il y en a au

plus i par colonne. Finalement on a \case" les 1 +

+i premiers entiers dans

les ipremieres lignes deU ce qui impose 1 +

+ i 1+

+i.

La demonstration a donne un peu plus. Si un groupe de la forme P(T)\Q(U)

est un sous-groupe du groupe alterne ( permutations paires) alors il est reduit a l'element neutre dans le cas contraire il contient des transpositions.

Revenons a la demonstration du Theoreme. Supposons qu'on ait deux tableaux T et T0 avec le m^eme diagramme sous-jacent. Il existe donc une permutation telle

que (T) =T0. D'apres le Lemme 2-1, on a P(T0) =P(T);1 et de m^eme pour

Q(T0). Il en resulte que e_T0 =" eT " ;1 Si on pose S(') =" ', alors e_T0 S(') =S(eT ')

Par suite S est une application lineaire de e_T

C

"Sn] dans eT 0

C

"Sn]. Elle est

inversible, son inverse etant la convolution a gauche par ";1. De plusS commute

aux translations a droite on a ainsi construit une equivalence entre un modele de (T) et un modele de (T0).

L'implication en sens contraire est plus delicate. En fait on va faire mieux.

Proposition 2-7

. |Si T ne domine pas T0 alors

HomSn  IndSn P(T 0 )(1P(T 0 ))Ind Sn Q(T)("Q(T))  = (0)

Demontrons la Proposition. Considerons une double classe P(T0)Q(T) Elle

fournit un entrelacement si et seulement si le sous-groupe P(T0)

\Q(T) ;1 =

P(T0)

\Q((T)) est contenu dans le groupe alterne donc est reduit a l'element

neutre. D'apres le Lemme ceci implique que (T) domine T0 donc puisque la

relation de domination ne depend que de la forme du tableau on auraitTT 0.

On peut enn nir la demonstration du Theoreme. Si (T) et (T0) sont egales,

alors, d'apres la Proposition precedente on aTT

0et aussiT0

T donc les tableaux

ont m^eme forme.

Comme la classe(T) ne depend que de la partitioncorrespondant a la forme de T c'est-a-dire au diagramme de Ferrers, on la note desormais ().

Corollaire 2-8

. |SoitT un tableau de forme .

IndSn

P(T)(1P(T)) =() M

>m( )

Les m_ sont les multiplicites ce sont des entiers positifs ou nuls.

L'etape suivante est de calculer les caracteres de ces representations (). C'est un probleme combinatoire non trivial et, avant de l'aborder, on va au moins partiellement, presenter la theorie des fonctions symetriques.

x

3 Les fonctions symetriques

. | La reference de base est le livre de

I.G.Macdonald

Mac]

. En fait ce xest entierement extrait du chapitre1 de ce

livre auquel on renvoie pour les details.

Soient n1 entier et n indeterminees x

1:::xn. On considere l'anneau

Z

"x1:::xn] des polyn^omes a coecients dans

Z

. Le groupe symetrique Sn

opere dans cet anneau : on pose (xi) = x(i) pour toute permutation . Le

sous-anneau des polyn^ome invariants est note %n=

Z

"x1:::xn]

Sn

C'est un anneau gradue on note %kn le sous-espace des polyn^omes invariants homogenes de degre k. Comme il est usuel on parlera de polyn^omes symetriques en les nvariablesx1:::xn.

Le jeu consiste a introduire une demi-douzaine de bases plus ou moins classiques de l'espace des polyn^omes symetriques, puis a determiner les matrices de changements de base.

La base la plus naturelle est celle obtenue en symetrisant les mon^omes. Soit = (1:::n) un multientier posonsx

_=x 1 1 :::x

n

n . Soit = (12:::n:::)

une partition de longueur au plusn. On pose m_ =X

 x 

ou la sommation est etendue a l'ensemble des multientiers deduit de  par une permutation des coordonnees. Par exemple si n= 3 et = (2100:::) alors

m=x2 1x 2 +x 2 1x 3+x 2 2x 1 +x 2 2x 3+x 2 3x 1 +x 2 3x 2 Si n= 3 et = (1110:::) alors m=x1x2x3

( et non pas 6 fois le triple produit:::). Comme le note Macdonald, le nombre de variables a moins d'importance qu'il n'y parait. Si on considere les polyn^omes symetriques homogenes de degre 2, alors si n= 1, la dimension est 1 avec comme base x2

1 mais si n

2 alors la dimension est 2 avec comme base ( P

i<jxixj P

x2 i).

Autrement dit la dimension est stable pour n2.

D'une maniere generale, pour k quelconque et mn, on a une application lineaire

surjective

kmn : %km !%kn

obtenue en specialisant xn+1 = ::: = xm = 0. Si la partition  est de longueur

polyn^ome mconstruit avec nvariables et si la longueur de  verien < `()m

alors m donne 0. Comme on regarde des polyn^omes homogenes de degre k, on

doit prendre de poidsjj=k donc de longueur au plusk. La conclusion est que

pournk, l'applicationkmn est bijective et on peut considerer que %kn ne depend

pas de n. Formellement on appelle %k la limite projective du systeme (%kn_kmn). On a donc des applications lineaires

_kn : %k !%kn

qui sont bijectives pournk. Ceci conduit a introduire

% = M

k0

%k n =M k0

_kn

La structure d'anneau gradue de %n donne une structure d'anneau gradue sur

%. Ce dernier est l'anneau des fonctions symetriques, a coecients entiers. Bien entendu on peut remplacer

Z

par

Q

ou

C

 on note alors %Q ou %C l'anneau des

fonctions symetriques.

Les fonctions symetriques elementaires er sont denies par

er = X

i1<i2< <ir

xi1xi2:::xir

Ce sont des cas particuliers des m, obtenus en prenant  = (11:::10:::). On

doit prendre nr mais ce souci disparait si on se place dans %. Avec n variables,

on a En(T) =Xn 0 erTr =Yn 1 (1 +xiT) et a la limite E(T) = +1 X 0 erTr = +1 Y 1 (1 +xiT)

Pour toute partition = (12:::), 0n pose

e_=e_1e2:::

Si on veut travailler avec nvariables, on considere les partitions telles que1 n.

Soit  une partition quelconque et considerons son diagramme de Ferrers. On appelle partition conjugue deet on note0la partition obtenue en permutant les

lignes et les colonnes du diagramme. Autrement dit 0

1 est le nombre de cases de la

premiere colonne du diagramme de , puis0

2 le nombre de cases de la deuxieme

Proposition 3-1

. |Il existe des entiers a0tels que

e_0 =m+ X <m

La demonstration est laissee en exercice.

La formule precedente donne donc la decomposition des e suivant la base dem.

Relativement a la relation de dominance, la matrice qui intervient est triangulaire avec des 1 dans la diagonale. C'est une situation typique dont on verra d'autre exemples.

Bien que l'ordre ne soit pas total, le fait que la matrice soit triangulaire avec des 1 dans la diagonale implique qu'elle est inversible. Une maniere simple de le voir est de proceder par recurrence sur le poids jjd'une partition en notant que si < 

alors j j <jj. On prouve par recurrence sur le poids que

m_0 =e+ X

>be b 2

Z

Comme lese_sont les monomes en leser on obtient le resultat bien connu suivant :

Corollaire 3-2

. | Les fonctions symetriques elementaires sont algebriquement independantes sur

Z

et

% =

Z

"e1e2:::]

dans cet enonce on peut remplacer

Z

par

Q

ou

C

.

La fonction symetrique er est homogene de degrer. Il y a un autre choix possible

les fonctions \symetriques completes" hr = X jj=r m par exemple h0 = 1 h1 = X xi h2 = X x2 i + X i<jxixj

Il n'est pas dicile de passer des er aux hr. En eet la fonction generatrice des hr

est H(T) = +1 X 0 hrTr = +1 Y 1 (1;xiT) ;1

On a doncH(T)E(;T) = 1 ce qui en developpant fournit la relation n X r=0 (;1) r_erhn ;r n 1

Soit ! l'homomorphisme d'anneaux gradues de % dans lui-m^eme deni par !(er) = hr. La relation de recurrence ci-dessus etant symetrique en les e et

les h, si on lui applique!, on conclut que !(hr) =er. D'ou

Proposition 3-3

. | L'homomorphisme ! est un automorphisme involutif de %. En particulier les hr sont algebriquement independants et% =

Z

"h1h2:::]

Soit, pourr1

pr =X

xri Denissons la serie generatrice par

P(T) =X r 1

prTr;1

On verie de suite que

P(T) = H0(T) H(T) = E 0( ;T) E(;T) ce qui donne hn = 1_nXn 1 prhn;r en = 1_nXn 1 (;1)r ;1p ren;r

Ce sont les formulesde Newton qui permettent d'exprimerles sommesde puissances en fonction des fonctions symetriques elementaires et inversement. De tout ceci on conclut :

Proposition 3-4

. |Les pr sont algebriquement independants sur

Q

et

%Q = %  Z

Q

=

Q

"p 1p2:::] De plus !(pn) = (;1)n ;1p n

Comme prevu, pour toute partition, on pose p_ =p_1p2:::

en se limitant aux i >0 ou en convenant quep0 = 1. Lesp forment une base de

Enn pour la suite les fonctions symetriques les plus importantes sont les fonctions de Schur. La signature d'une permutation est notee "().

Placons nous dans %n. L'application

f 7! X 2Sn

"()(f)

est un projecteur sur le sous-espace des fonctions antisymetriques. En particulier, pour tout multientier= (1:::n),posons

a =X Sn

"()(x ₎

Si les i ne sont pas tous distincts on obtient 0 de sorte qu'on peut supposer que

1 > 2 >

> n. Comme la suite le prouve abondamment, il convient de poser

 = (n;1n;2:::10) puis  = + ou  est une partition de longueur au

plus n. On a ainsi a+ = X "()(x+) = Det ; xj+n;j i 

Ce polyn^ome est, pour i < j divisible par xi ;xj (utiliser l'anti-invariance par la

transposition qui echange i et j ), donc, ces polyn^omes etant premiers entre eux, par le produit

Y i<j(xi

;xj)

mais ce dernier est un \determinant de Vandermonde"

Y i<j(xi

;xj) = Det(xji) =a

Il resulte des considerations precedentes que tout polyn^ome antisymetrique s'obtient en multipliant par a un polyn^ome symetrique. Or les polyn^omes a+,

avec  une partition de longueur au plus n forment une base de l'espace des polyn^omes antisymetriques donc les polyn^omes

s = a+

a

forment une base de %n. Ce sont ces polyn^omes s qu'on appelle polyn^omes de

Schur.

Le passage a la limite inductive est sans problemes : si `()n, si on construits

avec mn variables et si on specialise sur 0 les variables xn

obtient bien le s construit avec n variables. L'ensemble des s pour toutes les

partitions est donc une base, sur

Z

, de %. On montrera auxsuivant que

!(s) =s0

Si on pose f = !(m) on a nalement 6 bases de % (dont une sur

Q

), a savoir

mehpsf, chacune indexee par les partitions. On doit donc calculer 30 matrices de changements de base! Ces calculs sont faits dans le livre de Macdonald. Ils ne sont d'ailleurs pas tres compliques. On y reviendra au xsuivant.

Un point crucial et moins elementaire est l'existence d'un produit scalaire raisonnable sur %. on a besoin d'un resultat preliminaire.

Donnons nous deux series d'indeterminees x1x2::: et y1y2:::. On peut donc

considererm(x) m(y):::.

Lemme 3-4

. | on a Y ij(1 ;xiyj) ;1 = X  z ;1  p(x)p(y) =X  h(x)m(y) =X  m(x)h(y) =X  s(x)s(y)

Ces identites sont quelquefois appelees identites de Cauchy. Le nombre z est le

suivant. Pour tout entier rsoit ur le nombre dej tels quej =r. Alors

z =Y

rur_ur! La demonstration sera donnee au xsuivant.

Il existe un unique forme bilineaire hisur % tel que hhmi=

Elle est non degeneree et symetrique. Siu etv sont deux elements de % alors

huvi= X



huhihvmi

Si (u) et (v) sont deux familles indexees par les partitions alors X

 u(x)v(y) = X 

de sorte que X  u(x)v(y) = X  m(x)h(y) si et seulement si X  humi hvhi=

mais, exercice d'algebre lineaire, ceci equivaut a

X 

humi hvhi=

c'est-a-dire a

huvi=

La conclusion est que (u) et (v) sont deux bases duales si et seulement si X  u(x)v(y) = Y ij(1 ;xiyj) ;1

la signication du Lemme 2-4 est maintenant claire. D'une part on a

hppi=z

et d'autre part et surtout, les fonctions de Schur forment une base orthonormale de %

hssi=

Les s tels que jj = n forment une base orthonormale de %n qui est lui de

dimension nie (sur

Z

). La forme bilineaire est positive. Toute autre base orthonormale de %n se deduit de la base des s par une matrice orthogonale a

coecients entiers. Les seules matrices possibles sont des matrices de permutation et de changements de signe de sorte qu'a la multiplication par  pres (et a

permutation pres si on veut ordonner les vecteurs d'une base), les s avec jj=n sont l'unique base orthonormale du

Z

; module des fonctions symetriques

homogenes de degren.

Finalement! est une isometrie car!(s) =s0.

x

4 Quelques calculs

. | On conserve les notations du xprecedent et on va

maintenant etablir les points admis. Soit = (1:::) une permutation et 

0 = (0

Lemme 4-1

. | On a Det; hi;i+j  = Det; e0 i;i+j 

Rappelons un resultat de calcul matriciel. Soit A une matrice carree d'ordren, a coecients dans un anneau commutatif. Soit Bla puissance exterieure (n;1)eme

de A. Le coecient bij de B est donc le determinant de la matrice obtenu en

supprimant dansA laieme ligne et lajeme colonne. SoientH et K deux parties a m elements def12:::ng et soit AHK le mineur deA obtenu en conservant les

lignes (resp. les colonnes) dont l'indice appartient a H (resp. aK ). On denit de m^eme les mineurs B_HK. Enn soit K0 le complementaire de K et H0 celui de H.

On a alors

B_HK =;

detAp ;1

A_HK

Supposons maintenant que A soit inversible et soit C la transposee de sa matrice inverse. La matrice C s'obtient a partir de B en multipliant le coecient bij par

(;1)i

+j et en le divisant par Det(A). On a donc

B_HK = (;1)h +k

;

DetAp

CHK

ou h(resp. k ) est la somme des elements de H (resp. deK ). On en tire A_HK = (;1)h

+kDet(A)C HK

On peut maintenant prouver le Lemme. Les relations

n X r=0 (;1)rerhn ;r n 1

signient que les matrices carrees d'ordren+ 1 H = (hi;j) E = ; (;1)i +je i;j   0ijn

sont inverses l'une de l'autre (on convient que les e et les h d'indices negatifs sont nuls). Elles sont de plus de determinant 1. On prendn =`() +`(0)

;1 et

on choisit

H =fi+`();ij1i`()g K =f`();jj1j`()

et on verie (exercice) que H0 = f`();1 +i; 0 ij1i`( 0) g K 0 = f`();1 +jj1j`( 0) g

Lemme 4-2

. | On a, pour n`()

s_= Det;

hi;i+j 

1ijn

Donnons rapidement la marche. On travaille avec nvariables et on denit les e(k) r par n;1 X 0 e(k) r Tr = Y i6=k (1 +xiT) de sorte que H(T)n;1 X 0 e(k) r Tr = (1;xkT) ;1

Si= (1:::n), on deduit de l'identiteprecedente, en comparantles coecients

de T i_{, l'egalite matricielle} ; x _ji =; h i;n+j ; (;1)n ;iej n;i 

On ecrit l'egalite des determinants a gauche on obtient par denitiona  pour un

instant prenons  = . La matrice (h i;n+j) est egale a (hj;i) qui est diagonale

de determinant 1 donc la matrice ((;1)n ;iej

n;i) qui ne depend pas de  est de

determinant 1. Si maintenantest quelconque, on obtient a =aDet; h i;n+j  Pour=+ on a ainsi s_=X  "()h+;() = Det ; hi;i+j  On a donc !(s) = Det; !(hi;i+j)  = Det; ei;I+j  =s0

Il nous reste a prouver le Lemme 3-4. Commencons par la premiere egalite. On a vu que P(T) =H0(T)=H(T). On a donc, puisqueH(0) = 1

H(T) = Exp; X r 1

prTr=r

Notons que l'ecriture a un sens car on peut substituer une serie formelle sans terme constant dans la serie exponentielle. Pour tout N ceci peut s'ecrire

H(T) =YN 1 Exp; prTr=r Exp; X rN+1 prTr=r

On a donc H(T)  N Y 1 Exp; prTr=r mod(TN+1) ou encore H(T)  N Y 1 +N X ur=0 pu_rr_r;urTrur=u r! mod(TN+1)

Si on developpe on obtient une somme de termes de la forme

N Y

1

pu_rr Trur ur!rur

Si est l'unique partition qui contient u1 fois 1,u2 foisu2 :::alors ce terme vaut

pz;1  Tjj On a donc l'identite H(T) =Y (1;xiT) ;1 = X  pz ;1  Tjj

Ce calcul formel est valable pour n'importe quelle suite d'indeterminees. En particulier on peut l'appliquer a une suite a double indice comme xiyj. Dans ce cas

pr =X ij xriyrj = X i xri X j yrj =pr(x)pr(y)

ceci prouve la premiere identite. La suivante est immediate :

Y ij(1 ;xiyj) ;1 = Y j H(yj) = Y j X r hr(x)yrj = X h (x)y ₌X  h(x)m(y)

Pour la derniere, prenonsnvariables a(x)a(y) Yn ij=1 (1;xiyj) ;1 =a (x) X 2Nn X  h (x)"()y +()

Posons alors =+() et sommons pour2

N

n (on a convenu que hr = 0 pour

r < 0) ), ce qui donne, en appliquant le lemme precedent a(x)X

"()h ;()y

 ₌X

 ay 

On peut se limiter aux  = (1:::n) ou les j sont tous distincts (sinon on

obtient 0). En rassemblant les qui se correspondent par permutation on obtient

X

 a(x)a(y)

Pour terminer on va calculer certaines des matrices de changements de base. Il nous faut d'abord bien preciser la terminologie concernant les tableaux et les diagrammes. Cette terminologie semblant un peu &uctuante suivant les references, il convient donc d'^etre prudent.

Soient  et deux partitions. A chacune correspond un diagramme de Ferrers. Supposons que, pour tout i, on aiti i de sorte que le diagramme de contient

celui de . On note  . Le diagramme obtenu en supprimant du diagramme

de  les cases de est appele un diagramme gauche on le note = . Son poids est j= j = jj;j j. Si pour tout i, on a i ; i1 alors = a au plus une

case par ligne on dit que c'est une bande verticale ou plus precisement une m;

bande verticale si ce diagramme a m cases. On denit de m^eme les m; bandes

horizontales (au plus une case par colonne).

D'une maniere generale un tableau est un diagramme ou l'on a inscrit un entier dans chaque case. le diagramme est la \forme" du tableau.

Un tableau de Young est un tableau dont la forme est un diagramme (ordinaire) donc associe a une partition  et faisant intervenir les entiers de 1 a jj. Le poids

est jj il n'y a pas de repetitions dans le tableau.

Un tableau de Young est standard si dans chaque colonne (resp. dans chaque ligne) le contenu des cases est une suite strictement croissante d'entiers.

En general dans un tableau le m^eme entier gure plusieurs fois.

Un tableau de forme = est colonne-strict si dans chaque colonne (resp. dans chaque ligne) le contenu des cases est une suite strictement croissante (resp. croissante au sens large) d'entiers. En transposant on obtient les tableaux ligne-strict. Voici un exemple les cases avec des 0 sont celles de  elles ne font pas partie du tableau.

0 0 0 1 1 3 4 0 0 1 3

0 1 2 4 0 3

Dans

Mac]

le mot tableau signie tableau colonne-strict. Nous dirons qu'un tel tableau est un tableau semi-standard de forme = . Le cas ligne-strict ne devrait pas intervenir.

Un tableau semi-standard de forme= peut encore se decrire avec des partitions. Soit i l'ensemble des cases contenant i c'est une jij; bande horizontale. Soit

i =  1

i. C'est une partition et le tableau est entierement determine par

la suite, croissante au sens large, des partitions =0

 1

 k =

Remarques

Il y a encore des variantes possibles. On peut demander que la suite precedente soit strictement croissante ce qui veut dire qu'on ne saute aucun entier. Si comme nous l'avons fait on accepte des egalites dans la suite de partitions, alors on sera oblige de limiter l'entier k sauf a accepter d'avoir une innite de tableaux de la m^eme forme. On precisera a chaque fois.

Lemme 4-3 (Formule de Pieri)

. |Soit une partition etr un entier positif ou nul. On a

ser =X  s

ou parcourt l'ensemble des partitions qui contiennent et telles que= soit une

r;bande verticale. Par denition er = X i1<i2< <ir xi1 :::xir donc a+er = X  X i1<i2< <ir "()x( +)xi1:::xir ou encore a+er = X a++ ou= (1:::n) aveci 1 et P

i =r. Si deux des composantes de ++

sont egales a+ + = 0 les cas restants sont ceux ou +est une partition et

on obtient exactement les partitions annoncees par l'enonce. Si on applique l'involution!, on obtient une formule equivalente

shr =X  s

ou  parcourt l'ensemble des partitions qui contiennent et telles que = soit une r;bande horizontale.

Soient et deux partitions telles que   soit  une partition de m^eme poids

que = . On note

le nombre de tableaux semi-standards, de forme = et de poids . Si = (0) (diagramme vide) on note

K

le nombre de tableaux semi-standards de forme  et de poids  c'est-a-dire contenant 1 fois 1,2 fois 2etc

A partir du Lemme precedent et par une recurrence facile sur le poids de  on prouve la

Proposition 4-4

. |Soient et  deux partitions. On a

sh =X

K=s

ou la sommation porte sur toutes les permutations  et telles que j= j= jj.

En particulier

h =X

Ks

ou la sommation porte sur toutes les permutations  de m^eme poids que.

Les nombresK sont les nombres de Kostka. Ce sont des entiers positifs ou nuls

Proposition 4-5

. |On a K= 1etK6=0implique

C'est un exercice. Si  et ne sont pas de m^eme poids, on convient que K = 0.

La matrice K = (K) est donc la matrice qui fait passer des s aux h . En

utilisant l'involution et le produit scalaire, il est facile de calculer, en fonction de K, de sa transposee, de son inverse, les matrices de passages entre les bases m e h f s .

On vient de voir que

h=s+ X >Ks Appliquons! e =s0 + X >Ks 0

Si on utilise le fait que (s) est autoduale et que la base (h) est duale de la base

(m), on obtient

s=m+X

<Km

Pour terminer remarquons que si on note 1(n) la permutation de poids n et dont

toutes les composantes valent 1, alorsK(1

(n) est le nombre de tableaux standards

x

5 Le calcul des caract eres du groupe symetrique

. | Comme on va le voir,

il n'y a plus de dicultes majeures. Pour tout entier n1, on note b

Sn l'ensemble des classes d'equivalence de representations irreductibles de Sn. Pour simplier les notations soit Rn le

Z

; module libre de base

b

Sn. Comme chaque classe est

caracterisee par son caractere qui est une fonction centrale sur le groupe, on peut considerer que Rn est un espace de fonctions centrales surSn. On dit quelquefois

que Rn est l'espace des caracteres virtuels de Sn. Le produit tensoriel de deux

representations fournit un produit sur Rn mais dans ce xon choisit d'oublier ce

produit \interne". Par contre on va avoir besoin d'un produit \externe" qui fait intervenir tous les groupes Sn.

Convenons que R0 =

Z

et posons

R=M

n0

Rn

On peut plonger le groupeSnSm dans le groupeSm

+nen faisant opererSnsur f1:::ng et Sm sur fn+ 1:::mg. Si  est une representation de Sn et  une

representation de Sm, on denit  representation de SnSm dans V V.

On induit ensuite cette representation a Sn+m. Exprimee en termes de caracteres

ceci donne une application bilineaire

RnRm !Rn +m

et on obtient sur R une structure d'anneau commutatif, associatif, gradue, de centreR0 :::

On va voir que R est isomorphe a %. On fait operer Sn dans lui-m^eme par automorphismesinterieurssoitune orbite. Elle est caracterisee par une partition de n correspondant a la decomposition en cycles d'un element quelconque de . Soit () cette partition et soitp = p(). On a ainsi une bijection de l'ensemble

des orbites sur l'ensemble des partitions. On note aussip =p() lorsque 2 de

sorte qu'on a une application deSn dans %n (fonctions symetriques homogenes de degren). On prolonge cette application aRn en posant

() = 1_n!X

 ()p

(Macdonald note cette application ch mais on a deja utilise ch pour le caractere d'une representation en tant que fonction denie sur Sn ). Ceci est valable pour toutnet on obtient ainsi une application lineaire deRdans %. Comme tous les p

appartienne a l'image, cette application est bijective. En fait

Proposition 5-1

. | L'application  est un isomorphisme d'anneaux et une isometrie

Rappelons que Rn est muni d'un produit hermitien :

(0) = 1

n!

X

()0()

les caracteres irreductibles ont la symetrie hermitienne(;1) =() ) et il en est

de m^eme de leurs combinaisonslineaires a coecients entiers. On peut donc dans la formule precedente remplacer() par(;1). Comme les caracteres irreductibles

forment une base orthonormale ce produit scalaire est en fait a valeurs entieres. Verions que  est bien une isometrie. Soit une permutation et, pour touti, soit mi le nombre de cycles de longueur i dans la decomposition de . Le lecteur se

convaincra facilement que le nombre de permutations qui commutent a  est

Y i i

mi_mi!

qui vaut donczp. Par suite l'orbite de  an!=zp elements. Si dans la formule du produit scalaire (0), on regroupe les elements d'une m^eme orbite, on obtient

donc (0) = X  1 zp() 0()

On a note () la valeur de la fonction centrale sur l'orbite et de m^eme pour 0 et on a utilise le fait que et ;1 sont dans la m^eme orbite.

On sait que hppi=z donc est bien une isometrie.

Soientnetm deux entiers et soient2Rn et  0 2Rm. Soit 00 = Ind Sn +m SnSm(  0))

On doit montrer que (00) = ()(0). C'est exactement le theoreme de

reciprocite de Frobenius. En eet soit  un caractere irreductible de Sm+n.

D'apres ce theoreme, on a (00) Sn +m = (  0 jSnSm) Sn Sm

Par linearite cette egalite reste valable pour tout 2Rn. Plus generalement si A

est une algebre commutative sur

Q

etf une application de Sn dansA, on pose

(f)Sn = 1 n! X  ( ;1)f() = 1 n! X  ()f()

et on fait de m^eme pour m et m+n. L'egalite de Frobenius reste valable pour toute fonction centrale sur Sm+m car une telle fonction est combinaison lineaire

des fonctions caracteristiques des orbites. En particulier si on prend pour f la fonction

fn+m() =p  2Sn

+m

alors on obtient (00). D'autre part on a ; fn+m  jSnSm =f_nf_m Par suite (00) = ; 0 ; fn+m  jSnSm  SmSn = (fn)Sn( 0f m)Sm =()(0)

Dans le

Z

;moduleRn, les caracteres irreductibles forment une base orthonormale

et, au signe pres, cela les caracterise. Si on applique  on doit donc obtenir, au signe pres, les polyn^omes de Schurs.

Theor eme 5-2

. | Pour toute partition  de n, la fonction  = ;1(s

) est un

caractere irreductible de Sn et on obtient ainsi tous les caracteres irreductibles.

Il sut de prouver que (1)>0. D'une maniere generale pour toute permutation

 on a () = h()pi. On doit donc prouver que, pour toute partition de n, on hspn 1 i>0. Orp 1 =h1 donc hspn 1 i=hshn 1

i. C'est le coecient de s dans la

decomposition de hn 1 = h1

(n) suivant la base des s  il vaut donc K 1

(n) qui est

strictement positif.

Proposition 5-3

. |La representation de caracterea pour dimension le nombre

de tableaux de Young standards de forme  Il nous faut encore faire le lien avec le x2.

Theor eme 5-4

. |La representation () a pour caractere;1(s )

Tout d'abord soit 1 le caractere de la representation triviale deSn. on a

(1) = X

jj=n

z;1  p

et, au x4 on a obtenu la formule

H(T) = X  z ;1  pTjj Par suite (1) =hn

Si maintenant on considere le caractere" de la representation signature, on trouve (") = X jj=n "()z;1  p avec "() = (;1) jj;`() En appliquant! aH on obtient E(T) =X  z ;1  "()pTjj d'ou (") =en

Soient  une partition de n et T un tableau de Young de forme . On a donc le sous-groupeP(T) deSn, c'est celui qui conserve les lignes deT, et le sous{groupe

Q(T) qui lui conserve les colonnes.

Le sous-groupeP(T) est un produit de sous-groupes P(T)S

1

Sn

Le groupeS1 opere sur les entiers qui gurent dans la premiere ligne du tableau, S2 sur les entiers de la deuxieme ligne etc. Soit T la representation de Sn

induite par la representation triviale de P(T). Comme  est un homomorphisme, les remarques ci-dessus montrent que

(ch(_T)) =h

de maniere analogue, le caractere de la representation _T induite par le caractere signature de Q(T) est donne par

(ch(_T)) =e_0 Or on a vu que h=s+X >Ks e0 =s+ X <K 00s

Or () est l'unique representation qui intervient des deux c^otes. On a donc s=().

Proposition 5-5

. | Si on note " la representation signature alors, pour toute representation  de Sn, on a

(ch(")) =!((ch())

Autrement dit l'involution ! correspond au produit tensoriel (interne) par le caractere signature. En eet si c est la valeur du caractere de  sur l'orbite

parametree par la partition, alors

(ch()) = X jj=n z;1  cp or !(p) ="()p donc !; (ch() = X jj=n z;1  "()cp

Mais si appartient a l'orbite parametree paralors c'est un produit de cycles de longueurs (1:::r) donc sa signature est

"() =Yr 1 (;1) i;1 = ( ;1) jj;`()="()

Le caractere de " vaut doncc"() en un tel point et le resultat est evident.

Bien entendu, comme !(s) = s0, l'involution correspond aussi au passage de

() a (0) de sorte que(0) s'obtient en tensorisant() par".

Dans tout ce chapitre on a pris

C

comme corps de base mais il est clair que toutes les constructions ont ete faites sur

Q

. On a donc obtenu une

Q

-representation pour toute partition  denet elles sont deux a deux inequivalentes. Il reste a voir qu'il n'y en a pas d'autres.

Soit G un groupe ni et notons R l'algebre ( de convolution) des applications de G dans

Q

. Elle est semi-simple. Soit R = Ri sa decomposition en somme

directe de sous-algebres simples et en particulier soit e = P

ei la decomposition

de l'element neutre. Si j est une representation de \type Rj ", et si i6=j, alors

j(ei) = 0 et donc le caractere de j est nul sur ei. Par contre sa valeur sur

ej est non nulle : c'est la dimension de j (a ce stade on aurait des ennuis

en caracteristique p > 0 ). On en deduit immediatement que les caracteres de representations irreductibles inequivalentes sont lineairement independants. Ce sont des fonctions centrales. Les fonctions centrales constituent le centre de R. La dimension de l'espace des fonctions centrales est egale au nombre d'orbites de G operant dans lui-m^eme par automorphismes interieurs. La conclusion est que le nombre de classes d'equivalence de

Q

; representations irreductibles est au plus

Si on revient au groupe symetrique, on constate qu'on a rien oublie. Les representations irreductibles de Sn, construites sur

Q

, ou sur tout autre corps de caracteristique 0, sont donc absolument irreductibles, c'est-a-dire restent irreductibles lorsqu'on etend le corps des scalaires. Le lemme de Schur est valable le commutant est reduit aux scalaires.

Placons nous sur

Q

. Dans

Q

"Sn] chaque classe de representations irreductibles () intervient autant de fois que sa dimension m(). Pour chaque tableau de Young de forme , on a construit un symetriseur et donc un modele de () dans

Q

"Sn]. Or il y a n! tableaux de Young de forme donc on en a trop.

D'autre part, on a vu quem() est egale au nombre de tableaux de Young standard de forme . On va montrer que ces tableaux susent.

Introduisons sur les tableaux de Young standards de forme , l'ordre lexi-cographique : on dit que T1 precede T2 si, lorsqu'on compare les cases, en partant

de la case gauche de la premiere ligne et en lisant comme dans un livre, alors la premiere fois que l'on a des entiers distincts celui fourni par T1 est plus petit que

celui fourni par T2. C'est par exemple le cas si

T1 = 1 2 3 4 5 6 T2 = 1 2 3 4 6 5

Lemme 5-6

. | SiT1 precede T2 alors eT 2

eT 1 = 0

Il sut de demontrer qu'il existe deux entiers distincts qui appartiennent a la m^eme ligne de T1 et a la m^eme colonne de T2. Considerons la premiere case ou

T1 et T2 dierent. Soit n1 et n2 les entiers qu'on y trouve, n1 < n2. Notons que

cT1(n

1)>1 car une fois remplies un certain nombres de lignes, le premier entier qui

apparait sur la ligne suivante doit ^etre le plus petit de ceux qui restent. Cherchons a localiser n1 dans T2. On a `T

2(n 1)

`T 1(n

1 et s'il y a egalite, on doit avoir

cT2(n

1) > cT 1(n

1). De plus. commeT2 est standard et que n2 > n1, le nombren1

verie en fait`T2 > `T2(n 2) etcT 2(n 1)< cT 2(n 2. A l'intersection de la ligne`T 2(n 2) et de la colonne cT2(n

1) on trouve le m^eme entier m dans T1 et T2. Comme m et

n1 appartiennent a la m^eme colonne deT2 et a la m^eme ligne deT1, on a gagne.

Ordonnons les tableaux de Young standards, de forme , dans l'ordre lexi-cographique T1T2:::Tm

() et considerons les sous-espaces eTi

Q

"Sn]. Leur

somme est directe. En eet, avec des notations evidentes, si

m() X

1

'i = 0

en convolant a gauche avec eTm(), il reste eTm() 'm

()= 0 ce qui implique que

Proposition 5-7

. |On a

Q

"Sn]=M

e_T

Q

"Sn]

Chapitre 2 LA THEORIE DES INVARIANTS POUR GL(n)

Soit

K

un corps de caracteristique 0 La theorie est maintenant etablie en toute caracteristique mais les demonstrations les plus directes ne sont valables qu'en caracteristique 0.

Il y a classiquement deux types de theoremes. Le premier theoreme fondamental est un theoreme qui fournit un systeme de generateurs pour la sous-algebre des invariants. Le deuxieme theoreme fondamental decrit les relations entre ces invariants. Chacun de ces theoremes admet des variantes.Nous allons demontrer ces theoremes puis en deduire la construction des representations rationnelles de dimension nie de GL(n) ainsi que le calcul de leurs caracteres. Ceci utilisera les resultats du Chapitre 1

x

1 Les deux theor emes fondamentaux

. | Soit donc

K

un corps de

caracteristique 0. On xe un espace vectoriel V sur

K

, de dimension nie r et on considere le groupe lineaire GL(V). Il opere dans V. Soit n un entier n1. Notons V

n le produit tensoriel de V par lui-m^eme n fois par exemple

V3 =V

V V. Le groupeGL(V) opere par

rn(g)(v1

vn) =gv 1

gvn

Le groupe symetriqueSn opere aussi dans Vn. De maniere precise, si

2Sn, on pose rn()(v1 v 2 vn) =v;1 (1) v;1 (i) v;1 (n)

Ceci doit s'interpreter comme une permutation des places : l'eet de  est de mettre a la premiere place la composante qui etait a la place ;1(1). Si on

applique maintenant une deuxieme permutation , a la premiere place on obtient la composante qui, apres application de  etait a la place ;1(1), c'est-a-dire

v;1 (

;1

(1)) =v() ;1

(1). On a bien une representation du groupe symetrique!

SoitArn la sous-algebrede End K(V

n) engendree par les endomorphismes rn(g).

La representationrn se prolonge a l'algebre

K

"Sn] soit Brn l'image de

K

"Sn].

Il est clair que Arn etBrn commutent.

Theor eme 1-1 (Premier Theor eme Fondamental)

. | La sous-algebre Arn

est le commutant dans EndK(V

n) de la sous-algebre

Brn et cette derniere est le

Puisqu'on est en caracteristique 0, l'algebre

K

"Sn] est semi-simple. Elle est aussi

unitaire. La representation rn est donc semi-simple et elle est non degeneree.

Le theoreme du double commutant s'applique donc. Il sut de prouver que le commutant de Brn est Arn

Commencons par un lemme. Soit W un espace vectoriel de dimension nie. Le groupe symetrique Sn opere dans le produit tensorielWn. Soit

S le sous-espace

des invariants c'est-a-dire des tenseurs symetriques. Soit X un ouvert de Zariski non vide de W

Lemme 1-2

. | Le sous-espace S est engendre par les tenseurs de la forme

www w2X

Soit e1:::er une base de W. Les tenseurs ei 1

ein forment une base de

Wn. Fixons une partition n =  1 +

+n de n et notons la . Soit s la

somme des vecteurs de baseei1

ein qui contiennent

1 foise1,2 foise2:::.

L'ensemble des s est une base du sous-espace des tenseurs symetriques. Soit f

une forme lineaire sur Wn nulle sur tous les tenseurs symetriques decomposes

c'est-a-dire de la formewn =w

w avec de plusw2X. Il nous faut montrer

qu'elle est nulle sur tous les tenseurs symetriques et il sut de le faire pour les s .

Prenons w=t1e1+ +tnen On a wn = X t _s donc 0 =X f(s )t

Ceci est valable quels que soient les elements ti de

K

tels que w2X donc, le corps

etant inni, pour toutw2W (principe du prolongement des identites algebriques).

Il en resulte que tous les coecients f(s ) sont nuls.

La demonstration ci-dessus a ete reprise de

Proc]

. Passons a la demonstration du theoreme. On a EndK(V n) =  EndK(V)  n

La &eche de droite a gauche s'obtient en posant (T1 T 2 Tn)(v 1 v 2 vn) =T 1(v1) T 2(v2) Tn(vn)

SoitW = EndK(V). Soit

T = X

T1

un element du commutant de Brn. La relation de commutation s'ecrit X T;1 (1)(v ;1 (1)) T;1 (n)(v ;1 (n)) = X T1(v ;1 (1)) Tn(v;1 (n))

Lesvietant quelconques cela signiequeT est un tenseursymetrique. Or GL(V) est

un ouvert dense deW = End_K(V) donc d'apres le Lemme tout tenseur symetrique dans Wn est combinaison lineaire de tenseurs de la forme g

gg avec

g2GL(V). Comme gg=rn(g). le theoreme est demontre.

Donnons une premiere version du second theoreme fondamental. Considerons rn

comme une application de

K

"Sn] dans EndK(V n).

Si r < n, plongeons Sr+1 dans Sn en le faisant operer sur les r premiers entiers.

Soit r+1 = X 2 Sr +1 "()e

Ici e est la fonction denie surSn qui vaut 0 sauf enou elle vaut n!. On a donc

rn(e) =rn() et rn(r+1) = X 2Sr +1 "()rn()

Theor eme1-3 (Deuxi eme Theor eme Fondamental)

. |Si rnalorsrnest

injective.

Si r < n, le noyau de rn est l'ideal bilatere engendre par r+1.

Montrons d'abord que si r < n alors rn(r+1) = 0. Soit v1v2:::vr une base

de V. On a donc une base (vi1 vi

2

vin) de W = V

n. Comme r < n dans

chacun de ces vecteurs de base, au moins l'un desvj intervient au moins deux fois.

Supposons par exemple quevi1 =vi2. Soit  la transposition qui echange 1 et 2. le

vecteur de base considere est donc invariant par. D'autre part r+1 e = X "()e ="()r+1 = ;r +1

Il en resulte que le vecteur de base etudie est annule par rn(r+1). On a donc

bien rn(r+1) = 0.

Soit  une partition de n. Il lui correspond une classe () de representations irreductibles du groupe symetrique soit

K

"Sn]la sous-algebre simple associee a

(). Pour tout tableau T de forme, on a construit un symetriseur de Young e_T =X

pq "(q)eqp

ou p (resp. q ) parcourt le sous-groupe P(T) (resp. Q(T) ) des permutations qui stabilisent les lignes (resp. les colonnes) de T. Le symetriseur e_T appartient a

K

"Sn]. L'intersection du noyau de rn avec

K

"Sn] est un ideal bilatere donc

c'est

K

"Sn] ou (0).

Rappelons que `_T(i) est le numero de la ligne qui, dans le tableau T, contient i. Supposons que  soit de longueur au plusr. Soit

v_T =v_`T(1)

v`T (n)

Avec un peu de sang froid on constate que

rn()v_T =v_(T)

De plus si  conserve les lignes de T alorsv_T est invariant par. On en tire que rn(e_T) = (#P(T))X

q "(q)vqT

Or v_qT =v_T si et seulement si q est l'identite. On a doncrn(e_T)6=0. Dans ce cas ; Kernr \ ;

K

"Sn] = (0) `()r

Enn supposons que `() > r. Si J est l'ideal bilatere engendre par r+1 alors

on a J\

K

"Sn] =

K

"Sn] ou J\

K

Sn] = (0). Prenons un tableau T de forme

 et dont la premiere colonne commence par 12:::r+ 1. Pour un tel tableau

Sr+1 Q(T). Il vient r+1 eT() = 1 n! X  r+1()eT( ;1) Maise_T(;1) ="()e T() donc r+1 eT() = (r+ 1)!eT

Il en resulte quee_T2J et donc queJ

K

"Sn].

En conclusion l'ideal bilatere engendre par r+1 est le noyau de la representation

et il est forme des sous-algebres simples associees aux partitions de longueur au moins r+ 1.

x

2. Les representationsde

GL(V). | Le corps

K

est toujours de caracteristique

0. On conserve les notations precedentes.

Proposition 2-1

. |L'algebre Arn est semi-simple.

On vient de determiner la structure deBrnqui est semi-simple.LeSnmoduleV n

est semi-simple de dimension nie et admet une decomposition en composantes isotypiques : Vn= ; Vn  

ou parcourt l'ensemble des partitions den de longueur au plusr. Aucune de ces composantes n'est reduite a (0). Pour un tel, soitm() la multiplicite le module (Vn)

 se decompose de maniere non canonique en la somme de m() modules de

type (). Le commutant d'un tel module irreductible etant reduit aux scalaires, on peut appliquer la Proposition 2-4 de l'appendice. On a donc

Arn 

=Y

 Mm()(

K

)

C'est une algebre semi-simple.

Fixons une partition  de longueur au plus r. Soit C le commutant du Sn;

module (Vn)

. C'est l'ensemble des restrictions a (Vn)

 des elements de Arn.

Le commutant C est isomorphe a Mm()(K). La restriction de rn a V n  est

un homomorphisme de GL(V) dans le groupe multiplicatif C. Si on choisit un

isomorphisme de C avec Mm()(K), on obtient une representation de GL(V). La

classe $() de cette representation est bien determinee.

Theor eme 2-2

. | La classe $() est irreductible et la representation de

GL(V)Sn dans (V n)

 est irreductible de type$()().

Fixons une decomposition

; Vn  =V1  Vm ()

en somme directe de Sn; modules simples ( tous de la classe () ). Pour tout

i choisissons un isomorphisme Ti du Sn; module V

1 sur le Sn

; module Vi en

particulier prenons T1 = Id. Pour tout couple (ij) on a un isomorphismeTiT ;1 j

de Vj sur Vi. Soit e1 un element non nul de V1 posons ej = Tj(e1) et soit W le

sous-espace vectoriel ayant pour base e1:::en.

SoitT2C. SiPi est la projection de ;

Vn 

 surVi, alorsPiT2C. La restriction

a Vj de PiT est un homomorphisme de Sn; modules de Vj sur Vi c'est donc un

multiple de TiT;1

j . Il existe des scalairesaij tels que

PiTPj =aijTiT;1 j Pj

L'application qui a T fait correspondre la matriceA = (aij) est un isomorphisme

de C sur Mm()(K). Cette representation de C est evidemment irreductible

et peut ^etre consideree comme une representation dans W. La representation de GL(V) obtenue en restreignant rn a W est donc irreductible puisque C est la

sous-algebre engendree par les restrictions des rn(g). Ceci prouve la premiere

assertion du theoreme. Pour la deuxieme, on considere l'application

 : (X tjejv1) 7! X tjTj(v1) de WV 1 dans ; Vn  . Elle se prolonge a W V

1 et on verie de suite qu'elle

V1 de sa structure de Sn

; modules et W de sa structure de GL(V); module,

alors W V

1 est un GL(V)

Sn; module (produit tensoriel externe) et  est un

isomorphisme sur ;

Vn 

. Les verications sont sans mysteres.

Il nous faut maintenant comparer ces representations de GL(V). Si  et sont deux partitions de n, de longueur au plus r et si $() = $( ) alors il existe un endomorphisme U du K; espace vectoriel

;

Vn 

qui commute a GL(V) et tel que U;

(Vn) 

soit non nul et contenu dans ;

Vn 

. Mais U2 Brn donc l'image

de ;

Vn 

 est contenue dans ;

Vn 

. On a donc  = . Pour un n xe les

representations obtenues sont donc deux a deux inequivalentes. De plus prenons g = tId un element du centre de GL(V). Alorsrn(tId) =tnId et donc les series

obtenues pour dierentes valeurs de nsont deux a deux disjointes.

On peut obtenir des modeles explicites pour les representations. Fixons a nouveau  et soit T un tableau de forme . On suppose que `()r de sorte qu'on a

une composante isotypique ;

Vn 

. Considerons cette composante comme un

K

"Sn]; module. Soit ;

Vn 

T l'image dern(eT). C'est un sous-espace invariant

par GL(V). Supposons qu'il ne soit pas irreductible et soit F un sous-espace invariant non trivial. Soit J l'ensemble des '2

K

"Sn] tel que l'image de rn(')

soit contenu dansF. C'est un ideal a droite contenu dans l'ideal a droiteIengendre

pareT. Or on sait que ce dernier ideal est minimal doncJ = (0) ouJ =I. MaisF

admet un supplementaire invariant par GL(V) (l'action de GL(V) est semi-simple) et le projecteur correspondant appartient a Brn donc est de la formern(') pour

une fonction ' non nulle et qui appartient a J. Enn l'image de rn(eT) contient

strictementF de sorte queeT2J= . On a une contradiction.

En tant que GL(V);module ;

Vn 

T est donc irreductible de type$().

Rappelons que pour obtenir un idempotent on doit normaliser eT en le divisant

par un scalaire convenable. Notons e0

T cet idempotent. Supposons alors qu'on ait

des tableauxT1:::Tsde formeet tels que les idempotents associese 0

Tj verient e0

Tie0

Tj = 0 pouri < j. Les rn(e0

Tj) sont des projecteurs pj qui verient pipj = 0 pouri < j ce qui prouve que la somme desVTj est une somme directe.

Or on sait qu'un tel systeme de tableaux s'obtient en prenant les tableaux de Young standards de forme . Leur nombre est exactement m(). On a donc demontre le theoreme suivant.

Theor eme 2-3

. |Soit une partition den de longueur au plusr. On a

; Vn   = M T ; Vn  T

ou T parcourt l'ensemble des tableaux de Young standards de forme .

Il est temps de donner un ou deux exemples. Prenons r quelconque.

Sin= 1, il y a une seule classe= (1) de longueur au plus 1. L'action deS1 dans

V est triviale et l'action de GL(V) est irreductible.

standard sont

1

2 1 2

Soient 0 l'element neutre de S2 et 1 l'element non trivial. Pour le premier

tableau on a eT =e0 ;e 1 donc r2(eT)v1 v 2 =v1 v 2 ;v 2 v 1

L'image est donc le sous-espace des tenseurs antisymetriques, qui, en tant que GL(V); module est isomorphe a

V 2

(V), muni de l'action evidente. On a m((11)) = 1 et la dimension est dim$((11)) = r(r ;1)=2. la representation

((11)) deS2 est le caractere signe.

Pour le deuxieme tableau, on a

eT =e0 +e1 donc r2(eT)v1 v 2 =v1 v 2+v2 v 1

L'image est donc le sous-espace des tenseurs symetriques, qui, en tant que GL(V);

module est isomorphe aS2(V), muni de l'action evidente. On am((20)) = 1 et la

dimension est dim$((20)) = r(r + 1)=2. la representation((20)) de S2 est la

representation triviale.

Finalement, en tant que GL(V);module

V V 

=^

2

(V) S2(V)

Pourn= 3 et r3, les tableaux de Young standards sont

1 2 3 1

2 3

1 2

3 1 32

Le premier tableau correspond a nouveau aux tenseurs symetriques, le deuxieme aux tenseurs antisymetriques. Les deux derniers ont la m^eme forme donc

$((210)) est une classe de representations irreductibles de GL(V) qui intervient avec la multiplicite 2.

Enumerons les elements de S3 :

0 =  1 2 3 1 2 3   1 =  1 2 3 1 3 2   2 =  1 2 3 3 2 1   3 =  1 2 3 2 1 3   4 =  1 2 3 2 3 1   5 =  1 2 3 3 1 2 

Le troisieme tableauT3 donne le symetriseur

eT3 =e0 +e3 ;e 2 ;e 4 donc r3(eT 3)(v 1 v 2 v 3) =v1 v 2 v 3+v1 v 3 v 2 ;v 3 v 2 v 1 ;v 3 v 1 v 2

Le quatrieme tableau T4 donne le symetriseur

eT4 =e0 +e2 ;e 3 ;e 5 donc r3(eT 4)(v 1 v 2 v 3) =v1 v 2 v 3+v3 v 2 v 1 ;v 2 v 1 v 3 ;v 2 v 3 v 1

La classe de representation irreductibles $((210) de GL(V) est de dimension la moitie de r3 ; 1 6r(r;1)(r;2); 1 6r(r+ 1)(r+ 2) soit (r;1)r(r + 1)=3. La representation de S

3 est de dimension 2. On peut la

construire en faisant operer S3 dans

K

3, par permutation des coordonnees, et en

notant que le plan \somme des coordonnees nulle" est invariant.

Si nest quelconque, parmi les tableaux de Young standards, on trouve celui qui a une seule ligne de forme (n00:::), qui correspond aux tenseurs symetriques et, si nr, le tableau a une seule colonne de forme 1

(n) = (111:::1) qui correspond

aux tenseurs antisymetriques.

Dans une autre direction prenonsr = 2. Les casn= 12 viennent d'^etre examines. Si n3, on doit se limiter aux partitions de longueur au plus 2, ce qui donne les

n+ 1 possibilitees (mn;m) avec 0mn. On a donc obtenu un ensemble de

classes de representations irreductibles de GL2(

K

) avec les deux parametres met