x 3 Application aux groupes nis

Soit G un groupe ni d'ordre #G. On suppose une fois pour toutes que la caracteristique de

K

ne divise pas l'ordre du groupe. Soit

K

"G] l'espace vectoriel des applications de G dans

K

. Sif2

K

"G], son integrale surG est

Z

Gf(x)dx = 1_#G

X x f(x)

La masse totale deG est donc prise egale a 1. Le produit de convolution doit donc se denir par

f g(x) = 1_#G

X

y f(y)g(y;1x)

Si a2G, on note a la masse +1 au pointa, c'est-a-dire la mesuref 7!f(a). Si on veut identier fonctions et mesures, il faut donc introduire la fonction "a qui vaut #Gena et 0 ailleurs. On a

L'algebre

K

"G] est associative son element unite est "e ou e est l'element neutre de G. Elle est commutative si et seulement siG est un groupe commutatif. Dans le cas general, il est facile de decrire le centre de cette algebre. pour que

f = 1_#G

X

f(x)"x

appartienne au centre, il faut et il sut que, pour tout a2G, on ait "a f =f "a

ce qui equivaut a f(ax) = f(xa). Autrement dit la fonction f doit ^etre centrale ou invariante par automorphismes interieurs : pour tout x et tout y on a f(x;1yx) =f(y). On fait opererGdans lui m^eme par automorphismes interieurs. A toute orbite ; G, on associe

f; =X x2;

"x

Ces fonctions forment une base du centre dont la dimension est donc egale au nombre d'orbites de Goperant dans lui-m^eme par automorphismes interieurs. Une representation de G dans un espace vectoriel V est une application  de V dans EndK(V) telle que (e) =id et (xy) =(x)(y). On prolonge a l'algebre

K

"

G

] en posant

(f) = 1_#G

X

x f(x)(x)

En particulier ("a) = (a). On verie immediatement que ceci fournit une bijection entre les representations de G et celles de son algebre de groupe

K

"G].

Theor eme 3-1

. |L'algebre

K

"G]est semi-simple

Il sut de demontrer que toute representation (V) de dimension nie est completement reductible. SoientW un sous-espace invariant etp un projecteur de V surW. Soit

q = 1_#G

X

2Gp;1

L'application lineaireq est un projecteur surW, qui commute aGdonc son noyau est un supplementaire invariant.

Soit alors Gb l'ensemble des classes d'equivalence de representations irreductibles de G, ou ce qui est la m^eme chose de

K

"G]; modules simples. On a donc une decomposition

K

"G] = M

!2bG

K

"G]!

Fixons une telle classe ! et soit (V) un representant de cette classe. Pour tout A2End_K(V) soit f_A la fonction surG denie par

f_A(x) = Tr(A(x;1))

Soit la representation reguliere gauche deG dans

K

"G] denie par (x)f(y) =f(x;1y) (x)f =x f

De m^eme soit la representation reguliere droite

(x)f(y) =f(yx) (x)f =f x;1

Jusqu'a la n du chapitre on suppose que

K

=

C

. On choisit surV une structure hilbertienne telle que  soit unitaire.

Proposition 3-2

. |L'application A7!f_A est une bijection lineaire de End_K(V)

sur

K

"G]!. De plus, on a

(y)f_A =f_(y)A

(y)f_A =f_A(y;1 )

f_A f_B = 1_dim()f_AB

L'algebre

K

"G] est munie de la structure hilbertienne deL2(G).

Proposition 3-3

. | Si !6=!0 alors les sous-espaces

K

"G]! et

K

"G]!0 sont orthogonaux. De plus si A et B sont deux elements deEndC(V), alors

(f_Af_B) = 1_dimV Tr(AB )

Soit la representation conjuguee de , c'est-a-dire la representation deduite de en remplacant V par son conjugue (la multiplication par le scalaire z devient la multiplication par z ). En general la classe correspondante! est distincte de!. La restriction de  a

K

"G]! est la somme directe de dim copies de.

Conservonsnos notations. On appelle caractere de(ou de la classe!), la fonction (x) = Tr(x)

Il se prolonge en la forme lineaire Tr(f) sur

K

"G]. Sauf si  est de dimension 1, ce n'est pas un caractere de cette algebre. On le notera aussi ch(!). Le caractere est deni pour toute representation de dimension nie, irreductible ou pas. Le caractere d'une somme directe est la somme des caracteres, le caractere

d'un produit tensoriel le produit des caracteres. Il est commode d'introduire une normalisation des caracteres. Pour tout !2

b

G, posons ! = (dim!)ch(!) e! =!

Proposition 3-4

. |La fonction e! appartient a

K

"G]! et l'applicationf 7!e! f

est le projecteur orthogonal de

K

"G]sur

K

"G]!. Pour le produit de convolution, e!

est un idempotentc'est une fonction centrale, hermitienne et elle est minimale en le sens suivant :sie! =e0+e00 avece0 et e00 des idempotents centraux alors soit e0

soit e00 est nul. Inversement tout idempotent central et minimal est egal a l'un des

e!.

En eet e! = (dim)fId donc il appartient a

K

"G]!. Les relations d'orthogonalite de Schur montrent que la convolution avec e! est bien le projecteur annonce. Il est evident que c'est une fonction centrale. On peut donc convoler a droite ou a gauche puisque les fonctions centrales sont exactement les elements du centre de l'algebre

K

"G]. Comme l'application identique est sa propre adjointe,e! =e_! (cela correspond a un projecteur orthogonal). Au passage remarquons que

(e!e!) = (dim!)2

et aussi que

f =X

! e! f ce qui donne en particulier

f(e) =X

dim! Tr!(f) (formuledePlancherel)

On sait que la dimension de l'espace vectoriel des fonctions centrales surGest egal au cardinal de Gb. Les fonctions ch(!) forment donc une base orthonormale de cet espace et les fonctions e! une base orthogonale. Si e est une fonction centrale, on peut donc la decomposer

e =X ! a!e! et on a e e=X a2 !e!

Pour que e soit un idempotent, il faut et il sut que a2

! = a! pour tout ! et donc que, pour tout !, on ait a! = 0 ou 1. Les idempotents minimaux sont donc exactement les e!.

Avant d'abandonner les fonctions centrales notons encore que le cardinal de Gb

est egal au nombre d'orbites de G operant dans lui-m^eme par automorphismes interieurs. Si  est une representation de dimension nie deG alors son caractere ch() se decompose de maniere unique

ch() =X

! m!ch(!) les m! etant les multiplicites.

On aura aussi l'usage de projecteurs non centraux, correspondant aux sous-representations irreductibles de la representation reguliere gauche ( ou droite). Soit F un sous-espace invariant minimal pour la representation reguliere gauche soit P le projecteur sur F. C'est un element du commutant de  donc une multiplication a droite : il existe e2

K

"G] tel que Pf = f e. Si ! est la classe de la restriction de  a F alors F

K

"G]!. Il est clair que e est un idempotent, e e = e. Il est de plus minimal en le sens suivant : si e = e0 +e00 avec e0 et e00

idempotents tels que e0

e00 =e00

e0 = 0, alorse0 = 0 oue00 = 0. En eet soientP0

et P00 les projecteurs associes a e0 ete00. On a e e0 =e0 donc l'imageF0 deF est contenue dansF et de m^eme l'imageF00 de P00 est contenue dansF. Les relations e = e0+e00 et e0

e00 = e00

e0 = 0 signient que F = F0 F00. les sous-espaces F0 et F00 etant invariants, l'un d' entre eux doit ^etre nul. Inversement il est facile de voir que si e est un idempotent minimal alors

K

"G] e est un sous-espace invariant minimal. Comme un sous-espace invariant minimal possede plusieurs supplementaires invariants, la correspondance entre eetF n'est pas bijective. Elle le devient si on se limite aux projections orthogonales c'est-a-dire aux idempotents hermitiens, e=e , l'adjoint etant relatif a la structureL2. En resume :

Proposition 3-5

. | Les sous-espaces invariants a gauche minimaux sont parametres par les idempotents minimaux hermitiens. A un tel idempotent e,

on fait correspondre l'image de l'operateur de convolution a droite par e Signalons encore la

Proposition3-6

. |Soiteun idempotent minimalsoit!la classe de la restriction de  a

K

"G] e. on a

1 #G

X

s2Ge(sxs;1) =e(1)e!=(dim!)2

Dans cette formule 1 designe l'element neutre de G. La demonstration est laissee en exercice.

x

4 Representations induites

. | Pour terminer rappelons les generalites sur les representations induites. Soit toujours Gun groupe ni on conserve les notations du xprecedent. SoitH un sous-groupe de G. On associe a toute representation de

dimension nie (V) deH une representation (V) deG. L'espace vectorielV

est l'espace des applications f de Gdans V telles que f(hx) =(h)f(x) h2H x2G et on denit  par

(x)f(y) =f(yx) On note souvent

 = IndGH()

Il est immediat que deux representationsequivalentes induisent des representations equivalentes de sorte que la construction a un sens pour les classes d'equivalence de representations. Considerons le groupe

Z

"Gb] des combinaisons formelles a coecients entiers d'elements deGb. Si!1 et!2sont deux elements deGb, le produit tensoriel !1

!2 est bien deni et il admet une unique decomposition de la forme !1

!2 =X

m(!)!

ou les multiplicites m(!) sont des entiers positifs ou nuls. En prolongeant

Z

; lineairement ceci denit une structure d'anneau sur

Z

"Gb]. La classe de la representation triviale est l'element neutre, l'anneau est commutatif et associatif. Revenons aux representations induites. Il est clair qu'une somme directe induit la somme directe des induites de sorte que l'induction donne une application

Z

lineaire

IndGH :

Z

"Hb]!

Z

"Gb] Ce n'est pas un homomorphisme d'anneau.

Proposition 4-1

. |Si  = IndGH(), alors le caractere de est

ch()(x) = 1_#H

X sxs;1

2Hch()(sxs;1) On a une application en sens inverse, la restriction

ResGH :

Z

"Gb]!

Z

"Hb]

Theor eme 4-2 (Frobenius)

. | Soient  une representation de H et  une representation de G. On a  ch; IndGH()  ch;   =  ch;  ch; ResGH() 

Il s'agit ici de produits scalaires dans L2(G) et L2(H) respectivement. Si on prend  et  irreductibles, le membre de gauche est la multiplicite de  dans la representation induite par  et le membre de droite, la multiplicite de  dans la restriction de .

Il y a deux autres resultats standards sur les representations induites. On va les donner en esquissant les demonstrations. Conservons les notations HV

et soit K un sous-groupe de G. On veut decomposer la restriction a K de la representation induite . Pour cela soit d2G et introduisons la double classe HnG=K. Les elements de V dont le support est contenu dans cette double classe forment un sous-espace vectoriel V(d) qui est invariant par la restriction de  a K et clairement V = M HnG=KV(d) Si '2V(d), posons, pourk2K ,(k) ='(dk) SoitKd=K\d;1Hd. Sik2Kd alors ,(kk0) ='(dkk0) ='(dkd;1dk0) =(dkd;1)'(dk0) =(dkd;1),(k0) Si on pose d(k) = (dkd;1) on obtient une representation de Kd et on vient de constater que , appartient a l'espace de la representation de K induite par d. Inversement si on part d'une fonction , appartenant a cet espace, on retrouve ' en posant '(hdk) =(h),(k). Or l'application ' 7! , commute a l'action de K (par translations a droite) donc la representation de K dans V(d) est equivalente a IndKKd(d). Finalement :

Theor eme 4-3

. |On a ResGK; IndGH() = M d2HnG=KIndKKd(d)

Enn soientH1 etH2 deux sous-groupes deGet soit1 une representation deH1, d'espace V1 et2 une representation deH2 d'espaceV2. On va determiner

HomG 

IndGH1(1) IndGH2(2)

Notons 1 et2 ces representations induites,V1 etV2 leurs espaces. Soit T : V1

un operateur d'entrelacement. Pourv1 2V1 ets2G soit 'sv1(x) =  0 si x=2H1s (h)v1 si x=hs Denissons L(s) : V1 !V2 par L(s)(v1) =T; 'sv1  (1) Notons que T('sv1)(x) =; 2(x)T('sv1  (1) =T; 1(x)'sv1) (1) =T('_sx;1v1(1) =L(sx;1)(v1) de sorte que Ldetermine T. ConsideronsL comme une application :

L: G!HomC(V1V2)

On verie sans eort que les L ainsi obtenues sont caracterisees par la condition d'invariance

L(h1sh2) =2(h;1

2 )L(s)1(h;1 1 ) Pours xe soit

H1s =H1

\sH2s;1

et soit 2s la representation deH1s denie par 2s(h1) =2(s;1h1s) On doit alors avoir

L(s)2HomH1s(12s) Si on choisit des representantss des doubles classesH1

nG=H2 et si, pour chacun de ces s on se donne une application lineaire L(s) de V1 dans V2 veriant la condition precedente, alors on peut reconstruireT.

Theor eme 4-4

. |On a HomG  IndGH1(1) IndGH2(2) = M s2H1 nG=H2 HomH1s(12s)

Comme cas particulier, si on prendH1 =H2 =H et 1 =2 = irreductible, on obtient un critere d'irreductibilite pour les representations induites.

Corollaire 4-5

. |Pour que la representationIndGH()soit irreductible, il faut et il sut que, pour touts=2H on aitHomHs(s) = (0)

Le cass2H conduit au commutant dequi, d'apres le Lemme de Schur, est reduit aux scalaires.

Exercices

SoientGetH deux groupes nis. SoientM unG;modulede dimension nie et N un H; module de dimension nie. On note MG le sous-espace des invariants de G dans M et de m^eme NH le sous-espace des invariants de H dans N. On considere la representation deGH dansN N (produit tensoriel externe de representations) et ses invariants (M N)^GH. Demontrer que

MGNH = (M N)^GH

On suppose que H est un sous-groupe de G. Demontrer que NH =;

IndGHNG

Demontrer que

IndGH(N ResGHM)= (IndGHN)M (cf

Mac]

, appendice du Chapitre I)

BIBLIOGRAPHIE

On n'a indique que les references dans lesquelles nous avons directement puise pour la redaction de ces notes.

"

A-B-P

] ATIYAH| M.,BOTT R., PATODI V.. | On the heat equation and the Index Theorem, Inv. Math., t.

19

, 1973, p. 279{ 330.

"

B

] BOERNERH.. | Representations of groups. | North-Holland, 1970.

"

C-P

] DE CONCINI C. and PROCESI C.. | A Characteristic-free Approach to Invariant Theory, Adv. in Math., t.

21

, 1976, p. 330{354.

"

D-C

] DIEUDONNE J. and CARRELL J.B.. | Invariant Theory : Old and New, Adv. in Math., t.

4

, 1970, p. 1{80.

"

F

] FORMANEKE.. | The Polynomial Identities and Invariants ofnnmatrices. | AMS, Regional Conferences series in Mathematics, 78, 1980.

"

F-H

] FULTON W. and HARRIS J.. | Representation Theory, a rst course. | Springer (graduate texts), 1991.

"

Ho

] HOWE R.. | Perspectives on Invariant Theory. | Israel Mathematical Conference Proceedings, vol 8, 1995.

"

L

] LANGS.. | Algebra. | Addison-Wesley, 1965.

"

Mac

] MACDONALD I.G.. | Symmetric functions and Hall polynomials. | Clarendon Press, Oxford, 1995.

"

P

] PROCESI C.. | A primer of invariant theory. | Brandeis Lecture Notes 1, Brandeis University, 1982.

"

W

] WEYLH.. | The classical groups. | Princeton University Press, 1946. "

Z

] ZELOBENKO D.P.. | Compact Lie groups and their representations. | A.M.S., Translation of mathematical Monographs, vol 40, 1973.

Dans le document Introduction à la théorie classique des invariants (Page 82-91)