Représentations de dimension finie de l'algèbre de Cherednik rationnelle

131(4), 2003, p. 465–482

REPR´ESENTATIONS DE DIMENSION FINIE DE L’ALG`EBRE DE CHEREDNIK RATIONNELLE

par Charlotte Dez´el´ee

R´esum´e. — On donne une condition n´ecessaire et suffisante pour l’existence de mo- dules de dimension finie sur l’alg`ebre de Cherednik rationnelle associ´ee `a un syst`eme de racines.

Abstract(Finite dimensional representations of the rational Cherednik algebra) We give a necessary and sufficient condition for the existence of finite dimensional modules on the rational Cherednik algebra associated to a root system.

1. Introduction et notations

Soient a_R unR-espace vectoriel de dimension `≥1,R⊂a<sup>∗</sup><sub>R</sub>un syst`eme de racines r´eduit,W le groupe de Weyl correspondant eta=C⊗Ra_R. On noterα

la r´eflexion associ´ee `a la racine α et α^∨ ∈ a la coracine de α. On fixe une fonction de multiplicit´ek:R→Csur l’ensemble des racines, donckw(α)=kα

pour tousα∈R,w∈W. Soit

P =S(a^∗) =M

n≥0

Pⁿ,

o`u P<sup>n</sup> = S<sup>n</sup>(a<sup>∗</sup>), l’alg`ebre sym´etrique de a^∗. On pose P⁺ = ⊕n≥1Pⁿ. Un

´el´ementf ∈ P peut ˆetre identifi´e `a la multiplication par f dans End_C(P) et

Texte re¸cu le 7 mars 2002, r´evis´e le 10 juin 2002, accept´e le 11 avril 2002

Charlotte Dez´el´ee, D´epartement de math´ematiques, Universit´e de Brest, 29285 Brest Cedex (France) • E-mail :Charlotte.Dezelee@univ-brest.fr

Classification math´ematique par sujets (2000). — 16Sxx, 33Dxx, 17Bxx.

Mots clefs. — Op´erateur de Dunkl, racine, groupe de Weyl.

BULLETIN DE LA SOCI ´ET ´E MATH ´EMATIQUE DE FRANCE 0037-9484/2003/465/$ 5.00 c Soci´et´e Math´ematique de France

l’on fait op´erer W de fa¸con naturelle sur P. Si ∂y est le champ de vecteurs associ´e `ay ∈a on d´efinit alors l’op´erateur de Dunkl Ty =Ty(k)∈ End_C(P) par

Ty(k) =∂y+1 2

X

α∈R

kαhα, yi

α (1−rα) =∂y+ X

α∈R⁺

kαhα, yi

α (1−rα), o`uR<sup>+</sup>⊂Rest un syst`eme de racines positives. On sait queT :y7→Ty s’´etend en un isomorphisme d’alg`ebres deS(a) sur

S=S(k) =C[Ty:y∈a]

(cf. [7, th. 1.5] ou [5, th. 2.12]). On posera Sⁿ=T Sⁿ(a)

, de sorte queS =C⊕S⁺ avecS⁺=⊕n≥1Sⁿ.

L’alg`ebre de Cherednik rationnelle (cf. [6]), not´eeH(k) ou H, est la sous- alg`ebre de End_C(P) engendr´ee par les w ∈ W, x ∈ a^∗ et les Ty, y ∈ a. Ces g´en´erateurs sont li´es par les relations suivantes :

1) [Ty, x] =hy, xi+¹₂P

α∈Rkαhy, αihα^∨, xirα; 2) wxw⁻¹=w(x) ;

3) wTyw⁻¹=T_w(y).

Rappelons [6, cor. 4.4] que H v´erifie un th´eor`eme de Poincar´e-Birkhoff-Witt (PBW). En effet, si l’on pose pour tout n∈Z

Hⁿ= M

j−i=n, w∈W

SⁱwP^j = M

j−i=n, w∈W

P^jwSⁱ,

on a alors

H=M

n∈Z

Hⁿ=P ⊗CW⊗ S=S ⊗CW⊗ P.

Il r´esulte de [1, th. 2.2] que pour des valeurs g´en´eriques de la fonction k, l’alg`ebreH(k) ne poss`ede pas de repr´esentation de dimension finie. L’objet de ce travail est de chercher des conditions n´ecessaires et suffisantes pour qu’il existe des H-modules de dimension finie et de d´eterminer certaines de leurs propri´et´es. Les principaux r´esultats obtenus sont les suivants. Dans la section 4 on montre (th´eor`eme 4.1) que toutH(k)-module irr´eductible de dimension finie est isomorphe `a l’unique quotient simple d’un module de Verma g´en´eralis´e (cf. [5]) ; on en d´eduit `a la section 5 une caract´erisation des multiplicit´eskpour lesquelles des H(k)-modules de dimension finie existent et une description de ces derniers (th´eor`eme 5.4, remarque 5.5 et proposition 5.6). La section 6 est consacr´ee `a des exemples, notamment le cas d’un groupe de Weyl en rang 2 y est (presque) compl`etement trait´e.

o

2. Propri´et´es deH

On d´efinit [2, p. 144] une forme bilin´eaire sym´etrique d´efinie positive W-in- variante sur a^∗_R(que l’on ´etend `aa^∗) en posant

B^∗(x, z) =X

α∈R

hα^∨, xihα^∨, zi.

On peut alors identifiera^∗`aaviax7→B(x), o`uB(x) est caract´eris´e par B^∗(x, z) =

B(x), z . AinsiB est un isomorphismeW-lin´eaire et l’on a

B(α) = 1

2B^∗(α, α)α^∨,

B(x), B⁻¹(y)

=hy, xi, pour tousα∈Ret (x, y)∈a^∗×a. On en d´eduit que

X

α∈R

kαhy, αihα^∨, xirα= X

α∈R

kα

B(x), α

α^∨, B⁻¹(y) rα.

En utilisant cette relation on montre que l’on peut d´efinir un anti-automor- phisme involutifσ deHpar

σ(x) =TB(x), σ(Ty) =B⁻¹(y), σ(w) =w⁻¹,

pour tous x ∈a^∗, y ∈a,w ∈W. On peut aussi d´efinir un automorphismeφ deH(d’ordre 4) en posant

φ(x) =−TB(x), φ(Ty) =B⁻¹(y), φ(w) =w.

On remarquera queφetσ ´echangentHⁿ etH−n pour toutn∈Z. Une application bilin´eaire sur H. — Grˆace `a PBW, il vient :

H=CW⊕(P⁺H+HS⁺).

On peut donc d´efinir la projectionπ:H →CW parall`element `aP⁺H+HS⁺. Comme W laisse stablesP⁺ et S⁺, π est un morphisme de W-modules pour l’action par multiplication `a gauche, ou `a droite deW, i.e. π(wh) =wπ(h) et π(hw) =π(h)w, h∈ H, w∈W; observons ´egalement queπ(σ(h)) =σ(π(h)).

D´efinissons une application bilin´eaireβ :H × H →CW par

∀a, b∈ H, β(a, b) =π σ(a)b .

Les assertions du lemme suivant r´esultent de calculs imm´ediats.

Lemme 2.1. — On a, pour tousa, b, h∈ H etw, s∈W : 1) β(a, b) =σ(β(b, a));

2) R(β) ={a∈ H:∀b∈ H, β(a, b) = 0}={a∈ H:∀b∈ H, β(b, a) = 0}; 3) β(aw, bs) =w⁻¹β(a, b)s(on dira queβ estσ-lin´eaire);

4) β(ha, b) =β(a, σ(h)b) (on dira queβ estσ-sym´etrique); 5) R(β) contientHS⁺ etσ(HS⁺) =P⁺H.

On a HⁿH^m ⊂ H^n+m et il d´ecoule de PBW que H^p ⊂ P⁺H+HS⁺ lorsquep6= 0 ; on en d´eduit que, pour tousm6=n,

β(H^m,Hⁿ) =π σ(H^m)Hⁿ

=π(H−mHⁿ)⊂π(Hⁿ−m) = 0.

CommeH= (P ⊗CW)⊕HS+, on peut consid´ererβcomme une application bilin´eaireσ-sym´etrique surH/HS⁺' P ⊗CW en posant :

∀p, q∈ P, ∀w, s∈CW, β(p⊗w, q⊗s) =σ(w)β(p, q)s.

On remarquera queβ(Pⁿ⊗CW,P^m⊗CW) = 0 sin6=m. Doncβest d´etermin´ee par ses restrictions aux espaces vectoriels de dimension finiePⁿ⊗CW. Equivalence de cat´´ egories. — Soitτ :W → {±1}une repr´esentation de dimension 1. D´efinissons une fonction de multiplicit´ek^τ :R→Cpar

k^τ(α) =τ(rα)kα.

Il r´esulte des relations 1), 2), 3) entre les g´en´erateurs deH(k) (cf.§1) que l’on peut d´efinir un morphisme d’alg`ebreτ :H(k)→ H(k^τ) en posant

τ(x) =x, τ Ty(k)

=Ty(k^τ), τ(w) =τ(w)w

pour tous x∈a^∗, y ∈a,w∈W. Il est clair queτ est un isomorphisme dont on notera encoreτ l’inverse. SiM est unH(k^τ)-module, on peut alors d´efinir unH(k)-moduleM^τ en munissant leC-espace vectoriel de l’action

h·v=τ(h)v pour toush∈ H(k),v∈M.

On en d´eduit ainsi une ´equivalence de cat´egories,M7→M^τ, entreH(k^τ)-mod et H(k)-mod (on a Hom(M^τ, N^τ) = Hom(M, N)).

Remarque 2.2. — Si V est un W-module on notera ´egalement V^τ le W- module obtenu en munissant leC-espace vectorielV de l’actionw·v=τ(w)v.

LeW-moduleV^τ est alors isomorphe `aV⊗CWVτ, o`uVτd´esigne unW-module irr´eductible de typeτ; en particulier siVχest unW-module irr´eductible de type χ, alorsV_χ^τ est unW-module irr´eductible de typeχ⊗τ.

On note sgn le caract`erew7→det(w) deW ⊂GL(a).

La construction pr´ec´edente s’applique `aτ = sgn et (pour simplifier) on po- seraε=sgn. Le foncteurM 7→M^ε´etablit donc une ´equivalence de cat´egories entreH(−k)-mod etH(k)-mod.

3. Modules de Verma surH

On noteW^∧ l’ensemble des caract`eres irr´eductibles deW. ToutH-moduleM

´etant unW-module, il se d´ecompose enM=⊕M[χ] o`uM[χ] est la composante isotypique de type χ deM. Soient χ ∈W^∧ et Vχ unW-module irr´eductible de typeχ. Rappelons la d´efinition d’un module de Verma de plus bas poidsχ

o

introduite dans [5, (25)]. On munit Vχ d’une structure deS ⊗CW-module en posant S⁺·Vχ= 0.

D´efinition 3.1. — On appelle module de Verma de plus bas poids χ, not´e M(χ) =M(χ, k), le module induit parVχ deS ⊗CW `aH:

M(χ) = ind^H_S⊗CW(Vχ) =H ⊗S⊗CW Vχ.

Il r´esulte de H= P ⊗CW ⊕HS⁺ queM(χ) s’identifie `a P ⊗Vχ comme P-module. Les propri´et´es ´enonc´ees dans la proposition qui suit d´ecoulent de [5, 2.5]. Rappelons queP poss`ede une structure naturelle deH-module.

Proposition 3.2. — (a)Siχ= triv est le caract`ere trivial,M(triv)s’identi- fie au H-moduleP.

(b) Sivχ∈Vχr{0}et Iχ est l’annulateur de vχ dans CW, on a M(χ)' H ·vχ ' H/(HS⁺+HIχ).

(c) Tout sous-module M de M(χ) est gradu´e : M = ⊕n≥0Mn o`u Mn = (Pⁿ⊗Vχ)∩M (cf.[5, prop. 2.27]).

(d) Un sous-moduleM deM(χ)est propre si et seulement si M∩Vχ = 0.

(e) M(χ)admet un unique sous-module maximal, et donc un unique quotient simple que l’on note L(χ) =L(χ, k).

(f) SoitV unH-module engendr´e par v tel queCW·v'Vχ etS⁺·v= 0.

Il existe alors un morphisme surjectif de H-modulesM(χ)→V ; siV est irr´eductible on a V 'L(χ).

Signalons le corollaire :

Corollaire 3.3. — Soitτ une repr´esentation de dimension1deW. Il existe un isomorphisme naturel de H(k)-modules

M(χ, k)'M(χ⊗τ, k^τ)^τ.

D´emonstration. — On applique le (b) la proposition pr´ec´edente, dont on adopte les notations. Remarquons que si J est un id´eal `a gauche de H(k<sup>τ</sup>) et M = H(k<sup>τ</sup>)/J, alors M<sup>τ</sup> est isomorphe au H(k)-module H(k)/τ(J). Le corollaire d´ecoule de cette remarque appliqu´ee `a

J =H(k^τ)S⁺(k^τ) +H(k^τ)Iχ⊗τ.

En effet, fixons l’annulateurIχ⊗τ d’un ´el´ement non nul de Vχ⊗τ; alors, Iχ = τ(Iχ⊗τ) est l’annulateur de ce mˆeme ´el´ement dansVχ =V_χ⊗^τ_τ. Donc

τ(J) =H(k)S⁺(k) +H(k)Iχ, d’o`u le r´esultat voulu.

Propri´et´es de L(χ). — Comme il est remarqu´e en [5, 2.6], on peut munir M(χ) d’une forme analogue `a la forme de Shapovalov. Nous donnons ci-dessous une mani`ere de construire une telle forme, ce qui nous servira au§5.

D´efinissons tout d’abord une forme bilin´eaire sur H de la fa¸con suivante.

On fixe 0 6= vχ ∈ Vχ et une forme bilin´eaire sym´etrique non d´eg´en´er´ee W- invariante (|) surVχ (on peut la prendre sym´etrique puisqueVχ 'V_χ^∗comme W-module). On a donc (w·u|v) = (u|σ(w)·v) pour tous u, v ∈ Vχ et w∈CW. On peut alors d´efinir une forme bilin´eaire surHen posant :

(a|b)_χ= vχ|β(a, b)·vχ .

Remarquons que (|)_χ est non nulle (sinon (vχ|Vχ) = 0). On d´eduit facile- ment des propri´et´es de β que (|)_χ est sym´etrique et que son radical contient HS⁺+HIχ.

CommeM(χ) =H ·vχ ' H/(HS⁺+HIχ), la forme (|)_χ induit une forme bilin´eaire sym´etrique non nulle surM(χ) par la formule

(a·vχ, b·vχ) = (a|b)_χ = vχ |β(a, b)·vχ

pour tous a, b ∈ H. Cette forme d´epend des choix de (|) et vχ; nous allons voir que son radicalR(χ) n’en d´epend pas.

Remarques 3.4. — 1) En utilisant laσ-sym´etrie deβ, on montre celle de (,), qui est en particulierW-invariante ; il en r´esulte que le radicalR(χ) est un sous- H-module de M(χ), diff´erent deM(χ).

2) Soit M(χ) = ⊕τ∈W^∧M(χ)[τ] la d´ecomposition en composantes isoty- piques duW-moduleM(χ). On montre facilement que (M(χ)[τ], M(χ)[ψ]) = 0 siτ 6=ψ.

3) En identifiantM(χ) et P ⊗Vχ, on d´eduit facilement de β(Pⁿ⊗Vχ,P^m⊗Vχ) = 0 pourn6=m

que (Mn(χ), Mm(χ)) = 0 sin6=m. Ou encore, du fait que β(Hⁿ,H^m) = 0 si n6=m, il d´ecoule que (Hⁿ·vχ,H^m·vχ) = 0 sin6=m. En observant que chaque Mn(χ) est unW-module, le 2) implique alors

Mn(χ)[τ], Mm(χ)[ψ]

= 0 sin6=mouτ 6=ψ.

Proposition 3.5. — 1)Le radicalR(χ)est l’unique sous-module maximal de M(χ). Par cons´equentM(χ)/R(χ)est l’unique quotient simpleL(χ)deM(χ).

2) Il existe un isomorphisme naturelL(χ, k)'L(χ⊗τ, k^τ)^τ.

D´emonstration. — 1) SoitM un sous-H-module propre de M(χ). D’apr`es la proposition 3.2,M est gradu´e et v´erifieM∩Vχ= 0, on a doncM=⊕n>0Mn. Par la remarque 3.4, 3) et le fait que vχ ∈M0(χ) il vient (vχ, M) = 0. D’o`u, parσ-sym´etrie, (H ·vχ, M) = (vχ, M) = 0. DoncM est inclus dansR(χ).

2) Par l’´equivalence de cat´egories entreH(k)-mod et H(k^τ)-mod, le H(k)- moduleM(χ⊗τ, k^τ)^τ admet un unique quotient simpleL(χ⊗τ, k^τ)^τ. Mais

o

M(χ, k) ' M(χ⊗τ, k^τ)^τ, par cons´equent les H(k)-modules L(χ⊗τ, k^τ)^τ et L(χ, k) sont isomorphes.

Remarque 3.6. — Lorsqueχest le caract`ere trivialR(χ) co¨ıncide avec le ra- dical R(k) de la forme (,)k d´efinie dans [4]. Ceci r´esulte des propositions 3.5 et 3.2, (e), et du fait queP/R(k)'L(triv, k) (cf. [5, 2.6]). Si τ est une repr´e- sentation de dimension 1 deW on a un isomorphismeL(τ, k)'L(triv, k^τ)^τ; en particulier,L(sgn, k)'L(triv,−k)^ε

4. H-modules irr´eductibles de dimension finie

Le but de ce paragraphe est de montrer que tout H-module irr´eductible de dimension finie est isomorphe `a un L(χ) pour un χ ∈ W<sup>∧</sup>. Pour ce faire, on va utiliser une copie de sl(2,C) contenue dans l’alg`ebreH^W desW-invariants.

Soit{z1, . . . , z`}une base orthonorm´ee de a<sup>∗</sup><sub>R</sub> etej=B(zj), 1≤j ≤`. Posons E=1

2 X`

i=1

zi2, F =−1 2

X`

i=1

T_e²_i, H = [E, F], E(k) = X`

i=1

ziTei. D’apr`es un calcul fait en [7, th. 3.3], (E, F, H) est un sl(2)-triplet d’´el´ements deH<sup>W</sup> et on aH =E(k) +gk avecgk =<sup>1</sup><sub>2</sub>`+P

α∈R⁺kαrα (qui est un ´el´ement central de CW).

Th´eor`eme 4.1. — Soit V un H-module irr´eductible de dimension finie.

Il existe un χ∈W^∧ tel queV 'L(χ).

D´emonstration. — D´ecomposons le W-module V en somme de composantes isotypiques :V =P

χ∈W^∧V[χ]. Remarquons queP·V[χ]⊂V[χ] siP ∈ H^W; en particulier, chaqueV[χ] est un sous-sl(2)-module de dimension finie. Soitu de poids minimalm ∈ −N dans lesl(2)-moduleV. ´Ecrivons u=P

χuχ avec uχ∈V[χ]. CommeHlaisse stableV[χ] pour toutχ, chaqueuχnon nul est aussi un vecteur de poids minimal mdansV. On peut donc supposer queu∈V[χ]

pour unχ∈W^∧. De plus, pour touti∈ {1, . . . , `}on a [H, Tei] =−Tei, donc HTei·u= (m−1)Tei·u.

Par minimalit´e de mil vientTei·u= 0, doncS⁺·u= 0.

PosonsCW·u=⊕jVj,Vj'Vχ. Soita=P

waww∈CW tel quev=a·u∈ Vjr{0}. PuisqueTyw=wTw⁻¹(y) pour touty∈a, il vient

Ty·v=P

wawwTw⁻¹(y)·u= 0.

Par cons´equent V = H ·v avec CW ·v ' Vχ et S⁺ ·v = 0 ; le (f) de la proposition 3.2 donneV 'L(χ).

Rappelons que le moduleM(χ) =P ⊗Vχ est gradu´e par les Mn(χ) =Pⁿ⊗Vχ =Hⁿ·vχ, n≥0.

En posantRn(χ) =R(χ)∩Mn(χ) on en d´eduit la graduation R(χ) =⊕n≥0Rn(χ)

du radical de la forme (,) introduite au §3. Le quotient L(χ) = M(χ)/R(χ) est ainsi naturellement gradu´e :

L(χ) =⊕n≥0Ln(χ) avec Ln(χ) =Mn(χ)/Rn(χ).

Donc L(χ) est de dimension finie si, et seulement si, il existe n0 ∈ Ntel que Ln(χ) = 0 pour n ≥ n0. Cette condition ´equivaut `a Mn(χ) = Rn(χ), ou encore `a«la forme (,) est identiquement nulle surMn(χ)».

5. ´Etude desL(χ) de dimension finie

Nous allons donner une condition n´ecessaire et suffisante, portant surketχ, cf. remarque 5.5, pour queL(χ) soit de dimension finie et ´etudier plus pr´eci- s´ement la structure d’un telL(χ). On conserve les notations des sections 3 et 4.

Proposition 5.1. — Soitχ∈W^∧. SiLn(χ) = 0, alorsLn+1(χ) = 0.

D´emonstration. — Il s’agit de montrer que siRn(χ) =Mn(χ), alorsRn+1(χ) = Mn+1(χ). Soientf, g∈ Pⁿ⁺¹ eta, b∈CW; on doit montrer que

f⊗(a·vχ), g⊗(b·vχ)

= 0.

Il suffit de le faire lorsquegest un monˆome de la formex1x2· · ·xn+1,xj ∈a^∗; on ´ecritf =P

x∈a^∗xfx avecfx∈ Pⁿ. Soienty ∈aetw∈W. De

[Ty, w] =w(Tw⁻¹(y)−Ty) =wTw⁻¹(y)−y

on tire que [Ty, w]∈WS⁺. En ´ecrivant [Ty, g] =X

j

x1· · ·[Ty, xj]· · ·xn+1

et en utilisant la relation 1) du§1, on montre que [Ty, g]∈ PⁿCW. Alors, Tygw=gwTy+ [Ty, gw] =gwTy+ [Ty, g]w+g[Ty, w]

et S⁺·vχ= 0 impliquentTygw·vχ= [Ty, g]w·vχ ∈Mn(χ) =Pⁿ⊗Vχ.

o

Calculons maintenant (f ⊗(a·vχ), g⊗(b·vχ)). En utilisant la σ-sym´etrie de (,) et la d´efinition deσ il vient

f⊗(a·vχ), g⊗(b·vχ)

= X

x∈a^∗

fx⊗(a·vχ), σ(x)g⊗(b·vχ)

= X

x∈a^∗

fx⊗(a·vχ), TB(x)g⊗(b·vχ) . Il r´esulte du paragraphe pr´ec´edent que pour toutx∈a:

fx⊗(a·vχ), TB(x)g⊗(b·vχ)

∈ Mn(χ), Mn(χ)

= 0 (par hypoth`ese).

Donc (f⊗(a·vχ), g⊗(b·vχ)) = 0.

On en d´eduit :

Corollaire 5.2. — Le module L(χ) est de dimension finie si, et seulement si, il existen∈N tel queLn(χ) = 0.

Pour obtenir un crit`ere plus pr´ecis assurant la finitude de dimL(χ), nous allons utiliser le sl(2)-triplet (E, F, H) d´efini `a la section pr´ec´edente. On fera appel au r´esultat suivant [7, prop. 3.4] :

Lemme 5.3. — Pour tout p∈ Pⁿ, on a σ(p) = (−1)ⁿ

n! ad(F)ⁿ(p) = Xn

j=0

(−1)^jcjF^jpF^n−j o`u lescj sont des entiers ne d´ependant que den.

Th´eor`eme 5.4. — Soit06=vχ ∈Vχ. Le module L(χ) est de dimension finie si, et seulement si, il existem≥0tel queE^m·vχ ∈R2m(χ).

D´emonstration. — Il est clair que la condition est n´ecessaire, montrons qu’elle est suffisante. Soit n∈N. Tout ´el´ement deHⁿ·vχ s’´ecrit sp·vχ avec p∈ Pⁿ ets∈CW. Soitr∈ Hⁿ et calculons (sp·vχ, r·vχ) = (p·vχ, σ(s)r·vχ). Posons t=σ(s)r∈ Hⁿ. On a

(p·vχ, t·vχ) = (vχ |β(p, t)·vχ) et d’apr`es le lemme pr´ec´edent

β(p, t) =π σ(p)t

= Xn

j=0

(−1)^jcjπ(F^jpF^n−jt).

OrF^n−jt∈ H−2(n−j)+n=H−(n−2j)⊂ HS⁺ pourn−2j >0. Donc π(F^jpF^n−jt)∈π(HS⁺) = 0 pour n >2j.

Compte tenu deσ(E) =−F, on obtient (o`u [ ] d´esigne la partie enti`ere) : β(p, t) =

Xn

j=[¹₂n]

cjπ σ(E^j

pF^n−jt) = Xn

j=[¹₂n]

cjβ(E^j, pF^n−jt).

Par cons´equent :

(5.1) (sp·vχ, r·vχ) = Xn

j=[¹₂n]

cj E^j·vχ, pF^n−jσ(s)r·vχ .

SupposonsE^m·vχ∈R2m(χ). Pourj≥mon a donc E^j·vχ, M2j(χ)

= E^m·vχ, σ(E^j−m)M2j(χ)

= 0.

L’´equation (5.1) fournit alors (sp·vχ, r·vχ) = 0 pour tout n ≥2m, c’est-`a- dire Mn(χ) =Rn(χ) pourn≥2m, ce qui montre queL(χ) est de dimension finie.

Remarque 5.5. — Puisque E ∈ H^W, on a E^m ·vχ ∈ M(χ)[χ]. La re- marque 3.4, 3) permet de pr´eciser encore la condition obtenue dans le th´eo- r`eme 5.4 : le moduleL(χ) est de dimension finie si, et seulement si,

il existe m≥0 tel que E^m·vχ, M2m(χ)[χ]

= 0.

Observons de plus que dimM2m(χ)[χ] < ∞ et que si P ∈ M2m(χ)[χ], (E^m·vχ, P) est un polynˆome en les kα, α ∈ R⁺ (c’est en fait un polynˆome en leski d´efinis ci-dessous). Donc, si {P1, . . . , Ps}est une base de M2m(χ)[χ], la condition E^m · vχ ∈ R2m(χ) ´equivaut `a l’annulation des s polynˆomes (E^m·vχ, Pj), 1≤j≤s.

Le cas χ = triv. — On a rappel´e, cf. remarque 3.6, que M(triv, k) = P et R(triv) =R(k). Grˆace `a la remarque 5.5, la condition du th´eor`eme 5.4 se traduit par (E^m,P2m^W)k = 0, soitF^m(P2m^W) = 0 pour un m ∈ N. Rappelons que P^W =C[Q1, . . . , Q`] o`u les Qj sont des polynˆomes homog`enes de degr´es d1 ≤d2 ≤ · · · ≤d` (appel´es degr´es primitifs de W). La nullit´e de F^m(P2m^W) est alors ´equivalente `aF<sup>m</sup>(Q<sup>a</sup><sub>1</sub><sup>1</sup>· · ·Q<sup>a</sup><sub>`</sub><sup>`</sup>) = 0 pour tout (a1, . . . , a`)∈N^` tel que P

jajdj= 2m.

Structure desL(χ) de dimension finie. — Nous allons maintenant donner quelques r´esultats sur la forme du module L(χ) quand il est de dimension finie. La structure desl(2)-module deL(χ) lui donne une certaine sym´etrie, du mˆeme type que celle observ´ee en rang 1, cf. [3, th. 9.2]. Soient R1, . . . , Rs les W-orbites dansR; on peut alors ´ecrireR⁺ comme r´eunion disjointeFs

i=1R_i⁺. On pose kα = ki pour α ∈ R_i⁺. Lorsque R est irr´eductible on a s = 2 et l’on prend pour R⁺₁, resp. R₂⁺, l’ensemble des racines courtes, resp. longues (´eventuellement vide), dansR⁺.

o

L’´el´ementP

α∈R⁺kαrα ´etant central dans CW, il op`ere par multiplication par un scalaire sur toutW-module irr´eductibleV. SiV est de typeτ, ce scalaire est

aτ(k) = Xs

i=1

ki|R_i⁺|τ(ri) τ(1),

o`uτ(ri) d´esigne la valeur commune desτ(rα) pourαdansR⁺_i . Proposition 5.6. — 1)Posons

bχ(k) = 1

2`+aχ(k).

L’´el´ement H op`ere sur Mp(χ)par le scalairep+bχ(k).

2) SiL(χ)est de dimension finie, il existe unm∈Ntel que : (i) aχ(k) =−(m+¹₂`)<0;

(ii) L(χ) =⊕^2mi=0Li(χ) et l’application x 7→E^m·x est un isomorphisme de W-modules deL0(χ)'Vχ surL2m(χ); six∈Vχr{0}on a

m= min

p∈N:E^p+1·x∈R2p+2(χ) .

D´emonstration. — 1) On rappelle,cf.§4, queH =E(k) +gk o`u l’on a pos´e gk= 1

2`+ X

α∈R⁺

kαrα.

Alors, par [5, prop. 2.26], E(k) op`ere sur Mp(χ)[τ] par multiplication par le scalaire p+aχ(k)−aτ(k). Donc H op`ere sur ⊕τ∈W^∧Mp(χ)[τ] =Mp(χ) par multiplication par p+¹₂`+aχ(k) =p+bχ(k).

2) En passant au quotient moduloRp(χ), on obtient que pour tousp≥0 et x ∈Lp(χ),H·x= (p+bχ(k))x. Les ´el´ements de poids minimal pourH sont donc dansL0(χ) =Vχ. De plus, comme [H, E] = 2E et [H, F] =−2F, on a

H·(E·x) = p+ 2 +bχ(k)

E·x et H·(F·x) = p−2 +bχ(k) F·x.

Supposons maintenant L(χ) de dimension finie. On a donc L(χ) =⊕^pi=0Li(χ),

avec Lj(χ) 6= 0, 1 ≤ j ≤ p, cf. prop. 5.1. Alors si 0 6= x ∈ L0(χ), x est vecteur propre de plus bas poids bχ(k) pour l’action de sl(2) et U(sl(2))·x est un sl(2)-module irr´eductible de dimension finie. Il existe donc m ∈ N tel quebχ(k) =−m. D’o`u (i).

(ii) DeU(sl(2))·x=⊕^mi=0CEⁱ·xavec 06=E^m·x∈L2m(χ) vecteur de plus haut poids (´egal `a m) on tire 2m ≤ p. Soit z ∈Lp(χ). Comme E·z = 0 et H·z= (p−m)z, lesl(2)-moduleU(sl(2))·zest simple de plus haut poidsp−m.

Il en d´ecoule que 0 6= F^p−m·z ∈ L_{−2(p−m)+m}(χ), donc −2(p−m) +p = 2m−p≥0 etp= 2m.

Comme E^m ∈ H^W, l’application (non nulle) x 7→ E^m·x de L0(χ) ' Vχ

vers L2m(χ) est injective. Il reste `a montrer que son image est L2m(χ). Soit y ∈ L2m(χ) ; c’est un vecteur de plus haut poids poursl(2). Par cons´equent E<sup>m</sup>·(F<sup>m</sup>·y) = y, `a une constante pr`es, avec F<sup>m</sup>·y ∈ L0(χ). La derni`ere assertion d´ecoule imm´ediatement de la pr´ec´edente.

Remarques 5.7. — 1) SupposonsL(χ, k) de dimension finie et soitmcomme dans la proposition 5.6. En raisonnant comme dans la preuve du 2), (ii) de la cette proposition, on peut montrer que l’application v 7→ E^m−1·v est un isomorphisme deW-modules de L1(χ) =M1(χ)/R1(χ) surL2m−1(χ).

2) Si χ(ri) = 0 pour tout i, il r´esulte de la prop. 5.6, (i) queL(χ, k) est de dimension infinie. Cette condition est par exemple v´erifi´ee lorsqueχ=χ⊗sgn.

6. Exemples

On suppose, dans toute cette section, queRet la repr´esentationW →GL(a) sont irr´eductibles.On a alorsP^W =C[Q1, . . . , Q`] avecd1= 2< d3≤ · · · ≤d`

et l’on peut prendreQ1=E.

On rappelle que la multiplicit´ekest ditesinguli`eresiR(k)6= 0. D’apr`es [4], pour kconstante, cela ´equivaut `ak=j/di−pavec 1≤i≤`, 1≤j≤di−1 et p∈N^∗.

On dira que k est tr`es singuli`ere si L(triv, k) est de dimension finie. (Rap- pelons que c’est ´equivalent `a l’existence d’un entierptel queF^p(P2p^W) = 0.)

Une multiplicit´e tr`es singuli`ere est ´evidemment singuli`ere et l’on a vu que, si τ est une repr´esentation de dimension 1, cela ´equivaut `a dimL(τ, k^τ)<∞ (cf. remarque 3.6). Le but de cette section est de donner des exemples de multiplicit´es tr`es singuli`eres pour certains syst`emes de racines.

On pose~=btriv(k) =H(1), donc

~=−F(E) =k1|R⁺₁|+k2|R⁺₂|+1 2`.

Observons que~=k|R⁺|+¹₂`lorsque toutes les racines ont la mˆeme longueur et que~=<sup>1</sup><sub>2</sub>|R<sup>+</sup>|(k1+k2) +<sup>1</sup><sub>2</sub>` lorsqueRest de typeB2,C2,G2 ouF4. Lemme 6.1. — Pour tout p∈N, F^p+1(E^p+1) = (−1)^p+1(p+ 1)!Qp

i=0(~+i).

D´emonstration. — En utilisant le fait queH(P) = (~+d)P pourP ∈ Pd^W et la relation

(6.1) [F, E^s] =−HE^s−1+E[F, E^s−1]

on montre par r´ecurrence queF(E^s) =−s(~+s−1)E^s−1, d’o`u le lemme.

o

On posera, si ces entiers existent, n= min

p∈N:F^p+1(E^p+1) = 0 , m= min

s∈N:F^s+1(P2s+2^W ) = 0 .

Donc l’existence de m´equivaut `a dimL(triv, k)<∞et l’on a alors (cf.§5) L(triv, k) =⊕^2mi=0Li(triv, k).

(On pourra remarquer que si L1(triv, k) 6= 0, il est ´egal au W-module a^∗.) L’existence de n signifie que ~ = −n, i.e. k = −(2n+`)/|R| lorsque k est constante.

Cas o`um=n. — Lorsquem=n, cela d´etermine les multiplicit´es tr`es singu- li`eres. Ceci se produit lorsque ~ = −n et P²ⁿ⁺² = CEⁿ⁺¹. Donnons des exemples :

• CommeP2^W =CE, on a

~= 0 ⇐⇒ L(triv, k) =C ⇐⇒ R(k) =P⁺. Si k=k1=k2, on obtient alorsk=−`/|R|.

• Si aucun degr´e primitif n’est ´egal `a 4 (c’est par exemple le cas pour les typesA2,F4,E6, E7,E8 etG2) on aP4^W =CE². Donc

~=−1 ⇐⇒ L(triv, k) =⊕²i=0Li(triv, k).

• De mˆeme, quand dj 6= 6 pour toutj (e.g. pour le typeE8), on obtient

~=−2 ⇐⇒ L(triv, k) =⊕⁴i=0Li(triv, k).

• Supposons R de type A1 et notons P = C[z]. On a P²ⁿ⁺² = CEⁿ⁺¹ = Cz²ⁿ⁺², donc il d´ecoule des r´esultats de la section 5 que

~=−n ⇐⇒ L(triv, k) =C[z]/(z²ⁿ⁺¹).

On retrouve ainsi ce qui a ´et´e obtenu dans [3] : les multiplicit´es singuli`eres et tr`es singuli`eres co¨ıncident et correspondent aux multiplicit´esk=−¹2−n avecn∈N.

Type A2. — On a P^W = C[E, Q2] o`u Q2 est un polynˆome homog`eneW- invariant de degr´e 3. Rappelons que l’ensemble des valeurs singuli`eres dekest form´e desknon entiersde la forme−¹3pou−¹2pavecp∈N.

On a F(Q2)∈ P1^W = 0 et un calcul direct montre queF(Q²₂) =λE² pour unλ∈C^∗ind´ependant dek. En rempla¸cantQ2par√

λQ2, on peut donc ´ecrire P^W =C[E, Q] avecF(Q) = 0,F(Q²) =E². On pose

Pn,r=Pn,r(k) =Fⁿ(E^n−3rQ^2r).

LesPn,rsont des polynˆomes enk, ou~, et l’on aFⁿ(P2n^W) =P^[13n]

i=0 CPn,i. Ainsi la multiplicit´ekest tr`es singuli`ere si, et seulement si, il existe un entier positif ou nulmtel que Pm+1,r= 0 pour toutr= 0, . . . ,[¹₃(m+ 1)].

On peut montrer le r´esultat qui suit en utilisant [F, Q](Q^p) =F(Q^p+1)−QF(Q^p) et la formule (6.1).

Assertion 6.2. — Les polynˆomes (en ~) Pn,r v´erifient la formule de r´ecur- rence suivante :

∀n, r∈N, Pn+1,r=r(2r−1)Pn,r−1−(n+ 1−3r)(~+n+ 3r)Pn,r. En outre,Pn,r= 0 sin <3r.

Pour tous n ∈N et 0≤ r ≤[¹₃n], on d´efinit alors un polynˆome (en ~) de degr´en−rpar :

fn,r(~) =Qn−1

j=0(~+j). Qr−1

i=0(~+ 3i+ 2).

Remarquons quefn,r(~) s’annule pour~=−j avecj ∈ {0,1,3, . . . , n−1}et j6≡2 (mod 3). Donc, sin6≡2 (mod 3) le polynˆome

f_n+1,[¹_3(n+1)](~) =f_n+1,[¹_3n](~)

poss`ede−npour racine. Observons ´egalement quefn+1,r+1(~) divisefn+1,r(~).

Grˆace `a la formule de r´ecurrence obtenue dans l’assertion 6.2, on peut alors d´emontrer :

Assertion 6.3. — 1) Soitn, r∈N. Alors, si an,r= (−1)^n+rn!

3^r Yr

i=1

(2i−1), on a Pn,r=an,rfn,r(~).

2) La multiplicit´e k est tr`es singuli`ere si, et seulement si, ~ = −m ∈ −N avec m6≡2 (mod 3).

Compte tenu de l’assertion pr´ec´edente, des remarques 5.7, 2) et 3.6 nous pouvons ´enoncer :

Th´eor`eme 6.4. — SoitR un syst`eme de racines de typeA2, k=kα, α∈R.

AlorsH(k)poss`ede des repr´esentations de dimension finie si, et seulement si, il existe unm∈Nnon congru `a2modulo3tel que3k+ 1 =±m. De plus,

3k+1 =−m⇔dimL(triv, k)<∞et 3k+1 =m⇔dimL(sgn, k)<∞.

o

Type B2. — Rappelons quek1, resp.k2, d´esigne la valeur deksur les racines courtes, resp. longues ; on a donc~= 2(k1+k2) + 1. ´EcrivonsP =C[x1, x2] de sorte queR⁺ ={x1, x2, x1±x2}et W soit engendr´e parr=rx1−x2,si=rxi, i= 1,2. On a alorsP^W =C[E, Q] o`uQ=x²₁x²₂∈ P4^W.

Soitn∈N. Une base deP2n+2^W est {E^n+1−2rQ^r,r= 0, . . . ,[₂¹(n+ 1)]}. On d´efinit des polynˆomes enk1,~(i.e.k1, k2) par

Pn,r=Pn,r(k1,~) =Fⁿ(E^n−2rQ^r).

La condition Fⁿ⁺¹(P2n+2^W ) = 0 est donc ´equivalente `aPn+1,r = 0 pour r = 0, . . . ,[¹₂(n+ 1)]. On obtient ais´ement le r´esultat suivant :

Assertion 6.5. — Les polynˆomesPn,r v´erifient la formule de r´ecurrence

∀n, r∈N, Pn+1,r =−2r(2k1+ 2r−1)P_n,r−1−(n+ 1−2r)(~+n+ 2r)Pn,r. (Avec la convention Pn,−1= 0.)

Pour tousn∈Net 0≤r≤[¹₂n], on pose : gn,r(k1,~) =Qr

i=1(2k1+ 2i−1)Qn−1

j=0(~+j). Qr

i=1(~+ 2i−1).

Une r´ecurrence et l’assertion 6.5 donnent :

Assertion 6.6. — Soientn, r∈N. Alors, Pn,r= (−1)ⁿn!gn,r(k1,~).

Rappelons que W^∧ = {triv,sgn,std, χ1, χ2}, o`u std est la repr´esentation standardW ,→GL(a),χ1,χ2sont de dimension 1 donn´ees par

χ1(r) = 1, χ1(s1) =χ1(s2) =−1, χ2=χ1⊗sgn.

En utilisant la formule pr´ec´edente, les remarques 5.7, 2) et 3.6, on obtient le th´eor`eme qui suit. Il fournit les conditions n´ecessaires et suffisantes pour queH(k) poss`ede des repr´esentations de dimension finie.

Th´eor`eme 6.7. — SoitRun syst`eme de racines de type B2.

1) La condition dimL(triv, k) < ∞ ´equivaut `a l’une des deux conditions suivantes :

(a) ~=−npour unn∈Npair ;

(b) ~=−netk1=−¹2(2j−1)avecj∈ {1, . . . ,¹₂(n+ 1)}pourn∈Nimpair.

2) Le moduleL(std, k)est de dimension infinie.

3) Siτ ∈ {sgn, χ1, χ2}on a :

dimL(τ, k)<∞ ⇐⇒ dimL(triv, k^τ)<∞.

Type G2. — Soit e1, e2 une base orthonorm´ee dea_R, de base duale x1, x2. On pose

z=x1+ix2, z¯=x1−ix2, T =1

2(Te1−iTe2), T = 1

2(Te1+iTe2).

Ainsi 2E=zz¯etF =−2T T. SoitQ⁰=z⁶+ ¯z⁶. CommeW est le groupe di´edral d’ordre 12, on a ~= 1 + 3(k1+k2),P^W =C[E, Q⁰] et (cf. [4]) la multiplicit´e k = (k1, k2) est singuli`ere si, et seulement si, il existen ∈Ntel que l’on soit dans l’un des cas suivants :

(i) k1=−¹2−n, k2∈C; (ii) k2=−¹2−n, k1∈C;

(iii) 3(k1+k2) =−j−3n o`uj∈ {1,2,4,5}.

Posonsκ=k2−k1; il existe alors une constanteλ(non nulle et ind´ependante de k1, k2) telle que F(λQ⁰) = κE². On pose Q = λQ⁰ et, pour tous n ∈ N et r∈ {0, . . . ,[¹₃n]}:

Pn,r=Fⁿ(Q^rE^n−3r).

Ces polynˆomes enk1, k2 (ouκ,~) engendrentFⁿ(P2n^W). On montre par r´ecur- rence le r´esultat suivant.

Assertion 6.8. — Pour tous (n, r)∈N², on a :

Pn+1,r =−(n+ 1−3r)(~+n+ 3r)Pn,r+rκP_n,r−1−r(r−1) 9 P_n,r−2. (Avec la convention que Pn,r= 0 pourr <0oun <3r.)

On obtient une suite de polynˆomes (en κ,~), {Φp(~, κ)}p∈N, en posant Φ0= 1, Φ1=κet pour toutp >1 :

Φp(~, κ) =κΦ_p−1(~, κ) +p−1

3 (~+ 3p−4)Φ_p−2(~, κ).

D´efinissons aussi, pourn∈Net r∈ {0, . . . ,[¹₃n]}, les polynˆomes : an,r(~) =

nY−1

i=0

(~+i).^rY⁻¹

j=0

(~+ 2 + 3j).

On v´erifie alors que pourn∈Net r∈ {0, . . . ,[₃¹n]}on a : Pn,r(~, κ) = (−1)^n+rn!

3^rΦr(~, κ)an,r(~).

Ainsi l’existence d’un entiern∈Nminimal tel queFⁿ(P2n^W) = 0 est ´equivalente

`

a la r´ealisation de l’une des deux conditions suivantes : (a) sin6≡0 (mod 3), alors~=−(n−1) ;

(b) sin= 3r, alorsφr(κ) = Φr(κ,−(3r−1)) = 0.

o

Quelques calculs fournissent la conjecture suivante (v´erifi´ee pour 2q+ 1≤31) : (6.2) φ2q(κ) =

Yq

j=1

(κ²−(2j−1)²), φ2q+1(κ) =κ Yq

j=1

(κ²−(2j)²).

Supposons que (6.2) soit v´erifi´ee. La multiplicit´ek est alors tr`es singuli`ere si, et seulement si, il existen∈Ntel que :

(a) soitn6≡0 (mod 3) et ~=−(n−1) ;

(b) soitn≡0 (mod 3) et si ¹₃nest pair (resp. impair), alors|κ|est un entier impair (resp. pair) inf´erieur `a ¹₃n.

Soitα1, resp.α2, une racine courte, resp. longue. On a W^∧=

triv,sgn, τ,sgn⊗τ,std,std⊗τ ,

o`uτ est la representation irr´eductible de dimension 1 donn´ee parτ(rα1) = 1 et τ(rα2) = −1. En utilisant la caract´erisation pr´ec´edente, les remarques 5.7, 2) et 3.6, on obtient le th´eor`eme suivant. Il d´etermine les multiplicit´es pour les- quellesH(k) admet des repr´esentations de dimension finie.

Th´eor`eme 6.9. — SoitRun syst`eme de racines de type G2.

1) On suppose (6.2) v´erifi´ee. Alors la multiplicit´e k= (k1, k2)est tr`es sin- guli`ere, i.e. dimL(triv, k)<∞, si et seulement si, il existe n∈N^∗ tel que

(a) k1+k2=−¹3nsin6≡0 (mod 3); (b) (k1, k2)ou(k2, k1)est de la forme

−1 2

1

3n+ 2j−1 ,−1

2 1

3n−2j+ 1

, 1≤j≤ 1 6n, sin≡0 (mod 6);

(c) (k1, k2)ou(k2, k1)est de la forme −1

2 1

3n+ 2j ,−1

2 1

3n−2j

, 0≤j≤1

6(n−3), sin≡3 (mod 6).

2) Si χ ∈ {sgn, τ,sgn⊗τ}, alors dimL(χ, k) < ∞ si et seulement si la multiplicit´ek^χ est tr`es singuli`ere.

3) Siχ∈ {std, τ⊗std}, alorsdimL(χ, k) =∞.

BIBLIOGRAPHIE

[1] Berest (Y.), Etingof (P.) & Ginzburg (V.) – Cherednik algebras and differential operators on quasi-invariants, Preprint, arXiv:math.QA/

0111005.

[2] Bourbaki (N.)–Groupes et alg`ebres de Lie, Hermann, Paris, 1968, chap.

4–6.

[3] Cherednik (I.) & Markov (Y.) – Hankel transform via double Hecke algebra, Preprint, arXiv:math.QA/0004116.

[4] Dunkl (C.F.), de Jeu (M.)&Opdam (E.M.)–Singular polynomial for finite reflection groups, Trans. Amer. Math. Soc., t.346(1994), pp. 237–256.

[5] Dunkl (C.F.)&Opdam (E.M.)–Dunkl operators for complex reflection groups, Preprint,arXiv:math.RT/018185.

[6] Etingof (P.)&Ginzburg (V.)–Symplectic reflection algebras, Caloge- ro-Moser space, and deformed Harish-Chandra homomorphism, Preprint, arXiv:math.RT/0011114.

[7] Heckman (G.J.) – A remark on the Dunkl differential-difference opera- tors, inHarmonic analysis on reductive groups, Progress in Math., vol. 101, Birkh¨auser, 1991.

o