Repr´esentations irr´eductibles de GL(2, F) modulo p. Marie-France Vign´eras
R´esum´e. This is a report on the classification of irreducible representations ofGL(2, F) over Fp whenF is a local field of finite residual field contained in the algebraically closed field Fp of characteristic p.
1 Toutes les repr´esentations des groupes seront lisses, i.e. chaque vecteur est fixe par un sous-groupe ouvert.
Soit p un nombre premier, F un corps local complet pour une valuation discr`ete de corps r´esiduel fini Fq de caract´eristique p ayant q ´el´ements, F un clˆoture s´eparable de F et Fp une clˆoture alg´ebrique de Fq. Soit n ≥ 1 un entier. Pour un nombre premier ℓ 6= p, la correspondance semisimple de Langlands modulo ℓ, est une bijection “com- patible avec la r´eduction modulo ℓ” entre les classes d’isomorphisme des repr´esentations irr´eductibles de dimension n du groupe de Gal(F /F) sur Fℓ et les classes d’isomorphisme des repr´esentations irr´eductibles supercuspidales de GL(n, F) sur Fℓ, ´etendue de fa¸con
`a inclure les repr´esentations semi-simples de dimension n de Gal(F /F), et toutes les repr´esentations irr´eductibles de GL(n, F) sur Fℓ [V2].
On s’int´eresse au cas ℓ = p. On connait bien les repr´esentations irr´eductibles de dimension finie de Gal(F /F) surFp, mais quelles sont les repr´esentations irr´eductibles de GL(n, F) sur Fp ? La r´eponse est connue uniquement pour le groupeGL(2,Qp); c’est un probl`eme ouvert pour n≥3 ou pour F 6=Qp.
2 Les repr´esentations irr´eductibles de dimension n du groupe de Galois Gal(F /F) sur Fp se classent facilement [V3] 1.14 page 423.
2.1 . Lorsque n = 1, l’isomorphisme de r´eciprocit´e du corps de classes, qui envoie une uniformisante pF de F sur un Frobenius g´eom´etrique FrobF, identifie les caract`eres (repr´esentations de dimension 1) deF∗et de Gal(F /F). Nous utiliserons syst´ematiquement cette identification. Pour une extension finie F′ de F contenue dans F, la restriction du cˆot´e galoisien correspond `a la norme F′∗ →F∗.
2.2 Les repr´esentations irr´eductibles de Gal(F /F) sur Fp de dimension n ≥ 2 sont induites par les caract`eres r´eguliers surF du groupe multiplicatif de l’unique extensionFn de F non ramifi´ee de degr´e nsur F contenue dans F. Un caract`ere deFn∗ est r´egulier sur F si sesnconjugu´es par le groupe de Galois Gal(Fn/F) sont distincts. Les repr´esentations ρ(χ), ρ(χ′) de Gal(F /F) induites de deux caract`eres χ, χ′ de Fn∗ r´eguliers sur F sont isomorphes si et seulement si χ, χ′ sont conjugu´es par le groupe de Galois Gal(Fn/F). Le d´eterminant de ρ(χ) est la restriction deχ `a F∗.
2.3 On note OF l’anneau des entiers de F; un caract`ere OF∗ → F∗p s’identifie `a un caract`ere de F∗q. L’uniformisante pF de F est aussi une uniformisante de l’extension non ramifi´ee Fn. Le caract`ere ωn de Fn∗ tel que ωn(pF) = 1 et dont la restriction `a OF∗n s’identifie au plongement naturel ιn : F∗qn → F∗p, est appel´e un caract`ere de Serre; il est r´egulier. Pour λ ∈F∗p, on note µn,λ le caract`ere non ramifi´e de Fn∗ tel que µn,λ(pF) = λ.
On supprime l’indice n = 1 pour F∗. Le compos´e de la norme Fn∗ → F∗ et du caract`ere ω, resp. µλ, est le caract`ere ωn1+q+...+qn−1, resp. µn,λn.
Les caract`eres deFn∗ sontµn,λωanpour un unique couple (λ, a)∈F∗p× {1, . . . , qn−1}.
2.4 Les repr´esentations irr´eductibles de dimension n ≥ 1 du groupe de Galois Gal(F /F) sur Fp sont
ρn(a, λ) =µλ⊗indGal(F /F)
Gal(F /Fn)ωna = indGal(F /F)
Gal(F /Fn)(µn,λn ωan)
pour les entiersa ∈Z/(qn−1)Ztels quea, qa, . . . , qn−1asont distincts. Les isomorphismes sont les suivants
ρn(a, λ)≃ρn(aqi, ζλ) pour les entiers 1≤i≤n−1 et ζ ∈F∗p avec ζn = 1.
Le d´eterminant deρn(a, λ) estωa′µλn o`ua′ ∈Z/(q−1)Zest l’image dea. Le nombre de repr´esentations irr´eductibles avec det FrobF fix´e est fini, ´egal au nombre de polynˆomes irr´eductibles unitaires de degr´en dans Fq[X] [V1] 3.1 (10). Lorsque n= 2, ce nombre est q(q−1)/2.
2.5 Lorsque F = Qp, les repr´esentations irr´eductibles de dimension 2 du groupe de Galois Gal(Qp/Qp) sur Fp sont
σ(r, χ) =χ⊗indGal(F /FGal(F /F)
2)ω2r+1
pour les entiers r ∈ {0, . . . , p − 1} et les caract`eres χ : Q∗p → F∗p. On a σ(r, χ) = ρ2(a, λ) avec χ = µλωb, a = (p + 1)b+ r + 1. Le d´eterminant de σ(r, χ) est χ2ωr+1. Les isomorphismes sont les suivants
σ(r, χ)≃σ(p−1−r, χ)≃σ(r, χµ−1)≃σ(p−1−r, χµ−1).
3 Les repr´esentations irr´eductibles de GL(2,Qp) sur Fp avec un caract`ere central sont class´ees [BL2] [Br]. On dispose d’une liste pour GL(2, F) lorsque F 6=Qp [V0], [Pa], probablement non compl`ete.
3.1 Les repr´esentations irr´eductibles de GL(2,Fq) sur Fp sont (χ◦det)⊗SymrF2p pour un unique couple (r, χ) avec 0≤r≤q−1 et un caract`ereχ:F∗q →F∗p; on peut aussi remplacer χ par l’unique entier 1≤ a ≤ q −1 tel que χ(?) =?a. On a le d´eveloppement p-adique r =r1+pr2+. . .+pf−1rf avec 0≤ri ≤p−1, q=pf, et
SymrF2p =⊗fi=1SymriF2p◦Fri−1
o`u Fr est le Frobenius absolu ?p et pour tout entier r ≥0, SymrF2p est la repr´esentation de GL(2,Fq) sur les polynˆomes homog`enes de degr´er dans Fp[X, Y] v´erifiant
a b c d
XiYj = (aX +cY)i(bX+cY)j (i, j ≥0, i+j =r).
La repr´esentation triviale et la repr´esentation sp´eciale (ou de Steinberg) sont Sym0F2p et Symq−1F2p.
La repr´esentation irr´eductible SymrF2p s’identifie `a une repr´esentation irr´eductible de GL(2, OF), ou `a une repr´esentation de Ko =GL(2, OF)pZF triviale sur pF. On lui associe par induction compacte une repr´esentation lisse de GL(2, F)
E(r) = indGKoSymrF2p.
3.2 Les repr´esentations irr´eductibles de G =GL(2, F) sur Fp sont : (i) Les caract`eres χ◦det pour les caract`eres χ:F∗ →F∗p.
(ii) Les s´eries principales indGB(χ1⊗χ2) induites par le caract`ere (χ1⊗χ2)
a b 0 d
=χ1(a)χ2(d)
du sous-groupe triangulaire sup´erieur B, pour les caract`eres distincts χ1, χ2 : F∗ → F∗p, χ1 6=χ2.
(iii) Les s´eries sp´eciales (appel´ees aussi de Steinberg) Sp⊗χdet, pour les caract`eres χ : F∗ → F∗p, o`u Sp est le quotient de la repr´esentation induite indGBidF
p du caract`ere trivial de B, par le caract`ere trivial de G.
(iv) Les repr´esentations irr´eductibles supercuspidales.
Il n’y a pas d’isomorphisme entre ces repr´esentations.
La repr´esentation sp´eciale ne se plonge pas dans une repr´esentation induite parabolique;
ses vecteurs coinvariants par le radical unipotent N de B est nul; elle est cuspidale sans ˆetre supercuspidale.
Barthel et Livne ([BL2] prop.8) montrent que EndF
pG(indGKoid)≃Fp[T] o`u T corre- spond `a la double classe de h=
pF 0
0 1
; les alg`ebres EndF
pGE(r) sont canoniquement isomorphes. Ils ont appel´es supersinguli`eres les repr´esentations irr´eductibles supercuspi- dales ayant un caract`ere central, et d´emontr´es ce sont les quotients irr´eductibles de
V(r, χ) = (χ◦det)⊗ E(r) T E(r)
pour les caract`eresχ :F∗ →F∗p et les entiers 0≤r≤q−1; le caract`ere central deV(r, χ) est χ2ωr. La repr´esentation de G
V(r, λ, χ) = (χ◦det)⊗ E(r)
(T −λ)E(r) (λ ∈F∗p) est isomorphe `a
i) la s´erie principale irr´eductible (χ◦det)⊗indGB(µλ−1⊗µλωr) siµλ−1 6=µλωr, i.e. si λ6=±1 ou r 6= (0, . . . ,0),(p−1, . . . , p−1),
ii) la repr´esentation (χ◦det)⊗indGBµλ de longueur 2 non scind´ee, contenantχµλ◦det et de quotient (χµλ◦det)⊗Sp lorsque λ=±1 et r = (p−1, . . . , p−1),
iii) une repr´esentation de longueur 2 non scind´ee contenant (χµλ◦det)⊗Sp et de quotient χµλ◦det lorsque λ =±1 et r= (0, . . . ,0).
3.3 Dans le cas particulier mais importantF =Qp, Breuil [Br] 4.1.1, 4.1.4, a montr´e que les repr´esentations V(r, χ) sont irr´eductibles.
Les repr´esentations irr´eductibles supersinguli`eres de GL(2,Qp) sont les V(r, χ) pour 0≤r≤p−1 et χ un caract`ere F∗ →F∗p; les isomorphismes sont :
V(r, χ)≃V(p−1−r, χωr)≃V(r, χµ1)≃V(p−1−r, χωrµ−1).
3.4 Breuil [Br] 4.2.4 en d´eduit une bijection unique “compatible avec la r´eduction modulop” de la correspondance donn´ee par la “cohomologie ´etale des courbes modulaires”
σ(r, χ)↔V(r, χ)
entre les classes d’isomorphisme des repr´esentations irr´eductibles de dimension 2 du groupe de Galois Gal(Qp/Qp) sur Fp (2.5) et les classes d’isomorphisme des repr´esentations irr´eductibles supersinguli`eres de GL(2,Qp) sur Fp (3.3), qu’il ´etend de fa¸con `a inclure les repr´esentations semi-simples de dimension 2 de Gal(Qp/Qp),
χ⊗(ωr+1µλ⊕µλ−1)↔(χ◦det)⊗[indGB(µλ−1 ⊗ωrµλ)⊕indGB((ωrµλ)ω ⊗µλ−1ω−1)]ss, notant ?ssla semi-simplifi´ee d’une repr´esentation ? de longueur finie. Soitr′ ∈ {0, . . . , p−2}
congru `a p−3−r modulo p−1; le membre de droite est aussi (3.2):
V(r, λ, χ)ss⊕V(r′, λ−1, ωr+1χ)ss.
Le d´eterminantχ2ωr+1 de la repr´esentation galoisienne ne coincide pas par l’isomorphisme de la th´eorie du corps de classes avec le caract`ere central χ2ωr de la repr´esentation de GL(2,Qp).
3.5 Une repr´esentation irr´eductible avec un caract`ere central de GL(2,Qp) est car- act´eris´ee par sa restriction au sous-groupe triangulaireB, qui est irr´eductible sauf pour une s´erie principale o`u elle est de longueur 2; ceci est d´emontr´e par Berger [Be] lorsqueF =Qp en utilisant les repr´esentations de B(Qp) construites par Colmez avec les (φ,Γ)-modules de Fontaine; une preuve non galoisienne est donn´ee dans [Vc] (voir 3.6) pour toutF, mais uniquement pour les s´eries principales et la Steinberg.
Toute repr´esentation irr´eductibleW deGal(Qp/Qp)de dimension finie sur Fp, d´efinit une repr´esentation irr´eductible de dimension infinieΩW deB(Qp)surFp. Deux repr´esentations W non isomorphes donnent des repr´esentations ΩW non isomorphes.
Les repr´esentations irr´eductibles contenues dans la s´erie principale ou la s´erie sp´eciale (resp. dans les supersinguli`eres) sont les ΩW pour dimW = 1 (resp. dimW = 2).
Remarque. NotonsP le sous-groupe mirabolique form´e des matrices de seconde ligne (0,1) dans B. Il est isomorphe au produit semi-direct du groupe additif Ga et du groupe
multiplicatifGm (agissant naturellement sur Ga). On identifie Ga au radical unipotent de P ou de B.
Sur un corps alg´ebriquement clos de caract´eristique diff´erente dep, le groupe mirabolique P(F) a une unique repr´esentation irr´eductible de dimension infinie τ; les autres sont des caract`eres. La restriction `a P(F) d’une repr´esentation irr´eductible π de dimension infinie de GL(2, F) contient τ etπ/τ est de longueur 2,1,0 selon que π est de la s´erie principale, sp´eciale, ou est supercuspidale [V4].
3.6 On peut d´ecomposer les s´eries principales avec les arguments suivants [Vc] . La repr´esentation naturelleρ de P(F) sur l’espace des fonctions localement constantes `a sup- port compact sur F et `a valeurs dans Fp est irr´eductible; ceci utilise que l’alg`ebre de groupe compl´et´ee d’un pro-p-groupe sur corps fini de caract´eristiquepest locale. Joint au fait que les F-coinvariants de ρ sont nuls car un pro-p-groupe n’a pas de mesure de Haar
`a valeurs dans Fp, on obtient que la restriction `a B(F) de indGBχ1 ⊗χ2 est de longueur 2, de quotient le caract`ere χ1⊗χ2, et l’image de indGBχ1⊗χ2 par le foncteur de Jacquet (les U(F)-coinvariants) est χ = χ1 ⊗χ2. Cette d´emonstration n’utilisant pas l’arbre de P GL(2), est g´en´eralisable `a GL(n).
4 G´en´eralit´es.
4.1 On dit que V est admissible si l’espace VK des vecteurs de V fixes par K est de dimension finie pour tout sous-groupe ouvert compact K de G. Lorsque C =Fp, il suffit que ce soit vrai pour un seul pro-p-sous-groupe ouvertKo de G. Voici la preuve simple et astucieuse due `a Paskunas. La restriction de V `a Ko se plonge dans (dimF
pVKo) Inj 1F
p, o`u Inj 1F
p est l’enveloppe injective de la repr´esentation triviale de Ko; pour tout sous- groupe ouvert distingu´eK deKo, on a (Inj 1F
p)K =Fp[Ko/K], donc la dimension de VK est finie.
Toutes les repr´esentations irr´eductibles de GL(2, F) sur Fp connues sont admissibles, ont un caract`ere central et sont d´efinies sur un corps fini.
4.2 Tout pro-p-groupe agissant sur un Fp-espace vectoriel non nul a un vecteur non nul invariant. Ceci implique qu’ une repr´esentation admissible non nulle V de G sur Fp, contient une sous-repr´esentation irr´eductible W.
4.3 Soit W une repr´esentation lisse sur un corps commutatif C de dimension finie d’un sous-groupe ouvert K de G. On lui associe la repr´esentation lisse indGKW de G, par induction compacte. L’alg`ebre de Hecke de (K, W) dans G,
H(G, K, W) = EndCGindGKW
s’identifie `a l’alg`ebre de convolution des fonctions f :G→EndCW de support une union finie de doubles classes de G modulo K, satisfaisant f(kgk′) = kf(g)k′ pour g ∈ G et k, k′ ∈ K; la condition sur F = f(g) ∈ EndCW est F(k−1?) = gkg−1F(?) pour tout k ∈K∩g−1Kg. On associe `a V le H(G, K, W)-module `a droite
HomCG(indGKW, V)≃ HomCK(W, V), par adjonction.
4.4 Les alg`ebres de Hecke fournissent un crit`ere bien utile d’irr´eductibilit´e [V0] Cri- terium 4.5 page 344. Si Ko est un pro-p-sous-groupe ouvert, une repr´esentation V de G sur Fp engendr´ee par πKo est irr´eductible, si πKo est un H(G, Ko,idF
p)-module simple.
4.5 Nous donnons maintenant deux propri´et´es g´en´erales et techniques utilis´ees dans la d´emonstration par Barthel et Livne qu’une repr´esentation irr´eductible V de GL(2, F) sur Fp ayant un caract`ere central est quotient d’unV(r, λ, χ) (3.2), que nous expliquerons en (6.3).
(i) Soit V irr´eductible tel que HomCK(W, V) contienneun sous-H(G, K, W)-module de dimension finie sur C (vrai si V est admissible); alors il existe unH(G, K, W)-module simple `a droite M tel que V est quotient de
M ⊗H(G,K,W)indGKW.
(ii) Soit un quotientj :W →W′ de la repr´esentation W deK; l’application indGK(j) : indGKW →indGKW′ est surjective et induit une application injective
?◦indGK(j) : HomCG(indGKW′, V)→HomCG(indGKW, V)
pour toute repr´esentation V de G. Soit M′ un sous-espace de HomCG(indGKW′, V) dont l’image par ?◦indGK(j) dans HomCG(indGKW, V) estH(G, K, W)-stable. Si tout morphisme h′ ∈ H(G, K, W′) se rel`eve en un morphisme h ∈ H(G, K, W) tel que h′ ◦indGK(j) = indGK(j)◦h, alors M′ est H(G, K, W′)-stable.
La condition sur les alg`ebres de Hecke signifie que pour chaque g dans un syst`eme de repr´esentants des doubles classes K\G/K, tout morphisme F′ ∈ EndCW′ v´erifiant F′(k−1?) = gkg−1F′(?) pour tout k ∈ K ∩ g−1Kg se rel`eve en un morphisme F ∈ EndCKindGKW v´erifiant la mˆeme relation tel que F′◦j =j ◦F.
5 Alg`ebre de Hecke du “pro-p-Iwahori”I(1).
5.1 L’image inverse dans K =GL(2, OF) de B(Fq) par la r´eduction K →GL(2,Fq) est le groupe d’Iwahori I; celle du groupe strictement triangulaire sup´erieur est le pro−p- sous-groupe I(1); c’est un pro-p-Sylow de I. LaZ-alg`ebre de Hecke du pro-p-Iwahori I(1) [V1]
H(2, q) = EndZGZ[I(1)\GL(2, F)]
ne d´epend que de (2, q). La Z-alg`ebre H(2, q) a une grosse sous-alg`ebre commutative de type fini avec une action naturelle deS2, style Bernstein, dont les S2-invariants forment le centre de H(n,2). L’alg`ebre H(2, q) est un module de type fini sur son centre. Le centre de H(2, q) est une Z-alg`ebre de type fini.
5.2 Un H(2, q)⊗Z Fp-module simple (`a droite ou `a gauche) a un caract`ere central, est de dimension finie, et est d´efini sur un corps fini.
C’est l’analogue pour l’alg`ebre de Hecke du pro-p-Iwahori de “une sous-repr´esentation d’une repr´esentation de type fini de G sur Fp est de type fini” et de “une repr´esentation irr´eductible de G sur Fp est admissible d´efinie sur un corps fini” (questions ouvertes).
Cela r´esulte de:
5.3 Soit C un corps commutatif parfait,Z une C-alg`ebre commutative de type fini, H un anneau qui est un Z-module de type fini. Alors un H-module (`a droite ou `a gauche) simple est de dimension finie sur C.
Preuve (implicite dans [V4] I.7.11): Un H-module M simple (`a droite par exemple)
´etant unZ-module de type fini, admet un quotientZ-simple. SiC est alg´ebriquement clos, un Z-module simple est de dimension 1 sur C; il existe donc un morphisme χ:Z →C tel que M(χ) = {mz −χ(z)m, (m ∈ M, z ∈ Z)} est distinct de M et M(χ) est stable par A. Comme M est simple, M(χ) = 0 i.e. Z agit sur M par χ; ceci implique que M est de dimension finie sur C. SiC est parfait, il existe une extension finie galoisienneC′/C et un morphismeχ:Z →C′ tel queM⊗CC′ est distinct de (M⊗CC′)(χ). LeH⊗CC′-module M ⊗CC′ est une somme directe finie de modules simples, conjugu´es par Gal(C′/C). L’un d’entre eux N est distinct deN(χ), doncN(χ) = 0 et N est de dimension finie sur C′. La dimension de M ⊗C C′ sur C′ est donc de dimension finie; c’est aussi celle de M sur C.
5.4 D´efinition d’unH(2, q)⊗ZFp-module simple (`a droite ou `a gauche) supersingulier [V1]. Un caract`ere du centre de H(2, q) `a valeurs dans Fp a n´ecessairement beaucoup de
“z´eros”. Lorsqu’il y a des z´eros suppl´ementaires, le caract`ere est dit singulier (non singulier est appel´e r´egulier). Le pire cas plein de z´eros est appel´e supersingulier. La terminologie s’´etend `a un H(2, q)⊗ZFp-module simple via son caract`ere central (5.3). Le nombre de H(2, q)⊗ZFp-modules simples supersinguliers de dimension n connus avec une action de pF fix´ee, est exactement le nombre de repr´esentations continues irr´eductibles de Gal(F /F) de dimension 2 avec le d´eterminant de FrobF fix´e.
6 Nous expliquons le rˆole du foncteur π → πI(1) des I(1)-invariants dans les d´emonstrations de (3.2), (3.3) et nous donnons des propri´et´es de ce foncteur [V0], [O].
6.1 Le cas du groupe fini GL(2,Fq) [BL2] [Pa]. Un p-groupe de Sylow est le groupe des matrices strictement triangulaires sup´erieures U(Fq); le foncteur ρ → ρU(Fq) d´efinit une bijection des repr´esentations irr´eductibles deGL(2,Fq) surFp sur les modules simples de la Fp-alg`ebre de Hecke de U(Fq).
6.2Soitρune repr´esentation irr´eductible deGL(2,Fq); le poids deρest le caract`ereη deT(F) sur les invariantsρU(Fq)(qui est de dimension 1); le copoids deρest le caract`ereη′ deT(F) sur les invariantsρU(Fq)(qui est de dimension 1); par adjonction,ρest un quotient de indGL(n,FB(F q)
q) η et une sous-representation de indGL(2,FB(F q)
q) η′. Comme la contragr´ediente de indGL(n,FB(F q)
q) η est indGL(n,FB(F q)
q) η−1, les poids et copoids de la contragr´ediente de ρ sont (η′)−1 et η−1. Explicitement, la repr´esentation irr´eductible deta⊗SymrF2p pour 1 ≤a ≤ q−1,0≤r ≤q−1 a pour contragr´ediente det−r−a⊗SymrF2p, et pour poids
diag(1,?)→?a, diag(?,?−1)→?r;
le poids est le caract`ere diag(x, z) → xczd, les deux entiers 1 ≤ c, d ≤ q−1 ´etant li´es aux deux entiers a, r par les congruences d ≡ a (modq−1), c ≡ a+r (modq−1). Les repr´esentations irr´eductibles non isomorphes
deta⊗SymrF2p, deta+r⊗Symq−1−rF2p,
ont des poids conjugu´es par S2; le poids est fixe par S2 si r= 0 ou r =q−1.
Le nombre de caract`eres deT(Fq) modulo l’action naturelle du groupe sym´etriqueS2, i.e. de repr´esentations semi-simples de dimension 2 de F∗q sur Fp, est q(q−1)/2 comme en (2.4).
6.3 Nous expliquons comment l’isomorphisme [BL2] prop.8:
H(G, KpZF,idF
p)≃Fp[T].
et le r´esultat crucial [BL1] prop.15, [BL2] prop.18: si E 6= 0 est une sous-repr´esentation de E(r), alors EI(1) est de codimension finie dans E(r)I(1), et (4.5) impliquent qu’une repr´esentation irr´eductible V de G = GL(2, F) sur Fp ayant un caract`ere central est quotient d’un V(r, λ, χ) (3.2).
Le premier groupe de congruence K(1) des matrices congrues modulo pF `a l’identit´e dansK =GL(2, OF), ´etant un pro-p-groupe,V contient une repr´esentation irr´eductible de K triviale surK(1). On en d´eduit qu’il exister, χcomme en (3.2) tel queV est quotient de E(r, χ) = (χ◦det)⊗E(r)). On se ram`ene `aχtrivial par torsion. Il existe unG-morphisme non nul
E(r)→indGBχ
pour tout caract`ere χ : B → F∗p, trivial sur diag(pF, pF) et de restriction `a T(OF) le copoids η′ de Symr (6.1), par adjonction [V4] I.5.7 et l’isomorphisme (indGBχ)K(1) ≃ indGL(2,FB(F q)
q) η′. DoncE(r) est r´eductible; le r´esultat crucial implique que l’image deE(r)I(1) dans VI(1) est un sous-H(G, I(1),idF
p)-module de dimension finie. Les alg`ebres de Hecke H(G, I(1),id) et H(G, Ko,indKI(1)o id) sont isomorphes et l’on a une surjection canonique indKI(1)o id→ SymrF2p. Les isomorphismes Fp[T]≃ H(G, KpZF,idF
p) ≃ H(G, KpZF,Symr) et (4.5) impliquent alors que V est quotient d’un V(r, λ).
6.4 Structure de H(2, q)⊗ZFp et modules simples `a droite [V0].
L’alg`ebre H(2, q)⊗ZFp est une somme directe ⊕η1⊕η2H(G, I, η), param´etr´e par les repr´esentations semi-simples η1⊕η2 de dimension 2 de F∗q sur Fp (les ”poids modulo S2” (6.1)), o`uη =η1⊗η2 siη1 =η2 etη = (η1⊗η2)⊕(η2⊗η1) siη1 6=η2. Le nombre de facteurs est q(q−1)/2 comme en (2.4). Les modules simples sont g´en´eriquement d´etermin´es par leur caract`ere central; pour chaque facteur H(G, I, η), chaque (a, z)∈ Fp ×F∗p d´etermine un ou deux modules simples “jumeaux”; l’uniformisante pF agit par multiplication parz.
a) Pourη1 =η2, le facteurH(G, I, η) est isomorphe `a laFp-alg`ebre de Hecke du groupe d’Iwahori I; elle est engendr´ee par les fonctions S, T, ´egales `a 1 sur
0 1 1 0
,
0 1 pF 0
respectivement, de support une double classe modulo I, v´erifiant les relations T2S = ST2, S2 =−S; le centre est engendr´e parST+T S+T, T±2. Les modules `a droite simples sont g´en´eriquement les modules M2(a, z) de dimension 2, d´etermin´es par leur caract`ere central (ST +T S+T, T2)→(a, z), o`u T, S agissent respectivement par
0 z 1 0
,
−1 a
0 0
.
Les modules `a droite simples sont (i) M2(a, z) si z 6=a2,
(ii) les caract`eres M1(a,−1), M1(a,0) tels que T → a ∈ F∗p et S → ε ∈ {−1,0} sont respectivement contenus et quotients du module M2(a, a2); ce sont des “jumeaux”.
b) Pourη1 6=η2, le facteur H(G, I, η) est isomorphe `aM(2, R) o`uRest la Fp-alg`ebre commutative engendr´ee parZ±1, X, Y v´erifiantXY = 0. En effet,
0 1 pF 0
normalise I et permuteη1⊗η2 etη2⊗η1, donc induit un isomorphisme indGI (η1⊗η2)≃indGI (η2⊗η1).
L’isomorphisme R ≃ H(G, I, η1 ⊗η2) envoie Z±1, X, Y sur les fonctions support´ees sur une doubles classe modulo I et ´egales `a 1 sur p±F1,
pF 0
0 1
,
1 0 0 pF
, respectivement.
L’automorphisme deRd´eduit de l’isomorphismeH(G, I, η1⊗η2)≃H(G, I, η2⊗η1) induit par
0 1 pF 0
fixe Z et permute X, Y.
Les modules `a droite simplesM2(xa, ya, z)deM(2, R)sont de dimension2, d´etermin´es par leur caract`ere central X → xa, Y →ya, Z →z, pour tout a ∈ Fp, z ∈F∗p et (x, y) = (1,0) ou (0,1).
Si a6= 0, les modules simples M2(a,0, z), M2(0, a, z) sont “jumeaux” ; ils n’ont pas le mˆeme caract`ere central. Si a= 0, on note M2(0, z) =M2(0,0, z).
L’isomorphisme R ≃ H(G, I, η2 ⊗η1) aurait permut´e les jumeaux. Comme les car- act`eres η1, η2 jouent des rˆoles sym´etriques, il faut regrouper les “jumeaux” si l’on veut rester canonique.
On d´eduit de a), b):
Les modules simples supersinguliers de H(2, q)⊗ZFp sont les modules M2(0, z) pour chacun des q(q−1)/2facteurs de H(2, q)⊗ZFp, o`uz ∈ F∗p est l’action depF. On notera Mη,z le module simple supersingulier H(2, q)⊗ZFp de poids η modulo S2 o`u pF agit par z.
6.5 On donne les I(1)-invariants des repr´esentations indGBχ,Sp, V(r, χ) de G sur Fp introduites en (3.2), en utilisant la classification des H(2, q)⊗ZFp-modules simples (6.4).
a) Soit χ : B → F∗p un caract`ere de B d´efini par un caract`ere χ1 ⊗χ2 du groupe diagonal. On pose
a−1 =χ1(pF), z−1 =χ1(pF)χ2(pF), η?=χ?|OF∗.
Le H(2, q)⊗ZFp-module `a droite (indGBχ)I(1) est de dimension 2, s’identifie `a un module du facteur associ´e `a η1⊕η2 ´egal `a M2(a, z) si η1 = η2 et `a M2(a,0, z) si η1 6= η2 pour le choix de l’ordre (η1, η2). On a
M2(a,0, z)⊕M2(0, a, z) = (indGBχ1⊗χ2)I(1)⊕(indGBχ2⊗χ1)I(1) lorsque η1 6=η2.
b) On a 1I =M1(1,0) et SpI =M1(1,−1) [BL1] lemma 26.
c) L’irr´eductibilit´e des repr´esentations V(r) = E(r)/T E(r) de GL(2,Qp) , avec 0 ≤ r ≤ p−1, se montre ainsi. La repr´esentation V(r) ´etant engendr´ee par V(r)I(1), il suffit
de montrer que V(r)I(1) est un H(2, p)-module simple. Breuil montre [Br] 4.1.2, 4.1.3:
V(0)≃V(p−1).
puis pour 0 ≤ r ≤ p−2, que l’image par l’application E(r)I(1) → V(r)I(1) des fonctions A, B ∈E(r)I(1) concentr´ees sur une classe de GL(2, OF)pZF, avec
A(id) =Xr, B
1 0 0 p−F1
=Yr,
forment une base deV(r)I(1) [Br1 3.2.4, 4.1.4]; il est facile d’en d´eduire que leH(2,Qp)⊗Z Fp-module V(r)I(1) est le module simple M2(0,1) du facteur correspondant `a ωr⊕id.
On tord par le caract`ere χ = ωaµλ avec 0 ≤ a ≤ p−2, λ ∈ F∗p, et l’on voit que le H(2,Qp)⊗Z Fp-module V(r, χ)I(1) est le module M2(0, λ2) du facteur correspondant `a ωa+r⊕ωa.
6.6 La d´ecomposition des induites paraboliques indGBχ (3.2), l’irr´eductibilit´e des V(r) et les isomorphismes entre les V(r, χ) si F = Qp (3.3), se d´eduisent de (6.3), (6.5), en appliquant le crit`ere d’irr´eductibilit´e (4.5). On obtient aussi les propri´et´es suivantes du foncteur des I(1)-invariants:
(i) Le foncteur π → πI(1) d´efinit une bijection des repr´esentations irr´eductibles non supercuspidales de GL(2, F) sur Fp, sur les H(2, p)⊗ZFp-modules simples non supersin- guliers.
(ii) Le foncteur π → πI(1) d´efinit une bijection des repr´esentations irr´eductibles de GL(2,Qp) sur Fp ayant un caract`ere central sur les H(2, p)⊗ZFp-modules simples.
(iii) Toute repr´esentation irr´eductible de GL(2,Qp) sur Fp o`u pF op`ere trivialement est admissible.
6.7 Pour G = GL(2, F)/pZF et p 6= 2, Rachel Ollivier [O] a montr´e que la bijection (6.6 (iii)) provient d’une ´equivalence de cat´egories:
(i) Le module universelFp[I\G]d’un Iwahori I est projectif sur l’alg`ebre de sesFp[G]- endomorphismes.
Le module universelFp[I(1)\G]d’un pro-p-IwahoriI(1)est plat sur l’alg`ebreH(2, q)⊗Z Fp de ses Fp[G]-endomorphismes, si et seulement siq =p.
(ii) Lorsque F = Qp et p 6= 2, la cat´egorie des repr´esentations π de G sur Fp engendr´ees par πI(1) est ab´elienne et ´equivalente `a celle des H(2, p)⊗Z Fp-modules `a droite sur lesquels p agit trivialement, par le foncteur des I(1)-invariants ?I(1) d’inverse
?⊗H(2,p)⊗
ZFpFp[I(1)\G].
(ii) est faux lorsque q 6= p ou lorsque p 6= 2 et F = Fp((t)) est le corps des s´eries de Laurent en la variable t `a coefficients dans Fp, car l’espace des I(1)-invariants de M ⊗H(2,p)⊗
ZFpFp[I(1)\G] est de dimension infinie lorsqueM est supersingulier.
7 Nous expliquons la construction par Paskunas [Pa] d’une repr´esentation irr´eductible admissible ayant un caract`ere central de G = GL(2, F) sur Fp, telle que le socle du H(2, q)⊗ZFp-module des vecteurs I(1)-invariants soit un H(2, q)⊗ZFp-module simple supersingulier quelconque (6.4). Une telle repr´esentation est supersinguli`ere (3.2), par (6.6)(i).
7.1 La construction part du principe que se donner une action de G sur un groupe ab´elien V est ´equivalent `a se donner une action sur V de Ko = pZFK o`u K =GL(2, OF), et une action de K1 = pZFI ∪pZFI
0 1 pF 0
qui coincident sur Ko ∩K1 = pZFI, o`u I le sous-groupe d’Iwahori sup´erieur. Ceci se d´emontre en utilisant l’arbre X de P GL(2, F).
Les groupes Ko, K1 sont les stabilisateurs dans GL(2, F) d’un sommet et d’une arˆete contenant ce sommet; les actions compatibles deKo et deK1 surV d´efinissent un syst`eme de coefficients V surX qui estG-equivariant, d’homologieHo(X,V) est isomorphe `aV; la repr´esentation de G sur Ho(X,V) prolonge les actions de Ko et deK1 [Pa] 5.3.5.
7.2 Soit Mη,z le H(2, q)⊗Z Fp-module `a droite simple supersingulier, de poids η modulo S2 o`u pF agit par z (6.3). Soit ρη la somme directe des deux repr´esentations irr´eductibles de GL(2,Fq) de poids η modulo S2 (6.2), vue comme une repr´esentation de K triviale sur K(1); on note ρη,z l’action ´etendue `a Ko en faisant agir pF par z; les H(2, q)⊗ZFp-modules Mη,z et ρIη,z(1) sont isomorphes. Soit Injρη l’enveloppe injective de la repr´esentation ρη de K; on note Injρη,z l’action ´etendue `a Ko en faisant agirpF par z.
Le point crucial est [Pa] 6.4 page 76:
(i) Injρη,z est munie d’une action de K1 compatible avec celle de Ko, donc d’une action de G (7.1), telle que
(ii) l’inclusionρI(1)η,z ⊂(Injρη,z)I(1) est H(2, q)⊗ZFp-´equivariante.
La repr´esentation de G recherch´ee est la repr´esentation πη,z engendr´ee par ρη,z dans la repr´esentation Injρη,z de G (i). Elle est irr´eductible par l’argument suivant. Si π′ est une sous-repr´esentation non nulle de πη,z, le socle de π′|K est non nul et contenu dans le socle ρη,z de Injρη,z|K; la simplicit´e deρI(1)η,z commeH(2, q)⊗ZFp-module d´eduite de (ii), implique ρI(1)η,z ⊂(π′)I(1); comme ρη,z et πη,z sont engendr´es par ρI(1)η,z on d´eduit π′ =πη,z
donc πη,z est irr´eductible.
Le socle du H(2, q)⊗ZFp-module πη,zI(1) est simple, isomorphe `a Mη,z; on ne sait pas si πη,zI(1) est ´egal `a son socle. La repr´esentation Injρη,z de Gest admissible (4.2), donc πη,z
est admissible.
7.3 Paskunas [Pa] 6.2 construit un autre syst`eme de coefficients G-´equivariant Vη,z sur l’arbre tel que les I(1)-invariants de tout quotient irr´eductible de la repr´esentation de G sur Ho(X,Vη,z) contiennent Mη,z; il est associ´e `a une action de K1 sur ρI(1)η telle que l’inclusion ρIη(1) → ρη soit Ko∩K1-´equivariante; la repr´esentation de K1 est isomorphe `a indKIp1Z
F
ηz, o`u η est relev´e en un caract`ere ηz de IpZF sur lequel pF agit par z.
Toute repr´esentation irr´eductible π de G sur Fp telle que πI(1) = Mη,z, est quotient de Ho(X,Vη,z). Si p = q ou si le poids η est fixe par S2, l’inclusion Mη,z ⊂ πI(1) suffit pour que π soit quotient deHo(X,Vη,z) [Pa] Cor.6.8, 6.10.
8 Nous montrons que la partie lisse de la contragr´ediente d’une Fp-repr´esentation irr´eductible lisse de GL(2, F) ayant un caract`ere central et de dimension infinie, est nulle.
8.1 Une forme lin´eaire lisse sur indGBχ est nulle, pour tout caract`ere χ :B →F∗p. Preuve. Pour tout entier n ≥ 1, on note K(n) le n-i`eme sous-groupe de congruence de GL(2, OF).
Le caract`ereχ est trivial sur le pro-p-groupe gK(n)g−1∩B, aussi pour tout g∈G, il existe une fonction fg,n :G →Fp de support BgK(n) ´egale `a χ(b) sur bgK(n) pour tout b∈ B. Comme K(n) normalise K(n+ 1), on a fgh,n+1 = h−1fg,n+1 pour tout h ∈ K(n) et
fg,n =X
h
fgh,n+1 pour h∈(g−1Bg∩K(n))K(n+ 1)\K(n).
Une forme lin´eaire lisse L sur indGBχ est fix´ee par un groupe de congruence assez petit. Il existe un entierr ≥1 tel queL(h−1fg,n) =L(fg,n) pour touth∈K(n) et pour toutn≥r et g ∈ G. On en d´eduit L(fg,n) = P
hL(h−1fg,n+1) = 0, car les pro-p-groupes K(n) et (g−1Bg∩K(n))K(n+ 1) sont toujours distincts. Donc L= 0.
8.2 [L1] [L2] Une forme lin´eaire lisse sur E(0)/T E(0) (3.2) est nulle.
Preuve. SoitKo =pZFGL(2, OF). L’ensembleXodes sommets de l’arbre deP GL(2, F) est en bijection avecGL(2, F)/Ko. Une forme lin´eaire Lsur E(0)/T E(0) s’identifie `a une fonction f :Xo →Fp de somme nulle sur les voisins de chaque sommet.
On note xo le sommet fixe par Ko etC(?) l’ensemble des sommets `a distance ? de xo, pour tout entier ?≥1; le sous-groupe de congruence K(?) fixe chaque sommet de C(?) et agit transitivement sur les sommets de C(? + 1) se projetant sur le mˆeme sommet deC(?);
tout sommet x ∈C(?) est voisin d’un unique sommet x− ∈C(?−1) (avec C(0) = xo) et de q sommetsx1, . . . , xq ∈C(? + 1).
Si L est lisse, il existe un entier r ≥ 1 tel que L est fixe par K(r); alors pour tout x ∈ C(n+ 1), on a L(x−) +qL(x1) =L(x−) = 0; donc L est nulle sur C(n) pour n ≥ r.
Donc le support de L est fini. Le mˆeme argument montre que si L est nulle sur C(? + 1), alors L est nulle sur C(?) pour tout ? ≥ 0, car pour y ∈C(?) il existe x ∈C(? + 1) avec x− =y. Donc L= 0.
8.3 Il n’y a pas de forme lin´eaire lisse non nulle sur une repr´esentation irr´eductible de dimension infinie de GL(2, F) sur Fp ayant un caract`ere central.
Preuve. Pour une s´erie principale ou une repr´esentation sp´eciale Sp par (8.1) et (3.2).
Pour une supersinguli`ere par (3.2), (8.2) et sa g´en´eralisation que nous admettons: pour 0≤r≤q−1, une forme lin´eaire lisse surE(r)/T E(r) (3.2) est nulle (je ne l’ai pas v´erifi´e, mais Ron Livn´e dit l’avoir fait).
8.4 Soit π une repr´esentation irr´eductible de GL(2, F) sur Fp de caract`ere central ωπ. Notons
π∗ =π⊗(ωπ−1◦det).
Avec les notations de (3.2), on a
Sp∗ = Sp, (indGB(χ1⊗χ2))∗ = indGB(χ−21⊗χ−11).
Lorsque F =Qp, on a V(r, χ)∗ =V(r, ω−rχ−1).
Pour π une repr´esentation irr´eductible de GL(2, F) sur Fp, la contragr´ediente de π est isomorphe `a π∗ [Bu] 4.2.2.
8.5 Lorsque F =Qp, le dual de Cartier d’une repr´esentation σ de Gal(Qp/Qp) est son dual usuel tordu par le caract`ere ω (2.4). La correspondance σ ↔ π de Breuil (3.4) envoie le dual de Cartier de σ sur π∗ et le d´eterminant de σ sur le caract`ere ωπω produit du caract`ere central de π par ω.
9 Remarques finales. Pour F 6= Qp, on s’attend `a ce qu’il existe d’autres Fp- repr´esentations irr´eductibles supersinguli`eres deGL(2, F) que celles construites par Pasku- nas. Nous avons essay´e de d´egager les principes g´en´eraux des preuves de [BL], [Br], [Pa], dans le but d’une g´en´eralisation ´eventuelle. Certains r´esultats pr´esent´es ici sont d´eja
´etendus `a GL(3) [O], ou `a GL(n) ou mˆeme `a un groupe r´eductif g´en´eral.
Bibliographie modulo p Barthel Laure, Livne Ron,
[BL1] Modular representations of GL2 of a local field: the ordinary, unramified case.
J. Number Theory 55 (1995), 1-27.
[BL2] Irreducible modular representations of GL2 of a local field. Duke Math. J. 75 (1994), 261-292.
[Be] Berger Laurent, Repr´esentations modulaires de GL2(Qp) et repr´esentations ga- loisiennes de dimension 2. Preprint 2005.
[Br] Breuil Christophe, Sur quelques repr´esentations modulaires etp-adiques deGL2(Qp).
I, Compositio Math. 138 (2003), 165-168.
[L1] Livne Ron, lettre `a Joseph Bernstein Nov 1996 [L2] Livne Ron, lettre 31 oct 2000.
[O] Ollivier Rachel, Modules sur l’alg`ebre de Hecke du pro-p-Iwahori de GLn(F) en caract´eristique p. Th`ese 2005.
[Pa] Paskunas Vytautas, Coefficient systems and supersingular representations of GL2(F). M´emoires de la S.M.F. 99 (2004).
Vign´eras Marie-France,
[V0] Representations modulo p of the p-adic group GL(2, F). Compositio Math. 140 (2004) 333-358.
[V1] On a numerical Langlands correspondence modulo p with the pro-p-Iwahori Hecke ring. Mathematische Annalen 331 (2005), 523-556. Erratum: 333 (2005), 699-701.
[Vc] Repr´esentations lisses irr´eductibles deGL(2, F). Notes de cours. http://www.math.jussieu.fr/
gneras/cours2MP22.pdf
Bibliographie modulo ℓ 6=p
[V2] Correspondance de Langlands semi-simple pour GLn(F) modulo ℓ 6= p, Invent.
Math. 144 (2001), 177-223.
[V3] A propos d’une conjecture de Langlands modulaire. Dans “Finite Reductive Groups: Related Structures and Representations. Marc Cabanes, Editor. Birkhauser PM 141, 1997, 415-452.
[V4] Repr´esentationsℓ-modulaires d’un groupe r´eductifp-adique avecℓ6=p. Birkh¨auser PM137 (1996).
[V5] Induced representations of reductive p-adic groups in characteristicl 6=p. Selecta Mathematica New Series 4 (1998) 549-623.
Bibliographie sur C
[Bu] Bump Daniel, Automorphic forms and representations. Cambridge Studies in Advances Mathematics 55 (1997).
