Représentation de Weil d'une paire duale de groupes de similitudes

(1)

Pour l'obtention du grade de

DOCTEUR DE L'UNIVERSITÉ DE POITIERS UFR des sciences fondamentales et appliquées

Laboratoire de mathématiques et applications - LMA (Poitiers) (Diplôme National - Arrêté du 7 août 2006)

École doctorale : Sciences et ingénierie pour l'information, mathématiques - S2IM (Poitiers) Secteur de recherche : Mathématiques

Présentée par :

Alice Gaborieau

Représentation de Weil d'une paire duale de groupes de similitudes

Directeur(s) de Thèse : Pierre Torasso, Guy Henniart Soutenue le 01 octobre 2015 devant le jury Jury :

Président Jean Michel Directeur de recherche CNRS, Université de Paris 7 Rapporteur Jean Michel Directeur de recherche CNRS, Université de Paris 7 Rapporteur David Soudry Professeur, Université de Tel-Aviv, Israël

Membre Pierre Torasso Professeur des Universités, Université de Poitiers Membre Guy Henniart Professeur des Universités, Université de Paris 11 Membre Paul Broussous Maître de conférences, Université de Poitiers Membre Corinne Blondel Chargée de recherche CNRS, Université de Paris 7

Pour citer cette thèse :

Alice Gaborieau. Représentation de Weil d'une paire duale de groupes de similitudes [En ligne]. Thèse

(2)

pour l’obtention du Grade de

DOCTEUR DE L’UNIVERSITE DE POITIERS (Facult´e des Sciences Fondamentales et Appliqu´ees)

(Diplôme National – Arrêté du 7 août 2006) ´

Ecole Doctorale : s2im

Secteur de Recherche : Mathématiques Présentée par :

Alice Gaborieau

⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆⋆

Repr´esentation de Weil d’une paire duale de groupes de similitudes d´efinis sur Fq.

⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆⋆

Directeurs de Th`ese : Pierre Torasso et Guy Henniart ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆⋆

Soutenue le 1er _{octobre 2015}

devant la Commission d’Examen ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆ ⋆⋆

JURY

Corinne Blondel Chargée de Recherches CNRS Examinatrice Paul Broussous MCF Habilité, Université de Poitiers Examinateur Guy Henniart Professeur, Université de Paris 11 Directeur de thèse Jean Michel Directeur de Recherche Rapporteur

David Soudry Professeur, Universit´e de Tel-Aviv Rapporteur

(3)

(4)

Introduction i

1 Sur les caract`eres de Deligne–Lusztig 1

1.1 Construction des caract`eres de Deligne–Lusztig . . . 1

1.2 Quelques propriétés des caractères de Deligne–Lusztig . . . 4

1.2.1 Cuspidalit´e . . . 7

1.2.2 Dualit´e de Curtis . . . 7

1.2.3 Groupe dual et caract`eres de Deligne–Lusztig . . . 8

1.2.4 Restriction des scalaires et caract`eres de Deligne–Lusztig . . . 10

1.3 Projection uniforme . . . 11

2 Groupes de similitudes 19 2.1 Description des groupes de similitudes . . . 19

2.2 Groupes de Weyl des groupes de similitude . . . 23

2.2.1 Description des groupes de Weyl . . . 23

2.2.2 Classes de conjugaison ou de F ε-conjugaison des groupes de Weyl des groupes de similitudes . . . 23

2.3 Centralisateur d’un ´el´ement semi-simple dans un groupe de similitudes . . 25

3 Représentation de Weil associée à une paire duale de groupes de simi-litudes 33 3.1 Rappels sur les représentations de Weil . . . 33

3.1.1 D´efinitions des repr´esentations de Weil . . . 33

3.1.2 Propriétés des représentations de Weil . . . 35

3.2 Paires duales de groupes de similitudes. Repr´esentations de Weil associ´ees . . . 37

3.2.1 Les paires duales ´etudi´ees . . . 37

3.2.2 Définition des représentations de Weil étudiées . . . 38

3.3 Projection uniforme des caract`eres de ˜ω(G,G′_,k) et ˜ω_ψ(G,G′,k) . . . 39

3.3.1 Le cas d’une paire duale de groupes lin´eaires de similitudes . . . 39

3.3.2 Le cas d’une paire duale de groupes unitaires de similitudes . . . . 41

3.3.3 Le cas d’une paire duale de la forme (GSp_2m, GSOε_2m′) . . . 42

3.4 Projection uniforme de la représentation de Weil associée à une paire duale de groupes de similitudes . . . 46

4 Le cas d’une paire duale de groupes lin´eaires de similitudes 53 4.1 Pr´eliminaires . . . 53

4.2 Démonstration du théorème . . . 54

4.3 Un lemme combinatoire . . . 58 i

(5)

5 Le cas d’une paire duale de groupes unitaires de similitudes 61

5.1 D´ecomposition de A(Gm, G′m′, k)(x, x′) suivant CH(s, s′)(k) . . . 62

5.2 D´ecomposition de B(Gm, G′m′, k)(x, x′) suivant CH(s, s′)(k) . . . 69

5.3 Démonstration du théorème 3.3 . . . 85

5.3.1 Egalit´e des dimensions des deux membres . . . 85´

5.3.2 R´ecurrence sur le rang de H . . . 87

6 Le cas d’une paire duale de la forme (GSp2m, GSOε2m′) 91 6.1 D´ecomposition de A(Gm, G′εm′, k)(x, x′) suivant C_H0(s, s′)(k) . . . 92

6.2 D´ecomposition de B(Gm, G′εm′, k)(x, x′) suivant C_H0(s, s′)(k) . . . 107

6.3 Démonstration du théorème 3.4 . . . 125

6.3.1 Egalit´e des dimensions . . . 125´

6.3.2 Projection uniforme du caract`ere de la repr´esentation ˜ ω(G1,G′ε1,k) ψ pour la paire (G1, G′ε1) . . . 129

(6)

Soit p un nombre premier impair et soit F une extension de degr´e fini du corps Qp des

nombres p-adiques. On note k le corps résiduel de F . En particulier, d’après l’hypothèse faite sur p, k est de caractéristique impaire.

Décrivons d’abord la motivation initiale de ce présent travail. Si G est un groupe réductif connexe défini sur F , le groupe des points rationnels G = G(F ) possède de nombreux sous-groupes ouverts compacts. Par exemple GLn(F ) contient GLn(OF) qui

lui-mˆeme contient toute la chaˆıne des 1 + pk_M

n(OF) pour k ∈ N∗, o`u OF est l’anneau des

entiers de F et où pF est l’idéal maximal de OF. La notion naturelle de représentation de

G est celle de représentation lisse : par définition, une représentation (ρ, V ) de G dans un espace vectoriel complexe est dite lisse si pour tout vecteur v de V , il existe un sous-groupe ouvert compact de G qui stabilise v.

Pour construire des représentations de G, on peut induire à G des représentations de sous-groupes de G. Par exemple, si H est un sous-groupe fermé de G et (π, V ) une représentation lisse de H, notant V[G] _{l’espace des fonctions f de G dans V telles que}

f (xg) = π(x) · f (g) pour x ∈ H et g ∈ G et telles qu’il existe un sous-groupe ouvert compact K de G vérifiant f (gk) = f (g) pour g ∈ G et k ∈ K, G agit par transla-tion à droite sur V[G] _{et on obtient ainsi la représentation induite Ind}G

Hπ. Si π est une

repr´esentation lisse de H et ρ une repr´esentation lisse de G, on a un isomorphisme naturel de HomG(ρ, IndGHπ) sur HomH(ResGH ρ, π).

Par définition, une représentation lisse irréductible de G est dite supercuspidale si π n’est sous-quotient d’aucune représentation de la forme IndG_Pρ, où P est un sous-groupe parabolique propre de G et ρ est une représentation lisse irréductible du quotient de Levi de P .

Par ailleurs, si G est un groupe réductif quasi-déployé sur F , son groupe dual, noté ici

L_G_{est le groupe alg´ebrique complexe dont la donn´ee radicielle est la duale de celle de G.}

En particulier si G = GLn, LG= GLn(C) et si G = SO2n+1 alors LG= Sp2n(C).

Dans l’esprit du programme de Langlands, si G et H sont des groupes réductifs quasi-déployés sur F , à un morphisme dit admissible L_H _→ L_G _{devrait correspondre une}

ap-plication de transfert locale associant à des paquets Π(H(F )) de représentations de H(F ) des paquets Π(G(F )) de représentations de G(F ) et ce transfert devrait préserver certains invariants appelés facteurs locaux. En particulier, le plongement naturel de Sp_2n(C) dans GL2n(C) induit une bijection entre paquets de représentations irréductibles de SO2n+1(F )

et repr´esentations de GL2n(F ) (pour GLn, les paquets sont des singletons).

Dans [12], Jiang et Soudry se sont intéressés à ce transfert, dans le cas des représenta-tions de SO2n+1(F ) dites génériques. Si π est une représentation lisse irréductible générique

de SO2n+1(F ), ρ une représentation lisse irréductible de GLk(F ) et ψ un caractère additif

non trivial de F , il existe des facteurs L(π × ρ, s) et ε(π × ρ, s, ψ) qui leur sont associ´es et qui sont respectivement une fraction rationnelle et un monˆome en p−s_{. De plus, si σ est}

une repr´esentation lisse irr´eductible de GL2n(F ), on dispose aussi de facteurs L(σ × ρ, s),

(7)

L(σ, Λ2_{, s) et ε(σ × ρ, s, ψ). Jiang et Soudry ont établi le théorème suivant :}

Théorème 0.1 (Jiang-Soudry [12]). — Il existe une bijection naturelle ℓ entre les classes d’isomorphie des représentations lisses irréductibles supercuspidales génériques de SO2n+1(F ) et les classes d’isomorphie des représentations de GL2n(F ) qui s’obtiennent par

induction `a partir de la repr´esentation τ1⊗ · · · ⊗ τr du sous-groupe de Levi GL2n1× · · · ×

GL2nr, où pour 1 6 i 6 r, τi est une représentation irréductible supercuspidale de

GL2ni(F ),

r

P

i=1

ni = n, L(τi, Λ2, s) a un pˆole en s = 0 et pour i 6= j, τi n’est pas ´equivalente

à τj. De plus, la bijection ℓ est caractérisée par la préservation des facteurs L et ε au sens

où si σ est une représentation lisse irréductible supercuspidale générique de SO2n+1(F )

et π une repr´esentation lisse irr´eductible de GLk(F ), alors

L(σ × π, s) = L ℓ(σ) × π, s

et ε(σ × π, s, ψ) = ε ℓ(σ) × π, s, ψ.

Pour établir ce résultat, Jiang et Soudry utilisent des arguments de nature globale. Le travail présenté ici s’inscrit dans le but de décrire explicitement le transfert obtenu à partir des représentations irréductibles supercuspidales génériques de SO2n+1(F ), dans

le cas où elles sont de niveau zéro, c’est-à-dire qu’elles proviennent essentiellement de représentations de groupes de points sur k, et lorsque n = 2. (Le cas n = 1 est connu car SO3(F ) est isomorphe à PGL2(F ).) 1

Pour cela, grâce à l’isomorphisme exceptionnel de SO5 avec PGSp4 ainsi qu’à l’isogénie

exceptionnelle entre GL4 et GSO6 le transfert annonc´e entre repr´esentations de SO5(F )

et représentations de GL4 revient à un transfert entre représentations de PGSp4(F ) et

repr´esentations de GSO6(F ). Ceci sugg`ere d’utiliser une forme de la correspondance

de Howe au niveau des groupes de similitudes. De plus, lorsque l’on se restreint aux représentations dites de niveau zéro, les représentations considérées sont essentiellement déterminées par des paramètres associés au corps résiduel k de F . Notons qu’il s’avère nécessaire de passer aux groupes de similitudes car les représentations irréductibles (même supercuspidales génériques de niveau zéro) de PGSp₄(F ) ne sont en général pas déter-minées de manière unique par leur restriction à Sp₄(F ).

Passons maintenant au contenu de cette thèse, qui porte sur une description explicite de la partie uniforme de la représentation de Weil de paires duales de similitudes définies sur k. Dans le contexte des corps finis, on définit la notion de représentation de Weil associée à une paire duale de groupes de similitudes connexes de la manière suivante : à une paire duale de groupes de similitudes connexes (G(k), G′_{(k)) rapportée à des espaces}

V et V′_{, on associe le sous-groupe H(k) du produit G(k) × G}′_{(k) formé des éléments dont}

le produit des multiplicateurs est égal à 1. La représentation de Weil associée à V ⊗kV′

fournit une repr´esentation ˜ω(G,G′_,k)

de H(k) dont l’induite Ω(G,G′_,k)

`a G(k) × G′_{(k) est}

par définition la représentation de Weil associée à la paire (G(k), G′_{(k)). Lorsque la paire}

duale est du type (GSp2m, GSO2m′), cette représentation dépend en plus d’un caractère

additif non trivial fix´e de k.

Dans [20], Srinivasan donne la projection uniforme (c’est-à-dire la projection orthog-onale sur le sous-espace des fonctions centrales engendré par les caractères de Deligne– Lusztig) de la représentation de Weil associée à une paire duale de groupes connexes formée de deux groupes linéaires ou de deux groupes unitaires ou d’un groupe symplec-tique et d’un groupe spécial orthogonal de dimension paire. Nous étendons ce résultat en

1_{Notons qu’une toute autre approche d’une description purement locale du transfert de Jiang-Soudry} est possible (voir [17]).

(8)

décrivant la projection uniforme du caractère de la représentation de Weil associée à une paire duale de groupes de similitudes connexes. Srinivasan ne propose qu’une esquisse de preuve et l’objet de ce travail est la démonstration complète de la généralisation de son résultat aux groupes de similitudes. Pour cela, nous traitons au cas par cas les différents types de paires, le fait de considérer des groupes de similitudes induisant certains effets de bord.

Précisons maintenant le résultat obtenu dans le cas d’une paire duale de groupes de similitudes connexes formée d’un groupe de similitudes symplectiques et d’un groupe de similitudes orthogonales, résultat pour lequel la démonstration repose sur les résultats établis pour les autres types de paires.

Soient m, m′ _{∈ N}∗ _{et soient V un k-espace vectoriel de dimension finie 2m muni}

d’une forme bilinéaire alternée non dégénérée hk

V et V′ un k-espace vectoriel de

di-mension finie 2m′ _{muni d’une forme bilinéaire symétrique non dégénérée h}k

V′. On note

G(V, k, hk

V) et G•(V′, k, hkV′) les groupes de similitudes associ´es : pour g ∈ G(V, k, hk_V),

on a detkg = (µ(g))m et pour g ∈ G•(V′, k, hkV′), on a (detkg′)2 = (µ(g′))2m

′

où lorsque g est élément de l’un de ces deux groupes µ(g) désigne le multiplicateur de g. On note également G(V′_{, k, h}k

V′) le groupe d´efini par :

G(V′, k, hkV′) = n g ∈ G•(V′, k, hkV′), det_kg = µ(g) m′o . Le produit tensoriel hk

V ⊗k hkV′ est une forme bilinéaire alternée non dégénérée sur

V ⊗kV′, et pour (g, g′) ∈ H(k) = {(g, g′) ∈ G(V, k, hVk) × G(V′, k, hkV′), µ(g) = µ(g′)}, on

a g ⊗kg′ ∈ Sp(V ⊗kV′, k, hkV ⊗khkV′). On étend alors la représentation de Weil associée à

la paire duale Sp(V, k, hk

V), SO(V′, k, hkV′) et à un caractère additif non trivial fixé ψ de

k en une repr´esentation de H(k) donn´ee par :

(g, g′) 7−→ ωSp(V ⊗kV′,hkV⊗khkV ′,k)

ψ (g ⊗kg′),

où si W est un k-espace vectoriel de dimension finie muni d’une forme bilinéaire alternée non dégénérée hk

W, on note ω Sp(W,hk

W,k)

ψ la repr´esentation de Weil de Sp(W, hkW, k) associ´ee

`a ψ.

Moyennant le choix de bases ad´equates de V et V′_{, le groupe G(V, k, h}k

V) s’identifie

avec GSp_2m(k) et il existe ε ∈ {−1, 1} tel que G(V′_{, k, h}k

V′) s’identifie avec GSO′ε_2m′(k).

En particulier, H(k) est le groupe des points sur k du groupe r´eductif connexe H donn´e par

H = {(g, g′) ∈ GSp_2m× GSO′ε_2m′, µ(g)µ(g′) = 1},

et on note ˜ω(GSpm,GSO′εm′,k)

ψ la repr´esentation de H(k) d´efinie ci-dessus. Induisant alors

˜

ω(GSp2m,GSO′ε2m′,k)

ψ `a GSp2m(k)×GSO2m′(k), on obtient la repr´esentation de Weil de la paire

GSp_2m(k), GSO2m′(k), not´ee Ω

(GSp_2m,GSO′ε 2m′,k)

ψ , pour laquelle la projection uniforme du

caractère s’obtient aisément à partir de celle de ˜ω(GSpm,GSO′εm′,k)

ψ (voir chap. 3).

Avant de d´ecrire la projection uniforme de ˜ω(GSpm,GSO′εm′,k)

ψ , rappelons ici bri`evement la

d´efinition des groupes GSp_2ℓ et GSO2ℓ et de leurs structures rationnelles associ´ees, pour

ℓ ∈ N∗_.

Soit E = (e1, . . . , eℓ, e′ℓ, . . . , e′1) une base de k 2ℓ

. On note GSp_2ℓ le groupe de similitudes symplectiques d´efini par :

GSp_2ℓ=g ∈ GL2ℓ(k),tgJg = µ(g)J, µ(g) ∈ k ∗

(9)

où J est la matrice dans la base E de la forme bilinéaire alternée h telle que h(ei, ej) = h(e′i, e′j) = 0, h(ei, e′j) = δi,j, 1 6 i, j, i′, j′ 6ℓ.

D’autre part, on note GO2ℓ le groupe de similitudes orthogonales d´efini par :

GO2ℓ =g ∈ GL2ℓ(k),tgJ+g = µ(g)J+, µ(g) ∈ k ∗

,

où J+ _{est la matrice dans la base E de la forme bilinéaire symétrique h telle que}

h(ei, ej) = h(e′i, e′j) = 0, h(ei, e′j) = δi,j, 1 6 i, j, i′, j′ 6ℓ.

Pour g ∈ GO2ℓ, on a (det g)2 = µ(g)2ℓ, et la composante connexe de GO2ℓ est le groupe

not´e GSO2ℓ d´efini par :

GSO2ℓ =g ∈ GO2ℓ, det g = µ(g)ℓ .

On munit GSp_2ℓde sa structure rationnelle usuelle pour laquelle on note F le Frobenius. Sur GSO2ℓ, on dispose de deux structures rationnelles, pour lesquelles on note F ε les

Frobenius associés, où ε ∈ {−1, +1} : lorsque ε = 1, F ε désigne le Frobenius usuel, qui correspond à l’élévation à la puissance q des éléments, et lorsque ε = −1, F ε désigne le Frobenius usuel composé avec ad σℓ, où

σℓ =     Iℓ−1 0 1 1 0 Iℓ−1     .

Dans la suite, pour all´eger les notations, on ´ecrira Gℓ pour GSp2ℓet G′εℓ pour (GSO2ℓ, F ε).

Revenons maintenant `a la repr´esentation ˜ω(Gm,G′εm′,k)

ψ . La projection uniforme de son

caract`ere fait intervenir des tores maximaux rationnels de Gm et G′εm′, not´es (Tw×Tv)∩Gm

et (Tλ(w)× Tλ(v′₎) ∩ G′ε_m′, que nous d´efinissons ci-dessous.

Tout d’abord, pour ℓ ∈ N∗ _{on note W}

ℓ le groupe de Weyl de GSp2ℓ, et Wℓ0 le groupe de

Weyl de GSO2ℓ(par rapport aux tores diagonaux). Alors Wℓ s’identifie au groupe de Weyl

de GO2ℓ et Wℓ0 s’identifie `a un sous-groupe d’indice 2 de Wℓ. Soit φ le seul morphisme

non trivial de Wℓ dans {−1, 1} et soit λ : Wℓ → Wℓ0 l’application telle que pour w ∈ Wℓ0,

on a λ(w) = w et λ(w) = wσℓ sinon, où σℓ est identifié à un élément de Wℓ.

Pour w ∈ Wℓ, Tw d´esigne un tore maximal rationnel de Gℓ de type w par rapport au

tore diagonal Tℓ, et Tλ(w) d´esigne un tore maximal rationnel de G′φ(w)_ℓ de type λ(w) par

rapport au tore diagonal T′ ℓ.

Soient maintenant 0 6 ℓ 6 min(m, m′_{), w ∈ W}

ℓ, v ∈ Wm−ℓ et v′ ∈ Wm′_−ℓ v´erifiant

φ(wv′_{) = ε.}

• D´efinissons (Tw × Tv) ∩ Gm.

Soient (e1, . . . , em, em′, . . . , e′₁) la base canonique de k

2m

et h la forme bilin´eaire altern´ee sur k2m telle que

h(ei, ej) = h(e′i, e′j) = 0, h(ei, e′j) = δi,j, 1 6 i, j, i′, j′ 6m.

´

Ecrivant {1, . . . , m} = {i1, . . . , iℓ} ∪ {j1, . . . , jm−ℓ}, on identifie Gℓ avec le groupe des

similitudes symplectiques de kei1 ⊕ · · · ⊕ keiℓ ⊕ ke

′

iℓ ⊕ · · · ⊕ ke

′

(10)

de h et on identifie ´egalement Gm−ℓ avec le groupe des similitudes symplectiques de

kej1⊕ · · · ⊕ kejm−ℓ⊕ ke

′

jm−ℓ⊕ · · · ⊕ ke

′

j1 muni de la restriction de h. Ceci permet de plonger

{(g1, g2) ∈ Gℓ × Gm−ℓ, µ(g1) = µ(g2)} dans Gm et on note alors (Tw × Tv) ∩ Gm le tore

maximal rationnel de Gm correspondant `a {(t1, t2) ∈ Tw× Tv, µ(t1) = µ(t2)}.

De plus, changer le plongement {(g1, g2) ∈ Gℓ × Gm−ℓ, µ(g1) = µ(g2)} ֒→ Gm (i. e.

choisir d’autres entiers ik et jk) revient à conjuguer (Tw× Tv) ∩ Gm par un élément de

Gm(k). • Définissons (Tλ(w)× Tλ(v′₎) ∩ G′ε_m′. 1) Soient (e1, . . . , em′, e′ m′, . . . , e′₁) la base canonique de k 2m′ et h la forme bilinéaire symétrique sur k2m′ telle que

h(ei, ej) = h(e′i, e′j) = 0, h(ei, e′j) = δi,j, 1 6 i, j, i′, j′ 6n.

´

Ecrivant {1, . . . , m′_{} = {i}

1, . . . , iℓ} ∪ {j1, . . . , jm′_−ℓ}, on identifie G′_ℓ avec le groupe des

similitudes orthogonales de kei1 ⊕ · · · ⊕ keiℓ ⊕ ke ′ iℓ ⊕ · · · ⊕ ke ′ i1 muni de la restriction de h et on identifie ´egalement G′

m′_−ℓ avec le groupe des similitudes orthogonales de kej1 ⊕

· · · ⊕ kej_m′−ℓ ⊕ ke′j_m′−ℓ ⊕ · · · ⊕ ke′j1 muni de la restriction de h. Ceci permet de plonger

{(g1, g2) ∈ G′_m′ 1 × G ′ m′ 2, µ(g1) = µ(g2)} dans G ′ m′. 2) On choisit b′ _{∈ G}′ m′ tel que b′−1F εb′ = σ δφ(w),−1 ℓ σ δφ(v′),−1 m′_−ℓ σ δε,−1

m′ (un tel ´el´ement b′ existe

car puisque φ(wv′_{) = ε on a σ}δφ(w),−1

ℓ σ

δφ(v′),−1

m′_−ℓ σ

δε,−1

m′ ∈ G′_m′), de sorte que la conjugaison par

b′ _{induit un isomorphisme} (G′_m′ 1 × G ′ m′ 2) ∩ G ′ m′, F φ(w) × F φ(v′) ∼ b′ (G′_m′ 1 × G ′ m′ 2) ∩ G ′ m′, F ε .

Alors (Tλ(w)× Tλ(v′₎) ∩ G′_m′ est un tore maximal rationnel de (G′_ℓ× G′_m′_−ℓ) ∩ G′_m′ muni du

Frobenius F φ(w) × F φ(v′_{), et pour ne pas trop alourdir les notations, on ´ecrira (T} λ(w)×

Tλ(v′₎) ∩ G′ε_m′ au lieu de b ′

((Tλ(w)× Tλ(v′₎) ∩ G′_m′) son image par l’isomorphisme ci-dessus.

De plus, changer b′ _{dans le point 2) ci-dessus ou bien changer le plongement du point 1)}

reviennent à conjuguer (Tλ(w)× Tλ(v′₎) ∩ G′ε_m′ par un élément de G′ε_m′(k).

D’autre part, pour 1 6 ℓ 6 min(m, m′_{) et w ∈ W}

ℓ, on a une identification naturelle

entre Tℓ et Tℓ′. De plus, wF agit sur Tℓcomme λ(w)F φ(w) agit sur Tℓ′. Cela permet, lorsque

Tw est un tore de Gℓ de type w par rapport `a Tℓ et Tλ(w) est un tore de G′φ(w)ℓ de type λ(w)

par rapport `a T′

ℓ, d’identifier TwF et T F φ(w)

λ(w) , et une telle identification jw : TwF → T F φ(w) λ(w)

est définie modulo conjugaison par des éléments de N (Tw)F et N (Tλ(w))F φ(w).

Ainsi, pour 0 6 ℓ 6 min(m, m′_{) et (w, v, v}′_{) ∈ W}

ℓ× Wm−ℓ× Wm′_−ℓ tel que φ(wv′) = ε,

si θ est un caract`ere de TF

w alors le caract`ere de Deligne–Lusztig

RGm (Tw×Tv)∩Gm(θ ⊗ 1) ⊗ R G′ε m′ (Tλ(w)×Tλ(v′))∩G′m′(θ ◦ j −1 w ⊗ 1)

de Gm(k) × G′εm′(k) d´efinit par restriction (voir chap. 3) un caract`ere de Deligne–Lusztig

de H(k), o`u RG′εm′ (Tλ(w)×Tλ(v′))∩G′εm′(θ ◦ j −1 w ⊗ 1) d´esigne en fait R G′ε m′ b′_((T λ(w)×Tλ(v′))∩G′m′) b′ (θ ◦ j−1 w ⊗ 1)

avec la notation ci-dessus. De plus (voir chap. 3), la somme X θ∈Irr(Tw(k)) RGm (Tw×Tv)∩Gm(θ ⊗ 1) ⊗ R G′ε m′ (Tλ(w)×Tλ(v′))∩G′εm′(θ ◦ j −1 w ⊗ 1)

ne d´epend pas de l’identification jw entre TwF et T F φ(w) λ(w) .

(11)

Par ailleurs, on note χ le caract`ere de H(k) `a valeurs dans {−1, 1} ⊂ C∗ _{tel que, pour}

(g, g′_{) ∈ H(k) on ait :}

χ(g, g′) = µ(g)mm′q−1₂ .

Avec ces notations, le résultat principal de la thèse s’énonce ainsi :

Théorème 0.2. — Si q est assez grand, le caractère de la représentation ˜ω(Gm,G′εm′,k)

ψ

associée à la paire duale (Gm(k), G′εm′(k)) est tel que sa projection uniforme vérifie :

tr ˜ω(Gm,G′εm′,k) ψ unif · χ = min(m,m′₎ X ℓ=0 1 |Wℓ| × 1 |Wm−ℓ| × 2 |Wm′_−ℓ| × X w∈Wℓ φ(w)|Tw(k) ∩ G Is ℓ | |Tw(k)| X v∈Wm−ℓ X v′_∈W m′−ℓ φ(wv′_)=ε X θ∈Irr(Tw(k)) ResGm(k)×G′εm′(k) H(k) ×RGm (Tw×Tv)∩Gm(θ ⊗ 1) ⊗ R G′ε m′ (Tλ(w)×Tλ(v′))∩G′εm′(θ ◦ j −1 w ⊗ 1)

Les formules obtenues pour les autres types de paires duales sont analogues et afin d’uniformiser les notations entre les diff´erents types de paires, on note A(Gm, G′εm′, k) le

premier membre de la formule du th´eor`eme, et B(Gm, G′εm′, k) le second membre.

Décrivons maintenant la méthode utilisée pour la démonstration. Soit (g, g′_{) un élément}

de H(k), de composante semi-simple (s, s′_{). Il s’agit de prouver que les deux membres de}

la formule évalués en (g, g′_{) sont égaux. La stratégie utilisée par Srinivasan et que nous}

reprenons ici est classique, elle consiste `a raisonner par r´ecurrence sur le rang 2 _{de H}

grâce à une décomposition des deux membres de la formule suivant le centralisateur de (s, s′_{). Comme des groupes linéaires ou unitaires de similitudes peuvent apparaˆıtre dans}

ce dernier, le r´esultat pour la paire (Gm, G′εm′) s’appuie sur les r´esultats pour les autres

types de paires, que nous traiterons donc auparavant.

Pour établir le théorème, dans les sections 1 et 2 du chapitre 6, nous décomposons A(Gm, G′εm′, k)(g, g′) et B(Gm, G′εm′, k)(g, g′) suivant C_H0(s, s′)(k) via trois réductions

suc-cessives : ´

Etape 1. — Si (g, g′) agissant sur V ⊗k V′ n’a pas de point fixe non trivial, alors

A(Gm, G′εm′, k)(g, g′) = B(Gm, G′εm′, k)(g, g′) = 1. Notons qu’ici la parit´e de la dimension

de V′ _{est cruciale pour le calcul de A(G}

m, G′εm′, k)(g, g′).

´

Etape 2. — Si l’on dispose :

a) de d´ecompositions en somme directe orthogonale V = V1 ⊕ V2 et V′ = V1′ ⊕ V2′

stables par g et g′ _{pour lesquelles, en notant g = g}

1 + g2, g′ = g′1 + g2′, s = s1 + s2 et

s′ _{= s}′

1 + s′2 les d´ecompositions associ´ees, (g1, g2′) (resp. (g2, g1′)) agissant sur V1 ⊗kV2′

(resp. V2⊗kV1′) n’a pas de point fixe non trivial ;

b) de plongements

{(g1, g2) ∈ Gm1 × Gm2, µ(g1) = µ(g2)} ֒→ Gm

2_{En fait comme Srinivasan mène de front la démonstration pour les différents types de paires, dans} son cas la récurrence porte sur le rang semi-simple mais dans notre cas le rang suffit.

(12)

{(g₁′, g′₂) ∈ G′_m′ 1 × G ′ m′ 2, µ(g ′ 1) = µ(g2′)} ֒→ Gm

pour lesquels d’une part que pour i = 1, 2, G(Vi, k, hkVi) s’identifie `a Gmi(k) et il existe

εi ∈ {−1, 1} tel que G(Vi′, k, hkV′

i) s’identifie `a G

′εi

m′

i(k), avec dimkVi = 2mi, dimkV

′ i = 2m′i et ε1ε2 = ε et d’autre part C_G0_m(s) ⊂ C_G0_m1(s1) × CG0_m2(s2) et CG0′ε m′(s ′_{) ⊂ C}0 G′ε1 m′1 (s′₁) × C_G0′ε2 m′2 (s′₂). Alors on dispose des d´ecompositions suivantes :

A(Gm, G′εm′, k)(g, g′) = 2 Y i=1 A(Gmi, G ′εi m′ i, k)(gi, g ′ i), B(Gm, G′εm′, k)(g, g′) = 2 Y i=1 B(Gmi, G ′εi m′ i, k)(gi, g ′ i).

Ici, l’hypoth`ese selon laquelle les centralisateurs de s et s′ _{sont contenus dans les produits}

des centralisateurs des si ou s′i est n´ecessaire pour d´ecomposer B(Gm, G′εm′, k)(g, g′), elle

ne l’est pas pour d´ecomposer A(Gm, G′εm′, k)(g, g′). C’est elle qui permet de d´ecomposer

et d’apparier les types des tores intervenant dans B(Gm, G′εm′, k)(g, g′), le reste de l’´etape

´etant ensuite essentiellement calculatoire. ´

Etape 3. — S’il existe une extension de degr´e fini l de k telle que C0

Gm(s)(k) s’identifie

`a Gm(l) et C_G0′ε

m′(s)(k) s’identifie `a G

′

m′(l), o`u (Gm, Gm′ ′) est une paire duale de groupes de

similitudes 3_{, alors} A(Gm, G′εm′, k)(g, g′) = A(Gm, Gm′ ′, l)(g, g′), B(Gm, G′εm′, k)(g, g′) = B(Gm, Gm′ ′, l)(g, g′). ´ Ecrivant alors C_G0_m(s)(k) = (Gm1(k1) × · · · × Gmr(kr) × Gmr+1(k)) ∩ Gm(k) C_G0′ε m′(s ′_{)(k) = (G}′ m′ 1(k1) × · · · × G ′ m′ r(kr) × G ′ m′ r+1(k)) ∩ G ′ε m′(k), o`u (Gmr+1, G ′ m′

r+1) est une paire duale de groupes de similitudes du mˆeme type que

(Gm, G′εm′), pour 1 6 i 6 r, (Gmi, G

′

m′_i) est une paire duale de groupes de similitudes

et ki est une extension de degr´e fini de k, et o`u, en notant g = (g1, . . . , gr, gr+1) et

g′ _{= (g}′

1, . . . , g′r, g′r+1) dans ces d´ecompositions, gi⊗kgj′ n’a pas de point fixe non trivial

pour i 6= j et pour i = j = r +1, une it´eration des trois ´etapes ci-dessus permet d’obtenir : A(Gm, G′εm′, k)(g, g′) = r Y i=1 A(Gmi, G ′ m′_i, ki)(gi, g ′ i), B(Gm, G′εm′, k)(g, g′) = r Y i=1 B(Gmi, G ′ m′_i, ki)(gi, g ′ i),

3_{Notons qu’ici, contrairement au cas des paires duales de groupes d’isométries traité par Srinivasan,} la paire (Gm, G′m′) peut être du type (GSp2m, GSO2m′).

(13)

Par récurrence ou en utilisant les résultats établis pour les paires duales de groupes linéaires ou unitaires de similitudes, si s et s′ _{ne sont pas centraux tous les deux, on a}

A(Gm_i, Gm′′ i, ki)(gi, g ′ i) = B(Gm_i, Gm′′ i, ki)(gi, g ′ i) pour 1 6 i 6 r, et donc A(Gm, G′εm′, k)(g, g′) = B(Gm, G′εm′, k)(g, g′).

Par ailleurs, nous établissons l’égalité des dimensions des deux membres de la formule du théorème par des arguments de nature combinatoire. Le théorème résulte alors du fait (voir chap. 1) que la différence tr ˜ω(Gm,G′εm′,k)

ψ −χ.B(Gm, G′εm′, k) ´etant une fonction centrale

à la fois de dimension nulle et pouvant s’écrire comme combinaison linéaire à coefficients positifs ou nuls de fonctions centrales de dimensions positives, est nulle.

Le schéma de démonstration suivi dans le chapitre 5 pour établir le théorème dans le cas d’une paire duale de groupes de similitudes unitaires est le même, quoiqu’un peu plus simple. Outre l’établissement de l’étape 1 pour la décomposition du premier membre, qui est dans ce cas immédiate alors qu’elle nécessitait une étude détaillée dans le cas (GSp, GSO), les différences entre les deux types de paires résident essentiellement dans la décomposition du second membre. En effet, les tores (Tw×Tv)∩Gm qui interviennent dans

le cas o`u (Gm, G′εm′) = (GSp_2m, GSOε_2m′) sont index´es par les couples (w, v) ∈ Wℓ× Wm−ℓ,

avec 1 6 ℓ 6 min(m, m′_{), alors que les tores (T}

λ(w) × Tλ(v′₎) ∩ G′ε_m′ sont index´es par les

couples (w, v′_{) ∈ W}

ℓ × Wm′_−ℓ tels que φ(wv′) = ε, et pour certains ´el´ements w contenus

dans le groupe de Weyl W0

ℓ de GSO2ℓ, la classe de conjugaison de w dans Wℓ se scinde

en deux par restriction `a W0

ℓ. En revanche dans le cas d’une paire duale (GUm, GUm′),

les param´etrisations des tores de GUm et GUm′ intervenant dans le second membre sont

de la même forme. Notons enfin que le traitement du cas des paires duales de groupes unitaires de similitudes nécessite au préalable d’avoir établi le résultat analogue pour les paires duales de groupes linéaires de similitudes, et que dans ces deux cas, les caractères de représentations de Weil considérées sont uniformes.

Pour terminer, dans le cas d’une paire duale de groupes linéaires, l’interprétation naturelle de la représentation de Weil associée comme représentation birégulière per-met d’obtenir directement la décomposition de son caractère en termes de caractères de Deligne–Lusztig (sans condition sur q), ce que nous ferons au chapitre 4.

(14)

Sur les caract`

eres de Deligne–Lusztig

Soit k un corps fini à q éléments, de caractéristique p impaire et de clôture algébrique k. Soit G un groupe algébrique réductif connexe défini sur k, et F l’endomorphisme de Frobenius associé. On note G(k) = GF _{le groupe fini des points de G à valeurs dans k.}

Si L est un sous-groupe de Levi rationnel d’un sous-groupe parabolique rationnel P de G, un procédé usuel pour obtenir des représentations de G(k) consiste, à partir d’une représentation π de L(k), à la relever en une représentation de P (k) puis à l’induire à G(k). Généralisant cette construction, Deligne et Lusztig ont défini un foncteur RG L

dans le cas o`u L est un sous-groupe de Levi rationnel d’un sous-groupe parabolique non n´ecessairement rationnel de G.

Dans ce chapitre, nous rappelons la construction des caract`eres RG

T(θ) lorsque T est

un tore maximal rationnel de G et θ est un caractère irréductible de T (k), et quelques propriétés que nous utiliserons dans la suite.

Hormis pour les sections 1.2.3 et 1.4, les r´esultats rappel´es dans ce chapitre figurent dans [9] ou dans [6].

1.1 Construction des caract`

eres de Deligne–Lusztig

Commen¸cons par rappeler le théorème fondamental pour l’étude de G(k) :

Th´eor`eme 1.1 (Lang–Steinberg (voir [9], 3.10)). — L’application L : G → G, g 7→ g−1F_{g est surjective.}

Soit T un tore maximal rationnel de G, et B un sous-groupe de Borel (en particulier non n´ecessairement rationnel) contenant T . On a B = T U , o`u U est le radical unipotent de B.

On note YU la vari´et´e YU = L−1(U ) = {x ∈ G, x−1Fx ∈ U }. Le produit G(k) × T (k)

agit sur cette vari´et´e, via (g, t)·x = gxt−1 _{pour (g, t) ∈ G(k)×T (k) et x ∈ Y}

U. Pour l entier

premier distinct de p (la caractéristique de k), on en déduit une action de G(k) × T (k) sur la cohomologie l-adique à support compact Hc∗(YU, Ql).

Soit θ un caractère de T (k) à valeurs dans C∗_{. Comme θ est en fait à valeurs dans le}

corps des entiers alg´ebriques, si on fixe pr´ealablement un plongement de Ql dans C∗, on

peut aussi considérer que θ est à valeurs dans Ql. On est alors en mesure de définir un

caract`ere virtuel RG

T ⊂B(θ) appelé caractère de Deligne–Lusztig, qui dépend, a priori, du

choix du sous-groupe de Borel contenant T : 1

(15)

D´efinition 1.1. — Soit θ un caract`ere de T (k). On appelle RG

T ⊂B(θ) le caract`ere virtuel

de G(k) tel que pour g ∈ G(k) on a : RGT ⊂B(θ)(g) = 1 |T (k)| X t∈T (k) θ(t) tr(g, t), Hc∗ YU, Ql .

De plus, il s’av`ere que si u ∈ G(k) est unipotent, la valeur de RG

T ⊂B(θ) en u (qui est

un entier), est indépendante de θ, ce qui permet d’introduire les fonctions de Green : Définition 1.2. — On appelle fonctions de Green les fonctions notées QG

T ⊂B, d´efinies

sur les ´el´ements unipotents de G(k) par :

QG_{T ⊂B}(u) = RG_{T ⊂B}(1)(u), pour u ∈ G(k) unipotent.

Notation. — Si s est un ´el´ement semi-simple de G, on note CG(s) le centralisateur de s

dans G et C0

G(s) sa composante connexe.

Si θ est un caractère de T (k), on peut alors exprimer le caractère de la représentation virtuelle RG

T ⊂B(θ) de G(k) en utilisant les fonctions de Green :

Théorème 1.2. — Soit θ un caractère de T (k). Si x = su est la décomposition de Jordan d’un élément x ∈ G(k), alors :

RG_{T ⊂B}(θ)(su) = 1 |C0 G(s)(k)| X g∈G(k) gT g−1_⊂C0 G(s) g_θ(s)QC0 G(s) g_{T ⊂}g_B∩C0 G(s)(u),

où pour g ∈ G(k), si X ⊂ G, g_{X = gXg}−1 _et g_{θ est le caractère de} g_{T (k) déduit de θ}

par conjugaison.

La construction précédente des caractères de Deligne–Lusztig RG

T ⊂B(θ) peut ˆetre

géné-ralisée au cas où L est un sous-groupe de Levi rationnel d’un sous-groupe parabolique P (non nécessairement rationnel) de G. On obtient ainsi le foncteur d’induction de Lusztig RG

L⊂P qui va du groupe de Grothendieck R(L(k)) dans le groupe de Grothendieck

R(G(k)). Le foncteur RG

L⊂P ´etend la d´efinition de RGT ⊂B et lorsque P est rationnel, il

co¨ıncide avec l’induction d’Harish-Chandra. De plus, on dispose de la propriété de tran-sitivité suivante :

Proposition 1.1. — Soient Q ⊂ P deux sous-groupes paraboliques de G, et soit M (resp. L) un sous-groupe de Levi rationnel de Q (resp. P ). On suppose que M ⊂ L. Alors

RG_L⊂P ◦ RL_{M ⊂L∩Q} = R_{M ⊂Q}G .

Si L est un sous-groupe de Levi rationnel d’un sous-groupe parabolique P de G, on notera ∗R_L⊂PG le foncteur adjoint de RG_L⊂P. Notons que d’apr`es [9], 12.7, on a

∗_RG

L⊂P(1G) = 1L. (1.1)

D’apr`es [4], puisque q > 2, on dispose de la formule de Mackey qui permet de calculer

∗_RG

(16)

Th´eor`eme 1.3 (Formule de Mackey). — On a : ∗_RG L⊂P ◦ RGL′_⊂P′ = X w∈L(k)\S(L,L′_)(k)/L′_(k) RL_L∩w_L′_⊂L∩w_P′◦∗R w_L′ L∩w_L′_{⊂P ∩}w_L′ ◦ ad w,

o`u S(L, L′_{) d´esigne l’ensemble des x ∈ G tels que L ∩}x_L′ _{contient un tore maximal de G.}

On en déduit que le produit scalaire de deux caractères de Deligne–Lusztig est donné par la formule suivante :

Corollaire 1.1. — Soient T et T′ _{deux tores maximaux rationnels de G. On fixe des}

sous-groupes de Borel B et B′ _{avec T ⊂ B et T}′ _{⊂ B}′_{. Alors pour θ ∈ Irr(T (k)),}

θ′ _{∈ Irr(T}′_{(k)), on a :} RG T ⊂B(θ), RTG′_⊂B′(θ′) G(k) = 1 |T (k)| {n ∈ G(k),nT = T′,nθ = θ′} . En particulier, si T = T′_{, on obtient} RG T ⊂B(θ) − RGT ⊂B′(θ), RG_{T ⊂B}(θ) − RG_{T ⊂B}′(θ) G(k) = 0,

donc les caract`eres RG

T ⊂B(θ) sont en fait ind´ependants de B.

Plus généralement, si L est un sous-groupe de Levi rationnel d’un sous-groupe paraboli-que P de G, alors d’après la formule de Mackey, si L est un tore maximal ou si P est rationnel, le foncteur RG

L⊂P est en fait ind´ependant de P . Dans la suite, on adoptera la

notation suivante :

Notation. — On note d´esormais RG

T les foncteurs de Deligne–Lusztig, ∗RGT leurs adjoints

et QG

T les fonctions de Green.

Si θ est un caractère de T (k), on a donc défini un caractère virtuel de G(k) : le caractère de Deligne–Lusztig RG

T(θ). D’apr`es le corollaire ci-dessus :

1) si x ∈ G(k) et θ est un caract`ere de T (k), il vient RGx_T(xθ) = RG_T(θ),

et par dualit´e, si π est une repr´esentation de G(k), on a aussi

x₍∗_RG

T(π)) =∗RGx_T(π) ;

2) si les paires (T, θ) et (T′_{, θ}′_{) ne sont pas conjugu´ees sous G(k) alors}

RG

T(θ), RGT′(θ′)

G(k) = 0.

Ainsi, les caract`eres RG

T(θ) forment une famille orthogonale de fonctions centrales sur

(17)

De plus, le caractère de la représentation régulière Reg_Gde G(k) s’écrit (voir [9], 12.14) comme combinaison linéaire de caractères de Deligne–Lusztig :

tr Reg_G = |G(k)|−1_p X

T ∈TG

θ∈Irr(T (k))

εGεTRGT(θ),

où si H est un groupe réductif connexe H défini sur k, on note εH = (−1)k-rang de H (où

par définition le k-rang de H est la dimension d’un tore déployé maximal de H) le rang semi-simple de H et TH l’ensemble des tores maximaux rationnels de H.

Ceci prouve en particulier que tout caractère irréductible de G(k) est constituant d’un caractère de Deligne–Lusztig. Toutefois, puisque les caractères de Deligne–Lusztig sont des caractères virtuels, un caractère irréductible de G(k) peut être constituant de deux caractères RG_T(θ) et R_TG′(θ′) pour lesquels les paires (T, θ) et (T′, θ′) ne sont pas

G(k)-conjugu´ees, ce qui motive la d´efinition suivante :

D´efinition 1.3. — Soit T (resp. T′_{) un tore maximal rationnel de G et θ (resp. θ}′_{) un}

caract`ere de T (k) (resp. T′_{(k)). On dit que les paires (T, θ) et (T}′_{, θ}′_{) sont}

géométrique-ment conjuguées s’il existe g ∈ G vérifiant : • T =g_T′_,

• En notant F le Frobenius sur G, pour tout n ∈ N∗ _{v´erifiant g ∈ G(k}

n) = GF

n

(où kn désigne l’unique extension de degré n de k contenue dans k), on a

θ ◦ NFn_/F = θ′◦ N_Fn_/F ◦ ad g,

o`u NFn_/F est l’homomorphisme de TF n

dans TF _{d´efini par N}

Fn_/F(t) = tF (t) . . . Fn−1(t)

pour t ∈ TFn

.

L’intérêt des classes de conjugaison géométriques réside dans le fait qu’elles permettent d’obtenir une partition de l’ensemble des représentations irréductibles de G(k) :

Proposition 1.2. — Soient T et T′ _{deux tores maximaux rationnels de G, θ (resp. θ}′₎

un caract`ere de T (k) (resp. T′_{(k)) et π un constituant irr´eductible de R}G

T(θ). Alors :

π, RG T′(θ′)

G(k) 6= 0 ⇐⇒ (T, θ) et (T

′_{, θ}′_{) sont dans la mˆeme classe}

de conjugaison g´eom´etrique.

1.2 Quelques propri´

et´

es des caract`

eres de Deligne–

Lusztig

Dans cette section, nous donnons les résultats liés aux caractères de Deligne–Lusztig qui seront utilisés dans la suite.

Soit T un tore maximal rationnel de G et soit θ un caractère de T (k). Avec les notations introduites à la fin de la section précédente, on obtient d’après le théorème 1.2 la formule de caractère suivante : RG_T(θ)(su) = 1 |C0 G(s)(k)| X g∈G(k) gT g−1_⊂C0 G(s) g_θ(s)QCG0(s) gT g−1(u) (1.2)

(18)

D’autre part, la dimension d’un caract`ere de Deligne–Lusztig est donn´ee par : dim R_TG(θ) = εTεG

|G(k)|p′

|T (k)| . (1.3)

Comme conséquence immédiate de (1.2), le lemme suivant exprime la compatibilité des caractères de Deligne–Lusztig avec la torsion par certains caractères :

Lemme 1.1. — Si α est un caractère de G(k) trivial sur le groupe des points sur k du groupe dérivé de G, alors RG

T(θ) ⊗ α = RTG(θ.α|T (k)).

Démonstration du lemme. — Cela résulte immédiatement de (1.2), puisque le groupe dérivé de G contient tous les éléments unipotents de G. Dans la suite, nous aurons également besoin du résultat suivant (voir [9] et [10]), qui traduit la compatibilité des caractères de Deligne–Lusztig avec la restriction à certains sous-groupes :

Proposition 1.3. — Soit H ⊂ G un groupe réductif connexe contenant le groupe dérivé de G. Alors si T est un tore maximal rationnel de G, T ∩H est un tore maximal rationnel de H et pour θ ∈ Irr(T (k)) on a :

ResG(k)_H(k) RG_T(θ) = RH

T ∩H(θ|T (k)∩H).

D’autre part, le corollaire 1.1 fournit un critère d’irréductibilité des caractères de Deligne–Lusztig grâce à la définition ci-dessous :

Définition 1.4. — Un caractère θ de T (k) est dit régulier si g_{θ 6= θ pour tout élément}

g ∈ N_G(k)(T ) tel que g /∈ T (k).

Proposition 1.4. — Si T est un tore maximal rationnel de G et θ un caractère de T (k) alors εTεGRGTθ est un caractère irréductible de G(k) si et seulement si θ est un caractère

r´egulier.

D’un autre cˆot´e, pour le foncteur adjoint ∗_RG

T, si π est une repr´esentation de G(k) et

s ∈ T (k), on a : ∗_RG T tr π(s) = |T (k)| |C0 G(s)(k)| X u′_∈C0 G(s)(k) u′_unipotent tr π(su′)QCG0(s) T (u ′_). _(1.4)

En particulier, comme d’apr`es (1.1), on a ∗_RG

T(1G) = 1T, on obtient : |T (k)| |G(k)| X u∈G(k) u unipotent QG_T(u) = 1. (1.5)

En outre, quel que soit le groupe réductif connexe H défini sur k vérifiant C0

G(s) ⊂ H ⊂ G, on a aussi ∗_RG T tr π(s) = ∗_RH T Res G(k) H(k)tr π (s). (1.6)

Type d’un tore. — Soit T0 un tore maximal rationnel fix´e de G. Dans cette section, si

H est un sous-groupe rationnel de G, on notera HF _{plutˆot que H(k) son groupe de points}

(19)

Notation. — On note W = W (T0) = NG(T0)/T0 le groupe de Weyl de G par rapport `a T0.

Exemples. — a) Si G = GLn d´esigne le groupe des matrices inversibles de taille n `a

coefficients dans k alors si T0 est le tore diagonal, W s’identifie naturellement au groupe

sym´etrique Sn.

b) Si G = SO2n+1 d´esigne le sous-groupe de GL2n+1 form´e des matrices g telles que t_{gJg = J et det g = 1, o`}_{u J est la matrice anti-diagonale avec des 1 sur l’anti-diagonale,}

alors si T0 est le tore diagonal, W s’identifie naturellement au groupe des permutations

de {1, 2, . . . , n, n′_{, . . . , 2}′_{, 1}′_{} qui commutent `a l’involution (11}′₎₍₂₂′_{) . . . (nn}′_).

Notation. — Soit w ∈ W . On note CW(wF ) = {x ∈ W, x−1wFx = w} l’intersection avec

W du centralisateur de l’élément wF dans le produit semi-direct W ⋊ hF i, et on pose ClW,F(w) = {x−1wFx, x ∈ W }. En particulier, l’indice de CW(wF ) dans W est égal au

cardinal de ClW,F(w).

On sait que l’ensemble des tores maximaux de G forme une seule classe sous l’action par conjugaison de G. De plus, si T = g_T

0 est un tore maximal rationnel de G alors

g−1F_{g ∈ N}

G(T0). Ceci permet de d´efinir le type d’un tore maximal rationnel de G par

rapport `a T0 :

D´efinition 1.5. — Si T = g_T

0 est un tore maximal rationnel de G, le type de T par

rapport `a T0 est la classe de F -conjugaison dans W de l’image de g−1Fg ∈ NG(T0) dans

W . Un repr´esentant de cette classe de F -conjugaison s’appelle un type de T par rapport `a T0.

Notation. — Pour w ∈ W , Tw d´esigne un tore maximal rationnel de type w par rapport

`a T0.

Les types des tores par rapport `a T0 caract´erisent les classes de G(k)-conjugaison des

tores maximaux rationnels de G. Plus pr´ecis´ement :

Proposition 1.5. — L’application qui `a un tore maximal rationnel de G associe son type par rapport `a T0 induit une bijection de l’ensemble des classes de G(k)-conjugaison

des tores maximaux rationnels de G sur l’ensemble des classes de F -conjugaison de W . Remarquons que si G n’est pas connexe et si T0 est un tore maximal rationnel fix´e de

G alors pour un tore maximal rationnel T de G on peut encore d´efinir le type de T par rapport `a T0 1. Pla¸cons-nous temporairement dans ce cas.

Soient donc G un groupe r´eductif (non n´ecessairement connexe) et T0 un tore maximal

rationnel fix´e. On note W = NG(T0)/T0 le groupe de Weyl de G par rapport `a T0.

Soit T un tore maximal rationnel de G, de type w par rapport `a T0. ´Ecrivons T =xT0,

avec x−1F_{x = w. Comme T est connexe, on sait (voir [9], 3.13) que l’application}

na-turelle NG(T )F → (NG(T )/T )F induit un isomorphisme entre les groupes NG(T )F/TF et

(NG(T )/T )F. D’autre part, la conjugaison par x fournit un isomorphisme entre NG(T )/T

et le groupe de Weyl W . Pour cet isomorphisme, l’action du Frobenius F sur NG(T )/T

correspond `a l’action de wF sur le groupe de Weyl. On en d´eduit le lemme suivant :

1_{Toutefois, dans ce cas, l’application précédente induit une injection de l’ensemble des classes de} G(k)-conjugaison des tores maximaux rationnels de G sur l’ensemble des classes de F -conjugaison de W , mais n’induit pas une bijection en général. Par exemple, si G = O2 est muni de sa structure rationnelle naturelle, il n’existe aucun élément g de G vérifiant g−1F_{g = σ, o`}_{u σ est l’élément non trivial du groupe} de Weyl de O2.

(20)

Lemme 1.2. — Si T = x_T

0 est un tore maximal rationnel d’un groupe r´eductif G, de

type w = x−1F_{x par rapport `a T}

0 alors l’application NG(T )F → W , g 7→ x−1gx induit un

isomorphisme entre les groupes NG(T )F/TF et CW(wF ).

En particulier, si g ∈ NG(T )F et ˙g = x−1gx ∈ CW(wF ) est son image par le lemme

ci-dessus, le diagramme suivant est commutatif : TF _{−−−→ T}ad g F ad x x   x  ad x TwF 0 ad ˙g −−−→ TwF 0

Dans toute la suite du chapitre, G est un groupe r´eductif connexe d´efini sur k.

1.2.1 Cuspidalit´

e

Un caractère irréductible de G(k) est cuspidal s’il ne peut s’obtenir par induction à partir d’un sous-groupe parabolique rationnel propre :

Définition 1.6. — Soit χ un caractère irréductible de G(k). On dit que χ est un car-actère cuspidal si pour tout sous-groupe de Levi rationnel L d’un sous-groupe parabolique rationnel propre de G et pour tout caractère ρ de L(k), on a

tr π, RG Lρ

G(k) = 0.

D´efinition 1.7. — Un tore maximal rationnel est dit minisotrope s’il n’est contenu dans aucun sous-groupe parabolique rationnel autre que G.

Exemples. — a) Si G = GLn, le groupe de Weyl de G s’identifie au groupe des

permuta-tions Snde {1, . . . , n} et `a G(k)-conjugaison pr`es, il y a un seul tore maximal minisotrope,

qui est de type (1, . . . , n) par rapport au tore diagonal, son groupe de points sur k est donc isomorphe `a k∗

n, o`u kn est l’unique extension de degr´e n de k contenue dans k.

b) Si G = SO2n+1, les tores maximaux rationnels minisotropes ont leurs groupes de

points sur k isomorphes à des produits de groupes de normes d’extensions quadratiques. On peut maintenant énoncer une caractérisation de la cuspidalité d’un caractère de Deligne–Lusztig irréductible :

Proposition 1.6. — Si T est un tore maximal rationnel de G et θ un caract`ere r´egulier de T (k) alors εTεGRGTθ est cuspidal si et seulement si T est minisotrope.

1.2.2 Dualit´

e de Curtis

Définition 1.8. — Si G est un groupe réductif connexe, on appelle k-rang semi-simple de G , et on note r(G), le k-rang de G/RG, où RG désigne le radical de G.

Si B est un groupe de Borel rationnel de G, on peut v´erifier que si P est un sous-groupe parabolique rationnel de G contenant B, l’op´erateur RG

L◦∗RGL est ind´ependant du

sous-groupe de Levi rationnel choisi L de P . De plus, la somme P

P ⊃B

(−1)r(P )_RG

L◦∗RGL, o`u

pour chaque sous-groupe parabolique rationnel P contenant B, on a fixé un sous-groupe de Levi rationnel L, est indépendante de B. Ceci permet de définir l’opérateur DGsuivant,

(21)

Définition 1.9. — Soit B un sous-groupe de Borel rationnel de G. La dualité de Curtis sur G est l’opérateur DG sur l’espace C(G(k)) des fonctions centrales sur G(k) défini

par :

DG=

X

P ⊃B

(−1)r(P )RG_L ◦∗RG_L,

o`u la somme s’effectue sur les sous-groupes paraboliques rationnels contenant B, et si P est un tel sous-groupe parabolique, on note L un sous-groupe de Levi rationnel de P .

En particulier, si G est un tore, on a DG= IdG.

L’appellation dualité est justifiée par le résultat suivant : Proposition 1.7. — DG◦ DG est l’identité de C(G(k)).

Grâce à la formule de Mackey, on obtient l’image d’un caractère de Deligne–Lusztig par la dualité de Curtis :

Th´eor`eme 1.4. — Si T est un tore maximal rationnel de G, alors : εGDG◦ RGT = εTRGT.

D’autre part, on peut définir la représentation de Steinberg de G(k) en utilisant la dualité de Curtis :

Définition 1.10. — La représentation de Steinberg de G(k) a pour caractère irréductible StG = DG(1G), où 1G désigne le caractère de la représentation triviale de G(k).

Le caract`ere StG est donn´e, pour x ∈ G(k), par :

tr StG(x) = ( εGεC0 G(x)|C 0 G(x)(k)|p si x est semi-simple 0 sinon.

1.2.3 Groupe dual et caract`

eres de Deligne–Lusztig

On sait qu’un groupe algébrique réductif connexe G est caractérisé à isomorphisme près par sa donnée radicielle (X(T ), Y (T ), Φ, ˇΦ), où T est un tore maximal de G, X(T ) est le groupe des caractères de T , Y (T ) est le groupe des cocaractères, Φ désigne les racines de G par rapport à T et ˇΦ les coracines de G par rapport à T . Si G∗ _{est un groupe dont la}

donn´ee radicielle (X(T∗_{), Y (T}∗_{), Φ}∗_{, ˇ}_Φ∗_{) est la duale de celle de G, c’est-`a-dire s’il existe}

un isomorphisme de X(T ) sur Y (T∗_{) qui envoie Φ sur ˇ}_Φ∗ _{et ˇ}_{Φ sur Φ}∗_{, on dit que G et G}∗

sont duaux. Si de plus G est muni d’un Frobenius F et G∗ _{est muni d’un Frobenius F}∗

et que la dualité précédente est compatible avec les actions de F et de F∗_{, on dit que les}

paires (G, F ) et (G∗_{, F}∗_{) sont duales.}

Exemples. — Les groupes GLn et Un sont auto-duaux, SLn a pour dual PGLn, Sp2n a

pour dual SO2n+1 et SOε2n est auto-dual.

Supposons fix´es un plongement de F∗_q dans Q∗_l et un isomorphisme de F∗_q sur Qp′/Z,

Qp′ désignant l’ensemble des rationnels de dénominateur premier à p. On dispose alors

(22)

Proposition 1.8. — Si (T, F ) est dual de (T∗_{, F}∗_{) alors les groupes Irr(T}F_{) et T}∗F∗

sont isomorphes.

D´emonstration. — Puisque (T, F ) est dual de (T∗_{, F}∗_{), X(T ) s’identifie `a Y (T}∗_{). Le}

r´esultat d´ecoule alors du fait que l’on dispose de deux suites exactes 0 −→ X(T )−−→ X(T ) −→ Irr(TF −1 F_{) −→ 1}

0 −→ Y (T∗)−−→ Y (TF −1 ∗) −→ T∗F −→ 1

où dans la première suite exacte, l’application X(T ) −→ Irr(TF_{) est la restriction à T}F

(les caractères de X(T ) étant à valeurs dans F∗_q ⊂ Q∗_l), et dans la deuxième suite exacte, si n ∈ N∗ _{est tel que T}∗ _{est déployé sur F}n

q, l’application Y (T∗) −→ T∗F associe `a un

élément y ∈ Y (T∗_{) l’élément N}

Fn_/F(y(ζ)), où ζ est la racine (qn− 1)-ème de l’unité qui

est l’image de 1/(qn_{− 1) ∈ Q}

p′/Z par l’isomorphisme F

∗

q ∼ Qp′/Z fix´e ci-dessus.

D’autre part, le param´etrage des caract`eres RG

T(θ) en termes de classes de

G(k)-conjugaison de paires (T, θ) peut aussi s’´ecrire en utilisant le groupe dual :

Proposition 1.9. — Les classes de G(k)-conjugaison de paires (T, θ) o`u T est un tore maximal rationnel et θ ∈ Irr(T (k)) sont en bijection avec les classes de G∗F∗

-conjugaison de paires (T∗_{, s) o`}_{u s est un ´el´ement semi-simple de G}∗F∗

et T∗ _{est un tore maximal}

rationnel de G∗ _{contenant s.}

Ceci permet, lorsque (T, θ) correspond `a (T∗_{, s) dans la bijection ci-dessus, de noter}

RG

T∗(s) pour R_TG(θ). De plus, RG_T∗(s) est au signe près une représentation irréductible de

G(k) si et seulement si s est un élément régulier de G∗ _{(i.e. le centralisateur de s est un}

tore).

On peut également traduire les classes de conjugaison géométriques au niveau du groupe dual (et justifier l’appellation) :

Proposition 1.10. — Si (G, F ) et (G∗_{, F}∗_{) sont deux paires duales, alors les classes}

de conjugaison géométrique de paires (T, θ) dans G sont en bijection avec les classes de conjugaison (sous G∗_{) d’éléments semi-simples rationnels de G}∗_.

Définition 1.11. — Soit s un élément semi-simple rationnel de G∗_{. La série de Lusztig}

associée, notée E(G(k), (s)), est l’ensemble des constituants irréductibles des caractères de Deligne–Lusztig RG

T(θ), où la classe de conjugaison géométrique de (T, θ) correspond

à la classe de conjugaison de s dans la bijection précédente.

Comme tout caractère irréductible de G(k) est constituant d’un caractère de Deligne– Lusztig et que deux caractères de Deligne–Lusztig correspondant à des séries distinctes n’ont aucun constituant commun, les séries de Lusztig forment une partition de l’ensemble des représentations irréductibles de G(k). Lorsque s = 1, on obtient une série de Lusztig particulièrement importante :

Définition 1.12. — On appelle caractères unipotents les caractères qui interviennent dans la série de Lusztig E(G(k), (1)).

L’intérêt de l’étude des caractères unipotents réside dans le résultat suivant, (énoncé ici dans le cas où G est à centre connexe) :

(23)

Théorème 1.5. — Si G est à centre connexe alors pour tout élément semi-simple ra-tionnel s de G∗_{, les séries de Lusztig E(G(k), (s)) et E(C}

G∗_(s)(k), (1)) sont en

bijec-tion, et cette bijection peut être étendue par linéarité aux caractères virtuels de telle sorte que si T∗ _{est un tore maximal rationnel de C}

G∗(s) alors l’image de ε_GRG_T∗(s) soit

εCG∗(s)R

CG∗(s)

T∗ (IdT∗).

1.2.4 Restriction des scalaires et caract`

eres de Deligne–Lusztig

Commen¸cons par remarquer que dans la d´efinition du caract`ere de Deligne–Lusztig RG Tθ,

o`u θ ∈ Irr(T (k)), on peut remplacer YU par YF_U (puisque FB = TFU est un sous-groupe

de Borel contenant T ). De plus, puisque U ∩ UF _{est une vari´et´e affine (car un sous-groupe}

de U stable par la conjugaison par T est produit des Uα qu’il contient), on sait (voir

[9], 10.12) que H∗

c(YFU) est isomorphe `a Hc∗(YFU/(U ∩ FU )), et cet isomorphisme est

compatible avec l’action de GF _{× T}F_{. On peut donc remplacer Y}

U par

Y_UG,F = {x ∈ G, x−1Fx ∈FU }/U ∩FU.

Dans ce paragraphe (adapté de [8]), G désigne un groupe réductif connexe, muni de deux structures rationnelles (éventuellement identiques) pour lesquelles on note F1 et F2

les Frobenius associ´es. Soit m ∈ N∗_{. On pose}

G = G × · · · × G

(m copies de G) et on note F le Frobenius sur G tel que pour (g1, . . . , gm) ∈ G on a : F_(g

1, . . . , gm) = (F2gm,F1g1, . . . ,F1gm−1).

La projection sur la premi`ere coordonn´ee permet d’identifier GF et GF2F1m−1.

Soit T un tore maximal rationnel de (G, F2F1m−1) et soit B = T U un sous-groupe de

Borel contenant T . On pose

U = (U,F1_{U, . . . ,}F1m−1U ).

Alors on peut vérifier par le calcul que la projection sur la première coordonnée définit un isomorphisme de Y_UG,F sur YG,F2F₁m−1

U . Comme cet isomorphisme est compatible avec

l’action de GF × TF _{(identifié à G}F2F1m−1× TF2F1m−1), on en déduit le résultat suivant :

Proposition 1.11. — Avec les notations ci-dessus, si θ est un caract`ere de TF2F1m−1

(identifié à TF), en tant que caractères de GF2F₁m−1 _{(identifié à G}F_{), on a :}

RG_Tθ = RG_Tθ.

En pratique (voir Chap. 2), si F1 d´esigne le Frobenius usuel sur G (qui correspond

à l’élévation à la puissance q des coefficients de G) et si F2 = F1ε avec ε ∈ {−1, 1}, on

notera dans la suite Res_l|kGε _{pour (G, F ), o`}_{u l est l’unique extension de degr´e m de k}

(24)

Avec les notations ci-dessus, nous allons expliciter les types des tores obtenus par restriction des scalaires.

Soit T0 un tore maximal rationnel fix´e de (G, F2F1m−1). Si T est un tore maximal

rationnel de (G, F2F1m−1), on pose

Resl|kT = T ×F1T × · · · ×F

m−1

1 T ⊂ Res

l|kGε.

Alors Resl|kT est un tore maximal rationnel de Resl|kGε, et tous les tores maximaux

rationnels de Resl|kGε s’obtiennent ainsi.

Lemme 1.3. — Si T est de type w par rapport `a T0, alors Resl|kT est de type (w, 1, . . . , 1)

par rapport `a Res_l|kT0.

Démonstration. — Écrivons T =g_T 0, avec g−1F2F n−1 1 g = w. On a Resl|kT =(g,F1g,..., F n−1₁ _g) Resl|kT0, avec (g,F1g, . . . ,F1n−1g)−1 F(g,F1g, . . . ,F1n−1g) = (g−1_{, (}F1g)−1, . . . , (F1n−1g)−1)(F2F n−1 1 g,F1g, . . . ,F1n−1g) = (w, 1, . . . , 1) d’où le résultat.

1.3 Projection uniforme

Définition 1.13. — On appelle fonction uniforme sur G(k) toute fonction qui s’écrit comme combinaison linéaire des RG

T(θ).

Exemples. — a) D’après la formule de Mackey (utilisée pour calculer le produit scalaire de la différence des deux membres avec elle-même), on a 2 _:

1 |W |

X

w∈W

R_TG_w(1) = 1G, (1.7)

ce qui prouve que 1G est une fonction uniforme sur G(k). Comme StG = D(1G), d’apr`es

le théorème 1.4, on voit que le caractère de la représentation de Steinberg est uniforme, et on a 3 _: 1 |W | X w∈W εTwR G Tw(1) = εGStG. (1.8)

2_{D’apr`es la proposition 1.5, la formule ci-dessous peut aussi s’´ecrire} 1

|G(k)| X

T ∈TG

|T (k)|RGT(1) = 1G.

3_{D’apr`es la proposition 1.5, la formule ci-dessous peut aussi s’´ecrire} 1 |G(k)| X T ∈TG εT|T (k)|RG T(1) = εGStG.

(25)

b) Le caractère de la représentation régulière Reg_G de G(k) est une fonction uniforme sur G(k) car (voir [9], 12.14) on a :

tr Reg_G = 1 |W | X w∈W dim RG_T_w(IdTw)R G Tw(RegTw).

c) D’apr`es ([9], 12.20), la fonction caract´eristique d’une classe de conjugaison semi-simple est une fonction uniforme sur G(k).

d ) Si G = GLn ou Un, toutes les fonctions centrales sur G(k) sont uniformes. En effet,

d’après [9], tous les caractères unipotents de G(k), c’est-à-dire tous les constituants des caractères de la forme RG

T(1), sont des fonctions uniformes, et comme le centralisateur d’un

élément semi-simple de G est un produit de groupes linéaires ou unitaires, le théorème 1.5 permet de conclure.

Notons qu’en général, les caractères de G(k) ne s’écrivent pas toujours comme combi-naisons linéaires de caractères de Deligne–Lusztig 4_{, ce qui motive la définition suivante :}

D´efinition 1.14. — La projection uniforme est la projection orthogonale (dans l’espace des fonctions centrales sur G(k)) sur l’espace des fonctions uniformes.

Notation. — Si f est une fonction centrale sur G(k), on notera funif sa projection uniforme.

Remarquons en particulier que l’on dispose du lemme suivant :

Lemme 1.4. — Si π est une repr´esentation de G(k), alors dim(tr π)unif = dim π.

Démonstration du lemme. — On sait (voir exemple c) précédent) que 1{1}est une fonction

uniforme sur G(k), d’o`u :

dim (tr π)unif = (tr π)unif(1) = |G(k)|(tr π)unif, 1{1}

G(k) = |G(k)|tr π, 1{1} G(k) = (tr π)(1) = dim π d’o`u le r´esultat.

Complément : cas des groupes non connexes. — Dans la suite, nous aurons parfois besoin d’étendre les notions précédentes au cas des groupes non connexes. Soit G un groupe réductif défini sur k, et soit G0 _{sa composante connexe. Commen¸cons par}

´etendre la notion de caract`ere de Deligne–Lusztig :

Définition 1.15. — Si T est un tore maximal rationnel de G et θ un caractère de T (k), on note RG_T(θ) le caractère de G(k) tel que

RG_T(θ) = IndG(k)_G0_(k)R

G0

T (θ).

On définit alors de la même manière que dans la définition précédente les notions de fonction uniforme et de projection uniforme.

4_{Par exemple, si G = SL2, en notant T le tore diagonal de G et α le caract`ere d’ordre 2 de T (k) ∼ k}∗_, RG

T(α) est la somme de deux caractères irréductibles de G(k) qui ne s’écrivent pas comme combinaisons linéaires de caractères de Deligne–Lusztig.

(26)

Revenons maintenant au cas où G est un groupe réductif connexe défini sur k. Soit f une fonction centrale sur G(k). D’après [9], funif est donnée par l’une des deux

formules suivantes : funif = 1 |W | X w∈W RG Tw◦ ∗_RG Tw(f ) = 1 |G(k)| X T ∈TG |T (k)|RG T ◦∗RGT(f ) (1.9)

où dans la deuxième formule, TG désigne l’ensemble des tores maximaux rationnels de G.

En particulier, si g ∈ G(k) a pour d´ecomposition de Jordan g = su, il vient : funif(g) = 1 |G(k)| 1 |C0 G(s)(k)| X T ∈TG X x∈G(k) xT x−1_⊂C0 G(s) |T (k)|x∗(RG_Tf )(s)QCG0(s) x_T (u) = 1 |G(k)| 1 |C0 G(s)(k)| X T ∈TG X x∈G(k) xT x−1_⊂C0 G(s) |T (k)|∗(RGx_Tf )(s)Q C0 G(s) x_T (u) = 1 |C0 G(s)(k)| X T ∈T_C0 G(s) |T (k)|(∗_RG Tf )(s)Q C0 G(s) T (u).

On en d´eduit les deux r´esultats suivants :

Lemme 1.5. — Soit g ∈ G(k) de d´ecomposition de Jordan g = su. Soient π et ρ deux repr´esentations de G(k). On suppose qu’il existe une constante c telle que pour tout u′ _∈

C0

G(s)(k) on ait (tr π)(su′) = c × (tr ρ)(su′). Alors :

(tr π)unif(g) = c × (tr ρ)unif(g).

En particulier, si ρ est la repr´esentation triviale de G(k), on a (tr π)unif(g) = c.

D´emonstration du lemme. — Puisque pour tout u′ _{∈ C}0

G(s)(k), on a (tr π)(su′) = c ×

(tr ρ)(su′_{), d’apr`es (1.4), pour T ∈ T} C0

G(s), on a (

∗_RG

T(tr π))(s) = c(∗RGT(tr ρ))(s), donc

d’après la formule précédente (tr π)unif(g) = c × (tr ρ)unif(g) . Si ρ est la représentation

triviale de G(k), le r´esultat r´esulte du fait que 1G est une fonction uniforme sur G(k) (voir

exemple 1).

Lemme 1.6. — Soit H ⊂ G un groupe réductif connexe défini sur k et soit π une représentation de G(k). Si g ∈ G(k) de décomposition de Jordan g = su est tel que C0

G(s) ⊂ H, alors g ∈ H et on a :

(tr π)unif(g) = (ResG(k)_H(k)tr π)unif(g).

D´emonstration du lemme. — Il suffit de v´erifier le lemme lorsque H = C0

d’apr`es (1.6), d’o`u (tr π)unif(g) = (ResG(k)_C0

G(s)(k)tr π)unif(g).

(27)

D’autre part, la projection uniforme se comporte bien vis-à-vis de l’induction et de la restriction à certains sous-groupes. Pour cela, nous utilisons le lemme élémentaire suivant, cas particulier de ([7], 11.5) :

Lemme 1.7. — Soit G un groupe fini et soit H un sous-groupe normal de G tel que G/H est ab´elien. Alors si π est une repr´esentation de G, on a :

IndG_Hπ|H =

X

ξ∈Irr(G/H)

ξ ⊗ π.

En particulier le support du caract`ere de IndG_Hπ|H est contenu dans H.

Démonstration. — En notant RegG/H la représentation régulière de G/H, on a

IndG_Hπ|H = π ⊗ IndGH1 = π ⊗ RegG/H = π ⊗

X

ξ∈Irr(G/H)

(dim ξ)ξ

et comme G/H est abélien, toutes ses représentations irréductibles sont de dimension 1. De plus, si g ∈ G \ H, P

ξ∈Irr(G/H)

ξ(g) = 0, d’où le résultat. Proposition 1.12. — Soit H ⊂ G un groupe réductif connexe contenant le groupe dérivé de G. Soient π une représentation de G(k), et ρ une représentation de H(k). Alors :

(i) ResG(k)_H(k)(tr π)unif = ResG(k)_H(k)tr π

unif;

(ii) IndG(k)_H(k)(tr ρ)unif = IndG(k)_H(k)tr ρ

unif.

Démonstration. — Puisque H contient le groupe dérivé de G, on a G = H(ZG)0_{, de sorte}

que si T1 est un tore maximal de G alors T = T1∩ H est un tore maximal de H et si T1

est rationnel alors il en est de mˆeme pour T . De plus, si T est un tore maximal de H alors T1 = T (ZG)0 est un tore maximal de G (c’est l’unique tore maximal de G contenant T ),

et si T est rationnel il en est de mˆeme pour T1.

D’après la proposition 1.3, puisque tout caractère de T (k) se prolonge en un caractère de T1(k), où T est un tore maximal rationnel de H et T1 est un tore maximal rationnel

de G contenant T , on en déduit que les caractères de Deligne–Lusztig de H(k) sont les restrictions à H(k) des caractères de Deligne–Lusztig de G(k). Par conséquent :

• la restriction `a H(k) d’une fonction uniforme sur G(k) est une fonction uniforme sur H(k) ;

• l’induite à G(k) d’une fonction uniforme sur H(k) est une fonction uniforme sur G(k). En effet, la première assertion est claire. Pour la deuxième, si T est un tore maximal rationnel de H et θ un caractère de T (k) alors en notant T1 = T (ZG)0 l’unique tore

maximal rationnel de G contenant T et θ1 un prolongement de θ `a T1(k), d’apr`es la

proposition 1.3, il vient RH

T(θ) = Res G(k)

H(k)RTG1(θ1), d’o`u :

IndG(k)_H(k)RG_T(θ) = IndG(k)_H(k)ResG(k)_H(k)RG_T₁(θ1)

= X α∈Irr(G(k)/H(k)) α ⊗ RG T1(θ1) = X α∈Irr(G(k)/H(k)) RG_T₁(θ1.α|T1(k)),