Expos´e IV : Probl`emes pos´es dans le cas de l’induction automorphe sans ramification de GL

Expos´e IV :

Probl`emes pos´es dans le cas de l’induction automorphe sans ramification de GL <sub>1</sub> ` a GL _r

Laurent Lafforgue

Expos´ e ` a l’IH´ ES le 1

juillet 2008

Introduction

Les pr´ec´edents expos´es I, II et III de juin 2008 ont permis de construire, grˆace `a la formule de Poisson, un noyau de la fonctorialit´e dans le cas de l’induction automorphe sans ramification de GL<sub>1</sub> `a GL₂.

Nous examinons ici les premi`eres questions rencontr´ees lorsque l’on tente de g´en´eraliser au cas de l’in- duction automorphe sans ramification de GL1`a GLr le proc´ed´e de construction purement ad´elique employ´e dans le casr= 2.

Cet expos´e IV est un expos´e de recherche au sens o`u il porte sur un travail en cours dont on ne sait s’il aboutira.

Voici le contenu des diff´erents paragraphes :

Les paragraphes 1 `a 5 reprennent presque ligne `a ligne les paragraphes 1 `a 5 de l’expos´e I. Les seuls changements proviennent de ce queE n’est plus une extension quadratique du corps de fonctions de base F mais une extension non ramifi´ee de degr´er arbitraire, et de ce que le groupe GL2 est remplac´e par GLr. La construction de noyaux locaux de l’induction automorphe de GL1/E `a GLr/F est une g´en´eralisation imm´ediate de celle d´ej`a expos´ee dans le casr= 2 ; cette construction est donn´ee dans le paragraphe 5.

En chaque placexdeF, les noyaux locaux de l’induction automorphe et leurs modifications obtenues par permutation des vecteurs de base associ´es `a GLrconstituent deux familles de fonctions surE<sub>x</sub><sup>×</sup>×GLr(Fx). On est `a la recherche d’une transformation de Fourier partielle sur GLr(Fx) qui, combin´ee avec la transformation de Fourier additive surEx, ´echange nos deux familles de fonctions surE_x^××GLr(Fx). Ces transformations de Fourier partielles en toutes les places x de F devraient v´erifier une formule de Poisson qui permette la construction de noyaux globaux de l’induction automorphe surA^×E×GLr(AF) invariants `a gauche par E^××GLr(F).

Comme les caract`eres automorphes deA<sup>×</sup>Ene se transf`erent pas n´ecessairement en des formes automorphes cuspidales de GLr(AF), la formule de Poisson que nous cherchons devrait n´ecessairement comporter des

“termes compl´ementaires” associ´es `a des “points au bord” des r´eseaux de sommation. Afin d’en savoir plus sur la forme attendue de ces “termes compl´ementaires”, nous avons besoin de g´en´eraliser la formule

d’inversion de Shalika au cas de formes automorphes de GLr(AF) qui ne sont pas n´ecessairement cuspidales.

Ce r´esultat, le seul du pr´esent expos´e, est l’objet du paragraphe 6.

Cette g´en´eralisation aux formes automorphes arbitraires de la formule d’inversion de Shalika fournit des indications assez pr´ecises sur le type de r´eseaux de sommation et de “points au bord” de ces r´eseaux que nous voudrions voir apparaˆıtre dans l’hypoth´etique formule de Poisson que nous cherchons. Ces indications poussent `a rechercher des transformations de Fourier partielles sur les groupes locaux GLr(Fx) qui aient une certaine forme. Le paragraphe 7 propose les d´efinitions d’un certain nombre d’op´erateurs de transformations de Fourier partielles qui pourraient constituer les pierres de construction ´el´ementaire de l’op´erateur cherch´e.

Enfin, le paragraphe 8 propose une combinaison possible de ces pierres de construction ´el´ementaires et

´enonce une “conjecture de travail” sur l’´echange par transformation de Fourier partielle des deux familles de fonctions d´efinies surE_x^××GLr(Fx). Dans l’´etat actuel de notre recherche, cette combinaison propos´ee et la conjecture locale associ´ee ne sont ni plus ni moins vraisemblables que beaucoup d’autres variantes qu’il est facile d’imaginer. Seuls des calculs dans le casr= 3 et au-del`a – calculs que nous tentons de mener – permettront ´eventuellement d’avancer un peu plus loin.

1 Anneaux et groupes ad´ eliques

Comme dans les trois expos´es pr´ec´edents, on travaille `a partir du corps des fonctionsF d’une courbe X projective, lisse et g´eom´etriquement connexe sur un corps finiFq. On conserve toutes les mˆemes notations relatives `aF, `a ses compl´etionsFx,x∈ |X|, et `a son anneau des ad`elesAF =A.

Les assertions (ii) et (iii) de la proposition I.1 se g´en´eralisent en :

Proposition IV.1. – Pour tout entier r ≥ 1, le groupe GL_r(F) est un sous-groupe discret du groupe

topologique localement compactGLr(A).

La “formule du produit” implique la premi`ere assertion de la proposition suivante :

Proposition IV.2. – Pour tout entier r ≥ 1, le sous-groupe discret GLr(F) est contenu dans le noyau GLr(A)⁰ de l’homomorphisme compos´e

GLr(A)−→^det A^×−→^deg Z.

Sir≥2, le quotientGLr(F)\GLr(A)⁰ n’est pas compact mais il est de volume fini pour les mesures de Haar

deGLr(A).

On notera d´esormaisH= GLr consid´er´e comme un groupe alg´ebrique.

Le groupe topologique H(A) = GL_r(A) =n

(g_x)_x∈|X|∈ Y

x∈|X|

GL_r(F_x)

g_x∈GL_r(O_x) pour presque toute placexo

contient comme sous-groupe ouvert compact maximal le groupe des matrices `a coefficients entiers ad´eliques inversibles

K₀^H= Y

x∈|X|

GLr(Ox).

En toute placex, GLr(Ox) =K_0,x^H est un sous-groupe ouvert compact maximal de GLr(Fx) =H(Fx).

Consid´erons enfin une extension E deF de degr´er, que l’on suppose partout non ramifi´ee. Autrement dit,E est le corps des fonctions rationnelles sur un revˆetementX⁰ fini ´etale de degr´erde la courbe X.

Pour toute placex∈ |X|, consid´erons l’alg`ebreEx=E⊗F Fx. Elle se d´ecompose en un produit Ex=Ex₁× · · · ×Ex_k

d’extensionsEx1, . . . , Ex_kdeFx, dont les degr´esr1, r2, . . . , rkont pour sommer1+· · ·+rk =r. Ces extensions deF_xne sont autres que les compl´etions deE associ´ees aux points ferm´esx₁, . . . , x_k de la fibre au-dessus de xdu revˆetementX⁰ de la courbeX. Les corps de d´efinitionκ(x₁), . . . , κ(x_k) de ces points ferm´esx₁, . . . , x_k sont des extensions deκ(x) de degr´es respectifsr₁, . . . , r_k. On noteraO_Ex =O_Ex

1× · · · ×O_Exk. On dit que la placexest compl`etement scind´ee dansE lorsque tous lesr₁, . . . , r_k valent 1 avec donc k=r, et qu’elle est inerte dansE lorsquek= 1 etr₁=r.

On remarque que le produit tensorielE⊗FAF s’identifie `a l’anneau des ad`elesAEdu corps de fonctions E.

On notera d´esormais

G= Res_E/FGL₁

le groupe alg´ebrique surF qui se d´eduit de GL₁par restriction des scalaires `a la Weil deE`aF. Cela signifie que pour toute alg`ebreAon a

G(A) = GL1(E⊗F A). En particulier, on a en toute placexdeF

G(Fx) =E_x^×=E^×_x1× · · · ×E_x^×_k. De plus,E_x^× poss`ede un sous-groupe ouvert compact maximal qui est

K_0,x^G =O^×_E

x=O_E^×

x1 × · · · ×O^×_E

xk. On dispose aussi du groupe topologique ad´elique

G(A) = A^×E

= n

(t_x)_x∈|X|∈ Y

x∈|X|

E_x^×

t_x∈O^×_E

x pour presque toute placexo et de son sous-groupe ouvert compact maximal

K₀^G = Y

x∈|X|

K_0,x^G = Y

x∈|X|

O_E^×

x.

En toute placex∈ |X|, on dispose de l’homomorphisme de norme local Nm : E_x^× → F_x^×

tx 7→ Nm(tx) = d´eterminant de l’endomorphisme de multiplication partx

dansExvu comme espace vectoriel de dimensionrsurFx. Il envoieO^×_E

x dansO_x^×.

Le produit des homomorphismes de norme locaux en toutes les placesx∈ |X|d´efinit un homomorphisme de norme global

Nm :G(A) =A^×E →A^×F.

Il envoie le sous-groupe ouvert compact maximalK₀^G dansO^×_A et le sous-groupe discret E^× dansF^×.

2 Alg` ebres de Hecke sph´ eriques et formes automorphes non ra- mifi´ ees

En toute place x, on note d^×t_x la mesure de Haar sur E_x^× qui attribue le volume 1 au sous-groupe ouvert compact maximalO^×_E

x. On note H_x,∅^G l’alg`ebre de convolution des fonctions `a support compact sur E_x^× = G(Fx) qui sont invariantes par K_0,x^G = O^×_E

x. Cette alg`ebre a un ´el´ement unit´e qui est la fonction caract´eristique 1I^G_x,∅ deK_0,x^G .

QuandEx se d´ecompose enEx₁× · · · ×Ex_k, on a un isomorphisme E_x^×/O^×_E

x=E_x^×

1/O_E^×

x1

× · · · ×E_x^×

k/O_E^×

xk

x◦Nm×···×x◦Nm

−−−−−−−−−−→∼ r₁Z× · · · ×r_kZ

si bien que H_x,∅^G s’identifie `a l’alg`ebre de groupe de r1Z× · · · ×rkZ. La mesure d^×tx est le produit des mesures de Haard^×t₁, . . . , d^×t_k surE_x^×

1, . . . , E^×_x

k qui attribuent le volume 1 `aO^×_E

x1

, . . . , O_E^×

xk. On d´eduit de ces consid´erations :

Lemme IV.3.–Quand, en la placex∈ |X|, laF_x-alg`ebreE_x=E⊗_FF_x se d´ecompose enE_x1× · · · ×E_xk, l’application

ϕ_x7→

Z

t=(t1,...,tk)

∈E× x=E×

x1×···×E× xk

d^×t₁. . . d^×t_k·ϕ_x(t₁, . . . , t_k)·X₁^x(Nm(t1)). . . X_k^x(Nm(tk))

d´efinit un isomorphisme

S_x^G :H_x,∅^G −→^∼ O

1≤i≤k

C[X_i^±ri] = O

1≤i≤k

C[X_i^±1,(εi·Xi)^±1, . . . ,(ε^r_iⁱ⁻¹·Xi)^±1]^Sri

o`u, pour1≤i≤k,εi est n’importe quelle racine de l’unit´e de degr´eri dansC^×. Le groupe topologique localement compactG(A) =A^×E peut ˆetre muni de la mesure de Haard^×tqui est le produit sur toutes les placesx∈ |X|des mesuresd^×t_xsur lesG(F_x) =E_x^×. Elle attribue le volume 1 au sous-groupe ouvert compact maximalK₀^G= Q

x∈|X|

K_0,x^G .

On noteH^G_∅ l’alg`ebre de convolution des fonctions `a support compact surG(A) =A^×Equi sont invariantes parK₀^G=O_A^×

E. Cette alg`ebre poss`ede un ´el´ement unit´e qui est la fonction caract´eristique 1I^G_∅ deK₀^G. On a une d´ecomposition naturelle

H^G_∅ = O

x∈|X|

H^G_x,∅

avec

1I^G_∅ = O

x∈|X|

1I^G_x,∅. Tout caract`ereχ

A^×E/O^×_A

E →C^×

peut aussi ˆetre vu comme une repr´esentation irr´eductible, de dimension 1, de l’alg`ebreH^G_∅. Il se d´ecompose canoniquement en un produit

χ= O

x∈|X|

χx

o`u chaqueχxest un caract`ere

E_x^×/O^×_E

x →C^×

ou, ce qui revient au mˆeme, une repr´esentation irr´eductible, de dimension 1, de l’alg`ebre H_x,∅^G .

Quand l’alg`ebre E<sub>x</sub>se d´ecompose enE<sub>x1</sub>× · · · ×E<sub>xk</sub>, se donner une telle repr´esentation irr´eductibleχ<sub>x</sub> de l’alg`ebre N

1≤i≤kC[X_i^±ri] = N

1≤i≤kC[X_i^±1,(εi·Xi)^±1, . . . ,(ε^r_iⁱ⁻¹·Xi)^±1]^Sri ´equivaut `a se donner les images z<sub>x1</sub>(χ<sub>x</sub>), . . . , z<sub>xk</sub>(χ<sub>x</sub>) dans C<sup>×</sup> des variables X<sub>1</sub>, . . . , X<sub>k</sub>; ces images sont bien d´etermin´ees `a multiplication pr`es par des puissances des racines de l’unit´eε₁, . . . , ε_k.

Un caract`ere global χ : A^×E/O^×_A

E → C^× est unitaire si et seulement si tous ses facteurs locaux χx : E_x^×/O_E^×

x →C^× le sont.

Et un caract`ere localχx:E_x^×/O^×_E

x →C^×est unitaire si et seulement si ses “valeurs propres”zx₁(χx), . . . , zx_k(χx) sont de module 1.

On rappelle la d´efinition suivante :

D´efinition IV.4. – On appelle repr´esentations automorphes de H^G_∅ ses repr´esentations irr´eductibles (de dimension1) qui apparaissent dans la d´ecomposition spectrale de l’espace de Hilbert

L²(G(F)\G(A)/K₀^G) =L²(E^×\A^×E/O^×

AE) muni de l’action deH_∅^G par convolution.

Autrement dit, ce sont les caract`eres unitaires χ:E^×\A^×E/O^×

AE→C^×.

Passons maintenant au groupeH = GLr.

On noteT =G^rmson tore maximal des matrices diagonales,

T =



























∗ 0 . . . 0 0 . .. . .. ... ... . .. . .. 0 0 . . . 0 ∗

























 ,

B son sous-groupe de Borel des matrices triangulaires sup´erieures,

B=



























∗ ∗ . . . ∗ 0 . .. . .. ... ... . .. . .. ∗ 0 . . . 0 ∗

























 ,

etNB le radical unipotent deB

NB=



























1 ∗ . . . ∗ 0 . .. . .. ... ... . .. . .. ∗ 0 . . . 0 1

























 .

En toute place x, on note dg_x la mesure de Haar sur H(F_x) = GL_r(F_x) qui attribue le volume 1 au sous-groupe ouvert compact maximalK_0,x^H = GL_r(O_x). On noteH^H_x,∅ l’alg`ebre de convolution des fonctions

`

a support compact surH(Fx) qui sont invariantes `a gauche et `a droite par K_0,x^H . On l’appelle l’alg`ebre de Hecke sph´erique de H(Fx). Elle admet pour ´el´ement unit´e la fonction caract´eristique 1I^H_x,∅ deK_0,x^H .

Rappelons la d´ecomposition d’Iwasawa :

Lemme IV.5.–Tout ´el´ement gx deH(Fx) = GLr(Fx)peut s’´ecrire sous la forme gx=µ·u·g_∅,

avecµ∈T(Fx) = (F_x^×)^r,u∈NB(Fx),g_∅∈GLr(Ox).

De plus, si on note

• dµla mesure de Haar sur T(F_x) = (F_x^×)^r qui attribue le volume 1`aT(O_x) = (O^×_x)^r,

• du la mesure de Haar deN_B(F_x) qui attribue le volume1 au sous-groupe ouvert compactN_B(O_x),

• dg_∅ la restriction de dg_x `aGL_r(O_x) =K₀^H,

on dispose de la formule suivante pour l’int´egration des fonctionsh_xlocalement constantes `a support compact surH(F_x) = GL_r(F_x)

Z

H(Fx)

dgx·hx(gx) = Z

T(Fx)

dµ· Z

NB(Fx)

du· Z

K₀^H

dg_∅·hx(µ·u·g_∅).

On noteδ_B(Fx) le “caract`ere modulaire”

T(F_x) = (F_x^×)^r → q_x^Z,

µ= (µ1, . . . , µr) 7→ δB(F_x)(µ) = Y

1≤i<j≤r

µi

µj

_x

= Y

1≤i<j≤r

q_x^{x(µj)−x(µi)}.

Rappelons l’´enonc´e du th´eor`eme de Satake : Th´eor`eme IV.6.– L’application

h_x7→

Z

µ=(µ1,...,µ2 )

∈T(Fx)=(F× x)r

dµ· Z

N_B(F_x)

du·h_x(µ·u)·X₁^0x(µ1). . . X^0x(µr)·δ_B(F^1/2

x)(µ) d´efinit un isomorphisme

S_x^H:H^H_x,∅−→^∼ C[X₁^0±1, . . . , X_r^0±1]^Sr.

En particulier, l’alg`ebre de Hecke sph´eriqueH^H_x,∅ est commutative.

Le groupe topologique localement compact H(A) = GLr(A) peut ˆetre muni de la mesure de Haar dg qui est le produit sur toutes les placesx∈ |X| des mesuresdgx sur les H(Fx) = GLr(Fx). Elle attribue le volume 1 au sous-groupe ouvert compact maximal

K₀^H = Y

x∈|X|

K_0,x^H = GLr(O_A).

On note H_∅^H, et on appelle alg`ebre de Hecke sph´erique globale, l’alg`ebre de convolution des fonctions `a support compact surH(A) = GLr(A) qui sont invariantes `a gauche et `a droite par K<sub>0</sub><sup>H</sup> = GLr(O<sub>A</sub>). Cette alg`ebre admet pour ´el´ement unit´e la fonction caract´eristique 1I^H_∅ deK₀^H.

On a une d´ecomposition naturelle

H^H_∅ = O

x∈|X|

H^H_x,∅

avec

1I^H_∅ = O

x∈|X|

1I^H_x,∅,

si bien que, comme produit tensoriel d’alg`ebres commutatives,H<sup>H</sup><sub>∅</sub> est elle-mˆeme une alg`ebre commutative.

Toute repr´esentation irr´eductibleπ de cette alg`ebre commutative H^H_∅ est n´ecessairement de dimension 1. Elle se d´ecompose canoniquement en un produit tensoriel

π= O

x∈|X|

π_x,

o`u chaqueπxest une repr´esentation irr´eductible (de dimension 1) de l’alg`ebre H^H_x,∅.

Se donner une telle repr´esentation irr´eductible de l’alg`ebre H<sup>H</sup><sub>x,∅</sub>−→<sup>∼</sup> C[X<sub>1</sub><sup>0±1</sup>, . . . , X<sub>r</sub><sup>0±1</sup>]<sup>Sr</sup> ´equivaut `a se donner, `a l’ordre pr`es, les imagesz1(πx), . . . , zr(πx)∈C^× desrvariablesX₁⁰, . . . , X_r⁰.

On pose en rangrla d´efinition suivante :

D´efinition IV.7. – On appelle repr´esentations automorphes de H^H_∅ ses repr´esentations irr´eductibles (de dimension1) qui apparaissent dans la d´ecomposition spectrale de l’espace de Hilbert

L²(H(F)\H(A)/K₀^H) =L²(GL_r(F)\GL_r(A)/GL_r(O_A))

muni de l’action deH_∅^H par convolution `a droite.

Consid´erons une repr´esentation irr´eductible π = N

x∈|X|

πx de l’alg`ebre H<sup>H</sup><sub>∅</sub> . Elle est caract´eris´ee par la donn´ee, pour toute placex∈ |X|, desr“valeurs propres de Hecke”z<sub>1</sub>(π<sub>x</sub>), . . . , z<sub>r</sub>(π<sub>x</sub>) bien d´efinies `a l’ordre pr`es.

On appelle “forme automorphe propre” deπtoute fonction h:H(F)\H(A)/K₀^H →C

telle que, pour toute placex∈ |X|et tout ´el´ementh_xde l’alg`ebre de Hecke sph´erique locale H^H_x,∅, on ait la formule suivante pour le produit de convolution

h∗h_x=S_x^H(h_x)(z₁(π_x), . . . , z_r(π_x))·h .

Le “th´eor`eme de mutiplicit´e 1” de Piatetski-Shapiro vaut en rangrarbitraire :

Th´eor`eme IV.8.– Pour toute repr´esentation automorpheπ deH_∅^H, l’espace de ses “formes automorphes

propres” est de dimension1.

3 D´ efinition locale du transfert de Langlands

Rappelons que nous travaillons sur les deux groupes alg´ebriques surF G= Res_E/FGL1 et H = GLr.

En toute placex∈ |X|, nous allons d´efinir un homomorphisme d’alg`ebres commutatives ρ^∗_x:H_x,∅^H → H_x,∅^G

qui constitue la r`egle locale de Langlands pour le transfert automorphe par induction deG`aH. Posons :

D´efinition IV.9.– En toute place x∈ |X|, on appelle homomorphisme de transfert par induction deG `a H et on note

ρ^∗_x:H_x,∅^H → H_x,∅^G l’homomorphisme d´efini de la mani`ere suivante :

Si l’alg`ebre Ex=E⊗FFx se d´ecompose en le produitEx1× · · · ×Ex_k, avec l’isomorphisme induit S^G_x :H^G_x,∅−→^∼ O

1≤i≤k

C[X_i^±1,(εi·Xi)^±1, . . . ,(ε^r_iⁱ⁻¹·Xi)^±1]^Sri,

ρ^∗_x est le compos´e de l’isomorphisme de Satake

S_x^H:H^H_x,∅−→^∼ C[X₁^0±1, . . . , X_r^0±1]^Sr

et de l’homomorphisme qui consiste en la substitution des variables (`a l’ordre pr`es)

(X₁⁰, . . . , X_r⁰)7→ a

1≤i≤k

(Xi, εi·Xi, . . . , ε^r_iⁱ⁻¹·Xi).

La composition avec ρ^∗_x : H_x,∅^H → H^G_x,∅ permet d’associer `a tout caract`ere χx de H^G_x,∅ vu comme un homomorphisme d’alg`ebres

H^G_x,∅→C un caract`ere deH^H_x,∅ not´e (ρ_x)_∗χ_x.

Autrement dit, pour tout caract`ere non ramifi´e χx:E_x^×/O^×_E

x→C^×,

(ρ_x)_∗χ_xest l’unique repr´esentation irr´eductibleπ_xdeH^H_x,∅ telle que, siE_x=E_x1× · · · ×E_xk, on ait ´egalit´e

`

a l’ordre pr`es des familles dervaleurs propres de Hecke (z₁(π_x), . . . , z_r(π_x)) = a

1≤i≤k

(z_xi(χ_x), ε_i·z_xi(χ_x), . . . , ε^r_iⁱ⁻¹·z_xi(χ_x)).

Dans cette s´erie d’expos´es, nous recherchons une d´emonstration purement ad´elique du th´eor`eme suivant : Th´eor`eme IV.10.–Pour tout caract`ere automorphe non ramifi´e

χ= Y

x∈|X|

χ_x:E^×\A^×E/O^×

AE→C^×,

il existe une (unique) repr´esentation automorpheπ= N

x∈|X|

π_xde l’alg`ebre de Hecke sph´eriqueH^H_∅ du groupe H(A) = GLr(A), telle que

∀x∈ |X|, πx= (ρx)_∗χx.

Remarque.Ce th´eor`eme implique que, pour tout caract`ere automorpheχ= Q

x∈|X|

χxcomme dans l’´enonc´e, il existe une forme automorphe non nulle (et unique `a multiplication pr`es par un scalaire)

h: GL_r(F)\GLr(A)/GL_r(O_A)→C telle que, en toute placex∈ |X|, on ait en d´ecomposant Ex=Ex₁× · · · ×Ex_k

h∗hx=S_x^H(hx)



 a

1≤i≤k

(zx_i(χx), εi·zx_i(χx), . . . , ε^r_iⁱ⁻¹·zx_i(χx))



·h , ∀hx∈ H^H_x,∅.

Mais r´eciproquement, si on prouve l’existence d’une forme automorphe h v´erifiant une telle propri´et´e relativement `a un caract`ere automorphe χ de A^×E/O^×_A

E, la repr´esentation irr´eductible π deH^H_∅ engendr´ee par cette formehsera n´ecessairement automorphe, c’est-`a-dire apparaˆıtra dans la d´ecomposition spectrale hilbertienne deL²(H(F)\H(A)/K₀^H). Cela r´esulte de ce que toutes les valeurs propresz_xi(χ_x), 1≤i≤k, en chaque placex∈ |X|sont de module 1.

4 Fonctions sph´ eriques et fonctions de Whittaker

En toute place x∈ |X|, construisons sur G(Fx)/K_0,x^G et H(Fx)/K_0,x^H des formes propres relatives aux caract`eres unitaires des alg`ebres de Hecke sph´eriques localesH^G_x,∅ etH^H_x,∅.

Lemme IV.11.– Si l’alg`ebre Exse d´ecompose en Ex₁× · · · ×Ex_k, et λ•= (λ1, . . . , λk)est une famille de knombres complexes de module1, la fonction

Φ^G_x,λ•:E_x^×=E^×_x

1× · · · ×E_x^×

k → C

t= (t1, . . . , tk) 7→ λ^x(Nm(t₁ ¹⁾⁾. . . λ^x(Nm(t_k ^k)) est caract´eris´ee par les trois propri´et´es suivantes :

• elle est invariante par K_x,0^G =O^×_E

x =O_E^×

x1× · · · ×O_E^×

xk;

• Φ^G_x,λ

•∗ϕ_x=S_x^G(ϕ_x)(λ^r₁¹, . . . , λ^r_k^k)·Φ^G_x,λ

•,∀ϕ_x∈ H^G_x,∅;

• Φ^G_x,λ•(1) = 1.

Apr`es le groupe multiplicatif G(F_x), passons au groupe matricielH(F_x) = GL_r(F_x).

Nous avons besoin de choisir un caract`ere additif continu non trivial ψ:Fx→C^×.

On rappelle que son conducteur est not´eN_ψ.

Un tel caract`ere additif induit un caract`ere du radical unipotentN_B(F_x) d´efini comme ψB:NB(Fx) → C^×,

u=













1 u_1,2 . . . u_1,r 0 . .. . .. ...

... . .. . .. u_r−1,r 0 . . . 0 1













7→ ψ



 X

1≤i<r

u_i,i+1



.

La d´ecomposition d’Iwasawa de tous les ´el´ementsg∈H(Fx) = GLr(Fx), g=µ·u·g_∅,

telle que rappel´ee dans le lemme IV.5, permet d’´enoncer la proposition suivante qui explicite et caract´erise ce que l’on appelle les fonctions de Whittaker sur GL_r(F_x) :

Proposition IV.12.–Soitλ_•= (λ₁, . . . , λ_r) une famille dernombres complexes de module1.

On note

W_x,λ^H,ψ_•:H(Fx) = GLr(Fx)→C,

et on appelle fonction de Whittaker associ´ee `aλ• et ψ, la fonction d´efinie de la mani`ere suivante : (i)Dans le cas o`u le caract`ere ψest r´egulier (c’est-`a-dire de conducteurNψ = 0), la valeur deW_x,λ^H,ψ

• en un point deGLr(Fx)´ecrit sous la forme

µ·u·g_∅ avec

µ= (µ₁, . . . , µ_r)∈T(F_x) = (F_x^×)^r, u∈NB(Fx),

g_∅∈GLr(Ox), est

W_x,λ^H,ψ

•(µ·u·g_∅) =



































ψB(µ·u·µ⁻¹)·q

P

1≤i≤r 2i−1−r

2 ·x(µi)

!

x ·

˛

˛

˛

˛

˛

˛

˛

˛

˛

˛

˛

˛

˛

˛

λ^x(µ₁ ^1)+r−1 . . . λ^x(µr ^1)+r−1

... ...

λ^x(µ₁ ^r−1)+1 . . . λ^x(µr ^r−1)+1

λ^x(µ₁ ^r) . . . λ^x(µr ^r)

˛

˛

˛

˛

˛

˛

˛

˛

˛

˛

˛

˛

˛

˛ Q

1≤i<j≤r

(λi−λj)

six(µ1)≥x(µ2)≥ · · · ≥x(µ_r−1)≥x(µr)

0 sinon.

(ii)Dans le cas o`u le caract`ereψn’est pas r´egulier, on l’´ecrit sous la formeψ(a) =ψ0(γ₀⁻¹·a)avecγ0∈F_x^×, x(γ0) =Nψ etψ0 r´egulier, et la fonctionW_x,λ^H,ψ

• est d´efinie par la formule

W_x,λ^H,ψ_•(g) = W_x,λ^H,ψ_•⁰

























γ₀^−r+1 0 . . . 0 0 . .. . .. ... ... . .. γ₀⁻¹ 0 0 . . . 0 1













·g













= W_x,λ^H,ψ0

•

























1 0 . . . 0 0 γ₀ . .. ... ... . .. . .. 0 0 . . . 0 γ^r−1₀













·g













·(λ1. . . λr)^{−(r−1)Nψ}.

Alors la fonction de WhittakerW_x,λ^H,ψ

• v´erifie les propri´et´es suivantes, qui la caract´erisent :

• elle est invariante `a droite par K_x,0^H = GLr(Ox);

• W_x,λ^H,ψ_•(u·g) =ψB(u)⁻¹·W_x,λ^H,ψ_•(g),∀u∈NB(Fx);

• W_x,λ^H,ψ

•∗hx=S_x^H(hx)(λ1, . . . , λr)·W_x,λ^H,ψ

•,∀hx∈ H^H_x,∅;

• on a

W_x,λ^H,ψ

•(1) = 1 dans le cas(i)o`uψ est r´egulier et

W_x,λ^H,ψ

•

























γ₀^r−1 0 . . . 0 0 . .. . .. ... ... . .. γ0 0 0 . . . 0 1

























= 1 dans le cas(ii).

Insistons sur le fait que la fonction de Whittaker W_x,λ^H,ψ

• ne d´epend pas de l’ordre desr composantes de λ_•= (λ₁, . . . , λ_r).

5 Noyaux locaux de la fonctorialit´ e

Les homomorphismes de transfert

ρ^∗_x:H_x,∅^H → H_x,∅^G

ont ´et´e d´efinis par une certaine r`egle de substitution des valeurs propres de Hecke.

Si Ex = Ex₁ × · · · ×Ex_k, cette r`egle de substitution consiste `a associer `a toute suite de k nombres complexes inversiblesλ• = (λ1, . . . , λk) la suite (ρx)∗λ• dernombres complexes obtenue en mettant bout

`

a bout les suites (λi, εi·λi, . . . , ε^r_iⁱ⁻¹·λi), 1≤i≤k.

Nous utilisons la mˆeme notation (ρx)_∗que pour l’application d´ej`a d´efinie entre les ensembles de caract`eres des alg`ebres H<sup>G</sup><sub>x,∅</sub> et H<sup>H</sup><sub>x,∅</sub> puisque les deux applications (ρx)<sub>∗</sub> se correspondent via la param´etrisation des caract`eres deH^G_x,∅ ouH^H_x,∅ par leurs valeurs propres de Hecke.

Nous sommes conduits `a poser la d´efinition suivante :

D´efinition IV.13.– On appelle noyaux locaux de la fonctorialit´e les fonctions K_x,P^G,H,ψ

x :G(F_x)×H(F_x)→C d´efinies par une int´egrale de la forme

K_x,P^G,H,ψ

x (t, g) = Z

λ•=(λ1,...,λk)

|λ1|=...=|λk|=1

dλ1· · · · ·dλk·Px(λ_•)·Φ^G_x,λ

•(t)·W_x,(ρ^H,ψ

x)∗λ•(g) o`u

• kest le nombre de facteurs de la d´ecompositionE_x=E_x1× · · · ×E_xk, c’est-`a-dire le nombre de places x₁, . . . , x_k deE au-dessus de la placexdeF,

• P_xest un polynˆome, ´el´ement deC[X₁^±r1, . . . , X_k^±rk],

• t etg sont des ´el´ements de G(F_x) =E_x^×

1× · · · ×E^×_x

k et deH(F_x) = GL_r(F_x),

• λ•= (λ1, . . . , λk)d´ecrit le produit dek copies du cercle unit´e deC^×,

• dλ1, . . . , dλk d´esignent la mesure invariante de volume 1 sur ces copies du cercle unit´e de C^×.

La raison pour laquelle on baptise ces fonctions K_x,P^G,H,ψ

x :G(Fx)×H(Fx)→C

du nom de “noyaux locaux de la fonctorialit´e” est fournie par le lemme suivant :

Lemme IV.14.– Si l’alg`ebre E_x =E⊗FF_x se d´ecompose en E_x1× · · · ×E_xk,P_x est un polynˆome en k variablesX₁^±r1, . . . , X_k^±rk etλ_•= (λ₁, . . . , λ_k)est une suite de k nombres complexes de module1, on a

Z

G(F_x)

d^×t·K_x,P^G,H,ψ

x (t, g)·Φ^G_x,λ•(t) =Px(λ•)·W_x,(ρ^H,ψ

x)∗λ•(g).

Ce lemme signifie en effet que les noyaux d’int´egration K_x,P^G,H,ψ

x :G(Fx)×H(Fx)→C transforment toute forme propre

G(Fx)/K_0,x^G →C d’un caract`ere non ramifi´eχxdeG(Fx) en une forme propre

H(Fx)/K_0,x^H →C de la repr´esentation irr´eductibleπ_x= (ρ_x)_∗χ_x deH^H_x,∅.

Les noyaux

K_x,P^G,H,ψ

x :G(F_x)×H(F_x)→C sont invariants `a droite par K_0,x^G ×K_0,x^H .

Pour toute fonction sph´eriquehx∈ H^H_x,∅, on a la formule K_x,P^G,H,ψ

x ∗hx=K_x,P^G,H,ψ

x ∗⁻¹(ρ^∗_x)(hx)

o`u le premier produit de convolution ∗ est relatif `a la variable gx ∈H(Fx), et le second∗⁻¹ `a la variable t⁻¹_x ∈G(Fx) :

(K_x,P^G,H,ψ

x ∗h_x)(t, g) = Z

H(F_x)

dg_x·K_x,P^G,H,ψ

x (t, g·g_x⁻¹)·h_x(g_x) (K_x,P^G,H,ψ

x ∗⁻¹ϕ_x)(t, g) = Z

G(F_x)

d^×t_x·K_x,P^G,H,ψ

x (t·t⁻¹_x , g)·ϕ_x(t⁻¹_x ) Enfin, on a pour toute fonction sph´eriqueϕx∈ H^G_x,∅

K_x,P^G,H,ψ

x ∗⁻¹ϕx=K_x,P^G,H,ψ

x·S_x^G(ϕ_x).

6 La formule d’inversion de Shalika revisit´ ee

Pour tout entierr⁰≥1, notons

w_r⁰ =













0 . . . 0 1 ... . ..

. .. 0 0 . ..

. .. ... 1 0 . . . 0













la matrice d’inversion de l’ordre des indices dans le groupe lin´eaire GLr⁰.

Sir⁰< r, on consid`ere GLr⁰ comme plong´e dans GLr=H via l’homomorphisme : GLr⁰ ,→ GLr=H

g⁰ 7→























g⁰ ... 0 . . . .

0 ... ... ...

1 0 . . . 0 0 . .. . .. ... ... . .. . .. 0 0 . . . 0 1























Comme nous l’avons fait dans le cas o`uE est une extension quadratique et r= 2, nous voudrions relier en toute placex∈ |X|les noyaux locaux

G(Fx)×H(Fx) → C (t, g) 7→ K_x,P^G,H,ψx

x (t, g) et leurs modifications

(t, g)7→K_x,P^G,H,ψ¯x

x (t⁻¹, wr·wr−1·g)

en combinant la ψx-transformation de Fourier sur Ex ⊃ E_x^× = G(Fx) et une transformation de Fourier partielle surH(Fx) = GLr(Fx).

Pour tout entierr⁰≥1, notons

Br⁰ =



























∗ ∗ . . . ∗ 0 . .. . .. ... ... . .. . .. ∗ 0 . . . 0 ∗

























 le sous-groupe de Borel des matrices triangulaires sup´erieures dans GL_r⁰,

N_r⁰ =



























1 ∗ . . . ∗ 0 . .. . .. ... ... . .. . .. ∗ 0 . . . 0 1

























 son radical unipotent,

T_r⁰ =



























∗ 0 . . . 0 0 . .. . .. ... ... . .. . .. 0 0 . . . 0 ∗



























∼=G^r

0

m

le tore diagonal, et

Qr⁰ =





















∗ . . . ∗ ∗ ... ... ...

∗ . . . ∗ ∗ 0 . . . 0 1





















= GLr⁰−1·Nr⁰.

La transformation de Fourier partielle surH(Fx) = GLr(Fx) en chaque placex∈ |X|que nous cherchons devrait ˆetre compatible avec une formule de Poisson pour le r´eseau

N_r−1(F)\GL_r−1(F) compl´et´e par des “points au bord” qu’il nous faut deviner.

Plus pr´ecis´ement, les noyaux globaux

G(A)×H(A) → C (t= (tx)_x∈|X|, g= (gx)_x∈|X|) 7→ Y

x∈|X|

K_x,P^G,H,ψx

x (tx, gx) et leurs modifications

(t, g)7→ Y

x∈|X|

K_x,P^G,H,ψ¯x

x (t⁻¹_x , w_r·w_r−1·g_x) devraient devenir ´egaux apr`es sommation sur les ´el´ements du r´eseau produit

E^××N_r−1(F)\GL_r−1(F),

modulo des termes compl´ementaires associ´es aux “points au bord” de ce r´eseau.

La pr´esence de tels termes compl´ementaires est n´ecessaire puisque les caract`eres automorphes deE^×\A^×E

se transf`erent en des formes automorphes

GLr(F)\GLr(A)→C

qui ne sont pas n´ecessairement cuspidales ; ces formes automorphes peuvent ˆetre des s´eries d’Eisenstein c’est-`a-dire admettre des “termes constants” non nuls associ´es `a divers sous-groupes paraboliques.

Les “termes compl´ementaires” associ´es `a des “points au bord” que nous voudrions deviner doivent co¨ınci- der avec les “termes constants” des s´eries d’Einsenstein dans les noyaux du transfert global

E^×\A^×E/O^×_A

E×GLr(F)\GLr(A)/GLr(O_A)→C que nous cherchons `a construire.

Afin d’en savoir plus sur la forme des “termes compl´ementaires”, nous avons besoin de revisiter la formule d’inversion de Shalika, de fa¸con qu’elle s’applique `a des fonctions

Q_r(F)\GLr(A)→C qui ne soient pas n´ecessairement cuspidales.

Comme dans l’expos´e III, nous avons besoin d’un caract`ere additif non trivial ψ:A→C^×

dont la restriction au sous-groupe discretF soit triviale.

Nous avons rappel´e dans le paragraphe III.1 comment construire un tel caract`ereψ`a partir d’un caract`ere additif non trivial

ψq :Fq →C^×

et d’une forme diff´erentielle rationnelle non nulleωX sur la courbeX. Nous notons encore

ψ_x:F_x→C^×

les composantes deψen toutes les placesx∈ |X|, etNψ_x les conducteurs de ces caract`eresψx.

Pour toute placex, on munitFx de la mesure additivedax qui attribue le volumeqx^Nψx2 au sous-groupe ouvert compactOx. Puis on munitA=AF de la mesure additive globaledaqui est le produit des mesures localesdax. On sait qu’elle attribue le volume 1 au quotient compactF\A.

Plus g´en´eralement, pour tout groupe alg´ebriqueN sur F suppos´e unipotent, chaque localisationN(F_x) se trouve munie d’une mesure invariantedu_xd´eduite, par d´evissage, de la mesureda_xdeF_x. AlorsN(A) est muni de la mesure invarianteduqui est le produit des mesures locales dux. Cette mesure globale attribue le volume 1 au quotient compactN(F)\N(A).

Dans la suite de ce paragraphe, nous travaillons sur le groupeH = GL_r.

Le caract`ereψ:F\A→C<sup>×</sup> induit sur le radical unipotentNr(A) =NB(A) un caract`ere ψ(r):Nr(A) → C^×,

u=













1 u_1,2 . . . u_1,r 0 . .. . .. ...

... . .. . .. u_r−1,r 0 . . . 0 1













7→ ψ



 X

1≤s<r

u_s,s+1



.

Ce caract`ere est trivial sur le sous-groupe discretN_r(F).

Plus g´en´eralement, associons `a toute partition de l’entierr

r= (1≤r1< r2<· · ·< r<sub>`−1</sub>< r`=r)⊆ {1,2, . . . , r}

le caract`ere

ψr:Nr(A) → C^×,

u=













1 u_1,2 . . . u_1,r 0 . .. . .. ... ... . .. . .. u_r−1,r 0 . . . 0 1













7→ ψ





 X

1≤s<r s /∈r

u_s,s+1





.

Tous les caract`eresψ_r sont triviaux surN_r(F).

Le groupeT(A) =T_r(A)∼= (A^×)^rdes matrices diagonales µ= (µ₁, . . . , µ_r) deH(A) = GL_r(A) agit sur l’ensemble des caract`eres

ψ:N_r(A)→C^× par

(µ, ψ)7→µ·ψ o`uµ·ψest d´efini par

(µ·ψ)(u) =ψ(µ⁻¹·u·µ).

Le fixateur dansT(A) du caract`ereψ_(r) est le centreZH(A) =Zr(A) de GLr(A), d´efini par les ´egalit´es µ1=· · ·=µr,

et, plus g´en´eralement, le fixateur dansT(A) du caract`ereψ<sub>r</sub> associ´e `a une partition rest T_r(A), si on note T_r le sous-tore deT =T_r d´efini par les ´egalit´es

µs=µs+1, ∀s /∈r , 1≤s < r .

On rappelle qu’on a muni le groupe unipotentN_r(A) de la mesure de Haar duqui attribue le volume 1 au quotient compactN_r(F)\N_r(A).

Pour toute fonction

h:Q(F)\H(A)→C

invariante `a droite par un sous-groupe ouvertK de GLr(O_A) =K₀^H, on peut d´efinir W_(r)h:N_r(F)\H(A)/K → C,

g 7→

Z

Nr(F)\Nr(A)

ψ_(r)(u)·h(u·g)·du , et, plus g´en´eralement, les

Wrh: (Q∩Tr)(F)·Nr(F)\H(A)/K → C, g 7→

Z

N_r(F)\Nr(A)

ψr(u)·h(u·g)·du . Ces fonctionsW_(r)hetWrhsatisfont la r`egle de tranformation par les ´el´ementsu∈Nr(A)

W_(r)h(u·g) =ψ_(r)(u)⁻¹·W_(r)h(g), Wrh(u·g) =ψr(u)⁻¹·Wrh(g). Posons la d´efinition suivante :

D´efinition IV.15.– On consid`ere une familleh_• de fonctions

h_r: (Q∩T_r)(F)·N_r(F)\H(A)→C

index´ees par les partitions r = (1 ≤ r1 < r2 < · · · < r`−1 < r` = r) de l’entier r. On suppose que ces fonctions sont invariantes `a droite par un sous-groupe ouvertK deGL<sub>r</sub>(O<sub>A</sub>) =K<sub>0</sub><sup>H</sup> et v´erifient les r`egles de transformation

h_r(u·g) =ψ_r⁻¹(u)·h_r(g), ∀u∈N_r(A).

Une telle famille sera dite “sommable surGL_r−1(F)” si, pour tout rangr⁰ = 1,2, . . . , r−1, elle satisfait la condition suivante :

(∗)r⁰ Pour toute partition r⁰ = (r⁰ + 1 ≤ r⁰₁ < · · · < r⁰_{`</sub>0−1 < r<sup>0</sup><sub>`}0 = r) de l’intervalle [r⁰, r], la somme localement finie

Psr⁰,r⁰(h_•)(g) =





X

γ∈Q_r0(F)\GL_r0(F)

Psr⁰−1,r⁰(h_•)(γ·g)



+ Ps_r⁰_−1,{r⁰_{} ∪r}⁰(h_•)(g) (avecPs0,r⁰(h_•)(g) =hr⁰(g),∀g,∀r⁰, sir⁰−1 = 0) est invariante `a gauche parGLr⁰(F).