Noyaux du transfert automorphe de Langlands et formules de Poisson non lin´eaires ∗

Noyaux du transfert automorphe de Langlands et formules de Poisson non lin´eaires ^∗

par Laurent Lafforgue

Dans tout le texte, on consid`ere un groupe r´eductif connexe quasi-d´eploy´eGsur un corps global F, le groupe r´eductif complexe Gb dual de G muni de l’action naturelle du groupe de Galois Γ_F de F, et une repr´esentation de transfert continue

ρ:GboΓF →GLr(C).

On sait que le groupe r´eductifGet la repr´esentation de transfertρsont non ramifi´es en presque toute place et que, en toute telle placex, ρinduit une application de transfert (ρx)_∗ de l’ensemble des repr´esentations lisses admissibles irr´eductibles non ramifi´ees πx deGvers cellesπ⁰_xde GLr.

Langlands a conjectur´e que pour toute repr´esentation automorpheπ=N

x

π_xdeG, il existe une repr´esentation automorpheπ⁰ =N

x

π⁰_x de GL_r telle queπ⁰_x= (ϕ_x)_∗(π_x) en toute place xo`u G, ρet π sont non ramifi´ees.

C’est le “principe de fonctorialit´e”.

Le but de cet article est d’introduire les ´enonc´es de “formules de Poisson non lin´eaires” sur les groupes r´eductifsGqui g´en´eralisent la classique formule de Poisson sur les espaces lin´eaires matricielsMret qui sont

´equivalents au principe de fonctorialit´e.

Ces formules sont associ´ees `a toute repr´esentation de transfert ρ:GboΓF →GLr(C)

d’un groupe r´eductif quasi-d´eploy´e G sur F muni d’un caract`ere detG : G → Gm tel que le cocaract`ere central associ´e

detcG:C^× →Z

Gb,→Gb agisse sur l’espaceC^rdeρparz7→z.

On montre qu’une telle repr´esentation de transfertρpermet de d´efinir en toute place un certain op´erateur lin´eaire deρ-transformation de Fourier d’un certain espace de fonctions locales surGqui d´epend lui-mˆeme deρ.

En faisant le produit sur toutes les places, on obtient un op´erateur lin´eaire deρ-transformation de Fourier global d’un certain espace de fonctions globales surGqui d´epend lui-mˆeme deρ.

∗Je remercie notre secr´etaire C´ecile Gourgues qui a r´ealis´e la frappe de ces notes `a la perfection et avec une incroyable rapidit´e. Ces notes ont fait l’objet d’un cours donn´e `a Milan en d´ecembre 2012 puis `a l’IHES en janvier et f´evrier 2013. Elles ont ´egalement servi de base `a deux cours donn´es au Japon (`a l’Universit´e de Kyushu et `a l’Universit´e Todai de Tokyo) en mai 2013 ainsi qu’`a un double expos´e donn´e au s´eminaire Takagi les 25 et 26 mai 2013.

La formule de Poisson associ´ee consiste `a affirmer qu’une certaine fonctionnelle lin´eaire de cet espace construite `a partir de l’´evaluation

h7→ X

γ∈G(F)

h(γ) est invariante parρ-transformation de Fourier.

Le transfert des repr´esentations automorphes de G `a GLr via ρ conjectur´e par Langlands implique la formule de Poisson pour laρ-transformation de Fourier surG.

En sens inverse, la formule de Poisson sur le groupe

G_r−1={(g, g⁰)∈G×GL_r−1|detG(g) = det(g⁰)}

permet de construire des “noyaux du transfert” deG`a GLr, c’est-`a-dire des fonctions automorphes sur le produit

G×G×GL_r

qui r´ealisent le transfert simultan´e de toutes les repr´esentations automorphes.

On remarque que l’´enonc´e des “formules de Poisson non lin´eaires” et la construction associ´ee de “noyaux du transfert” ne font plus appel `a la notion de repr´esentation automorphe.

On traite le cas o`u le corps globalF est le corps des fonctions rationnelles d’une courbe projective lisse g´eom´etriquement connexe sur un corps finiFq `a q´el´ements. On note|F| l’ensemble des places deF, Fxle corps localis´e deF en chaque place x∈ |F|, Ox son anneau des entiers, qx=q^deg(x) le nombre d’´el´ements de son corps r´esiduel et

| • |x=q^−v_x ^x(•):F_x→q_x^Z∪ {0}

la norme deFx. On note ´egalement

A= aY

x∈|F|

Fx

l’anneau des ad`eles deF,A^× son groupe multiplicatif et

| • |= Y

x∈|F|

| • |x:A^×→q^Z

la norme globale, qui v´erifie la “formule du produit”

|γ|= 1, ∀γ∈F^× ⊂A^×.

Comme toutes les constructions et d´emonstrations ne font appel qu’`a de l’analyse harmonique sur les groupes r´eductifs locaux G(F<sub>x</sub>), x ∈ |F|, et ad´eliques G(A), le cas o`u le corps global F est un corps de nombres se traiterait de la mˆeme fa¸con. Cela sera montr´e dans un texte plus complet (en pr´eparation) qui reprendra avec plus de d´etails l’ensemble des constructions de cet article.

Voici le plan de cet article :

Le paragraphe I rappelle l’´enonc´e de la conjecture de transfert de Langlands d’un groupe r´eductif quasi- d´eploy´eGvers un groupe lin´eaire GLr, d´efinit la notion de “noyau du transfert” et esquisse la construction de tels noyaux.

Le paragraphe II met en relation la construction de ces noyaux du transfert avec la th´eorie des int´egrales de Rankin-Selberg et, se fondant sur les ´equations fonctionnelles locales de Jacquet, Piatetski-Shapiro et Shalika, introduit naturellement des op´erateurs lin´eaires locaux qui g´en´eralisent la transformation de Fourier lin´eaire sur les espacesMrde matrices.

Le paragraphe III montre comment la conjecture de transfert de Langlands implique une formule de Poisson tr`es g´en´erale pour les fonctions globales tr`es ramifi´ees en au moins une place.

Le paragraphe IV montre en sens inverse comment terminer la construction de noyaux du transfert en supposant connue la formule de Poisson pour les fonctions globales surGr−1tr`es ramifi´ees en au moins une place.

Enfin, le paragraphe V indique comment formuler les “formules de Poisson non lin´eaires” pour les fonc- tions globales sur G qui ne sont pas n´ecessairement tr`es ramifi´ees en une place. Cela passe par une re- formulation purement multiplicative de la formule de Poisson lin´eaire classique sur l’espace matriciel Mr. L’expression multiplicative de la fonctionnelle de Poisson lin´eaire et de ses g´en´eralisations non lin´eaires donn´ee dans cet article corrige une expression erron´ee qui figurait dans [Lafforgue, 2012] et dans une version pr´eliminaire du pr´esent article.

Sommaire

Chapitre I : Notion de noyaux du transfert et construction de leur partie principale Chapitre II : Int´egrales de Rankin-Selberg, facteurs Llocaux et transformation de Fourier Chapitre III : Principe de fonctorialit´e et formules de Poisson non lin´eaires

Chapitre IV : Formules de Poisson non lin´eaires et noyaux du transfert automorphe

Chapitre V : Nouvelle construction de la fonctionnelle de Poisson lin´eaire et g´en´eralisation non lin´eaire conjecturale

R´ef´erences bibliographiques

I. Notion de noyaux du transfert et construction de leur partie principale

Le groupe r´eductif quasi-d´eploy´eGsurF est dit non ramifi´e en une placex∈ |F|si l’action du groupe de Galois local ΓF_x ⊂ΓF sur la donn´ee radicielle (XT,∆B, X_T^∨,∆^∨_B) ou, ce qui revient au mˆeme, sur le groupe dualGbse factorise `a travers son quotient non ramifi´e Γ^nr_F

x

∼=Zb dont un g´en´erateur topologique est l’´el´ement de Frobeniusσ_x. Dans ce cas, le groupe r´eductif G sur F_x se prolonge en un sch´ema en groupes r´eductifs lisse surO_xet on dispose du sous-groupe ouvert compact maximalG(O_x) deG(F_x).

En une telle place x, la repr´esentation de transfert ρ : Gb oΓF → GLr(C) est dite non ramifi´ee si l’homomorphisme induit ΓF_x →ΓF →GLr(C) se factorise `a travers le quotient non ramifi´e Γ^nr_F

x =hσxide ΓF_x. On sait qu’alorsρinduit un homomorphisme

ρ^∗_x:H_x,∅^r → H_x,∅^G de l’alg`ebre de Hecke sph´erique

H^r_x,∅=Cc(GLr(Ox)\GLr(Fx)/GLr(Ox)) de GL_r(F_x) vers celle

H^G_x,∅=C_c(G(O_x)\G(Fx)/G(O_x))

deG(F_x). Ces alg`ebres sont commutatives, et l’homomorphismeρ<sup>∗</sup><sub>x</sub>transforme tout caract`erez_x:H^G_x,∅→C de la seconde en un caract`ere (ρx)∗(zx) =zx◦ρ<sup>∗</sup><sub>x</sub>:H<sup>r</sup><sub>x,∅</sub>→Cde la premi`ere.

On sait que le groupe r´eductif quasi-d´eploy´eGsurFet la repr´esentation de transfertρ:GboΓF →GLr(C) sont non ramifi´es en toutes les placesx∈ |F|sauf un ensemble fini que l’on noteSρ.

Posons : D´efinition I.1.–

Soit un sous-ensemble finiS de|F| contenantSρ. (i) Etant donn´´ ee une famille de caract`eres

zx:H^G_x,∅→C [resp.z_x⁰ :H^r_x,∅→C] index´es par les places x∈ |F| −S, une fonction automorphe non nulle

ϕ:G(F)\G(A)→C [resp.ϕ⁰: GLr(F)\GLr(A)→C]

est dite vecteur propre de valeurs propres leszx[resp.z_x⁰] pour l’action par convolution des alg`ebres de Hecke sph´eriquesH<sup>G</sup><sub>x,∅</sub> [resp. H<sup>r</sup><sub>x,∅</sub>] si, en toute place x∈ |F| −S,ϕ [resp. ϕ<sup>0</sup>] est invariante `a droite parG(Ox)[resp.GLr(Ox)] et v´erifie

ϕ∗ϕx=zx(ϕx)·ϕ , ∀ϕx∈ H_x,∅^G , [resp. ϕ⁰∗ϕ⁰_x=z_x⁰(ϕ⁰_x)·ϕ⁰, ∀ϕ⁰_x∈ H^r_x,∅].

(ii) Une fonction automorphe non nulle

ϕ:G(F)\G(A)→C [resp.ϕ⁰: GLr(F)\GLr(A)→C]

est dite “S-propre” si elle satisfait les conditions de(i)relativement `a une certaine famille de caract`eres z_x:H^G_x,∅→C [resp. z⁰_x:H^r_x,∅→C], x∈ |F| −S .

(iii) Une famille de caract`eres

zx:H^G_x,∅→C [resp. z⁰_x:H^r_x,∅→C]

index´es par les placesx∈ |F|−S est dite automorphe si elle satisfait les conditions de(i)relativement `a une certaine fonction automorphe “S-propre”ϕ:G(F)\G(A)→C[resp. ϕ⁰: GLr(F)\GLr(A)→C].

Le principe de fonctorialit´e de Langlands peut ˆetre formul´e de la mani`ere suivante : Conjecture I.2 (conjecture de transfert par ρ). –

Pour toute partie finieSde|F|contenantSρ, et pour toute famille de caract`eres (zx:H^G_x,∅→C)_x∈|F|−S qui est automorphe, sa transform´ee(z_x◦ρ^∗_x:H^r_x,∅→C)_x∈|F|−S parρest encore automorphe.

On introduit la notion de noyau du transfert : D´efinition I.3.–

Soit une partie finie S de|F|contenant Sρ.

On appelle “noyau” (ou “S-noyau”) du transfert automorphe par ρ toute fonction automorphe en 3 variablesg1, g2∈G(A)etg∈G(A)

K: (G×G×GLr)(F)\(G×G×GLr)(A)→C qui satisfait les conditions suivantes :

(i) En toute placex∈ |F| −S,Kest invariante `a droite parG(Ox)×G(Ox)×GLr(Ox). En notant∗1,∗2

et ∗3 les produits de convolution en les 3 variables g1, g2 ∈ G(Fx) et g ∈GLr(Fx), K est compatible avec ρ^∗_x:H^r_x,∅→ H^G_x,∅ au sens que

K∗3ϕ⁰_x=K∗2ρ^∗_x(ϕ⁰_x), ∀ϕ⁰_x∈ H^r_x,∅,

et elle est compatible avec l’automorphisme ϕx 7→ ϕ^∨_x de H^G_x,∅ d´efini par le changement de variable g₁7→g₁⁻¹ au sens que

K∗2ϕ_x=K∗1ϕ^∨_x, ∀ϕ_x∈ H^G_x,∅. (ii) Pour toute fonction automorphe S-propre

ϕ:G(F)\G(A)→C, l’int´egrale

(g₂, g)7→

Z

G(F)\G(A)

dg₁·ϕ(g₁)·K(g₁, g₂, g)

est absolument convergente quels que soient les ´el´ementsg₂∈G(A),g∈GL_r(A), et d´efinit une fonction

automorphe(G×GL_r)(F)\(G×GL_r)(A)→C.

On remarque : Lemme I.4.–

Pour d´emontrer la conjecture de transfert I.2 ci-dessus, il suffit de prouver que, pour toute fonction automorpheS-propre

ϕ:G(F)\G(A)→C, il existe unS-noyau du transfert

K: (G×G×GL_r)(F)\(G×G×GL_r)(A)→C tel que l’int´egrale

(g2, g)7→

Z

G(F)\G(A))

dg1·ϕ1(g1)·K(g1, g2, g)

ne soit pas uniform´ement nulle.

On choisit une fois pour toutes un caract`ere additif non trivial ψ:A/F →C^×.

On sait que les caract`eres additifs continusA/F →C^× sont exactement les ψ_γ :u7→ψ(γ·u)

associ´es aux ´el´ementsγ∈F.

NotantN_r ⊂GL_r le sous-groupe des matrices triangulaires sup´erieures unipotentes, on s’int´eresse aux caract`eres deNr(A) qui sont triviaux surNr(F). Ce sont exactement les compos´es

ψ_`:N_r(A)→C^× de l’homomorphisme de groupes alg´ebriques

N_r → N_r/[N_r, N_r] = (A¹)^r−1 u= (ui,j)1≤i,j≤r 7→ (ui,i+1)1≤i<r,

d’une forme lin´eaire d´efinie surF

`: (A¹)^r−1→A¹

et du caract`ere ψ:A/F →C<sup>×</sup>. Un tel caract`ereψ` est dit r´egulier lorsque lesr−1 coordonn´ees de `sont non nulles, et irr´egulier dans le cas contraire. On noteψ_(r)le caract`ere r´egulier dont lesr−1 coordonn´ees valent 1.

Une fonction invariante `a droite par un sous-groupe ouvert de GLr(A) W : GLr(A)→C [resp. GLr(Fx)→C, x∈ |F|]

est dite “deψ(r)-type de Whittaker” si

W(ug) =ψ_(r)(u)·W(g), ∀g ,∀u∈Nr(A) [resp.Nr(Fx)]. Notant

Qr= GL_r−1·Nr=Nr·GL_r−1=





















∗ . . . ∗ ∗ ... ... ...

∗ . . . ∗ ∗ 0 . . . 0 1



















 le sous-groupe “mirabolique” sup´erieur, on rappelle le r´esultat suivant de Shalika :

Proposition I.5.– (i) L’op´erateur

H7→W_(r)^ψ H=

"

g7→

Z

Nr(F)\Nr(A)

du·ψ⁻¹_(r)(u)·H(ug)

#

d´efinit une projection de l’espace des fonctions invariantes `a droite par un sous-groupe ouvert deGL_r(A) H :Qr(F)\GLr(A)→C

sur l’espace des fonctions deψ_(r)-type de Whittaker W : GLr(A)→C.

(ii) Cet op´erateur W_(r)^ψ admet pour section, c’est-`a-dire pour inverse `a droite, l’op´erateur

W 7→



g7→ X

δ∈Nr−1(F)\GLr−1(F)

W(δg)



.

(iii) L’image de cette section est le sous-espace des fonctions H :Qr(F)\GLr(A)→Cqui sont cuspidales au sens que leurs coefficients unipotents

g7→

Z

Nr(F)\Nr(A)

du·ψ_`⁻¹(u)·H(ug)

associ´es aux caract`eres irr´eguliers ψ`:Nr(A)→C^× sont uniform´ement nuls.

Remarque :

Il r´esulte de cette proposition que toute fonction localement constante H:Qr(F)\GLr(A)→C

s’´ecrit de mani`ere unique comme la somme

H =H^c+H^nc

d’une fonctionH^c:Qr(F)\GLr(A)→Cqui est cuspidale et d’une fonctionH^nc:Qr(F)\GLr(A)→Cnon cuspidale au sens que

W_(r)^ψ H^nc= 0.

Cela s’applique en particulier aux fonctions H : GLr(F)\GLr(A) → Cmais leurs composantes H^c, H^nc : Qr(F)\GLr(A)→Cne sont en g´en´eral pas invariantes par GLr(F).

On cherche `a construire des noyaux

K: (G×G×GL_r)(F)\(G×G×GL_r)(A)→C comme sommes de leur composante cuspidale

K^c: (G×G×Qr)(F)\(G×G×GLr)(A)→C et de leur composante non cuspidale

K^nc: (G×G×Qr)(F)\(G×G×GLr)(A)→C.

De plus, construireK^c ´equivaut `a construire leψ_(r)-coefficient unipotent

W_(r)^ψ K=W_(r)^ψK^c: (G×G×Nr)(F)\(G×G×GLr)(A)→C.

Etant donn´´ ees une partie finieSde|F|contenantSρet une fonction automorpheS-propreϕ:G(F)\G(A)→ C, il suffit que l’int´egrale (g2, g)7→R

G(F)\G(A)dg1·ϕ(g1)·W_(r)^ψ K(g1, g2, g) ne soit pas uniform´ement nulle pour qu’il en soit de mˆeme de l’int´egrale (g₂, g)7→R

G(F)\G(A)dg₁·ϕ(g₁)·K(g₁, g₂, g). Cette condition sera facile `a r´ealiser si, dans le but de construire des noyaux K: (G×G×GLr)(F)\(G×G×GLr)(A)→C, on commence par construire leur coefficientW<sub>(r)</sub><sup>ψ</sup> K de la mani`ere suivante :

D´efinition I.6.–

SoitS une partie finie de |F|contenant S_ρ. On d´efinit les ψ(r)-coefficients unipotents

W_(r)^ψ K:G(F)\G(A)×G(F)\G(A)×GLr(A)→C des noyaux cherch´es K comme des sommes localement finies de la forme

W_(r)^ψ K(g1, g2, g) = X

γ∈G(F)



 Y

x∈|F|

K_ψ^G,ρ

x



(g₁⁻¹γ g2, g), o`u les facteurs locaux

K_ψ^G,ρ

x , x∈ |F|, sont des fonctions localement constantes

G(F_x)×GL_r(F_x) → C (g, g⁰) 7→ K_ψ^G,ρ

x (g, g⁰) telles que

• en toute place x∈ |F|, les fonctions K_ψ^G,ρ

x (•, g⁰) sont `a support compact dans G(Fx) et les fonctions K_ψ^G,ρ

x (g,•)sur GLr(Fx)sont deψ_(r)-type de Whittaker,

• en toute placex∈ |F| −S⊂ |F| −Sρ,K_ψ^G,ρ

x est un “noyau local” du transfert non ramifi´e parρ: cela signifie que K_ψ^G,ρ

x est invariante `a gauche et `a droite par G(O_x)en la variable g∈G(F_x), invariante

`

a droite par GL_r(O_x)en la variable g⁰ ∈GL_r(F_x) et compatible avec l’homomorphisme ρ^∗_x:H^r_x,∅→ H^G_x,∅

au sens que

K_ψ^G,ρ

x ∗2ϕ⁰_x=K_ψ^G,ρ

x ∗1ρ^∗_x(ϕ⁰_x), ∀ϕ⁰_x∈ H^r_x,∅. Remarque :

La derni`ere condition surK_ψ^G,ρ

x ´equivaut `a demander que sa d´ecomposition spectrale sous la double action par convolution `a droite de H^G_x,∅ et H^r_x,∅ ne fasse apparaˆıtre que des paires de caract`eres (zx : H^G_x,∅ →C, z⁰_x:H^r_x,∅ →C) reli´es par la condition

z_x⁰ =z_x◦ρ^∗_x= (ρ_x)_∗(z_x).

Afin de construire des noyaux locaux du transfert non ramifi´e K_ψ^G,ρ

x :G(F_x)×GL_r(F_x)→C

v´erifiant les conditions de la d´efinition I.6 ci-dessus en les places x∈ |F| −S ⊂ |F| −Sρ, on a besoin de pr´eciser la forme des homomorphismes

ρ^∗_x:H_x,∅^r → H^G_x,∅, x∈ |F| −Sρ,

et pour cela de rappeler l’isomorphisme de Satake. `A cette fin, on choisit une fois pour toutes un tore maximal T d´efini surF du groupe r´eductif quasi-d´eploy´eGet on noteS_G ={g ∈G|g⁻¹T g=T}/T le groupe de Weyl deG.

Proposition I.7.–

Soitxune place en laquelle le groupe quasi-d´eploy´eGest non ramifi´e, et soit S^x_G={w∈SG|σx(w) = w} le groupe de WeylFx-rationnel deG.

SoientT_x^d le plus grand sous-tore deT qui est d´eploy´e surF_x,Tb_x^dson tore complexe dual muni de l’action deS^x_G, etImTb_x^d le plus grand sous-tore r´eel compact deTb_x^d.

Alors :

(i) Il existe un isomorphisme, appel´e isomorphisme de Satake, S_x^G:H^G_x −→^∼ C[Tb_x^d]^SxG

si bien que les caract`eres de l’alg`ebre commutative H^G_x sont associ´es aux ´el´ements de Tb_x^d, modulo l’action du groupe fini S^x_G.

(ii) Pour tout ´el´ement λ∈Tb_x^d, il existe une unique fonction

ϕ^G_x,λ:G(Ox)\G(Fx)/G(Ox)→C telle que

ϕ^G_x,λ∗ϕ_x=ϕ_x∗ϕ^G_x,λ=S_x^G(ϕ_x)(λ)·ϕ^G_x,λ, ∀ϕ_x∈ H^G_x,∅, et

ϕ^G_x,λ(1) = 1.

(iii) Il existe une unique mesure dλ sur ImTb_x^d, appel´ee la mesure de Plancherel, telle que pour tout ϕx ∈ H^G_x,∅, on ait

ϕx(g) = Z

ImTb_x^d

dλ·S_x^G(ϕx)(λ)·ϕ^G_x,λ(g), ∀g∈G(Fx).

Si Tr=G^rm d´esigne le tore maximal de GLret Tbr= (C^×)^r son tore dual, on dispose de mˆeme en toute placex∈ |F| de l’isomorphisme de Satake sur GLr(Fx)

S_x^r:H^r_x,∅−→^∼ C[Tbr]^Sr.

Passons maintenant aux homomorphismesρ^∗_xen les placesx∈ |F| −S_ρ : Lemme I.8.–

Quitte `a remplacer la repr´esentation de transfertρ:GboΓ_F →GL_r(C)par une repr´esentation conjugu´ee, supposons – ce que nous ferons toujours d´esormais – qu’elle induit un homomorphisme entre tores maximaux

ρT :Tb→Tbr= (C^×)^r.

En une place non ramifi´ee arbitrairex∈ |F| −Sρ, notonsexl’ordre de l’´el´ement de Frobeniusσxagissant sur l’espaceC^r deGLr(C). Alors :

(i) Le dual Tb_x^d de T_x^d s’identifie au quotient de Tb par le sous-tore {λ·σx(λ⁻¹) | λ ∈ Tb}, si bien que l’homomorphisme

Tb → Tbr

λ 7→ ρT(λ·σx(λ). . . σ_x^ex−1(λ)) d´efinit un homomorphisme

ρT ,x:Tb_x^d→Tbr. (ii) Il est possible d’ordonner la famille

ε_x= (ε¹_x, . . . , ε^r_x)∈(C^×)^r

desrvaleurs propres de σx agissant surC^r, de telle fa¸con que l’homomorphisme d’alg`ebres ρ^∗_x:H^r_x,∅→ H^G_x,∅,

vu comme un homomorphisme

ρ^∗_x:C[Tbr]^Sr →C[Tb_x^d]^SxG v´erifie

ρ^∗_x(px)(λ^ex) =px(εx·ρT ,x(λ)), ∀λ∈Tb_x^d, ∀px∈C[Tbr]^Sr.

En toute placex∈ |F|et pour tout caract`ereλ⁰∈Tbr= (C^×)^r, il existe une unique fonction deψ_(r)-type de Whittaker

W_x,λ^r,ψ0^x: GLr(Fx)/GLr(Ox)→C telle que

W_x,λ^r,ψ0^x∗ϕ⁰_x=S_x^r(ϕ⁰_x)(λ⁰)·W_x,λ^r,ψ0^x

et

W_x,λ^r,ψ0^x

























γ_x^r−1 0 . . . 0 0 . .. . .. ... ... . .. γ_x 0 0 . . . 0 1

























= 1

pour n’importe quel ´el´ement γx∈F_x^× de valuationvx(γx) ´egale au conducteurNψ_x de la composanteψxde ψenx.

On a :

Proposition I.9.–

En toute placex∈ |F|−S⊂ |F|−Sρ, les noyaux locaux du transfert non ramifi´e au sens de la d´efinitionI.6 K_ψ^G,ρ

x :G(Ox)\G(Fx)/G(Ox)×GLr(Fx)/GLr(Ox)→C sont exactement les fonctions de la forme

K_ψ^G,ρ

x (g, g⁰) = Z

ImTb_x^d

dλ^ex·p_x(λ^ex)·ϕ^G_x,λex(g)·W_x,ε^r,ψx

x·ρT ,x(λ)(g⁰) pour un certain polynˆome sym´etrique px∈C[Tb_x^d]^SxG.

Remarque :

Pour que le produit infini Q

x∈|F|

K_ψ^G,ρ

x ait un sens comme fonction sur (G×GL_r)(A), on demande que

px= 1 en presque toute placex∈ |F| −S.

Notons µG : Gm →ZG ⊂Gle cocaract`ere central de Gbien d´efini surF qui correspond au caract`ere bµG:Gb→C^× compos´e deGb−→^ρ GLr(C) et du d´eterminant.

On remarque : Corollaire I.10.–

Soit

ω_ρ:A^×/F^×→C^×

le caract`ere automorphe d’ordre fini qui correspond, via la th´eorie du corps de classes, au caract`ere ΓF →C^×

compos´e deΓF →GLr(C)et du d´eterminant.

Alors, en toute placex∈ |F| −S ⊂ |F| −S_ρ, les noyaux locaux du transfert non ramifi´e K_ψ^G,ρ

x :G(F_x)×GL_r(F_x)→C v´erifient la condition

K_ψ^G,ρ

x (g, z g⁰) =K_ψ^G,ρ

x (µG(z)g, g⁰)·ωρ(z), ∀z∈F_x^×.

Remarque :

Il est naturel de demander `a la suite de ce corollaire – et nous le ferons toujours d´esormais – que, en toutes les placesx∈ |F|sans exception, les facteursK_ψ^G,ρ

x de la d´efinition I.6 v´erifient la mˆeme condition K_ψ^G,ρ

x (g, z g⁰) =K_ψ^G,ρ

x (µ_G(z)g, g⁰)·ω_ρ(z), ∀z∈F_x^×. D´emonstration du corollaire :

La conclusion r´esulte de ce que, en toute placex∈ |F| −Sρ, le produitε¹_x. . . ε^r_x desr composantes de εx= (ε¹_x, . . . , ε^r_x) est ´egal au d´eterminant deσxagissant sur l’espaceC^rde GLr(C). En effet,εx= (ε¹_x, . . . , ε^r_x) est la famille desrvaleurs propres de cette action.

´

Etant donn´ee une famille de fonctions locales K_ψ^G,ρ

x :G(F_x)×GL_r(F_x)→C, x∈ |F|,

v´erifiant toutes les conditions que nous avons ´enonc´ees, leψ_(r)-coefficient unipotent W_(r)^ψ K:G(F)\G(A)×G(F)\G(A)×GL_r(A) → C

(g1, g2, g) 7→ X

γ∈G(F)



 Y

x∈|F|

K_ψ^G,ρ

x



(g₁⁻¹γ g2, g)

correspond `a une fonction cuspidale

K^c=K_ψ^G,ρ: (G×G×Qr)(F)\(G×G×GLr)(A) → C

(g1, g2, g) 7→ X

δ∈Nr−1(F)\GLr−1(F)

W_(r)^ψK(g1, g2, δg)

qui, en toute placex∈ |F|−S⊂ |F|−Sρ, est compatible avecρ^∗_x:H^r_x,∅→ H^G_x,∅et avec l’involutionϕx7→ϕ^∨_x deH^G_x,∅.

Conjecture I.11.–

Si en chaque place x∈S, la fonction locale K_ψ^G,ρ

x :G(Fx)×GLr(Fx)→C

v´erifient certaines conditions qui d´ependent de la restriction de ρen GboΓ_Fx →GL_r(C), il est possible de construire une fonction

K^nc=K_ψ^G,ρ: (G×G×Q_r)(F)\(G×G×GL_r)(A)→C qui est non cuspidale au sens que

W_(r)^ψ K^nc= 0,

est compatible avecρ^∗_x :H_x,∅^r → H_x,∅^G et avec l’involution ϕx7→ϕ^∨_x deH^G_x,∅ en toute placex∈ |F| −S, et telle que la somme

K^G,ρ=K=K^c+K^nc=K_ψ^G,ρ+K_ψ^G,ρ

soit invariante `a gauche parGLr(F) et d´efinisse un S-noyau du transfert parρ.

Dans le but d’essayer de prouver cette conjecture, on introduit comme dans la th´eorie des “th´eor`emes r´eciproques” (voir [Cogdell, Piatetski-Shapiro]) les matrices de permutation en rangr

wr=













0 . . . 0 1 ... . ..

. .. 0 0 . ..

. .. ... 1 0 . . . 0













, wr−1=

















0 . . . 0 1 0 ... . ..

. .. 0 ... 0 . ..

. .. ... ... 1 0 . . . 0 0 0 . . . 0 1

















, αr=wrwr−1=

















0 . . . 0 1 1 0 . . . 0 0 0 . .. . .. ... ... ... . .. . .. 0 ... 0 . . . 0 1 0















 ,

et le sous-groupe mirabolique inf´erieur

Q^op_r = (α⁻¹_r N_rα_r)·GL_r−1= GL_r−1·(α⁻¹_r N_rα_r) =





















∗ . . . ∗ 0 ... ... ...

∗ . . . ∗ 0

∗ . . . ∗ 1



















 .

Remarquant que

(α_r⁻¹Nrαr)∩GL_r−1=N_r−1, on forme la somme

Ke_ψ^G,ρ(g1, g2, g) = X

δ∈N(r−1)(F)\GLr−1(F)

W_(r)^ψ K(g1, g2, αrδg).

La fonction ainsi d´efinie sur (G×G×GLr)(A) est compatible avec ρ^∗_x : H_x,∅^r → H^G_x,∅ et avec l’involution ϕx7→ϕ^∨_x deH^G_x,∅en toute place x∈ |F| −S, et elle est invariante `a gauche par (G×G×Qr)(F).

La conjecture suivante implique la pr´ec´edente : Conjecture I.12.–

Sous les hypoth`eses de la conjectureI.11, il est possible de construire deux fonctions compl´ementaires K_ψ^G,ρ: (G×G×Qr)(F)\(G×G×GLr)(A)→C,

Ke_ψ^G,ρ: (G×G×Q^op_r )(F)\(G×G×GL_r)(A)→C,

toutes deux compatibles avec ρ^∗_x : H^r_x,∅ → H^G_x,∅ et avec l’involution ϕx 7→ ϕ^∨_x de H^G_x,∅ en toute place x∈

|F| −S, et telles que K_ψ^G,ρ soit non cuspidale, et

K_ψ^G,ρ+K_ψ^G,ρ=Ke_ψ^G,ρ+Ke_ψ^G,ρ.

Remarque :

L’implication r´esulte de ce que GL_r(F) est engendr´e par ses sous-groupesQ_r(F) etQ^op_r (F).

II. Int´egrales de Rankin-Selberg, facteurs L locaux et transformation de Fourier

Rappelons qu’on part d’une fonction localement constante

W_(r)^ψK: (G×G×GL_r)(A)→C de la forme

(g₁, g₂, g)7→W_(r)^ψ K(g₁, g₂, g) = X

γ∈G(F)



 Y

x∈|F|

K_ψ^G,ρ

x



(g₁⁻¹γ g₂, g). Les facteurs locauxK_ψ^G,ρ

x en les placesx∈ |F| −S⊂ |F| −S_ρ sont des noyaux du transfert non ramifi´e. Le produit Q

x∈|F|

K_ψ^G,ρ

x

!

(•,•) est `a supports compacts dansG(A) en la premi`ere variable et deψ(r)-type de Whittaker sur GLr(A) en la seconde variable, et il v´erifie



 Y

x∈|F|

K_ψ^G,ρ

x



(g, zg⁰) =



 Y

x∈|F|

K_ψ^G,ρ

x



(µG(z)g, g⁰)·ωρ(z), ∀z∈A^×.

On cherche `a comparer les deux fonctions sommes sur (G×G×GLr)(A) K_ψ^G,ρ(g1, g2, g) = X

δ∈Nr−1(F)\GLr−1(F)

W_(r)^ψK(g1, g2, δg),

Ke_ψ^G,ρ(g₁, g₂, g) = X

δ∈Nr−1(F)\GLr−1(F)

W_(r)^ψ K(g₁, g₂, α_rδg),

et, si possible, `a construire deux fonctions compl´ementaires

K_ψ^G,ρ: (G×G×Qr)(F)\(G×G×GLr)(A)→C, Ke_ψ^G,ρ: (G×G×Q^op_r )(F)\(G×G×GLr)(A)→C, v´erifiant l’´egalit´eK_ψ^G,ρ+K_ψ^G,ρ=Ke_ψ^G,ρ+Ke_ψ^G,ρ.

Dans ce but, on consid`ere une fonction test localement constante `a support compact arbitraire h= O

x∈|F|

h_x: GL_r−1(A)→C

et on forme les produits scalaires

K_ψ^G,ρ,h(g1, g2, g) = Z

GLr−1(A)

dg⁰·K_ψ^G,ρ(g1, g2, g⁰g)·h(g⁰),

Ke_ψ^G,ρ,h(g₁, g₂, g) = Z

GLr−1(A)

dg⁰·Ke_ψ^G,ρ(g₁, g₂, g⁰g)·h(g⁰).

Lemme II.1.–

Les produits scalairesK_ψ^G,ρ,h(g1, g2, g)etKe_ψ^G,ρ,h(g1, g2, g)se d´eveloppent en K_ψ^G,ρ,h(g1, g2, g) = X

γ∈G(F)

X

δ∈Nr−1(F)\GLr−1(F)

W_ψ,g^G,ρ,h

1,g₂,g(γ, δ),

Ke_ψ^G,ρ,h(g1, g2, g) = X

γ∈G(F)

X

δ∈GLr−1(F)/N_r−1(F)

fW_ψ,g^G,ρ,h

1,g₂,g(γ, δ), o`u

W_ψ,g^G,ρ,h

1,g₂,g = O

x∈|F|

W_ψ^G,ρ,hx

x,g₁,g₂,g

et

Wf_ψ,g^G,ρ,h

1,g₂,g = O

x∈|F|

Wf_ψ^G,ρ,hx

x,g₁,g₂,g

sont les produits des fonctions locales

G(F_x)×GL_r−1(F_x)→C, respectivement d´efinies en chaque placex∈ |F| par les int´egrales

W_ψ^G,ρ,hx

x,g1,g2,g(mx, m⁰_x) = Z

GLr−1(Fx)

dg⁰_x·K_ψ^G,ρ

x (g⁻¹₁ m⁻¹_x g2, g_x⁰ g)·hx(m⁰⁻¹_x g⁰_x) et

Wf_ψ^G,ρ,hx

x,g₁,g₂,g(mx, m⁰_x) = Z

GLr−1(Fx)

dg_x⁰ ·K_ψ^G,ρ

x (g₁⁻¹mxg2, αrg_x⁰ g)·hx(m⁰_xg⁰_x)

= Z

GLr−1(F_x)

dg_x⁰ ·K_ψ^G,ρ

x (g₁⁻¹mxg2, wrt

g⁰⁻¹_x g)·hx(m⁰_xwr−1t

g_x⁰⁻¹).

En toute placex∈ |F| −S⊂ |F| −Sρ, le noyauK_ψ^G,ρ

x se d´ecompose spectralement sous la forme K_ψ^G,ρ

x (g, g⁰) = Z

ImTb_x^d

dλ·K_ψ^G,ρ

x,λ(g, g⁰) o`u, pour tout caract`ere unitaireλ∈ImTb_x^ddeH^G_x,∅,K_ψ^G,ρ

x,λ(•,•) est le produit de la fonction sph´erique propre normalis´ee ϕ^G_x,λ :G(Fx)→Cet d’une fonctionWλ: GLr(Fx)/GLr(Ox)→Cdeψ(r)-type de Whittaker qui v´erifie

W_λ∗ϕ⁰_x= ((ρ_x)_∗(λ))(ϕ⁰_x)·W_λ, ∀ϕ⁰_x∈ H^r_x,∅,

autrement dit qui appartient auψ_(r)-mod`ele de Whittaker du caract`ere unitaire (ρx)_∗(λ) deH^r_x,∅.

Si le facteur localhxen une telle placexde la fonction testhest sph´erique, il admet quant `a lui (d’apr`es la proposition I.7(iii) appliqu´ee au groupe GLr−1) une d´ecomposition spectrale de la forme

hx(g⁰) = Z

ImTbr−1=U(1)^r−1

dz·S_x^r−1(hx)(z)·ϕ^r−1_x,z (g⁰), g⁰∈GL_r−1(Fx).

Un r´esultat fondamental de Jacquet, Piatetski-Shapiro et Shalika – l’´equation fonctionnelle locale des int´egrales de Rankin-Selberg – permet de donner des d´ecompositions spectrales deW_ψ^G,ρ,hx

x,g₁,g₂,g et fW_ψ^G,ρ,hx

x,g₁,g₂,g

`

a partir de celles deK_ψ^G,ρ

x ethx, et de les relier par une ´equation fonctionnelle : Th´eor`eme II.2.–

Soitx∈ |F| −S⊂ |F| −S_ρ une place en laquelle le facteurh_x de la fonction testhest sph´erique. Alors : (i) Les deux fonctions W_ψ^G,ρ,hx

x,g1,g2,g etWf_ψ^G,ρ,hx

x,g1,g2,g sur (G×GL_r−1)(F_x)admettent des d´ecompositions spec- trales de la forme

W_ψ^G,ρ,hx

x,g₁,g₂,g(mx, m⁰_x) = Z

ImTb_x^d

dλ· Z

ImTbr−1

dz·Lx

ρ, λ⁻¹, z⁻¹, q⁻

1

x2

·W_ψ^G,ρ,hx,λ,z

x,g₁,g₂,g (mx, m⁰_x),

Wf_ψ^G,ρ,hx

x,g1,g2,g(m_x, m⁰_x) = Z

ImTb_x^d

dλ· Z

ImTbr−1

dz·L_x

ρ, λ⁻¹, z⁻¹, qx⁻¹²

·Wf_ψ^G,ρ,hx,λ,z

x,g1,g2,g (m_x, m⁰_x), o`u

• chaque fonction W_ψ^G,ρ,hx,λ,z

x,g₁,g₂,g [resp. Wf_ψ^G,ρ,hx,λ,z

x,g₁,g₂,g ] sur G(Fx)×GL_r−1(Fx) est ´el´ement de l’espace propre associ´e `a la paire (λ, z) de repr´esentations lisses admissibles irr´eductibles unitaires de G(Fx)etGLr−1(Fx),

• la d´ependance des W_ψ^G,ρ,hx,λ,z

x,g1,g2,g(mx, m⁰_x) etWf_ψ^G,ρ,hx,λ,z

x,g1,g2,g (mx, m⁰_x), mx∈G(Fx),m⁰_x ∈GL_r−1(Fx), en les valeurs propresλ∈Tb_x^d etz∈Tbr−1= (C^×)^r−1 est polynomiale,

• si les(ρx)ⁱ_∗(λ),1≤i≤r, d´esignent lesrvaleurs propres de Hecke du caract`ere(ρx)∗(λ)deH<sub>x,∅</sub><sup>r</sup> , et les z<sub>j</sub>, 1 ≤ j ≤ r−1, d´esignent les r−1 valeurs propres de Hecke du caract`ere z de H^r−1_x,∅ , Lx(ρ, λ, z, Z)est le d´enominateur

Lx(ρ, λ, z, Z) = Y

1≤i≤r 1≤j≤r−1

1

1−(ρ_x)ⁱ_∗(λ)·z_j·Z .

(ii) On a les ´equations fonctionnelles Wf_ψ^{G,ρ,hx,λ−1,z−1}

x,g₁,g₂,g (mx, m⁰_x) =W_ψ^G,ρ,hx,λ,z

x,g₁,g₂,g (m⁻¹_x , m⁰⁻¹_x )·εx

ρ, λ, z, ψx, q⁻

1

x2

o`u

εx(ρ, λ, z, ψx, Z) = Y

1≤i≤r 1≤j≤r−1

εx((ρx)ⁱ_∗(λ)·zj, ψx, Z).

Afin de g´en´eraliser ce r´esultat au cas d’une fonction test localement constante `a support compact arbitraire hx: GLr−1(Fx)→C,

on doit la d´ecomposer spectralement.

On rappelle : Proposition II.3.–

En n’importe quel rangr≥1, on a :

(i) L’espace des repr´esentations lisses admissibles irr´eductibles unitaires [resp. et temp´er´ees]πdeGLr(Fx) se d´ecompose comme une r´eunion disjointe de vari´et´es alg´ebriques r´eelles

Im [π₀]/Fixe (r, π₀) index´ees par des paires (r, π0)o`u

• rd´esigne une partitionr=r1+. . .+rk du rang r,

• π0est une repr´esentation lisse admissible irr´eductible unitaire discr`ete [resp. et de carr´e int´egrable]

deGLr(Fx) = GLr1(Fx)×. . .×GLr_k(Fx),

• [π₀] est une vari´et´e alg´ebrique complexe sur laquelle le tore complexe (C^×)^k agit simplement transitivement,

• Im [π₀]est une sous-vari´et´e alg´ebrique r´eelle compacte de[π₀]sur laquelle le sous-tore U(1)^k agit simplement transitivement,

• Fixe (r, π₀)est un groupe fini qui agit sur[π₀] en respectantIm [π₀].

Cela permet de parler de fonctions polynomiales sur cet espace : ce sont les fonctions nulles en dehors d’un nombre fini de composantes et dont la restriction `a chaque composante Im [π0]/Fixe (r, π0) est polynomiale et se prolonge donc en un polynˆome sur la vari´et´e complexe[π0]invariant parFixe (r, π0).

(ii) Cet espace est muni d’une mesure dπ support´ee par les repr´esentations temp´er´ees, dite “mesure de Plancherel”, telle que toute fonction localement constante `a support compact

h_x: GL_r(F_x)→C se d´ecompose spectralement sous la forme

hx(g) = Z

dπ·hx,π(g), g∈GLr(Fx), o`u

• chaque hx,π : GLr(Fx)→ C est ´el´ement du sous-espace propre associ´e `a π, c’est-`a-dire est une combinaison lin´eaire de coefficients matriciels deπ,

• chaque fonction π7→h_x,π(g),g∈GL_r(F_x), est un polynˆome.

Ce rappel ´etant fait, on peut d´eduire de l’´equation fonctionnelle locale de Jacquet, Piatetski-Shapiro et Shalika :

Th´eor`eme II.4.–

En n’importe quelle placex∈ |F| −S⊂ |F| −S_ρ, consid´erons la d´ecomposition spectrale h_x(•) =

Z

dπ·h_x,π(•)

de la fonction test localement constante `a support compact hx: GLr−1(Fx)→C. Alors : (i) Les deux fonctions W_ψ^G,ρ,hx

x,g₁,g₂,g etWf_ψ^G,ρ,hx

x,g₁,g₂,g sur (G×GL_r−1)(Fx)admettent des d´ecompositions spec- trales de la forme

W_ψ,g^G,ρ,hx

1,g2,g(m_x, m⁰_x) = Z

ImTb_x^d

dλ· Z

dπ·L_x

ρ, λ⁻¹, π^∨, qx⁻¹²

·W_ψ^{G,ρ,hx,λ,π}

x,g1,g2,g (m_x, m⁰_x), Wf_ψ,g^G,ρ,hx

1,g₂,g(m_x, m⁰_x) = Z

ImTb_x^d

dλ· Z

dπ·L_x

ρ, λ⁻¹, π^∨, qx⁻¹²

·Wf_ψ^{G,ρ,hx,λ,π}

x,g₁,g₂,g (m_x, m⁰_x), o`u