Quelques remarques sur le principe de fonctorialit´e Laurent Laﬀorgue

(1)

Quelques remarques sur le principe de fonctorialit´ e

Laurent Lafforgue

Institut des Hautes ´ Etudes Scientifiques, 35 route de Chartres, F-91440 Bures-sur-Yvette

Exposé I (2 mai 2006) : Principe de diagonalisation 1. Groupes linéaires adéliques

2. Le théorème de décomposition spectrale de Langlands 3. L’expression spectrale des noyaux

4. Isomorphisme de Satake et groupe dual de Langlands 5. Le principe de fonctorialit´e de Langlands

6. Premi`ere id´ee de ce qu’on voudrait faire : comparer deux formules de traces “diagonales”

7. Diagonalisation d’un produit de formules de traces, au moyen de s´eries formelles

(2)

Expos´e I :

Principe de diagonalisation

1 Groupes lin´ eaires ad´ eliques

On sera toujours sur le corps des fonctionsF d’une courbeX projective, lisse et g´eom´etriquement connexe sur un corps finiFq.

On note|X|l’ensemble des places deF identifi´ees aux points ferm´es deX. Pour toute placex∈ |X|, on note :

• F_xle compl´et´ex-adique deF,

• O_x l’anneau des entiers deF_x,

• deg(x) la dimension surFq du corps r´esiduelκ(x) deOx, avec donc|κ(x)|=q^deg(x)=qx,

• x:F_x^×→Zla valuation qui accorde la valeur 1 aux éléments uniformisants deO_x, et| • |=qx^−v^x^(•) la norme associée.

On noteraA=AF l’anneau des ad`eles de F et O_A=O_A_F son sous-anneau des entiers.

On dispose de l’homomorphisme de degr´e

deg : A^× → Z

(a_x)_x∈|X| 7→ −X

x

deg(x)·x(a_x).

Son noyauA^×0 contientF^× d’apr`es la “formule du produit” et le quotient F^×\A^×0 est compact.

Pour nous, un “groupe linéaire surF” sera un groupe algébrique réductif quasi-déployé surF de la forme G= Y

i∈IG

Res_E_i_/FGL_r_i

oùI_G est un ensemble fini d’indices et où, pour touti∈I_G, E_i désigne une extension finie séparée deF et Res_E_i_/FGL_r_i désigne le groupe algébrique surF déduit de GL_r_i par restriction des scalaires à la Weil deE_i

` aF.

Il lui est associé un groupe linéaire adélique G(A) = Y

i∈IG

GLri(AEi) qui contient le sous-groupe ouvert compact maximal

K₀^G = Y

i∈IG

GL_r_i(O_A_Ei)

= Y

x∈|X|

K_0,x^G .

(3)

On noteMGl’ensemble fini des sous-groupes de Lévi “standard” deG, c’est-à-dire ceux dont la compo- sante dans chaque Res_E_i_/FGLr_i est un produit de blocs associé à une partition de l’entierri.

Le plus petit des sous-groupes de L´evi standard est le tore diagonal T_G= Y

i∈IG

Res_E_i_/FG^rmⁱ.

Puis on notePG l’ensemble fini des sous-groupes paraboliquesP deGdont le sous-groupe de L´eviMP

est ´el´ement deMG. Pour chaqueP ∈ PG, on noteNP son radical unipotent.

On dispose du groupe de Weyl deG

W_G = Y

i∈IG

S_r_i

et des sous-groupes de WeylWM ⊆WG des sous-groupes de L´eviM ∈ MG. Pour tousP, P⁰ ∈ PG, on note Isom(P, P⁰) l’ensemble des doubles classes

w∈W_M_P₀\W_G/W_M_P telles que

w⁻¹·MP⁰·w=MP, ce qui implique

w⁻¹·WM_P0·w=WM_P.

Si P, P⁰, P⁰⁰ ∈ PG et w ∈ Isom(P, P⁰), w⁰ ∈ Isom(P⁰, P⁰⁰), w⁰w est bien défini en tant qu’élément de Isom(P, P⁰⁰), si bien quePG devient un groupo¨ıde.

2 Le th´ eor` eme de d´ ecomposition spectrale de Langlands

Le centre deGest

ZG= Y

i∈IG

Res_E_i_/FGm, et le centre deG(A) est

Z_G(A) = Y

i∈IG

A^×Ei. Il contient comme sous-groupe ferm´e

Y

i∈I_G

A^×_F. On choisit dans celui-ci un sous-groupe discretAG tel que

AG,→ Y

i∈I_G

A^×F

−→deg Z^I^G

soit injectif et de conoyau fini, et donc queA_G soit un sous-groupe discret et cocompact deZ_G(F)\ZG(A).

Pour cela, on peut choisir par exemple une placex0∈ |X|, un élément a0 ∈F_x^×₀ de valuation non nulle, et poserAG= (a^Z₀)Î^G.

Le quotient

G(F)\G(A)/A_G

est localement compact et de volume fini pour la mesure de Haardgsur G(A) qui attribue le volume 1 au sous-groupe ouvert compact maximalK₀^G.

(4)

On s’int´eresse `a l’espace de Hilbert

L²(G(F)\G(A)/AG) muni de l’action par convolution `a droite de l’alg`ebre de Hecke

H^G =C_c^∞(G(A)). Plus g´en´eralement, siM ∈ M_G et

χ:Z_M(F)\ZM(A)/A_G→C^×

est un caract`ere unitaire du centreZM(A) deM(A), on peut consid´erer l’espace de Hilbert L²(M(F)\M(A)/AG, χ)

des fonctions

ϕ:M(F)\M(A)/AG→C telles que

• ϕ(z·m) =χ(z)·ϕ(m),∀z∈ZM(A),∀m∈M(A),

• |ϕ|est de carr´e int´egrable surM(F)\M(A)/ZM(A).

Cet espace de HilbertL²(M(F)\M(A)/A_G, χ) est muni d’une action par convolution à droite de l’algèbre de HeckeH^M =C_c^∞(M(A)). Il contient comme sous-espace fermé invariant l’espace

L²_cusp(M(F)\M(A)/A_G, χ) des fonctionsϕdites cuspidales au sens que

Z

N_P(F)\NP(A)

dnP ·ϕ(nP·m) = 0, ∀m∈M(A),

pour tout sous-groupe paraboliqueP M muni de la mesure de HaardnP deNP(A) qui attribue le volume 1 au quotient compactNP(F)\NP(A).

Une représentation irréductible deH^M de caractère centralχest dite “automorphe cuspidale” quand elle apparaˆıt comme facteur direct deL²_cusp(M(F)\M(A)/A_G, χ). On sait que cet espace est la somme directe hilbertienne de ces représentations, chacune apparaissant avec la multiplicité 1.

Plus généralement, une représentation irréductible de H^M de caractère centralχ est dite “automorphe discrète” quand elle apparaˆıt comme facteur direct de L²(M(F)\M(A)/AG, χ) lequel, comme nous allons rappeler dans le casM =G, n’est pas somme directe hilbertienne de ces représentations : il contient aussi un spectre continu.

Dans le but de donner la décomposition spectrale de L²(G(F)\G(A)/AG), appelons “paire discrète” la donnée d’un sous-groupe parabolique standard P ∈ PG et d’une représentation irréductible automorphe discrète πdeMP(A) dont le caractère centralχπ est trivial surAG.

PourP ∈ P_G, on d´esignera par

ρ_P :M_P(A)→R^×+

la racine carré du caractère modulaire deM_P(A), définie par

m_P·dn_P·m⁻¹_P =ρ_P(m_P)²·dn_P, ∀m_P ∈M_P(A). Pour toute paire discr`ete (P, π), on note

L²_∞(MP(F)NP(A)\G(A)/AG, π) l’espace des fonctions

ϕ:MP(F)NP(A)\G(A)/AG→C telles que

(5)

• ϕest invariante `a droite par un sous-groupe ouvert K deK₀^G,

• pour tout ´el´ement k∈K₀^G, la fonction

ϕk : MP(F)\MP(A)/AG → C

m 7→ ρ_P(m)⁻¹·ϕ(m·k) est dans le sous-espaceπdeL²(M_P(F)\MP(A)/A_G, χ_π). On note

kϕk²= Z

K₀^G

dk· kϕkk²,

sidkest la mesure de Haar de volume 1 surK₀^G, c’est-`a-dire la restriction dedg.

Pour tout P ∈ PG, on note |P| le nombre total de blocs matriciels qui sont les facteurs du groupe algébrique linéaireMP; et on note ΛP le tore complexe des caractères

MP(A)/AG→C^× qui se factorisent `a travers

MP(A) −−−−−−−−−→^deg^◦^Nm^◦^det Z^|P|. La dimension de ce tore est|P| − |IG|.

On note Im ΛP le sous-groupe réel compact de ΛP constitué des caractères unitaires, et Re ΛP le sous- groupe réel des caractères à valeurs dansR^×+, avec la décomposition

ΛP = Im ΛP ×Re ΛP. On met sur Im Λ_P la mesure de Haardλ_P de volume 1.

On remarque queρP ∈Re ΛP.

Tout caractèreλ_P ∈Λ_P s’étend en un caractère deP(A) via l’homomorphismeP(A)→M_P(A), puis en une fonction surG(A) invariante à droite parK₀^G si on utilise la décomposition d’IwasawaG(A) =P(A)·K₀^G et l’invariance du caractère λ_P deP(A) par le sous-groupe P(A)∩K₀^G.

Pour toute paire discr`ete (P, π), notons alors

L²_∞(Im Λ_P×M_P(F)N_P(A)\G(A)/A_G, π) l’espace (dit “de Paley-Wiener”) des fonctions

Φ : Im Λ_P×M_P(F)N_P(A)\G(A)/A_G→C telles que l’application compos´ee

λP 7→Φ(λP,•) soit une combinaison lin´eaire finie `a coefficients dans

L²_∞(MP(F)NP(A)\G(A)/AG, π) de caract`eres du tore Im ΛP.

On munit cet espace de la norme hilbertienne kΦk²=

Z

Im ΛP

dλP· kΦ(λP,•)k².

(6)

Rappelons la définition des séries d’Eisenstein : Si (P, π) est une paire discrète,ϕ∈L²_∞(MP(F)NP(A)\G(A)/

AG, π) etλP ∈ΛP, la s´erie d’Eisenstein

E_P^G(ϕ, λP) est d´efinie sur un ouvert de ΛP 3λP par la s´erie

G(F)\G(A)3g7→ X

δ∈P(F)\G(F)

(ϕ·λP)(δg)

qui converge absolument dans cet ouvert, et ailleurs par prolongement analytique ; elle n’a pas de pˆole qui rencontre Im ΛP.

Puis rappelons la définition des opérateurs d’entrelacement : Soit d’abord une paire discrète (P, π) et P⁰ ∈ P_G un sous-groupe parabolique tel queM_P⁰ =M_P. Cette égalitéM_P⁰ =M_P induit une identification ΛP⁰ = ΛP et on peut noterλP⁰ ∈ΛP⁰ l’image de toutλP ∈ΛP.

L’int´egrale

M_P^P⁰(ϕ, λP) :g7→

Z

(NP∩N_P0)(A)\N_P0(A)

dnP⁰

dn_P,P⁰ ·(ϕ·λP)(nP⁰·g)·λ⁻¹_P0(g)

(où dnP⁰ et dnP,P⁰ désignent les mesures de Haar de covolume 1 relativement aux réseaux (NP∩NP⁰)(F) et NP⁰(F)) est absolument convergente sur un ouvert de ΛP. Elle se prolonge analytiquement à ΛP tout entier, et aucun de ses pôles ne rencontre Im ΛP. Si (P⁰, π⁰) est la paire discrète qui correspond à (P, π) via l’identitéMP⁰(A) =MP(A), elle prend ses valeurs dansL²_∞(MP⁰(F)NP⁰(A)\G(A)/AG, π⁰).

Si maintenantP⁰∈ PG est un sous-groupe parabolique standard relié àP par un élément w∈Isom(P, P⁰)⊆WM_P0\WG/WM_P,

avec doncw⁻¹·M_P⁰·w=M_P, on définit une fonction méromorphe sur Λ_P à valeurs dans L²_∞(MP⁰(F)NP⁰(A)\G(A)/AG, w(π))

par la formule

M_P,w^P⁰ (ϕ, λP)(g) =M_P^w⁻¹^·P⁰^·w(ϕ, λP)(w⁻¹·g), ∀g∈G(A). Pour toute paire discr`ete (P, π), notons Fixe(π) le groupe fini des couples

(w, µP)∈Aut(P)×ΛP

tels quew(π⊗µP)∼=π.

Puis introduisons le sous-espace

L²_∞,fixe(Im ΛP×MP(F)NP(A)\G(A)/AG, π) de

L²_∞(Im Λ_P×M_P(F)N_P(A)\G(A)/A_G, π) constitu´e des fonctions

Φ : Im Λ_P×M_P(F)N_P(A)\G(A)/A_G→C telles que, pour tout fixateur

(w, µP)∈Fixe(π), on ait

M_P,w^P (Φ(λPµP,•), λPµP) = Φ(w(λP),•), ∀λP ∈Im ΛP.

En particulier, pour toutµP ∈Im ΛPtel queπ⊗µP ∼=π, on doit avoir Φ(λPµP,•) = Φ(λP,•),∀λP ∈Im ΛP.

(7)

Disant que deux paires discrètes (P, π) et (P⁰, π⁰) sont équivalentes s’il existe un w ∈ Isom(P, P⁰) et unλP ∈Im ΛP tels que w(π⊗λP)∼=π⁰, nous pouvons maintenant énoncer le théorème de décomposition spectrale de Langlands :

Théorème I.1.– Pour toute paire discrète(P, π), l’application linéaire définie sur l’espace L²_∞(Im ΛP×MP(F)NP(A)\G(A)/AG, π)

par la formule

Φ7→ 1

|Fixe(π)|^1/2· Z

Im ΛP

dλP·E^G_P(Φ(λP,•), λP) induit une isom´etrie du sous-espace

L²_∞,fixe(Im Λ_P×M_P(F)N_P(A)\G(A)/A_G, π) sur un sous-espace de

L²(G(F)\G(A)/AG)

qui ne dépend que de la classe d’équivalence de (P, π). Et elle est nulle sur le supplémentaire orthogonal de ce sous-espaceL²_∞,fixe dansL²_∞(Im Λ_P×M_P(F)N_P(A)\G(A)/A_G, π).

Elle induit par suite une isométrie du sous-espace complété

L²_fixe(Im Λ_P ×M_P(F)N_P(A)\G(A)/A_G, π) sur un sous-espace ferm´e deL²(G(F)\G(A)/AG).

Enfin, L²(G(F)\G(A)/A_G) est la somme directe hilbertienne de ces sous-espaces fermés quand (P, π) décrit un ensemble de représentants des classes d’équivalence de paires discrètes.

3 L’expression spectrale des noyaux

L’alg`ebre de HeckeH^G=C_c^∞(G(A)) agit par convolution `a droite sur l’espace de HilbertL²(G(F)\G(A)/

AG). Elle agit d’ailleurs via l’alg`ebre quotientH^G/AG=C_c^∞(G(A)/AG) et l’homomorphisme H^G −→ H^G/AG

h 7−→ g7→ X

a∈AG

h(g·a)

! .

Considérons donc un élément h∈ H^G/A_G. C’est une fonction h:G(A)/AG→C

qui est à support compact et invariante à droite et à gauche par un sous-groupe ouvertK deK₀^G.

L’opérateur de Hecke associé est l’opérateur de convolution à droite par h dans l’espace des fonctions localement intégrables

ϕ:G(F)\G(A)/AG →C. Il est d´efini par la formule

ϕ7→ϕ∗h o`u

(ϕ∗h)(g⁰) = Z

G(A)/A_G

dg·ϕ(g⁰·g⁻¹)·h(g).

(8)

Il admet un noyau qui s’´ecrit

Kh(g⁰, g) = X

γ∈G(F)

h(g⁻¹·γ·g⁰),

ce qui signifie que pour toute fonction localement int´egrableϕcomme ci-dessus, on a (ϕ∗h)(g⁰) =

Z

G(F)\G(A)/A_G

dg·K_h(g⁰, g)·ϕ(g).

Pour tout sous-groupe parabolique standardP ∈ PG, on dispose aussi de l’op´erateur de convolution `a droite

ϕ7→ϕ∗h dans l’espace des fonctions localement int´egrables

MP(F)NP(A)\G(A)/AG→C, et pour toutλP ∈ΛP, on dispose de l’op´erateur compos´e

ϕ7→((ϕ·λP)∗h)·λ⁻¹_P =h(ϕ, λP).

Pour toute paire discrète (P, π), chacun de ces opérateurs envoie l’espaceL²_∞(MP(F)NP(A)\G(A)/AG, π) dans le sous-espaceL²_K(MP(F)NP(A)\G(A)/AG, π) des fonctions invariantes à droite parK. Ce sous-espace est toujours de dimension finie et il est nul en dehors d’un ensemble fini de classes d’équivalence de paires discrètes (P, π).

On a comme conséquence immédiate du théorème de décomposition spectrale : Corollaire I.2.– Pour toute fonction de Hecke

h:G(A)/A_G→C

`

a support compact et invariante à droite et à gauche par un sous-groupe ouvert K de K₀^G, le noyau de l’opérateur de convolution à droite par hdansL²(G(F)\G(A)/AG)s’écrit comme une somme

Kh(g1, g2) = X

(P,π)

K_h^(P,π)(g1, g2) de termes de la forme

K_h^(P,π)(g₁, g₂) = 1

|Fixe(π)|· X

ϕ∈B_K(P,π)

Z

Im Λ_P

dλ_P ·E_P^G(h(ϕ, λ_P), λ_P)(g₁)·E_P^G(ϕ, λ_P)(g₂)

o`u

• (P, π) décrit un ensemble de représentants des classes d’équivalence de paires discrètes,

• BK(P, π)d´esigne une base orthonorm´ee finie de chaque espace L²_K(MP(F)NP(A)\G(A)/ AG, π).

4 Isomorphisme de Satake et groupe dual de Langlands

L’alg`ebre de HeckeH^G =C₀^∞(G(A)) de notre groupe lin´eaire G= Q

i∈I_G

Res_E_i_/FGL_r_i s’´ecrit comme le produit tensoriel infini

H^G= O

x∈|X|

H_x^G

(9)

des algèbres de Hecke localesH^G_x =C₀^∞(G(Fx)) munies chacune de l’élément idempotent distingué1x qui est la fonction caractéristique du sous-groupe ouvert compact maximalK_0,x^G = Q

i∈IG

GLr_i(OE_i,x) deG(Fx).

On noteH^G_x,φ la sous-algèbre de Hecke “sphérique” de H^G_x constituée des fonctions à support compact surG(Fx) invariantes à droite et à gauche par K_0,x^G .

On dispose dansGdu tore maximal

T_G= Y

i∈IG

Res_E_i_/FG^rmⁱ.

Si pour tout entier r, on note B_r le sous-groupe de Borel de GL_r constitu´e des matrices triangulaires sup´erieures et N_rson radical unipotent, on dispose encore dansGdu sous-groupe de Borel

B_G= Y

i∈IG

Res_E_i_/FB_r_i et de son radical unipotent

NB = Y

i∈IG

ResE_i/FNri. Le toreTG est le sous-groupe de L´evi deBG.

En chaque place x, on peut mettre sur NB(Fx) la mesure de Haar dnB,x qui attribue le volume 1 au sous-groupe ouvert compact

N_B(F_x)∩K_0,x^G = Y

i∈IG

N_r_i(O_E_i_,x) =N_B(O_x),

et on peut munirTG(Fx) de la racine carréeρB,xdu caractère modulaire deBG(Fx), définie par tx·dnB,x·t⁻¹_x =ρB,x(tx)²·dnB,x.

L’isomorphisme de Satake s’´enonce :

Théorème I.3.– En toute placex, l’application linéaire H^G_x,φ3h_x7→

"

t_x7→ρ_B,x(t_x)· Z

N_B(F_x)

dn_B,x·h_x(t_x·n_B,x)

#

définit un isomorphisme d’algèbres de H^G_x,φ sur l’algèbre des fonctions à support compact T_G(F_x)→C

qui sont invariantes par le groupe de WeylW_G et par le sous-groupe ouvert compact maximal TG(Ox) =TG(Fx)∩K_0,x^G = Y

i∈IG

G^rmⁱ(OE_i,x).

En particulier l’alg`ebre de Hecke sph´eriqueH^G_x,φest commutative.

Pla¸cons-nous maintenant en une placex∈ |X|où toutes les extensionsEideF,i∈IGsont non ramifiées au-dessus deFx. Autrement dit, on a pour touti∈IG une décomposition canonique

E_i,x=Y

j

F_x,i,j

(10)

où tous les facteursFx,i,j, qui sont en nombre fini, sont des extensions non ramifiées deFx. Le toreT(F_x) contient un plus grand sous-tore déployé qui est

Tx=Y

i,j

F_x^×rⁱ,→Y

i,j

F_x,i,j^×rⁱ =T(Fx). Et celui-ci contient comme sous-groupe ouvert compact maximal

Tx,0=Y

i,j

O^×r_F ⁱ

x =Tx∩K_0,x^G .

De plus, le quotient T(Fx)/T(Ox) s’identifie `a Tx/Tx,0 puis, via les homomorphismes de valuation vx, `a Q

i,j

Z^rⁱ.

On a prouv´e :

Corollaire I.4.– Soitxune place o`u tous les E_i sont non ramifi´es surF_x.

Et pour tout i∈IG, soitIi,xl’ensemble fini des composantes de Ei,x=Ei⊗FFx surFx. Alors l’isomorphisme de Satake s’´ecrit canoniquement

S_x^G :H_x,φ^G −→^∼ O

i∈IG j∈Ii,x

C[X_i,j,1^±1 ;. . .;X_i,j,r^±1

i]^S^ri.

Rappelons maintenant que le groupe dual de

G= Y

i∈IG

Res_E_i_/FGLr_i

est

Gˆ= Y

i∈I_G

Y

ι:Ei,→F¯

GLr_i(C)

où, pour touti∈IG, on fait décrire à ι l’ensemble fini des plongements deEi dans la clôture algébrique ¯F deF.

Chacun de ces ensembles {ι : E_i ,→ F}¯ est muni d’une action naturelle du groupe de WeilW_F de F, donc ˆGest lui-mˆeme muni d’une action deW_F et on peut poser

LG= ˆGoW_F.

Considérons une placex∈ |X|. Le choix d’une clôture algébrique ¯FxdeFxdétermine un groupe de Weil localWF_x, et le choix d’un plongement ¯F ,→F¯x induit une immersionWF_x ,→WF. Celle-ci ne dépend des choix qu’à conjugaison près par un élément deWF.

Le groupeW_F_x est muni d’un homomorphisme surjectif canonique WF_x W_κ(x)= Frob^Z_x

vers le groupe de Weil du corps r´esiduelκ(x) en le point ferm´exde la courbe X.

Supposons que les extensionsE_i deF sont toutes non ramifiées en la placex. Alors l’action deW_F_x sur Gˆ se factorise à traversW_κ(x)et on peut considérer le produit restreint

LGx= ˆGoW_κ(x).

(11)

On note encore ˆGx la fibre de ^LGx au-dessus de l’élément générateur Frobx de W_κ(x). Comme le groupe W_κ(x)est commutatif, elle est invariante par conjugaison par les éléments de^LGxet en particulier par ceux de ˆG.

On a encore :

Proposition I.5.– Soitxune place o`u tous les E_i sont non ramifi´es surF_x.

Alors l’isomorphisme de Satake induit un isomorphisme de l’algèbre de Hecke sphériqueH^G_x,φsur l’algèbre des fonctions régulières surGˆ_x qui sont invariantes par conjugaison par les éléments de G.ˆ

D´emonstration.Il suffit de remarquer que pour touti∈IG, l’ensembleIi,xdes facteurs deEi,x=Ei⊗FFx

s’identifie `a l’ensemble des orbites de Frobxagissant sur l’ensemble des plongements{ι:Ei ,→F¯}.

5 Le principe de fonctorialit´ e de Langlands

Une repr´esentation deG(A) [resp.G(Fx) pour une placex∈ |X|] est dite “lisse admissible” si

• tout vecteur de cette repr´esentation est invariant par un sous-groupe ouvert deG(A) [resp.G(F_x)],

• pour tout tel sous-groupe ouvert, le sous-espace de la repr´esentation constitu´e des vecteurs invariants par ce sous-groupe est de dimension finie.

Une représentation lisse admissible de G(A) [resp. G(Fx)] peut aussi bien être considérée comme une représentation de l’algèbre de HeckeH^G=C_c^∞(G(A)) [resp.H^G_x =C_c^∞(G(F_x))].

Toute représentation lisse admissible irréductible π de G(A) se décompose canoniquement comme un produit tensoriel infini

π= O

x∈|X|

πx,

o`u

• chaque facteurπx,x∈ |X|, est une repr´esentation lisse admissible irr´eductible deG(Fx),

• pour presque toute place x (c’est-à-dire pour toute place x sauf un nombre fini), la représentation localeπ_xest “non ramifiée” au sens que son sous-espaceπ_x,φdes vecteurs invariants par le sous-groupe ouvert compact maximalK_0,x^G = Q

i∈IG

GLr_i(OE_i,x) est non nul.

Réciproquement, si desπx sont des représentations des groupes locauxG(Fx),x∈ |X|, qui vérifient ces propriétés, leur produit tensoriel est une représentation lisse admissible irréductible deG(A).

On a :

Lemme I.6. – Se donner une représentation lisse, admissible, irréductible et non ramifiée πx de G(Fx)

équivaut à se donner son sous-espaceπx,φ comme espace de dimension1 muni de l’action par un caractère de l’algèbre de Hecke sphériqueH^G_x,φ.

D’apr`es l’isomorphisme de Satake

S_x^G :H_x,φ^G −→^∼ O

i∈IG j∈Ii,x

C[X_i,j,1^±1 ;. . .;X_i,j,r^±1

i]^S^ri, cela revient `a se donner une famille de nombres complexes

z(πx)∈ Y

i∈IG j∈Ii,x

(C^×)^(rⁱ⁾

(12)

appelés les valeurs propres de Hecke de πx. On pourra appeler “spectre automorphe” deG(A)/AGet on notera Πaut(G(A)/AG) l’ensemble des classes d’isomorphie de représentations lisses admissibles irréductibles deG(A) qui apparaissent (discrètement ou continûment) dans le Théorème I.1 de décomposition spectrale de Langlands deL²(G(F)\G(A)/AG).

Ses éléments sont indexés par

• une paire discrète (P, π) (dans l’ensemble de représentants des classes d’équivalence choisi),

• un caract`ere λP ∈Im ΛP,

modulo l’action des groupes finis Fixe(π).

On dispose des sous-ensembles naturels de Πaut : Πcusp qui correspond à P =Getπ cuspidale, Π_disc,nc qui correspond àP =Get πnon cuspidale, Πdisc qui est la réunion de Πcusp et Πcusp,nc,

Π_Eis qui correspond `a P G,

ΠEis,cuspqui correspond `aP Getπcuspidale, ΠEis,nc= ΠEis−ΠEis,cusp.

On connaˆıt encore le théorème “de multiplicité 1 fort” de Piatetski-Shapiro :

Théorème I.7.– SoitS ⊂ |X| un ensemble fini de places et π, π⁰ ∈Π_aut deux représentations du spectre automorphe deGtelles que, en toute place x /∈S,π_x etπ_x⁰ soient non ramifiées et z(π_x) =z(π⁰_x).

Alorsπ=π⁰.

Consid´erons maintenant un second groupe lin´eaireH surF, et un homomorphisme

LG= ˆGoWF

−→ρ ^LH = ˆHoWF

rendant commutatif le diagramme :

LG

ρ //

!!D

DD DD DD

D ^LH

||zzzzzzzz

W_F

En passant aux composantes connexes des abélianisés, on en déduit un homomorphisme de tores Y

i∈IG

C^×→ Y

i⁰∈IH

C^×

puis un homomorphisme dual

Y

i⁰∈IH

Gm→ Y

i∈IG

Gm.

On supposera toujours que les sous-groupes discretsAGetAHdeG(A) etH(A) sont tels queAH⊂ Q

i⁰∈IH

A^×F

s’envoie dansA_G⊂ Q

i∈I_GA^×F par l’homomorphisme induit entre tores ad´eliques.

En toute placex∈ |X|où les groupes linéairesGet H sont non ramifiés, l’homomorphisme

LG−→^ρ ^LH

(13)

induit un homomorphisme local

LGx= ˆGoW_κ(x) ^ρ^x //

''O

OO OO OO OO

OO ^LHx= ˆHoW_κ(x)

wwooooooooooo

W_κ(x)

et donc, d’après la Proposition I.5, un homomorphisme entre algèbres de Hecke sphériques ρ^∗_x:H^H_x,φ→ H^G_x,φ.

Comme les représentations irréductibles non ramifiées correspondent aux caractères des algèbres de Hecke sphérique, l’homomorphisme ρ^∗_x permet d’associer à toute représentation irréductible non ramifiée πx de G(Fx) une représentation irréductible non ramifiéeπ⁰_xdeH(Fx), ce qu’on notera

π_x⁰ = (ρx)∗(πx) ou encore

z(π⁰_x) = (ρ_x)_∗(z(π_x)). Par d´efinition, on a donc

π_x⁰ = (ρ_x)_∗(π_x) si et seulement si, pour toute fonctionhx∈ H^H_x,φ,

Trπ⁰_x(hx) = Trπ_x(ρ^∗_x(hx)).

Définition I.8.–Etant donnés deux éléments des spectres automorphes π∈Πaut(G(A)/AG), π⁰∈Πaut(H(A)/AH),

on dira queπ⁰ est un transfert deπ si, en presque toute place x∈ |X| o`uG, H, π et π⁰ sont non ramifi´es, on a

π⁰_x= (ρ_x)_∗(π_x).

Siπ∈Π_aut(G) admet un transfertπ⁰∈Π_aut(H), il est n´ecessairement unique et on pourra noter π⁰=ρ_∗(π).

Rappelons maintenant l’énoncé du principe de fonctorialité, qui est connu dans le cas des groupes linéaires sur les corps de fonctions, comme conséquence de la correspondance de Langlands :

Th´eor`eme I.9.–

(i)Dans les conditions o`u nous sommes, toute repr´esentation automorphe cuspidale π ∈Πcusp(G(A)/AG) admet un transfertπ⁰=ρ∗(π) dansΠcusp(H(A)/AH)ouΠEis,cusp(H(A)/AH).

(ii)Il est même possible de définir en toute place x∈ |X| un homomorphisme linéaire ρ^∗_x:H^H_x → H^G_x

tel que :

• il prolonge celui déjà défini H^H_x,φ→ H^G_x,φ quandGetH sont non ramifiés enx,

(14)

• siπ∈Πcusp(G),π⁰=ρ_∗(π) ethx∈ H^H_x, on a

Trπ_x⁰(hx) = Trπ_x(ρ^∗_x(hx)).

Remarque.On peut se demander si toute repr´esentation du spectre automorpheπ∈Πaut(G(A)/AG) admet

un transfert dans le spectre automorphe Πaut(H(A)/AH).

Le premier cas “non-ab´elien” est celui de l’induction automorphe de GL1 `a GL2 via une extension quadratiqueE deF.

Cette extension correspond `a un homomorphisme surjectif WF →Z/2Z=S2. On prendG= Res_E/FGL1 etH = GL2 avec donc

Hˆ = GL2(C),

LH = ˆH×WF, Gˆ=C^××C^×

muni de l’action deWF induite par WF S2 et la permutation des 2 facteurs,

LG= ˆGoW_F.

Alorsρ: ^LG→ ^LH est défini en associant à tout ((λ₁, λ₂), σ)∈GôW_F

•

λ1 0 0 λ2

, σ

si l’image deσdansS2est triviale,

•

0 λ₁ λ₂ 0

, σ

si l’image deσdansS₂est non triviale.

Voyons maintenant ce qui se passe entre alg`ebres de Hecke sph´eriques.

En toute placex∈ |X|, l’isomorphisme de Satake pourH s’´ecrit S_x^H :H_x,φ^H −→^∼ C[Y₁^±, Y₂^±]^S².

En toute placex∈ |X|oùE est scindée surF, l’isomorphisme de Satake pourGs’écrit S_x^G:H^G_x,φ−→^∼ C[X₁^±]⊗C[X₂^±1] =C[X₁^±1, X₂^±1]

et l’homomorphismeρ^∗_x:H^H_x,φ→ H^G_x,φconsiste `a substituerY₁7→X₁,Y₂7→X₂.

Enfin, en toute place x∈ |X| où E est non ramifiée et inerte surF, l’isomorphisme de Satake pourG s’écrit

S_x^G:H^G_x,φ−→^∼ C[X^±2] =C[X^±1,−X^±1]^S² et l’homomorphismeρ^∗_x:H^H_x,φ→ H^G_x,φconsiste `a substituerY₁7→X,Y₂7→ −X.

(15)

6 Premi` ere id´ ee de ce qu’on voudrait faire : comparer deux for- mules de traces “diagonales”

Nous voudrions imaginer une approche purement adélique du Théorème I.9, qui ne fasse pas appel à la géométrie des chtoucas de Drinfeld.

Considérons toujours notre groupe algébrique linéaire G= Y

i∈IG

Res_E_i_/FGLr_i.

Si K = Q

x∈|X|

Kx est un sous-groupe ouvert du sous-groupe compact maximal K₀^G = Q

x∈|X|

K_0,x^G , on peut consid´erer la sous-alg`ebre de HeckeH^G_K = N

x∈|X|

H^G_x,KdeH^G=C_c^∞(G(A)) constitu´ee des fonctions invariantes

`

a droite et à gauche par K, ainsi que les sous-ensembles Πaut,K(G(A)/ AG), Πcusp,K(G(A)/AG),. . . de Πaut(G(A)/AG), Πcusp(G(A)/AG),. . . constitués des représentations irréductiblesπdu spectre automorphe dont le sous-espaceπK des vecteurs invariants parK n’est pas nul. Les sous-ensembles Πcusp,K et Πdisc,K

sont finis.

On rappelle que la formule des traces d’Arthur-Selberg (qu’on ne donne pas sous une forme précise car finalement ce n’est pas d’elle qu’on se servira) consiste en une égalité entre deux sommes finies de fonctionnelles linéaires sur les fonctionsh∈ H^G_K/AG :

X

π∈Πcusp,K(G(A)/AG)

Trπ(h) + X

π∈Πdisc,nc,K(G(A)/AG)

Trπ(h) + X

(P,π) P G

Tr^Λ_P,π(h)

= Z

G(F)\G(A)/A_G

dg·ΛKh(g, g) o`u

• Λ est un certain opérateur linéaire “de troncature” qu’on applique au noyau de l’action dehréduit à la diagonale

g7→Kh(g, g) = X

γ∈G(F)

h(g⁻¹·γ·g),

• les (P, π) décrivent l’ensemble fini des représentants des classes de paires discrètes tels que P Get queπK 6= 0,

• chaque Tr^Λ_P,π(h) est un opérateur linéaire enh(qui n’est pas une trace), il dépend de Λ et de l’action dehsur l’espace de Paley-Wiener

L²_K(Im ΛP×MP(F)NP(A)\G(A)/AG, π).

Dans cette égalité, la partie gauche est appelée “partie spectrale” et celle de droite “partie géométrique”.

En faisant passer les autres termes spectraux de l’autre cˆot´e, on a donc en principe une formule pour Tr_cusp(h) = X

π∈Πcusp,K

Tr_π(h) ou pour

Trdisc(h) = X

π∈Πdisc,K

Trπ(h).

(16)

Consid´erons maintenant un autre groupe lin´eaireH et un homomorphisme

LG ^ρ //

!!D

DD DD DD

D ^LH

||zzzzzzzz

W_F tel que l’homomorphisme induit

Y

i⁰∈IH

Gm→ Y

i∈IG

Gm

envoieAH dansAG.

Fixons un sous-ensemble fini S0⊂ |X|tel que, pour toute placex /∈S0, les groupes Get H soient non ramifi´es surF etKx=K_0,x^G . Puis choisissons un sous-groupe ouvert K⁰ = Q

x∈|X|

K_x⁰ deK₀^H = Q

x∈|X|

K_0,x^H tel que

• K_x⁰ =K_0,x^H ,∀x /∈S₀,

• pour toute placex∈S₀,K_x⁰ est assez petit en fonction deK_xet de la ramification deGetH. Toute repr´esentation automorphe cuspidale π ∈ Πcusp,K(G) doit admettre un transfert par ρ dans Πcusp,K(H) ou ΠEis,cusp,K(H).

Première idée de démarche I.10. –

(i)A partir de la formule des traces d’Arthur-Selberg pourG, trouver une formule g´eom´etrique pour (Trcusp∗Trcusp)(h1, h2) = X

π∈Πcusp,K

Trπ(h1)·Trπ(h2)

comme fonctionnelle enh₁, h₂∈ H^G_K.

(ii)A partir des formules des traces d’Arthur-Selberg pourGetH, trouver une formule g´eom´etrique pour (Trcusp∗ρTr)(h, h⁰) = X

π∈Πcusp,K(G) π⁰∈Πaut,K(H) π⁰=ρ∗π

Trπ(h)·Trπ⁰(h⁰)

comme fonctionnelle enh∈ H^G_K eth⁰∈ H^H_K0. (iii)D´efinir des fonctionnelles lin´eaires

H_x,K^H 0 x

ρ^∗_x

−→ H^G_x,K_x

prolongeant celles déjà spécifiées en toutes les placesxoùGet H sont non ramifiés H^H_x,φ ^ρ

∗

−→ Hx ^G_x,φ

telles que soit vérifiée l’égalité

(Trcusp∗ρTr)(h, h⁰) = (Trcusp∗Trcusp)(h, ρ^∗h⁰) entre fonctionnelles enh∈ H^G_K eth⁰ ∈ H^H_K0.

Remarque.Pour mettre en œuvre une telle stratégie, on rencontrera inévitablement les questions suivantes : (1) Comment réaliser ces restrictions à la diagonale ou au graphe deρ_∗?

(17)

(2) Comment faire disparaˆıtre les termes de la formule des traces pour G qui proviennent des s´eries d’Eisenstein ?

(3) Comment faire disparaˆıtre les termes discrets non cuspidaux de la formule des traces ?

(4) Comment ne pas faire disparaˆıtre les repr´esentations cuspidales π ∈ Πcusp(G) dont le transfert ρ_∗π n’est pas dans Πcusp(H) mais dans ΠEis,cusp(H) ?

(5) Comment comparer les formules “g´eom´etriques” obtenues ?

Dans cet exposé et les suivants, nous allons apporter des réponses (parmi d’autres possibles sans doute) pour les questions (1) à (4), mais pas pour la question (5).

Commen¸cons par la question (1).

7 Diagonalisation d’un produit de formules de traces, au moyen de s´ eries formelles

Consid´erons toujours notre homomorphisme compatible

LG

ρ //

!!D

DD DD DD

D ^LH

||zzzzzzzz

WF

ainsi que les sous-groupes ouverts K = Q

x∈|X|

Kx de K₀^G et K⁰ = Q

x∈|X|

K_x⁰ de K₀^H, et que la partie finie S0⊂ |X|en dehors de laquelleG,H, Ket K⁰ sont non ramifi´es.

On a le lemme facile suivant :

Lemme I.11.–On peut trouver une partie finie S⊂ |X| −S₀telle que pour toute paire de repr´esentations des spectres discrets

π∈Π_disc,K(G(A)/A_G), π⁰∈Π_disc,K⁰(H(A)/A_H), v´erifiant

π⁰_x= (ρx)_∗(πx), ∀x∈S , on ait n´ecessairement

π⁰_x= (ρx)_∗(πx), ∀x∈ |X| −S0, et doncπ⁰=ρ_∗(π).

D´emonstration.Cela r´esulte simplement de ce que les ensembles Πdisc,K(G(A)/AG) et Πdisc,K⁰(H(A)/AH)

sont finis.

Avec les notations du Corollaire I.4, considérons en n’importe quelle place x∈S les isomorphismes de Satake pour les algèbres de Hecke sphériques deGetH

S_x^G:H^G_x,φ−→^∼ O

i∈IG j∈Ii,x

C[X_i,j,1^±1 ;. . .;X_i,j,r^±1

i]^S^ri,

S_x^H :H^H_x,φ−→^∼ O

i0 ∈IH j0 ∈I

i0,x

C[X_i^±10,j⁰,1;. . .;X_i^±10,j⁰,r_i0]^S^rⁱ⁰ .

(18)

On a encore :

Lemme I.12.– Pour tout x∈ S, on peut trouver une s´erie formelle ∆^G,H_x (•,•, Z) en la variable Z et `a coefficients dans le produit tensoriel





 O

i∈IG j∈Ii,x

C[X_i,j,1^±1 ;. . .;X_i,j,r^±1_i]^S^ri





 O





 O

i0 ∈IH j0 ∈Ii0,x

C[X_i^±10,j⁰,1;. . .;X_i^±10,j⁰,r_i0]^S^rⁱ⁰







telle que :

• cette s´erie formelle soit une fraction rationnelle,

• pour toute sp´ecialisation des valeurs propres de Hecke z∈ Y

i∈IG j∈Ii,x

(C^×)^(rⁱ⁾,

z⁰∈ Y

i0 ∈IH j0 ∈Ii0,x

(C^×)^(rⁱ⁰⁾,

la fraction rationnelle

∆^G,H_x (z, z⁰, Z) soit bien d´efinie au point Z= 1 et v´erifie

Z7→1lim∆^G,H_x (z, z⁰, Z) =

1 siz⁰= (ρx)∗(z), 0 siz⁰6= (ρx)_∗(z).

Remarque.Il existe beaucoup de solutions différentes à ce problème puisque par exemple, si ∆^G,H_x est une fraction rationnelle qui satisfait les conditions requises, toutes ses puissances les satisfont aussi.

D´emonstration du lemme.Il suffit d’exhiber une solution.

Commeρ^∗_x est un homomorphisme d’algèbres qui relie les deux algèbres de Hecke sphériques, il suffit de traiter le cas où G=H.

Puisqu’on peut faire des produits sur les indicesiet j, on peut même se limiter au cas où notre algèbre de Hecke sphérique est isomorphe à

C[X₁^±1, . . . , X_r^±1]^S^r. On d´edouble les variablesX_•^±1 enX_•^0±1 et alors on peut prendre

∆^G,G_x (X_•^±1, X_•^0±1, Z) = Q

1≤i,j≤r

1−Z^X_Xⁱ

j

· Q

1≤i,j≤r

1−Z^X_Xⁱ0⁰ j

Q

1≤i,j≤r

1−Z^X_Xⁱ0 j

· Q

1≤i,j≤r

1−Z^X_Xⁱ⁰

j

.

Voyons ce que cela donne dans le cas de l’induction automorphe de GL1 `a GL2 via une extension qua- dratiqueE deF, avec donc

G= Res_E/FGL₁ et H = GL₂.

(19)

En toute placex∈S oùE est scindée surF, l’homomorphismeρ^∗_x:H^H_x,φ→ H^G_x,φs’écrit C[X₁^0±1, X₂^0±1]^S² ,→C[X₁^±1, X₂^±1],

si bien qu’on peut prendre pour ∆^G,H_x (X_•, X_•⁰, Z) (1−Z)⁴·(1−Z^X_X¹

2)(1−Z^X_X²

1)·(1−Z^X_X¹⁰0 2

)(1−Z^X_X²⁰0 1

) (1−Z^X_X¹0

1

)(1−Z^X_X²0 2

)(1−Z^X_X¹0 2

)(1−Z^X_X²0 1

)·(1−Z^X_X¹⁰

1)(1−Z^X_X²⁰

2)(1−Z^X_X⁰¹

2)(1−Z^X_X²⁰

1) .

Et en toute placex∈S o`u E est inerte surF, l’homomorphismeρ^∗_x:H^H_x,φ→ H^G_x,φs’´ecrit C[X₁^0±1, X₂^0±1]^S²→C[X^±1,−X^±1]^S²,

si bien qu’on peut prendre pour ∆^G,H_x (X_•, X_•⁰, Z)

(1−Z)⁴·(1 +Z)²·(1−Z^X_X¹⁰0 2

)(1−Z^X_X⁰²0 1

) (1−Z_X^X0

1)(1 +Z_X^X0

2)(1−Z_X^X0

2)(1 +Z_X^X0

1)·(1−Z^X_X¹⁰)(1 +Z^X_X²⁰)(1 +Z^X_X⁰¹)(1−Z^X_X²⁰) .

Revenons maintenant au cas g´en´eral

LG

ρ //

!!D

DD DD DD

D ^LH

||zzzzzzzz

WF

En toute placex∈S, les isomorphismes de Satake permettent de voir

∆^G,H_x (•,•, Z) comme une série formelle élément de

(H^G_x,φ⊗ H^H_x,φ)JZK, et le produit tensoriel

∆^G,H_S (Z) =O

x∈S

∆^G,H_x (•,•, Z), complété par l’élément unité deH^G_x,K

x⊗ H^H_x,K0

x en toute placex /∈S, peut être vu comme un élément central de

(H^G_K⊗ H^G_K0)JZK. De mˆeme, lorsqueH =G,

∆^G,G_S (Z) =O

x∈S

∆^G,G_x (•,•, Z) peut être vu comme un élément central de

(H^G_K⊗ H^G_K)JZK. Maintenant, les formes bilin´eaires

(h, h⁰)7→(Tr^G_cusp×Tr^H_cusp)(h, h⁰) = X

π∈Πcusp(G(A)/AG) π0 ∈Πcusp(H(A)/AH)

Trπ(h) Trπ⁰(h⁰)