Dualité entre G/G R et le groupe renversé G R

Dualit´e entre G / G _R

et le groupe renvers´e ⁻ G _R

P. Harinck et M.-N. Panichi

En l’honneur de Jacques Carmona

Introduction

Soit G un groupe alg´ebrique semi-simple connexe, simplement connexe, d´efini et d´eploy´e surR. On identifie G `a l’ensemble de ses points complexes. On noteσ la conjugaison par rapport `a sa forme r´eelle d´eploy´eeG_R. On notegl’alg`ebre de Lie de G.

L’analyse harmonique sur G/G_R pr´esente des similitudes avec celle surG_R car l’espace tangent `a G/G<sub>R</sub> en eG<sub>R</sub> est isomorphe `a ig_R et l’alg`ebre des op´erateurs diff´erentiels G-invariants surG/G<sub>R</sub> est isomorphe au centre Z(g)de l’alg`ebre en- veloppante deget donc (par l’isomorphisme d’Harish-Chandra) `a l’alg`ebre des op´e- rateurs diff´erentiels G_R-invariants sur G_R. Ceci est `a la base des constructions et

´etudes des distributions sph´eriques et des fonctions orbitales (fonctions v´erifiant des propri´et´es analogues `a celles des int´egrales orbitales, notion qui sera pr´ecis´ee ult´e- rieurement) surG/G<sub>R</sub> donn´ees par le premier auteur dans [H1] et [H3]. La multipli- cation pari entre g<sub>R</sub> etig<sub>R</sub> transforme les ´el´ements elliptiques en ´el´ements hyper- boliques et vice-versa. Ce ph´enom`ene est appel´e dualit´e par S. Sano ([Sa]). Par les travaux de A. Bouaziz ([B2]), il apparaˆıt ´egalement que les fonctions orbitales propres sous l’action des op´erateursG_R-invariants surG_Rsont construites sur un mod`ele ana- logue `a celui des distributions sph´eriques surG/G_Ret celles surG/G_Rsur un mod`ele similaire `a celui des distributions propres invariantes surG_R.

Lorsque le groupe G_R admet de plus un sous-groupe de Cartan compact, A. Bouaziz a pr´ecis´e dans [B3] cette dualit´e entre l’espace sym´etrique G/G_R et le groupe G_R ce qui permet de comprendre l’analogie qu’il existe entre les diff´erentes constructions.

Dans cet article, nous ne supposons plus que la forme r´eelleG_R admet un sous- groupe de Cartan compact. Nous introduisons alors la forme r´eelle⁻G_Rquasi-d´eploy´ee ayant une s´erie discr`ete (d´efinie `a conjugaison pr`es) deG, appel´ee groupe renvers´e de G<sub>R</sub>, telle que l’on puisse obtenir une dualit´e analogue `a celle de A. Bouaziz entre les espaces⁻G_RetG/G_R. Lorsque le groupeG_Radmet un sous-groupe de Cartan com- pact, on a alors⁻G_R =G_Ret on retrouve la dualit´e de A. Bouaziz. Cette id´ee a ´et´e

introduite par le deuxi`eme auteur dans sa th`ese pour le groupeG_R = Sl(n,R)([P]).

On a alors⁻G_R=SU([ⁿ⁺₂¹],[ⁿ₂])o`u [x] d´esigne la partie enti`ere dex.

On noteσ la conjugaison deG relativement au groupe renvers´e. Nous montrons qu’il existe une bijection entre l’ensemble des classes de conjugaison de sous-groupes de Cartan deG^σ et l’ensemble des classes de conjugaison de sous-groupes de Cartan deG^σ qui renverse l’ordre d’Hira¨ı d´efini sur ces classes de conjugaison (1.3.1 et 1.4.2).

Pr´ecisons maintenant cette dualit´e. On note M la composante connexe de l’identit´e de l’ensemble desx ∈ Gtels que σ (x) = x⁻¹. La vari´et´eMest isomor- phe `aG/G^σ par l’applicationx → xσ (x)⁻¹. Soit (X, τ) = (M, σ)ou(G^σ, σ).

L’orbite stableωxd’un ´el´ement r´egulierxdeX(on noterax∈Xr eg) est la trace surX de son orbite sous l’action adjointe deG. On munit chaque orbite stable d’une mesure G^τ-invarianteµx (convenablement normalis´ee).

Pour f une fonction de classeC^∞ `a support compact surX, on appelle int´egrale orbitale stable de f la fonction d´efinie sur Xr eg parM^st_X(f)(x) = µx(f). Elle est constante sur les orbites stables. On noteIc^st(X)l’espace des int´egrales orbitales sta- bles. Les ´el´ements deIc^st(X)sont caract´eris´es par quatre propri´et´es dont une condition sur le support (voir [B1] pourX = G^σ et [H2] pourX = M). On appelle fonction orbitale stable une fonction de classeC^∞surXr eg, constante sur les orbites stables qui v´erifie les mˆemes propri´et´es que les int´egrales orbitales stables hormis la condition de support. On noteI^∞st(X)l’espace de telles fonctions.

L’espaceDi st(X)^st des distributions stables est l’adh´erence dansDi st(X)(espace des distributions surX), pour la topologie faible, du sous-espace engendr´e par les dis- tributions f → µx(f)lorsquexparcourtXr eg. D’apr`es ([B1] pourX=G^σ et [H2]

pourX=M), le dualIc^st(X)deIc^st(X)est isomorphe `aDi st(X)^st.

Les propri´et´es du groupe renvers´e permettent d’obtenir une correspondance bijective ιentre l’ensemble des orbites stables des ´el´ements r´eguliers deG^σ et l’ensemble des orbites stables des ´el´ements r´eguliers deM(prop. 1.5.4). Cette correspondance permet de construire des applications explicitesudeI^∞st(G^σ)dansIc^st(M) Di st(M)^st d’une part etvdeI^∞st(M)dansIc^st(G^σ)Di st(G^σ)^st d’autre part (Thm 3.1.3).

Le centre Z(g)de l’alg`ebre enveloppante de g agit comme alg`ebre d’op´erateurs diff´erentiels sur les espacesI^∞st(X)(pourX = MouG^σ) et les applicationsu et v commutent `a cette action. Les restrictions de u et v aux sous-espaces propres de I<sup>∞st</sup>(G<sup>σ</sup>)etI<sup>∞st</sup>(M)correspondant `a un caract`ere r´egulier deZ(g)sont alors des bijections sur leur image (prop. 3.1.4). Nous en d´eduisons des th´eor`emes d’unicit´e dansDi st(X)^st (pourX=MouG^σ) et pr´ecisons les images de fonctions orbitales stables particuli`eres propres sous l’action de Z(g)(construites `a partir des fonctions orbitales propres intervenant dans les formules d’inversion de [B2] et [H3]).

1 Groupe renvers´e

1.1 Notations

Si M est une vari´et´e diff´erentiable, on noteC_c^∞(M)l’espace des fonctions de classe C^∞`a support compact surM etDi st(M)l’espace des distributions surM. SiN est une partie deM et si f est une fonction surM, on notera f<sub>|</sub>N sa restriction `aN.

Si Xest un ensemble fini, on note|X |son cardinal.

Soit V un espace vectoriel r´eel de dimension finie. On notera V^∗ son dual et V_C son complexifi´e. L’alg`ebre sym´etrique S(V<sub>C</sub>)de V<sub>C</sub> sera identifi´ee `a l’alg`ebre des op´erateurs diff´erentiels `a coefficients complexes sur V. Pour u ∈ S(V_C), on notera

∂(u)l’op´erateur diff´erentiel correspondant.

SiV est un espace vectoriel topologique, on noteVson dual topologique.

Dans tout ce qui suit, on suppose que G est un groupe alg´ebrique semi-simple, connexe et simplement connexe, d´efini et d´eploy´e surR. On l’identifie `a l’ensemble de ses points complexes. On notegson alg`ebre de Lie. On d´esigne parσla conjugaison deGrelativement `a sa forme r´eelle d´eploy´eeG_R.

Si τ est un automorphisme deG, on notera par la mˆeme lettreτ sa diff´erentielle surgetG^τ d´esignera l’ensemble des points deGfix´es parτ. On notera Ad l’action adjointe deG(sur lui-mˆeme ou surg).

PourHun sous-groupe deG, on noterahson alg`ebre de Lie. SoitT un tore maximal deG. On noteraN(H,T)(respectivementZ(H,T)) le normalisateur (respectivement centralisateur) de T dans H et on pose W(H,T) = N(H,T)/

Z(H,T). Lorsque H=G, on notera ces objetsN(T),Z(T)=T etW(T).

L’ensemble R(T)d´esigne l’ensemble des racines deT dansGet R⁺un choix de racines positives dans R(T). Pourλun poids deT, on notee^λle caract`ere deT cor- respondant.

Siτ est une conjugaison par rapport `a une forme r´eelle deG, on noteTτ(G)l’en- semble des tores maximauxτ-stables deG. On rappelle que l’applicationT → T^τ d´efinit une bijection deTτ(G)dans l’ensembleCar(G^τ)des sous-groupes de Cartan deG^τ.

SoitT ∈T_τ(G). L’involutionτ agit surR(T)parτ(α)(X)=α(τ(X))pour X ∈t.

On dit queα ∈ R(T)est r´eelle siτ(α)=αet qu’elle est imaginaire siτ(α)= −α.

Siα ∈ R(T), on noteraH_α la coracine deα,s_α la r´eflexion simple detd’hyperplan K erα(le noyau deα) etg_αl’espace radiciel relatif `aα.

On rappelle que deux racinesαetβsont dites fortement orthogonales siα±βn’est pas une racine.

L’involutionτ agit naturellement surN(T)et donc surW(T)parτ(w)=τ◦w◦τ. On noteW(T)^τl’ensemble desw∈W(T)qui commutent `aτ.

1.2 D´efinition du groupe renvers´e

Dans toute la suite, on fixeAun tore maximal deGd´eploy´e surR. On fixe ´egalement un choix R⁺de racines positives dans R(A). La conjugaisonσ agit trivialement sur R⁺etW(A).

On note l’ensemble des racines simples compatible avec le choix deR⁺. On note B le sous-groupe de Borel contenant Aet associ´e au choix de R⁺. En particulier, B estσ-stable.

Soit w0 l’´el´ement de W(A)de plus grande longueur associ´e `a ces choix. C’est l’unique ´el´ement deW(A)envoyant sur− et donc−w0d´efinit un automorphisme involutif de . On associe `a−w0un automorphismet_−w0 degqui commute `aσ de la mani`ere suivante ([ABV] prop. 2.12) : Pour chaqueα ∈ , on fixe un vecteur X_α ∈g_αtel queσ(X_α)=X_α. Ceci est licite puisque toute racine deAest r´eelle. Ceci d´etermine X_−α ∈ g_−α tel queσ (X_−α)= X_−α et [X_α,X_−α] = H_α. L’alg`ebregest alors l’alg`ebre de Lie engendr´ee par les vecteursH_α,X_±αpourα∈ .

On d´efinit t_−w0 comme ´etant l’unique automorphisme C-lin´eaire tel que t_−w0(H_α)=H_−w0(α),t_−w0(X_α)=X_−w0(α)(et donct_−w0(X_−α)= X_w0(α)). On note par la mˆeme lettre l’automorphisme deGcorrespondant.

Lemme 1.2.1. L’automorphismeσ=σ◦t_−w0 est une involution antiholomorphe de G et le groupe G^σest une forme r´eelle quasi-d´eploy´ee de G.

D´efinition 1.2.2. Le groupeG^σ est appel´e groupe renvers´e deG^σ.

D´emonstration.Par construction, il est clair quet_−w0est une involution deGqui com- mute `aσ. Commeσ est antiholomorphe ett_−w0 holomorphe, on obtient bien queσ est une involution antiholomorphe deGet donc elle d´efinit bien une forme r´eelleG^σ deG. Commet_−w0laisse stableAet , les sous-groupesAetBsontσ-stables ce qui

assure queG^σ est quasi-d´eploy´ee.

Remarques.

(1) Dans son article [B3], A. Bouaziz consid`ere le cas des groupes semi-simples con- nexes et simplement connexes dont le groupe de Weyl contient−1. On a donc dans ce casw0= −1,σ =σet le groupe r´eelG^σ est son propre renvers´e.

(2) Le groupe renvers´e est d´efini `a conjugaison pr`es. En effet, la d´efinition deσd´epend des choix deA, deR⁺et du prolongement de−w0`ag. Les choix de Aet deR⁺sont

`a conjugaison pr`es. Sit_{−w 0} est un autre prolongement de−w0commutant `aσ alors t<sup>−</sup><sub>−w</sub><sup>1</sup><sub>0</sub>◦t<sub>−w0</sub> est un automorphisme int´erieur deg([ABV] prop. 2.11). Ainsi dans tous les cas, les deux formes r´eelles quasi-d´eploy´ees obtenues sont int´erieures l’une de l’autre et donc elles sont conjugu´ees d’apr`es ([ABV] prop. 2.7).

1.3 Classes de conjugaison de sous-groupes de Cartan deG^σ etG^σ

Pourτ = σ ouσ, on noteCar(G^τ)/G^τ l’ensemble des classes de conjugaison de sous-groupes de Cartan deG^τ. Il est isomorphe `a l’ensembleT_τ(G)/G^τ des classes

de conjugaison sous l’action de G^τ des tores maximauxτ-stables deG. On notera [T] la classe deT (´etant sous-entendu que la classe est prise dansT_τ(G)/G^τ puisque T ∈T_τ(G)).

SoitW2(A)l’ensemble des involutions deW(A). On noteW2(A)/W(A)l’ensemble des classes de conjugaison d’involutions deW(A). On notera [u] la classe deu.

Les ensemblesT_σ(G)/G^σ etW2(A)/W(A)sont en correspondance bijective ([B3]

proposition 1.1.1). Cette bijection est donn´ee de la mani`ere suivante : siT =g⁻¹Ag alors l’´el´ement wg = Ad(σ (g)g⁻¹)est une involution de W(A)dont la classe de conjugaison ne d´epend que de [T], on la note [wT]. La bijection pr´ec´edente est donn´ee par [T]→[wT].

Nous allons ´etablir de la mˆeme mani`ere une bijection entreT_σ(G)/G^σetW2(A)/

W(A)(r´esultat connu mais dont nous n’avons pas trouv´e de r´ef´erences pr´ecises).

SoitT un tore maximalσ-stable deG. Alors, il existeg ∈Gtel quegT g⁻¹= A.

Par suite, on aσ(g)⁻¹Aσ(g) = T = g⁻¹Ag et doncσ(g)g⁻¹ ∈ N(A). Posons wg=Ad(σ(g)g⁻¹)∈W(A).

Pour toutw∈W(A), on a

σ(w)=σ◦w◦σ=σ (w0ww0)=w0ww0

puisquet_−w0(a)=w0(a)⁻¹surAetσ commute `a tout ´el´ement deW(A).

On obtient donc queσ(w_g)=w0w_gw0=w⁻_g¹et par suite l’´el´ementug=w0w_g est une involution deW(A).

La classe de conjugaison deugne d´epend que de T. En effet, si A = gT g⁻¹ = sT s⁻¹ alors u = Ad(sg⁻¹) appartient au groupe W(A)et ws = σ(u)wgu⁻¹ = w0uw0wgu⁻¹. Ainsi les involutionsus etugsont conjugu´ees paru. On note [uT] la classe deugdansW2(A)/W(A).

Soit S ∈ T_σ(G), tel quesT s⁻¹ = S avecs ∈ G^σ. On a alorsgs⁻¹Ssg⁻¹ = A etw_{gs −}1 = Ad(σ(gs⁻¹)(gs⁻¹)⁻¹)= Ad(σ(g)g⁻¹)=wg. On obtient donc [uS]= [uT].

Proposition 1.3.1. L’application de T_σ(G)/G^σ dans W2(A)/W(A) d´efinie par [T]→[uT]est bijective.

D´emonstration.Ce qui pr´ec`ede assure que l’application ci-dessus est bien d´efinie.

Montrons tout d’abord l’injectivit´e.

SoitT,S ∈ T_σ(G)etx,y ∈G tels quex T x⁻¹ = y Sy⁻¹= A. On suppose qu’il existeu∈W(A)tel queuw0wxu⁻¹=w0wy. On a doncσ(u)wx =wyu.

Soit n ∈ N(A)tel que u = Ad(n). Il existe donc un ´el´ementa ∈ A tel que σ(n)σ(x)x⁻¹ = σ(y)y⁻¹na, ce qui s’´ecrit encoreσ(y⁻¹nx)= y⁻¹nax. Ainsi, l’application ϕ de T dans S d´efinie par ϕ(t) = y⁻¹nxt x⁻¹n⁻¹y commute `a σ. D’apr`es ([Sh1] corollaire 2.3) les toresT etSsontG^σ-conjugu´es.

Montrons la surjectivit´e.

Soitw∈W2(A). Montrons tout d’abord que

il existeu∈W(A)tel quew˜ =uwu⁻¹commute `aw0

(ceci est ´equivalent `aw0w˜ ∈W2(A)).

D’apr`es ([He] remarque 2.10), commewest une involution, elle se d´ecompose en un produit de r´eflexions ´el´ementairess<sub>α1</sub>, . . . ,s<sub>αk</sub>o`u lesαjsont des racines deAdeux

`a deux fortement orthogonales. L’´el´ementw0se d´ecompose aussi de cette mani`ere et l’ensembleF0de racines deux `a deux fortement orthogonales correspondant est ma- ximal pour cette propri´et´e. Comme deux ensembles de racines deux `a deux fortement orthogonales maximaux sont conjugu´es par W(A)([Su] Thm.6), on en d´eduit qu’il existeu ∈W(A)tel queu({α1, . . . , αk})⊂F0. Il est alors clair queuwu⁻¹commute

`aw0.

On noteσ˜_A = w0wσ˜ _|A. Ceci est une conjugaison complexe sur Apuisque w˜ est une involution qui commute `aσ etw0et donc `aσ_|A. Le mˆeme raisonnement que dans la d´emonstration de ([B3] proposition 1.1.1) prouve alors qu’il existeg ∈ G tel que T = g⁻¹Agestσ-stable etw0w˜ = Ad(σ(g)g⁻¹). On a alors [w] =[w]˜ = [uT].

Ceci ach`eve la d´emonstration.

Ainsi, par ce qui pr´ec`ede, on dispose d’une bijection T :T_σ(G)/G^σ →Tσ(G)/G^σ

[T] → [S] tel que [uT]=[wS]. (1.3.1) De plus, siT([T]) =[S], il existe xet ydans Gtel que x T x⁻¹ = A = y Sy⁻¹et Ad(σ(x)x⁻¹) = w0Ad(σ(y)y⁻¹). On peut ´ecrirew0 = Ad(n0)etσ(n0) = n0a0

avecn0∈ N(A)eta0∈ A. On obtient doncσ(x)x⁻¹=n0σ (y)y⁻¹a1aveca1∈ A.

D’autre part, pour touta∈ A, on aσ(a)=σ(n0a⁻¹n⁻₀¹). On en d´eduit que pour tout t ∈T, on a

σ(xt x⁻¹)=σ(n⁻₀¹xt⁻¹x⁻¹n0)=a⁻₀¹σ (y)y⁻¹a1xσ(t)⁻¹x⁻¹a₁⁻¹yσ(y)⁻¹a0. Ainsi, sig=y⁻¹x, on aσ (gtg⁻¹)=gσ(t)⁻¹g⁻¹.

D´efinition 1.3.2. SoitT ∈T_σ(G). On dit queg∈Gest une inversion deT si (i)T([T])=[gT g⁻¹],

(ii) pour toutt ∈T, on aσ (gtg⁻¹)=gσ(t)⁻¹g⁻¹. Remarques.

(1) Lorsque −1 ∈ W(A), l’application T et la notion d’inversion co¨ıncident avec celles d´efinies par A. Bouaziz dans [B3].

(2) On garde les notations de la d´efinition pr´ec´edente. Sigest une inversion deT, on a

gT^−σg⁻¹=(gT g⁻¹)^σ.

De plus, siαest une racine r´eelle (respectivement imaginaire) deT alorsg.αest une racine imaginaire (respectivement r´eelle) degT g⁻¹.

Ainsi, si [T0]=T⁻¹([A])alorsT₀^σ est un sous-groupe de Cartan compact deG^σ et si [S]=T([A])alorsS^σ est un sous-groupe de Cartan maximalement compact de G^σ. La formeG^σ admet donc bien une s´erie discr`ete.

1.4 Ordre surTτ(G)

Nous rappelons succintement ici la d´efinition de l’ordre (inverse de celui d’Hira¨ı) sur T_τ(G)o`uτ =σ ouσ([Hi] ou [Sc]).

SoitT ∈ T_τ(G). Soitβ une racine imaginaire deT et soitsl’alg`ebre de Lie surC engendr´ee parH<sub>β</sub>,g<sub>β</sub> etg<sub>−β</sub>. On dit queβ est compacte ou non compacte selon que s<sup>τ</sup> est isomorphe `aso(3,R)ousl2(R).

Nous rappelons le lemme 9.2 de [Sh2] qui joue un rˆole essentiel dans toute la suite de cet article.

Lemme 1.4.1. SoitHun groupe semi-simple quasi-d´eploy´e surR. SoitTun tore ma- ximal d´efini surR. SoitMle centralisateur de la composante d´eploy´ee deT. Siαest une racine imaginaire deTalors il existew∈W(M,T)d´efini surRtel quew.αsoit une racine imaginaire non compacte.

Soitαune racine r´eelle deT. On choisit X_±α ∈g_±α tels que [X_α,X_−α]= H_α et τ(X_±α)=X_±α. On d´efinit la transformation de Cayleyναpar

ν_α =Ad(ex p −iπ

4(X_α+X_−α)).

On aτ(να)⁻¹να=s_α. Le toreT_α =να(T)estτ-stable et sa classe [T_α] ne d´epend pas des choix deX_±α. Son alg`ebre de Lie estt_α =C(X_α−X_−α)+K er(α)et la racineνα.α est une racine imaginaire non compacte de T_α. On a T_α ∩ T = {x∈T;e^α(x)=1}.

D´efinition 1.4.2. On dit que [T]≥[S] s’il existe une suiteT1, . . . ,TkdeTτ(G)telle que [T1]=[T], [Tk]=[S] etTjest l’image deTj−1par une transformation de Cayley ν_α o`uαest une racine r´eelle deTj−1.

De mˆeme, siβest une racine imaginaire non compacte deT, on peut choisirX_±β ∈ g_±β tels que [X_β,X_−β] = H_β et τ(X_β) = X_−β. On d´efinit la transformation de Cayleyc_βpar

c_β = Ad(ex pπ

4(X_−β−X_β)).

On aτ(c_β)⁻¹c_β =s_β. Le toreT_β =c_β(T)estτ-stable et sa classe [T_β] ne d´epend pas de choix de X_±β. Son alg`ebre de Lie estt_β = C(Xβ +X_−β)+K er(β)et la racine c_β(β)=αest une racine r´eelle deT_β. De plus, on a [ναc_β(T)]=[T] et [T_β]≥[T].

SoitT ∈T_σ(G)etαune racine r´eelle deT. D’apr`es le lemme 1.4.1, il existe une inversion g deT telle que g.α soit une racine imaginaire non compacte degT g⁻¹. Dans ce cas, on a Ad(g)◦να=cg.α.

Ainsi on a

si [T]≥[S] dans T_σ(G) alorsT([T])≤T([S]) dans Tσ(G). (1.4.2)

1.5 Correspondance d’orbites stables

SoitMla composante neutre de l’ensemble des ´el´ementsgdeGtels queσ (g)=g⁻¹. Le groupeGagit surMparσ-conjugaison :g.x=gxσ (g)⁻¹pourg∈Getx∈Met le groupeG^σ par automorphismes int´erieurs. Si pd´esigne la projection canonique de GsurG/G^σ, alors l’applicationπqui `ap(g)associegσ (g)⁻¹est un diff´eomorphisme G-´equivariant deG/G^σ surM.

D´efinition 1.5.1. On appelle sous-ensemble de Cartan deMl’intersection deMavec un tore maximalσ-stable deG.

Pour(X, τ) = (M, σ )ou(G^σ, σ)et pourT ∈ T_τ(G), on noteraT_X = T ∩X.

On d´esigne parGr eg l’ensemble des ´el´ements r´eguliers deGet pourU ⊂G, on pose Ur eg =Gr eg∩U.

D´efinition 1.5.2. Soitx∈Xr eg. SiM est un sous-groupe deG, on noteM[x] l’orbite de x sous l’action adjointe de M. L’orbite stable de x ∈ Xr eg est alors l’ensemble ωx =G[x]∩X. On noteraO_Xl’ensemble des orbites stables d’´el´ements r´eguliers de X.

Soitx ∈Xr eg. L’orbite stable dexest une r´eunion finie deG^τ-orbites. De mani`ere plus pr´ecise, siT est l’unique tore maximalτ-stable contenantx, on a :

siX=G^σ alorsω_X =

w∈W(G^σ,T)\W(T)^σ

G^σ[wx]

et siX=Malorsω_X =

w∈W(Gσ,T)\Dx(T)^σ

G^σ[wx]

o`uDx(T)^σ est l’ensemble desw∈ W(T)^σ tels quewx∈ M([B3] paragraphe 2.1 et [H2] paragraphe 3.3).

Lemme 1.5.3. Soit T ∈ T_σ(G). Alors pour toute composante connexe C de T^−σ, il existew∈W(T)^σ tel quew(C)⊂M.

D´emonstration.A. Bouaziz d´emontre ce r´esultat (lemme 2.2.1) lorsque−1 ∈ W(A) mais sa preuve n’utilise pas ce dernier point et donc reste valable dans notre situation.

Proposition 1.5.4. L’application

ι :O_Gσ → O_M ω →G[ω]∩M est bijective.

D´emonstration.Soitω∈ O_Gσ etx∈ ω. On noteT ∈ T_σ(G)l’unique tore maximal contenantx. D’apr`es le lemme 1.5.3, on peut choisir une inversiongdeT de telle sorte quegxg⁻¹∈M. AinsiG[ω]∩M=G[gxg⁻¹]∩M= ∅est l’orbite stable degxg⁻¹ dansM.

Soity∈Mr eg et soitSl’unique ´el´ement deTσ(G)le contenant. SoitT ∈T⁻¹([S]) et soitgune inversion deT. Alorsg⁻¹yg∈G^σetι(G[g⁻¹yg]∩M)=G[y]∩M.

2 Deux espaces de fonctions

Dans ce paragraphe, nous rappelons d’une part, la d´efinition et les propri´et´es de l’espace des fonctions orbitales stables et d’autre part, nous introduisons comme dans [B3] un espace de fonctions particulier. Ceci nous permettra de d´ecrire la dualit´e entreG^σ et Mdans le paragraphe suivant.

2.1 Formules int´egrales

Nous fixons tout d’abord les normalisations de mesures.

On noteκ la forme de Killing deg. SoitV un sous-espace vectoriel deg, tel que la restriction deκ `aV soit non d´eg´en´er´ee. On noteµV la densit´e sur V d´efinie par µV(ξ1, . . . , ξn)=|det(κ(ξi, ξj)i,j)|<sup>1/2</sup>o`u(ξ1, . . . , ξn)d´esigne une base deV. SiX est un sous-groupe ferm´e deG(ou si X = M), tel que la restriction deκ `a l’espace tangent ene`aXest non d´eg´en´er´ee, on noterad xla mesure invariante surXd´efinie par la densit´eµTe(X). Soit H ⊂ K deux sous-groupes ferm´es d’alg`ebre de Liehetk. On suppose que la restriction deκ `ahetkest non d´eg´en´er´ee. On peut alors munirK/H de la mesureK-invariante d´efinie par la densit´eµro`urest l’orthogonal dehdansk.

Avec ces normalisations, pour toute fonction int´egrable f surM, on a :

M f(m)dm=2^{di mCg}

G/G^σ

f(π(g))dg.

Dans toute la suite de ce paragraphe,(X, τ)d´esigne soit(M, σ)soit(G^σ, σ).

Nous rappelons tout d’abord la formule d’int´egration de Weyl.

On notel le rang deGet on d´efinit la fonction analytique complexe DsurGpar : six ∈Galorsdet(1+t−Ad x)=t^lD(x)modulot^l+1.

Soitγ un ´el´ement r´egulier deXet soitT l’unique tore deT_τ(G)le contenant. La classe de conjugaisonG^τ[γ] s’identifie `aG^τ/T^τ. Pour toute fonction int´egrable f sur X, on a alors la formule d’int´egration de Weyl suivante surX:

X f(x)d x=

<T>τ

1

|W(G^τ,T)|

T_{Xr eg}

G^τ[γ]

f(y)d y dγ

=

<T>τ

1

|W(G^τ,T)|

T_Xr eg| D(γ )|

G^τ/T^τ

f(gγg⁻¹)dg dγ, la sommation ´etant prise sur un syst`eme de repr´esentants < T >_τ des classes de conjugaison deT_τ(G)sous l’action deG^τ.

D´efinition 2.1.1. L’int´egrale orbitale stable d’une fonction f ∈Cc^∞(X)est la fonction d´efinie surXr eg par :

M^st_X(f)(x)=|D(x)|^−1/2

ωx

f(y)d y

o`uωx =G[x]∩Xd´esigne l’orbite stable dex.

La formule d’int´egration de Weyl s’´ecrit de la mani`ere suivante en fonction de l’int´egrale orbitale stable :

X f(x)d x=

<T>τ

T_X

1

cT(γ ) |D(γ )|^1/2M^st_X(f)(γ )dγ (2.1.3) o`ucT(γ )=|G[γ]∩T_M|siX=MetcT(γ )=|W(G,T)^σ |siX=G^σ.

Soit f une fonction constante sur les orbites stables deMr eg(on dira ´egalement que f est stablement invariante surMr eg). Soitx∈G_{r eg}^σ ety∈ι(ωx). Le scalaire f(y)ne d´epend que de l’orbite stableωx. En le notant f ◦ι(x), on d´efinit ainsi une fonction f◦ιstablement invariante surG^σ_{r eg} . De mani`ere analogue, on d´efinit pour une fonction hstablement invariante surG^σ_{r eg} la fonctionh◦ι⁻¹stablement invariante surMr eg. 2.2 L’espace des fonctions orbitales stables

On note Ic^st(X) l’espace des fonctions ψ stablement invariantes de classeC^∞ sur Xr eg qui v´erifient les quatre propri´et´es suivantes (voir [B1] pourX = G^σ et [H2]

pourX=M). Cette pr´esentation est licite car toute racine imaginaire d’un toreT est conjugu´ee `a une racine imaginaire non compacte (lemme 1.4.1 dˆu `a D. Shelstad).

On notet_X l’ensemble desξ ∈ ttel que, pour touts ∈ R, l’on aitex p(sξ)∈ T_X. Pourξ ∈t_X, on d´efinit le champ de vecteurξ˜surT_Xpar :ξ.˜ f(t)= _ds^d f(tex p(sξ))_/s=0.

(I1)(X)Pour toute partie compacteK deT_Xet pour toutu∈S(t), on a sup

x∈K∩T_{Xr eg}|∂(u)ψ|T_{Xr eg} |<∞.

(I2)(X)La fonctionψ_|T_{Xr eg}se prolonge de mani`ereC^∞sur l’ensembleT_X(I−r eg) desx∈T_Xtels quee^β(x)=1 pour toute racine imaginaireβdeT.

(I3)(X)Soit β une racine imaginaire non compacte deT. Comme dans le para- graphe 1.4, on notec_β la transformation de Cayley relative `aβetT_β =c_β(T).

Alors, pour toutu ∈ S(t)tel ques_βu = u, la fonction∂(u)(ψ_|T_{Xr eg})se prolonge de mani`ereC^∞sur l’ensemble_β desx ∈T_X∩T_β tels que, pour toutγ = ±β, l’on ait e^γ(x)=1. De plus, pourt ∈_β, on a la relation

∂(u)(ψ)(t)=∂(c_β.u)(ψ)(t).

(I4)(X)L’ensemble desx∈T_Xr egtels queψ(x)=0 est relativement compact dans T_X.

On noteI^∞st(X)l’espace des fonctions, appel´ees fonctions orbitales stables, qui v´erifient les propri´et´esI1(X),I2(X)etI3(X)(on omet la condition de support).

La structure topologique de ces deux espaces est d´efinie de la mani`ere suivante : on noteK(X)l’ensemble des parties ferm´ees L deXtelles queL contient l’orbite sta- ble de chacun de ses ´el´ements et son intersection avec tout sous-ensemble de Cartan est compacte. Pour L ∈ K(X), on noteIc^st(L)l’espace des int´egrales orbitales sta- bles nulles surXr eg \L que l’on munit de la topologie d´efinie par les semi-normes

pT,u(ψ)= sup

x∈T_Xr eg

|∂(u)ψ_|T(x)|o`uT ∈T_τ(G)etu∈ S(t). Muni de cette topologie, I_c^st(L)est un espace de Fr´echet. Comme r´eunion desI_c^st(L)pourLparcourantK(X), on munit l’espaceIc^st(X)de la topologie de la limite inductive desIc^st(L).

L’espaceI^∞st(X)est muni de la topologie d´efinie par les semi-normes pL,T,u(ψ)= sup

x∈L∩T_{Xr eg}

|∂(u)ψ_|T(x)| o`uL∈K(X),T ∈Tτ(G)etu ∈S(t). C’est un espace de Fr´echet.

D´efinition 2.2.1. On rappelle qu’une distribution surXest dite stablement invariante (ou stable) si elle est dans l’adh´erence, pour la topologie faible, de l’espace vectoriel engendr´e par les distributions f → M^st_X(f)(x)lorsquex parcourtXr eg. On notera Di st^st(X)l’espace des distributions stables surX.

Th´eor`eme 2.2.2. ([B1] thm 6.2.1 pourX=G^σ et [H2] thm 3.12 pourX=M).

L’application M^st_X de C^∞_c (X) dans I_c^st(X) est continue et surjective. Sa trans- pos´ee ^tM^st_X d´efinit une bijection continue du dualIc^st(X) deIc^st(X)dans l’espace Di st(X)^st.

Nous donnons maintenant l’action des op´erateurs diff´erentiels sur l’espace I^∞st(X).

Soit Z(g)le centre de l’alg`ebre enveloppanteU(g)deg. Cette alg`ebre s’identifie naturellement `a l’alg`ebre des op´erateurs diff´erentiels surG^σinvariants par translation

`a gauche et `a droite.

L’alg`ebreD(M)des op´erateurs diff´erentielsG-invariants surMest ´egalement iso- morphe `a Z(g)([Bo] ou [B3] paragraphe 3.6). Rappelons la d´efinition de cet isomor- phisme, not´e µ. Pourξ ∈ g, on noteν(ξ) le champ de vecteurs sur Md´efini par ν(ξ)f(m) = _dt^d f

ex p(−tξ)m ex p(tσ (ξ))

/t=0. L’application ν se prolonge en un morphisme d’alg`ebresC-lin´eaire deU(g<sub>C</sub>)dans l’alg`ebre des op´erateurs diff´erentiels surM, l’image deZ(g_C)´etant ´egale `aD(M). NotonsJ la structure complexe deg<sub>C</sub>. L’injection degdansg<sub>C</sub> qui `aX associe ¹₂(X−i J X)induit une injectionC-lin´eaire deZ(g)dansZ(g_C). La restriction deν `aZ(g)induit un isomorphisme deZ(g)dans D(M). On note µ(z) = ν(<sup>t</sup>z)o`u z →^tz d´esigne l’antiautomorphisme principal de U(g).

D’autre part, `a chaqueX ∈g, on peut associer le champ de vecteursX˜ surGd´efini par X f˜ (g) = d

dt f(gex p t X)|t=0. Ceci d´efinit une action de Z(g)comme alg`ebre

d’op´erateurs diff´erentiels surG. Siz∈ Z(g)etFest une fonction holomorphe surG, on a(z.F)_|M=µ(z)F_|M.

SoitT ∈T_τ(G). On noteγTl’isomorphisme d’Harish-Chandra deZ(g)dans l’espace des invariants deS(t)sous l’action deW(T). SoitR⁺un syst`eme de racines positives deR(T). On pose

R+=

α∈R⁺

(e^α/2−e^−α/2).

On a alors, pour toute fonctionF ∈C^∞(X),G^τ-invariante ([Sa] ou [Bo] pourX=M et [HC3] pourX=G^σ) :

(z.F)|T_{Xr eg} =⁻_R+¹γT(z).(R⁺F_|T_{Xr eg}).

On d´efinit l’action deZ(g)surI^∞st(X)de la mani`ere suivante : pourψ∈I^∞st(X), pourz∈ Z(g)etT ∈T_τ(G), on pose

(z.ψ)(x)=γT(z).ψ_|T_Xr eg(x) pourx∈T_Xr eg.

Avec cette d´efinition, on a ([Sa] ou [Bo] pourX=Met [HC3] pourX=G^σ) z.M^st_M(f)=M^st_M(µ(z).f)si f ∈C_c^∞(M)

et

z.M^st_Gσ(f)=M^st_Gσ(z.f)si f ∈C_c^∞(G^σ).

2.3 Un espace de fonctions

Comme dans [B3] paragraphe 4.1, nous introduisons les espaces de fonctionsFc^st(X) etF^∞st(X). La motivation de ces d´efinitions est donn´ee dans le th´eor`eme 2.3.1 ci- apr`es.

SoitT ∈T_τ(G)et soit R⁺un syst`eme de racines positives deT. On note εR⁺ = R⁺

|R⁺ |.

C’est une fonction surTr eg, localement constante surT_Xr eg `a valeurs dans l’ensemble des racines quatri`emes de l’unit´e.

On noteF_c^st(X)l’espace des fonctionsϕ de classeC^∞surXr eg et stablement in- variantes v´erifiant les quatre propri´et´es ci-dessous. SoitT ∈T_τ(G), alors :

(F1)(X)Pour toute partie compacteKdeT_Xet pour toutu∈ S(t), on a sup

x∈K∩T_Xr eg

|∂(u)ϕ_|T_{Xr eg}|<∞.

(F2)(X)La fonctionεR⁺ϕ_|T_Xr eg se prolonge de mani`ereC^∞sur l’ensembleT_X(R− r eg)desx∈T_Xtel quee^α(x)=1 pour toute racine r´eelleαdeT.

(F3)(X) Soit α une racine r´eelle deT. Comme dans le paragraphe 1.4, on note ν_α la transformation de Cayley relative `aαetT_α = ν_α(T). Soit_α l’ensemble des x∈T_X∩T_αtels que pour toute racine r´eelleβ= ±α, l’on aite^β(x)=1.

Alors, pour toutu∈ S(t)tel ques_αu= −u, la fonction∂(u)(εR⁺ϕ_|T_Xr eg)se prolonge de mani`ereC^∞sur_α. De plus, pourt∈_α, on a la relation

∂(u)(εR⁺(T)ϕ)(t)=∂(c_α.u)(εR⁺(T_α)ϕ)(t).

(F4)(X)L’ensemble des x ∈ T_Xr eg tels queϕ(x) = 0 est relativement compact dansT_X.

On noteF^∞st(X)l’espace des fonctions de classeC^∞ surXr eg qui v´erifient les propri´et´esF1(X),F2(X)etF3(X)(on omet la condition de support).

On d´efinit une structure topologique sur chacun de ces deux espaces comme pour les fonctions orbitales : pour L ∈ K(X), on note Fc^st(L)l’espace des fonctions de Fc^st(X)nulles surXr eg\Lque l’on munit de la topologie d´efinie par les semi-normes

pT,u(ϕ)= sup

x∈T_{Xr eg}|∂(u)ϕ|T(x)|o`uT ∈Tτ(G)etu∈ S(t). Muni de cette topologie, Fc^st(L)est un espace de Fr´echet. Comme r´eunion desFc^st(L)pourLparcourantK(X), l’espaceFc^st(X)est muni de la topologie de la limite inductive desFc^st(L).

L’espaceF^∞st(X)est muni de la topologie d´efinie par les semi-normes pL,T,u(ϕ)= sup

x∈L∩T_{Xr eg}

|∂(u)ϕ_|T(x)| o`uL∈K(X),T ∈T_τ(G)etu ∈S(t).

On d´efinit une action de Z(g)surF^∞st(X)de la mani`ere suivante : pourz∈ Z(g) etϕ∈F^∞st(X), on pose

(z.ϕ)_|T_{Xr eg}=γT(z).ϕ_|T_{Xr eg} pour tout T ∈T_τ(G).

Le r´esultat suivant concernant la structure des distributions propres invariantes surX motive la d´efinition deF^∞st(X). On rappelle qu’une distributionG^τ-invariante surX, vecteur propre pour l’action deZ(g)est d´efinie par une fonction localement int´egrable surX, analytique surXr eg([HC] thm 2 pourX=G^σet [Sa] thm 5.1 pourX=M).

Th´eor`eme 2.3.1. ([Hi] thm 3 et [HC] pourX=G^σ et [Sa] thm 5.1 pourX=M).

L’application →| D |^1/2 d´efinit une bijection du sous-espace deDi st^st(X) form´e des ´el´ements propres sous l’action de Z(g)dans le sous-espace deF^∞st(X) form´e des ´el´ements propres sous l’action de Z(g).

D’apr`es (2.1.3), siest une distribution stable surXpropre sous l’action deZ(g), alors pour tout f ∈C_c^∞(X), on a

,f =

<T>τ

T_X

1

cT(γ ) | D(γ )|^1/2(γ )M^st_X(f)(γ )dγ.