Analyse harmonique sph´ erique L 2 sur les hyperbolo¨ıdes r´ eelles

3.3.1 Espaces hyperboliques r´eels

Soit _K=_Rou _C. On considère la_K-forme bilinéaire non dégénérée sur_Kⁿ⁺¹ définie par [z, w] =z₀w₀−z₁w₁− · · · −z_nw_n

pour z= (z0, · · · , zn) et w= (w0, · · · , wn) dans Kⁿ⁺¹. On note alors O(1, n, K) le sous groupe de GL(n+ 1, _K) pr´eservant [·, ·], c’est-`a-dire

O(1, n, _K) ={g∈GL(n+ 1, _K), [gz, gw] = [z, w] ∀z, w∈_Kⁿ⁺¹}.

De plus,SO(1, n, _K) ={g∈O(1, n, _K), detg= 1} est un sous groupe ouvert deO(1, n, _K).

Remarques : Le groupe SO(1, n, _C) est un groupe de Lie connexe appelé groupe de Lorentz complexe généralisé. Le groupeSO(1, n,_R) a deux composantes connexes. La composante connexe de l’identité est un groupe de Lie connexe appelé groupe de Lorentz généralisé, généralement noté SOo(1, n).

Le groupeGL(n+ 1, K) agit surKⁿ⁺¹ par la multiplication matricielle g·z:=gz

où z ∈ _Kn+1 est considéré comme un vecteur colonne et gz dénote le produit de matrices usuel. Cette action se restreint à une action deSO(1, n, _C) sur _Cⁿ⁺¹ et deSO(1, n, _R) sur _Rⁿ⁺¹. On note z⁰ = (0, · · · , 0, 1). L’orbite SO(1, n, C)·z⁰ est la quadrique complexe de dimensionn

X_Cⁿ={z∈_Cⁿ⁺¹, [z, z] =−1}

parfois appelée variété de De Sitter. Le stabilisateur de z⁰ est

k 0 0 1 , k∈SO(1, n−1, _C) ∼ =SO(1, n−1, _C). L’action deSO(1, n, _C) surXⁿ

C est transitive et on peut identifier, en tant qu’espaces homog`enes, X_Cⁿ=SO(1, n, _C)/SO(1, n−1, _C).

L’orbiteSO_o(1, n)·z0 est la quadrique r´eelle de dimension n

On a, en tant qu’espaces homog`enes,

X₋ⁿ =SO0(1, n)/SOo(1, n−1).

On consid`ere maintenant le produit scalaire euclidien sur Kⁿ⁺¹

(z, w) =z₀w₀+z₁w₁+· · ·+z_nw_n.

On rappelle queO(n+ 1, _K) est le sous groupe deGL(n+ 1, _K) pr´eservant (·, ·), c’est-`a-dire O(n+ 1, K) ={g∈GL(n+ 1,K), (gz, gw) = (z, w) ∀z, w∈_Kⁿ⁺¹}.

On rappelle ´egalement que

SO(n+ 1, _K) ={g∈O(n+ 1,_K), detg= 1}

est la composante connexe de l’identit´e dansO(n+1,K). On notera simplementSO(n+1) `a la place SO(n+ 1,_K). Pour z= (z0,· · · , zn) aveczj =xj+iyj (0≤j≤n), on notez_e= (iy0, x1,· · · , xn) etz_e⁰ = (−ix₀, y₁, · · ·, y_n). L’ensemble

{g∈GL(n+ 1, _C), [g_ez, gw_e] = [z,_e w_e] ∀z, w∈_Cⁿ⁺¹, detg= 1}

est un sous groupe de SO(1, n, C). En effet, pour un telg et pour toutz, w∈_Cn+1, [gz, gw] =

g(z_e+i_ez⁰), g(w_e+iw_e⁰)

= [z, w].

Ce sous groupe est isomorphe à SO(n+ 1). On restreint à SO(n+ 1) ⊆SO(1, n, _C) l’action de SO(1, n, _C) sur_Cⁿ⁺¹. L’orbiteSO(n+ 1)·z⁰ est la sphère réelle de dimensionsn

Sⁿ = {(iy0, x1, · · ·, xn)∈i_R×_Rⁿ, y²₀+x²₁+· · ·+x²_n= 1}

= X_Cⁿ∩(iR×_Rⁿ) Le stabilisateur de z0 dansSO(n+ 1) est

k 0 0 1 , k∈SO(n) ∼ =SO(n). Ainsi, en tant qu’espaces homog`enes, on a

Sⁿ=SO(n+ 1)/SO(n).

On consid`ere maintenant le point w0= (1, 0, · · · , 0). L’orbiteSO_o(1, n)·w0 est

X₊ⁿ ={x= (x₀, · · · , x_n)∈_Rⁿ⁺¹, [x, x] = 1, x₀ >0}=SO_o(1, n)/SO(n). En tant qu’espaces sym´etriques,

1. Sⁿ=SO(n+ 1)/SO(n) est riemannien de type compact 2. X₊ⁿ =SO_o(1, n)/SO(n) est riemannien de type non compact 3. X₋ⁿ =SOo(1, n)/SOo(1, n−1) est pseudo-riemannien.

Ce sont des espaces sym´etriques de rang un.

Remarque : On peut aussi voir X₊ⁿ dans X_Cⁿ en consid´erant l’action de GL(n+ 1, R) sur Rⁿ⁺¹

par multiplication. On a alors

X₊ⁿ =SO_o(1, n)·iz₀ =X_Cⁿ∩ i_Rⁿ⁺¹

Plus précisément, les espacesX₋ⁿ sont des espaces symétriques non compactement causaux (NCC). En fait, ce sont les uniques espaces symétriques non compactement causaux de rang réel un.

3.3.2 Structure de Xn

+ et de Xn

−

Prenons le cas de G = SO_o(1, n) (voir [10], p.959-960). L’involution de Cartan est donn´ee par θ(g) = g⁻¹^t. On a alorsK =G^θ=G^θ_o ≡SO(n) et donc

X₊ⁿ=SOo(1, n)/SO(n) =G/K

est un espace symétrique riemannien de type non compact. Maintenant, on considère l’involution τ donnée par τ(g) =J gJ où J = I_n 0 0 −1

avecInd´esignant la matrice identit´e d’ordren.τ commute avecθet en prenantH=SOo(1, n−1), on a :

X₋ⁿ =SOo(1, n)/SOo(1, n−1) =G/H est un espace sym´etrique pseudo-riemannien.

On a alors a=p∩q=    Xt=   0 0 t 0 0 0 t 0 0  , t∈_R    , et A=    a_t=   cht 0 sht 0 I_n−1 0 sht 0 cht  , t∈_R    .

En choisissant la racine positive par

α(Xt) =t, on a alors n=g^α =      0 v^t 0 v 0 −v 0 v^t 0  , v ∈_Rⁿ⁻¹    ,

et N =    n(v) =   1 +¹₂kvk2 v^t −¹₂kvk2 v I_n−1 −v 1 2kvk2 vt 1− ¹₂kvk2  , v ∈_Rⁿ⁻¹    o`u kvk2=|v1|2+· · ·+|vn−1|2. Notons que mα=n−1, m2α= 0 et ρ= ^mα 2 ⁼ n−1 2 ^. ^(3.8)

3.3.3 Fonctions sphériques et transformée sphérique

On renvoie à [22] ou [2] pour plus de détails sur les fonctions sphériques. On garde les notations des paragraphes précédents et on renvoie à la section 1.2 pour la structure des espaces symétriques. Une fonction ϕ : S⁰ → _C est H-bi-invariante si ϕ(h₁xh₂) = ϕ(x) pour tout x ∈ S⁰ et tout h1, h2 ∈H.

Soit_D(G/H) l’algèbre (commutative) des opérateurs différentielsG-invariants surG/H. Une fonc-tion sphérique surG/Hest une fonction continueH-bi-invarianteϕ:S⁰ →_Cqui est fonction propre commune de tous les éléments de D(G/H), c’est-à-dire, il existe un caractèreχ:D(G/H)→_Ctel queDϕ=χ(D)ϕ, pour toutD∈_D(G/H).

Pour toutλ∈a^∗ C on d´efinit aH(x)^λ = 0 si x6∈HAN e^λ^(log^aH(x)) six∈HAN . Soit E l’ensemble des λ∈a^∗

C pour lesquels la fonctionh → aH(xh)^λ⁻^ρ est int´egrable surH. Pour λ∈ E, la fonctionϕ_λ d´efinie sur S⁰ par

ϕ_λ(x) =

a_H(xh)^λ⁻^ρdh (3.9)

est une fonction sphérique. On peut montrer que le convergence de l’intégrale définissantϕ_λ(x) ne dépend que deλet pas dex.

Dans le cas où G/H =SOo(1, n)/SOo(1, n−1), on a pourat= exp(tT0)∈S⁰∩a≡_R₊, ϕλ(at) =cΩ(λ)(2cht)^λ⁻^ρ2F1 −λ+ρ 2 ^, −λ+ρ+ 1 2 ^{; 1}⁻^λ^{; ch} −2 t (3.10) avec c_Ω(λ) = 2²^ρ⁻¹Γ(ρ)^Γ(⁻^λ⁻^ρ^{+ 1)} Γ(−λ+ 1) ^. ^(3.11) A une constante près, on retrouve la fonction _ec(λ) donnée en (2.9).

Maintenant, la transformée sphérique de Laplace d’une fonction H-invariante f suffisamment régulière sur S0/H est définie (pour une normalisation convenable de la mesure H-invariante dx surG/H) par L_{N CC}f(λ) = Z S0/H f(x)ϕ_λ(x)dx= Z A+ f(a)ϕ_λ(a)δ(a)da. (3.12)

De même, une fonction sphérique sur G/K est une fonction continue K-bi-invariante ϕ:G→ _C, avec ϕ(e) = 1, qui est fonction propre commune de tous les éléments de D(G/K), c’est-à-dire, il existe un caractère χ:_D(G/K)→_Ctel queDϕ=χ(D)ϕ, pour toutD∈_D(G/K).

On peut montrer que les fonctions sph´eriques surG/K sont donn´ees par ψλ(at) =

ak(xk)^λ⁻^ρdk (3.13)

pour at∈A.

De plus, dans le cas o`uG/K =SOo(1, n)/SO(n), on a ψλ(at) =2F1 λ+ρ 2 ^, −λ+ρ 2 ^;^ρ⁺ 1 2^; ⁻^sh 2t . (3.14)

Maintenant, la transformée de Fourier sphérique sur G/K est définie pour toute fonction f ∈

C_c^∞(G/K) K-invariante par Ff(λ) = Z G f(x)ψ_λ(x)dx= Z A+ f(a)ψ_λ(a)δ(a)da (3.15) Supposons que U/K est un espace symétrique de type compact, avec U simplement connexe. Les fonctions sphériques sur U/K sont alors liées aux fonctions sphériques sur le dual non compact et aux polynômes de Jacobi, d’après les formules du lemme 25. Dans le cas de la sphère vue comme quotientSⁿ=SO(n+ 1)/SO(n), certaines précautions sont nécessaires car U =SO(n+ 1) n’est pas simplement connexe (son revêtement universel est le groupe Spin(n+ 1) et l’applica-tion quotient Spin(n+ 1) → SO(n+ 1) a pour noyau {±1}). Cependant, on peut montrer (voir [31], chapitre 3, paragraphe 12) que pour chaque plus haut poids restreint µ donné par le lemme 25, la fonction sphérique sur Spin(n+ 1) induit une fonction sphérique sur Sⁿ. La décomposition SO(n+ 1) = SO(n)T SO(n) où T = exp(ia) est le tore maximal du lemme 25 permet d’identifier les fonctions sphériques avec leurs restrictions au tore.

Le théorème de Paley-Wiener, la formule d’inversion et le théorème de Plancherel pour la trans-formée hypergéométrique de Fourier et de Laplace du chapitre 2 donnent des théorèmes corres-pondants pour la transformée sphérique de Fourier et de Laplace sur X₊ⁿ et X₋ⁿ respectivement. On écrit ici le théorème de Plancherel pour X₋ⁿ (les autres théorèmes dans ce cas géométrique particulier sont déja dans la littérature (voir [1])).

En comparant (2.15) et (3.10), on a

ϕ_λ(a_t) =c_Ω(λ)Φ_λ(m, t) donc en identifiantA⁺ ≡]0, +∞[, on obtient d’apr`es (3.12),

i^L^{N CC}^f⁽^λ⁾ λc(−λ) ⁼ ^ic^Ω⁽^λ⁾ Z +∞ 0 f(t)^Φ^λ⁽^{m, t}⁾ λc(−λ) ^δ⁽^t⁾^dt = cΩ(λ)Lef(λ)

On rappelle ´egalement (voir section 2.5) que H_∗²(Reλ <0) est l’espace H∗⁽^s⁽^m⁾⁾(Reλ < 0) muni de la norme

kak²_∗ =

Z +∞ −∞

|a(iλ)−a(−iλ)|²|λc(iλ)|²dλ.

Théorème 22 SoitH =SO_o(1, n−1)et soit S⁰/H le future du point base deX₋ⁿ. Alors, conve-nablement normalisée, la transformée de Laplace sphérique réalise un isomorphisme isométrique entre l’espace L²(S⁰/H)^H des fonctions H-invariantes L² sur S⁰/H muni du produit scalaire L²

et l’espace H_∗²(Reλ <0) muni du produit scalaire associé à la norme k · k_∗, c’est-à-dire

k ^L^{N CCf}⁽^λ⁾

λc(−λ)c_Ω(λ)^k^∗ ⁼^k^f^k²

pour toute fonction f ∈l²(S⁰/H)^H.

3.3.4 Param´etrisation de X_Cⁿ, X₋ⁿ et Sⁿ

La vari´et´e de De Sitter Xⁿ

C admet la param´etrisation globale de variables complexes θ ∈ _C et ω= (ω₀, · · · , ω_n−1)∈Xⁿ⁻¹ C donn´ee par z_j = (ishθ)w_j 0≤j≤n−1 zn = chθ ^(3.16) En effet, on a alors [z, z] = (z0,· · · , zn−1), (z0, · · ·, zn−1)−ch²θ = −sh²θ[ω, ω]−ch²θ = sh²θ−ch²θ = −1.

R´eciproquement, supposons quez= (z₀, z₁, · · ·, z_n)∈Xⁿ

C. Alors−1 = [z, z] =z₀²−z²₁− · · · −z_n². On pose z_n = chθ ∈ _C. Si z_n = 1, alors z₀ = z₁ = · · · = z_n−1 = 0 et la param´etrisation donn´ee convient pour θ= 2πkiavec k∈_Z. Sizn6= 1, alors

z₀²−z₁²− · · · −z_n²₋₁=z_n²−1 = ch²θ−1 =−(ishθ)²

et shθ6= 0. En posantw_j = ^zj

ishθ, on obtientω =ω₀, · · ·, ω_n−1) ∈Xⁿ⁻¹

C et on a bien les relations de (3.16). Remarquons que la paramétrisation n’est pas bijective à cause de la 2πi-periodicité des fonctions chθet shθ.

Tout ´el´ement z∈Xⁿ

C est donc de la forme z= (ishθ)ω, chθ avec θ∈_Cetω ∈Xⁿ⁻¹

C . CommeXⁿ⁻¹

C =SO(1, n−1, _C)·z⁰₍_n₎ avec z₍⁰_n₎= (0,· · · ,0,1)∈_Cn, tout ´el´ementz deXⁿ

Cest de la forme z= (ishθ)kz₍⁰_n₎, chθ= k 0 0 1 · (ishθ)z₍⁰_n₎, chθ avec k∈SO(1, n−1, C) et θ∈_C. Une fonctionf :Xⁿ C →_C estSO(1, n−1, _C)-invariante si f k 0 0 1 ·z =f(z)

pour tout z ∈ Xⁿ

C et k ∈ SO(1, n−1, _C). D’après ce qui précède, une telle fonction dépend uniquement de z_n= chθ∈_C f(z) = f k 0 0 1 · (ishθ)z₍⁰_n₎, chθ = f (ishθ)z⁰₍_n₎, chθ = F(chθ) Cette paramétrisation de Xⁿ

C se restreint `a une param´etrisation globale deX₋ⁿ :

x_j = (ishθ)ω_j 0≤j≤n−1 xn = chθ

avec ω∈X₊ⁿ⁻¹ etθ∈_R.

Une fonctionf :X₋ⁿ→_C qui estSO_o(1, n−1)-invariante d´epend donc seulement dex_n= chθ: f(x) =F(chθ).

Supposons maintenant queθ=iτ avecτ ∈_R, alors sh(iτ) = isinτ ch(iτ) = cosτ De plus, si ω= (ω0, · · · , ωn−1)∈X₋ⁿ⁻¹, alors

(iω0,· · · , ωn−1), (iω0, · · · , ωn−1)=−ω₀²+ω₁²+· · ·+ω_n²₋₁= 1.

Par restriction de la param´etrisation deXⁿ

C, on obtient la param´etrisation deSⁿ=Xⁿ

C∩ i_R×_Rn suivante :    z₀ = i(sinτ)iω₀ zj = (sinτ)ωj 1≤j ≤n−1 zn = cosτ avec τ ∈_Retω = (iω₀, · · · , ω_n−1)∈Sⁿ⁻¹.

Si on consid`ere l’identification deSO(n+ 1) comme sous-groupe de SO(1, n,C) donn´ee en section 3.3.2, et l’immersion de SO(1, n−1, _C) dansSO(1, n, _C) en tant que stabilisateur de z⁰, alors

SO(n+ 1)∩SO(1, n−1, _C)≡SO(n)× {id} ≡SO(n).

Une fonction sur Sn qui estSO(n)-invariante d´epend alors uniquement de z_n= cosτ.

3.3.5 Extension holomorphe de séries de fonctions sphériques sur la sphère Sn

On garde les notations les sections précédentes. Une série de Fourier sphérique sur Sⁿ =SO(n+ 1)/SO(n) est une série formelle

µ∈Λ+(U/K)

Quand elle converge, cette série définit une fonction SO(n)-bi-invariante surSO(n+ 1), donc une fonctionSO(n)-invariante surSn. Par SO(n)-invariance, la série est déterminée par sa restriction au toreT, et le lemme 25 donne

X µ∈Λ+(U/K) a_µψ_µ(expH) = Γ ρ+¹ 2 X µ∈_N a_µ ^Γ(^µ^{+ 1)} Γ µ+ρ+¹₂P_µ⁽^{a, a}⁾(cosτ) (3.18) siH =iτ ∈ia≡i_R.

Comme application des théorèmes 19 et 20, on étudie l’extension holomorphe de séries de Fourier sphériques de la forme (3.17) quand les coefficientsaµsont les valeurs de la transformée de Laplace sphérique d’une fonctionL² etH-invariante sur le futurS⁰/H du point base z⁰ ∈X₋ⁿ.

Dans le casm= (n−1, 0), les coefficientsdµ dans (3.2) deviennent d_µ=i^Γ(2^ρ⁾ Γ(ρ) Γ(µ+ 1) Γ µ+ρ+¹₂, donc d_µP_µ⁽^{a, a}⁾(cosτ) =i^Γ(2^ρ⁾ Γ(ρ) ^ψ^µ^(cos^τ⁾^, ^τ ^∈^R^. D’apr`es les formules (2.5) et (3.11), on a

λc(−λ)cΩ = ^Γ(2^ρ⁾ Γ(ρ) λΓ(−λ) Γ(−λ+ρ)² 2ρ−1 Γ(ρ)^Γ(⁻^λ⁻^ρ^{+ 1)} Γ(−λ+ 1) = −Γ(2ρ)2²^ρ⁻¹^Γ(⁻^λ⁻^ρ^{+ 1)} Γ(−λ+ρ) ^. D’où dµLef(−µ−ρ)P_µ⁽^{a, a}⁾(cosτ) = ¹ 22ρ−1Γ(ρ) Γ(µ+ 2ρ) Γ(µ+ 1) ^L^{N CCf}⁽⁻^µ⁻^ρ⁾^ψµ^(cos^τ⁾^. La série des théorèmes 19 et 20 devient alors

1 22ρ−1Γ(ρ) X µ∈_N Γ(µ+ 2ρ) Γ(µ+ 1) ^L^{N CC}^f⁽⁻^µ⁻^ρ⁾^ψ^µ^(cos^τ⁾ ^(3.19) avec x= cosτ ∈]−1, 1[, c’est-`a-direτ ∈]−π, 0[.

On va regarder cette fonction SO(n)-invariante surSⁿ en utilisant la param´etrisation de Sⁿ pour laquelle le param`etre θ deXn

C est li´e au param`etre τ parθ=iτ.

Pour z = chθ ∈ _C, on a z ∈ _C\[1, +∞[ si et seulement si θ 6∈ _R₊2kπi avec k ∈ _Z. On peut maintenant formuler le th´eor`eme 19 dans ce contexte :

Th´eor`eme 23 Soit H = SO_o(1, n−1) et soit S⁰/H le futur du point base z⁰ ∈ X₋ⁿ. Soit f ∈

L²(S⁰/H)^H telle que (en consid´erantf comme une fonction H-bi-invariante surS⁰), on ait f_|_c0 max

a support compact. Alors la s´erie de Fourier sph´erique X

µ∈_N

Γ(µ+ 2ρ)

Γ(µ+ 1) ^L^{N CC}^f⁽⁻^µ⁻^ρ⁾^ψµ⁽^u⁾^, ^u^∈^S n

converge dans L² vers une fonction F ∈L²(Sⁿ). Si on consid`ere la sph`ere Sn incluse dans Xn

C par Sn = Xn

C∩(i_R×_Rn), alors F s’´etend en une fonction holomorphe SO(1, n−1, C)-invariante sur le domaine D_Cⁿ donn´e par

Dⁿ_C={z= (z₀, · · · , z_n)∈X_Cⁿ, z_n∈_C\[1, +∞[}.

De plus,F poss`ede des valeurs au bordF₊ etF− le long de X₋ⁿ =Xⁿ

C∩_Rn+1 dans le sens suivant :

F±(x) = lim

y→0F(ish(θ±iy)ω₀, · · · , ish(θ±iy)ω_n−1, ch(θ±iy))

si x= (x1,· · · , xn)∈X₋ⁿ et pour θ∈_Ret (ω0, · · ·, ωn−1)∈X₋ⁿ⁻¹,

xj =ish(θ)ωj, 0≤j ≤n−1, et xn=chθ.

Alors les valeurs au bord F± sont des fonctions SO_o(1, n−1)-invariantes bien d´efinies sur S0/H

et pour tout x∈S⁰/H,

Chapitre 4

Th´eorie L

²

de la transform´ee

hyperg´eom´etrique de Laplace dans le

cas complexe

4.1 La transformée Θ-hypergéométrique dans le cas complexe

Le cas complexe correspond à un triplet (a, Σ, m) où a est un espace vectoriel euclidien réel, Σ est un système de racines réduit dans a^∗ et m est une fonction de multiplicité sur Σ telle que mα = 2 pour toutα∈Σ. Chaque triplet de cette forme est géométrique et correspond à un espace symétrique riemannien de type non compact muni d’une structure complexe.

Soit Π un système fondamental de racines simples dans Σ associé à un choix de racines positives Σ⁺. A chaque sous ensemble Θ de Π correspond une transformée hypergéométrique de Laplace appelée transformée Θ-hypergéométrique (voir [26]). Cette transformée est définie pour des fonctions ayant pour domaine de définition un cône dansaqui est naturellement associé à Θ de la manière suivante. SoithΘil’ensemble des éléments de Σ qui peuvent s’écrire comme combinaison linéaire d’éléments de Θ. Alors hΘi est un système de racines, plus précisément un sous-système de Σ. Le groupe de Weyl W_Θ de hΘi est un sous-groupe de W engendré par les réflexionsr_j :=r_α_j avec α_j ∈Θ. On notehΘi+=hΘi ∩Σ⁺. Soit

a+ ={H∈a, α(H)≥0, ∀α∈Σ⁺}

l’adhérence de a⁺. On définit a_Θ= (W_Θa+)0 où 0 désigne l’intérieur. Alorsa_Θ est un cône convexe fermé WΘ-invariant dans a et son intérieur a_Θ est également convexe (voir [26], lemme 3.4). Re-marquons que si Θ =∅, on aa_∅ =a⁺ et W_Θ={id}, alors que si Θ = Π, on aa_Π=a etW_Π=W. Si dima= 1, alors le cas complexe se réduit au cas de SL(2, _C) qui a été détaillé dans l’exemple 3, p.14, 16 et 22. De plus, on remarque que dans cet exemple, on a Π ={α}= Σ⁺ et donc Θ =∅

et Θ = Π sont les seules possibilit´es. Ainsi, on a les deux transform´ees suivantes :

– La transformée hypergéométrique de Laplace, définie pour des fonctionsf sur a⁺≡_R₊ par

Lf(λ) = Z a+ f(t)Φλ(m, t)δ(t)dt avec Φλ(m, t) = ^e λt 2sht^.

– La transformée hypergéométrique de Fourier, définie pour des fonctions paires f sur a =_R par Ff(λ) = Z a+ f(t)ψ_λ(m, t)δ(t)dt avec ψ_λ(m, t) =c(λ)Φ_λ(m, t) +c(−λ)Φ−λ(m, t) et c(λ) = ¹_λ.

Remarquons également que λc(−λ) =−1, donc à une constante près on a Lef =L.

Dans le cas complexe général, on a une famille de ”fonctions base” {ϕ_Θ_{, λ}(m, H)} sur a_Θ pour chaque Θ fixé. Chacune de ces familles de fonctions intervient dans la définition de la transformée Θ-hypergéométrique correspondante.

On note respectivement a^∗ et a^∗

C le dual réel et le dual complexe dea. On étendh·, ·i àa^∗ comme dans la section 1.2.1, et à a^∗

C par _C-bilin´earit´e. On utilisera la notation λ_α= ^h_h_{α, α}^{λ, α}ⁱ_i pour λ∈a^∗

C et α∈Σ. Suivant les notations de [26], exemple 3.9, p.93, on d´efinit pour Θ fix´e

c⁺_Θ(2, λ) =   Y α∈hΘi+ λα   −1 (4.1) c⁻_Θ(2, λ) =   Y α∈Σ+\hΘi+ λα   −1 , (4.2)

où par convention, un produit indexé sur l’ensemble vide est égal à 1.

La fonctionϕ_∅_{, λ}(2, H) est un multiple de la série de Harish-Chandra de paramètreλpour (a,Σ, m). La série de Harish-Chandra de paramètre spectralλest

Φ_λ(2, H) = ∆(H)⁻¹e^λ⁽^H⁾, H∈a⁺ (4.3) o`u ∆(H) = ^Y α∈Σ+ e^α⁽^H⁾−e⁻^α⁽^H⁾ (4.4)

est le d´enominateur de Weyl.

Comme dans [26], def 3.1, on définit la fonction Θ-hypergéométrique de paramètre spectralλpar ϕ_Θ_{, λ}(2, H) =c⁻_Θ(2, λ) ^X

w∈WΘ

c⁺_Θ(2, wλ)Φ_wλ(2, H) (4.5)

pour H∈a⁺. D’apr`es [26], (16), on aw Σ⁺\ hΘi+

⊆Σ⁺\ hΘi+ pour toutw∈WΘ. On d´efinit

Π(λ) = ^Y α∈Σ+ λα. (4.6) Exemples : 1. Si Θ =∅, alorsc⁺_∅(2, λ) = 1, c⁻_∅(2, λ) = Π(λ)⁻¹ etW∅={id}, donc ϕ_∅_{, λ}(2, H) = Π(λ)⁻¹Φ_λ(2, H).

2. Si Θ = Π, alorsc⁻_Π(2, λ) = 1, c⁺_Π(2, λ) = Π(λ)⁻¹ etW_Π=W, donc dans ce cas ϕ_Π_{, λ}(2, H) = ^X w∈W 1 Π(wλ)^Φ^wλ⁽²^{, H}⁾ = ¹ Π(λ) X w∈W det(w)Φ_wλ(2, H)

co¨ıncide, à une constante près, avec la restriction à a(≡A= exp(a)) de la fonction sphérique de Harish-Chandra de paramètre spectralλ.

On pose

Π⁻_Θ(λ) = ^Y α∈Σ+\hΘi+

λα. (4.7)

En remarquant quec⁺_Θ(2, wλ) = det(w)c⁺_Θ(2, λ) pour tout w∈WΘ, on a le lemme suivant.

Lemme 26 Pour tout λ∈a^∗

ϕ_Θ_{, λ}(2, H) = Π(λ)⁻¹∆(H)⁻¹ ^X w∈WΘ

det(w)e^wλ⁽^H⁾. (4.8)

En particulier, ϕ_Θ_{, λ}(2, H) s’´etend en une fonction W_Θ-invariante, m´eromorphe en λ ∈ a^∗

C et r´eelle analytique enH∈a_Θ. De plus, la fonction Π⁻_Θ(λ)ϕ_Θ_{, λ}(2, H) est enti`ere en λ∈a^∗

C pour tout

H∈a_Θ fix´e.

Définition 15 La transformée Θ-hypergéométrique d’une fonction WΘ-invariante suffisamment régulière f :a_Θ→_Cest la fonction W_Θ-invariant F_Θf(2, λ) définie pourλ∈a^∗

C par F_Θf(2, λ) := ¹ |WΘ| Z a_Θ f(H)ϕΘ, λ(2, H)δ(H)dH = Z a+ f(H)ϕΘ, λ(2, H)δ(H)dH (4.9) o`u δ(H) = ∆(H)² (4.10) Exemples :

1. Si Θ = Π, alorsF_Θf co¨ıncide, à une constante près, avec la transformée hypergéométrique de Heckman et Opdam (voir [24]) pour le cas complexe, donc aussi avec la transformée sphérique de Harish-Chandra des fonctionsK-bi-invariantes sur un espace symétrique riemannien muni d’une structure complexe.

2. Si dima= 1, on a ϕ_∅_{, λ} = ¹_λΦ_λ(2, H). Donc F_∅f(2, λ) = ¹_λLf(λ) dans les notations du cas de rang un.

Dans le cas où Θ = Π, la formule d’inversion, le théorème de Paley-Wiener et le théorème de Plancherel ont été démontrés par Opdam (voir [24]) pour une fonction de multiplicité positive m arbitraire.

La formule d’inversion pour Θ arbitraire et m positive a été montrée dans [27]. Le théorème de Paley-Wiener pour Θ et marbitraires n’est pas encore connu. dans le cas de fonctions de multipli-cité paires (c’est-à-diremα∈2Npour toutα), et avec certaines conditions supplémentaires sur Θ si m_α 6= 2 pourα∈Σ, le théorème de Paley-Wiener a été prouvé par Ólafsson et Pasquale dans [23]. Nous allons maintenant rappeler ces théorèmes dans le cas complexe. Les preuves se simplifient dans ce cas. Remarquons tout d’abord que (4.8) permet d’avoir une version simplifiée de (4.9).

Proposition 6 Soit f une fonction WΘ-invariante sur a_Θ suffisamment r´eguli`ere (par exemple

f ∈C_c^∞(a_Θ)^WΘ), alors pour tout λ∈a^∗

C, on a F_Θf(2, λ) = ¹ Π(λ) Z aΘ f(H)∆(H)e^λ⁽^H⁾dH.

Preuve : On a ∆(wH) = det(w)∆(H) et det(w) = det(w⁻¹) puisquewest orthogonal. De plus, on a wλ(H) =λ(w⁻¹H). Donc, d’apr`es (4.8), (4.10) et par laW_Θ-invariance de f, on a

F_Θf(2, λ) = ¹ |WΘ| Z aΘ f(H)  Π(λ)⁻¹ ^X w∈WΘ det(w)e^wλ⁽^H⁾  ∆(H)dH = ¹ Π(λ) 1 |W_Θ| X w∈WΘ Z aΘ f(w⁻¹H)∆(w⁻¹H)e^λ⁽^w⁻¹^H⁾dH = ¹ Π(λ) Z aΘ f(H)∆(H)e^λ⁽^H⁾dH c.q.f.d.

Remarque : Si Θ6= Π, alors la formule obtenue dans la proposition 6 est l’analogue en plusieurs variables de la formule pour _λ¹Lf(λ) dans le cas deSL(2, _C) de l’exemple p.

Th´eor`eme 24 (Formule d’inversion) Soit f ∈C_c^∞(aΘ)^WΘ, alors pour tout H∈a_Θ, on a

∆(H)f(H) = ¹ (2π)n

a∗

Π(iλ)F_Θf(2, iλ)e⁻^iλ⁽^H⁾dλ,

o`u n= dima.

Preuve : D’apr`es la proposition 6,

Π(iλ)F_Θf(2, iλ) =

(f(H)∆(H)χ_a_Θ(H)e^iλ⁽^H⁾dH = (2π)^n/²F[χaΘ·∆·f] (λ)

où χ_a_Θ est la fonction caractéristique du cônea_Θ etF désigne la transformée de Fourier classique. La formule d’inversion donne alors, pourH ∈a,

χ_a_Θ(H)∆(H)f(H) = ¹ (2π)n

a∗

Π(iλ)F_Θf(2, iλ)e⁻^iλ⁽^H⁾dλ.

c.q.f.d.

On rappelle que, pour une partie convexe et compact C de a, la fonction support q_C :a^∗ →_R est d´efinie par

q_C(λ) := sup H∈C

λ(H). (4.11)

D´efinition 16 Soit C une partie convexe, compact et WΘ-invariant de a_Θ. L’espace de Paley-WienerP W_Θ(2, C)est l’espace des fonctions m´eromorphesW_Θ-invariantesg:a^∗

C→_Csatisfaisant la propriété suivante : la fonction Π(λ)g(λ) est une fonction entière à décroissance rapide de type exponentiel C, c’est-à-dire, pour toutN ∈_N, il existe une constante CN ≥0 telle que

|Π⁻_Θ(λ)g(λ)| ≤CN(1 +|λ|)⁻^Ne^qC(Reλ)

pour tout λ∈a^∗

On noteC_c^∞(C)^WΘ l’espace des fonctionsC^∞etW_Θ-invariantes f :a_Θ →_Ctelles que suppf ⊆C.

Théorème 25 (Paley-Wiener) La transformée Θ-hypergéométrique F_Θ(2, ·) est une bijection de C_c^∞(C)^WΘ sur P W_Θ(2, C).

Preuve : Voir [23], th´eor`eme 1.3 et proposition 6.1.

c.q.f.d.

Venons en maintenant au théorème de Plancherel pour F_Θ(2, ·). La formule pour F_Θ(2, ·) de la proposition 6 suggère que le théorème de Plancherel devrait être lié au théorème correspondant pour la transformée de Laplace de fonctions à support dans un certain cône de _Rⁿ. On montre maintenant comment le théorème de Plancherel en rang 1 pour Lese simplifie dans le cas complexe de SL(2, _C).

o`u C est une constante venant de la normalisation de la mesured^•λ. Ainsi, H2

∗(Reλ <0) =H2(Reλ <0). De plus,

e Lf(λ) =−ⁱ 2 Z ∞ 0 f(t)sht e^λtdt,

et f ∈ L²(R+, δ(t)dt) si et seulement si f(t)sht ∈ L²(R+, dt). Donc, par une renormalisation adéquate des normes, l’isomorphisme isométrique entre L²(_R+, δ(t)dt) etH_∗²(Reλ <0) donné par

L correspond à l’isomorphisme isométrique classique entreL²(_R₊, dt) et H²(Reλ <0) via L. Dans la prochaine section, nous donnons les grandes lignes de la théorie classique de la trans-formée de Laplace sur les cônes. Cela nous permettra de donner le théorème de Plancherel pour la transformée Θ-hypergéométrique dans le cas complexe avec Θ6= Π.

4.2 La transform´ee de Laplace sur les cˆones dans _Rⁿ

Les résultats de cette section sont classiques et peuvent être trouvés dans [29], chapitre 3. Soit B un ouvert deRⁿ. Le tube TB de baseB est le sous ensemble

T_B ={λ+iη∈_Cⁿ, λ∈B}.

En particulier, si Γ est un cône ouvert T_Γ={λ+iη∈_Cn, λ∈Γ}. On définit le cône dual de Γ, Γ^∗ ={x∈_Rⁿ, x·λ≥0, ∀λ∈Γ}.

D´efinition 17 L’espaceH2(T_Γ) est l’espace des fonctions holomorphes F :T_Γ−→_C telles que

kFk²_H2 := sup λ∈Γ

Rⁿ

|F(λ+iη)|²dm(η)<+∞.

Remarque : Pour z, w ∈_Cn, on note z·w=Pn

j=1z_jw_j, donc en particulier, z·x=Pn

j=1z_jx_j si x∈_Rn.

Théorème 26 SoitΓ un cône ouvert, alors F ∈H²(TΓ) si et seulement si

F(λ+iη) =

−Γ∗

e⁽^λ⁺^iη^)·^xf(x)dx

o`u f est une fonction deL²(−Γ^∗). De plus, on a

kFk_H2 =kfk₂.

En particulier, H²(T_Γ) contient une fonction non identiquement nulle si et seulement si Γ est r´egulier (c’est-`a-dire Γ∩(−Γ) =∅)

Preuve : (voir [29], théorème 2.3 page 93 et théorème 3.1 page 101) Soit f ∈L²(−Γ^∗) et soitλ∈Γ fixé. On définit une fonction f_λ :_Rn−→_Cpar

f_λ(x) =

e^λ^·^xf(x) x∈ −Γ^∗ 0 sinon

Commeλ·x≤0 pourx ∈ −Γ^∗, on a f_λ ∈L²(_Rⁿ). De plus, comme Γ est ouvert, on peut trouver un voisinage N de λcontenu dans Γ et une fonctiong∈L1(−Γ^∗) tels que eν·x|f(x)| ≤ |g(x)|pour tout (ν, x) ∈ N×(−Γ^∗). Par conséquent, f_λ ∈ L¹(_Rⁿ). On peut donc définir une fonctionF sur T_Γ par F(λ+iη) = Z −Γ∗ e⁽^λ⁺îη^)·^xf(x)dm(x) = Z Rⁿ f_λ(x)eîη^·^xdm(x) = fλ^ˆ(η)

et F est holomorphe sur T_Γ d’après le théorème de Morera. La formule de Plancherel pour la transformée de Fourier rappelée précédemment montre enfin que

R´eciproquement, si F ∈H2(T_Γ) alors on peut ´ecrire

F(λ+iη) = Z Rⁿ f(x)e⁽^λ⁺^iη^)·^xdm(x) avec f ∈L2(_Rn) et kFk2 H2 = sup λ∈Γ Z Rⁿ e²^λ^·^x|f(t)|2dm(x).

En effet, on considère pourλ∈Γ fixé, la transformée de Fourier inversef_λ de F(λ+iη) considérée comme fonction deη ∈_Rn, c’est-à-dire, on a dansL²

f_λ(x) =

Rⁿ

F(λ+iη)e⁻^iη^·^xdm(η). (4.12)

On v´erifie (voir [29], p. 100-101) que pour tout λ, µ∈Γ, on a pour presque toutx∈_Rn, e⁻^λ^·^xf_λ(x) =e⁻^µ^·^xf_µ(x).

L’argument de [29], pp. 92-93, montre alors que |f_λ(x)|=|f(x)|e^λ^·^x est majorée par une fonction intégrable sur _Rn, d’où f_λ ∈ L1(_Rn). Cela implique que R

Rⁿf_λ(x)eiη·xdm(x) est bien définie et donne une fonction continue de η∈_Rn. D’après (4.12), cette fonction doit être F(λ+iη).Donc

F(λ+iη) = Z Rⁿ fλ(x)eîη^·^xdm(x) = Z Rⁿ f(x)e^λ^·^xeîη^·^xdm(x) = Z Rⁿ f(x)e⁽^λ⁺îη^)·^xdm(x)

Il reste `a montrer que suppf ⊆ −Γ^∗. Soit x₀ 6∈ −Γ^∗, alors il existe λ₀ ∈ Γ tel que λ₀·x₀ > 0. Comme Γ^∗ est ferm´e, il existe un voisinageN dex0 dans _Rⁿ\(−Γ^∗) et δ >0 tels que

λ₀·x > δ >0, x∈N,

donc pour toutk >0, (kλ₀)·x > kδ. Commekλ₀ ∈Γ, on a

Z N e²^kλ0·x|f(x)|²dm(x)≤ Z Rⁿ e²^kλ0·x|f(x)|²dm(x)≤ kFk²_H2, donc _Z N e²^kδ|f(x)|2dm(x)≤ kFk2 H2 <+∞ ∀k >0.

D’o`u f(x) = 0 pour presque tout x∈N. On en d´eduit que f(x) = 0 pour presque tout x /∈ −Γ^∗.

c.q.f.d.

Corollaire 7 Si F ∈ H²(T_Γ), alors il existe une fonction η 7−→ F(iη) dans L²(_Rⁿ) telle que

F(λ+iη)−→F(iη) en normeL2 quand λ∈Γ tend vers 0.

Preuve : (voir [29], corollaire 3.4) CommeF ∈H²(TΓ), alors d’après le théorème 26,

F(λ+iη) =

−Γ∗

e⁽^λ⁺^iη^)·^xf(x)dm(x)

o`u f ∈L²(−Γ^∗). Formellement, on d´efinit alorsF(iη) par

F(iη) =

−Γ∗

e^iη^·^xf(x)dm(x).

Plus précisément,F(i·) est la transformée de Fourier def, avecfétendue sur_Rⁿen posantf(x) = 0 pour x 6∈ −Γ^∗. Or F(λ+iη) est la transformée de Fourier de e^λ^·^xf(x) qui converge vers f(x) en normeL² lorsqueλtend vers 0. Donc, d’après la formule de Plancherel, on a

Z Rⁿ |F(λ+iη)|²dm(η) = Z Rⁿ e²^λ^·^x|f(x)|²dm(x)^λ−→^→0 Z Rⁿ |f(x)|²dm(x) = Z Rⁿ |F(iη)|²dm(η).

c.q.f.d.

Corollaire 8 Pour tout F ∈H2(T_Γ), on a

kFk_H2 =kF(i·)k₂.

De plus, H²(TΓ) est un espace de Hilbert.

Preuve : L’égalité kFk_H2 =kF(i·)k₂ est une conséquence directe du corollaire 7. De plus, d’après le théorème 26, H²(T_Γ) est isomorphe isométrique à L²(−Γ^∗) qui est complet, donc H²(T_Γ) est normé complet. Maintenant, si pour F, G∈H²(T_Γ) on pose

hF, Gi=

Rⁿ

F(iη)G(iη)dm(η) alorsh·, ·iest un produit scalaire sur H²(TΓ) et on a

hF, Fi=

Rⁿ

|F(iη)|²dm(η) =kF(i·)k²₂ =kFk²_H2

d’o`uH²(TΓ) est un espace de Hilbert.

c.q.f.d.

Corollaire 9 Soit W un sous groupe du groupe des transformations orthogonales de _Rⁿ. La res-triction à L2(_Rn)W de l’isométrie surjective de L2(_Rn) sur H2(T_Γ), obtenue dans le théorème 26, est une isométrie surjective de L²(_Rⁿ)^W sur H²(TΓ)^W.

4.3 Le théorème de Plancherel pour la transformée Θ-hypergéométrique dans le cas complexe

Comme nous l’avons déjà remarqué, dans le cas Θ = Π, la transformée Θ-hypergéométrique est un cas particulier de la transformée hypergéométrique de Heckman et Opdam. Le théorème de Plancherel, dans ce cas, a été montré dans [24].

Si Θ⊆Π et Θ 6= Π, la situation est différente, car la transformée Θ-hypergéométrique est définie pour des fonctions à support dans le cône propre a_Θ ⊆a. Pour utiliser le théorème de Plancherel du cas Euclidien de la section 4.2, on doit trouver le cône Γ tel que a_Θ=−Γ^∗.

Pour chaque α∈Σ⁺, on note H_α∈a l’unique ´el´ement tel que α(H) =hH, H_αi pour tout H∈a. On pose

C_Θ = ^X α∈Σ+\hΘi+

R+Hα. (4.13)

Lemme 27 Soit C_Θ^∗ le cˆone dual de C_Θ, c’est-`a-dire

C_Θ^∗ = {H∈a, hH, Yi ≥0 ∀Y ∈C_Θ}

= {H∈a, α(H)≥0 ∀α∈Σ⁺\ hΘi⁺}.

Alors, C_Θ^∗ =a_Θ.

Le cône Γ de la section 4.2 est donc −CΘ. On définit la transformée Θ-hypergéométrique modifiée

Dans le document Analyse harmonique L² de la transformée hypergéométrique de Laplace (Page 67-90)