A NNALES DE L ’ INSTITUT F OURIER
N OUREDDINE E L J AHOUHARI
Théorème de Fatou pour les fonctions propres des opérateurs différentiels invariants par un groupe de déplacements de Cartan
Annales de l’institut Fourier, tome 34, no1 (1984), p. 261-271
<http://www.numdam.org/item?id=AIF_1984__34_1_261_0>
© Annales de l’institut Fourier, 1984, tous droits réservés.
L’accès aux archives de la revue « Annales de l’institut Fourier » (http://annalif.ujf-grenoble.fr/) implique l’accord avec les conditions gé- nérales d’utilisation (http://www.numdam.org/legal.php). Toute utilisa- tion commerciale ou impression systématique est constitutive d’une in- fraction pénale. Toute copie ou impression de ce fichier doit conte- nir la présente mention de copyright.
Article numérisé dans le cadre du programme Numérisation de documents anciens mathématiques
http://www.numdam.org/
THÉORÈME DE FATOU POUR LES FONCTIONS PROPRES
DES OPÉRATEURS DIFFÉRENTIELS INVARIANTS PAR UN GROUPE DE DÉPLACEMENTS
DE CARTAN
par Noureddine El-JAOUHARI
1. Notations.
Soit G un groupe de Lie réel semi-simple, de type non compact, connexe et de centre fini. Soit 9 = ( ^ <î, une décomposition de Cartan de son algèbre de Lie 9 .
Le sous-groupe compact maximal K de G , d'algèbre de Lie î opère sur -p par la restriction de la représentation adjointe Ad à K .
Le groupe de déplacements de Cartan, associé à l'espace symétrique G/K est, par définition, le produit semi-direct Gç == K x (j.
L'espace homogène Gç/K, qui s'identifie naturellement à ^ , est un espace symétrique de type euclidien. Soit B(* , •) la forme de Killing de g ; désignons par || • ||, la norme associée au produit scalaire induit par B sur y .
Soit a un sous-espace abélien maximal de ^ , et o+ la chambre de Weyl positive pour le choix d'un système de racines (restreintes) posi- tives S'1' . Pour a e s ^ , on note m^ la multiplicité de a. Un élément X de a c (complexifiée de a ) est dit régulier, si a(X) ^ 0 pour toute racine restreinte a ; cela équivaut à ce que le stabilisateur K^ de À dans K coihcide avec M , centralisateur de a dans K . L'algèbre de Lie de M sera désignée par m ; on note par r l'action à gauche de K sur l'espace homogène compact K/M définie par r(k) • k^M = kk^M. Soit 1 l'orthogonal, pour la forme de Kill-
ing, de m dans t . L'espace tangent à K/M au point e = eM s'identifie à l par l'isomorphisme :
l 3 L — ^ Ué)f=-^f(T(exptL).è)\^ . dt
Pour un point quelconque le = kM, on choisit k G K , tel que r(Â:) • ê == k9; comme r(fe) est un difféomorphisme de K/M, nous pouvons encore identifier l'espace tangent à K/M en le avec t par l'intermédiaire de l'application tangente à r ( k ) au point è -
Comme l'opposé de la restriction de la forme de Killing à 1 est un produit scalaire sur Ï , invariant par M, il en résulte qu'il existe une unique métrique riemannienne ûf(- , •) sur K/M, invariante par K et qui coïncide en tout point avec l'image par r ( k ) de ce produit scalaire sur 1 .
Nous désignerons par dk^ , la mesure riemannienne associée, de masse totale égale à 1.
Pour r > 0 et fe'o G K/M, posons :
B/fco)= { ^ K / M ; d ( 0 ' o ) < r } .
Il n'est pas difficile de voir qu'il existe deux constantes positives C\
et C^ telles que pour tout r > 0 assez petit :
C, ^ < mes(B,(^)) = J^ dk^ < C, /n
où m = dim(K/M) = dim i .
2. Intégrale de Poisson.
Si / est une fonction intégrable sur K/M, son intégrale de Poisson est la fonction définie sur ^ par :
?„(/) (X) = f ^-B(^,X) f(k) dk^ , pour X C oc .
v l\fWl
Cette fonction vérifie le système différentiel :
3 ( p ) F = p a X ) F V p G I ( ^ ) (1) où I(^) est la sous-algèbre des éléments K-invariants de l'algèbre symétrique S(p) et 3(p) est l'opérateur différentiel à coeffi- cients constants associé à p , Le. :
ô ( p ) = p ( 8 / 9 ^ , . . . , 3 / a ^ ) .
D'autre part, on démontre que toutes les solutions K-invariantes de ( 1 ) sont données par les multiples constants des fonctions :
J,(X) = P,(1)(X) -f^e^^dk^ • (2) Les fonctions définies par (2) sont appelées les fonctions de Bessel généralisées ; cette appellation tire son origine du fait que lorsque g = so(n, 1) est l'algèbre de Lie du groupe de Lorentz, alors J^(X) est, essentiellement, égalée J^(X)/||Xir où v = n- - 1 et Jy(X) est la fonction de Bessel classique d'indice v .
L'objet de cet article est de décrire les procédés nous permettant de recouvrir /GL^K/M) à partir de son intégrale de Poisson P^(/). Cette étude a été entreprise dans le travail de Linden [9], pour le cas particulier où g = so(n, 1) et î = so(n).
D'autre part, Koranyi [8], dans le but de démontrer l'injectivité de la transformation de Poisson /—> P\(/)» a étudié le comporte- ment à l'infini de P^(/) dans les directions complexes (Le., les directions t X où X G a ç et t —> + oo).
Un résumé des résultats de cet article est paru dans [3].
Par un calcul sans difficulté, nous avons :
V X G û ç , V A ^ K . V ^ E W . V X E ^ e t V/GL^K/M):
P ^ ( / ) ( f c o - X ) = P J r ( f e o ) / ) ( X ) P , . ^ ( / ) ( X ) = P ^ ( / , ) ( X )
où W = M*/M (M* est le normalisateur de a dans K) est le groupe de Weyl de la paire ( 9 , 0 ) et
T(k^)f(kM)=f(kQkM)
f,(kM) = f(k(m*)-1 M) si s = m*U et w ^ G M * .
Puisque tout élément de ^ est conjugé par K d'un élément de a et que, d'autre part, la fermeture de la chambre de Weyl a + est un domaine fondamental pour l'action du groupe de Weyl sur a , on peut donc supposer, dans l'étude de P^(/)(X), que X G a '1' et X G a — i ï+ . Dans toute la suite, nous nous intéresserons seule- ment aux éléments X de a c qui sont réguliers de la forme :
X = Ç + «7 avec — 17 E a'1' .
Pour H G a + , X G a - / a* et ( k , ^ ) e K/M x K/M, considérons la famille de noyaux {N^} définis sur K/M x K/M par :
^B(k.\,ko.H)
NÎi(^o^) = ———————•
H v o î J , ( ^ . H )
Nous allons démontrer que { N ^ } est une L1-approximation de l'identité sur K/M, lorsque ||H|| —> 4- oo dans tout cône à base compacte tô contenu (strictement) dans o"^ (désigné, plus brièvement, par d3 est un c.b.c.). Plus précisément, nous avons le :
LEMME 1 . — Soient XGa—ia^ et (fi un c.b.c. contenu dans a^ . (i)V ( k Q , k ) C K / U x K / M , V H G d 3 , V Â : i e K :
Nïi(r(^) • k^r(k,) . ^) = N ^ ( ^ ,^) ( i i ) V Â : o G K / M , V H e d 3 ;
r N ^ ( ^ ^ ) ^ = l
<' K./M
(iii) // ^^r^ ^^î^ constante positive A^ , ^//e ^K^ ^ H G d3 ^r II H II est assez grand, alors :
/ K / M ' ^ O ^ ' ^ ^ A ,
(iv) Po^r tout voisinage U rf^ ^ = ^M ûfû725 K/M : lim L \^(ê,k)\dk^ = 0
I I H I I — — ^ + o o ^
HG <0
OM U0 est le complémentaire de U par rapport à K/M.
Ce lemme résulte (pour (iii) et (iv)) du développement asymptotique de J^ obtenu par D. Barlet et J.L. Clerc [ 1 ] :
THEOREME 1. — Soient X Go — i a'1" et (^ un c.b.c. contenu dans
^ ; alors la fonction H——> J^(H) possède un développement asymptotique lorsque H E tô et ||H||—> +00, dont le premier terme est donné par :
J^(H) ~ C^ ( n ^ aOir^72 ) (^.H) (3) où C^ est une certaine constante complexe non nulle.
En effet, à cause de (i) et de la K-invariante de dk^ '.
/K/M^H ^ ' fc) 1 ^M = ^ \^C , fc) | ^
= IJ^ (H) ^l/ K / M ^( f c•t 7 î t H )^
-iJ.wr^VH)
où X = Ç + nyG a - f a ' ' .
En utilisant l'estimation (3), il en résulte que
JK/M '^o ^)I^M - B, = |C,J/|CJ .
Il suffit donc de choisir A^ > B^ pour avoir (iii).
Pour (iv), nous avons :
^ \^(è.k)\dk^ = |J,(H)|-1 f^ ,B(..(-,).H) ^
D'autre part, nous avons le résultat suivant (cf. [l], lemme 4.1) : Pour tout ^ E a4' et pour tout H dans a'1' :
B ( A ; . / i , H ) < B O i , H ) V f e E K (4) et l'égalité n'est atteinte que si k G K (stabilisateur de ^ dans K). Appliquons ce résultat pour ^ = — ry G û'^ , on trouve que si kC^ , alors B(Â; .(- 7?), H) < B(- ry. H).
Si a > = H / | | H | | , par compacité, il existe e > 0 , tel que : V ^ e i T , V ù j ) e { H E ( B , | | H | | = 1}:
B(fc • (- 77), cj) - B(- 77 , a;) < - e .
D'où V f c G U ' . V H G t f ? : B ( Â : . ( ~ r y ) , H ) - B ( - r 7 , H ) < - e | | H | | . Ainsi,
f^c iN^(.^)|^<.-BO.H),-el|H|l|j^H)|-l^ ^
<e-B(n,H)g-el|H|| |J^H)|-1.
En utilisant l'estimation (3) :
f^c \^(é,k)\dkM < C e -t"H" ( n ^ a(H)'"^2 )
^ttG S '
et cette dernière quantité tend vers zéro lorsque ||H|| —> -h oo dans (B.
Grâce au lemme 1 et aux techniques des approximations de
l'identité (voir, pour cela, le livre de E.M. Stein et G. Weiss [11], p. 47-49), on peut démontrer le théorème suivant, qui est la forme faible du théorème de Fatou :
THEOREME 2. — Soient \ ê a — i a4' et (Si un c.b.c. contenu dans a'1", alors ••
lim (J^ (Â:o . H))-1 PJ/) Oo • H) = /Oo).
Il H H —»• + <»
HGdî
(i) Uniformément, si f est continue sur K/M ;
(ii) dans IAK/M) avec 1 < p < 4- oo, ^ /G I/dC/M) ;
(iii) poi^ /a topologie duale faible sur L°°(K/M), ^ / € L°°(K/M) ; (iv) vaguement, si f est une mesure signée finie et régulière ;
(v) au sens des distributions, si f est une distribution.
3. Convergence admissible.
Dans ce paragraphe, nous nous intéressons aux résultats de convergence ponctuelle, plus précisément, le théorème 2 est étendu dans deux sens : pour /GL^K/M), nous démontrons la convergence de P^(/)/J^ vers / en presque tout point de K/M, ensuite cela a lieu dans des domaines admettant les cônes di comme des cas parti- culiers.
Fixons \^û—ia+ et (Si (un c.b.c. contenu dans a+). Soient T G (fi et C C ^ un compact M-invariant (cette dernière hypothèse n'est pas essentielle ; voir Koranyi [5]) ; un domaine (fi -admissible tronqué, au point k^ , est un sous-ensemble de ^ de la forme :
(2^(^) = [k^ - H + X ; H G ( B , H > T et X G C } où H > T signifie que H — T G (Si.
Soit F une fonction définie sur ift ; on dit que F converge de manière (Si-admissible vers L E C , au point !CQ , si pour tout compact M-invariant C C ^ et pour tout e > 0, il existe T G (Si tel que :
VYea^(feo)===> | F ( Y ) ~ L | < e .
Le lemme suivant nous permettra, dans la suite, de passer de la convergence dans (fi à la convergence admissible.
LEMME 2 . — S i , X E a — f a "1" , C C ^ un compact ^A-invariant et (Si un c.b.c. contenu dans a'1', sont fixés, alors il existe T G t f î et A > 0 tels que, V X G C , VH > T, V(^ , k) G K/M x K/M :
I N ^ x ( ^ o ^ ) l < A | N H ( f e o ^ ) l . Démonstration. —
^ H + X ^ O > ^ ) 1 , _ i ^ B ( f c . \ . f c o - X ) | .
| N H ( ^ . ^ ) |
Jx(fco " H)
= [ ^ B ( f c - \ . f c o - X ) ] .
J^o • (H + X))
w 1
1^(H + X)
Le premier terme de ce produit est une fonction continue donc bornée sur le compact K/M x K • C .
Pour le second terme, remarquons que :
^(H)^ -Wf^'^W)
et le théorème 2, (i) nous permet d'affirmer que nous avons, unifor- mément par rapport à X dans C :
J N ( H - ( - X ) . „ / , y v
lim -^——————— == ^ ï B ( \ , X )
il H H —^+00 J,.(H)
He ^
Donc il existe T E (fi et A > 0 tels que VX E C et VH > T : 1 J.(H) 1 ^ .< A
1 J^(H + X) | ce qui achève la démonstration du lemme.
Pour r > 0 , k^CK/M e t / G L1 (K/M), considérons la fonc- tion maximale :
^t(f) (fco) = sup (mes(B,(^)))~1 L,. , \f(k)\ dk^ .
r>0 ^Br^o)
Comme pour le cas de la fonction maximale de Hardy-Littlewood, nous avons les résultats suivants (cf. Coifman et Weiss [2], p. 71) : LEMME 3. - // existe 00, tel que Ve > 0, V/G L^K/M) :
mes {k G K/M ; OîU/) ( k ) > eX-^H/Hi . e
COROLLAIRE . - Soit /e L^CK/M), 1 < p < + oo ; alors : I I W * ) l l p < C p | | / | l p
où c est une constante indépendante de f.
Le point essentiel de la démonstration de la convergence admissible est contenu dans le lemme suivant :
LEMME 4. — Avec les mêmes hypothèses que le lemme 2, si /ei^CK/M) alors il existe T G ( B et A > 0 (indépendants de f
et k^) tels que :
V Y E ^ ( ^ ) KJ^Y))-1 P ^ / ) ( Y ) | < A O Î Z ( / ) ( ^ ) . (5)
Démonstration. —Comme 7ït(f) d'une part, et P^(/), de l'autre, commutent à l'action de K , il suffit de démontrer (5) pour
^o = e'
Soit Y = H + X o ù X e C e t H e a+:
WY))~1 W^W^L.J^x^^k^^k^dk^ .
v j^^yH
D'après le lemme 2, il existe Ai > 0 et 1\ EUS tels que V Y e a ^ K e ) :
|(J^(Y))-1 P^(/)(Y)| < Ai f^ \NÎi(é,k)\ \f(k)\dk^ .
Donc,
1(J^(Y))-1 P^(/)(Y)| < Ai IJx(H)l-lJK/M ^^'"'^ I/(^)I^M •
En utilisant l'estimation (3), il en résulte qu'il existe TG(B et A > 0 tels que pour tout Y £ <3C^(ê) :
,\(J^)r
lw)m\<
A ( " aW'^e^'^ [ ('-^"'•^lAfe')!^ • (6)
^aGS4" »/K/M
Posons ^ ( H ) = B(A:.7?,û;) où cj = H / I I H H .
Il n'est pas difficile de voir que k = e est un point critique non dégénéré pour ^ , donc on peut appliquer le lemme de Morse à paramètres, ce qui va nous fournir une Carte C°° :
X, : D , = { L G f T ; | | L | | < p } — — ^ U
où m = dim(K/M),p > 0 et U est un voisinage ouvert de é dans K/M, tels que :
X^(0) = é et (^ oXo,)(L) = B(T?,O;) + Q(L) V L G D ^ avec Q(L) = Q(L, ,. . ., L,,) == L^ -h . . . + L,2 - L^ ~. . .- L^
une forme quadratique de Signature sgn(Q) = ( s , m — s ) . Comme k' = e est un minimum absolu pour ^ , alors
sgn(Q) == (m , 0) Le. Q ( L ) = ||L||2.
A l'aide de tous ces résultats, nous allons estimer l'intégrale qui figure au second membre de (6) :
^BO,.H)-B(..,,.H)|^),^
= JK/M c"""^-^'» [f(k)\ dk^
-X +L -î + l î- i) Estimation de 1 : A l'aide de la carte \^ :
1= f ^ - ' i H l l . l l L i i2 |7(L)|g(L)dL
où f == fo x^ et g est la valeur absolue du Jacobien de \^ . Si dans cette dernière intégrale, on passe aux coordonnées polaires, on peut voir sans difficultés que :
l<c(J1 ^-IIHIIr2^w-ldr)5rl(7•^)(0),
donc I < C IIHH-^2 5iz(7- g ) (0), où 5K( • ) est la fonction maximale de Hardy-Littlewood de R'" .
A cause du caractère lipschitzien de \^ , il existe c > 0 telle que :
% ( 7 - g ) ( 0 ) < c 3R(/)(é).
Donc K C H H i r ^2 ^t(f)(é).
n) Estimation de I I : D'après l'inégalité (4) : il existe e > 0, tel que \/k G Ve :
^(e)-^(H)<-€.
Donc :
II <J^ ^e l l H" 1/(^)1 ^ < ^"«11 J^ |/(fe)| ^
^^"""JlK/Ké).
En rassemblant les deux estimations de 1 et II, on obtient : KJJY^PJ/KY)!
< C ( II aCH)^2 ) (^e l l H t l 4- C IIHH-^2 ) JÎZ(/) (e),
^aes4^ / v- / Ainsi, si ||H|| est assez grand :
|(J^(Y))~1 P^(/) (Y) | < C (^H^ a(Hr^2) ||H||-W/2 JTC(/) (^.
Or a(H) < ||H|| et ^ m^ = w , donc
aes-1-
f n aCHr^t ||H||-W/2< 1.
La^^ J En conclusion, si ||H|| est assez grand :
K^(Y)r
1PJ/) (Y)| < c mn (é)
ce qui termine la démonstration du lemme 4.
Comme dans le cas de l'espace euclidien R'71 , en utilisant le lemme 3, son corollaire et le lemme 4 (voir, E.M. Stein [10], p. 8), on peut en déduire le théorème de Fatou :
THEOREME 5. — Si X € a — i a4' et (si un c.è.c. contenu dans (^ sont fixés, et si /EL^K/M), alors : (J^(-))~1 P^(/) ( - ) converge de manière (si-admissible, en presque tout point de K/M, vers f.
Remarque. — Le théorème 5 peut être étendu au cas où / est une mesure signée finie et régulière fi sur K/M, et dans ce cas (J^("))~1 P\0-0 converge vers la dérivée de Radon-Nikodym de /x, de manière (si -admissible, en presque tout point de K/M.
[1] D. BARLET et J.L. CLERC, Le comportement à l'infini des fonc- tions de Bessel généralisées, Prépublications Institut Elle Carton, Janvier 1981, Nancy.
[2] R. COIFMAN et G. WEISS. Analyse harmonique non-commu- tative sur certains espaces homogènes, Lecture Notes in Mathematics, n° 242, Springer Verlag, 1971.
[3] N. EI-JAOUHARI, Théorème de Fatou pour les fonctions propres des opérateurs différentiels invariants par un groupe de dépla- cements de Cartan, C.R.A.S., Paris, t. 295, Série I, (20/9/1982), 99-102.
[4] S. HELGASON , Differential Geometry and Symmetric spaces, Acad. Press., New-York, 1962.
[5] A. KORANYI, Boundary behaviour of Poisson intégrais on symmetric spaces, Trans. Amer, Math. Soc., 140 (1969), 393- 409.
[6] A. KORANYI. Harmonie functions on Symmetric spaces, Short courses presented at Washington University, Marcel Dekker,
1972, pp. 379-412.
[7] A. KORANYI. A survey of Harmonie functions on Symmetric spaces, in Proceedings Symp. Pure. Math., vol. 35, part. 1 (1979), 323-344.
[8] A. KORANYI. On thé injectivity of thé Poisson transform, /. Funct. Anal., 45 (1982), 293-296.
[9] 0. LINDEN. Fatou theorems for Eigenfunctions of thé Laplace- Beltrami operator, Thesis, Yeshiva University, New-York, 1976.
[10] E.M. STEIN, Singular Intégrais and Differentiability properties of functions, Princeton University Press, 1970.
[11] E.M. STEIN et G. WEISS. Introduction to Fourier Analysis on Euclidean spaces, Princeton University Press, 1972.
Noureddine EI-JAOUHAR i. Manuscrit reçu le 28 février 1983.
ERA au C.N.R.S. n0 839 U.E.R. Sciences Mathématiques
Université de Nancy B.P. 239
54506 Vandœuvre-les-Nancy.
