HAL Id: tel-01776898
https://hal.univ-lorraine.fr/tel-01776898
Submitted on 24 Apr 2018HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci-entific research documents, whether they are pub-lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.
L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.
Transformée de Fourier adaptée et convoluteurs de
Schwartz sur les groupes de Lie nilpotents
Semi Dhieb
To cite this version:
Semi Dhieb. Transformée de Fourier adaptée et convoluteurs de Schwartz sur les groupes de Lie nilpotents. Mathématiques générales [math.GM]. Université Paul Verlaine - Metz, 1995. Français. �NNT : 1995METZ010S�. �tel-01776898�
AVERTISSEMENT
Ce document est le fruit d'un long travail approuvé par le jury de
soutenance et mis à disposition de l'ensemble de la
communauté universitaire élargie.
Il est soumis à la propriété intellectuelle de l'auteur. Ceci
implique une obligation de citation et de référencement lors de
l’utilisation de ce document.
D'autre part, toute contrefaçon, plagiat, reproduction illicite
encourt une poursuite pénale.
Contact : ddoc-theses-contact@univ-lorraine.fr
LIENS
Code de la Propriété Intellectuelle. articles L 122. 4
Code de la Propriété Intellectuelle. articles L 335.2- L 335.10
http://www.cfcopies.com/V2/leg/leg_droi.php
THE SE
Présentée
à I'Université de Metz
en vue de I'obtention du grade de
BIBLIOTHEQUE UNIVERSITAIRE DE METZ
ililil
lil
ilil
ilIil
lill
ilIil
llil
lil
ilil
ffi
ilil
[il
Docteur de ltUniversité de Metz
Spécialité: Mathématiques
pures
par
Semi DHIEB
Tbansformée de Fourier adaPtée
et convoluteurs de Schwartz
sur les groupes de Lie nilpotents
Soutenue le 28 ma^rs 1995 devant la commission d'examen
Didier ARNAL
Professeur
à I'Université de Metz
(Président)
Jean Claude CORTET Professeur
à I'Université de Bourgogne
(Rapporteur)
Roe GOODMAN
Professeur
à I'Université de Rutgers
(Examinateur)
Jean LUDWIG
Professeur
à I'Université de Metz
(directeur de thèse)
André ROIJX
Professeur
à I'Université de Metz
(Examinateur)
EzzeÀdine
SALHI
Professeur
à I'Université de Sfax
(Rapporteur)
{b 146na
THE SE
Présentée
à l'Université de Metz
en vue de I'obtention du grade de
Docteur de l'Université de Metz
Spécialité: MathématiqueS pures l
tçlor"ruucurrrueRsrÀrnÏ*
par
Semi DHIEB
Transformée de Fourier adaptée
et convoluteurs de Schwartz
sur les groupes de Lie nilpotents
Soutenue le 28 mars 1995 devant la commission d'examen
Didier ARNAL
Professeur
à I'Université de Metz
(Président)
Jean Claude CORTET Professeur
à I'Universitê de Bourgogne
(Rapporteur)
Roe GOODMAN
Professeur
à I'Université de Rutgers
(Examinateur)
Jean LUDV/IG
Professeur
à I'Université de Metz
(directeur
de thèse)
André ROUX
Professeur
à I'Université de Metz
(Examinateur)
Ezzeddine
SALHI
Professeur
à I'Université de Sfax
(Rapporteur)
A ma famille, à Assawer, ef à tous mes amis.
REMERCIEMENTS
C'est un immense plaisir pour moi de pouvoir exprimer ma gratitude à l'égard du Professeur Jean LUDWIG, qui a largement contribué, par ses idées et conseils généreusement prodigués, pax sa disponibilité et ses encouragements constants, à la réalisation de cet ouvrage dans les meilleures conditions possibles.
Je ne saurais trop remercier les Professeurs Jean Claude CORTET de l'Université de Bourgogne et Ezzeddine SALHI de l'Université de Sfax, qui m'ont fait le grand honneur d'être les rapporteurs de cette thèse.
C'est un honneur pour moi que le Professeur Didier ARNAL de I'Université de Metz, ait accepté de participer à ce jury et de le présider. Je I'en remercie sincèrement. Les Professeurs Roe GOODMAN de L'Université de Rutgers et André ROUX de I'Université deMetz, ont eu la gentillesse de se pencher sur ce travaii et d'accepter de faire partie du jury. Je tiens à les assurer de ma sincère gratitude.
J'exprime aussi mes vifs remerciements à tous les membres du département de mathématiques de I'Université de Metz qui m'ont permis la réalisation de cette thèse dans d'excellentes conditions.
TABLE DE MAIIERES
INTRODUCTION
CHAPITRE I: RAPPELS ET GENERALITES
7-Groupes de Lie nilpotents 2-La théorie de Kirillov
2-l-Orbite de Ia représentation coadjointe 2-2-Polarisations
S-L'espace de Schwartz S(G)
4-Vecteurs C- des représentations irréductibles d'un groupe de Lie nilpotent
5- Les opérateurs de Hilbert-Schmidt
CHAPITRE II: TRANSFORMEE DE FOURIER ADAPTEE ET SEMI-NORME
DE HILBERT-SCHMIDT SUR LES GROUPES
DE LIE NILPOTENTS
1-Intrcduction
2-Construction de a pour des algèbres particulières 2-l-Orbites plates
2-2-Orbite saturée par un idéal S-Cas général
4-Une autre transformée de Fourier adaptée
5-Image de S(G) par une transformée de fourier adaptée 6-Exemple
CHAPITRE
III: LES CONVOLUTEURS
DE SCHWARTZ
POUR
LES GROUPES DE LIE NILPOTENTS
7-Intrcduction
2-Convoluteurs centraux pour S(G)
7-Une condition suffsante pour qu'une fonction soit la ftansformée de Fourier d'un convoluteur 4-Le groupe de Heisenberg
5-Un convoluteur qui n'est pas donné par une fonction
CHAPITRE IV: GROUPES
DE LIE VARIABLES
1-Défrnition
2-L'espace de Schwartz 3- C alculs fonctionnels
S ( G ,
M \
4-Multiplicateurs de Sclwartz pour les groupes de Lie variables
2
7
7
I
1 0
1 2
1 4
1 6
1 8
2 L
21
23
23
24
28
34
39
46
50
50
52
61
66
72
74
t o t o76
79
82
REFERENCES
INTRODUCTION
Etant donné un groupe localement compact G, il est important de connaître I'ensemble ô d". classes d'équivalence des représentations unitaires et irréductibles de G.
La recherche de G est en général difficile. Cependant, pour ceitaines classes de groupes, on dispose de procédés systématiques.
Si G est un groupe de Lie nilpotent connexe, simplement connexe, d'algèbre de Lie g, la méthode des orbites de Kirillov donne une paramétrisation concrète de G. En effet, le groupe G agit sur le dual de son algèbre de Lie au moyen de la représentation coad-jointe. Kirillov l22l a montré qu'il existe une correspondence biunivoque entre les classes d'équivalence des représentations unitaires, irréductibles de G et leurs orbites dans I'espace dual de g.
Soient (p une fonction de Schwartz sur G et n une représentation unitaire et irréductible de G. Alors,
est un opérateur traçable. La transformee de Fourier de g est définie comme étant la transformée de Fourier euclidienne de g o exp € S(g):
I € g * .
(0.2)
La trace de I'opérateur zr(g) est exprimée au moyen de la formule de Kirillov par:
,?(t)
:
lrr, "exp)(X)e-
2"'i1l
, *u dX,
r(e)::
l"v@)o(ùao
trn(e)
:
Io(ro
exp)
" (I)d,ps(t),
( 0 . 1 )
( 0 . 3 )
où pcr est la mesure G-invariante unique sur I'orbite (2, convenablement normalisée. Cette mesure ne dépend pas du choix de la mesure de Haar dg sur G, pourvu qu'on utilise la mesure de Lebesgue correspondante dX sur g, définissant P. La mesure indiquée est caractérisée dans [33].
La transformée de Fourier de g est aussi définie pax:
Cette définition permet d'établir la formule d'inversion de Fourier pour les fonctions définies sur G sous une même forme cue dans le cas abélien:
trr(p)dpQr),
p ( e )
:IU
où pr est la mesure de Plancherel sur G, décrite par Kirillov[23] et e l'élément neutre de G. Soient zr une telle représentation et Oo I'orbite correspondante dans g. La transformée de Fourier adaptée introduite dans [5] et [1] sous le nom de la transformation de Fourier nilpotente , a fait après I'objet de plusieurs travaux. ([2], [28], [30]). Elle constitue une généralisation de la transformée de Fburier abélienne usuelle. On sait [42] qu'il existe cles fonctions rationnelles pi, gi (i :7,...,k) définies sur un ouvert de Zariski t9 dense dans g*, des fonctions ^r. (m : 1r...r n - 2k), polynomiales et G-invariantes sur d et un ouvert dense  de IR"-2È tels que I'application
8 - - - + Â x I R 2 È { ---+ ()({),p(€), q(()) soit un difféomorphisme. Chaque orbite de À € g*,
O x : { { e , l t e l q u e À ( { ) : ) } : À x I R 2 É
de G dans t9 admet une carte de Darboux globale définie par les coordonnées p et g (en particulier la mesure dlt4^ est égale à dpdq).
La transformée de Fourier adaptée introduite dans [1] est une isométrie
o : L ' ( G ) -
L ' ( g * , a € ) : L ' ( , 9 , r ( \ ) i l , d p d q )
définie par
(o/XÀ,
p,8): I f@*rx)e-zria(v;"n't)f,,x,
f es(G),
(0.5)
J g o ù a ( X , \ , p , q ) e s t r é e l l e , p o l y n o m i a l e e n X , p e t q e t r a t i o n n e l l e e n ) . E l l e s ' i n v e r s e e n
( 0 4 )
( 0 . 6 )
( 0 . 7 )
"f("*p
x) :
I
f nf^, p, q).'n'o(*,^,o,ù
r(\)d,pd,q,
où r(À) est une fonction rationnelle en À définie sur r.9 et elle permet d'écrire la formule de [a trace sous la forme
( O / ) ( € ) a p o ^ ( O ,
À € r e ,
/ e s ( G ) .
On se demande si on peut prolonger cette fonction sur g* x G sans qu'elle perde ses caractéristiques. Ceci n'est pas en général possible de manière canonique. Cependant, nous allons construire une fonction définie sur g* x ls x G où ls désigne I'ensemble des bases de Malcev de g, jouissante des propriétés désirées.
Rappelons quelques notions de la théorie de Schwartz sur les espaces euclidiens. Soit V un espace vectoriel de dimension finie et notons Ms(V),1'ensemble des endomorphismes continus E de ^9(V), vérifiant:
E(l"f): I"(Ef)., Yx €V,, V/ e ^S(V)'
trzr{f):
Io^
otl
l " . f
( y ) : T @ - * ) , r , y € V .
A I'endomorphisme
E, on associe
une distribution tempérée
sur I/, Dg, définie par:
l D e , r ) : E f ( O ) ,
f e s ( v ) .
Il s'ensuit que:E f ( r ) : I - , E f ( 0 ) : E ( 1 , î ) ( 0 )
: < D p , t,i >,: (D * f )@),
où. f ( v ) : f G ù , a € v
-Réciproquement, si D e ^9"(V), alorsE p , f r - - - . D * f
est une application de S*(V) dans I'ensemble des fonctions de classe C- sur V. Une question qui se pose: Quelle condition faut-il avoir sur la distfibution D pour que Ep
appartienne à MS(V)? La réponse est donnée en termes de la transformée de Fourier. Pour / € ^9(y), la transformée de Fourier d" f , f, est définie sur V*, I'espace dual de V par:
^ î
. f ( { )
: I r@)"-',oi<Ê'')dn,
t e v . .
J V
L'application / ,- i établie un isomorphisme entre S(y) et S(V.) et permet de faire correspondre à une distribution tempérée D sur V, l'élément D de ,S.(y*), défini par:
< D , T > , : < D , Î > ,
f e S V ) .
Schwartz [39] a montré que pour D e S"(V)., En appa.rtient à MS(V) si et seulement si D est une fonction de classe C- sur V*,à croissance modérée ainsi que toutes ses dérivées. En outre. dans ce cas on a:
(D * f)
^(0
: D(€)l(€),
v( e v. .
Soit G un groupe de Lie nilpotent, connexe, simplement connexe d'algèbre de Lie g. L'espace de Schwartz S(G) peut-être défini comme étant I'image de S(g) via I'application exp. Notons S.(G) son dual, I'espace des distributions tempérées sur G. Pour .f € S(G), la transformée de Fourier d. f , i est définie sur g*, espace dual de g par la formule (0.2). Soit Ad. la représentation coadjointe de G sur g*.
Déftnition:
Une distribution tempérée D sur g* est dite Ad*-invariante si l D , F o A d * ) = 1 D , F ) , V F e S ( g . ) . Soit .f € S(G). Notons
Une distribution D sur G est dite bi-invariante si
l D , l r ï ) : 1 D , r r - r f > , V r € G , V / e , 9 ( G ) .
Un calcul direct montre qu'une distribution tempérée D sur G est bi-invariante si et seule-ment si D e S.(g.) est Ad*-invariante.
Notons MS(G),l'espace des endomorphismes continus de S(G) qui commutent avec les translations à gauche et à droite par les éléments de G.
Comme dans le cas euclidien, pour tout .E € MS(G), il existe une distribution tempérée DB sur G telle que
Ef (*): (De * /Xr) ::1 Ds , I,f ), V/ e S(G), Vr € G
Réciproquement, si D € ,S.(G), on note, ,Ep I'application définie sur .9(G) par:
E o f : D * f '
Jenkins a montré le résultat suivant: Théorèmez[zL]
^Soit D e S.(G). L'end,omorphisme Ep associé appartient à MS(G) si et seulement si D est une fonction C* sur g* , Ad* -inuariante, à croissance mod,érée ainsi que toutes ses d.ériuées.
Une telle distribution sera dite un convoluteur central pour S(G).
La démonstration de ce théorème est relativement longue, nous essayerons alors de donner une autre démonstration.
Plus précisément, cette thèse a été organisée comme suit:
. Dans le premier chapitre, nous rappelons quelques notions sur les goupes de Lie nilpotents et la théorie de leurs représentations. Nous exposons essentiellement la méthode des orbites de Kirillov et les polarisations associées à un élément du dual de I'algèbre de Lie qui est en position générale.
. Dans ie second chapitre, nous définissons sur I'espace de Schwartz S(G), de nouvelles transformées de Fourier adaptées , notées ( )-, telles que la norme de Hilbert-Schmidt de l'opérateut rU), f e S(G), soit égale à la norme de la fonction / dans L2(On,dp).
Lorsque I'algèbre de Lie est de pas deux, ou plus généralement, Iorsque les orbites sous I'action coadjointe sont plates:
O : l + g ( / ) - ,
I e 0
ou
g ( / ) : { X e g t e l q u e < l , [ X , g ] > : ( 0 ) ] , on peut prendre dans ce cas la tra^nsformée de Fourier usuelle.
Dans le cas où I'algèbre de Lie g contient un idéal I tel que si I/ désigne le sous-groupe fermé exp b, toutes les l/-orbites soient plates et que toute G-orbite (? soit saturée pax I):
nous contruisons une fonction û6 sur g* x G de classe C* et donc, la transformée de Fourier adaptée qu'elle définit est un isomorphisme de S(G)^sur.S(g*). En outre, si (? est une orbite de G sous I'action coadjointe et zr l'élément de G alors, pour toute fonction / appartenant à .9(G), la norme de Hilbert-Schmidt de I'opérateur z'(/) est donnée par:
I i(r) l, dp,*(t),
| *ff) l'r.r:
I
J O
( 0 . 8 )
où p,. est la mesure G-invariante sur I'orbite (? déterminée par (0.3).
Dans la section 3 de ce chapitre, nous déterminons explicitement dans le cas général, une fonction o définie sur g* x G tout entier. La transformée de Fourier adaptée qui en résulte vérifie la formule (0.8). Cette construction, liée à la détermination des polarisations, pose toujours le même problème de singularité en certains points d" g*. Nous construisons alors une autre fonction, notée aussi o, sur g* x ls x G, où ls désigne I'ensemble des bases de Malcev de g et nous définissons une nouvelle transformée de Fourier adaptée sur ^9(G) par:
r@,8)
f@)e-i"@,B,t)4r, (F,B) € g* x ls,
puis, nous déterminons l'image de ^9(G) par cette application.
. Nous étudions dans le troisième chapitre les convoluteurs pour l'espace de Schwartz S(G). Nous redémontrons par un calcul direct quelques propriétés des convoluteurs cen-traux énoncées dans [21] et nous donnons une approche de la démonstration du théorème énoncé plus haut.
Supposons que la distribution D soit un convoluteur non central. Autrement dit, les applications: D * f et f * D définies par:
D * f ( x ) : 1 D , I , f > e t f * D ( x ) - < D , r , f
) , x € G
sont dans ,S(G), pour tout / e S1C;. En général, le convoluteur D n'est pas donné par une fonction. Nous justifions cette afirmation par un exemple.
Réciproquement, si g est une fonction de classe C- sur g*, quelle condition doit-elle vérifier pour quelle soit la transfortnée de Fourier au sens des distributions d'un convoluteur? Nous exprimons dans ce cas, une condition suffisante et nous donnons une condition plus simple dans le cas du groupe de lleisenberg.
. Nous introduisons dans le dernier chapitre quelques notions sur les groupes de Lie variables et nous rappelons des résultats de calculs fonctionnels sur ces groupes. Ensuite, nous définissons les multiplicateurs (centraux) de Schwartz pour les groupes de Lie nilpo-tents variables et nous généralisons la conjecture de Howe caractérisant cette classe de multiplica,teurs.
I
RAPPELS ET GENERALITES
Nous allons introduire dans ce chapitre quelques notions sur la théorie des représentations des groupes de Lie nilpotents d'une importance fondamentale pour le reste de ce travail. On renvoie le iecteur à [3] et [40] pour ce qui concerne la théorie des groupes de Lie.
Dans tout ce qui suit, G désignera un groupe de Lie connexe simplement connexe et g son algèbre de Lie. Notons [ , ] l" crochet de Lie dans g.
1- Groupes de Lie nilpotents:
1--1- Déffnition:
Nous disons que G est nilpotent si son algèbre de Lie g est nilpotentel c'est à dire, la suite centrale décroissante (g-)-e [.I de g définie par:
9 1 : g e t V m ) 2 , , g * : [ g - - t , g ]
vérifie g* : {0} pour un certain rn.
Soit r I'entier tel que g" + {0} et gr*r : {0}, r est appelé le pas de I'algèbre de Lie g. Remarque :
Une condition nécessaire pour qu'une algèbre de Lie g soit nilpotente, est que pour chaque élément X de g, I'endomorphisme adX défini par
a d X ( Y ) : l X , , Y l , V Y e g
Le théorème suivant est un outil considérable dans la théorie des groupes de Lie nilpotents: 1-2- Théorème d'Engel:[36]
Soit L une algèbre de Lie d,'endomorphisrnes d'u,n espace aectoriel V d,e d.imension fi,nie. Supposons que tout éIément de L soit nilpotent. Alors, il eriste un uecteur non nul u de V tel que Xu :0 pour tout X appartenant à L.
En tenant compte de la remarque précédente, nous déduisons que: 1-3- Corollaire:
g est une algèbre de Lie nilpotente si et seulernent si pour tout X € g, I'endomorphisme adX est nilpotent.
Nous allons maintenant définir les bases de Jordan-Hôlder et de Malcev d'une alsèbre de Lie nilpotente.
t--4- Définition:
Soient g une algèbre de Lie nilpotente et l8: (ôt,...,6,,) une base de g.
a) !s est dite une base de Jordan-Hôlder de g si pour tout k, I < k I n,Ie sous-espace g1 engendré par les vecteurs (6t+r ,...,bn) est un idéal de g.
b) l8 est dite une base de Malcev de g si pour tout k, L < k I n,le sous-espace gÈ engendré par les vecteurs (br+t ,...,bn) est une sous-algèbre de g.
Du théorème d'Engel, nous déduisons alors le corollaire suivant: 1-5- Corollaire:
Soit t1 une sous-algèbre d,e g.
1) II existe une base de Malcea 18 : (ôr,...,bn) de g telle que h soit I'espace aectoriel engendré par les uecteurs (6r.+t,..., ôr) pour un certain k.
Nous disons alors que E est une base d,e Malceu relatiae à 11 ou passant par h.
Si en outre \ est aussi un iiléal ile g, alors iI eûste une base de Jorilan-Hôld,er passant par
b .
2) Si b est tle cod.imension 1 duns g, alors t1 est un id.éal d,e g. 1-6- La formule de Campbell-Backer-Hausdorff:
Soit G un groupe de Lie connexe. Notons e x p : g - - - - + G l'aplication exponentielle, /og son inverse et définissons
C ( X , Y ) : l o g ( e x P X . e x P F ) , X , Y € g .
Cette fonction analytique et bien définie, converge normalement dans un voisinage de (0,0) et ne dépend pas du choix des groupes de Lie localement isomorphes associés à g.
La formule de Campbell-Baker-Hausdorff qui en résulte nous permet de reconstituer G avec sa loi multiplicative connaissant uniquement la structure de g. Cette formule est donnée par:
c(x,v-): x+1;+T[x,r] + ilx,[x,v]l -iv,[x,].ll -âtv,[x,[x,r']ll
+
#[r, [)i [)',
x]ll + ... (voir [17]).
Si G est un groupe de Lie nilpotent d'algèbre de Lie g, l'application exp est un difféomorphisme analytique et la formuie de Campbell-Baker-Hausdorff est définie pour tous X,Y € g.
Nous pouvons alors définir sur g une structure de groupe de Lie nilpotent (g.,C) qui admet g comme algèbre de Lie. Dans ces conditions, I'application exp n'est autre que I'identité.
Ceci nous ramène à définir des coordonnées sur G. Si g est équipée d'un système de coordonnées associées à une base, les coordonnées correspondantes dans G seront appelées coordonnées exponentielles.
Soient G un groupe de Lie nilpotent d'algèbre de Lie g, f; une sous-algèbre de Lie de G et (61 ,...,b,) une base de Malcev passant par b. Notons 11 le sous-groupe de Lie fermé de G, exp b.
1-7- Théorèrne:[7] L'application
B"k --- G lH
( r r , . . . , r t ) - e x p 1 1 6 1 . . . e x p r p b p . H est un ilifféornorphisme. En outre, I'application
f
f -
/ p n / ( " " p r r b r . . . e x p r p b p ) d , r 1 . . . d r k ,
où.f est une fonction d,e classe C* sur GlH, est une n'Lesure G-inaariante sur GlH. En particulier, si H : {e}, cette application d.éfinit une rnesure ile Haar sur G.
2- La théorie de Kirillov:
Dans la théorie de Ia représentation des groupes de Lie nilpotents, les représentations induites jouent un rôle déterminant. Nous voulons en parler brièvement.
Soit [1 une sous-algèbre de g et ff le sous-groupe fermé exp [. Soit (p,7{) une représentation unitaire irréductible de I/ dans un espace de Hilbert 1lr. Notons ?l I'espace des fonctions
( : G - - - + ? t o vérifiant :
i) Pour tout h € H et pour tout 9 € G, tk.h): p.(h)€(g). ii) L'application
g ê < t(g),* >x,
est borélienne pour tout z €Ho. iii) L'application
s -l €(g)
lu"
L'espace ?l muni du produit scalaire
r
1 t , q ) 1 1 : I
. € ( " ) , r 1 ( r )
> n o d . r , t , q € ' t l
J G / H
est un espace de Hilbert.
La représentation définie sur G par / \
( " ( " X { ) ) ( y )
- e@-'.u), r,a € G et ( €'tl
s'appelle la représentation de G induite de (p,'11) et d'espace de Hilbert 'l1o : Jl. On note
,r: ind?tp.
Soient À la codimension de I dans g et (61,...,bt,bk+t,...,,6,") une base de Malcev de g passant par b. Alors I'application
T :'llu --- ,2(m.k)
( -r(o
définie par
T((Xtt, ...,t *) : {(exp(lr fu ... exp t pbp) est un isomorphisme de 'l1o dans r'(m.*).
Le lecteur trouvera plus d'informations dans [32], [7].
L'importance de la représentation induite pour les groupes de Lie nilpotents de-vient claire grâce au théorème de Dixmier a,ffirmant que chaque représentation unitaire irréductible de G est induite par un caractère d'un sous-groupe. Ceci nous conduit à la théorie de Kirillov (voir [22]).
2-1- Orbites de la représentation coadjointe:
Dans ce paragraphe, nous exposons quelques propriétés fondamentales des orbites coadjointes.
Soient G un groupe de Lie et g son algèbre de Lie. Alors, G agit sur g à I'aide de Ia représentation adjointe: si g e G, Ad,g est la différentielle à I'origine de I'application
G --'-- G
t - g r g - r .
Acl.g est un isomorphisme sur g et (Atlg)-t - Ad,g-L. En différentiant I'application Ad:G ---+ Aut(g)
g,+ Adg,,
où Auf (g) est I'ensemble des automorphismes de g, nous obtenons la représentation adjointe de g:
ad:g ---+ End(g) X +--+ adX
définie par
a d X ( Y ) : [X,Yl, X,Y e g. (End(g) étant I'ensemble des endomorphismes de g).
A coté de ces deux représentations, nous citons la représentation contragrédiente de Ad qi est la représentation coadjointe de G sur g* notée Ad* et définie par
< Ad*gI, X >-< l, Adg-rX > Vg € G, V/ e g* et VX e g. Sa différentielle au point e, élément neutre de G,
d(Ad-)": g ---+ End(g.) est définie par
d(Ad.)"(XXlXY)
:: ad*XI(Y)
:< I,[X,Y| >
et si g est un point arbitraire de G,
d(Ad.)s : (Ad* g) o d(Ad,"). - Ad* g o ad* . Un sous-groupe utile de G associé à / e g* est son stabilisateur
G ( I ) : { s e e
: A d * s . I : I }
qui est un sous-groupe connexe de G d'algèbre de Lie le radical de /, g(/): g ( / ) : { X e g t e l q u e < l , l X , I , ] > : 0 V Y € g } .
L'orbite coadjointe d'un élément / € g*
O t : A d * G . l
est une sous-variété car le rang de la différentielle de I'application
ô{s) : Ad*
s.l
est constant et est égal à dimg- dimg(I) en tout point de G. On munit I'espace homogène G lG(l) de sa structure de variété naturelle. Alors, I'application
h : G I G ( t )
- 0
g.G(I) *-- Ad"g.I
est une bijection. L'espace tangent TtO à O en un point I est identifié au sous-espace (ad.g)(l) de g*, ou encore à I'espace a,ffine I + ad.g(l).
Notons aussi, que toute orbite coadjointe O est un sous-ensemble fermé d" g*, donc sa structure de variété est déterminée par Ia topologie euclidienne de g*.
Remarque:
Soit I € g*. Alors, son radical g(l) est de codimension paire. En effet, la forme bilinéaire
Br induit une forme bilinéaire antisymétrique et non dégén&ée Ét sur g/g(t) x g/g(I). Donc, d'après un résultat standa,rd d'algèbre linéaire, glg(l) est de dimension paire. Nous en déduisons alors que les orbites coadjointes sont de dimensions paires.
2-2- Polarisations: 2-2-L- Définition:
Soit / € g* espace dual de g. Un sous-espace ! de g est dit isotrope par rapport à / pour la forme bilinéaire alternée B1 définie par
B { X , Y ) : < l , l x , Y l > , X , Y e g ,
si
< I , [h,b]
> : ( o ) .
Si en outre, ! est une sous-algèbre de g de dimension maximale, ! s'appelie une polarisation de /.
Soit g(/) le radical de /. Alors, si [1 est une polarisation de /, la dimension de ! est
1
d i m 6 :
r @ i m 7 + d i m g ( l ) ) .
2-2-2- Théorèmezl22l
Soient g une algèbre d.e Lie nilpotente et I e 9". Alors, iI existe une polarisation d,e l. Etant donné un élément / de g*, le radical g(l) est déterminé d'une manière unique mais / peut admettre plusieurs polarisations, qui conntiennent toutes g(i). Cependant, ces polarisations ne peuvent pas être construites d'une manière systématique. Nous donnons ici une construction d'une polarisation dûe à M.Vergne, utilisant les bases de Jordan-Hôlder.
2-2-3- Théorème:[41] S o i t
( 0 ) c q | - c . . . c E n
une suite il'id,éaux d"e g tels que dimgi -- j et soit I € g*. Notons li la restriction de I à gi. Alors,
b ( / ) : !oi(l;)
j = l
est une polarisation d"e l. Démonstration:
Soient X et Y deux éléments de [(/) tels que X e gi(/i) et Y € g*(/r). Supposons queJ ( k, alors,
< / , [ X , Y ] > : < h , [ X , Y ] > : 0 .
De plus, si W € gt,
< 1 , [W,[X,y]l
) : ( I , l X , l W , Y ) l
> + < l , l l w , X l , y l ) : 0 .
Pour montrer que dinr\(l) : l(dimU + d.img(l)\ nous raisonnons par récurrence sur n : clintg. Le résultat est évident si g est abélienne. Supposons qu'il soit vrai pour les algèbres de dimension inférieur à n et soit
n - I
h ' ( I )
:
I s r ( l i ) .
j : 7
D'après I'hypothèse de récurrence, on a
dimIlt
(t) : |{ao*r'-r(t'-1) + 1r, - 1)).
Deux cas qui se présentent:
1er cas: g(/) q E,t(l,,-y), nous avons donc [(/) : b'(/) et dimg(I)'-= dimgn-r(/,-r) - 1 2ème .as: fln-t(In-1) ç g(l) et donc d,im\(l) : dimtt'Q)*L,, d,img(I) = d,img,-1(/,-1)+1. Dans chacun des deux cas, on a dim\(I) : l(dimg + d,img(l)).
D'où [(/) est une polarisation de /.
Soient I € g* et p une polarisation de / choisie. Alors, I'application Xr,p définie sur P : E X P F P A r
X r , P ( e x P Y ) : " 2 t i 1 t ' Y ) , Y e F
est une représentation de P de dimension 1. Nous pouvons donc former la représentation induite:
t t t , p : i n d $ y 1 , p . 2-2-4- Théorèmezl22]
1) Soient F et F' deur polarisations d,e I e g*. Alors, r1,p et Tt,p' sont équiualentes et irréductibles, nous notons alors rl : r-t,F lorsque nous nous intéressons aur classes d'équiualence.
2) Pour une représentation unitaire irréductible r d,e G, il existe un I € g* tel que Tr - rr. De plus, Tr1N 7r1t si et seulement sil etlt appartiennent àla même orbite coailjointe d"e G.
Nous en déduisons alors que I'application
| =--+ r1,p
est indépendante
du choix de p et I'application de Kirillov
g* lAd*G + G
I =--+ 11
est une bijection. Elle est en fait un homéomorphisme ([+], [20]).
Dans ce qui suit, I désignera un élément de g*, [1 une polarisation de I et r -- 11,6. Soit z'1 la représentation de Lt (G) définie àpartir de zr par
I
r t ( Î ) :
et dg est la mesure de Haar sur G.
Alors, 7r1 est une représentation unitaire de l'algèbre involutive Lt(C); c'est à dire, pour f e fr1C7, nt(f*) : (ot(/)).
"ù /* est la fonction définie sur G par
f - ( r ) : f ( r - r ) , V r € G .
Un simple calcul montre que pour t e'11" et x € G,
/ . \ f
("'(/X{),)
(") :
J.,,
T,,r(",y)€(y)dù
où H est le sous-groupe exp 11, di1 est la mesure de Haar sw G f H et
f t , i ( r , y )
i : [ il*.h.r-\x,Uùan.
J H
La mesure de Haar dh sw -Ff est telle que dg soit égale à dhdù.
On en déduit eue ?r1(/) est un opérateur à noyau; et son noyau est la fonction .f7.6. Dans Ia suite, nous écrivons z'(/) au lieu de z'1(/).
3-L espace
de Schwartz
S(c):
Rappelons la définition de l'espace de Schwartz ^S(n"). Soient z € IR" eI, a : (*t, ..., a,") un multi-indice. Nous notons
x o : x T , . . . , , l ,
e t D o : ( * ) " , . . . f * f "
où (r1 ,...,tn) sont les coordonnées de r dans une base arbitraire de IR'.
Une fonction / définie sur IR', à valeur dans 0 est dite de Schwartz si elle est de classe C* et pour tous multi-indices @ : (ar ,...,dn) et P - (&,...,0n),,
sup I r" DP
f (r) l< -.
r € I R '
On note .9(IR.") I'ensemble des fonctions de Schwartz sur IRo. La topologie de ^9(IR') est déterminée par cette famille de semi-normes.
Si V est un espace vectoriel de dimension finie, alors I'espace de Schwartz S(V) est défini par analogie avec .S(m.").
3-1- Remarque:
Soit 2(IR") I'ensemble des opérateurs différentiels sur IR' à ccefficients polynomiaux. Il est clair alors que / appartient à S(IR") si et seuiement si
ll L.f lloo( oo, V L e 2(IR,").
Soit maintenant G un groupe de Lie nilpotent d'algèbre de Lie g et d , IR' ---+ G
une application polynomiale; c'est à dire, I'application l o g o $ : I R ' - g est un difféomorphisme polynomial.
3-2- Exemples:
Les deux fonctions th et 4,2 de IR' vers G définies par
, h r 4 r , . . . , t n ) : e x p ( É t t b t ) o i t ( b 1 , " ' , b n ) e s t u n e b a s e d e g
z : 7
et
, b z ( t t , . . . , t n ) - e x p ty X 1 . . . t o X n a u e c (X 1 , . . . , X , ) e s t u n e b a s e d e J o r d a n - H ô l d e r d e g sont des difféomorphismes polynomiaux.
3-3- Définition:
Nous définissons ^9(G) comme étant I'ensemble des fonctions / définies sur G telles que si ry' est un difféomorphisme polynomial alors / o r/ appartienne à S(IR"). Cette définition est indépendante du choix de ,h.
Pour X € g et f e C*(G), les champs de vecteurs X1 et -Xp invariants respectivement à gauche et à droite sont définis pour g € G pat
Xr.T(ù: linl lt.f tn exptr) - .f (g)l
r - o f ' " ' " 1xn.f @): lrl3 7[/(exn(-tr).9)
- .f (g)].
Soient CI [G] I'ensemble des fonctions polynomiales de G sur 0 et P(G) I'ensemble des opérateurs différentiels sur G à cæfficients polynomiaux.
Si X € g, alors Xp et Xp sont dans P(G). Il en résulte que. pour toute base (Xt, ..., X,,) de g et pour toute fonction polynomiale p." sur G, les monômes
p " X i : p , ( g X X r
) i ' . . . ( I "
) i "
p,Xfr: p"(gxIr
)i' ...(I"
)Ë"
sont dans P(G).
3-4- Proposition:[7]
S o i e n t ( X r , . . . , X " ) u n e b a - s e d e g e t
,b , R* ---+ G
une application polynorniale. Alor-s, les farnilles d,e semi-norrnes -sniaantes -sont équ,iualente-s et déterrninent la même topologie de S(G):
(a) ll r" DP(f ",h) ll*;
(b) ll p,xi,of ll* , Po € a [G];
(r) ll p"xkof ll* , Po € a [G].
4- Vecteurs C- des représentations
irréductibles
d'un groupe de Lie nilpotent:
4-1- Définition:
Etant donnée une représentation unitaire n d'un goupe de Lie G sur un espace de Hilbert 'l7n,rn élément u deTln est dit un vecteur de classe CÈ pour la repésentation zr, si la fonction .f,, définie sur G par
' f " ( * ) : T ( t ) u ' t € G '
est de classe CÂ. On noteT{l,l'espace des vecteurs de classe Cfr pour la représentation z-. On dit que u € 1ln est de classe C-, si
, € ô H*:v7?.
* = 0
On a vu que tout élément X de g, agit sur les fonctions de classe C&, comme étant un champ de vecteurs invariant à gauche:
1
(Xr..fX') :
lrlr3
;lf
(r.expt]i)
- /(')1, r €. G.
4-2- Proposition:[7]
Soient (fr,..., Xn) u.ne base ile g et u u,n élérnent ile'17n. Alor.s.
u e 1 1 1 s i e t s e u , I e m e n t - q i , p o u , r t o u t m u " l t i - i n i l i c e a ' : ( a r , . . . - . o , ) . | . l : Ë o ; S À : . toutes ?es ilériaée, Xi.f existent et .cont continues.
r=l
L'algèbre enveloppante u(g), agit sur Tlf par les opérateurs zr( A\. A € u(g), du fait que:
î ( J [ ' X u ) : : r ( I i ' . . . X f , "
) u
: z ' ( X r )"t...2'(I,, )'" r'
: (ri./.)(e)
En r'<-'rtu dr: la fbrmule
x r..f
ne), (r) : Ad(y-r
x).f ,(ry), x, y e ?7f ,
il s'ensuit que les opérateurs n(y), U € G,laissent invariant l'espace Tlp. Considérons les opérateurs
t
r ( ô ) : | éQ)"Q)an,
ô € C i G )
J c et soient x € G et o € V7?. On a: 1Xr-Tn(ô)u
(t) : liq
;[,r(/
explX)z'(
ù, - r(x)r(fiu]
f 1:
]'33
"@)
Joë@)7tôGxp(-tx)y)
- ô@)1"(y)udy
: r(r)(Xn.dXr).
Donc, si (ôùnepg est une suite de fonctions de classe C- sur G, à supports compacts et qui est une approximation de I'identité dans Lt(G), nous voyons que 1lf est dense dans '17o.
Supposons maintenant que G soit un groupe de Lie nilpotent, connexe, simplement connexe et r € G. Il existe donc, une forrne linéaire / sur g et une polarisation p de / telles que:
7f - 1fl,p.
Soient P le sous-groupe: P : expp et (Xl,...,Xr) une base de Malcev pasant par la polarisation p telle que p soit engendrée par les vecteurs (Xr+r,....,Xn).L'application:
P x IRe ---+ G
@ , ( t t , . . . , f r ) ) ê A . e x p ( t 1 ô 1 ) . . . e x p ( t ; 6 6 ) est un difféomorphisme. Ce qui nous permet de définir une isométrie:
J : L2(IRÂ') --- ftn
tl<lrtrrée llar:
J ( . f ) ( y . t ) :r r ( y ) / ( t ) , V y € P , e t V t € I R e , oir 11 r'st le caractère défini sur P par:
\ t ( e x P Ï ) :
" 2 r i 1 t ' Y ) , Y e P.
Orr perrt transférer I'action de G sur ?1, à IR.r', utilisant I'isométrie "I. On obtient d.onc, rrn<'représerrtation z'' éqrrivalente à ?r sur tr2(IR.r'), appelée une représentation de base de
Soient P(R.o) i'algèbre des opérateurs différentiels à cæfficients polynomiaux sur IRÈ et rr(g) I'algèbre enveloppante de g. La représentation zrt s'étend à un homomorphisme associatif de u(g) vers 2(IRft), dépendant de /, de Ia polarisation p et du choix de la base d" g.
4-3- Théorèrne:[7]
. Soient g une algèbre de Lie nilpotente, I eg* etp une polarisation iJe l. Considérons u.ne base ile Malcea passant par p et soit rt Ia représentation défi,nie cornrne ci-dessus. AIors,
i) n' : u(g) ---+ 2(IRe) est surjectiue.
ii) Pour tout X €g, n'(X) est un opérateur ilifférentiel de ilegré 0 ou 1. iii) Les cæfficients polynorniaur pour
"'(X) associé à une base d,e coord,onnées ile B.k ilépend,ent d,'une manière polynomiale de X.
iu) I'espace'lli est isomorTtâe rï ^S(IRk).
5- Les opérateurs
de Hilbert-Schmidt:
5-1- Définition:
Soit (X, dp,) un espace mesurable. Un opérateur linéaire
l,: tz(x) ---
t2(x)
est dit de Hilbert-Schmidt s'il existe une fonction K4 de L2(X x X) telte que pour toute fonction .f de L2(X), on ait
t
@f)(r):
J*Ke(*,y)f@)dp(a),
Yx e x.
Si A est un opérateur de Hilbert-Schmidt, la norme de Hilbert-Schmidt de A est définie par
l A l s . s : l K a 1 1 z 6 x x \ ( v o i r [ 1 5 ] ) .
Soit {e;}; est une base orthonormée de L2(X). L'opérateur A est de Hilbert-Schmidt si
l l n " i l | : D l < A " i , e e
> l < o o .
t i , k Dans ce cas, il vient que
I A l z n . s = l l , + " i
l Z .
j
5-2- Rernarque:
Soient A et B deux opérateurs de Hiibert-Schmidt. Alors, A + B , A.B et I'adjoint de A, noté /* sont aussi des opérateurs de Hilbert-Schmidt. En outre, la forme bilinéaire tp définie sur I'ensemble des opérateurs de Hilbert-Schmidt f1.^9(X) par
9o(A, B) : tr(B* A) : I < B" Aei, ei )
j
est symétrique, définie positive. Elle définit donc une norme sur f/..9(X):
I A lrn.s:
tr(A* A), A e H.S(X).
Par suite, l'espace H.S(X) muni de cette norme est un espace de Hilbert. Un opératert C de la forme
C : D A t B ; ,
A r , B ; € I I . S ( X )
- i : L
s'appelle un opérateur traçable. Sa trace est déterminée par
t r C : t a C e i , e i ) .
j
De plus, si C est un opérateur linéaire de IR- de noyau Kç,la trace de C est donnée par:
trC : t
liç@,r)d.r.
"/IR-(Voir [13])
5-3- Norme de Hilbert-Schmidt de I'opérateur n'(/): Revenons aux traces des représentations r e G.
Soient O une orbite d" g* sous I'action coadjointe, zr la représentation correspondante et .f appartenant à S(G). D'après ce qui précède, nous constatons que z'(/) est un opérateur de Hilbert-Schmidt. On se demande si z'(/) est un opérateur traçable. Dixmier et Malliavan ont prouvé dans [11] que si / est une fonction de Schwa^rtz sur G, alors, il existe deux fonctions I et g appartenant à S(G) telles que
f : g * h .
on a alors
que
nff) : r(g) o r(rt).
Donc, z'(/) est un opérateur traçable pour chaque
/ e S1C). De plus, la fonctionnelle
d,..
définie par
0"ff) : tr(")(f), .f € s(G)
est une distribution tempérée
sur ,S(G) (t7l).
Kirillov a aussi montré qu'il existe sur I'orbite (2 une mesure Ad.(G)-inva,riante
dp,,
trQr(f))
: I U
"exp)^(/)r/p-(/),
J o ou ( / o e x p ) ^ ( / ) : l ç . e x p ) ( X ) e - 2 r i 1 l , " d X , J s ' " dX étant la mesure de Lebesgue sur g.La norme de Hilbert-schmidt de I'opérateur n'(/) est alors donnée par
| "(/) l2n.s: trtr(f* * f)
: [ ff- * f)^dp,*(l), / e s1c;.
J o-Remarquons aussi que la fonction (/. * /)^ n'est pas positive. En outre, il se peut que la fonction / appartienne à frerzr sans que ("f* * /)^ soit nulle sur I'orbite (?,".
II
TRANSFORMEE DE FOURIER ADAPTEE
ET SEMI-NORME DE HILBERFSCHMIDT
SUR LES GROUPES DE LIE NILPOTENTS
1- Introduction :
Soit G un groupe de Lie nilpotent connexe simplement connexe d'algèbre de Lie g. On désigne par g* I'espace dual de g et par ô I'ensemble des classes dtquivalerr"". d". représentations unitaires irréductibles sur G.
Soient r e G et / une fonction de classe C- sur G, à support compact. Alors, d'après la formule de la trace de Kirillov, la norme de Hilbert Schmidt de r(f) est donnée par :
| *(f) lzn.s:
tr(r(f.)r(fD : [ [(/. * f) o exp]
^
(I)dp*(I)
(2.1)
J o .
où p' est une mesure G-invariante positive sur I'orbite Oo de r.
La transformée de Fourier adaptée est introduite^pa^r D.ArnaI et J.C.Cortet dans [1]. Ils ont prouvé que pour toute représentation zr dans ê, il existe une fonction
C-a n : O o x G - - - + I R telle que. si
alors,
I o(/) lrr.r: [ | itll l, dlr*Q).
(2.2)
J O .
.I.Ludwig ([28]) a donné une définition explicite de ces fonctions.
Ces f<rnctions cî cléfinissent alors une fonction a de g* x IR vers IR qui sont C- en tout point I dc g*. en position générale.
i ( l ) :
Le problème au quel on s'intéresse dans ce chapitre, est de définir une fonction û, sur g* x G tout entier de classe C-. Dans ce cas, I'application :
O-' 1- î
sera un isomorphisme de S(G) sur S(g*). Notons
( )" ' S(g-) '----+
S(c)
I'application inverse. On aura
pour toute représentation zr en position généraie et pour toute fonction g dans ,9(g.). Dans le cas où pour tout I e g* en position générale, I'orbite 0 de I sous l'action coadjointe est plate:
o : l + s ( / ) r ,
cette transformée de Fourier est la transformée de Fourier usuelle sur S(G).
Si I'algèbre de Lie g contient un idéal ! tel que si I/ est le sous-groupe fermé exp b, toutes les f/-orbites soient plates et toute orbite 0 de G soit saturée par 11:
O : O + b r ,
on peut construire une fonction c6 de classe C- sur g* x G tout entier et la transformée de Fourier qu'elle définit sera un isomorphisme entre les espaces de Schwartz S(G) et ^9(g.).
Dans le cas général, nous définissons une transformée de Fourier adaptee ( )- sur I'espace de Schwartz S(G). Cependant, si / € S(G), Ia fonction / n'est pas C- en tout point. Nous procèdons alors à la construction d'une fonction notée aussi c sur I'ensemble g* x E x G où E désigne I'ensemble des bases de Malcev de g et par suite, une transformée de Fourier adaptée ( )- définie sur S(G) par
N<rus montrons une formule analogue à (2.2) et nous déterminons I'image de S(G) par cette nouvelle transformée de Fburier adaptée.
trQr((!).),,G))
:
Io_l
s(t)
l" d.p*(r)
- 1
f @,n):
2- Construction de o pour des algèbres particulières:
2-1- Orbites plates:
Soit G un groupe de Lie nilpotent connexe simpiement connexe d'algèbre de Lie g. On note S(g) I'espace de Schwartz de g.
L'espace de Schwartz S(G) est défini par: .9(G) : {/ e C*(G)lf o erp € S(g)}. Pour / appartenant à S(G), on note / la transformée de Fourier de / définie par :
î ( t ) : I y ç " r e x ) " - 2 i l 1 1 , x ) 4 y , /€ s * .
J s
La mesure de Lebesgue sur g est transférée par la fonction exponentielle en une mesure de Haar sur le groupe G et pour / appartenant à g*, otr peut définir :
Î(D : I f@)"-'tti1t'toex] 4*, J c " '
où log désigne l'inverse de la fonction exponentielle. z-l-L- Proposition :( [28])
Soient g une algèbre d,e Lie nilpotente et G le groupe g muni de la loi ile Campbell-Balter-Eausdorff :
r . a : r r ! + l k , , a l + . . .
Soient O une G-orbite dans g* et r l'élément d,e G ,orrrrponilant. Supposons que I'orbite O soit plate:
o : t + s(/)'.
Alors,
| "ff) la.s
: | Î l1r,1os,u*'1,
V/ e s(G)
où 1to est I'unique nLesure G-inaariante sur l'orbite O d,éfinie par la formule (0.3) . Démonstration:
Soient T,O et lr comme dans l'énoncée et soit / un élément de I'orbiteO. Comme I'orbite est plate, g(l) est un idéal de g et la mesure canonique sur (? est la mesure de Lebesgue sur g(t)r [29]. (Les orbites plates ont plusieurs autres propriétés intéressantes. Voir par exemple [35] ou [36]). Donc,
I o(/) l2n.s
: trr(f* * .f) : I ft'- * f)^(I')d1r*(I')
J o I: I
( / . * / ) ^ ( , * u ) d u
J g ( l ) ': I
t
(/. * /X" .h)e-i<t+u,,'h>
d,àdhdu.
"rs(r)r J s/s(t)xs(t)| "(f ) l2u.s : | (t- * f)(h)e-2il1t,h) 46J se) f r : | | t ( h t - t . y - r ) f ( @ . h ' ) - , . h ) e - i < t , n > d h t d ù d h J s(I) r s/s(t) x g(t) f f
: | |
6 y @ - t
. A d , ( y ) h , - r
. h ) e - i < t , r " > d h t d ù d h .
J s(t) J s/s(t)xs(t)Comme g(/) est un idéal de g, nous avons que
A d y . h ' - 1 € g ( / ) V h ' e s(l). Posons k' : Ad(y)lr'-r. Aiors,
| *U) lrn.s
: t
t
f!:-qf
@-t . k, . h1e-;<I'h>
d,t
,d,hd,g.
J s/sQ) J s(I)xs(t) 1 1: I
|
-f6=rl'..'rfu-t'h)e-i<t'r"-''n>d'k'dhdù
J sls(I) J s(t)xs(t)(en effectuant un changement de variable h ---+ le'-rh). En outre, du fait que g(/) est un idéal de g, on a
I l , k ' - t . h > - < l , h > - I l , l c ' > .
Il s'ensuit donc que :
| *(f) l'r., : [
| [ Ttriq"-ict,k'>61rt I
fGy * h)e-i<t,h>anla;1
Js/sU) JsU) JsU)
= [ tr(ùïaù
J u/u(t) 1 q: I
l i ( l + u ) l ' d , u
J sQ)''li'i',;
lî;: ;:
Pla'cherer)
J O I 2-2- Orbite saturée par un idéal:Soit maintenant g une algèbre de Lie nilpotente contenant un idéal ! tel que si I1 est le sous-groupe fermé exp b, toutes les l/-orbites soient plates:
Considérons lrn sous-espacc d de g, supplémentaire à f . Pour â appartenant à T1 et u zrppa,rtenant à tl, posons :
hî", :: Ad(erlt(ir)) .o
Soit a6 la fonction définie sur g* x G par:
a o ( F , r ) : a o ( F , e r p u . e r p h ) :1 F , u ) * < F , h à ' , . Il est clair que la fonction rs est linéaire en F, poiynomiale en r et que
a o ( F , ï - t ) : -as(F,r), Vtr' € g", Vx € G. Pour / dans -Lr(G) et / un élément de g*, posons
i(t): I f@)"-^iao(t'x)6*.
J c ' 'e.4)
Il est facile de vérifier que I'application ( )- ainsi définie est un isomorphisme de .g(G) dans
s(s.).
Soit / un élément de g* telle que I'orbite O de I sous I'action coadjointe soit saturée par f ; ; c ' e s t à d i r e , I +bL C O otencore, O : O+ br.
Notons 116 7a. restriction de / à b ef g(l tt) son stabilisateur dans g. Soit (g;)i-,,_o une suite de Jordan-Hôlder partant de f :
0 : Û , , - p C " ' c 9 n : 9 et g; est un idéal d" gl+t de codimension 1.
Soit Es : (ôp+r,...,bn) une base de Jordan-Hôlder de I pour I'action de g.
Nous a.llons compléter !8s par des vecteurs ô1,...,6o tels que ls: (ôr r...rbo,bp*tr...rbn) soit une base de Jordan-Hôlder de g de la manière suivante:
s i g , , - p + r c b + g ? n ) , a l o r s , i l e x i s t e b o e g ( l h ) \ ! t e l e u e g n - p * r : b o < b e > . Sinon. on choisit un vecteur ôn qui complète ! dans gr_o+r.
De rnêmr:. pour ri :2,...p. si gn-p+; C gn-p*r-r * g(176), alors, il existe b p - i + r e g ( l h) \ ga-p+;-r
tel rp<'
9 n - p * i : g n - p * i - t O ( b p - , a r ) . Siuou. orr <'hoisit ôr,-i*r (lui complète grr-nr.;-1 dans gr-n+;.
P o s o t t s r ? : ( ô r . . . ô r , ) e t d ' r r n s r r p p l é m e n t a i r e d e r l n 9 ( 1 7 6 ) d a n s d :
Considérons la déconposition clu groupe G:
G : exp û . H - exp19' . exp(d À g(ltù). n.
L'orbite O est saturée par b. Sa paramétrisation de Pukanszky ([37]) est alors donnée par: o : { f , 2 f t } * Ë P i Q r , . . . , z a ) b } ; ( 2 1 , . . . 2 7 , , . . . , 2 d ) € R d i
j : l j : p * l
où d est la dimension de O.
Notons O 1r1la restriction de O à \:
O / h : G ' ( l r ) : e r p , ï ' ' H ' ( l t , ) : e r p û ' ' O ' , où, O'est I'orbitre de lltl sous I'action de 11.
Soient d{Iamesure de Lebesgue sur flr
"t dp'une mesure G-invariante sur O16. A\ors, la mesure G-invariante pl sur O est donnée par
d p : d t d p '
-2-2-L- Théorèrne:
Soit t1 un iiléal d,e g tel que toutes les H-orbites soient plates et soit O une orbite -catu,rée par b. Alors, pour toute fonction f ilans ^S(G), la norme ile Hilbert-Schrnid,t iLe l'opérateur r(f) est ilonnée par:
|*ff)l2u.s:
J o ' - "I tfulf ap(D,
' où ( )- est I'application définie par (2./1).Dérr- onstration:
Soit .f un élément de S(G). On a,
^ r
| "(.f ) l"u.s: I U.f- *,f) o ery) (l')dp(l')
J O- [
t [ ( . f . * / ) o r ' r p ] ^ ( ( +
t ' ) t t ( t t 1 . .
J o , n J t l t
En appliquant la formule d'inversion de Fourier. nous déduisons que
I
| "(/) lzu.s: I Kf- *.f )o erplnl^
Q ' l r l p '
J O , , 1 f : I I ( . f - * . f l( c r p h l l - 2 t r i < I ' ' h s e l h d l l . J o , n J qD'autre pæt,
( f . * f)(erph): I f"@t(y-t .erph)d,y
J G
1 _
:
J"f@)f@'"'Ph)dY
^ _
: I ^ f@xpu . erpk)f(erpu . erpk . exph)dkdu
J t t x û f
:
Jûff,)"
*s f,)(exph)du
où f,(erpk) : f (erpu'erplc) ; (k,u) € b x û et *s désigne le produit de convolution dans l e g r o u p e H : e x p h .
La mesure p,t étant G-invariante sur (?76. Nous obtenons alors,
| *(il l'r., : [ [^ [ Uf "f x11 f,)(erph)e-2il<t ,h> d.hdud.1r,
J o t h J l J J h
t'
f f
:
|
|" I Unf *s f,)(exph)e-2"i<ed'@xp(-i))'I"h>d,hd,ud,pl
J O / h J ù J h f f f: I
I^ I (çù" *s f,)(erph)s-2"i<t',oi,dhd,ud.p,.
J r c , o J û J t 1Soit tr'' l'élément de 11 correspondant à I'orbite O' de /76 dans 11 et nototrs pnt la mesure If-invariante sur O' et du' Ia mesure de Lebesgue sur d'.
| *U) lza.s
:
[,^, [, lo l^Ur,l*
*n f")("xph)e-2n;<Ad'(expzt')'t"nt">
d.hdpo,(r')dudu'
J o , . : [ , [ , 1 " , I r f , ( e x p h ) e - 2 r i 1 A d * ( e ' p ' " 1 t " h i ' s d h l2 d1t*,(l')&;'ldu (d'après la proposition 2-1) : [,, oJ [ | lut,{"*oh)e-2n;<ed' (exprr )t"hl'' rll, l2 dr,ld.1t*, (l' )du' : [. t | [ " . f ( e x p u . e r p h ) e - 2 n i ( ' 4 d * ( e x p t " ; l ' , à * " > r - z n i < 1 , u > c ] u t l l t . l , d t r l p * , ( 1 , ) c l t t J r T ' x O ' J , t * ' J r \ x h " ' L L
( d'après la formule de Plancherel ). D'où.
| *U) lzu.s:
l"t
îtU
12
d,p,(r).
I
2-3- Exemple:
Soit g I'algèbre de Lie de dimension
6 engendrée
par les vecteurs
Ir, ...,Ji6 tels qrre
La, sons-algèbre tl d" g engendrée par (x2,...,xu) est un idéal de g de pas deux. Donc, toutes les H-orbites sont Plates.
s o i e n t x : ( 2 r , . . . , r 0 ) € g e t I : ( t r , . . . , / u ) € g * ; l e s c o o r d o n n é e s é t a n t e x p r i m é e s d a n s I a base (X1 , ..., Xu ) respectivement dans sa base duale. Alors, Ies coordonnées de Ad exp X 'l sont données par
( h * x z h l r i l o - r 1 t 2 l 6
I
t, + rlr + lxltu
Ad*expx.t:{
,'^ii)',i
| ,s - x+Ia
( / a .
Soient / un élément de g" et u : aXI dans !r, t'+ 0' On a: I + u : Ad'* exPX' I e xzls * 1316 = s'
Donc, I ! u appartient à I'orbite (?(/) pour tout I en position générale. C'est à dire, pour tout / appartenant à g* avec ls * 0 ort 16 f 0. Ce qui prouve Que, b est un idéal de g à" p* deux saturé pa1 {?(i) pour tout / en position générale. Par suite, I'applicati"n ( )-définie par 1a formuie (2-4) est un isomorphisme de s(G) dans s(g*), vérifiant
| "(/) lza': l"t f O f dp*(t),
v/ e s(G)
où (? est une orbite de G sous I'action coadjointe et z' est l'élément de ê correspondant.
3- Cas gênêral
Soient g une algèbre de Lie nilpotente d'espace dual g* et, B = (6t,"',6,") une base de Jorda^n-Hôlder de g telle que 6r' soit central.
Soit F € g*. Nous allons utiliser la construction réalisée par J.Ludwig et H.Zahir dans [30] porr, àét"rminer une polarisation de F. Nous définissons alors une suite finie de sous-algèbres de g de la manière suivante :
Soient
jt : max{i : < 4 [g, bi] ># (0)]'
i r : m a x { i : < F , [ ô ; , 6 i , ]
> + 0 ]
ct
g r ( . F . ) = { u € 9 i 1 F , l u , b . l , l > - 0 } .
Alors. gr(F) est une sous-algèbre de g de codimension 1. Elle est donc un idéal de g. De plus. gr(F) contient le radical de F, g(F)'
P o r r r i : 1 , .. . , n , i + i1, posons:
b!-b;-1ffiu,,
La farnille cle vecteurr {bl};e {r, ...,n1,i}il ainsi construite est une base de Jordan-Hôlder de
Par récurrence, nous définissons:
jp : nzar{j , < F,[gp_r(tr'),
q-t] >+ {o)},
ip : mar{i : < F,[bl-',bl;l] >+ 0]
et
g p ( F ) : { u € g ; < F , [ u , b l , r ) > : 0 ] . Alors, gp(f) est un idéal de gp-r(F) et
bl
: bI-,
- x- t 2t!,lil_r,!.T'l'
uy
', i e {r,...,
n}
\ {i,,
...,io}
< F , [ b o n ; , , b l - 1 1 > " , , , " est une base de Jordan-Hôlder de gp(F).
. Soit fr, Ie plus petit entier tei que
< F , [ s k ( F ) , 6 j ] > : ( 0 ) , V j Ç { i r , . . . , i * } .
Alors, gr(F) est une polarisation de .F qui coihcide avec celle de M.Vergne ([30]). En outre, la famille de vecteurs
{ b n , , b l , , .. . , b ! ; t } e t { ô f } ; . { r , . . . , n } \ { i 1 , . . . , i È } est une base de Malcev de g relative à la suite 91(-t'),..., gk(F).
Notons, Gs :: G et pour tout p : 1, ..., k, Go ,: Go(F) - exp go@). Nous avons que
Gp : {exp(ro..16loa, ) . Gp+ti rp+r €IR}. S o i e n t P : 7 , . . . , k , h o € G o e t a o € I R . P o s o n s
hf,, :: exp(aob;o) . ho . erp(-aob;o). 3-1- Construction de la fonction a:
Nous définissons maintenant la fonction d pax récurrence en posant : ak i gi" x Gr ---+IR
( F * , h r ) - a * ( F 6 h t ) : < F p , h p ) e t p o u r p : l r . . . , , k - L ,
ap : gi x Go ---+IR
( F o : fnr*rbîo*, * F o * r , e r ; p r o l l r b i p l r ' h p , l r ) ' + f i o l J p * r + o ' p + r ( F p + r , , h p + r â ' " + ' ) ,
La fonction a est aiors définie sur g* x G par:
a ( F , x ) : a ( f ; r b i , + F 1 , € r p r l l r ; , . h r ) : f ; r r r 1 - a t 1 f l r , h r i " 1 , F € g " , r € G . P o u r . f e L r ( G ) e t - t ' e g * , p o s o n s :
i ( r ) : [^f @)"-*ia(F,x)4r. ( 2 . 5 ) J c
La fonction a est rationnelie en F, polynomiale en u. Donc, / est une fonction C- en tout point .F de g* en position générale.
3-2- Théorème:[8]
Soient O une G-orbite dans g* et r I'éIérruent de è ,orr"rponilant. Alors, pour toute Jonction f ilans S(G), Ia norme de Hilbert-Sch.rnidt ile I'opérateur r(f) est d,on-née par:
| *(f) l2a
s: I t îU'l l' d,t,*(r'),
J ooti ( )' est I'application définie par (2.5). Démonstration:
Nous démontrons la proposition par récurrence sur &.
Si fr : 0, I'orbite 0 est plate et g(/) est un idéal de g. Le résultat découle alors de la proposition 2-1-1.
Supposons que fr 10. Soient /r - l1n, et zr1 l'élément de Gr corréspondant à |a G1-orbite 0 1 d e \ . Posons l i : : A d " ( e x p s b ; , ) . \ . Alors,
I o(il l'n.s
: trr(f* . il : [ (.f. *,f[ (l)dpL*(t)
J o * 1 f: I l-(f" * f)/n,^(î)dp",(/1)ds
"/o, JIR'
(d'après la formule d'inversion de Fourier) f r : I I t . f . * . f ) ( l t ) 6 - 2 r i c l i . , , > , l l , d 1 , n , ( 1 1 ) d s . Jo, x IR JG, D'autre part.
( / . * .f )(/r)
: [ .r-ro.rta-t
. h \ d y
J t ;r _
_ | .f fu-t ).f fu-t . t,1dy
J C t _
: I * .f(t'-t .crp(-fô;, ))/(t-t .r*r(-tb;,)h)dkdt.
J(,', x IR
En effectuant un changement de variable: k --+ 6É, on en déduit que
( f - * f ) ( h ) : t
.
t
,
t
J c , , * ï ( e r n G t U n , )
. È-t . erp(-
r b ; , ) ) f ( e r e e ; b i , )
. k-t . erp(-tLo,).h)dkdt
: [_((/,)- *", y,)(tt])dt
J R - . . " " , v 1 J U ' \ oùf,&) : .f("rp(-Lun)
. t, .
"*eç-f,t;,)1
et *6'r, désigne le produit de convolution dans le groupe G1. Ii vient donc que
| *U) l2u.s
:
fo,*^ 1",*^(fr*
*c, .,ù(h?1"-zu;<ti,h>
dhdtdti*,(r)ds
f f
:
J^, J",*o,(.f
,* *c, rù@t)s=2zri<If
+i'o'd,hdlru,(t)dsd;
f f | ^ - t:
J * , J
" , r o , ( . f r *
* c , fr)(ht )s-2'îi<h"'h- > d,hdtdpt*,(l)ds.
D'après lthypothèse
de récurrence)
on a
| *U) lra.s
:
lu 1",,.
*.
I
f ,
f -,(hi)"-2,ria{rr
,ni)
d.h
l, dtrn,(r)dsdt
:
lo,,. * Â
|
1",
r {n)"-2tria1(tl'ni
t dh l2 dtd'1-Lo,(/1
)ds.
En appliquant la formule de Plancherel, on en déduit que
I " ( i l l z u . s :
f o , * u l ^ ,
l u l . , f
( e x p t b ; , . h ) e - 2 o i t t ; r " - 2 r i a 1 ( I i , o $ ) d h d t
l , d , I n , d , 1 - r o , ( t ) d s
f:
J o _ l
i ( t ) l ' d p * ( I ) .
3-3- Proposition:Pour tout F € g* et pour tout r € G,
a ( F , x - t ) : - o ( 4 z ) .
Démonstration:
Nous démontrons la propriété par récurrence sur k. Elle est triviale si À: - 0. S6it x e G . I l e x i s t e r r € I R e t h € G 1 t e l s q u e : r : e î p r r b ; r . h S o i t F € g * e t p o s o n s )r :< F,b;, ). Alors,
a ( F , { r ) : o ( F , h - l . e r p ( - " r ô n , ) )
: o(F,exp(-r1b;) . leup(rft;,) . h-t erp(-r, ôn, )])
- - À r r r + o, (r, ,[enp(rft;,)-h-'
. e r p ( - r f t n , ) ] # " )
: -Àrrr + o, (F, ,["rp(]r1bn,)
. h-
"*eç]rran, )l-t)
: - À r r r + o, (rr, [ni"1-r;.
Or, d'après I'hypothèse de récurrence
a t ( F t , [ht "1-t,
- - - a{Fr, hï ", ).
Il s'ensuit donc que
a ( F , r - 7 ) : - À r r r - a t ( F t , h | " ) : - o ( F , * ) .
3-4- Corollaire:
Soit f une fonction sur G. Posorl.s
f . @ ) : / ( " - 0 ,
r € G .
Alors,
pour
tout
f e D1C1,
i" -7.
En effet, soit / € g*. Alors,
i.Q) :
foT.tù"-Zila(I'r)
4, :
l"
r ^
trr(f * s*) -- | fçf 1-gçt,pp"çf1.
J O Iffrrls-zda(t,x) 4*
T(x)e-z*;"(t,")
dn
3-5- Proposition:Soit 0 une orbite ile G sous l'action coailjointe et n l'éIément de G
"orr""pond.ant. Alor-",
trr(æ)r(fl: I içt,1"ru{r,4d,p*(t,),
v/ e s(c)
, yr €G,
J O
où dpn Ia mesure positiue G-inuariante sur I'orbite O ilonnée par la formule (0.3). Démonstration:
Si / et g sont deux fonctions de Schwartz sur G. Alors,
-
Lffis-2o;o(t''-\d,r:
En cffêt,
trn[(f+
s) * (.f + s)"]
: [,f + ù-(r,)(fT
srcjdp-(r)
J O: I ti(r)f d.p,*(r,)*
J O J A[tg(r,)l,dl,*(t,)
* [ iu'ls(ndp*(t')+
J o J o[ gçr1fuap-çr1.
En outre,t r r f ( f + s ) * ( / + g ) . ] : t r n ( f * , f . ) * t r r ( s * g . ) * trr(f *g*)*trr(s *.f.).
En identifiant les deux égalités, il s'ensuit que
trr(f * g.) * trr(s* "f*) : I iu'l;l.-t,lar,(/')
J o+ [ gçr1{t,yap-çr1.
J oEn reprenant les mêmes calculs pour les fonctions f et ig, on obtient que
trr(f* e*) - trtr(s*,f*)
: I i4,VfrVp.^(t,)
- [ Eg,ff-fqop*(t,).
J O J O Donc' f
-trn(f*e*) : I fU')g(t,)d.!,"(l)
J of -
r
:
J o
f ( )[
J ;@)"-;"(t'')
dridp'o(t'
)
: I ifrl I g.@)"n"(L')hdtr*(I')
J o J c: I o. @lt [ îfrVio(I,')
dtro(t')]d*.
J c " J o - ' D'autre part,trr(f*e*) : I s.@)tro(x)tr(f)dx.
J GIl vient alors que
I g-@)[trtr(x)tr(f)
-
[ itr>"'o(',ùdt,n(I')]d.x
-s
J G J O
pour toute fonction de Schwartz g srtr G. Par suite,
trtr(x)tr(f)
: I i(l')",o(,,ù
ap*(l,).
J o r
P o u r l € g * . s o i to ( / )
:
) u ( A d - t . / ) : n A d g . ( g ( l ) ) .
c € G c € GAlors, o(l) est le plus grand idéal de g contenu dans g(l) et o(l) est I'algèbre de Lie du sor$-groupe de G ;{(l) défini par:
l(l) - {r € G rel que oilr) esr un multiple de I'identité}, oir n1 est l'élérnent de ô ..r*".pondant à t [2g].
Il cst arrssi clair <pe
3-6- Corollaire:
Soitl tm élément de g*. Alors, pour tou,t r appartenant à G et pour tout Z appartenant à a ( t ) ,
a ( I , x - e x p Z ) : { l , Z > + a ( I , r ) . Démonstration:
Soient / une fonction de Schwartz sur G, O la G-orbite de f' et zr l'élément de ô correspondant. D'après le corollaire précédent, on a:
trn(r.expz)r(f ): I içl'1rn"G,,-"*pz)d[,o(l,),
yr. e g,, vz e a(l).
J O
D'a,utre part,
t r r ( r . e x p Z ) n ( f l -
" ; < t , z > t u r @ ) r ( f )
: I f rrl"ill'z)
"àa(t'
'ù dtro(l')
J o "
: I irrlei<t',2>
eia(I',ù
drro(r,).
J o - '
En identifiant ces deux égalités,
nous en déduisons
que
a ( l , x . e x p
Z ) : { I , Z > + a ( l , r ) .
4- Une autre transformée de Fourier adaptée:
Soient G un groupe de Lie nilpotent, connexe, simplement connexe; g son algèbre de Lie et g* l'espace dual d" g. Notons E I'ensemble de toutes les bases de Malcev de g. Alors, E est une partie fermée de l'ensemble de toutes les bases de g. Cependant,
!8 n'est pas une variété différentiable. Dans ce paxagraphe, nous allons construire une fonction a sur (g. x 8) x G. Ensuite, nous définissons une nouvelle transformée de Fourier adaptée définie sur I'espace de Schwaftz S(G) jouissante des propriétés de celle construite dans le paragraphe précédent. En outre, cette nouvelle transformee de Fourier sera un isomorphisme entre s(G) et un espace s(*fnl) que I'on déterminera.
Soit 2È la dimension maximale des G-orbites qui sont en position générale. Alors, pour tout / € g* en position générale et pour toute polarisation p(/) de /, la codimension de p(/) est fr.
Pour B : (bt, ..., b,r) appartenant à E, on note
h ( B ) : : V e c t ( ô r . + r , . . . , ô , ) et
