S ÉMINAIRE N. B OURBAKI
M ICHÈLE V ERGNE
Sur les intégrales d’entrelacement de R. A.
Kunze et E. M. Stein
Séminaire N. Bourbaki, 1969-1970, exp. n
o369, p. 87-106.
<http://www.numdam.org/item?id=SB_1969-1970__12__87_0>
© Association des collaborateurs de Nicolas Bourbaki, 1969-1970, tous droits réservés.
L’accès aux archives du séminaire Bourbaki (http://www.bourbaki.
ens.fr/) implique l’accord avec les conditions générales d’utilisa- tion (http://www.numdam.org/legal.php). Toute utilisation commer- ciale ou impression systématique est constitutive d’une infraction pénale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.
Article numérisé dans le cadre du programme Numérisation de documents anciens mathématiques
http://www.numdam.org/
SUR LES
INTÉGRALES
D’ENTRELACEMENT DE R. A. KUNZE ET E. M. STEIN(d’après
G.SCHIFFMANN)
par Michèle VERGNE Séminaire BOURBAKI
22e année,
1969/70,
n° 369 Novembre 19691. Définition de la série principale des représentations d’un groupe semi-simple.
Soit G un groupe de Lie réel, semi-simple, connexe et à centre fini. On note g son algèbre de Lie. Soient g = k + p une décomposition de Cartan de g et a une sous-algèbre de Cartan de la paire symétrique
(g k) ,
c’est-à-dire une sous- algèbre abélienne de g , maximale parmi celles contenues dans p . Si a est uneracine de a , on notera
ga
le sous-espace radiciel correspondant. Fixons un ordresur les racines et posons u ~ = E
f
et v = Eg-a .
Soient U et V lesa>0 ~’
sous-groupes analytiques de G d’algèbres de Lie u et v, K le sous-groupe com- pact maximal d’algèbre de Lie k et A le groupe exp a ; ; alors G = KAU est une décomposition d’Iwasawa de G . Soient M le centralisateur de A dans K et r
le groupe MAU .
Par définition, les représentations de la série principale du groupe G sont les
représentations induites par les représentations unitaires de dimension finie de r .
Or toute représentation unitaire irréductible de dimension finie de r est triviale
sur U , scalaire sur A ; elle est donc déterminée par une représentation unitaire
irréductible du groupe compact M et par un caractère unitaire de A . D’autre part,
il y a bijection entre l’ensemble des caractères de A et l’espace
a~
des formes linéaires sur a à valeurs complexes. Si X Ea* ,
on désigne par(03BB ,
a) la valeurau point a du caractère défini par la forme =
e
sia = exp H) .
88
Ce caractère est unitaire si et seulement si X est imaginaire pure. Notons p la demi-somme des racines positives de a . Si X est une forme imaginaire pure sur a et T une représentation unitaire irréductible du groupe compact M , on notera
(X, T)
la représentation R de r définiepar R(mau) = (~, a)T(m) .
Considérons la représentationunitaire 03C003BB,03C4
de G induite par la représentation(X , T)
der . Elle s’effectue par translations à gauche dans l’espace de Hilbert des fonctions mesurables sur G, à valeurs dans l’espace
VT
de la représentation T , vérifiant presque partout :(1) cp(g)
, pour geG , me M , aeA , ueUet dont la restriction à K est de carré intégrable, la norme étant celle de
L2 (K , VT) .
Rappelons les résultats de Bruhat
[1]
sur ces représentations. Soient M’ lenormalisateur de A dans K et W =
M’/M
le groupe de Weyl. Alors M’ opère surles caractères de A
((w(B) ,
a) =(X,
w* et sur les représentations de M(w(T)(m) = T(w 1mw)) ;
il en résulte une action de W sur les classes de représen-tations
(X , T)
de r .On sait que les représentations et de G sont équivalentes.
D’autre part, si
(X, T)
est un couple régulier, c’est-à-dire si les transformées par W de la classe de la représentation(?~, T)
de r sont toutes distinctes, la représentation est irréductible.(On
sait d’ailleurs que la condition(À , T)
régulier est souvent superflue. Parthasarathy, Rao et Varadarajan
[6],
dans le cascomplexe, et récemment Kostant
[~4],
dans le cas réel, ont démontré que si T est lareprésentation triviale
To
de M , alors toutes les représentations sont irréductibles, quelle que soit la forme X imaginairepure.)
Par conséquent, si wappartient à M’ , il existe un opérateur unitaire
A(w ;
ï~ ,T~
entrelaçant etw(~ w(T ,
t et siw1
1 etw2
sont deux éléments de M’ les opérateursÀ , T)
et
A(w1 ; w2(?~~ , w~(T~~
oA(w2 ;
’~ ,T~
entrelaçant tous deux et03C0w1 w2 (03BB) , w1 w2 C) T
doivent être proportionnels. G. Schiffmann(cf. [’7l)
construitexplicitement de tels opérateurs vérifiant la formule de composition :
(2) A(wlw2 ; ~ , T~ _ w2(~~ , w2(T~~ ~ A(w2 ; ~ , T)
pour tous les couples
(À, T)
lorsque G est déployé sur R ouC (ce
qui avait déjà été fait par Kunze et Stein(cf. ~5~~,
au moins lorsque G est déployé surC )
et seulement pour les couples
(~, T )
oùT
est la représentation triviale de M , lorsque G n’est pas déployé.(Résultat
qu’obtient aussi S. Helgason(3~.~
Formelle-ment la construction en est simple : comme nous cherchons un opérateur qui commute
aux translations à gauche par G , il est naturel de chercher un tel opérateur sous
la forme d’une translation à droite par w ; mais si f vérifie
(1)
pour(X, T)
la fonction g ->
f(gw)
ne vérifie pas(1)
pour(w(X) , w(T)) :
si elle se trans-forme à peu près comme on le désire par A et M à droite, elle n’est pas invariante à droite par U . Toutefois elle est invariante à droite par le groupe
U
oùU w =
tels que et on est donc conduit à poser :où du désigne une mesure sur invariante à gauche par U . Il est clair que maintenant cette fonction est invariante à droite par U . Calculons formellement comment elle se transforme à droite par A .
Soient g = QI
E
à( Bal)
où
0394(w) = (y
> 0 tels quew-1 (a)
>0} ,
l’algèbre deLie de
U W
et p -1 . la demi-somme des racines appartenant àw
R(w ~ ~ - {cx
> 0 tels quew ~ ~a~
0~
; le groupe A normalise U etUW
et lemodule de la transformation ü -~
auâ
surU~U
est le caractèrew
a -~
(-2 p
-1 , a ) . Alor sW
Il reste donc à vérifier que
w(p) =
p - 2p -~ , ce qui est immédiat, carw
Un calcul analogue montre que
A(w; ~ ,
se transforme à droite par M suivant la représentationw(T~ .
Nous avons donc "défini" un opérateur d’entrelacement... malheureusement l’inté- grale précédente ne converge pas en général.
2. Convergence des intégrales d’entrelacement.
Remarquons que la définition donnée de l’espace de Hilbert
~~‘’T
garde un sens lorsque X est une forme linéaire quelconque sur a . Les translations à gauche par les éléments de G définissent une représentation de G dans~~’T
par desopérateurs bornés. Nous montrerons que si Re ~ est assez "grande", et si f est une fonction continue appartenant à
~~’T ,
alors l’intégrale précédente converge.Soient
To
la représentation triviale de Met xx
le vecteur K-invariant de la représentation :~-?~-p ,
a) . Pour toute fonction f continueo ~
appartenant à
~~’T
la fonction g -~Il ?~ (g~
est invariante à droitepar r, donc bornée sur G car
G/r
est compact. Pour tout x dans G et pourtoute fonction continue f appartenant à
#(~’7 ,
on a donc la majorationDe cette majoration résulte immédiatement la première partie de la proposition
suivante :
PROPOSITION 1.- Supposons
que U/Uw XRe du
+co . Alors pour toute fonctioncontinue f appartenant à et pour tout x dans G l’intégrale
f U/Uw
f(xuw)
du converge absolument et définit une fonction continue f’ de x .De plus, l’application f H f’ se prolonge en une application linéaire continue de dans
Hw(03BB) , w(03C4)
de norme inférieure ouégale à U/Uw ~Re 03BB(uw)
dû .Démonstration. Il reste simplement à évaluer la norme de la transformation f ~2014> f’ . Si uw =
k a u’
est la décomposition d’Iwasawa de uwLa mesure du étant finie, on a d’après l’inégalité de Schwarz :
On désigne par
D(w)
l’ensemble des  Ea*C
telsque
U/Uw ~Re 03BB(uw)
du
Nous allons déterminer ce domaine
D(w)
par récurrence sur la longueur de w(métho-
de due à Gindikin et
Karpalevic ~2~~.
Nous entendrons par longueur de w la longueurde l’image w de w dans le groupe de Weyl. Rappelons que V est engendré par les
symétries par rapport aux racines simples et qu’une décomposition
s = s .s ... s d’un élément s de ~t en produit de telles symétries est
ar. a. a.
11 12 lr
dite réduite, si elle comporte un nombre minimum de facteurs ; ce nombre minimum
~(s~
est appelé longueur de s : Î Soit l’ensemble des racines a > 0 telles que 0 et soit
R1(w~
l’ensemble des racines « telles que a>0 , 2
n’estpas racine et 0 . Alors
~(w~ -
Card Précisément, si w = sai 1 .s 03B1i 2 ...
s
ai
rest une décomposition réduite de
w ,
alorsPar conséquent, si w =
w1w2
avece(w) = 8(w~ ~
+~(w2~ ;
alorsPROPOSITION 2.- Supposons w = avec = +
l(w2) .
AlorsT) = w2(03BB) , w2 (03C4))
oA(w2 ; 03BB , ï) .
°Plus précisément, cette égalité signifie que X e si et seulement si À e
et w (X)
~ et que, dans ce cas, les deux membres de l’égalitéétant définis sont égaux.
Démonstration. Utilisons une autre forme de l’intégrale d’entrelacement. Si U’
2014201420142014201420142014201420142014 ~
w
est le groupe U fi
wVw-1
, alors U = U*.U . On a doncw w
où U -
w -1U’ww est
le groupe d’algèbre de Lie E(on
normalisera la mesure de Haar surVW
de telle sorteque
v
x03C1w (v)
dv = + 1).
Alors:w
Or l’application
(v1,v2)
Hw-12v1w2v2
est un isomorphisme deV w’
xVw2
surVw1w2
comme le prouve(3),
et respecte les mesures de Haar choisies.Il s’agit donc de déterminer maintenant où west un représentant d’une
a a
symétrie
sa
par rapport ~ une racine simple a . On aCe problème se ramène ~ un calcul sur un groupe de rang réel 1 . En effet, notons
u _ -T~ 2014
ga
+ _.g2«
et v - -tx _g a
+ ~.g 2a ,
’ 13 la forme de Killing de 2014 g ,Hâ
Q~ l’uniqueélément de a_ tel que
B(H ,Hâ~ - cx(H? ,
etHa
l’unique élément proportionnel àH’ tel que
c~(H ~ -
2 . Alors g - v +u ~
+ u est une algèbre semi-simple detx " ’ cy .-~ -cx ’-y 2014o’" -cy
rang 1 , et si G est le sous-groupe analytique correspondant, la décomposition
Qf
d’Iwasawa de G induit une décomposition d’Iwasawa de
G03B1 =
KA U
Ce avecKa= K(1Ga ,....
Notons p
Q~
le caractère +
q2a~ ,
où p est la multiplicité de la racinecx et q la multiplicité de l~â racine 2~ ; ; alors et par conséquent
si désigne la restriction la sous-algèbre
a~
=RHa
et Q/ désignela fonction sur
Ga
définie par(k~,aâ a) - (-Re ~a - pa , aa) ,
alorsNous allons calculer explicitement, lorsque G est de rang 1 , l’intégrale
c(X) = F x ~(v~
dv . Le résultat interviendra de manière fondamentale dans la suite.V
Supposons donc maintenant G de rang 1. Soient
8(X~ -
X’ l’involution de Cartan associée à la décomposition g = k + p , cx l’unique racine positive de a telle que0/2
ne soit pas racine et H l’unique élément de a tel que 2 . La formequadratique =
4 -/., ~ &/TjBB
est positive non dégénérée sur g et invariante parH H , 8(H)) -
Ad K , on note
~X~ = Q(X)1 2 .
PROPOSITION 3.- Supposons G de rang 1 . Soient v =
exp(Y
+Z~ ,
avec Y Eg a
etZ E
g-2a ,
, un élément de V et v =k a u
la décomposition d’Iwasawa de v . Si test l’unique nombre réel tel que
a
= exp t H , alors e =((
1 +~Y~2 2)2
+2~Z~2)1/4
.Démonstration. La démonstration de ce résultat a été faite cas par cas par
G. Schiffmann. Nous en donnerons ici une démonstration générale due à Godement. Suppo-
sons que 2a soit racine. Pour tout X appartenant à
g2a ,
on remarque queQ(v.X) =
et en particulier pour X = Z’ . Mettons en évidence les composan- tes de vZ’ sur chaque espace radiciel(tableau ci-dessous)
Les remarques suivantes permettent le calcul de
Q(vZ’)
qui se fait composanteRevenons au calcul de
c(À) .
Si on identifie le caractère À au nombre complexeX(H) ,
alorsCette intégrale ne converge absolument que si Re À > 0 . Elle se calcule explicite-
ment par passage en coordonnées polaires
En particulier
D(w)
ne contient pas les formes imaginaires pures. Mais ces formesappartiennent à la frontière de
D(w) .
Nous montrerons qu’il est possible, tout aumoins dans les cas cités plus haut, de définir
A(w; B, r)
pour un tel À par prolon-gement analytique.
v
Désignons
par
la forme linéaire - 03BB , et si f E et g~ H03BB,03C4 ,
posons~
(f,g) = F (f(k) , g(k))dk .
Ceci définit une forme sesquilinéaire x~~’ T
K
invariante par les translations à gauche par G .
On doit donc montrer qu’il existe un isomorphisme 03C8 de V
a
sur V
OE conservant la mesure de Haar tel que, si v = k a u est la décomposition d’Iwasawa (le v et si
3. Prolongement analytique des intégrales d’entrelacement.
Si À appartient à
D(w) ,
l’opérateurA(w; À, T)
entrelace les représentationset
Tr /-. B
de G . Si p est une représentation irréductible de K, l’opérateurA(w;
03BB,T)
transforme donc un vecteur K-fini de type D en un vecteur de même type.Explicitons le sous-espace de type ~ de la représentation
n IB,T
. Soit~T
l’espace des fonctions f de carré intégrable sur K qui vérifient
f(km) = (k
e K , m EM) .
La représentationn IB,T
se réalise de manièreévidente dans
l’espace KT (indépendant
deX)
et la restriction de cette représenta-tion à K est la représentation
fi
induite par la représentation T de M .D’après le théorème de Frobenius, une représentation unitaire irréductible D de K est contenue autant de fois
dans H03C4
que la restriction de D à M contient T .Supposons que la restriction de J) à M contienne p fois T. Soient
V~
l’espaceE. i (1 5
un projecteur deV-.
sur un sous-espace de type T etune isométrie de sur
V .
. Alors toute fonction f de type D dans H03C4est combinaison linéaire de fonctions
f. i,e
où, ’ si e est un vecteur quelconque d.eVp ,
fi (k) =
°Soit
A°(w ; ~ , T)
la restriction deA(w ;
ï~ ,T)
au sous-espace partout dense des vecteurs K-finis de l’espaceH03C4
. On étudiera le comportement par rap-port à X de
A°(w ;
X ,T)
en étudiant ses restrictions aux sous-espaces de type D.Cette étude se ramène ~ celle des intégrales
~
V
~(k~1 ~~-~-
p, et commeV
plus haut, il suffit de considérer le cas où G est de rang réel 1 . Dans ce cas, si eD est une représentation unitaire de K , il existe un caractère ~, de A tel
que soit entier, et tel que la fonction v ~ (D(k-1v
)e , e’)(, ,
a ) soit poly-nômiale sur V
(polynômiale
signifiant que la composée avec l’exponentielle est poly-nômiale sur v
).
Comme v =g-03B1
+g-2a ,
tout élément X de v s’écrit X = Y + Zavec Y e
g «
et Z Eg 2« ;
; on doit alors étudier des intégrales de la formeJ P(Y,Z ((
1 +~Y~2 2)2
+2~Z~2) -03BB-03C1- 4
dY dZ , oùP(Y,Z)
est une fonctionv
polynômiale sur v .
L’une des fonctions sous le signe somme étant invariante par le groupe
0(,IYI~~
x0(~~Z~~~ ,
on peut d’abord rendre l’autre invariante par ce même groupe.Après passage en coordonnées polaires, on obtient donc une combinaison linéaire d’in- tégrales de la forme :
Après un changement de variable évident, l’intégrale ci-dessus est proportion- nelle à :
qui, à un facteur constant près, vaut :
Cette dernière expression analytique lorsque Re X > 0 admet un prolongement méromor- phe ayant pour pôles simples des entiers négatifs ou nuls.
Revenons au cas général. Introduisons
P(w) ,
l’ensemble des X ea~
tels queÀ(H )
soit entier négatif ou nul pour au moins une racine ex appartenant àR(w) .
On obtient alors le :
THÉORÈME 1 .- Soit f E
~ô .
L’application X r-~A°(w ; ~ , ï)f de
dans~
est analytique. Elle se prolonge à
a*C
en une fonction méromorphe, analytique dansle complémentaire de
P(w) .
Lorsque 03BB n’est pas un pôle de ce prolongement, l’opérateurA°(w ;
X,T~
entrelace les représentationsT et
w ?
del’algèbre de Lie g .
Nous désirons maintenant supprimer les pôles de l’application X H X,
T)
appartenant à l’ensemble Re X = 0 . Considérons l’opérateur
M(w; À, T) = ; w(03BB) , w(03C4))
oAo(w ; 03BB , 03C4) .
Cet opérateur commute avec la repré-sentation n de l’algèbre de Lie dans Tout au moins lorsque X est imagi-
À,T o
naire pure et
(X, ï)
un couple régulier, cette représentation est irréductible, etM(w;
XT)
est alors scalaire. D’après le principe de l’unicité du prolongement ana- lytique, il en sera encore ainsi pour un À quelconque. Nous allons chercher une normalisation, c’est-à-dire une fonction X t2014~c(w ;
X,r)
méromorphedans £ ,
analytique et ne s’annulant pas sur
D(w) ,
et telle que les nouveaux opérateurs À ,T)
=2014201420142014201420142014 A (w;
X ,r)
vérifient exactementc(w ; X , ï)
B (w" ; w(B) , w(ï))
oB (w;
À ,r)
= Id. Moyennant des hypothèses évidentes sur lafonction
c(w;
X ,ï) ,
la proposition 4 montre que l’adjoint de l’opérateurÀ, T)
sera l’opérateurB (w ; X , ï)" .
Donc si B est imaginaire pure,l’opérateur
B (w; À,T) ,
s’il est défini, sera unitaire. Mais réciproquement, ilen résulte qu’aucune valeur de X imaginaire pure ne pourra être un pôle. En effet,
on peut se contenter de considérer le cas où w = w est de longueur 1 ; l’opéra-
teur
13 (w ;
’ cy X,ï)
’ sera alors fonction de la seule variable complexe ’ X c~ =X(H ) ,
’ cret la fonction À t2014>
)) B (w ;
À ,03C4)~
restera constante sur l’axe imaginaire puren dehors des pôles éventuels, ce qui serait absurde s’il en existait.
Ces considérations heuristiques montrent que l’essentiel est de calculer
; w(B) , w(ï))
oA (w;
X,T) .
Ce calcul se heurte à de sérieuses difficultés lorsque G n’est pas déployé. Il ne sera effectué dans ce cas que lorsque Testla représentation triviale T o de M .
Examinons ce dernier cas. Soit B. l’unique vecteur K-invariant de la représen-
tation . Alors B, =
c(w;
où, d’après la proposition 2,0 A. ~B~/
c(w ; X)
= nc(X ) .
On a posé X =X(H )
etc(X )
est définie par(3).
Ri
ûfQf Qf Qf
La fonction X -
c(w; À)
est alors une fonction méromorphe de À , analytique etne s’annulant pas sur
D(w)
etT
THÉORÈME
2.-1 )
Pour toute fonction f EH ,
l’application X t--~est une fonction méromorphe de À analytique au voisinage de
D(w) .
2)
Si B eD(w) ,
alorsBo(w ;
À ,T )
définit un opérateur bornéB(w ;
X,T )
deM.
qui entrelace les représentationso
et
T o
de G. ° Si Re À = 0 , alors
B(w ;
À ,T )
est unitaire.3)
Si Re X = 0 , quels que soient les élémentsw1
etw2
dans M’ , alorsConsidérons maintenant le cas où G est déployé sur R ou C . La méthode géné-
rale de réduction au rang 1 nous conduit à effectuer d’abord des calculs préliminai-
res sur
SL(2 ; R)
ouSL(2 ; C) .
On choisit comme représentant v du seul élément non trivial du groupe de Weyl,
l’élément v
°
=
Î-1 0
. Les caractères de A sont définis par un nombre com-plexe À : : (X,
a(t))
=e~t
et M possède deux caractères T+
et T
-
où T +
est
le caractère trivial de M et T le caractère défini par
T (-1) =
-1 . Toute re-présentation irréductible de K est équivalente à l’une des représentations
v . La restriction de v à M est irréductible, de type T + si n est pair et de type T si n est impair. Si donc on considère la fonction
~ , l’espace est somme directe des C t
s avec s pair si T = T +
ou s impair si T = T . . Alors
Ao(wo ; 03BB , 03C4)03A6s = c(w ;
À , oùet
B°(w ;
X ,ï)
définit un opérateur borné deH03C4
si et seulement si Re À à 0 , unitaire si Re X = 0 .[Remarque :
les pôles et les zéros de l’opérateurB (w ;
X, ï) correspondent évidem-ment à des valeurs de À pour lesquelles la représentation
-n ’
est réductible. Parexemple si T = T , et si À est un entier impair positif À = 2j + 1 , alors le
noyau de l’opérateur
B (w ;
À,T )
est le sous-espace E$" .
C’est un sous-~ ~
~s >2j+
1s pair
T
espace
de Ho+
stable pour la représentation de l’algèbre de Lie, et l’opérateuro
T
X,
T )
réalise un isomorphisme de l’espacequotient Jo+
par ce sous-espace sur le sous-espace image E§
, espace de la représentation de dimension! s~ 2j +
1s pair 2j + 1 du groupe
SL (2 ; R) .]
B)
G =SL(2 ; C)
Les divers sous-groupes considérés sont
On choisit comme représentant du seul élément non trivial du groupe de Weyl l’élément
wo
=-1 0 j
. Les représentations unitairesirréductibles
de M sontei~
0 B .les caractères
T
de M définis parT
. ) =Les représentations unitaires irréductibles de K sont paramétrées par un entier
s positif ou nul.
Ds
se réalise dans l’espace des polynômes à deux variables X et Y homogènes de degré s , par : g =B c
=
p(aX
+ cY , bX +dY) .
Choisissons e. = 1
comme base de l’espace : alors e. est un vecteur
J s j
propre pour M de poids
TS-2~ .
La restriction à M contient doncTn
siet seulement si s =
~n~
+ 2p . On considère l’espaceRn
de la représentation in- duite par le caractèreT
de M , et le sous-espace de~n
des fonctionsde type
;D s
. Ce sous-espace est engendré par la fonction f s,n,e=
e s - n
)2 où e est un vecteur quelconque de l’espace de
-1 .
. On a par conséquentX , définit un opérateur borné de
Rn dans H-n
si et seulement siRe 03BB ~ 0 , unitaire si Re X = 0 .
Passons maintenant au cas d’un groupe semi-simple déployé sur R ou C ; dans
ces deux cas, le groupe M est commutatif, une représentation irréductible,. de M est donc simplement un caractère T de M .
Supposons par exemple que G est un groupe semi-simple complexe. Soit ~y une racine, alors la sous-algèbre g =