Sur les groupes <span class="mathjax-formula">$EXT^n$</span> des représentations des groupes de Lie semi-simples

A NNALES SCIENTIFIQUES DE L ’É.N.S.

A. G ^UICHARDET

Sur les groupes EX T

des représentations des groupes de Lie semi-simples

Annales scientifiques de l’É.N.S. 4^e série, tome 21, n^o3 (1988), p. 333-358

<http://www.numdam.org/item?id=ASENS_1988_4_21_3_333_0>

© Gauthier-Villars (Éditions scientifiques et médicales Elsevier), 1988, tous droits réservés.

L’accès aux archives de la revue « Annales scientifiques de l’É.N.S. » (http://www.

elsevier.com/locate/ansens) implique l’accord avec les conditions générales d’utilisation (http://www.numdam.org/conditions). Toute utilisation commerciale ou impression systé- matique est constitutive d’une infraction pénale. Toute copie ou impression de ce fi- chier doit contenir la présente mention de copyright.

Article numérisé dans le cadre du programme Numérisation de documents anciens mathématiques

http://www.numdam.org/

Ann. scient. Éc. Norm. Sup., 4e série, t. 21, 1988, p. 333 à 358.

SUR LES GROUPES EXT" DES REPRÉSENTATIONS DES GROUPES DE LIE SEMI-SIMPLES

PAR A. GUICHARDET

Introduction

Étant donnés un groupe de Lie G et une classe de représentations unitaires irréductibles 7i de G, on peut se poser des problèmes de trois types (parmi bien d'autres. . .) :

(à) déterminer les groupes Ext^ (TI, 71) et la structure d'algèbre de cohomologie (pour le cup-produit) de leur somme directe Ext^ (TI, 7i);

(b) décrire la catégorie Ext(G, 71) des G-modules de longueur finie, à sous-quotients simples isomorphes à 71;

(c) étudier la « géométrie différentielle » de ô au voisinage de 71 : algèbre des jets d'ordre infini de fonctions C°° au voisinage de 71, déformations C°° de TI, vecteurs tangents à ô en 7i, etc.

Il se trouve que ces problèmes sont assez intimement liés, comme le montrent les considérations — souvent très formelles — qui suivent.

(i) Si G est compact, les trois problèmes sont triviaux.

(ii) Prenons G=RW; alors 0=1^, Ext^(7i, 71) est l'algèbre extérieure A* C^ la catégorie Ext(G, 71) est équivalente à celle des A-modules de dimension finie à sous-quotients simples triviaux, où A est l'algèbre de polynômes C[Xi, . . ., XJ; enfin l'algèbre des jets d'ordre infini de fonctions C°° au voisinage de 71 est l'algèbre de séries formelles

C[[X,, . . . , X J ] .

(iii) Les résultats de (ii) ont été généralisés, sous une forme moins simpliste, au cas d'un groupe G niipotent simplement connexe par F. du doux ([3], [4]); dans ce cas les assertions relatives à Exte(7i, 71) et à Ext(G, 71) sont vraies « génériquement », et cela semble devoir se généraliser à tous les groupes de Lie (voir [11] et [12] pour d'autres cas).

(iv) Le groupe G étant maintenant quelconque, considérons une réalisation U de 71 dans un espace E, et une déformation C°° de U, i.e. une famille à un paramètre de représentations unitaires LJ( de G dans E telles que Uo=U et que les applications t\-^Vt(g) soient C°°; posons

<D(^)=-4

dt

u^).ufe)

o

-i.

alors <I> est un 1-cocycle sur G à valeurs dans End E; nous noterons [<D] sa classe dans le groupe Exto(7i, 71); la formule correspondante pour l'algèbre de Lie 9 est

<S>(X)=-id

dt U,(X) V X e g . o

II est clair que 0(^) et <I>(X) sont hermitiens, ce que nous écrirons [(D]eExt^(7i,7i),;

de plus [0] est de cup-carré nul, comme on le voit en dérivant deux fois la relation

Hfei^)=ufei).nfe2);

nous écrirons cela

[(D]eExt^(7î,7i)o,,.

Nous dirons qu'un tel 1-cocycle 0 « s'obtient en dérivant une déformation de U »; on a montré dans [14] que, dans le cas des groupes de déplacements, tous les éléments de Extç(7i, n)o ^ s'obtiennent par ce procédé.

A ce point il est bon de rappeler qu'en Géométrie Algébrique, on définit couramment l'espace tangent à une variété V en un point x comme étant l'espace Ext^ (x, x) où A est l'algèbre des fonctions algébriques sur V.

Revenant au cas qui nous intéresse, l'indice 0 (condition de « cup-carré nul ») indique clairement une situation non commutative; l'indice h est dû, bien entendu, au fait que l'on ne considère que des représentations unitaires. Signalons aussi un phénomène assez inattendu : il peut arriver que deux déformations équivalentes fournissent des 1-cocycles non équivalents; plus précisément il peut exister deux familles à un paramètre (H), (U^) vérifiant Uo==Uo=U, et des entrelacements A( : H-^U( n'ayant aucune limite lorsque t-»-0, si bien que les 1-cocycles obtenus 0 et 0' peuvent ne pas être équivalents; ce phénomène se produit pour le groupe niipotent €5 5, et semble être intimement lié à celui, étudié par J. Ludwig [17], des suites d'orbites dans g* qui convergent plusieurs fois vers une orbite donnée.

(v) Pour les groupes G ayant des Ext" non nuls entre représentations irréductibles distinctes, il s'avère intéressant de considérer aussi des représentations n non irréductibles, à condition de remplacer Ext^(îi, 71)0,,, par son sous-ensemble Ext^Ti, n)o^,irr formé des classes a qui sont irréductibles au sens suivant : pour tout élément q> de a, les opérateurs V(g) et ^>(g) forment un ensemble irréductible; puis de diviser ce dernier par l'action (par conjugaison) du groupe ^u des éléments unitaires du commutant ^ de U. Prenons par exemple le groupe des déplacements du plan: G=R2|xSO(2); ô est formé des caractères ^, neZ, de S0(2), et d'une famille de représentations de dimension infinie p^, reR*; Ext^(^, /„) est nul pour tout n; par contre si l'on considère la représentation

n = © Xn» un calcul direct montre que Extç (n, n)^ ^ ^u est naturellement homéomorphe à la famille des p^; celle-ci doit donc être considérée comme une déformation C°° de TC, et

4e SÉRIE — TOME 21 — 1988 — N° 3

GROUPES EXT" 335

non des divers ^, bien que, pour la topologie de Fell, elle converge vers tous les 5^. On trouvera dans [13] une étude plus complète de Ext^Ti, ^o^irr/^" dans le cas des groupes de déplacements quelconques.

Le but initial du présent travail était d'examiner les problèmes ci-dessus dans le cas où G est un groupe semi-simple, et où n est un (g, K)-module « série principale généralisée » Ip.ô,v ^ es^ encore bien loin d'être atteint! Nous décrivons les espaces vectoriels Ext^ ^(Ip § Y, Ip,5,v) ^sans autres hypothèses, mais nous ne décrivons la structure d'algèbre de Ext^ K (Ip. s, v» IP, s. v) Q^ lorsque le groupe W^ ^ est trivial et v imaginaire pure.

Nous tenons à remercier très chaleureusement ici P. Delorme dont la compétence dans le vaste domaine « semi-simple » nous a été indispensable tout au long de l'élaboration de ce travail, ainsi que J.-B. Bâillon et J. Soto Andrade qui nous ont fourni des démonstra- tions du lemme 8.10; à la demande du rapporteur nous avons reproduit la seconde, plus intuitive et « géométrique » que la première.

1. Préliminaires

1.1. NOTATIONS GÉNÉRALES

Dans tout ce travail on note :

— G un groupe de Lie réel semi-simple connexe de centre fini;

— g son algèbre de Lie;

— K un sous-groupe compact maximal de G;

— P=MAN un sous-groupe parabolique cuspidal;

— p = m + û + n son algèbre de Lie;

— /=dimA;

— K M = K H M ;

— p la demi-somme des racines de a dans n;

— W=NG(A)/ZG(A) le groupe de Weyl de A;

— 5 un élément de M,, (série discrète de M);

— v un élément de a* avec R e v e — C p (chambre de Weyl négative fermée);

— Wg ^ le stabilisateur du couple (8, v) dans W, qu'on peut écrire comme une extension 1-W^W^R^-l

— Ip^s.v ^a sene principale correspondante, induite au sens C°° dans sa réalisation compacte, à savoir :

Ipwô.v={/eCœ(K,E5)|/(fem)=8(m)-l./(fe)VfeeK,meKM};

— 1 ou Ip ^ Y 1e (9» K)-module correspondant;

— U ou Up ^ Y ^^a représentation dans ïp ^ v?

— j^=S(û^) l'algèbre symétrique de ûç;

— ^ l'ensemble des éléments de ^ invariants par W^ y;

— ^A ^a catégorie des A-modules C°°;

— Ext(A, v) sa sous-catégorie pleine formée des A-modules de longueur finie à sous- quotients simples isomorphes à C^;

— ^ K ^a catégorie des (9, K)-modules;

— Ext(g, K; I) sa sous-catégorie pleine formée des modules de longueur finie à sous- quotients simples isomorphes à 1 (lorsque celui-ci est simple);

— ^=Ext^ K(I. I) le commutant de I;

— ^* le groupe des éléments inversibles de %⁷;

— lorsque Re v = 0, ^u le groupe des éléments unitaires de ^;

— Ext^ ^(1, I)o le sous-ensemble de Ext^K:(I» I) formé des éléments de cup-carré nul;

— Ext^ ^(1, !),„ le sous-ensemble de Ext^ ^(1, I) formé des éléments a qui sont irréduc- tibles au sens suivant: pour tout 1-cocycle Oe a, l'ensemble des opérateurs U(X) et 0(X), où Xeg, ne laisse stable aucun sous-espace non trivial de I;

— lorsque Rev==0, Ext^ ^(1, 1)^ le sous-ensemble de Ext^ ^(1, I) formé des classes contenant au moins un cocycle hermitien;

— Ext^^d, I)o,/,,irr l'intersection des trois sous-ensembles précédents.

On fait agir ^ dans Ext^ ^(1, I) par conjugaison; plus précisément, le transformé d'un 1-cocycle 0 par un élément T de ^* est le 1-cocycle X h-^T. 0(X). T~1; de même lorsque R e v = 0 on fait agir ^" dans Ext^iJI» I)/r

1.2. STRUCTURE DE Ip^. (Voir [6], [16], [18]).

On rappelle que 1 est somme directe d'une famille finie de sous-modules indécomposa- bles, famille qui a même cardinal que R§ ^ nous noterons P ou 1^ 5 ^ avec X e R§, v» ces

sous-modules; chacun d'eux a un unique sous-module simple noté J^ ou J^ § ^ 1.3. CAS où Rev=0.

Dans ce cas les sous-modules IX=JX sont deux à deux inéquivalents; pour tout weWg ^ on notera A(w) l'opérateur d'entrelacement unitaire associé, normalisé de façon que A (w) |ii =id; alors A est un morphisme de groupes, de noyau W^ ^ ^^es A (w) avec w e Rg ^ forment une base de l'espace vectoriel ^; enfin on peut choisir l'indexation P de façon que

A(w)|ix=x(w).id.

1.4. APPLICATIONS LINÉAIRES T¹: A"^* -^Ext^I» !)• (Voir [10] et [12].)

On dispose d'un foncteur T: ^ ~^ ^9, K associant à tout A-module n le (g, K)-module induit au sens K-fini par le (p, K^-module ô x ^ T i x l ; il en résulte des applications linéaires

T": A-a^Ext^v, v) -^Ext^K(I, I);

4e SÉRIE — TOME 21 — 1988 - N° 3

GROl PtiS EXT" 337

pour tout ÇeA^o* et tout / e R g ^ on notera T113^) la restriction de T'(i;) à Ext^(IU).

Enfin notant T* la somme directe des divers T", n ^ 0, on a (1.1) T*(Ç,A^)=T*(^)—T*(^) pour Ci, i;2eA*û*, où^^ désigne le cup-produit.

2. Énoncé des résultats

THÉORÈME 1. — Les données sont celles du 1.1; en particulier vea*.

(i) On a des isomorphismes d'espaces vectoriels

Ext^K(rM)-Ext^(v,v) V x e R ^ Ext^d I) - C ' ^ v l ® Ext^(v, v).

(ii) PoMr îoMt f;ea*, T1^) ^5t fa c(as5^ dM 1-cocycle QBX^^ Up.,,,^(X)

dt o

pour toute courbe différentiable t^->v(t) vérifiant v(0)==v, v/(0)=Ç.

(iii) Écrivons û * = V o © V \ où VQ (r^5p. Vi) est le sous-espace de a* où W^ ^ op^

trivialement (resp. la somme des sous-espaces isotypiques non triviaux), puis

n

A"a*= © (A^Vo^A^Vi);

p=o alors

KerT"'^ © (A^VoOA^Vi).

p = i N.B. - On a

Ext;(v, v) - Ext^(v, v) - A^û*

puisque ^ est, comme j?/, une algèbre de polynômes à n indéterminées; mais cet isomor- phisme n'a rien de canonique!

PROPOSITION 1. — Si R e v = 0 on a, pour tout ^eA"a* et tout weWg^, T'(w.Ç)=A(w).T"(y.A(w)-1.

THÉORÈME 2. — On suppose ici Wg ^ trivial et 1 simple, (i) T" est bijectifpour tout n ^ 0.

(ii) L'algèbre de cohomologie Ext^(I, I) esî isomorphe à l'algèbre extérieure A*û*.

(iii) Tout élément de Ext^ ^(I? I) s'obtient en dérivant une déformation de I.

(iv) Si Rev==0, tout élément de Ext^ ^(1, 1)^ s'obtient en dérivant une déformation unitaire de I.

(v) Le foncteur T, défini en 1.4, induit une équivalence de catégories de Ext(A, v) sur Ext(g, K; I).

N.B. — Les assertions (i), (ii), (v) ont déjà été démontrées dans [12], l'assertion (v) dans [7].

THÉORÈME 3. — On suppose maintenant W^={1} et Rev=0.

(i) T"'^x est bijectifpour tout n ^ 0 et tout ^ e R§, v- (ii) On a

Ext^O311, P2) - (A^-^ ^i, X2^Rô.v

où l'indice xF1 X2 signifie qu'on prend le sous-espace isotypique de type xF1 /2 P0^ l'action

^Rô.v

(iii) L'algèbre de cohomologie Ext^ ^(1, I) est isomorphe au produit croisé A* a* [x R^ y.

(iv) T1 ïWuït des bijections

(û*)irr/R5.v^Ext^(I,I)o.^/^

/^

(f a^JR^ , -> Ext^ K (I, I)o. /,, irr/^"

ori (û*)irr ^st T image réciproque de Ext^ ^(1, ï)^ par T¹.

(v) Tout élément de Ext^ ^(1, I)o,irr (^sp. de Ext^ ^(I» I)o,Mrr s'obtient en dérivant une déformation irréductible (resp. unitaire irréductible) de I.

N.B. — L'assertion (i) ne suppose pas Rev=0.

Remarque 1. — On sait ([5]) que les assertions suivantes sont équivalentes :

— l'une des représentations P est une limite de séries discrètes;

— toutes les P sont des limites de séries discrètes;

— (a*)i(==(û?)^v)estnul.

On retrouve donc le fait que, si V est un (9, K)-module limite de séries discrètes, Ext^ ^(V, V) est nul; en réalité les Ext^ ^(V, V) le sont aussi, d'après un résultat de Schmid et Zuckerman communiqué par D. Vogan.

Remarque 2. — Le cas où W^ est non trivial semble nettement plus difficile; nous espérons y revenir dans un travail ultérieur; signalons toutefois que, lorsque R§ v={l}, il existe une équivalence de catégories entre Ext(^, v) et Ext(g, K; I) (cf. [7], théorème 2).

4e SÉRIE - TOME 21 - 1988 — N° 3

GROUPES EXT" 339

Remarque 3. — II peut être intéressant de rapprocher le théorème 3 de certains résultats connus concernant le dual réduit de G.

(a) Considérons l'ensemble des représentations unitaires obtenues par complétion des divers Ip 5 „ où P=MAN parcourt l'ensemble des sous-groupes paraboliques cuspidaux à association près, ôeM^/W, veiû*/W^ X^Rg.v; cet ensemble est celui des représenta- tions tempérées de G, et constitue le dual réduit ô, de G ([8], 2.3).

(b) Fixant P et ô on obtient un sous-ensemble Sp 5 de G,, qui est ouvert et fermé dans G,. ([8], 2.3); notons ^oO^*/^) l'algèbre des fonctions continues nulles à l'infini sur fa*/W^, et formons la C*-algèbre produit croisé ^p^^^o^^l^) ^< Rg; les représenta- tions irréductibles de cette algèbre sont en correspondance bijective avec les éléments de Sp 5, comme on le voit en appliquant la théorie de Mackey à ^p 5.

(c) La C*-algèbre réduite de G est Morita-équivalente à la somme des diverses j^p 5 ([19], théorème 9).

(d) Supposons, comme au théorème 3, que W^={1}, formons le groupe produit semi-direct H = A |x Rg ^, et notons T la représentation régulière de R§ „ considérée comme représentation de H; alors il est facile de voir que l'algèbre de cohomologie Extg(T, T) est isomorphe à A * û * ^ R 5 ^ , donc à l'algèbre de cohomologie Ë^iJIp.ô,^ Ip,s,v)-

EXEMPLE

Prenons pour G le groupe SL(2, R) et pour P le sous-groupe des matrices triangulaires supérieures; alors M est réduit à 1 et —I; on note 0 et 1 ses caractères, 0 étant le caractère trivial; on identifie a* à C en associant à tout v e û* sa valeur sur l'élément ( ).

On se place au point v=0; alors W§ v^^-

Examinons d'abord le cas 0=0. Alors R^ est trivial et W^^=Z^ le théorème 1 montre que

dimExt" ^(1, ^dimA^a*^ 1 sl n = o î !

[ 0 sinon

mais que l'application T1 est nulle; le théorème 3 ne donne évidemment rien, mais on peut montrer directement que tout élément de Ext^ ^(1, I) (resp. Ext^ ^(1, 1)^) s'obtient en dérivant une déformation (resp. une déformation unitaire) de I; mais le paramètre par rapport auquel on doit dériver est v2 et non pas v.

Examinons maintenant le cas S=l. Alors W^ est trivial, Rg ^Z^; le théorème 1 montre que

dimExt^(I,I)={2 si "= 0'1

[ 0 sinon;

le théorème 3 s'applique; (û*)^ et (fû*)^ s'identifient respectivement à C* et R*;

(a*)irr/R8,v et O^irr/^.v — à ^*/{1» —1} et R*; les déformations mentionnées au

théorème 3 (v) sont formées respectivement de « séries principales non sphériques » et de

« séries principales unitaires non sphériques ».

PRINCIPE DE LA DÉMONSTRATION DES THÉORÈMES (ajouté à la demande du rapporteur) (a) On a des isomorphismes successifs

Ext^P, ^H^Q, K; Hom(P, I))

rî

H" (p, KM; Hom (P, 8 x (v + p) x 1))

^

H^û, Hom^(Ho(n, P)^^, ôx(v4-p)))

^ Ext^(v, v).

Ji n'est autre que l'isomorphisme de Shapiro. J^ s'obtient en écrivant la suite spectrale de Hochschild-Serre pour l'idéal n de p, puis en utilisant divers résultats de Hecht et Schmid, Vogan, Zuckerman sur la structure des m + a-modules H^(n, P), et la nullité des Ext" entre séries discrètes. Enfin 13 résulte d'un théorème de Delorme sur la structure du a-module dont on prend la cohomologie.

(b) Comme 1 est somme directe des P, on en déduit des isomorphismes B<K(U)

l

H^p, KM; Hom(I, ô x ( v + p ) x l ) )

l^{1 2}

H^û, Hom^KM^o^ ï)8.v^ 8x(v+p))) l'³

C'^.v^Ext^v, v);

ceci démontre le théorème 1 (i).

(c) On a de plus des applications (associées au foncteur T : ^ -^ ^g J :

T" : Ext"^ (v, v) = A" a* -^ Ext^ ^ (I, I);

on a une formule explicite (3.7) pour l'application composée Ji°T1; on en déduit le théorème 1 (ii) qui affirme que T1 s'obtient en dérivant des déformations, puis l'équiva"

riance de T" relativement à Wg ^ opérant dans a* de façon naturelle, et dans I par les opérateurs d'entrelacements (prop. 1). Cette équivariance est la clef du théorème 1 (iii), si l'on se souvient en outre de ce que A(w) est scalaire si et seulement si weW^ ^ la démonstration complète du théorème 1 (iii) utilise aussi la forme explicite de l'application Js ° ^2 ° Ji ° T" donnée par (5.4).

(d) Le théorème 2 est une conséquence facile du théorème 1 et, pour l'assertion (v), d'un lemme catégoriel démontré dans [12].

4e SÉRIE - TOME 21 - 1988 - N° 3

GROUPES EXT" 341

(e) Théorème 3 : (i) est une conséquence facile du théorème 1; (ii) de l'équivariance énoncée à la proposition 2; (iii) est un calcul sans mystère; (v) résulte facilement de (iv).

Dans (iv), la partie difficile est la surjectivité de l'application

(û*)irr/Rô,v-^Ext^ai)o,i^*;

le lemme 8.9 la ramène à un problème combinatoire consistant à mettre certaines fonctions sur un groupe Z^ sous une forme « canonique » — problème qui ressemble beaucoup, mais en plus difficile, à celui qui consiste à écrire un 2-cocycle sous la forme d'un cobord;

c'est l'objet du lemme 8.10.

3. Description des isomorphismes de Shapiro

(3.1) Ext^, K (PS I) ^ Ext^, KM W 8 x (v + p) x 1) (3.2) Ext^(I, I) -^ Ext^, KM (I. 8 x (v+ p) x 1).

3.1. On notera L l'application «évaluation en 1 » de I vers Eg, soit L (/)==/(!), et 1^ sa restriction à P.

3.2. LEMME. — Les applications L et L³¹ sont des (p, K^)-morphismes surjectifs.

Démonstration. — II est clair que ce sont des (p, K^-morphismes; pour montrer que I1 est surjectif, il suffit de vérifier qu'il est non nul. Supposons donc L(/)=0 pour tout /eP; on aura, pour tout geG

0=L(Ufe)./)=/fe-1) donc/=0, d'où contradiction.

3.3. On sait (cf. [l], III. 2.5) que l'isomorphisme de Shapiro (3.1) associe à tout n-cocycle <DeZ"(g, K; Hom(P, I)) le n-cocycle 0' défini par

(3.3) (D^X,, . . ., XJ==L"<D(Xi, . . ., X,) VX,, . . ., X ^ e p ou encore par

(3.4) O^, . . . , ^ ) = L o O ( ^ , . . . , ^ ) V^, . . . , ^ e P .

3.4. Prenons en particulier un 1-cocycle 0 « dérivée de déformation » de la forme 0^)=-^ Up,^fe).Up,^fe)-1;

dt o (3.4) donne

(3.5) (^(^-^(OUoga^L

pour/?=maneP, par suite, pour U = X + Y + Z e p = m + û + n :

(3.6) O'O^-KV^Y^L.

3 . 5. CAS OÙ <D EST DE LA FORME T¹' ^x (Ç) AVEC Ç € A" û*.

En vertu de [12] lemme 3, on sait que, pour Ui, . . ., U^ep, U,=X^+Y^+Z^ on a (3.7) T^nU,, . . . , H . ) = < i ; ; Y , , . . . , Y ^ > . L ^ .

3 . 6. DÉMONSTRATION DU THÉORÈME 1 (ii).

Il suffit de juxtaposer (3.6) et (3.7).

3 . 7. DÉMONSTRATION DE LA PROPOSITION 1.

En vertu de (1.1) on peut supposer n= 1. Considérons une courbe v(t) vérifiant v(0) =v,

^(0)=^, introduisons les opérateurs d'entrelacement A,=Ap(w, 8, v(t)) où weW^

vérifiant

(3-8) Up.ô...v(o(X)=A,.Up,^.A,-1 V X e g

et Ao=A(w) avec les notations du n° 1.3; posons A.o=(d/dt)\Q Ap notons <D et ^ les 1- cocycles associés aux courbes v(t) et w.v(Q; dérivant (3.8) pour î=0, on obtient

<Ï)w(X)=-f.Ao.U(X).Ao-l+Ao.<D(X).Ao-l+f.Ao.U(X).Ao-l.Ao.Aol;

comme Ao permute à U(X) :

^(^Ao.^X^Ao^+ftITO.Ao.Ao-1] d'où

T^l(w.y=A(w).T^l(Ç).A(w)-^l.

4. Construction (Tisomorphismes

Ext^ KM (^ 8 x (v + p) x 1) ^ H» (a, Hom,, ^ (Ho (n, P)s, ^ 5 x (v + p))).

4.1. On sait (cf. [l], 1.6.5) qu'il existe une suite spectrale (de Hochschild-Serre) vérifiant (4.1) E^'q = W (m + a, KM; W (n, Hom (P, 8 x (v + p) x 1)))

=> E x t ^ ^ ( P , ô x ( v + p ) x l ) . Comme n opère trivialement dans § x ( v + p ) x l , on a des isomorphismes de (m+û, KjJ-modules

W(n, Hom^, ô x ( v + p ) x l))=Hom(H,(n, P), 8x(v+p)).

4^e SÉRIE - TOME 21 - 1988 - N° 3

GROUPES EXT" 343

En vertu de [15], formule (2.29), le a-module H^(n, P) est somme directe finie de sous- modules propres généralisés que nous noterons H^(n, P)n+p avec H eu*; si p. + v on a

?(0, Hom(H,(n, P)^p, v + p ) ) = 0 V/? ^ 0;

donc, dans l'expression (4.1), seul intervient le terme en v+p, i.e.

E^H^m+û.'KM; Hom(H,(n, P)^p, §x(v+p))).

En vertu de [15], 8.4.6 (voir aussi [6], proposition 7), on a H,(n,P)^p=0 V ^ > 0 ; donc la suite spectrale dégénère et on obtient

(4.2) Ext^KM(^ 5 x ( v + p ) x l ) -H^m+û, KM;Hom(Ho(n, P)^p, 8x(v+p))).

Ensuite le (m, K^-module Ho(n, P)y+p est somme directe de séries discrètes que nous noterons 8" (résultat de Vogan cité dans [6], proposition 6); or, en vertu d'un résultat non publié de Zuckerman et de Schmid, on a

H» (m, KM; Hom(8', 8))=0 sauf pour 8'=8 et n=0; donc (4.2) devient

(4.3) Ext^^(ï\ 8 x ( v + p ) x l ) -H"(û, Hom^^oOl, P^v-^ 8x(v+p))) où l'indice 8 indique le sous-espace isotypique de type 8.

4.2. CALCUL EXPLICITE DE L'ISOMORPHISME (4.3).

Partons d'un n-cocycle ^FeZ^p, K^; Hom(P, 8 x ( v + p ) x l ) ) ; par suite de la nullité de E^'4 pour q > 0, on peut supposer que ^(U^, . . ., UJ est nul dès que l'un des U, appartient à n; alors, du fait que ^¥ est un cocycle, pour X ^ + Y , e m + a ,

^ ( X i + Y i , . . ., X^+YJ est nul sur n.I, donc définit une application de Ho(n, P) vers 8x(v+p); enfin l'image ^ de ^F par (4.3) s'obtient en restreignant ceci, d'une part à A^û, d'autre part à Ho(n, P)5,v+p.

4.3. CAS où ^ EST DE LA FORME T"' ^Ç)' (notations (3.7)).

Le lemme 3.2 montre que I^ passe au quotient en un (m+û, K^-morphisme surjectif D : H o ( n , P ) ^ ^ p ^ 8 x ( v + p ) ;

(3.7) montre que l'image de T1'2^)' par (4.3) est donnée par

(4.4) T^UY,, . . ., Y^)=<Ç; Yi, . . ., y^.V.

5. Construction (Tisomorphismes

?(0, Hom^ KM(Ho(n, I^v+p. 8x(v+p))) -^Ex%(v, v).

Nous poserons, pour simplifier les notations :

D=Hom^KM(Ho(n, I^.v^ 8 x ( v + p ) ) E=Hom^KM(Ho(n. J^ô.v^ 8 x ( v + p ) )

F=Hom^ KM (5» ^(^ ^s. v+p)«

5.1. STRUCTURE DU Û-MODULE D.

On sait (voir [6], proposition 7) que l'application naturelle Ho^J^p^HoOU^^

est un isomorphisme; donc les a-modules D et E sont isomorphes; d'autre part on a évidemment

Ho(n,P)^p-8(g)F d'où

E-Hom(F, v+p);

en vertu de [6], théorème 2, on a

F - (^ ®^ C,) (g) Cp = (Ind^ C,) ® Cp;

donc

(5.1) D - E - Hom (Ind^ C,, C,).

5.2. ISOMORPHISME H"(û, D) -^Ext^(v, v).

La relation (5.1) entraîne

H"(a,D)-Ext^(Ind^C,,C,);

comme se est un ^-module libre, le lemme de Shapiro pour les algèbres associatives s'applique (cf. [9], proposition C.7) et donne

(5.2) H^û.D^Ext^v.v).

5.3. DÉMONSTRATION DU THÉORÈME 1 (i)

II suffit de juxtaposer les isomorphismes (3.1), (3.2), (4.3), (5.2).

5 . 4. CALCUL DE LTMAGE DE T"' x (Q" (notations (4.4)) PAR LTSOMORPHISME (5.2).

L'application L1 de la formule (4.3) est un élément û-invariant non nul de D; par (5.1) il devient un élément a-invariant non nul de Hom(Ind^Cy, C^), c'est-à-dire une forme linéaire sur se de la forme P!—^. P(v) où /(^ est un scalaire non nul; (4.4) signifie que

4^e SÉRIE - TOME 21 - 1988 - N° 3

GROUPES EXT" 345

l'élément T^y, transporté dans Ext;(Ind^C^ C^), est le n-cocycle ^F suivant :

^(Yi, ...,Y,)(P)-^.<Ç;Yi, . . . , Y ^ > . P ( v )

pour Y^ea, Pej^; T se prolonge en un cocycle T'e Ext^ (Ind^ Cy, C^) donné par

^(P,, . . . , P ^ ) ( P ) = ^ . < Ç ; P i , . . . , P , > . P ( v )

où <Ç; Pi, . . . , ? „ > a le sens suivant : si i; est un tenseur décomposé ^ A . . . A Ç^, alors

(5.3) <;;; PI—— ., Pn>= E ^<WL ^ ( 1 ) > —— <(^PX ^)>.

s e S ^

L'élément y de Ext^(v, v) qui correspond à T par (5.2) est donné par r(Qi, ..^Q^^Qi, .-,QJ(l)

-^^^Qi, . . . , Q n > VQ,e^

Finalement Fimage T"'^^" de T^^Ç)" par (5.2) est donnée par (5.4) T^(Çr(Qi, . . ., Q,)^.^; Qi, . . ., Q^>.

6, Démonstratiosi du théorème 1 (iii).

Montrons d'abord que KerT"^ contient le second membre; prenons donc Ç de la forme ^ A . . . A ^ avec, par exemple, Ç,,eV\; (5.3) et (5.4) montrent que, pour Qi, . . . , Q ^ e ^ :

T^tër^Qi, ..., 0.)=^. Z £..<(rfQiL ^(D>. • • <(^QX ^(.)>;

s e S n

chacun des termes du second membre contient un facteur de la forme ((dQ,\, S^); la forme bilinéaire sur ^ x V\ :

(QpÇn)^<W»v^n>

est invariante par W^ ^ donc nulle.

Démontrons l'inclusion inverse, à savoir que si Ç appartient à A^Vo et est non nul, il existe Qi, . . ., Q^e^ vérifiant <Ç; Qi, . . ., Q^> ^ 0 (on rappelle que ^ est non nul).

Prenons une base Y i, . . ., Y^ de l'ensemble M des éléments de a invariants par W^ ^ VQ est le dual de cet espace A^o est celui de A" M, donc il existe ï\ < . . . < ^ tels que

<Ç;Y,,, . . . , Y , ^ > ^ 0 ; enfin il est clair que les Y,, appartiennent à ^.

7. Démonstration du théorème 2.

(i) L'application T1 est injective d'après le théorème 1 (iii), et donc bijective pour des raisons de dimension (théorème 1 (i) avec R§ ^={1}).

(ii) résulte de la formule (1.1).

(iii) résulte du théorème 1 (ii).

(iv) résulte de ce que Ext^ ^(1, I) est le complexifié de sa partie hermitienne.

(v) Voir [12].

8. Démonstration du théorème 3

8.1. DÉMONSTRATION DU THÉORÈME 3 (i).

L'application T1'31 est injective d'après le théorème 1 (iii), donc bijective pour des raisons de dimension (théorème 1 (i)).

8.2. DÉMONSTRATION DU THÉORÈME 3 (ii).

Fixons 5Ci e R§ ^ et écrivons

T". xi : A" a* -^ Ext^ K (l'S I) = C Ext^, „ (Pi, P2);

X2

pour tout X^s,^ tout i>e(M^Î)y et tout weRg^ on a, en vertu de la proposition 1 X (w). T"' ^ (Ç) = © (^ 1 /,) (w). T"' ^ (Q;

X2

donc T"'³¹¹ est en fait une bijection de (A"a*)^ sur le sous-espace Ext;^!^ I^¹).

8.3. LEMME. — On peut identifier Ext^^I» I) à l'ensemble des familles ^=(dz¹¹' ^x2) a^c 5Ci, 72 G R^ et ^r ^x2e(A"a*)^^-l ^; dans cette identification le cup-produit devient

(^Tl)^' X2 = ^ ÇXS. X2 ^ ^Xl. X3;

X3

^nyîn T" est donné par

T"(Ç)xi.x2=^-^ V^A^û*.

Démonstration :

(a) Le numéro 8.2 dit que pour tout CeEx^^I311?!3'2) il existe un unique

^(A^Û*)^-!^ vérifiant T^Ç) |ixi=0; de même pour tout ^ e Ext^ K (I^, I5'3) il existe un unique ^(A^Û*)^-!^ vérifiant T^€(r|)|Ix2=^lF; on a alors en vertu de (1.1)

T^(îi)^T^(Ç)=T^^(îiAÇ)

4e SÉRIE - TOME 21 - 1988 — N° 3

GROUPES EXT" 347

d'où

^^(S)=TP+^^ A Ç ) | i x i .

(fc) Soit maintenant 0 et ^ des éléments de Ext^ ^ (I. I) et Ext^ ^ (I. I)î o11 peut écrire

(f)= Y ^ ) X l , X 2 ^ X p ^ y XRXl, X2^

X I . X2 X l > X2

d'après (a) il leur correspond des éléments

i^,x2e(APa*)^-i^ ^^(A^*),^

auxquels il suffit d'appliquer la partie a).

8.4. DÉMONSTRATION DU THÉORÈME 3 (lit).

La famille ^ étant définie comme au lemme 8.3, il sera commode de poser

^xi=^xi,xxie(A"a*)^

puis

^ ^ ^ e A ^ * ;

x

autrement dit Ext^iJI? I) s'identifie à l'ensemble des applications de Rg „ dans A*û*, le cup-produit s'écrivant alors

(

-

) ^—^=W^\^^'

X2

D'autre part le produit croisé A* a* [x Rg ^ est l'ensemble des applications / de Rg ^ dans A* û* avec le produit

(f^§)(^)=^fW A ^(w^w);

w'

définissons une application U de ce produit croisé dans Ext^K(1» ï) P^

U(/)^=/(Xi)=Zxi(w)./(w)

soit encore

u(/)^=Exi(n')./(w),;

un calcul facile utilisant (8.1) montre que

U(/*^=(U(/)^U(^i.

8.5. LEMME. — Soient 0 un élément de Ext1 ^(1, î) et ^ la famille associée à <I> par le lemme 8.3; alors 0 appartient à Ext^ ^(1, 1)^ si ^ seulement si pour toute partie J J^ R§ ^.

distincte de 0 et de Rg ^ il existe Xi eJ et X2 e R§ ^\J vérifiant ^^x1' ^x2 ^ 0.

Démonstration. — Comme les sous-modules simples P de 1 sont deux à deux non isomorphes, les sous-espaces de î stables par les U(X), Xeg, et non triviaux sont exactement les sommes directes © P, J ^ 0, Rg ^; si maintenant <p est un 1-cocyde de

x e J

la classe 0, ce sous-espace sera stable par les (p(X) si et seulement si (p^1'x2 est nul pour t o u s X i ^ J , X2eR5,v\J.

8.6. LEMME. — Un élément Ç de ûf appartient à (û^)^y si et seulement si,, notant Ç, la composante de Ç dans (û*)^, le sous-groupe F de R§ ^ engendré par les ^ vérifiant (^ ¥• 0 esr ^aJ d Rg,, (1).

Démonstration. — Condition nécessaire : supposons r distinct de R§ ^ prenons 5[^ 6 F,

^(=ʧ^\r; alors îcr1 ^^vX^ P111^ d'après le lemme 8.3 T1^'^^-1^0

donc

T ^ O ^ E x t ^ K a l h r r .

Condition suffisante : supposons-la réalisée et prenons J ^ 0, R§ ^; il existe xeft§. „ tel que ^.J 7^ J; par hypothèse ^ s'écrit X i - * -Xr avec Çxi ^ ^î donc il existe î tel que 5 C f . J = ^ J , donc il existe ^eJ tel que X" = Xi X'e Rg^X^ enfin

T^Q^^^^-i^-Ç^O.

8.7. LEMME. — L'application

(anirr/Rs.v-Ext^ai)»,,,,/^

ê5î injective.

Démonstration. — Prenons Ç, î]e(a*)i,.p Ue^* et supposons que l'on ait

(8.2) T^T^U.T^O.ir1;

on doit montrer que T| appartient à R§,v-Ç- L'opérateur U a des composantes u(x)eC*

dans les divers P, et on peut supposer que u (!)=!; (8.2) s'écrit Tl(r|)xl•x2==(M(Xl))-l.M(X2).Tl(9xl'x2

(1) Ou encore si et seulement si le stabilisateur de Ç dans Rgy est trivial.

4e SÉRIE - TOME 21 - 1988 - N° 3

GROUPES EXT" 349

ou encore

(

-

) ^^(xir^ocix).^

il suffit maintenant de montrer que u est un caractère, car alors il sera de la forme

u(f)Ù=<.ï, w > avec w e R g ^. Notons E l'ensemble des / vérifiant MOCi^-MOci).^) V/i;

il est immédiat que E est un sous-groupe; (8.3) montre qu'il contient les ^ pour lesquels Ç^ ^ 0; le lemme 8.6 montre enfin que E = R g ^.

8.8. DÉMONSTRATION DE LA SURJECTIVITÉ DE L'APPLICATION

(û*)irr/Rô,v^Hxt^ai)o,irr/^*.

En utilisant les notations de 8.3 on doit montrer que si une famille

^(^'^Xi, X2eRs.v, ^'^(û*)^^

vérifie les deux conditions suivantes :

(C) ^ Ç X 3 . X 2 A ^ X 3 = 0 V X l , X 2 . X3

(C) pour toute partie J de Rg ^ distincte de 0 et de Rg „, il existe ^ eJ, ^eR^ ^\J vérifiant Ç311^2 ^ 0 alors il existe des familles (Q, (Uy) telles que

^e(a*),, ^eC*, ^'^^/.^.^r1^

La démonstration de cette assertion sera divisée en deux lemmes; nous écrirons pour alléger les notations A au lieu de Rg „; a, b, c, . . ., x, ^ z, . . . au lieu de ^, ^ ^ . . . ; E au lieu de a*.

8.9. LEMME. — On se donne :

— un groupe A isomorphe à une puissance de Z^;

— un espace vectoriel complexe de dimension finie E;

— une décomposition en somme directe E = ® E^ où certains E^ peuvent être nuls;

aeA.

— une famille (x^^) avec a, fceA, x^eE^, vérifiant les conditions suivantes :

(C) pour toute partie J de A distincte de 0 et de A, il existe a e J , beA\J vérifiant

^,^0

(^c/) E ^ a . f c  ^ . c "⁰ V a , c e A .

b

Alors il existe des éléments y^ e E^ et une fonction complexe f sur A x A vérifiant les conditions suivantes :

— ^b=f(a, b).y^

— /(a, b).f(b, c)=/(a, abc), f (abc, c) Va, A, c.

ANNALES SCIENTIFIQUES DE L'ÉCOLE NORMALE SUPÉRIEURE

Démonstration : (a) On a :

(8-4) ^ , b A ^ , = 0 Va,fc.

En effet la condition (C) avec a = c donne ^ x^ A x^ „ = 0; mais x^ ^ et x^ ^ appartien-

b ' '

nent à E^ et la somme ^ A2 E^ est directe; d'où l'assertion.

b

(b) On a

(8-5) ^a, b A ^b, c + ^ abc A ^fcc, c = ° V 0, fc, C.

En effet si a=c cela résulte de (a); supposons donc a 7e c; dans la condition (C) on peut grouper les termes en b et en abc :

xa, b A -^b, c + xa, abc A ^abc, c e E^ A E^;

la somme ^ E^ A E^ obtenue en prenant un seul élément de chaque couple (fc, abc) est

b

directe; d'où l'assertion.

(c) On a

(8.6) ^xa,a=^xl,l V^-

En effet notons J l'ensemble des a ayant cette propriété et supposons J + A; d'après la condition (C) il existe aeJ, ceA\J tels que x^, ^ 0; écrivons (8.5) avec b=a :

(^,a-^c,c) A ^,=0;

xa,a~xc,c et xa,c sont non T111^ et appartiennent respectivement à Ei et E^, qui ont une intersection nulle; d'où contradiction.

(S) Montrons que pour tout b + 1 les éléments x^ ^ sont tous proportionnels, et en outre tous nuls ou tous non nuls.

Montrons d'abord que x^ ^=0 pour un à implique x^ ^=0 pour tout a', notons J l'ensemble des a ayant cette propriété et supposons J ^ A; il existe aeJ et ceA\J tels que x^, ^ 0; écrivons (8.5) en remplaçant û, b, c respectivement par a, c, bc :

(8-7) ^ c A ^c, bc + x^ ab A X^ bc = 0;

comme aeJ, x^=0; comme ceA\J, x^,^0;,puis X^,€E^, x^eE^; comme

^,^=0 7e ^a,c on a c 7e afc, d'où b ^ ac, E^ et E^ ont une intersection nulle, x^ ^ A x^ ^ est non nul, ce qui contredit (8.7).

Montrons maintenant que si x^ ^ est non nul, x^ab I111 ^t proportionnel pour tout a;

notons J l'ensemble des a ayant cette propriété et supposons J ^ A; il existe aeJ et ceA\J tels que x^ ^ + 0; écrivons (8.5) en remplaçant a, fo, c respectivement

4e SÉRIE - TOME 21 - 1988 - N° 3

GROUPES EXT" 351

par a, ab, bc :

(8-8) ^ab A xab,bc=^c,bc A ^. c'->

d'après (û), x^ ^ est proportionnel à x^ ^ donc non proportionnel à x^ ^, ce qui implique c 7e ab, donc fc 7e ac; E^ et E^ ont une intersection nulle; dans la relation (8.8) x^^ et

^c.ftc sont dans E^ et non proportionnels, x^.^c et x^, sont dans E^, x^ , est non nul;

cela contredit (8.8).

(e) Posons

Ai = { a [ x ^ ^ 0 Va-

peur aeA\Ai on posera ^=0, /(&, ûA)=0 Vfc; pour a e A i on posera ^=^i.a et on définira f(b, ab) par x^^=f(b, ab).y^ il sera alors clair que / e t les y^ vérifient les conditions de l'énoncé.

8.10. LEMME. — On se donne un groupe A isomorphe à une puissance de Z^ et une fonction complexe f sur A x A vérifiant les conditions suivantes :

(C) pour toute partie J de A distincte de 0 et de A, il existe xeJ et yeA\J vérifiant f(x,y)^0

(Z) / (x, y)./ (y, z) =/ (x, xyz)./ (xyz, z) V x, y, z e A.

Ators il existe des fonctions complexes g et h sur A vérifiant

^(1)=1, g ( x ) ^ 0 Vx, /(x^^Oc)-1.^).^).

La démonstration est donnée en Appendice.

8.11. DÉMONSTRATION DE LA SURJECTIVITÉ DE L'APPLICATION

(l Û*UR^ , -^ Ext^, K (I, I)o. .. irr/^".

Du fait que T¹ est C-linéaire et que T^) est hermitien lorsque Çeiû*, il résulte que l'on a

T^^T^-Ç),

puis qu'une famille Ç (avec les notations du lemme 8.3) représente un élément hermitien de Ext^ ^(1, I) si et seulement si l'on a

^ X l , X 2 = : _ ^ X 2 . X l ^

Ensuite, avec les notations du lemme 8.9, si x^^= -x^, on peut choisir les ^ dans ïû*; alors /(a, b)=f(b, a), enfin, avec les notations du lemme 8.10, il suffit de montrer que si/vérifie cette relation, g est de module 1 et h est réelle; or on a

0^f(x,y).f(y,x)=h(xy)2

d'où résulte que h est réelle; pour montrer que g est de module 1, on remarque que

\g(x)\-^\g(y)\. \h(xy)\=\ f(x,y)\=\f(y,x)\=\g(y)\-l.\g(x)\. \h(xy)\

d'où |^(x)|==|^(y)| si/(x, y) + 0; enfin on applique la condition (Cj) en prenant pour J l'ensemble des x vérifiant | g (x) \ = 1.

8.12. DÉMONSTRATION DU THÉORÈME 3 (v).

En vertu du théorème 1 (ii), tout élément de la forme T^) avec ^ea* s'obtient en dérivant une déformation Up^^; alors tout élément de la forme S.T^.S"1 avec Se^* s'obtient en dérivant la déformation S . U p g ^ . S "1. Supposons maintenant Ç e i a*; alors on peut prendre v (t) c: i a* et Up ^ ^ ^ sera unitaire; enfin on peut supposer S unitaire, alors S.Up § ^ ^ . S ~1 est aussi unitaire.

APPENDICE

Démonstration homotopique du lemme 8.10 par J. Soto-Andrade

1. TRADUCTION DU LEMME 8.10 EN TERMES DE GRAPHES DE CAYLEY

Soit/une fonction vérifiant les hypothèses du lemme 8.10.

LEMME 1. —Pour chaque ueA, posons \={(x, xu) | xeA}. Alors Supp/= U A,,,

u e S

pour une certaine partie S de A.

Démonstration. — Supposons / (xo, Xou) ^ 0. On veut montrer que f (y, yu) -^ 0 pour tout yeA.. Posons J = { z e A | /(z, ZM)=O}. Alors J ^= A car Xo<^J. Si J ^ 0, on aurait, par (C), /(x, y) -^ 0 pour x e J , ^ e A — J convenable. Mais alors, par (Z), il s'ensuit que

0 =f (x, xu) f (xu, yu) =f (x, y) f (y, yu) + 0, d'où J=0, comme voulu.

C.Q.F.D.

Notons Or le graphe d'ensemble de sommets A, dont les arêtes sont les parties à deux éléments {x, y} c= A telles que /(x, y) ^ 0. Il est alors clair que l'hypothèse (C) sur / équivaut à chacune des conditions suivantes.

(C) le graphe Gf est connexe;

(C") la partie S engendre le groupe A.

On peut donc reformuler le lemme 8.10 comme suit.

LEMME 8.10 bis. —Soit A un groupe isomorphe à une puissance de Z/2Z et S un ensemble générateur de A. Soit f une fonction complexe jamais nulle sur l'ensemble ûg des arêtes du graphe de Cayley orienté Gg de A associé à S, telle que

(Z) / (x, xu) f (xu, xuv) =f (x, xv) f (xv, xvu) (x e A, M, v e S).

4e SÉRIE - TOME 21 - 1988 - N° 3

GROUPES EXT" 353

Alors il existe une fonction complexe h sur A et une fonction complexe (jamais nulle) g sur S telles que

f^y^^hf^} ((x^)eûs).

g(x) \x/

Rappelons que le graphe de Cayley orienté Gg de A associé a S a pour ensemble de sommets, l'ensemble A, et pour ensemble ûg d'arêtes, l'ensemble des ( x , ^ ) e A x A tels que ( y / x ) e S.

Il sera commode de reformuler encore notre lemme à l'aide des notations suivantes.

Pour a=(x, .y) 6 us, on appelle type de a et l'on note r(a), l'élément ( y / x ) e S . Pour une fonction complexe jamais nulle g sur A, on pose

(^K^)-^00 (x^eA).

gW

On désigne par ^ le groupe multiplicatif de toutes les fonctions /: ûg -^ C" vérifiant (Z) et par ^ le groupe multiplicatif de toutes les fonctions complexes sur ûg qui sont de la forme (ôg).(hox), où g : A -^C^ et h: S-^C".

Il est clair que ^ c ^. J; s'^t A? démontrer que ^ c: ^, d'où ^=^.

2. SCHÉMA DE LA DÉMONSTRATION DE ^f C ^.

L'idée de la démonstration est de décomposer / e 3f en parties symétrique et antisymé- trique, au sens suivant.

Pour toute fonction complexe /jamais nulle sur ûg, on pose 7(x,^)=/<j,x) ( ^ e s } et

f^=f^r-f^

II est clair que si/e^, alors il en est de même de 7, /+, /- eif2=f+./-.

Pour/e^, on établit ci-dessous que/-", f~e^ d'où/^^. Autrement dit, on prouve que ^e^. Comme il n'est pas clair a priori que ^2=^', on remarque que, évidemment,

^^^ et donc que ^=^2. On est ainsi ramené au cas /^l, où l'on achève la démonstration par une analyse directe, en se ramenant tout d'abord au cas symétrique.

3. DÉMONSTRATION DE:/^^^/^^.

LEMME 2. — Pour toutfeZ, on a

f (x, xu) f (xu, x) =/ (y, yu) f (yu, y) (x, y e A, u e S).

Démonstration. - Pour xeA et se S quelconque, on a, par (Z), /(x, xù)f(xu, xus)=f(x, xs)f(xs, xsu)

et aussi

f(xu, xus)f(xus, xs)=f(xu, x)/(x, xs) d'où

f(x,xu) ^f(xs,xsu) ^,.,5eS), f(xsu, xs) f(xu, x)

c'est-à-dire

/(x, xù)f(xu, x)=/(x5, xsu)f(xsu, xs) (xeA, M, se S).

Comme tout y e A s'écrit y==xs^. . .s^ pour s^, . . ., s^eS convenables, le lemme s'ensuit aussitôt.

C.Q.F.D.

COROLLAIRE. — Pour tout fe^, on a

f+=hoT

pour une fonction h: S -> C x convenable. En particulier f + e ^.

4. DÉMONSTRATION DE: fe^=>f~e^.

DÉFINITION. — Si y=(xi, . . ., x^) (où (Xf, Xf+i)eûs, 1 ^ i ^ n-1) est MU chemin quel- conque dans le graphe de Cayley Gg et (p est une fonction complexe sur ûg, on pose

cp(y)=cp(xi, X2)cp(x2, ^3). . .(p(x^_i, x^).

Remarque. — Pour/e^f on a

7(x, xu, xuv)=J(x, xv, xvu) (xeA, M, ueS),

ce qui peut s'interpréter comme une propriété d'invariance par certaines déformations de chemins. Cette propriété suffit en fait à entraîner des propriétés d'invariance plus générales (cf. lemmes ci-dessous).

LEMME 3. — Soient s^, s^, . . ., s^eS tels que s: =s^. . . s^eS et soit (pe^f. Alors on a, quel que soit xeA,

(p(x, XSi, XSi52, . . ., XS, x ) = ( p ( X 5 i . . .S,, XS^. . . S f + i , . . ., XS^ . . . S , _ i )

=(p(X5, XS2. . .5^, . . ., X, XS)

/?OMr 1 ^ i ^ m.

Démonstration. — II suffit de remplacer successivement le facteur (p(xs, x, xs^) par (p(xs, xs2. . .s^, xsi), $(xs2. . .s^, xs^, xs^ «2) par $(x52. . .s^, xs3. . .s^, xSiS2), et ainsi

4e SÉRIE - TOME 21 - 1988 - N° 3

GROUPES EXT" 355

de suite, jusqu'à (p(x^, xs^. . . s^_^ xs) par (p(x^, x, xs\ à l'aide de la propriété (Z).

C.Q.F.D.

LEMME 4. — So^nî s^ . . ., s^eS tels que s:=s^ . .s^eS ^ (pe^. Ators on a

(p(x, X5i, X5iS2, . . ., XS, X)=(p(x, X5, XS^ . . . S ^ _ i , . . . . XSi, x)

^d ^M^ sofî x e A .

Démonstration. — D'après le lemme 3, on a

(p(x, X5i, . . ., X)=(()(X, XS, XS2. . .5^, . . ., XS^, x).

Or, par des applications successives de (Z), on obtient

(p(X5, XS^. . .S^, X53. . .S^, XS^, x) = (p (X5, XS^ . . . ^ _ i , XS^. . . S ^ _ i , . . ., XS^_^ x)

=$(X5, X5i. . . 5 ^ _ i , X5i. . . ^ _ 2 , X52. . .S^.^, . . ., XS^.^ x)

=$(XS, X5i. . . S ^ _ i , XSi. . . S ^ _ 2 , . . ., XSi,x).

C.Q.F.D.

LEMME 5. — Pour /e^r, /a fonction J~ vaut 1 sur ÎOMS ^s Jac^îs ^u graphe Gg ^r /?ar conséquent, pour tout x, j^eA, 7~ (Y)=7~ (y') ^^<s <?M<? sof^nî ;^ chemins y (?r ^joignant x à y dans Gg.

Démonstration. - Le lemme 4 montre que si S=(xo, x^, . . ., x^ Xo) est un lacet dans Gs, alors/(§)=/(S), où S désigne le lacet opposé à 8, autrement dit

/(^O. ^l)/(^l, X^). . ./(X,, Xo)=/(Xo, Xj. . ./(X2, X i ) / ( X i , Xo),

c'est-à-dire

7~^)=f~(xo, x0/-(xi, x^). . ./"(x^, Xo)=l,

comme voulu. Enfin, si y et y' sont deux lacets dans Gg joignant x à ^, il suffit de remarquer que 6 = Y y est un lacet en x et par conséquent

i=7~ (Yj)=7~ (Y)7~ (y)=7- (Y)(7~ (y))-

.

C.Q.F.D.

COROLLAIRE. — Pour f e ^, on a f ~ = 8g, où g : A -> C x est définie par gW=T~W (xeA),

où y est un chemin quelconque dans enjoignant l'élément neutre e de A à x.

En effet, il suffit de remarquer que, g étant bien définie en vertu du lemme 5, on a, pour (x, y) eus et un chemin quelconque y=(é?, . . ., x) joignant e et x dans Gg,

J~(e, . . ., x,y)=J~(x,y\

c'est-à-dire

g(y)=§(x)f-(x,y),

comme annoncé.

5. RÉDUCTION ou CAS f2^!.

Si/e^, on a, d'après les corollaires ci-dessus,

/^r.r^TM^),

pour h: S -> C x et g: A ->- C x convenables.

Comme évidemment h (resp. g) admet une racine carrée V (resp. ^/), on a f=[(h/o^.(ôg/)].s,oùs•.û^{±l}et£e^.

Pour prouver que /e^, il suffit donc de vérifier que se^. On est ainsi ramené au cas/e^/^1.

6. RÉDUCTION AU CAS f2 = 1 et /==7.

Soit /e^T, /2 = 1. D'après le lemme 2, on aura f(y,x)=^(y}f(x,y)

\x;

pour toute arête (x, ^) € a^ où le si^ £y ( y / x ) ne dépend donc que du type ( y / x ) eS de Far été (x, y).

LEMME 6. — Fixons une base B de A contenue dans S. AJors /wur chaque beB il existe une fonction (p^e^, ((p,,)2^, ^fe gu^ 6^ uauî — 1 s^r ÎOMS les éléments de S dont l'expression réduite relative à la base B contient b et vaut 1 ailleurs; en particulier

£<p, (&') = 1 /^r V ^ b (V G B).

Démonstration. — On pose (P(,:=(^).(^°T), où ^(resp. fc^) est la fonction complexe sur A (resp. S) qui vaut i sur les x e A (resp. se S) dont l'expression réduite par rapport à B contient b, et vaut 1 ailleurs.

C.Q.F.D.

LEMME 7 . — S i /e^f, /^l, ators il existe (pe^, (p^l, t^k que /':=/.(? soit symétrique.

Démonstration. — On pose (p = ]~[ (p^, où

b e B ^

B 7 = { b e B | s^.(b)=-l}.

Il est clair que e^ (fc) = £^. (b) £y (b) 6^, (fo) = e^ (fc) ]"] e^, (fc) = 1, pour tout b e B. Montrons

b' eBf

maintenant que £y/ (s) = 1 pour tout s € S.

4e SÉRIE - TOME 21 - 1988 - N° 3

GROUPES EXT" 357

Soit s = b i . . .b^eS. Considérons le lacet y=(^, fci, b^b^ . . ., b^. . .b^-i, s, è) en eeA. D'après le lemme 4, on a 7'(y) =7'(y), c'est-à-dire

r(e, b,)r(b^ Mi). . ./'(s, e)=r(e, s) /'(s, b,. . .b^.,). . ./'(fc,, ^);

comme £^(fo)==l quel que soit fceB, il s'ensuit que /^/ (s, e)=f'(e, s), d'où Ey.(s)=l, comme voulu.

C.Q.F.D.

On est ainsi ramené au cas / e Z, f2 = 1, /=J:

7. DÉMONSTRATION DE : / e ^f, /2 = 1, /^^ / e ^.

Soit donc/G ^T, à valeurs 1 ou -1, telle que f(y, x)=f(x, y) pour tout (x, .y) eus.

Considérons le graphe de Cayley Gg de A associé à la base B de A. Des applications successives de la propriété (Z) entraînent aussitôt que, pour x, ^,eA, on a

^^(yO

quels que soient les chemins y et y' joignant x à. y dans Gg.

LEMME 8. — II existe g: A -> C" î^k gi^/. (9g) -1 uaMt 1 sur le sous-ensemble û^ de us.

Démonstration. — II suffit de poser

^)=7(V) (^eA),

où y est un chemin quelconque dans ûg joignant e à x. Alors/et ôg coïncident sur ûg.

C.Q.F.D.

On est ainsi ramené au cas où /= 1 sur ûg.

LEMME 9. — Soit f e ^ telle que /2 = 1, f=Jet f== 1 sur ÛB. Alors f= h o T, ou /î : S -^ C x. Démonstration. — Soient s e S et xe A. On a à montrer que /(^, s)=/(x, xs). Or x=b^. . .b^, pour fci, . . ., fc^eB convenables. A l'aide de (Z), on obtient

f(e, b,)f(b,, b,s)=f(e, s)f(s, sb,) f(b^ b,b^)f(b,b^ b^s)=f(b,, b,s)f(b,s, b,sb^

/ ( & ! • • - ^ m - l . ^)/(^ ^S) = / ( ^ i . . . ^ _ i , & i . . . ^ - ' i S ) / ( f c i . . . f c ^ - i S , XS),

d'où

/(ê, 5) =/(fci, fci S ) = / ( & i & 2 , & i f c 2 5 ) = . . . =/(>€, X5),

puisque /= 1 sur ÛB.

C.Q.F.D.

On a ainsi achevé la démonstration de Sf c: ^.

BIBLIOGRAPHIE

[1] A. BOREL et N. WALLACH, Continuous Cohomology, Discrète Subgroups and Représentations of Reductive Groups (Ann. Math. Studies, vol. 94, 1980).

[2] N. BOURBAKI, Groupes et algèbres de Lie, chapitre 5.

[3] F. du CLOUX, Extensions entre représentations unitaires irréductibles des groupes de Lie niipotents (Astérisque, vol. 124-125, 1985).

[4] F. du CLOUX, Jets de fonctions différentiables sur le dual d'un groupe de Lie niipotent (Invent. Math., t. 88, 1987, p. 375-394).

[5] L. CLOZEL et P. DELORME, Le théorème de Paley-Wiener invariant pour les groupes de Lie réductifs, II (à paraître).

[6] P. DELORME, Homomorphismes de Harish-Chandra liés aux K-types minimaux des séries principales générali- sées des groupes de Lie réductifs connexes (Ann. Scient. Ec. Norm. Sup., t. 17, 1984, p. 117-156).

[7] P. DELORME, Self-extensions de modules de Harish-Chandra irréductibles, et une question de I. M. Gelfand (Astérisque, vol. 124-125, 1985).

[8] P. DELORME, Formules limites et formules asymptotiques pour les multiplicités dans L2(G/^) (Duke Math. J., t. 53, 1986, p. 691-731).

[9] A. GUICHARDET, Cohomologie des groupes topologiques et des algèbres de Lie (C.E.D.I.C., 1980).

[10] A. GUICHARDET, Représentations de longueur finie des groupes de Lie inhomogènes (Astérisque, vol. 124- 125, 1985).

[11] A. GUICHARDET, Méthode des orbites pour les représentations de longueur finie (Invent. Math., t. 85, 1986, p. 199-215).

[12] A. GUICHARDET, Méthode des orbites pour les représentations de longueur finie, II (Bull. Soc. Math. France, t. 115, 1987, p. 197-210).

[13] A. GUICHARDET, Représentations de longueur finie et géométrie différentielle sur G (exposé au Colloque J. Braconnier, Lyon, 1986).

[14] A. GUICHARDET, Groupes Ext1 et déformations des représentations des groupes de déplacements (C.R. Acad.

Sci., t. 305, 1987, p. 323-325).

[15] H. HECHT et W. SCHMID, Characters, Asymptotics and n-Homology of Harish-Chandra Modules (Acta Math., t. 151, 1983, p. 49-151).

[16] A. KNAPP, Représentation Theory of Semi-Simple Groups (Princeton Univ. Press, 1986).

[17] J. LUDWIG, On thé Behaviour of Séquences in thé Dual of a Niipotent Lie Group (à paraître).

[18] D. VOGAN, Représentations of Real Reductive Groups (Birkhàuser, 1981).

[19] A. WASSERMANN, Une démonstration de la conjecture de Connes-Kasparov pour les groupes de Lie linéaires connexes réductifs (à paraître).

(Manuscrit reçu le 29 mai 1987, révisé le 12 avril 1988).

A. GUICHARDET, Centre de Mathématiques,

École Polytechnique, 91128 Palaiseau.

4e SÉRIE - TOME 21 - 1988 - N° 3