LE PROBL`EME DE LA RESTRICTION POUR LES GROUPES DE LIE COMPACTS CONNEXES 1.1

RESTRICTION DE REPR´ESENTATIONS ET PROJECTIONS D’ORBITES COADJOINTES

[d’apr`es Belkale, Kumar et Ressayre]

par Michel BRION

C’est ici [...] qu’il a compris qu’il faut arrˆeter le soleil et remuer la terre.

Lechos law Herz

1. LE PROBL`EME DE LA RESTRICTION POUR LES GROUPES DE LIE COMPACTS CONNEXES

1.1. Introduction

Soient K un groupe de Lie compact connexe et Lun sous-groupe ferm´e connexe. Le probl`eme consid´er´e dans cet expos´e est de d´eterminer les repr´esentations irr´eductibles (continues, complexes) de L qui apparaissent dans la restriction d’une repr´esentation irr´eductible de K.

En th´eorie, ce probl`eme a une solution compl`ete : rappelons que les repr´esentations irr´eductibles de K sont param´etr´ees par les poids dominants. Notons Λ⁺_K l’ensemble de ces poids, et V_K(λ) le K-module simple de plus haut poidsλ ∈ Λ⁺_K. D´efinissons de mˆeme Λ⁺_L et V_L(µ) ; on a alors un isomorphisme deL-modules

Res^K_L V_K(λ)∼= M

µ∈Λ⁺_L

m(µ, λ)V_L(µ)

o`u les multiplicit´esm(µ, λ) sont des entiers naturels uniquement d´etermin´es. En notant χ<sub>K</sub>(λ) le caract`ere de V_K(λ) et χ_L(µ) celui de V_L(µ), on obtient

m(µ, λ) = dim Hom^L(VL(µ),Res^K_L VK(λ)) = Z

L

χK(λ)χL(µ)dν o`u dν d´esigne la mesure de Haar de L, normalis´ee de sorte que R

Ldν = 1. Grˆace aux formules des caract`eres et d’int´egration de Weyl, on peut donc exprimer la fonction (µ, λ) 7→ m(µ, λ) en termes de donn´ees combinatoires associ´ees `a K et L. Cependant, la formule ainsi obtenue ([13, Lem. 3.1]) ne permet que rarement de caract´eriser les couples (λ, µ) tels que m(µ, λ)6= 0, comme l’illustrent les exemples suivants.

Exemple 1.1. — Prenons pour L un tore maximal T de K. Soit Λ le groupe des ca- ract`eres de T; alors Λ⁺ := Λ⁺_K est l’intersection du groupe des poids Λ = Λ⁺_T et de la chambre positive C dans l’espace vectoriel r´eel Λ_R := Λ⊗_ZR. De plus, m(µ, λ) est la multiplicit´e du poids µdans V_K(λ) =:V(λ).

La formule des caract`eres de Weyl se r´e´ecrit sous la forme m(µ, λ) = X

w∈W

ε(w)P(w(λ+ρ)−(µ+ρ))

o`u on noteW le groupe de Weyl,ε:W → {±1}le d´eterminant (pour la repr´esentation deW dans Λ<sub>R</sub>),ρla demi-somme des racines positives, etPla fonction de partitions en racines positives ([8, Ch. VIII, §9, Prop. 1]). Ceci exprimem(µ, λ) comme une somme altern´ee d’entiers positifs, en g´en´eral tr`es grands.

Cependant, l’ensemble des poids deV(λ) admet une description directe tr`es simple : c’est l’intersection du translat´eλ+ Λ<sub>R</sub> o`u Λ_Rd´esigne le sous-groupe de Λ engendr´e par les racines, et de l’enveloppe convexe Conv(W λ) de l’orbite de λ par W ([8, Ch. VIII,

§7, Prop. 5 et Exer. 1]).

Lorsque K est semi-simple, le polytope Conv(W λ) est d´efini par les in´equations lin´eaires

(µ, w$_i)−(λ, $_i)≤0 (i= 1, . . . , r, w∈W/W_i)

o`u $₁, . . . , $_r d´esignent les poids fondamentaux, W_i le groupe d’isotropie de $_i dans W, et (−,−) la forme bilin´eaire sym´etrique sur Λ_R provenant de la forme de Killing.

De plus, ces in´equations forment un syst`eme minimal : elles sont deux `a deux non

´equivalentes, et chacune d´efinit une face de codimension 1 de Conv(W λ).

Exemple 1.2. — Consid´erons l’inclusion diagonale deK dansK×K. Avec les notations de l’exemple pr´ec´edent, les K ×K-modules simples ne sont autres que les produits tensoriels V(λ)⊗V(µ) o`u λ, µ ∈ Λ⁺. Les multiplicit´es m(ν, λ, µ) sont classiquement not´eesc^ν_λ,µet appel´eescoefficients de Littlewood-Richardson; on a donc un isomorphisme deK-modules

V(λ)⊗V(µ)∼= M

ν∈Λ⁺

c^ν_λ,µV(ν).

On d´eduit de la formule des caract`eres de Weyl, l’identit´e c^ν_λ,µ= X

w,w⁰∈W

ε(ww⁰)P(w(λ+ρ) +w⁰(µ+ρ)−(ν+ 2ρ))

([8, Ch. VIII, §9, Prop. 2]) qui a surtout un int´erˆet th´eorique, pour les mˆemes raisons que pr´ec´edemment. Par ailleurs, les c^ν_λ,µ se d´eterminent de fa¸con combinatoire, par la r`egle de Littlewood-Richardson lorsqueK est le groupe unitaire U<sub>n</sub> ([26, I.9]), et par le ((mod`ele des chemins)) pour K arbitraire ([25]).

En notantν^∗ le plus haut poids du G-module simple dual V(ν)^∗, on obtient c^ν_λ,µ^∗ = dim(V(λ)⊗V(µ)⊗V(ν))^G.

En particulier, c^ν_λ,µ^∗ est sym´etrique en λ,µ etν. Posons

LR(K) :={(λ, µ, ν)∈(Λ⁺)³ | c^ν_λ,µ^∗ 6= 0}.

On verra en 2.1 que LR(K) est un sous-mono¨ıde de type fini de (Λ⁺)³, et en 2.2 que le sous-groupe de Λ³ engendr´e par LR(K) est form´e des (λ, µ, ν) tels que λ+µ+ν ∈Λ_R. LorsqueK = Un, on pose LR(K) := LRn; on identifie les poids dominants aux suites d´ecroissantes (λ1 ≥ . . . ≥ λn) form´ees d’entiers relatifs. Une description r´ecursive de LRn est obtenue par la combinaison de travaux de Klyachko ([21]) et de Knutson et Tao ([22]) : (λ, µ, ν)∈LRn si et seulement si on a l’´egalit´e

n

X

i=1

λ_i+

n

X

j=1

µ_j +

n

X

k=1

ν_k = 0 et les in´egalit´es

X

a∈A

λ_a+X

b∈B

µ_b+X

c∈C

ν_c≤0

pour tous les sous-ensemblesA, B, C de{1, . . . , n}qui ont le mˆeme nombrerd’´el´ements (o`u r= 1, . . . , n−1) et qui satisfont

(λ(A), λ(B), λ(C)−(n−r)^r)∈LRr,

o`u λ(A) := (n − r + 1− a<sub>1</sub>, . . . , n− a<sub>r</sub>) lorsque A = (a<sub>1</sub> < · · · < a<sub>r</sub>), et on pose (n−r)<sup>r</sup> := (n−r, . . . , n−r). Knutson, Tao et Woodward ont montr´e que les in´equations pour lesquelles c<sup>λ(C)−(n−r)</sup><sub>λ(A),λ(B)</sub> <sup>r</sup> = 1 forment un syst`eme minimal ([23, Sec. 6]).

Pour un groupe K arbitraire, le ((mono¨ıde de Littlewood-Richardson)) LR(K) est en g´en´eral inconnu. Mais le cˆone qu’il engendre est convexe, poly´edral et rationnel, et on sait le d´ecrire par des in´equations ; le r´esultat le plus fin est dˆu `a Belkale et Kumar ([3]) apr`es de nombreux travaux ant´erieurs. La myst´erieuse condition sur les triplets d’indices (A, B, C) s’interpr`ete et se g´en´eralise en termes de calcul de Schubert.

Plus g´en´eralement, le mono¨ıde associ´e de fa¸con analogue au probl`eme de la restriction est de type fini ; les in´equations minimales du cˆone qu’il engendre ont ´et´e obtenues par Ressayre dans l’article [31]. Apr`es quelques pr´eliminaires de th´eorie g´eom´etrique des invariants, on exposera une partie de cet article, pour aboutir `a la description du (( cˆone de la restriction)) (th´eor`eme 4.9) et en particulier, du (( cˆone de Littlewood- Richardson)) (th´eor`emes 4.10 et 4.11). On terminera par une br`eve pr´esentation des r´esultats de [3], ainsi que de travaux ult´erieurs et de questions ouvertes.

1.2. Projection d’orbites coadjointes

Un lien entre restriction de repr´esentations et projection d’orbites coadjointes a ´et´e d´ecouvert par Heckman ([13]), puis g´en´eralis´e par Guillemin et Sternberg ([12]) dans le cadre de la g´eom´etrie hamiltonienne. Pour pr´esenter ce lien, introduisons quelques notations.

Le groupeK op`ere dans son alg`ebre de Liek par la repr´esentation adjointe ; on note k^∗ l’espace de la repr´esentation duale, appel´ee coadjointe. On d´efinit de mˆeme l et l^∗. L’inclusion del dans k se transpose en la projection

p:k^∗ →l^∗

qui est ´equivariante relativement `a L. Soient T<sub>K</sub> un tore maximal de K, et t<sub>K</sub> son alg`ebre de Lie ; alors le groupe Λ_K des caract`eres deT s’identifie `a un r´eseau de l’espace vectoriel r´eel t^∗_K, et ce dernier, au sous-espace de k^∗ form´e des points fixes de T. On identifie ainsi la chambre C_K ⊂t^∗_K `a un domaine fondamental pour l’action de K dans k^∗; on a de mˆeme la chambreC_L⊂t^∗_L ⊂l^∗.

Th´eor`eme 1.3. — Soient λ∈C<sub>K</sub> et O =Kλ son orbite dans k<sup>∗</sup>. Alors l’image p(O) rencontre C<sub>L</sub> suivant un polytope convexe, rationnel si λ l’est. Sous cette hypoth`ese, les points rationnels de ce polytope sont les µ∈C_L pour lesquels il existe un entier n ≥1 tel que nλ∈Λ⁺_K, nµ∈Λ⁺_L et m(nµ, nλ)6= 0.

Preuve (esquisse) — La vari´et´e diff´erentielle compacte O est munie d’une structure symplectique invariante par K, pour laquelle l’inclusion dans k^∗ est l’application mo- ment ; la projection p : O → l^∗ est donc l’application moment pour l’action de L. La premi`ere assertion r´esulte alors d’un th´eor`eme g´en´eral de convexit´e ([19, Th. 2.1]). Les autres assertions seront d´emontr´ees `a la suite du lemme 3.1.

Exemple 1.1 (suite) — Pour la projection p : k^∗ → t^∗, le th´eor`eme 1.3 entraˆıne que l’image de l’orbite Kλ est l’enveloppe convexe des wλ o`u w∈W. Ce r´esultat est dˆu `a Kostant ([24, Th. 4.1]) par une m´ethode diff´erente.

Lorsque K = U_n, le K-module k^∗ s’identifie `a l’espace H<sub>n</sub> des matrices hermitiennes de taillen, dans lequel U<sub>n</sub> op`ere par conjugaison ; la chambre C est l’ensemble des ma- trices diagonales `a coefficients r´eels d´ecroissants, c’est-`a-dire des spectres (ordonn´es) des matrices hermitiennes. Les orbites coadjointes sont form´ees des matrices hermitiennes ayant un spectre donn´e, et la projection p associe `a chaque matrice la suite de ses coefficients diagonaux. On retrouve ainsi un r´esultat de Schur et Horn : les suites des coefficients diagonaux des conjugu´es d’une matrice hermitienne A forment un polytope convexe dont les sommets sont le spectre de A et ses images par les permutations.

Exemple 1.2 (suite) — La projection k^∗ ×k^∗ → k^∗ est donn´ee par la somme ; ainsi, la somme de deux orbites coadjointes rencontre chaque chambre suivant un polytope convexe. Lorsque K = U_n, on obtient que les spectres des sommes de deux matrices hermitiennes ayant des spectres donn´es forment un polytope convexe. La description de ce polytope en termes d’in´equations lin´eaires fait l’objet d’une conjecture de Horn ([14]), r´esolue par Klyachko et Knutson-Tao. Comme pr´ec´edemment, on peut la reformuler sous une forme sym´etrique : les spectres de trois matrices hermitiennes de taillen et de somme nulle ne sont autres que les solutions r´eelles du syst`eme r´ecursif d’in´equations de l’exemple 1.2.

2. MONO¨IDE, C ˆONE ET GROUPE DE LA RESTRICTION 2.1. Un r´esultat de finitude

Soit K^C le complexifi´e de K; c’est un groupe alg´ebrique complexe, r´eductif et connexe. Toute repr´esentation (continue, complexe, de dimension finie) de K s’´etend en une unique repr´esentation (rationnelle, de dimension finie) de K^C; ainsi, K et K^C ont les mˆemes repr´esentations irr´eductibles. On peut donc reformuler le probl`eme de la restriction en termes des groupes r´eductifs connexes L^C ⊂K^C; on va appliquer des m´ethodes classiques de th´eorie des invariants pour obtenir un r´esultat qualitatif de finitude.

Il s’av´erera commode de noter G le ((petit)) groupe L^C, et Gb le ((grand)) groupe K^C. Choisissons un sous-groupe de Borel B deG, puis un sous-groupe de Borel Bb de Gb qui contientB, si bien queB =Bb∩G. SoientT un tore maximal de B, etTbun tore maximal de Bb qui contientT ; alorsT =Tb∩G. On a B =T U etBb=TbUb o`u U (resp.

Ub) d´esigne la partie unipotente de B (resp. Bb) ; de plus,U ⊂Ub. Soient Λ =X^∗(T) le groupe des caract`eres de T (qu’on notera additivement), W le groupe de Weyl, et R le syst`eme des racines de (G, T) ; soient aussi R⁺ le sous-ensemble de racines positives form´e des racines de (B, T), et Λ⁺ l’ensemble des poids dominants associ´e `a R<sup>+</sup>. On a Λ<sup>+</sup> = Λ∩C o`uCd´esigne la chambre de Λ_Rassoci´ee `aR⁺. Rappelons queCest un cˆone convexe poly´edral, rationnel relativement au r´eseau Λ. De plus, Λ⁺est un sous-mono¨ıde de type fini de Λ ; autrement dit, il existe ν₁, . . . , ν_m ∈Λ⁺ tels que

Λ⁺ ={n1ν1+· · ·+nmνm | n1, . . . , nm ∈N}.

Lorsque Gest semi-simple et simplement connexe, on peut prendre pour ν₁, . . . , ν_m les poids fondamentaux.

D´efinissons de mˆeme Λ,b cW,Λb⁺ etCb; posons

Λ⁺(G,G) :=b {(ν,bν)∈Λ⁺×Λb⁺ |m(ν,ν)b 6= 0}.

Th´eor`eme 2.1. — Λ⁺(G,G)b est un sous-mono¨ıde de type fini de Λ⁺×Λb⁺.

Preuve — Observons que m(ν,ν) est la dimension du sous-espace vectorielb V_Gb(bν)^U_ν deV_Gb(ν), form´b e des invariants de U qui sont vecteurs propres de T de poids ν. On va interpr´eter ce sous-espace en termes de l’alg`ebre des fonctions r´eguli`eres sur G, not´b ee C[G]. Cette alg`b ebre est un Gb×G-module pour l’action induite par celle deb Gb×Gb sur Gb par multiplication `a gauche et `a droite, et on a un isomorphisme de Gb×G-modulesb

C[G]b ∼= M

ν∈b Λb⁺

VGb(ν)b ⊗V

Gb(bν)^∗.

SoientBb⁻le sous-groupe de Borel deGbtel queBb⁻∩Bb =Tb, etUb⁻sa partie unipotente ; alors de mˆeme, Bb⁻ = TbUb⁻ et (V

Gb(bν)^∗)^Ub− est une droite dans laquelle Tb op`ere par le

poids−ν. Puisqu’on a un isomorphisme deb T ×Tb-modules C[G]b^U×Ub− ∼= M

bν∈bΛ⁺

VGb(bν)^U⊗(V

Gb(bν)^∗)^Ub−, on obtient (avec des notations ´evidentes)

m(ν,bν) = dimV_Gb(bν)^U_ν = dimC[G]b ^U×_ν,−^Ub−

νb .

Comme C[G]b ^U×bU− est une sous-alg`ebre de l’alg`ebre int`egre C[G], il en r´b esulte que Λ<sup>+</sup>(G,G) est un sous-mono¨ıde de Λb <sup>+</sup>×Λb<sup>+</sup>. Pour montrer que ce mono¨ıde est de type fini, il suffit de v´erifier que l’alg`ebre C[G]b ^U×Ub− est de type fini. Mais c’est le cas pour l’alg`ebre

C[G]b^Ub− ∼= M

bν∈bΛ⁺

V_Gb(bν).

(En effet, cette d´ecomposition est une graduation, correspondant `a l’action deTb. Choi- sissons des g´en´erateurs νb1, . . . ,νbm du mono¨ıde Λb<sup>+</sup>; alors on v´erifie aussitˆot que les G-b modules simplesV<sub>Gb</sub>(νb<sub>1</sub>), . . . , V<sub>Gb</sub>(bν<sub>m</sub>) engendrent l’alg`ebre C[G]b^Ub−). De mˆeme, l’alg`ebre C[G]<sup>U</sup> est de type fini. D’apr`es un th´eor`eme de Hilbert et Nagata, l’alg`ebre des in- variants (C[G]^U ⊗ C[G]b^Ub−)^G est aussi de type fini, o`u G op`ere diagonalement dans C[G]^U ⊗C[G]b^Ub−. On conclut grˆace `a l’isomorphisme d’alg`ebres

(C[G]^U⊗C[G]b^Ub−)^G∼=C[G]b ^U×bU− donn´e parP

iϕ_i⊗ψ_i 7→P

iϕ_i(e)ψ_i, l’isomorphisme r´eciproque provenant de la ((coac- tion)) C[G]b →C[G]⊗C[G]b ∼=C[G×G],b f 7→((g,bg)7→f(gbg)).

2.2. Le groupe de la restriction

D´efinition 2.2. — Avec les notations de 2.1, on dit que Λ⁺(G,G)b est le mono¨ıde de la restriction; on d´efinit aussi legroupe de la restriction Λ(G,G)b comme le sous-groupe deΛ×Λb engendr´e parΛ⁺(G,G), et de mˆb eme lecˆone de la restrictionC(G,G)b ⊂C×C.b D’apr`es le th´eor`eme 2.1, le cˆone C(G,G) est convexe, poly´b edral et rationnel ; on peut donc le d´ecrire par un syst`eme d’in´equations lin´eaires, rationnelles et en nombre fini.

Lorsque C(G,G) est d’int´b erieur non vide dans Λ_R×Λb_R, un tel syst`eme est unique (`a multiplication pr`es de chaque in´equation par un rationnel strictement positif) s’il est minimal.

On a visiblement

Λ⁺(G,G)b ⊂Λ(G,G)b ∩C(G,G)b

et on dit que Λ⁺(G,G) estb satur´e lorsque cette inclusion est une ´egalit´e ; en d’autres termes, si (ν,bν)∈Λ(G,G) etb m(nν, nbν)6= 0 pour un entier n≥1, alors m(ν,ν)b 6= 0.

Le groupe Λ(G,G) est d´b ecrit par le r´esultat suivant dˆu `a Ressayre (non publi´e), dans lequel Zb d´esigne le centre de Gb (si bien que Zb⊂Tb etZb∩G⊂T) :

Proposition 2.3. — On a l’inclusion

Λ(G,G)b ⊂ {(ν,bν)∈Λ×Λb | ν(t) =ν(t)b pour tout t∈Zb∩G},

avec l’´egalit´e si tout sous-groupe distingu´e ferm´e connexe de Gb contenu dans G est contenu dans Z.b

Preuve — L’inclusion est ´evidente. Pour l’´egalit´e, il suffit de montrer que

{(t,bt)∈T ×Tb | ν(t) =ν(bb t) pour tout (ν,bν)∈Λ⁺(G,G)}b ={(t, t)| t∈Zb∩G}.

Soit H le groupe de gauche ; d’apr`es la preuve du th´eor`eme 2.1, c’est aussi le noyau de l’action de T ×Tb dans l’alg`ebre C[G]b <sup>U×bU−</sup>. C’est donc aussi le noyau de l’action de T ×Tb dans le corps des fractions de cette alg`ebre, qui n’est autre que le corps des invariants C(G)b ^U×bU− o`u C(G) d´b esigne le corps des fonctions rationnelles sur G. Maisb d’apr`es la d´ecomposition de Bruhat, l’application Ub ×Tb×Ub⁻ → Gb (donn´ee par le produit dans G) est une immersion ouverte, d’o`b u des isomorphismes de corps

C(G)b ^U×bU− ∼=C(Ub×Tb)^U ∼=C(U /Ub ×Tb).

Par suite, H est le noyau de l’action induite de T × Tb dans U /Ub × Tb, donn´ee par (t,bt)·(buU,x) = (tb but⁻¹U, txbbt⁻¹). On a donc H = {(t, t) | t ∈ I} o`u I d´esigne le noyau de l’action de T dans U /Ub provenant de l’action dans Ub par conjugaison.

Le point de base de l’espace homog`ene U /Ub est fix´e par l’action de T, et l’espace tangent en ce point est le quotient des alg`ebres de Lie, bu/u. D’apr`es le lemme 2.4 ci- apr`es, I est le noyau de l’action de T dans bu/u, et donc dans le quotient analogue bg/g en raison de l’isomorphisme de T-modules

bg/g∼= (bu/u)⊕(bt/t)⊕(bu/u)^∗.

En appliquant une nouvelle fois le lemme 2.4, on voit que I est le noyau de l’action de T dans G/Gb provenant de son action dansGb par conjugaison, c’est-`a-dire

I =T ∩ \

bg∈Gb

bgGbg⁻¹.

Mais ce dernier groupe est contenu dans Zb par hypoth`ese ; d’autre part, Zb op`ere tri- vialement dans Ub et donc dansU /Ub , d’o`u le r´esultat.

Lemme 2.4. — SoitX une vari´et´e alg´ebrique dans laquelle op`ere un groupe r´eductifG avec un point fixe x. Alors les actions de G dans X et dans l’espace tangent de Zariski T_xX ont le mˆeme noyau.

Preuve — Il suffit de montrer que si g ∈ G fixe T_xX (point par point), alors il fixe l’anneau local O_X,x. Notons m_x l’id´eal maximal de cet anneau ; alors g fixe m_x/m²_x = (T_xX)^∗, donc aussi chaque puissance sym´etrique Sⁿ(m_x/m²_x) et chaque quotient mⁿ_x/mⁿ⁺¹_x . Comme O_X,x/mⁿ⁺¹_x est un G-module rationnel de dimension finie, et donc semi-simple, il est aussi fix´e parg. On conclut grˆace au fait queT

n≥1mⁿ_x ={0}.

On d´eduit aussitˆot de la proposition 2.3 le

Corollaire 2.5. — Les conditions suivantes sont ´equivalentes : (i) Λ(G,G)b est d’indice fini dans Λ×Λ.b

(ii) C(G,G)b est d’int´erieur non vide dans Λ_R×Λb_R.

(iii) G ne contient aucun sous-groupe distingu´e ferm´e connexe non trivial de G.b (iv) g ne contient aucun id´eal non nul de bg.

Pour un couple (G,G) arbitraire, on se ram`b ene facilement `a une situation o`u ce co- rollaire s’applique : en effet, soit H le plus grand sous-groupe distingu´e ferm´e connexe de Gb contenu dans G. Quitte `a remplacer Gb par un revˆetement fini, et G par la com- posante neutre de son image r´eciproque dans ce revˆetement, on peut supposer que Gb = H ×Gb1 et G = H ×G1 pour un groupe r´eductif connexe H; alors Λ⁺(G,G)b s’identifie `a Λ⁺(G₁,Gb₁), et G₁ ne contient aucun sous-groupe distingu´e ferm´e connexe non trivial de Gb1.

Exemple 1.1 (suite) — La proposition 2.3 s’applique, et on retrouve ainsi le fait que le groupe Λ(T, G) est form´e des (µ, λ) ∈ Λ² tels que µ−λ ∈ Λ_R. On a vu que le cˆone C(T, G) est engendr´e par les (wλ, λ) o`uw∈W etλ ∈Λ⁺; de plus, le mono¨ıde Λ⁺(T, G) est satur´e (mais en g´en´eral, on ne sait pas en construire des g´en´erateurs).

Exemple 1.2 (suite) — La proposition 2.3 s’applique aussi, et montre que le groupe engendr´e par LR(G) est form´e des (λ, µ, ν) ∈ Λ³ tels queλ+µ+ν ∈ Λ_R. Le rang de ce groupe ab´elien libre est donc 3r−z, o`u r d´esigne le rang de G, et z la dimension de son centre. On a vu que le mono¨ıde LR(GL<sub>n</sub>) = LR<sub>n</sub> est satur´e ; la situation est beaucoup plus compliqu´ee pour un groupe Garbitraire, et on essaiera de faire le point sur le ((probl`eme de saturation)) en 5.3.

3. TH´EORIE G´EOM´ETRIQUE DES INVARIANTS 3.1. Le th´eor`eme de Borel-Weil

On va traduire le probl`eme de la restriction en termes g´eom´etriques, `a l’aide du classique th´eor`eme de Borel-Weil dont on rappelle l’´enonc´e.

Avec les notations de 2.1, on consid`ere chaque caract`ere ν deT comme un caract`ere de B, et on note L(ν) le fibr´e en droites homog`ene sur la vari´et´e des drapeaux G/B associ´e `a la repr´esentation de B dans C de poids −ν. L’espace des sections globales H⁰(G/B,L(ν)) est alors un G-module rationnel, et on a

H⁰(G/B,L(ν))∼=

(V_G(ν)^∗ siν est dominant,

0 sinon.

Consid´erons la vari´et´e des drapeaux de G×G,b

X =X(G,G) :=b G/B×G/b Bb

et, pour tout (ν,ν)b ∈Λ×Λ, le fibr´b e en droites homog`ene sur X L(ν,ν) :=b L(ν)L(bν)

avec des notations ´evidentes. Lorsqueν etbν sont dominants, le th´eor`eme de Borel-Weil donne un isomorphisme de G×G-modulesb

H⁰(X,L(ν,ν))b ∼=V_G(ν)^∗⊗V_Gb(bν)^∗.

En notantνb^∗ le plus haut poids du G-module simpleb V_Gb(bν)^∗ (si bien queνb^∗ =−wb0νbo`u wb0 d´esigne l’unique ´el´ement de plus grande longueur de Wc), on a donc

m(ν,νb^∗) = dim Hom^G(V_G(ν),Res^G_G^bV_Gb(ν)b ^∗) = dimH⁰(X,L(ν,ν))b ^G. On en d´eduit aussitˆot le

Lemme 3.1. — Soit (ν,ν)b ∈ Λ⁺ ×Λb⁺. Alors (ν,νb^∗) ∈ C(G,G)b si et seulement s’il existe un entier n ≥1 tel que H⁰(X,L(ν,bν)^⊗n)^G 6= 0.

Cette observation va permettre de compl´eter la preuve du th´eor`eme 1.3. Par construc- tion, on a des sous-groupes compacts maximaux K de G et Kb de G, tels queb K ⊂K,b et donc une projection p:bk<sup>∗</sup> → k<sup>∗</sup>. En outre, C s’identifie `a une chambre de K, et de mˆeme Cb `a une chambre de Kb. Avec ces notations, il suffit de montrer que pour tout point rationnelbν deC, le polytope convexeb p(Kbν)∩Cb est l’intersection du cˆoneC(G,G)b et de l’espace affine Λ_R× {bν}.

On peut supposer quebν ∈Λb⁺. L’orbite coadjointeO :=Kbνbs’identifie alors `a l’unique orbite ferm´ee deGbdans l’espace projectifP(V_Gb(ν)) des droites deb V_Gb(ν) : c’est l’orbite deb la droite de plus haut poids bν. Ainsi, O est une vari´et´e alg´ebrique complexe, projective et lisse ; de plus, l’application moment issue de ce plongement projectif etK-´b equivariant est l’inclusion de O dans bk^∗. Par suite, p : O → k^∗ est l’application moment pour le plongement K-´equivariant deO dans P(Res^G_G^bV

Gb(bν)). L’assertion est donc cons´equence du lemme 3.1 et d’un r´esultat de Mumford ([29, App. (A1)]).

3.2. Le crit`ere de Hilbert-Mumford

Le lemme 3.1 permettra d’obtenir des in´equations lin´eaires qui d´efinissent le cˆone C(G,G), grˆb ace au crit`ere de Hilbert-Mumford ([28, Ch. 2]). Pour rappeler l’´enonc´e de ce crit`ere et l’adapter `a nos besoins, on se place dans une situation un peu plus g´en´erale.

Consid´erons une vari´et´e alg´ebrique complexe compl`ete X dans laquelle op`ere le groupe r´eductif connexe G, et un fibr´e en droites L sur X. On suppose que L est G-lin´earis´e, c’est-`a-dire qu’on se donne une action deGdans L qui rel`eve l’action dans X et qui est lin´eaire dans les fibres.

D´efinition 3.2. — On dit qu’un point x ∈ X est semi-stable relativement `a L s’il existe un entier n ≥ 1 et une section σ ∈ H<sup>0</sup>(X,L<sup>⊗n</sup>) tels que x ∈ X<sub>σ</sub> (l’ouvert de X o`u σ ne s’annule pas).

Ceci diff`ere de la d´efinition originale de Mumford ([28, Def. 1.7]), qui demande de plus que l’ouvert X_σ soit affine ; cependant, les deux d´efinitions co¨ıncident lorsque L est ample.

On noteX^ss(L) l’ensemble des points semi-stables deX; c’est un ouvert deX, stable par G et inchang´e lorsqu’on remplace L par une puissance strictement positive L^⊗n. D´efinition 3.3. — On dit que L est G-effectifsi X^ss(L)est non vide ; autrement dit, s’il existe un entier n≥1 tel que H⁰(X,L^⊗n)^G 6= 0.

Rappelons par ailleurs qu’unsous-groupe `a un param`etredeGest un homomorphisme de groupes alg´ebriquesλ :C^∗ →G. L’ensemble des sous-groupes `a un param`etre deG, not´e X∗(G), est muni d’op´erations de puissance n-i`eme (n ∈ Z) qu’on note λ 7→ nλ.

LorsqueG=T est un tore, X∗(T) est un groupe ab´elien pour la multiplication ; c’est le dual du groupe des poids Λ. Dans le cas g´en´eral, Gop`ere dansX∗(G) par conjugaison, et un domaine fondamental pour cette action est form´e des sous-groupes `a un param`etre deT qui sont dominants (relativement `a R⁺).

Etant donn´´ es λ ∈ X∗(G) et x ∈ X, le morphisme C^∗ → X, t 7→ λ(t)x s’´etend en un morphismeϕ:C →X (car X est compl`ete). Notons y = limt→0λ(t)x l’image de 0 par ϕ; c’est un point fixe de C<sup>∗</sup> op´erant dans X par λ. Comme L estG-lin´earis´e, il en r´esulte queC<sup>∗</sup> op`ere lin´eairement dans la fibreL_y; le poids de cette action est un entier relatif, not´e −µ^L(x, λ). (Ce choix de signe s’explique par l’exemple o`u X =P(V) pour unG-module rationnel V, et L =O_P(V)(1) muni de sa lin´earisation naturelle : si x est l’image de v ∈V, alors µ^L(x, λ) est l’ordre en 0 de la fonction rationnelle t7→λ(t)v).

On ´enonce quelques propri´et´es imm´ediates de µ^L(x, λ) : (i)µ^L(gx, gλg⁻¹) = µ^L(x, λ) pour tout g ∈G.

(ii) µ^L(x, nλ) =n µ^L(x, λ) pour tout n∈Z.

(iii) µ^L1⊗L2(x, λ) =µ^L1(x, λ) +µ^L2(x, λ) pour tous fibr´es en droites G-lin´earis´esL₁,L₂. En notant Pic^G(X) le groupe des classes d’isomorphisme de ces fibr´es (relativement au produit tensoriel), on voit donc que l’applicationL 7→µ^L(x, λ) d´efinit un homomor- phisme de groupes

µ^•(x, λ) : Pic^G(X)→Z.

(iv) Si X⁰ est une G-vari´et´e compl`ete et f :X → X⁰ un morphisme ´equivariant, alors µ^f∗(L0)(x, λ) =µ^L0(f(x), λ) pour tout L⁰ ∈Pic^G(X⁰).

On aura besoin ´egalement de l’interpr´etation suivante du signe deµ^L(x, λ) en termes de((limites)) dans le fibr´e L (o`u on identifie X `a la section nulle) :

Lemme 3.4. — Soient x∈X et x˜∈ L_x\ {x}. Alors

µ^L(x, λ)











<0⇔limt→0λ(t)˜x=y,

= 0⇔limt→0λ(t)˜x∈ L_y \ { y},

>0⇔limt→0λ(t)˜x n’existe pas dans L.

Preuve — Le morphisme ϕ : C → X est ´equivariant pour l’action de C^∗ dans C par multiplication, et pour son action dans X par λ. De plus, le fibr´e en droites ϕ^∗L est C^∗-lin´earis´e ; on v´erifie que c’est le fibr´e trivial C² → C dans lequel C^∗ op`ere par t·(z, w) = (tz, t^−µw). L’´enonc´e en r´esulte aussitˆot.

On obtient `a pr´esent une version du crit`ere de Hilbert-Mumford pour les fibr´es en droitessemi-amples(c’est-`a-dire, dont une puissance strictement positive est engendr´ee par ses sections globales) :

Proposition 3.5. — Soient L un fibr´e en droites G-lin´earis´e sur une G-vari´et´e compl`ete X, et x un point de X.

(i) Si x∈X^ss(L), alors µ^L(x, λ)≤0 pour tout λ∈X∗(G).

(ii) Si x∈X^ss(L) et λ∈X∗(G), alors µ^L(x, λ) = 0 ⇔ limt→0λ(t)x∈X^ss(L).

(iii) Si L est semi-ample etµ^L(x, λ)≤0 pour tout λ∈X∗(G), alors x∈X^ss(L).

Preuve — (i) Soit σ ∈ H⁰(X,L^⊗n)^G telle que x ∈ X_σ. Consid´erons σ comme une fonction r´eguli`ere sur le fibr´e dual L<sup>−1</sup>, et choisissons ˜x ∈ L<sup>−1</sup><sub>x</sub> \ {x}. Alors σ(˜x) 6= 0, donc par invariance de σ, on ne peut pas avoir lim<sub>t→0</sub>λ(t)˜x = y dans L<sup>−1</sup>. D’apr`es le lemme 3.4, on a µ^L−1(x, λ)≥0 pour tout λ ∈X_∗(G), d’o`u l’assertion.

(ii) Avec les notations pr´ec´edentes, supposons que µ^L(x, λ) = 0. Toujours d’apr`es le lemme 3.4, on a ˜y := limt→0λ(t)˜x∈ Ly \ {y}. Par suite,σ(˜x) =σ(˜y), d’o`uy ∈X^ss(L).

R´eciproquement, si y ∈ X^ss(L), alors il existe σ ∈ H⁰(X,L^⊗n)^G tel que σ(˜y) 6= 0 pour tout ˜y∈ L⁻¹_y \ {0}. Mais σ(˜y) = σ(λ(t)˜y) =t^{−nµL(x,λ)}σ(˜y), d’o`u µ^L(x, λ) = 0.

(iii) LorsqueLest ample, l’assertion est due `a Mumford ([28, Th. 2.1]). Le cas o`uLest semi-ample s’y ram`ene : en effet, quitte `a remplacer L par une puissance strictement positive, on peut le supposer engendr´e par ses sections globales. Puisque L est G- lin´earis´e, l’espace vectoriel V := H⁰(X,L) est un G-module rationnel, et l’application canoniqueF :X →P(V^∗) est ´equivariante ; on a un isomorphisme de fibr´esG-lin´earis´es L ∼=F^∗(O_P(V^∗₎(1)). La factorisation de Stein deF fournit alors uneG-vari´et´e projective X⁰, un morphisme ´equivariant f :X →X⁰ tel quef∗(O_X) =O_X⁰ et un fibr´e en droites ample et G-lin´earis´eL⁰ surX⁰ tel que L ∼=f^∗(L⁰). De plus, µ^L(x, λ) =µ^L0(f(x), λ), et on a des isomorphismes H⁰(X,L^⊗n) ∼= H⁰(X⁰,L^0⊗n) ´equivariants et compatibles aux

´evaluations en xet f(x).

3.3. Une caract´erisation des fibr´es G-effectifs

On suppose d´esormais que X est lisse et projective ; on va obtenir des in´equations lin´eaires qui caract´erisent les fibr´es en droitesG-effectifs, en suivant [31, Sec. 3].

Etant donn´´ eλ∈X∗(G), on note X^λ le lieu de ses points fixes ; c’est une sous-vari´et´e lisse et ferm´ee de X, en g´en´eral r´eductible, et stable par le centralisateur G^λ (le sous- groupe des points fixes de λ op´erant par conjugaison dansG). Puisque ce sous-groupe est connexe, il stabilise chaque composante connexe Y de X^λ. De plus, la fonction

x7→µ^L(x, λ) est localement constante sur X^λ; on noteµ^L(Y, λ) sa valeur sur Y. C’est aussi sa valeur sur l’ensemble

Y⁺ :={x∈X | lim

t→0λ(t)x∈Y}.

D’apr`es un r´esultat de Bialynicki-Birula ([7, Th. 4.3]), Y⁺ est une sous-vari´et´e locale- ment ferm´ee, lisse, de X, et l’application((limite))

π :Y⁺ →Y, x7→lim

t→0λ(t)x

est une fibration localement triviale pour la topologie de Zariski, dont les fibres sont des espaces affines ; de plus, l’action deC^∗ par λdans chaque fibre est lin´earisable. (On ne sait pas siπ est un fibr´e vectoriel).

On peut maintenant ´enoncer l’observation cl´e suivante :

Lemme 3.6. — On suppose que GY⁺ est dense dans X et que L est G-effectif. Alors µ^L(Y, λ)≤0, et µ^L(Y, λ) = 0 si et seulement si X^ss(L) rencontre Y.

Preuve— Les hypoth`eses entraˆınent queX^ss(L) rencontreY⁺; les assertions r´esultent alors de la proposition 3.5 (i) et (ii).

Posons

P =P(λ) :={g ∈G | lim

t→0λ(t)gλ(t)⁻¹ existe}.

D’apr`es [28, Prop. 2.6],P est un sous-groupe parabolique deG, et on a la d´ecomposition de Levi

P =R_u(P)L o`u R_u(P) ={g ∈G | lim

t→0λ(t)gλ(t)⁻¹ = 1} et L=G^λ. (R´eciproquement, toute d´ecomposition de Levi d’un sous-groupe parabolique s’obtient

`

a partir d’un sous-groupe `a un param`etre). Observons que λ ∈ X∗(T) si et seulement siL contient T; sous cette hypoth`ese, λ est dominant si et seulement si P contient B.

Par ailleurs,µ^L(gx, λ) = µ^L(x, λ) pour tout g ∈P ([28, Prop. 2.7]).

On v´erifie aussitˆot que Y⁺ est stable par P ; de plus, π est invariante par R_u(P) et

´equivariante pour L. Puisque le morphisme quotient G → G/P est un fibr´e principal localement trivial pour la topologie de Zariski, on peut former le fibr´e associ´eG×^PY⁺. C’est une vari´et´e alg´ebrique lisse, dans laquelleGop`ere par multiplication `a gauche sur lui-mˆeme. Voici d’autres propri´et´es de cette construction :

Lemme 3.7. — (i) La restriction `a Y⁺ induit des isomorphismes Pic^G(G×^P Y⁺)∼= Pic^P(Y⁺)

et pour tout L ∈ Pic^G(G×^P Y⁺),

H⁰(G×^P Y⁺,L)^G∼=H⁰(Y⁺,L)^P.

(ii) La restriction `a Y induit un isomorphisme Pic^P(Y⁺)∼= Pic^L(Y).

(iii) Si L ∈Pic^P(Y⁺) et µ^L(Y, λ)6= 0, alorsH⁰(Y,L)^λ = 0.

(iv) Si L ∈ Pic^P(Y⁺) et µ^L(Y, λ) = 0, alors la restriction `a Y induit un isomorphisme H⁰(Y⁺,L)^P ∼=H⁰(Y,L)^L.

De plus, on a (Y⁺)σ =π⁻¹(Yτ) pour tout σ∈H⁰(Y⁺,L)^P o`u τ :=σ|Y.

Preuve — (i) Puisque le morphisme quotient q : G×Y⁺ → G×^P Y⁺ est un fibr´e principal, l’application

q^∗ : Pic^G(G×^P Y⁺)→Pic^G×P(G×Y⁺)

est un isomorphisme dont l’inverse est l’image directe invariante,L 7→ q∗(L)^P. De mˆeme, la projection p:G×Y⁺ →Y⁺ induit un isomorphisme

p^∗ : Pic^G×P(G×Y⁺)∼= Pic^P(Y⁺).

On en d´eduit la premi`ere assertion. La deuxi`eme r´esulte des isomorphismes H⁰(G×^P Y⁺,L)∼=H⁰(G×Y⁺, q^∗(L))^G×P ∼=H⁰(G×Y⁺, p^∗(L|_Y⁺))^G×P.

(ii) Puisque π : Y⁺ → Y est un fibr´e affine, l’application π^∗ : Pic(Y) → Pic(Y⁺) est surjective ; c’est donc un isomorphisme, car π^∗(L)|_Y = L pour tout L ∈ Pic(Y⁺).

Pour toutL ∈ Pic^P(Y⁺), on en d´eduit que L ⊗π^∗(L|_Y)⁻¹ est le fibr´e en droites trivial ; comme ce fibr´e est aussiP-lin´earis´e, l’action de P y est donn´ee par un caract`ere χ. En restreignant `a Y, on voit que χ|_L est trivial, donc aussiχ puisque P =R_u(P)L.

(iii) est imm´ediat.

(iv) D’apr`es (ii), on a L=π<sup>∗</sup>(M) o`u M:=L|_Y. D’o`u

H⁰(Y⁺,L)^P ∼=H⁰(Y, π∗(L))^P ∼=H⁰(Y,M ⊗π∗(O_Y⁺))^P.

En consid´erant les poids de l’action de λ dans π∗(O_Y⁺), on obtient que l’application naturelleH⁰(Y,M)^L →H⁰(Y,M ⊗π∗(O_Y⁺))^P est un isomorphisme. En particulier, on aτ =p^∗(σ), d’o`u les assertions.

Le morphismeG×Y⁺ →X, (g, x)7→gx se factorise par un morphisme η:G×^P Y⁺ →X

´equivariant pour les actions naturelles de G.

D´efinition 3.8. — Le couple (Y, λ)est ditdominant(resp.couvrant) si le morphisme η est dominant (resp. birationnel).

On dit que (Y, λ) est bien couvrant si η est birationnel et si son lieu exceptionnel ne contient pas Y.

L’int´erˆet de cette derni`ere notion provient du r´esultat fondamental suivant :

Th´eor`eme 3.9. — Soit L un fibr´e en droites ample et G-lin´earis´e sur une G-vari´et´e projective lisseX. AlorsLest G-effectif si et seulement siµ<sup>L</sup>(Y, λ)≤0pour tout couple bien couvrant (Y, λ) o`u λ ∈X∗(T) est dominant.

Preuve — Lorsque X^ss(L)6=∅, on a en fait µ^L(Y, λ)≤0 pour tout couple dominant (Y, λ), d’apr`es le lemme 3.6.

Supposons maintenant que X^ss(L) = ∅. D’apr`es [20, Sec. 13], X est alors r´eunion disjointe de sous-vari´et´es localement ferm´ees, stables par Get de la formeGΩ<sup>+</sup>pour un λ∈X<sub>∗</sub>(G) et un ouvert Ω de X<sup>λ</sup>, irr´eductible et stable parL; de plus,µ<sup>L</sup>(Ω, λ)>0 et le morphisme naturel G×<sup>P</sup> Ω<sup>+</sup> →GΩ<sup>+</sup> est un isomorphisme. En particulier, le couple (Y := Ω, λ) est bien couvrant. D’autre part, il existe g ∈ G tel que le conjugu´e gλg<sup>−1</sup> soit `a valeurs dans T et dominant ; alors le couple (gY, gλg⁻¹) est bien couvrant, et µ^L(gY, gλg⁻¹) = µ^L(Y, λ)>0.

Terminons par une caract´erisation ((diff´erentielle)) des couples bien couvrants : Lemme 3.10. — SoitD :=ω_G×^P_Y⁺⊗η^∗ω_X⁻¹ le fibr´e canonique relatif deη, muni de sa G-lin´earisation naturelle.

(i) Si η est g´en´eriquement fini, alors µ^D(Y, λ)≥0.

(ii) Pour que(Y, λ) soit bien couvrant, il faut et il suffit que η soit birationnelle et que µ^D(Y, λ) = 0.

Preuve — (i) Le ((d´eterminant jacobien)) de η (la puissance ext´erieure maximale de sa diff´erentielle) s’identifie `a une section δ ∈ H<sup>0</sup>(G×<sup>P</sup> Y<sup>+</sup>,D), invariante par G; de plus,δ6= 0 si et seulement siηest g´en´eriquement fini. La restriction deδ `aY⁺est alors non nulle, d’o`uH<sup>0</sup>(Y<sup>+</sup>,D)<sup>λ</sup> 6= 0. En consid´erant les poids de l’action deλ, on en d´eduit la premi`ere assertion.

(ii) Supposons (Y, λ) bien couvrant ; alors δ ne s’annule pas en un certain y ∈ Y. Il en r´esulte que H⁰(Y,D)^λ 6= 0, d’o`u µ<sup>D</sup>(Y, λ) = 0 d’apr`es le lemme 3.7 (iii).

R´eciproquement, si η est birationnelle et µ^D(Y, λ) = 0, alors il existe x∈Y⁺ tel que x∈X_δ. Soit y = limt→0λ(t)x. On montre comme dans la preuve de la proposition 3.5 que y ∈ X_δ; autrement dit, η est non ramifi´ee en y. On conclut grˆace au th´eor`eme principal de Zariski.

4. LE C ˆONE DE LA RESTRICTION 4.1. G´eom´etrie des vari´et´es des drapeaux

On va expliciter les objets introduits en 3.3, lorsque X est la vari´et´e des drapeaux G/B×G/b Bb dans laquelle G op`ere diagonalement ; on suivra [31, Sec. 7].

Le groupe Pic^G(X) est d´ecrit par le r´esultat suivant o`u chaque fibr´e en droites L(ν,ν)b est muni de sa G-lin´earisation obtenue par la restriction `a la diagonale de sa G×G-b lin´earisation naturelle :

Lemme 4.1. — L’application

Λ×Λb →Pic^G(X), (ν,ν)b 7→ L(ν,bν)

est un homomorphisme de conoyau fini et de noyau Λb^cW. De plus, L(ν,bν) est effectif (resp. ample) si et seulement siν etνbsont dominants (resp. dominants r´eguliers) ; tout fibr´e en droites effectif (resp. ample) sur X est engendr´e par ses sections globales (resp.

tr`es ample).

Preuve(esquisse) — Pour toute G-vari´et´e lisse et compl`ete X, l’application naturelle Pic<sup>G</sup>(X) → Pic(X) a un conoyau fini, et son noyau est isomorphe au groupe des ca- ract`eresX^∗(G) ; on en d´eduit la premi`ere assertion en observant que Λ×Λ = Picb <sup>G×Gb</sup>(X) et que Λb<sup>Wc</sup> =X<sup>∗</sup>(G). Les autres assertions se d´b eduisent du th´eor`eme de Borel-Weil.

Soient λ∈X∗(T), P =P(λ) et L=L(λ). On noteW_P le groupe de Weyl de (P, T), ou encore de (L, T) ; c’est aussi le groupe d’isotropie de λ pour l’action de W dans X∗(T).

Lemme 4.2. — Les composantes connexes de (G/B)^λ ne sont autres que les sous- vari´et´es LwB/B. Elles sont toutes isomorphes `a la vari´et´e des drapeaux de L, et pa- ram´etr´ees par W_P\W. De plus, on a (LwB/B)⁺=P wB/B.

Preuve— SoitY une composante de (G/B)^λ. Rappelons queY⁺est stable par le sous- groupe paraboliqueP deG. D’apr`es la d´ecomposition de Bruhat,Y<sup>+</sup> est donc r´eunion d’orbites P wB/B pour certains w ∈ W. Mais si x ∈ P wB/B, alors limt→0λ(t)x ∈ LwB/B (car limt→0λ(t)gλ(t)<sup>−1</sup> ∈ L pour tout g ∈ P). De plus, l’orbite LwB/B est form´ee de points fixes de λ, et elle est isomorphe `a L/(wBw⁻¹)^λ, donc `a la vari´et´e des drapeaux de L puisque (wBw⁻¹)^λ est un sous-groupe de Borel de L = G^λ. En particulier,LwB/B est une sous-vari´et´e irr´eductible et ferm´ee de (G/B)^λ. Ceci entraˆıne les assertions sur les composantes Y de (G/B)^λ et les vari´et´es associ´ees Y⁺.

Pour l’assertion sur le param´etrage, on observe que (G/B)^λ est stable parT, et que les points fixes de ce tore dans LwB/B ne sont autres que les vwB/B o`uv ∈W_P.

Identifionsλ `a un sous-groupe `a un param`etre de Tb, et posonsPb=Pb(λ),Lb =L(λ) ;b alors le sous-groupe parabolique deG×Gbassoci´e `a (λ, λ)∈X_∗(T ×Tb) estP ×Pb, avec L×Lb comme sous-groupe de Levi. D’apr`es le lemme 4.2 appliqu´e `aX, les composantes irr´eductibles de X^λ sont les

Y =Y_w,wb :=Lw⁻¹B/B×Lbwb⁻¹B/b Bb

o`u (w,w)b ∈ W/W_P ×cW /cW_P (ce choix de param´etrage s’av´erera commode). De plus, on a

Y_w,⁺

wb:=P w⁻¹B/B×Pbwb⁻¹B/b B.b On va maintenant caract´eriser les couples (Y_w,

wb, λ) qui sont dominants ou couvrants, en termes du((calcul de Schubert))dans la vari´et´e de drapeauxG/P. PuisqueP =G∩Pb, l’application naturelle

i:G/P →G/b Pb

est une immersion ferm´ee. Notons H^∗(G/P) l’anneau de cohomologie de G/P `a coeffi- cients entiers, et

i^∗ :H^∗(G/b Pb)→H^∗(G/P)

l’homomorphisme d´efini par i. Rappelons que G/P a une d´ecomposition cellulaire form´ee des orbites

C_w^P :=BwP/P (w∈W/W_P) (les cellules de Bruhat). Leurs adh´erences

X_w^P :=C_w^P

sont les vari´et´es de Schubert. Les classes de cohomologie de ces vari´et´es, σ_w^P := [X_w^P] (w∈W/W_P),

forment donc une base du groupe ab´elienH^∗(G/P) ; de plus, σ_e^P est la classe du point.

En particulier, la cohomologie deG/P est nulle en degr´es impairs, si bien que le produit

∪ est commutatif.

On d´efinit de mˆeme la base (σ^Pb

wb)

w∈cb W /Wc^Pb deH^∗(G/b Pb).

Proposition 4.3. — Soit (w,w)b ∈W/W_P×W /cc W_Pb. Le couple(Y_w,

wb, λ)est dominant (resp. couvrant) si et seulement si σ_w^P ∪i^∗(σ^Pb

wb)6= 0 (resp =σ^P_e) dans H^∗(G/P).

Preuve— Rappelons que (Y_w,

wb, λ) est dominant (resp. couvrant) si et seulement si la fibre enx du morphisme η:G×^P Y_w,⁺

wb →X est non vide (resp. un point) pour toutx dans un ouvert non vide de X. Mais cette fibre s’identifie `a

F_x :={gP ∈G/P | g⁻¹x∈Y_w,

wb} par l’application naturelleG×^P Y_w,⁺

wb →G/P. De plus, commeη est ´equivariante pour G, on peut supposer que x est de la forme (P/P,bgP /b Pb) pour un bg ∈ G. On a alorsb pour toutg ∈G :

gP ∈F_x ⇔g⁻¹B/B ∈P w⁻¹B/B etg⁻¹bgB/b Bb∈Pbwb⁻¹B/b Bb ce qui ´equivaut, apr`es quelques manipulations, `a g ∈BwP ∩bgBbwbPb. Ainsi,

F_x =C_w^P ∩i⁻¹(bgC^Pb

wb).

D’apr`es un th´eor`eme de transversalit´e dˆu `a Kleiman, l’intersection des adh´erences, X_w^P ∩i⁻¹(bgX^Pb

wb), est transverse pour toutgbdans un ouvert non vide de Gb; de plus, F_x est dense dans cette intersection. On en d´eduit que la classe de cohomologie de F_x est σ^P_w ∪i^∗(σ^Pb

wb) ; les assertions en r´esultent aussitˆot.

4.2. Couples bien couvrants et sous-groupes `a un param`etre admissibles On va obtenir une caract´erisation cohomologique des couples bien couvrants, et en d´eduire des in´equations lin´eaires en nombre fini qui d´efinissent le cˆone de la restriction.

On commence par deux r´esultats techniques qui permettront d’appliquer le crit`ere du lemme 3.10.

Fixonsλ ∈X∗(T) dominant, si bien que P =P(λ) contientB, et L=L(λ) contient T. Rappelons que chaque classe wW_P o`u w ∈ W, contient un unique repr´esentant de longueur minimale, caract´eris´e par w(R⁺ ∩R_L) ⊂ R⁺. Notons W^P l’ensemble de ces repr´esentants minimauxet d´efinissons de mˆeme Wc^Pb.

Lemme 4.4. — Soitw∈W^P. Notonsγ_w la somme des poids deT dans l’espace normal

`

a BwP/P dans G/P au point wP/P. Alors

γ_w =−ρ−ww_0,Pρ o`u w_0,P d´esigne l’´el´ement de plus grande longueur de W_P.

Preuve (esquisse) — Cet espace normal est isomorphe au quotient g/(b+wp) et ses poids ne sont autres que lesα∈R⁻ telles que w⁻¹α∈R⁻\R_L.

Lemme 4.5. — Soient(w,w)b ∈W^P×Wc^Pb etDle fibr´e canonique relatif du morphisme η:G×^PY_w,wb →X. Alors T op`ere dans la fibre de D au point (w⁻¹B/B,wb⁻¹B/b B)b par le poids w⁻¹γ_w+ (wb⁻¹γ_wb)|_T −γ_e.

Preuve (esquisse) — On a

D ∼=η^∗(Λ^maxT_X)⊗Λ^maxT_G×^∗ PY⁺

o`u Λ<sup>max</sup> d´esigne la plus grande puissance ext´erieure non nulle. D’o`u D_x ∼= Λ^maxT_G/B,w⁻¹_B/B⊗Λ^maxT_{G/b B,b}

wb⁻¹B/b Bb ⊗Λ^maxT_G/P,P/P^∗ ⊗Λ^maxT_Y^∗+,x

o`ux:= (w⁻¹B/B,wb⁻¹B/b B). En utilisant le lemme 4.2, on obtientb D_x ∼= Λ^maxN_{G/B,P w}⁻¹_B/B,w⁻¹_B/B ⊗Λ^maxN

G/b B,bPbwb⁻¹B/b B,bwb⁻¹B/b Bb⊗Λ^maxT_G/P,P/P^∗ o`u N<sub>G/B,P w</sub><sup>−1</sup><sub>B/B,w</sub><sup>−1</sup><sub>B/B</sub> d´esigne le fibr´e normal `a P w⁻¹B/B dans G/B au point w⁻¹B/B, et de mˆeme pour N

G/b B,bPbwb⁻¹B/b B,bwb⁻¹B/b Bb. On conclut grˆace au lemme 4.4.

Proposition 4.6. — Soient λ un sous-groupe `a un param`etre dominant de T, et (w,w)b ∈ W^P ×cW^Pb. Alors le couple (Y := Y_w,

wb, λ) est bien couvrant si et seulement s’il satisfait aux deux conditions suivantes :

(i) σ^P_w ∪i^∗(σ^Pb

wb) =σ_e^P dans H^∗(G/P).

(ii) hρ, λ−wλi=hρ, λb +wλi.b

Preuve — D’apr`es la proposition 4.3, la condition (i) ´equivaut `a ce que η soit bira- tionnelle. Par ailleurs, d’apr`es le lemme 4.5, on a

µ^D(Y, λ) = hλ, w⁻¹γ_w+ (wb⁻¹γ

wb)|_T −γ_ei=hwλ, γ_wi+hwλ, γb

wbi − hλ, γ_ei.

En utilisant le lemme 4.4, on en d´eduit que

µ^D(Y, λ) = hλ−wλ, ρi − hλ+wλ,b ρi.b L’assertion r´esulte alors du lemme 3.10.

On introduit `a pr´esent une classe de sous-groupes `a un param`etre qui permettra de d´ecrire les faces de codimension 1 du cˆone de la restriction, lorsque celui-ci est d’int´erieur non vide. Parmi ces faces, il suffit alors de d´eterminer celles qui ne proviennent pas d’un mur de de la chambre C×Cb; autrement dit, celles qui rencontrent l’int´erieur de cette chambre.

D´efinition 4.7. — Un sous-groupe `a un param`etre non trivial de T est ditadmissible si l’hyperplan de Λ_R qu’il d´efinit est engendr´e par des poids de la repr´esentation de T dans bg/g. (Les sous-groupes `a un param`etre admissibles et indivisibles sont donc en nombre fini).

Lemme 4.8. — Soit (Y = Y_w,

wb, λ) un couple bien couvrant tel que l’hyperplan (µ^•(Y, λ) = 0) rencontre le cˆone C(G,G)b suivant une face F de codimension 1 qui ne provient pas d’un mur de C×C. Alorsb λ est admissible.

Preuve — Soit (ν,bν) ∈ F o`u ν et νb sont des poids dominants r´eguliers. Le fibr´e en droites G-lin´earis´e L = L(ν,bν) est ample et G-effectif, et µ<sup>L</sup>(Y, λ) = 0 ; par suite, Y rencontre X<sup>ss</sup>(L) d’apr`es le lemme 3.6. Soit donc y ∈ Y ∩X^ss(L) ; alors le groupe d’isotropieG_yop`ere dans la fibreL<sub>y</sub>par un caract`ere, qui est d’ordre fini (par l’argument de la preuve de la proposition 3.5 (ii)). Ainsi, la composante neutreG⁰_y op`ere trivalement dans L_y.

Le groupe des caract`eres X<sup>∗</sup>(G<sub>y</sub>) s’identifie `a Pic^G(Gy) ∼= Pic^G(G/G_y). Montrons que la restriction

res : Pic^G(X)→Pic^G(Gy) est surjective. En effet, la projection

p:X =G/B×G/b Bb →G/B

envoie y sur un sous-groupe de Borel B(y) qui contient G_y, et la compos´ee de res et de l’homomorphisme p^∗ : Pic^G(G/B) → Pic^G(X) s’identifie (par les isomorphismes Pic^G(G/B) ∼= Pic^G(G/B(y)) ∼= X^∗(B(y))) `a la restriction X^∗(B(y)) → X^∗(G_y), la- quelle est bien surjective.

Montrons `a pr´esent que le groupe G<sub>y</sub> est diagonalisable ; en particulier, G<sup>0</sup><sub>y</sub> est un tore. En effet, l’adh´erence de l’orbiteGy dansX<sup>ss</sup>(L) contient une unique orbite ferm´ee Gz, et G<sub>y</sub> est contenu dans un conjugu´e de G<sub>z</sub> d’apr`es le th´eor`eme du slice de Luna

([28, App. to Ch. 1, D]). MaisG_z est r´eductif (car la vari´et´eGz est affine), et r´esoluble (car contenu dans un conjugu´e de B) ; il est donc diagonalisable, d’o`u l’assertion.

Montrons enfin queG⁰_y = Im(λ). En effet, la compos´ee des restrictions, res⁰ : Pic^G(X)→X^∗(G_y)→X^∗(G⁰_y)

est identiquement nulle sur F, et d’autre part, le conoyau de res⁰ est fini. Comme F est de codimension 1, il en r´esulte que X^∗(G⁰_y) est de rang au plus 1 ; par ailleurs, G⁰_y contient Im(λ), d’o`u l’´egalit´e.

Le groupe L = G^λ op`ere dans Y `a travers son quotient L/Im(λ) ; d’apr`es l’asser- tion pr´ec´edente, le groupe d’isotropie d’un point g´en´eral de Y dans ce quotient est fini.

Puisque Y ∼= L/B^λ ×L/b Bb^λ comme L-vari´et´e, cela revient `a dire que le groupe d’iso- tropie dans B<sup>λ</sup>/Im(λ) d’un point g´en´eral de L/b Bb<sup>λ</sup> est fini. D’apr`es la d´ecomposition de Bruhat, on peut remplacer dans cette assertion L/b Bb^λ par Bb^λ/Tb ∼= Ub^λ. Puisque B^λ = U^λT, il en r´esulte que le groupe d’isotropie dans T /Im(λ) d’un point g´en´eral de Ub^λ/U^λ est fini. Par suite, Im(λ) est la composante neutre du noyau de l’action de T dans Ub^λ/U^λ. En raisonnant comme `a la fin de la preuve de la proposition 2.3, on peut remplacer Ub<sup>λ</sup>/U<sup>λ</sup> par bg<sup>λ</sup>/g<sup>λ</sup> ∼= (bg/g)<sup>λ</sup>. Cela signifie que Im(λ) est la composante neutre de l’intersection des noyaux de certains poids de T dans bg/g, ce qui ´equivaut `a l’admissibilit´e.

On peut `a pr´esent ´enoncer le r´esultat principal de cet expos´e :

Th´eor`eme 4.9. — On suppose que g ne contient aucun id´eal non nul de bg. Alors le cˆone C(G,G)b est l’ensemble des (ν,bν)∈C×Cb tels que

hν, wλi+hbν^∗,wλi ≤b 0

pour tout sous-groupe `a un param`etre λ de T, dominant et admissible, et pour tout (w,w)b ∈ W^P ×Wc^Pb tel que σ_w^P ∪i^∗(σ^Pb

wb) = σ_e^P dans H^∗(G/P), et que hρ, λ−wλi = hρ, λb +wλi.b

Preuve— Rappelons que le cˆone C(G,G) est convexe, rationnel et poly´b edral (d’apr`es le th´eor`eme 2.1) et d’int´erieur non vide dans Λ_R×Λb_R(corollaire 2.5). Par suite, il suffit d’´etablir l’´enonc´e pour les couples (ν,ν) de poids dominants r´b eguliers. Mais cela r´esulte du lemme 3.1, du th´eor`eme 3.9, de la proposition 4.6 et du lemme 4.8.

4.3. Le cˆone de Littlewood-Richardson

Rappelons qu’il s’agit du cˆone engendr´e par les triplets de poids dominants (λ, µ, ν) tels que (V(λ)⊗V(µ)⊗V(ν))^G6= 0 ; notons-le LR(G). On a pour tout (λ, µ, ν)∈C³ :

(λ, µ, ν)∈ LR(G)⇔(λ, µ, ν^∗)∈C(G, G×G)⇔0∈Kλ+Kµ+Kν o`u la seconde ´equivalence r´esulte du th´eor`eme 1.3.