Dans ce paragraphe, on suppose que les groupes G et H vérifient les conditions équivalentes du théorème (1.2.1). D’après le théorème (1.2.2), la restriction de la série discrète πG
g (g ∈ E )
à H se désintègre en somme directe hilbertienne de séries discrètes πH
h+χ+ρ′ de H (h = pg,h(g)),
chacune intervenant avec la multiplicité finie m(χ) qui est le cardinal de l’ensemble des α ∈ Nr
qui sont solution deP1≤j≤rαjδj = χ. Nous allons donner une formule pour ces multiplicités en
utilisant une formule d’Euler-MacLaurin pour les fonctions de partition introduite par Brion- Vergne [4] et [5] dont nous rappelons les détails.
III.5 Démonstration des résultats principaux. Volume des variétés réduites génériques et formule pour les multiplicités.
Si σ ∈ B, on note Sσ = ∩j∈σker δj, que l’on voit comme sous-groupe fini de R1, et on pose Fg,h = ∪σ∈BSσ.
Pour u ∈ r∗, ∂(u) désigne l’opérateur différentiel d’ordre 1 sur r∗ de dérivation selon le vecteur u : ∂(u)ϕ(x) = dtdϕ(x + tu)|t=0.
Pour a ∈ C, on considère la fonction développable en série entière au voisinage de 0
b A(a, z) := z ez2 − ae− z 2 = ∞ X k=0 c(a, k)zk.
Pour a ∈ C et u ∈ r∗, on définit l’opérateur A(a, (∂(u)) par la formueb
b
A(a, ∂(u)) = ∂(u)
e12∂(u)− ae− 1 2∂(u) = ∞ X k=0 c(a, k)∂(u)k.
C’est un opérateur différentiel d’ordre infini agissant sur l’espace des fonctions polynômes sur r∗. Pour t ∈ R1, on définit sur r∗ l’opérateur différentiel d’ordre infiniAbg,h en posant
b Ag,h(t) = r Y j=1 b A(δj(t)−1, ∂(δj)). (III.11)
Soit µ ∈ Cg,h, alors les chambres de Cg,h associées sont deux à deux disjointes [7, Proposition
1.53] et il existe une chambre C telle que µ ∈ C. De plus, Cgreg,h est la réunion des chambres de
Cg,h.
Si µ ∈ Cgreg,h, on note Vg,h(µ) le volume de la variété réduite (orbifold symplectique) Xh+µ
(ce volume ne dépend pas de g ∈ E ). Théorème 5.3.1.
1. Soit C une chambre de Cg,h. Alors l’application
C → R µ 7→ Vg,h(µ)
2. Soit g ∈ E une forme linéaire admissible et h = g|h. Soit ℓ′ un lagrangien R-invariant positif de ((uh/z)B)C et soit ρ′ la forme linéaire sur r telle que iρ′ = 1
2Tr adℓ′. Soient χ ∈ Rb tel que χ ∈ Cg,h et C une chambre de Cg,h telle que χ ∈ C. Alors la multiplicité m(χ) de la
représentation πH
h+χ+ρ′ dans la restriction de la série discrète πgG à H est donnée par
m(χ) = X
t∈Fg,h
χ(t)Abg,h(t)Vg,h,C(χ + ρ′). (III.12)
Démonstration.
1. Ce résultat est énoncé dans [4, proposition1] pour µ 7→ vol(Pµ). Compte tenu du théorème
5.2.3 et de l’assertion (2 − iii) de la proposition5.2.1 le résultat est immédiat.
2. Ceci résulte des formules (III.1), (III.5) et du paragraphe 3.5 de [5, corollaire1] faisant inter- venir le genre Todd avec Toddg,h(t) =Abg,h(t)e∂ρ′.
Remarque. Utilisant la paramétrisation d’Auslander-Kostant [2] pour la réalisation des séries discrètes de G, on peut donner une formule, pour les multiplicités des séries discrètes qui interviennent dans la restriction à H, similaire à (III.12) et faisant intervenir le genre Todd.
Bibliographie
[1] M. Audin – Torus actions on symplectic manifolds, Progress in Mathematics, Birkhäuser Verlag, Basel, 2004, 93, revised. 57
[2] L. Auslander et B. Kostant – « Polarization and unitary representations of solvable Lie groups », Invent. Math. 14 (1971), p. 255–354. 48,66
[3] P. Bernat, N. Conze, M. Duflo, M. Lévy-Nahas, M. Raïs, P. Renouard et M. Vergne – Représentations des groupes de Lie résolubles, Dunod, Paris, 1972, Mono- graphies de la Société Mathématique de France, No. 4. 47
[4] M. Brion et M. Vergne – « Une formule d’Euler-Maclaurin pour les fonctions de par-
tition », C. R. Acad. Sci. Paris Sér. I Math. 322 (1996), no. 3, p. 217–220. 39, 57, 64, 66
[5] — , « Residue formulae, vector partition functions and lattice points in rational polytopes »,
J. Amer. Math. Soc. 10 (1997), no. 4, p. 797–833. 39, 64, 66
[6] L. Corwin et F. P. Greenleaf – « Spectrum and multiplicities for restrictions of unitary representations in nilpotent Lie groups », Pacific J. Math. 135 (1988), no. 2, p. 233– 267. 35
[7] C. De Concini et C. Procesi – Topics in hyperplane arrangements, polytopes and box-
splines, Universitext, Springer, New York, 2011. 57, 60,65
[8] J. Dixmier – Algèbres enveloppantes, Les Grands Classiques Gauthier-Villars. [Gauthier- Villars Great Classics], Editions Jacques Gabay, Paris, 1996, Reprint of the 1974 original. 41
[9] M. Duflo – « Construction de représentations unitaires d’un groupe de Lie », Harmonic analysis and group representations, Liguori, Naples, 1982, p. 129–221. 36, 37, 41,46, 47 [10] — , « Théorie de Mackey pour les groupes de Lie algébriques », Acta Math. 149 (1982),
[11] M. Duflo et M. Vergne – « Une propriété de la représentation coadjointe d’une algèbre de Lie », C. R. Acad. Sci. Paris Sér. A-B 268 (1969), p. A583–A585. 41
[12] J. J. Duistermaat et G. J. Heckman – « On the variation in the cohomology of the symplectic form of the reduced phase space », Invent. Math. 69 (1982), no. 2, p. 259–268. 61, 64
[13] H. Fujiwara – « Sur les restrictions des représentations unitaires des groupes de Lie
résolubles exponentiels », Invent. Math. 104 (1991), no. 3, p. 647–654. 35
[14] V. Guillemin – « Kaehler structures on toric varieties », J. Differential Geom. 40 (1994), no. 2, p. 285–309. 61
[15] — , « Riemann-Roch for toric orbifolds », J. Differential Geom. 45 (1997), no. 1, p. 53–73. 61
[16] S. Kouki – « La conjecture de Duflo pour les groupes résolubles exponentiels », C. R.
Math. Acad. Sci. Paris 348 (2010), no. 13-14, p. 735–738. 49
[17] G. Lion et M. Vergne – The weil representation, maslov index and theta series, Progress in Mathematics, 6. Birkhäuser Boston, Mass, 1980. 36
[18] R. L. Lipsman – « Restricting representations of completely solvable Lie groups », Canad.
J. Math. 42 (1990), no. 5, p. 790–824. 35
[19] R. L. Lipsman – « Orbital parameters for induced and restricted representations », Trans.
Amer. Math. Soc. 313 (1989), no. 2, p. 433–473. 35
[20] D. Shale – « Linear symmetries of free boson fields », Trans. Amer. Math. Soc. 103 (1962), p. 149–167. 46
[21] P. Torasso – « Sur le caractère de la représentation de Shale-Weil de Mp(n, R) et Sp(n, C) », Math. Ann. 252 (1980), no. 1, p. 53–86. 45
[22] J. Vargas – « Restrictions of some unitary representations of SU(n, 1) to U(n − 1, 1) »,
Soit G un groupe de Lie résoluble connexe et H un de ses sous-groupes fermés connexes d’algèbres de Lie g et hrespectivement. On note g∗(resp. h∗) le dual linéaire de g (resp. h). Le sujet de ma thèse consiste à étudier la
restriction d’une série discrète π de G, associée à une orbite coadjointe Ω ⊂ g∗, à H. Si la restriction de π à H
se décompose en somme directe de représentations de H avec multiplicités finies, on dit que π est H-admissible. Notons pg,h: Ω → h
∗l’application restriction. Il s’agit de démontrer la conjecture suivante due à Michel Duflo :
1. La représentation π est H-admissible si et seulement si l’application moment pg,hest propre sur l’image.
2. Si π est H-admissible, et si τ est une série discrète de H alors sa multiplicité dans la restriction de π à
H doit pouvoir se calculer en « quantifiant »l’espace réduit correspondant (qui est compact dans ce cas). Dans cette thèse, nous apportons une réponse positive à cette conjecture dans deux situations, à savoir : (i) Le groupe G est résoluble exponentiel.
(ii) Le groupe G est le produit semi direct d’un tore compact par le groupe de Heisenberg et H est un sous- groupe algébrique connexe.
Mots clés : Résoluble, série discrète, admissible, propre, espace réduit.
Let G be a connected solvable Lie group and H a closed connected subgroup with Lie algebra g and h respectively. We denote g∗ (resp. h∗) the dual of g (resp. h). The aim of my thesis is to study the restriction of a discrete
series π of G, associated with a coadjoint orbit Ω ⊂ g∗to H. If the restriction of π to H can be decomposed into
a direct sum of representations of H with finite multiplicities, we say that π is H-admissible. Let pg,h: Ω → h
∗
denote the restriction map. My objective is to show the following conjecture due to Michel Duflo :
1. The representation π is H-admissible if and only if the moment application pg,his proper on the image.
2. If π is H-admissible, and if τ is a discrete series of H then its multiplicity in the restriction of π to H must be calculated by « quantifying » the corresponding reduced space (that is compact in this case). In this thesis, we provide a positive response to this conjecture in two situations, namely when :
(i) G is exponential solvable Lie group.
(ii) G is the semi direct product of a compact torus and the Heisenberg group and H is a connected algebraic subgroup.