I. Fibres singulières de systèmes Hamiltoniens intégrables 41
3.3. Géométrie des drapeaux d’ellipsoïdes de valeurs propres fixées
3.3.1. Groupe de symétrie d’un drapeau d’ellipsoïde
λ = (λ1 ≥ · · · ≥ λn ≥0) un spectre réel positif, non-nécessairement générique. On noteD=D
¯λla matrice diagonale de coefficients diagonauxλ1, . . . , λn, et ED l’ellipsoïde complexe associé.
3.3.1. Groupe de symétrie d’un drapeau d’ellipsoïde
SoitV• un drapeau complet dansCn, etE• =ED∩V• le drapeau d’ellipsoïdes ob-tenu en prenant l’intersection du drapeauV• avec l’ellipsoïde « standard » associé à
¯
λ. On note α• = (α1, . . . , αn) la famille d’opérateurs hermitiens définis positifs qui définit le drapeau d’ellipsoïdes E•, c’est-à-dire telle que pour tout 1≤k ≤n,
Ek=Eαk est l’ellipsoïde complexe dansVkdéfini par l’opérateurαk:Vk →Vk, et
c= Γ(E•) les valeurs propres deE•, c’est-à-dire les valeurs propres des opérateurs de la famille α•.
Commençons par étudier séparément, pour tout 1 ≤ k ≤ n, le groupe de sy-métrie Gk ⊂ U(Vk) des transformations unitaires préservant l’ellipsoïde Ek. On utilisera le résultat suivant :
Lemme 3.3.1. Soit V un espace hermitien, α : V → V un opérateur hermitien sur V, et
V =W1⊕ · · · ⊕Wr
la décomposition de V en les sous-espaces propres de α.
Alors le sous-groupe de U(V)formé des opérateurs unitaires qui commutent avec
α est exactement
G= U(W1)⊕ · · · ⊕U(Wr).
Remarque 3.3.2. Dans l’expression ci-dessus, on utilise la décomposition induite
End(V) = M
1≤i,j≤r
End(Wi, Wj).
En particulier, par
ϕ=ϕ1⊕ · · · ⊕ϕr ∈U(W1)⊕ · · · ⊕U(Wr) on désignera l’unique opérateur unitaire ϕ:V →V tel que
ϕ(v) =ϕ1(v1)⊕ · · · ⊕ϕr(vr)
3.3. Géométrie des drapeaux d’ellipsoïdes de valeurs propres fixées
pour tout v =v1⊕ · · · ⊕vr ∈V =W1⊕ · · · ⊕Wr.
Démonstration. Soit ϕ ∈ U(V). Supposons que ϕ commute avec α. Alors pour tout vecteur propre vi ∈Wi associé à la valeur propre λi deα, on a
α(ϕ(vi)) =ϕ(α(vi)) =λiϕ(vi),
donc ϕ(vi) appartient à Wi. Ainsi, ϕ se décompose en
ϕ=ϕ1⊕ · · · ⊕ϕr
avec pour tout 1 ≤ i ≤ r, ϕi ∈ End(Wi). De plus, ϕ étant unitaire, pour tous
vi, vi0 ∈Wi, on a
hϕi(vi)|ϕi(v0i)i=hϕ(vi)|ϕ(v0i)i=hvi |vi0i,
donc ϕi est elle-même unitaire.
On en déduit la proposition suivante :
Proposition 3.3.3. Le sous-groupe des transformations unitaires de Vk qui pré-servent l’ellipsoïde Ek est
Gk = U(W1)⊕ · · · ⊕U(Wr)
où W1, . . . , Wr sont les sous-espaces propres de αk. On peut supposer ces espaces indexés de sorte que les valeurs propres correspondantes soient dans l’ordre dé-croissant. Dans ce cas, chaque Wi a dimension ni, déterminée par
c1,k =· · ·=cd1,k | {z } n1 > cd1+1,k =· · ·=cd2,k | {z } n2 >· · ·> cdr−1+1,k =· · ·=cdr,k | {z } nr
(égalités « horizontales » dans le diagramme de Gelfand–Cetlin).
Démonstration. D’après la propriété (3.2.6.d), un opérateur ϕ ∈ U(Vk) préserve l’ellipsoïdeEk =Eαk si et seulement s’il commute avecαk. Il suffit alors d’appliquer le lemme 3.3.1 pour obtenir l’expression de Gk. Les nombres
c1,k ≥ · · · ≥ck,k
étant par définition les valeurs propres de αk comptées avec leur multiplicité, et la dimension d’un sous-espace propre étant égale à la multiplicité de la racine correspondante (puisque αk est diagonalisable), on a bien
3. Le système de Gelfand–Cetlin sur les orbites coadjointes de U(n)
soit le nombreni défini dans la proposition.
On va maintenant s’intéresser au sous-groupeHk+1 deGk+1formé des opérateurs unitaires de Vk+1 préservant à la fois Ek+1 et Ek (ou de manière équivalente, préservant à la fois Ek+1 et Vk), et à son sous-groupe Hk0+1 formé de ces derniers opérateurs qui sont de plus l’identité sur le supplémentaire orthogonal deVk dans
Vk+1.
Lemme 3.3.4. Soit Lk le supplémentaire orthogonal de Vk dans Vk+1. Fixons
`k ∈Lk un générateur unitaire de Lk et posons
αk+1(`k) =w⊕a`k
avec w∈Vk et a∈C. Alors pour tout v ∈Vk, on a
αk+1(v) = αk(v)⊕ hv |wi`k.
Démonstration. En utilisant la décompositionVk+1 =Vk⊕Lk, posons pour tout
v ∈Vk,
αk+1(v) =β(v)⊕λ(v)`k
avecβ :Vk →Vk etλ :Vk →C linéaires. Comme Vk et Lk sont orthogonaux et
αk+1 est auto-adjoint, on a pour tout v ∈Vk,
λ(v) =hαk+1(v)|`ki=hv |αk+1(`k)i=hv |wi.
De plus, pour toutv ∈Vk on a
hαk+1(v)|vi=hβ(v)|vi
d’où Eαk+1 ∩Vk =Eβ. Or par définition du drapeau E• et de la famille α•, on a aussi Eαk+1∩Vk=Eαk, ainsi d’après la propriété (3.2.6.b), β =αk.
Proposition 3.3.5. Soit Vk = W1 ⊕ · · · ⊕Wr la décomposition de Vk en les sous-espaces propres de αk, et
Vk+1 =W1⊕ · · · ⊕Wr⊕Lk
la décomposition induite sur Vk+1, où Lk désigne le supplémentaire orthogonal de
Vk dans Vk+1. Pour tout 1 ≤ i ≤ r, notons projWi : Vk+1 → Wi la projection orthogonale sur le facteur Wi. Alors :
— le sous-groupe Hk+1 des opérateurs unitaires sur Vk+1 qui préservent à la fois Ek+1 et Ek est l’ensemble des éléments
ϕ1⊕ · · · ⊕ϕr⊕ξ.idLk ∈U(W1)⊕ · · · ⊕U(Wr)⊕U(Lk) (3.3.6)
3.3. Géométrie des drapeaux d’ellipsoïdes de valeurs propres fixées
vérifiant pout tout 1≤i≤r,
∀wi ∈projWi(αk+1(Lk)), ϕi(wi) = ξwi. (3.3.7)
— le sous-groupe Hk0+1 des opérateurs unitaires sur Vk+1 qui préservent à la fois Ek+1 et Ek, et dont la restriction à Lk est l’identité, est l’ensemble des éléments de Hk+1 tels que ξ= 1 dans l’expression (3.3.6).
Démonstration. Fixons `k un générateur unitaire de Lk et posons
αk+1(`k) =w1⊕ · · · ⊕wr⊕a`k∈Vk+1 =W1⊕ · · · ⊕Wr⊕Lk.
D’après le lemme 3.3.4, pour tout vi ∈Wi on a
αk+1(vi) = αk(vi)⊕ hvi |w1⊕ · · · ⊕wri`k =µi,kvi⊕ hvi |wii`k
oùµi,k est la valeur propre de αk associée au sous-espace propreWi. Remarquons que, si wi dépend du choix de `k ∈Lk, en revanche le sous-espace Cwi peut être défini intrinsèquement comme l’espace projWi(αk+1(Lk)).
Soit φ ∈U(Vk+1). Supposons que φ préserveEk ⊂ Vk. Alors d’après la propo-sition 3.3.3, φ est de la forme
φ=φ1⊕ · · · ⊕φr⊕ξ.idLk
avec φi ∈ U(Wi) pour tout 1 ≤ i ≤ r et ξ ∈ U(1). De plus, d’après la pro-priété (3.2.6.d), φ préserve Ek+1 si et seulement s’il commute avec αk+1.
Pour toutvi ∈Wi on a αk+1(φ(vi)) =µi,kφi(vi)⊕ hφi(vi)|wii`k=µi,kφi(vi)⊕ hvi |φ∗i(wi)i`k, φ(αk+1(vi)) =µi,kφi(vi)⊕ hvi |wiiξ`k =µi,kφi(vi)⊕ hvi |ξw¯ ii`k. De plus, αk+1(φ(`k)) =αk+1(ξ`k) = ξw1⊕ · · · ⊕ξwr⊕ξa`k, φ(αk+1(`k)) =φ(w1⊕ · · · ⊕wr⊕a`k) =φ1(w1)⊕ · · · ⊕φr(wr)⊕ξa`k.
Ainsi, φ préserve Ek+1 si et seulement si pour tout 1≤ i≤n, φi(wi) =ξwi, d’où la condition (3.3.7).
De plus, il est clair qu’un tel φ ∈ Hk+1 est l’identité sur Lk si et seulement si
ξ = 1.
Remarque 3.3.8. Il peut arriver que projWi(αk+1(Lk)) soit réduit à zéro (c’est-à-dire que Wi soit orthogonal à αk+1(Lk)), et donc que la condition (3.3.7) soit
3. Le système de Gelfand–Cetlin sur les orbites coadjointes de U(n)
trivialement vérifiée. Dans ce cas, en reprenant la preuve précédente, on vérifie que pour toutwi ∈Wi, on a
αk+1(wi) =αk(wi)⊕0.
Ainsi, la valeur propre deαkassociée à l’espace Wi est aussi valeur propre deαk+1, il y a donc une égalité « verticale » dans le diagramme de Gelfand–Cetlin.
Par contraposée, s’il n’y a pas d’égalité verticale au niveau de la valeur propre associée àWi dans le diagramme de Gelfand–Cetlin, alors projWi(αk+1(Lk)) est de dimension 1.
Toutefois la réciproque est fausse : il peut y avoir égalité verticale dans le dia-gramme de Gelfand–Cetlin sans que projWi(αk+1(Lk)) = {0} pour le sous-espace propreWi correspondant (c’est le cas par exemple dans la section 3.4.2).
Remarque 3.3.9. Toujours avec les notations de la proposition 3.3.5, si pour tout 1 ≤ i ≤ r on note Wi0 le supplémentaire orthogonal de Wi00 = projWi(αk+1(Lk)) dans Wi, alors le groupe Hk+1 est l’ensemble des éléments de la forme
φ= (φ01⊕ξ.idW00
1)⊕ · · · ⊕(φ0r⊕ξ.idW00
r)⊕ξ.idLk pour la décomposition
U(Vk+1) = (U(W10)⊕U(W100))⊕ · · · ⊕(U(Wr0)⊕U(Wr00))⊕U(Lk).
En particulier on a les difféomorphismes
Hk+1 ≈U(W10)× · · · ×U(Wr0)×U(1), Hk0+1 ≈U(W10)× · · · ×U(Wr0) où chaque Wi0 a codimension au plus 1 dans Wi.
Définition 3.3.10. On appelle groupe de symétrie grossier du drapeau d’ellip-soïdes E• le groupe produit
G(E•) =G1× · · · ×Gn
où pour tout 1 ≤ k ≤ n, Gk est le groupe des transformations unitaires de Vk
préservant l’ellipsoïde Ek.
Considérons aussi H0(E•)< H(E•)< G(E•) les sous-groupes
H0(E•) =H10 × · · ·Hn0 et H(E•) =H1× · · ·Hn
où pour tout 1≤k≤n,Hk0 etHk sont les sous-groupes définis dans la proposition 3.3.5.
On appelle espace de symétrie réduit du drapeau d’ellipsoïdes E• la variété
3.3. Géométrie des drapeaux d’ellipsoïdes de valeurs propres fixées
quotient
S(E•) = G(E•)/H0(E•)
pour l’action (à droite) propre et libre de H0(E•) sur G(E•) définie par
φ·f =(f2−1)|V1
V1 ◦φ1◦f1, . . . , (fn−1)|Vn−1
Vn−1 ◦φn−1◦fn−1, φn◦fn (3.3.11) pour tout φ= (φ1, . . . , φn)∈G(E•) et f = (f1, . . . , fn)∈H0(E•).