Ellipsoides complexes

d et les points de la variétéF

¯^d. On notera plus simplement F la variété des drapeaux complets. Notons queF = U(n)/_Tn, où_Tn = U(1)× · · · ×U(1) est le tore maximal de U(n) formé des matrices unitaires diagonales.

Remarque 3.2.3. En particulier, d’après la proposition 3.1.1, les orbites coadjointes deH(n) sont difféomorphes à des variétés de drapeaux dans_Cⁿ dont la signature est déterminée par la multiplicité des valeurs de

¯^{λ. Notamment les orbites} géné-riques sont difféomorphe à la variété des drapeaux complets de _Cn.

3.2.2. Ellipsoides complexes

Soit V un espace hermitien, c’est-à-dire un espace vectoriel complexe de dimen-sion finie muni d’un produit scalaire hermitien h· | ·i 1. Rappelons ici quelques définitions.

Définition 3.2.4. Si V₁, V₂ sont deux espaces hermitiens et α : V₁ → V₂ une application linéaire, alors

— on appelle adjoint de α l’unique application linéaire α^∗ :V₂ →V₁ vérifiant ∀v₁ ∈V₁, ∀v₂ ∈V₂, hα(v₁)|v₂i_V2 =hv₁ |α^∗(v₂)i_V1,

— on dit que α est unitaire si elle préserve les produit hermitiens :

∀v₁, v₁⁰ ∈V₁, hα(v₁)|α(v₁⁰)i_V2 =hv₁ |v⁰₁i_V1,

ou de manière équivalente, si α^∗◦α= id_V1.

— lorsque V₁ =V₂ =V, on dit que l’endomorphismeα esthermitien (ou auto-adjoint) si

∀v, v⁰ ∈V, hα(v)|v⁰i=hv |α(v⁰)i,

c’est-à-dire siα^∗ =α.

Ellipsoïde complexe

Un opérateur α :V →V hermitien est toujours diagonalisable en base orthonor-mée, c’est-à-dire qu’il existe une base orthonormée (u₁, . . . , u_k) deV telle que pour

1On prend ici la convention qu’un produit hermitien est linéaire en la première variable et conjugue la seconde variable, c’est-à-dire que pour tousv₁, v₂∈V etλ, µ∈_C,hλv₁|µv₂i=

λµ¯hv₁|v₂i. 80

3.2. Interprétation géométrique des fibres

tout 1 ≤ i ≤ k, α(u_i) = γ_iu_i. De plus, ses valeurs propres γ₁, . . . , γ_k sont réelles. Ainsi, pour tout v =x₁v₁+· · ·+x_kv_k, on a

hα(v)|vi= 1 ⇐⇒ γ₁|x₁|2+· · ·+γ_k|x_k|2 = 1.

Par analogie avec le cas euclidien (réel), on pose la définition suivante.

Définition 3.2.5. On appelleellipsoïde complexe (de dimensionk−1) dansV un sous-ensemble de la forme

E_α ={v ∈V | hα(v)|vi= 1}

avec α : V → V un opérateur hermitien défini positif (c’est-à-dire dont toutes les valeurs propres sont strictement positives, ou de manière équivalente, tel que hα(v)|vi>0 pour tout v ∈V \ {0}).

Si (v₁, . . . , v_k) est une base de vecteurs propres de α et γ₁, . . . , γ_k les valeurs propres associées, on dira que les droites vectorielles_Cv₁, . . . ,_Cv_k sont des axes de l’ellipsoïde E_α, et les valeurs 1/√

γ₁, . . . ,1/√

γ_k sesrayons.

Lorsque V = _Ck et A ∈ H(k) est une matrice hermitienne définie positive, on notera

E_A ={x∈_C^k | hAx|xi= 1}

l’ellipsoïde complexe associé à l’opérateur hermitien dont la matrice dans la base canonique est A.

Donnons quelques propriétés élémentaires des ellipsoïdes complexes.

Proposition 3.2.6. Soient α, β deux opérateurs hermitiens définis positifs sur V, et φ :V →W un opérateur unitaire. Alors :

(3.2.6.a) pour tout v ∈V \ {0}, il existe t >0 tel que tv ∈E_α, (3.2.6.b) E_α =E_β si et seulement si α=β,

(3.2.6.c) φ(Eα) = Eφ◦α◦φ∗,

(3.2.6.d) lorsque V =W, φ préserve E_α si et seulement si φ commute avec α.

Démonstration. Soit v ∈ V \ {0}. Comme α est défini positif, t = 1/^qhα(v)|vi est bien défini et on a

hα(tv)|tvi=t²hα(v)|vi= 1,

d’où la propriété (3.2.6.a). Si de plus E_α = E_β, alors tv satisfait aussi hβ(tv) |

tvi= 1, d’où

3. Le système de Gelfand–Cetlin sur les orbites coadjointes de U(n)

Ainsi h(β −α)(v) | vi = 0 pour tout v ∈ V. Or β − α est encore hermitien, donc diagonalisable, mais la condition précédente implique que toutes ses valeurs propres sont nulles. On trouve donc β −α = 0, d’où la propriété (3.2.6.b). La propriété (3.2.6.c) découle de la relation

hφ◦α◦φ^∗(φ(v))|φ(v)i=hφ(α(v))|φ(v)i=hα(v)|vi

satisfaite pour tout v ∈V, utilisant que φ est unitaire. La propriété (3.2.6.d) est une conséquence de (3.2.6.b) et (3.2.6.c).

Intéressons-nous maintenant à l’intersection d’un ellipsoïde complexe de V et un sous-espace vectoriel de V.

Proposition 3.2.7. Soient E_α un ellipsoïde complexe dans V, et W₁, W₂ deux sous-espaces vectoriels de V. Alors :

(3.2.7.a) Eα ∩W1 est un ellipsoïde complexe dans W1 : il existe un opérateur hermitien β :W₁ →W₁ défini positif tel que

E_α∩W₁ =E_β,

(3.2.7.b) en particulier, si V =_Cn, W₁ =_Ck∩ {0}n−k et A ∈ H(n) est définie positive, alors

E_A∩W₁ =E_Ak

où A_k est la sous-matrice supérieure gauche de taille k de A, (3.2.7.c) E_α∩W₁ =E_α∩W₂ si et seulement si W₁ =W₂.

Démonstration. Commençons par démontrer (3.2.7.b). Pour cela, il suffit de re-marquer qu’en notanti:_Ck→_Cn l’inclusion canonique, d’image _Ck× {0}n−k, on a pour tout x∈_Ck,

hAi(x)|i(x)i_Cn =hA_kx|xi_Ck.

Ensuite, pour démontrer (3.2.7.a) on se ramène au cas précédent en choisissant une application unitaire φ : _Cn → V telle que φ(_Ck× {0}n−k) = W. Soit A ∈ H(n) la matrice de φ^∗ ◦α ◦φ dans la base canonique. D’après la propriété (3.2.6.c),

E_α = φ(E_A). De même si on pose β : W → W par β(x) = φ(A_kφ(x)), on a

Eβ =φ(EA_k). Ainsi,

E_α∩W =φ(E_A∩(_C^k× {0}n−k)) =φ(E_Ak) = E_β.

Reste à montrer (3.2.7.c). Soit w ∈ W₁. D’après (3.2.6.a), il existe t > 0 tel que

tw ∈E_α. Si E_α∩W₁ =E_α∩W₂, alors tw, et donc w, appartiennent aussi à W₂. AinsiW₁ ⊂W₂, et par argument de symétrie, W₁ =W₂.

3.2. Interprétation géométrique des fibres

Drapeau d’ellipsoïdes

Les propriétés que l’on vient d’énoncer motivent les définitions suivantes.

Définition 3.2.8. On appelledrapeau d’ellipsoïdes dans_Cⁿun triplet (E^•, V^•, A) où :

— V^• :V¹ ⊂ · · · ⊂V^k est un drapeau (d’espaces vectoriels) dans _Cⁿ, — A∈ H(n) est une matrice hermitienne définie positive de taille n,

— E^• :E1 ⊂ · · · ⊂E^kest la suite strictement croissante d’ellipsoïdes complexes définie par Eⁱ =EA∩Vⁱ pour tout 1≤i≤k.

On appelle signature de (E^•, V^•, A) la signature du drapeau V^•, et on dit que (E^•, V^•, A) est complet lorsque V^• est complet.

Par la suite, on noteraE^• =E_A∩V^•, ou même parfois plus simplement E^•, au lieu de (E^•, V^•, A).

Définition 3.2.9. Soit (E^•, V^•, A) un drapeau d’ellipsoïdes complet dans _Cn. D’après la propriété (3.2.7.a), pour tout 1≤k≤n on aE^k =E_αk oùα_k :V^k→

Vk est un opérateur hermitien défini positif. On dira que le drapeau d’ellipsoïdes

E^• est défini par la famille α• = (α₁, . . . , α_n).

On appelle valeurs propres de (E^•, V^•, α) la famille (ordonnée)

Γ(E^•) ={Γ_i,j(E^•)|1≤i≤j ≤n}

où pour tout 1 ≤ j ≤ n, Γ_1,j(E^•) ≥ · · · ≥ Γ_j,j(E^•) sont les valeurs propres de

αj :V^j →V^j.

Lien avec les fibres du système de Gelfand–Cetlin

En particulier, soit V_std^• ledrapeau complet standard dans _Cn, défini par ∀1≤k ≤n, V_std^k =_C^k× {0}^n−k.

Soit A ∈ H(n) définie positive, et ¯

λ son spectre. Considérons le drapeau d’ellip-soïdes E_A^• =E_A∩V_std^• . D’après (3.2.7.b), pour tout 1≤k ≤n on a Ek

A =E_Ak où

Ak est la sous-matrice supérieure gauche deA de taille k×k. Ainsi, Γ(E_A^•) = Γ(E_A∩V_std^• ) = {γ_i,j(A)|1≤i≤j ≤n}=F

¯

λ(A)

oùγ_i,j sont les fonctions valeurs propres définies précédemment. On en déduit que les fibres du système de Gelfand–Cetlin F_λ :O(λ)→_RN peuvent s’écrire

F⁻¹

¯

3. Le système de Gelfand–Cetlin sur les orbites coadjointes de U(n)

Fixons maintenant C ∈U(n) telle que A=p(C) = CD

¯

λC^∗. Soit ϕ_C :_Cn→_Cn

l’application unitaire définie parϕ_C(x) = C^∗x. D’après (3.2.6.c), ϕ_C envoie l’ellip-soïdeE_A sur l’ellipsoïdeE_D

¯^λ

. Plus précisément,ϕ_C envoie le drapeau d’ellipsoïdes

E_A^• sur le drapeau d’ellipsoïdes ˆE_C^• = E_D

¯

λ∩V_C^•, où V_C^• est le drapeau (d’espaces vectoriels) défini par

∀1≤k ≤n, V_C^k =ϕ_C(V_std^k ).

On vérifie aisément que V_C^• peut être défini par la base orthonormale formée des colonnes de C^∗. Autrement dit, si on note q : U(n)→ F = U(n)/_Tn la projection naturelle, on aV_C^• =q(C^∗). De plus, les drapeaux d’ellipsoïdesE_A^• et ˆE_C^• =ϕ_C(E_A^•) ont évidemment mêmes valeurs propres. Ainsi, si on définit l’application

Γ ¯ λ : F −→ _RN V^• 7−→ Γ(E_D ¯ λ∩V^•) alors on a Γ ¯ λ(V_C^•) = Γ( ˆE_C^•) = Γ(E_A^•) = F

¯^λ(A). On est alors tenté d’identifier la fibre F⁻¹ ¯ λ (c) avec la fibre Γ⁻¹ ¯ λ (c) ={V^• ∈ F |Γ(E_D ¯ λ∩V^•) = c},

via une identification plus générale entreH(n) et F induite par le procédé précé-dent : à une matrice A ∈ H(n) on associe le drapeau ϕ_C(V_std^• ) =q(C^∗), où C est une matrice unitaire telle que A = CD

¯^λC^∗. Toutefois, cette dernière correspon-dance n’est pas bien définie, comme illustré sur la figure 3.2 :

1. d’une part, si C₁, C₂ ∈U(n) sont deux diagonalisations d’une même matrice

A, c’est-à-dire siA=C₁D

¯

λC₁^∗ =C₂D

¯

λC₂^∗, alors les drapeauxq(C₁^∗) etq(C₂^∗) ne sont pas nécessairement égaux,

2. d’autre part, deux matrices diagonalisées A = C₁D

¯

λC₁^∗ et A⁰ = C₃D

¯^λC₃^∗

différentes peuvent donner un même drapeauV^• =q(C₁^∗) = q(C₃^∗).

Plus précisément, cette obstruction peut être lue sur le diagramme donné en figure 3.3. Bien que ce diagramme soit commutatif, l’involution t : U(n)→ U(n) définie par t(C) = C^∗ ne préserve pas les fibres des fibrés principaux p : U(n) → O(

¯

λ) et q : U(n) → F, et ne peut donc pas induire une application bien définie ¯

t:O(

¯^λ)→ F.

Toutefois, l’involutiont préserve les fibres des applicationsF

¯^λ◦pet Γ ¯ λ◦q, et on aura l’identification F⁻¹ ¯ λ (c) =pt(Γ ¯ λ◦q)⁻¹(c)

(voir corollaire 3.3.21). Une première étape est donc de déterminer (Γ

¯

λ ◦q)⁻1(c) pour toute valeurc∈_RN vérifiant les inégalités du diagramme de Gelfand–Cetlin,

3.2. Interprétation géométrique des fibres

A=C₁DC₁^∗ =C₂DC₂^∗ _V• = [C₁^∗] = [C₃^∗]

A⁰=C₃DC₃^∗ =C₄DC₄^∗ _V• = [C₂^∗] = [C₄^∗]

Figure ^{3.2. : Obstruction à une correspondance naturelle entre les fibres}

F⁻¹ ¯^λ (c)⊂ H(n) et Γ⁻¹ ¯ λ (c)⊂ F. U(n) U(n) O(λ) F R^N p ∼ t q F_λ Γλ

Figure ^{3.3. : Lien entre le système de Gelfand–Cetlin F}

3. Le système de Gelfand–Cetlin sur les orbites coadjointes de U(n)

c’est l’objectif de la prochaine section.

3.3. Géométrie des drapeaux d’ellipsoïdes de valeurs

Dans le document Géométrie et topologie de systèmes dynamiques intégrables (Page 81-87)