T
T
H
H
È
È
S
S
E
E
En vue de l'obtention du
D
D
O
O
C
C
T
T
O
O
R
R
A
A
T
T
D
D
E
E
L
L
’
’
U
U
N
N
I
I
V
V
E
E
R
R
S
S
I
I
T
T
É
É
D
D
E
E
T
T
O
O
U
U
L
L
O
O
U
U
S
S
E
E
Délivré par l'Université Toulouse III - Paul Sabatier Discipline ou spécialité : MATHEMATIQUES
JURY
GAVRILOV Lubomir, Professeur des Universités, Université Paul Sabatier, France. LE Hong Van, Professeur des Universités, Mathematical Institute of ASCR, Rép. Tchèque. MIRANDA Eva, Chercheur Juan de la Cierva, Universitat Autònoma de Barcelona, Espagne.
NGUYEN Tien Zung, Professeur des Universités, Université Paul Sabatier, France. VANHAECKE Pol, Professeur des Universités, université de Poitiers, France.
Ecole doctorale : M.I.T.T. Ecole Doctorale Mathématiques Informatique Télécommunications de Toulouse.
Unité de recherche : Laboratoire Emile Picard, Institut de Mathématiques de Toulouse (IMT), CNRS - UMR5219.
Directeur(s) de Thèse : Prof. NGUYEN Tien Zung. Rapporteurs : Pol Vanhaecke, Eva Miranda.
Présentée et soutenue par ALAMIDDINE Iman Le 10 /Juillet/ 2009
Titre : Géométrie de systèmes Hamiltoniens intégrables : Le cas du système de Gelfand-Ceitlin
THÈSE
En vue de l’obtention duDOCTORAT DE L’UNIVERSITÉ DE TOULOUSE
Délivré par l’Université Toulouse III - Paul Sabatier Discipline ou spécialité : MATHEMATIQUES
Présentée et soutenue par ALAMIDDINE Iman
Le 10 / Juillet / 2009
Titre : Géométrie de systèmes hamiltoniens intégrables :
Le cas du système de Gelfand-Ceitlin.
JURY
GAVRILOV Lubomir, Professeur des Universités, Université Paul Sabatier, France. LE Hong Van, Professeur des Universités, Mathematical Institute of ASCR, Répu-blique Tchèque.
MIRANDA Eva, Chercheur Juan de la Cierva, Universitat Autònoma de Barce-lona, Espagne.
NGUYEN Tien Zung, Professeur des Universités, Université Paul Sabatier, France. VANHAECKE Pol, Professeur des Universités, université de Poitiers, France.
Ecole doctorale : M.I.T.T. Ecole Doctorale Mathématiques Informatique
Télé-communications de Toulouse.
Unité de recherche : Laboratoire Emile Picard, Institut de Mathématiques de
Tou-louse (IMT), CNRS - UMR5219
Directeur de Thèse : Prof. NGUYEN Tien Zung. Rapporteurs : Pol Vanhaecke, Eva Miranda.
Remerciements
Je tiens tout d’abord à remercier le directeur de cette thèse, M. NGUYEN Tien Zung. Je serai pour toujours reconnaissante.
M. Pol VANHAECKE et Mme. Eva MIRANDA ont très gentillement accepté d’être les rapporteurs de cette thèse, je les remercie, de même pour m’avoir fait l’honneur de participer au Jury. Toute ma gratitude s’adresse également à M. Lu-bomir GAVRILOV qui m’a fait l’honneur de présider mon jury de thèse et à Mme. LE Hong Van d’avoir accepter d’être un examinateur et de participer au jury de soutenance.
Je profiterai pour remercier Eva Miranda, pour son intérêt pour mon travail, ses encouragements. Je garde notamment un excellent souvenir des centaines des heures passées ensemble, j’ai beaucoup apprécié ta façon d’enseigner et ta perso-nalité distinguée. Merci ma confidente des moments difficiles.
Je tiens aussi à mentionner le plaisir que j’ai eu à travailler avec Tara S. Holm en Juin 2008. Merci infiniment.
Je tiens à remercier très sincèrement, M. Mohamad Mehdi de l’université Li-banaise, pour tout ce qu’il a fait pour moi...
Un grand merci à l’ensemble de l’équipe du Laboratoire Emile Picard. Je sa-lue en particulier la gentillesse remarquable de Philippe Monnier, et également la sympathie de Claire, kuntal, Cécile... Merci Claire pour la lecture de ma thèse.
Une pensée émue pour mon père et mon frère, partis en martyrs en 2006... Ta présence papa, ton visage angélique Ali nous manquent tous les jours...
Du fond du coeur, je remercie mes deux amours et source de Bonheur, mon mari Hussein et mon bébé Ali.
Un clin d’oeil à ma famille, maman mon idole, mes fidèles soeurs, et mon cher frère, dont la singularité est une source d’inspiration certaine.
Table des matières
Remerciements iii 1 Introduction 1 1.1 Un peu d’historique . . . 1 1.2 Cadre du travail . . . 4 1.3 Principaux résultats . . . 6 1.4 Plan de la thèse . . . 8 1.5 Quelques perspectives . . . 102 Systèmes intégrables et leurs singularités 11 2.1 Théorème des variables action-angle . . . 13
2.2 Point singulier non dégénéré . . . 14
2.3 Feuilletage singulier non dégénéré . . . 18
2.4 Orbite singulière non dégénérée . . . 19
2.5 Produit direct de systèmes hamiltoniens intégrables . . . 20
2.6 Produit presque direct de systèmes hamiltoniens intégrables . . . . 20
2.7 Classification symplectique des feuilletages de Liouville . . . 21
2.8 Singularité dégénérée . . . 22
3 Système de Gelfand-Ceitlin et son intégrabilité 23 3.1 Construction de fonctions G-invariantes sur une variété symplec-tique dont les flots sont périodiques . . . 23
3.1.1 Etude du flot deHξ◦ φ . . . 25
3.1.2 Conclusion : Intérêt de cette construction . . . 26
3.2 Système de Gelfand-Ceitlin . . . 27
3.2.1 Application :G = U (n) . . . 28
3.3 Intégrabilité du système de Gelfand-Ceitlin . . . 35
4 Topologie du système de Gelfand-Ceitlin 39 4.1 Identification d’une orbite coadjointe deSU (3) à une variété de drapeaux . . . 39
4.1.1 Variété de drapeaux . . . 39
4.1.2 Action naturelle des groupes spéciales linéaires sur Fl(Cn). 40 4.1.3 Action coadjointe deU (n) sur u(n) . . . 42
4.2 Ordre de Bruhat . . . 44
4.2.1 Décomposition de Bruhat d’une variété de drapeaux partiels 45 4.2.2 Décomposition de Bruhat d’une variété de drapeaux com-plets . . . 46
4.2.3 L’ordre de Bruhat surS3 . . . 47
4.3 Calcul des groupes de cohomologie d’une orbite coadjointe deSU (3) 47 4.3.1 Algèbre de Cohomologie de De Rham . . . 48
4.3.2 Méthodes de calcul usuelles . . . 50
4.3.3 Suite spectrale d’un complexe filtré . . . 53
4.3.4 Cohomologie d’une orbite coadjointe deSU (3) . . . 58
4.4 Homologie et cohomologie d’un complexe cellulaireX = G/B . 59 4.5 Convexité de l’image d’une application de moment . . . 62
4.5.1 Théorèmes de convexité . . . 62
4.5.2 Convexité de l’image par l’application moment de l’action hamiltonienne du tore T2 . . . 63
5 Singularités du système de Gelfand-Ceitlin 67 5.1 Description de la variété ambiante . . . 67
5.2 Topologie de la projection deI sur le plan (I1, I2) . . . 69
5.2.1 Etude du niveau LI1,I2 . . . 70
5.3 Topologie de l’image de l’application d’action . . . 76
5.4 Description de la singularité dégénérée . . . 78
5.4.1 Modèle simple pour la singularité spéciale dégénérée . . 80
5.4.2 Image de l’application d’action singulière . . . 85
Chapitre 1
Introduction
1.1
Un peu d’historique
Le théorie des systèmes hamiltoniens intégrables joue un rôle très important en mécanique et physique, car beaucoup de phénomènes naturels peuvent se modéler avec des systèmes hamiltoniens intégrables ou leurs perturbations. Par exemple, notre système solaire est intégrable. Les molécules peuvent être considérées comme des systèmes intégrables quantiques. En effet, les systèmes intégrables ont une sta-bilité très remarquable, ce qui leur permet de persister dans la nature. Les systèmes intégrables sont reliés aussi à d’autres domaines de sciences et de technologie, comme la théorie de contrôle, la géométrie symplectique, la théorie de représenta-tions, la géométrie algébrique, etc.
Kepler (1571-1630) peut être considéré comme un des premiers scientifiques qui ont trouvé des lois sur les systèmes intégrables, avec ses lois sur le mouvement du système solaire (le mouvement elliptique de la terre autour du soleil, et la loi des aires constants). En 1835, dans la célèbre note [50] J. Liouville montre que, pour un système hamiltonien avecn degré de liberté (dans un espace des phases symplec-tique de dimension2n), la connaissance de n intégrales premières indépendantes en involution, implique la nature quasi-périodique des solutions et l’intégrabilité par quadratures (sous une condition de régularité et de propreté). De nos jours, les systèmes qui satisfont cette condition de Liouville sont dits "intégrables" ou "inté-grables à la Liouville".
Autrement dit, on se donne une variété symplectique M de dimension 2n et n fonctions lisses f1, ..., fn dont les différentielles sont presque partout
indépen-dantes et vérifiant{fi, fj} = 0 pour tout i et j. Le crochet utilisé est le crochet
de Poisson induit par la structure symplectique. Introduit par Poisson en 1809, ce crochet joue un rôle fondamental en mécanique et en physique.
de l’application de moment (f1, ..., fn) : M −→ Rn d’un système intégrable
sont des tores de dimensionn, appelés tores de Liouville. On peut voir facilement que les tores de Liouville sont des sous-variétés lagrangiennes (c’est-à-dire que la forme symplectique s’annule sur ces tores). On a le théorème important suivant sur la forme normale d’un système intégrable au voisinage d’un tore de Liouvile, qui s’appelle le théorème sur les variables action-angle.
Théorème 1.1 ( Variables action-angle) Soit N un tore de Liouville d’un
sys-tème hamiltonien intégrable donné par l’application moment F = (F1, ..., Fn) :
(M2n, w) → Rn. Alors il existe un voisinage U(N) de N dans (M2n, w) et un symplectomorphisme lisse Φ : (U(N), w) −→ (Dn× Tn, n X i=1 dpi∧ dqi)
de(U(N), w) dans (Dn× Tn,Pn1dpi ∧ dqi) où Dnest un disque de dimension
n avec les coordonnées p1, ..., pn, et Tnest un tore de dimension n, avec les
co-ordonnées q1, ..., qn (mod 2π) tel que le push-forward Φ∗F de l’application de
moment ne dépend que des variablespi, 1 6 i 6 n (c’est-à-dire elle ne dépend
pas des variablesqi, 1 6 i 6 n.).
Les variables Ii = Φ∗pietφi = Φ∗qi données par le théorème ci-dessus sont
appelées les variables action et les variables angle du système respectivement. L’ap-plication de moment ne dépend que des variables action. La forme symplectiquew s’écrit sous la forme standardw =Pni=1dIi∧ dφi.
Remarque 1.2 Dans cette thèse on prend par convention la période égal à2π (au lieu de 1), conformément avec la périodicité des fonctions d’action du système de Gelfand-Ceitlin.
Ce théorème est souvent appelé le théorème d’Arnold-Liouville [1]. Mais en fait, c’est l’astrophysicien Henri Mineur qui en 1935, a donné la preuve complète de ce théorème [54] [55] [56]. Sa motivation était la quantification asymptotique à la Bohr-Sommerfeld des systèmes intégrables. En fait, déjà en 1917, Einstein [25] a donné une formule de quantification à la Bohr-Sommerfeld qui utilise les variables action (sans justifier leurs existence). Le théorème d’Arnold-Liouville-Mineur joue un rôle fondamental aussi en théorie de perturbations des systèmes intégrables, la théorie K.A.M. (de Kolmogorov, Arnold, Moser ).
Le théorème sur les variables action-angle décrit bien la partie régulière d’un système intégrable d’une façon semi-locale. Une étude globale de la partie régu-lière a été faite par Duistermaat [24], Dazord et Delzant [20], parmi d’autres.
On peut remarquer que tous les systèmes intégrables naturels possèdent des singularités. Pour comprendre la topologie et la géométrie de ces systèmes, il faut comprendre ses singularités, et en particulier généraliser le théorème sur les va-riables action-angle au cas singulier. Grosso modo, on peut diviser les singularités en deux classes : non dégénérées et dégénérées. De façon similaire à la théorie de Morse pour les fonctions lisses, presque toutes les singularités des systèmes in-tégrables sont non dégénérées. Mais pour les systèmes inin-tégrables avec au moins deux degrés de liberté ou pour des familles de systèmes intégrables, les singulari-tés dégénérées sont aussi persistantes, c’est-à-dire qu’on ne peut pas les éliminer avec des petites perturbations. L’étude locale de singularités non dégénérées com-mence avec Williamson [68] qui montre que le modèle linéarisé du système autour de chaque point non dégénéré peut être considéré comme la somme directe des composantes singulières de trois types : elliptique, hyperbolique, foyer-foyer. Puis Vey [61] et Eliasson [27] ont montré que tout point singulier non dégénéré est linéarisable. On a le théorème suivant :
Théorème 1.3 (Vey-Eliasson [27] [61]) Soit x un point fixe non dégénéré d’un système inégrable avecn degré de liberté. Il existe un triplet (ke, kh, kf)
avecke, kh, kf ∈ Z+, et ke+ kh+ 2kf 6n et il existe un système de coordonnées
symplectiques local (pi, qi) (dans lequelw =P dpi∧ dqi) tel que l’application de
moment ne dépend que desn fonctions f1, ..., fnsuivantes :
•fi = p2i + q2i i = 1, ..., ke,
• fi= piqi i = ke+ 1, ..., ke+ kh,
• fi= piqi+ pi+1qi+1 et fi+1= piqi+1− pi+1qi
pour touti = ke+ kh+ 1, ke+ kh+ 3, ..., ke+ kh+ 2kf − 1,
• fi= pi ke+ kh+ 2kf + 1 6 i 6 n.
Autrement dit, la fibration locale donnée par l’application de moment est une fibration "linéaire" donnée par les fonctionsf1, ...fnci-dessus.
Le triplet(ke, kh, kf) est appelé le type de Williamson du point singulier non
dégénéré x [70]. Les nombres ke, kh, kf sont les nombres de composantes
elip-tiques, hyperboliques, foyer-foyer du point singulier non dégénéréx. Et la somme ke+ kh+ 2kf est le corang du pointx.
Ce théorème donne une forme normale qu’on peut dire la forme normale de Birkhoff (pour les systèmes intégrables au voisinage des points singuliers non dé-générés).
L’étude des formes normales des orbites non dégénérées a été faite notam-ment par Miranda et Zung [59] qui montrent que les systèmes intégrables peuvent être linéarisés pas seulement aux voisinages des points singuliers non dégénérés, mais aussi aux voisinages des orbites compactes non dégénérées. Ce théorème
de Miranda-Zung peut être considéré comme la généralisation du théorème de Liouville-Mineur-Arnold au cas des orbites singulières non dégénérées.
Dans le cas de singularités non dégénérées qui possèdent des composantes hy-perboliques ou de type foyer-foyer, la fibre singulière de l’application de moment contient plusieurs orbites du système, dont des orbites non compactes, et l’étude de ces fibres singulières était un problème très difficile. Ce problème a été étudié par Fomenko et ses collaborateurs pour le cas de singularités de corang 1 des systèmes avec deux degrés de liberté [28]. Les sigularités de corang 2 de type hyperbolique ont été étudiées par Lerman et Umanskiy [48], Bolsinov [6], Zung [70], et d’autres personnes dès la fin des années 1980. En particulier, dans son papier [70], Zung a donné une description topologique complète des singularités non dégénérées en termes de produit semi-direct, et il a démontré aussi l’existence des coordonnées action-angle partielles dans un voisinage d’une fibre singulière.
Pour comprendre la géométrie globale des systèmes hamiltoniens intégrables, il faut comprendre la géométrie locale des fibres singulières et aussi les propriétés globales. Si on oublie les singularités, alors les systèmes hamiltoniens peuvent être classifiés par la structure affine associée sur l’espace quotient (l’espace des fibres) et certaines classes caractéristiques, en l’occurence la classe de Chern et la classe de Lagrange étudié par Duistermaat [24] Dazord et Delzant [20]. Dans [71], Zung a généralisé ces invariants au cas général, pour obtenir une classification topolo-gique et géométrique des systèmes intégrables avec des singularités. Dans le cas où toutes les singularités sont elliptiques, cette classification globale a été obtenue avant par Delzant [21] (le cas avec une action torique globale) et par Boucetta et Molino [11].
1.2
Cadre du travail
Dans ce travail, on s’intéresse à l’étude topologique et géométrique d’un sys-tème intégrable célèbre appelé "Syssys-tème de Gelfand-Ceitlin". Ce syssys-tème a été découvert par Victor Guillemin et Shlomo Sternberg, en 1983, présenté dans les articles "The Gel’fand-Ceitlin system and quantization of the complex flag
ma-nifolds" [35] et "On collective complete integrability according to the method of Thimm" [38]. La construction de ce système est fortement reliée aux résultats de
Gel’fand et Ceitlin sur les représentations des groupes unitaires [32] et à la mé-thode de Thimm de construction de systèmes intégrables [66].
On considère le groupe unitaire G = U (n) avec son action coadjointe sur le dual de l’algèbre de Lieu(n). L’espace u∗(n) s’identifie à l’espace des matrices
par la formule :
hH, Ai = 1
iT r(H.A).
Une orbite coadjointe générique (régulière) du groupeU (n) est l’ensemble des matrices hermitiennes (après identification deu∗(n) avec H(n)) ayant pour spectre λ = (λ1, ..., λn) ∈ Rn, classées dans l’ordre décroissant des réels λ1 > ... > λn.
On la noteOλ.
Oλ= {A ∈ H(n)|Spec(A) = (λ1, ..., λn)}, λ = (λ1, ..., λn) ∈ Rn.
Le système de Gelfand-Ceitlin est donné par une famille de fonctions indépen-dantes et deux à deux en involution sur toute orbite coadjointe dans u∗(n). Ces
fonctions ne sont autres que les valeurs propres des matrices extraites d’une ma-triceA ∈ Oλ. Plus précisement, soit A une matrice hermitienne ayant (λ1, ..., λn)
comme spectre. Pour touti, 1 6 i 6 n, soit pi(A), la matrice hermitienne de taille
(n − i) × (n − i) extraite par la ième projection de A, et définie par : (pi(A))kl= akl 1 6 k, l 6 n − i
Autrement dit, pour tout 1 6 i 6 n, la matrice pi(A) est le bloc supérieur
gauche de taille(n − i) × (n − i) d’une matrice A. Les (n − i) valeurs propres de la matricepi(A) sont classées par ordre décroissant.
µi1 >µi2>... > µin−i
Il est connu que sur une orbite coadjointe Oλ, les fonctions valeurs propres
µij, 1 6 i, j 6 n vérifient la pyramide des inégalités suivante appelée le diagramme de Gelfand-Cetlin [40].
FIGURE1.1 – Le diagramme de Gelfand-Ceitlin.
L’orbite coadjointe Oλ est une variété symplectique de dimensionn(n − 1),
en involution, donc elles forment l’application de moment d’un système complète-ment intégrable. En fait, chaque fonction est une fonction d’action sur une orbite coadjointe régulièreOλ. L’intégrabilité du système est un résultat de Thimm [66].
Il y a un problème que ces fonctions ne sont pas toutes lisses (certaines d’entre elles sont singulières). On peut les modifier pour avoir un système hamiltonien tout à fait lisse avec la même fibration que celui donné par ces fonctions. Donc ces fon-tions sont des foncfon-tions d’action d’un système intégrable lisse.
On peut noter que la géométrie du système de Gelfand-Cetlin dans le cas SU (2) est assez triviale. Dans ce cas les variétés symplectiques, les orbites co-adjointes de SU (2) sont des sphères de dimension 2, et le système de Gelfand-Ceitlin est juste donné par une fonction d’action lisse et l’action standard torique est presque triviale. Mais, à partir den = 3 (SU (n), n > 3) le système devient interessant et compliqué. En fait, la dimension de la variété symplectique est égale àn(n − 1). Donc pour n = 3, on a un système avec 3 degré de liberté sur une variété de dimension 6 qui est déjà loin d’être trivial. Sin = 4, on a un système avec 6 degré de liberté sur une variété de dimension 12 (un cas très compliqué).
1.3
Principaux résultats
Guillemin et Sternberg [35] construisent les fonctions d’action de l’action co-adjointe du groupe unitaireU (n) sur une orbite coadjointe régulière dans u∗(n). C’est certes le cas dense, mais les autres cas qui correspondent à des singularités ne sont pas considérés. Dans cette thèse, on a cherché une application de moment lisse de l’action hamiltonienne coadjointe presque partout sur toute orbite coadjointe du groupe SU (3), et étudier et tracer son image dans R3. L’image de l’application d’action (que l’on note I) est convexe grâce au diagramme de Gelfand-Ceitlin. La projection sur R2 est convexe comme étant un cas particulier du théorème de convexité d’Atiyah-Guillemin-Sternberg.
Ainsi, on donne une description complète du système sur une orbite coadjointe de SU (3). En particulier, presque toutes les singularités sont non dégénérées de type eliptique, sauf une de type sphérique dégénérée. Cette dernière est une singu-larité naturelle qui n’a pas été étudiée jusqu’à présent.
On peut dire que c’est un système de type torique généralisé, car il n’a pas de singularité de type foyer-foyer, ni de type hyperbolique. Il n’est pas de type to-rique comme le modèle étudié par Delzant, car il admet une singularité de type elliptique et une singularité dégénérée "spéciale" de type "sphérique". L’image de l’application d’action ressemble beaucoup à un polytope de moment, c’est un "pa-rallèlipipède" dont une arrête est contractée en un point.
FIGURE1.2 – Image de l’application d’action.
Les singularités du système de Gelfand-Ceitlin sur su(3) fait l’objet d’étude du chapitre 5. Le système présente une singularité spéciale dégénérée, que l’on appelle une singularité sphérique. Ce niveau singulier qui est l’image réciproque du sommet A (figure 1.2) est lagrangien, et il est difféomorphe à la sphère S3. On démontre qu’il existe un symplectomorphisme entre la singularité sphérique du système de Gelfand-Ceitlin sursu∗(3) et le modèle géodésique sur S3, qui préserve l’application moment dont deux composantes sont régulières et une singulière.
Le théorème est le suivant :
Théorème 1.4 La singularité sphérique (système dans le voisinage de I−1(A)) est symplectiquement isomorphe au modèle "flot géodésique" sur S3, c’est-à-dire il existe un symplectomorphisme :
U(I−1(A)) −→ U(S3) ⊂ T∗S3,
oùU(I−1(A)) est un voisinage de I−1(A) la fibre singulière sphérique qui pré-serve l’application de moment.
D’autre part, on étudie la topologie d’une orbite coadjointe de SU (3). Pour mieux comprendre la géométrie du système de Gelfand-Cetlin sursu∗(3), on cal-cule les invariants principaux de la variété ambiante : ses groupes de cohomologie, d’homologie et d’homotopie. Ces résultats ne sont pas originaux, mais on les refait
pour mieux comprendre l’aspect topologie, et essayer de les relier au comporte-ment (la géométrie) du système. Une orbite coadjointe deSU (3) est une variété homogène isomorphe à Fl3(C) la variété de drapeaux de C3, et elle est une
va-riété projective compacte de dimension paire (dim Oλ = 6). Par suite, la dualité de
Poincaré donne les isomorphismes entre les groupes de cohomologie et d’homo-logie deOλ. Ainsi, grâce à la décomposition cellulaire de la variété en cellules de
Bruhat, on calcule les groupes d’homotopieπ1(Oλ) et π2(Oλ) d’une orbite
coad-jointe deSU (3) en utilisant le théorème de Hurewicz .
Une orbite coadjointe deSU (3) étant une variété de drapeaux Fl(C3) ∼= SU (3)/T2, admet la fibration suivante,
π : SU (3)/T2 −→ CP2, où les fibres sont difféomorphes àSU (2)/T1.
L’application du principe de la suite spectrale de Leray d’un complexe double donne les groupes de cohomologie d’une orbite coadjointe deSU (3) :
H∗(Fl(C3)) = R en dimension 0 et 6 R⊕ R en dimension 2 et 4 0 sinon
1.4
Plan de la thèse
Dans cette section, on résume le travail des quatre années d’études et de re-cherche, ainsi que les principaux résultats et travaux de cette thèse. Le manuscrit s’articule autour de cinq chapitres avec des objectifs précis au début de chacun.
Le premier chapitre est le chapitre introductif présent, on a montré le cadre
général du travail avec un petit rappel historique sur l’évolution de l’étude de sys-tèmes hamiltoniens intégrables avec le temps. Nous avons résumé le travail de thèse en expliquant les problèmes et notre approche pour les résoudre.
Dans le deuxième chapitre intitulé "Systèmes intégrables et leurs
singulari-tés," on présente une synthèse de principaux résultats de la théorie des systèmes hamiltoniens intégrables. On commence par définir ces systèmes dynamiques na-turels du point de vue mathématique, ainsi que les différents types de singularités de tels systèmes. On rappelle par un panorama les résultats les plus importants éta-blis jusqu’à présent dans ce domaine (au niveau topologique, symplectique, lisse).
Le troisième chapitre est focalisé sur l’étude d’un système hamiltonien
inté-grable particulier, qui est le système de Gelfand-Ceitlin. Dans [35] Guillemin et Sternberg construisent un modèle de systèmes hamiltoniens collectifs complète-ment intégrables. En particulier, lorsqueG = U (n), ils constuisent une famille de fonctions indépendants et en involution sur une obite coadjointe dans u∗(n). Ce système intégrable à la Liouville est appelé "Système de Gelfand-Ceitlin" qui fait l’objet de ce chapitre. En fait, ces fonctions ne sont autres que les fonctions va-leurs propres des matrices extraites d’une matrice initiale dans l’orbite coadjointe deu∗(n). La clôture de ce chapitre est consacrée à l’étude de l’intégralité du sys-tème de Gelfand-Ceitlin selon la méthode de Thimm.
Le quatrième chapitre est dédié à l’étude du système de Gelfand-Ceitlin dans
le cas particulier oùG = SU (3). Dans un premier temps, on étudie la topologie d’une orbite coadjointe deSU (3). La richesse de son aspect global et local nous permet de mieux comprendre le système en question. Une orbite coadjointe géné-rique de SU (3) peut être regardée comme une variété de drapeaux complets, un espace homogène G/B qu’on décompose en cellules de Bruhat. On calcule les groupes d’homologie, de cohomologie, et d’homotopie de cette variété. Les tech-niques classiques n’étant pas conformes dans ce cas, on a dû chercher à les calculer grâce à des méthodes un peu plus compliquées.
Dans un second temps, on s’intéresse à l’image de l’application de moment. On présente les théorèmes de convexité de l’image de l’application de moment, de Kostant ainsi que le théorème plus général d’Atiyah-Guillemin-Sternberg. Dans le cas étudié, on construit l’application de moment de l’action hamiltonienne du tore T2sur une orbite coadjointe. Son image dans le plan R2 est un hexagone dont les côtés sont deux à deux parallèles. L’image de l’application du tore T3 fait l’objet du dernier chapitre.
Le cinquième chapitre est consacré à l’étude géométrique du système de
Gelfand-Ceitlin dans le cas deSU (3). Dans l’esprit du chapitre 2, on calcule expli-citement les niveaux singuliers de l’application moment de l’action hamiltonienne du tore T2sur l’orbite, ainsi que les niveaux de l’application de moment de l’action hamiltonienne du tore T3. On détermine le type de difféomorphisme de chaque ni-veau (générique et singulier). On donne l’image de l’application de moment dans R3, est un polytope convexe à six faces. On prouve que toutes les singularités du système étudié sont non-dégénérées de type elliptiques, sauf une singularité spé-ciale dégénérée que l’on étudie rigoureusement. On montre qu’un voisinage de cette singularité est symplectiquement isomorphe au modèle flot géodésique sur la sphère S3.
1.5
Quelques perspectives
Malgré ces travaux, de nombreuses questions demeurent sans réponse. Cette thèse s’ouvre sur quelques nouvelles directions de recherche que nous envisageons pour l’avenir. Or le travail que nous avons effectué sur les singularités de systèmes hamiltoniens intégrables nous a amenés à poser de multiples questions. Nous pré-sentons ici quelques unes en relation directe avec le travail de thèse. Nous espérons qu’elles trouveront prochainement des réponses...
Tout d’abord, peu de recherche ont était faites sur les singularités dégénérées (on cite à titre d’exemple [16]). Cependant, ce domaine reste toujours vague, et donc ouvert pour arriver à mieux comprendre cette catégorie de singularités des systèmes dynamiques.
Dans la catégorie des singularités non dégénérées, l’ensemble de systèmes dy-namiques (même les plus connus en Mathématiques ainsi qu’en Physique) dont on connaît le type de singularité est très restreint. Beaucoup de travaux étaient faits sur les différents types de singularités (elliptiques, hyperboliques, ou foyer-foyer) dans des dimensions très petites, on cite à titre d’exemple [63]. Il est souhaitable de chercher des singularités en dimension supérieure tout en sachant que ces cas demanderont probablement un temps non négligeable...
Dans cette thèse, on a étudié un système particulier de Gelfand-Ceitlin. Le calcul des groupes de cohomologie d’une variété coadjointe de l’action du groupe SU (3) était fait en appliquant le principe de Leray. Ce résultat peut être retrouvé selon d’autres méthodes, par exemple en considérant la fibration lagrangienne. Les résultats du chapitre 5 devraient en principe pouvoir être utils dans le cas d’une orbite coadjointe d’un groupe spécial unitaire de dimension supérieure, notament dans le casSU (4).
Chapitre 2
Systèmes intégrables et leurs
singularités
Les systèmes intégrables classiques sont des systèmes dynamiques dont les so-lutions exactes s’expriment sous forme de quadratures, c’est-à-dire par un nombre fini de calculs d’intégrales et d’autres opérations algébriques.
Le premier développement déterminant dans ce sujet est le célèbre théorème de Joseph Liouville en 1855. Ce théorème a permis de réunir tous les exemples de modèles intégrables connus à l’époque dans le cadre général d’un système hamil-tonien possédant le nombre maximum d’intégrales du mouvement, i.e. de "qualités conservées" qui sont en involution [50].
La notion d’intégrabilité d’un système hamiltonien dynamique signifie, en gé-néral, "l’intégrabilité au sens de Liouville" qui sera définie plus loin. D’après le célèbre théorème de Liouville, les systèmes intégrables à la Liouville possèdent des solutions quasi-périodiques.
Après le théorème de Liouville vient le théorème des variables action-angle, qui décrit les propriétés des solutions pour lesquelles les valeurs de ces quanti-tés conservées sont assez générales. Il assure aussi l’existence des variables cano-niques appelées les variables action-angle dans lesquelles les équations du mouve-ment se linéarisent et peuvent donc être résolus.
Même si le théorème en question est souvent attribué à Liouville et Arnold [1], cette nomenclature ne reflète pas exactement l’historique du sujet. Or la première étude sérieuse de la dynamique des systèmes hamiltoniens intégrables sur toute fibre lagrangienne est due à Henri Mineur qui, dans les années 1935-1937, énonce et prouve pour la première fois le théorème des variables action-angle. Malheureu-sement, ses articles ont été oubliés pendant longtemps [54] [55] [56], et ne sont redécouverts qu’assez récemment.
Nous considérons une variété symplectique de dimension2n munie d’une forme symplectiquew, et H une fonction sur M2n. NotonsXH le champ de vecteur
ha-miltonien deH qui vérifie :
iXHw = −dH
Définition 2.1 SoitH le Hamiltonien du système. Le système est dit intégrable au
sens de Liouville s’il possèden intégrales premières sur M2nindépendantes et en
involutionFi,i = 1, ..., n.
Autrement dit, il existeF1 = H, F2, ..., Fntelles que :
-dF1 ∧ ... ∧ dFn 6= 0 : l’indépendance des fonctions Fi signifie que les formes
dFisont linéairement indépendantes partout sauf peut-être en des points isolés, ou
bien que l’espace tangent de la surfaceFi = fi existe partout et est de dimension
n.
-Les fonctions Fi sont en involution : {Fi, Fj} = 0 ∀i, j où le crochet {, } ést
le crochet de Poisson induit par la forme symplectique. La condition{Fi, Fj} =
XFi(Fj) = 0 implique que chacune des intégrales premières est constante sur les trajectoires du champ hamiltonien défini par chacune.
Remarque 2.2 Dans le cas d’intégrabilité au sens de Liouville, on peut parler
plutôt d’une sous-algèbreA de C∞(M ) contenant H et abélienne au sens où
f1, f2∈ A ⇒ {f1, f2} = 0.
Un système complètement intégrable sera en général donné par l’application moment F = (F1, ..., Fn), où les Fi sont des fonctions lisses sur M à valeurs
réelles, et en involution :{Fi, Fj} = 0.
En d’autres termes, un système hamiltonien peut être vu comme une action infinitésimale hamiltonienne du groupe de Lie abélien Rnsur une variété symplec-tiqueM de dimension 2n, engendrée par les champs XF1, ..., XFn qui commutent
entre eux. Si les champs sont complets, une orbite de cette action consiste en un produit direct Tk× Rm−k, 0 6 k 6 m 6 n.
On suppose connu les concepts et notions basiques de variété symplectique. (Voir [3], [13].) On rappelle la forme symplectique naturelle sur le fibré cotangent T∗M d’une variété symplectique (M, w).
On considère l’espace total du fibré cotangent deM avec la projection : π : T∗M −→ M
Soientx un point de M , et p un point de T∗M tel que π(p) = x i.e.
p ∈ π−1(x) = Tx∗M . On considère un vecteur tangent X au point p (X ∈ Tp(T∗M )) soit Y le projeté de X au point x dans TxM, i.e. Y = π∗(X) ∈ TxN.
SurT∗M, il y a une 1-forme différentielle canonique α dite la forme de Liou-ville, définie par :
α(X) = hp, π(X)i,
et telle quedα est une forme symplectique standard (de Darboux) sur T∗M.
2.1
Théorème des variables action-angle
Définition 2.3 Un point x ∈ M2n est dit régulier pour F si dF(x) est de rang
maximum(n). Autrement dit, dF1∧ ... ∧ dFn(x) 6= 0.
Définition 2.4 Une valeurc ∈ Rnest dite régulière si tout pointx ∈ F−1(c) est régulier.
Les deux lemmes suivants constituent une introduction au théorème d’action-angle :
Lemme 2.5 Les niveaux réguliers connexes compacts sont des sous-variétés
la-grangiennes.
Lemme 2.6 Dans un système hamiltonien intégrable, les composantes connexes
compactes des niveaux réguliers sont des tores lagrangiens appelés tores de Liou-ville.
En fait, l’action de Rnsur les niveaux réguliersNc, c étant une valeur régulière
est transitive et localement libre. Par suite, tout niveau régulier est isomorphe au groupe quotienté par le groupe isotropeZ d’un point x ∈ Nc. Le groupe isotrope
Z est isomorphe à Zk, mais la condition de compacité des niveaux réguliers exige
quek égal n :
Nc ∼= Rn/Z ∼= Rn/Zn∼= Tn
Définition 2.7 La décomposition de l’espace des phases d’un système hamiltonien
en des composantes connexes F−1(c), c ∈ Rn(i.e. les composantes connexes des
niveaux communs des intégrales premièresF1, ..., Fn) est appelée le feuilletage de
Liouville du système.
Théorème 2.8 ( Variables action-angle) Soit N un tore de Liouville d’un
sys-tème hamiltonien intégrable donné par l’application moment F = (F1, ..., Fn) :
(M2n, w) → Rn. Alors il existe un voisinage U(N) de N dans (M2n, w) et un symplectomorphisme lisse Φ : (U(N), w) −→ (Dn× Tn, n X 1 dpi∧ dqi)
de(U(N), w) dans (Dn× Tn,Pn1dpi ∧ dqi) où Dnest un disque de dimension
n avec les coordonnées p1, ..., pn, et Tnest un tore de dimension n, avec les
co-ordonnées q1, ..., qn (mod 2π) tel que le push-forward Φ∗F de l’application de
moment ne dépend que des variablespi, 1 6 i 6 n (c’est-à-dire elle ne dépend
pas des variablesqi, 1 6 i 6 n.).
Les variables Ii = Φ∗pietφi = Φ∗qi données par le théorème ci-dessus sont
appelées les variables action et les variables angle du système respectivement. L’ap-plication de moment ne dépend que des variables action. La forme symplectiquew s’écrit sous la forme standardw =Pni=1dIi∧ dφi.
Comme l’indique le théorème : au voisinage d’une composante connexe com-pacte d’un niveau régulier d’un système intégrable, nous sommes dans la situation d’une action hamiltonienne de tore. Géométriquement, les trajectoires sont dessi-nées sur des tores et elles sont linéaires sur ces tores.
Remarque 2.9 Dans cette thèse on prend par convention la période égal à2π (au lieu de 1), conformément avec la périodicité des fonctions d’action du système de Gelfand-Ceitlin.
Cependant, pour un système intégrable donné, on s’attend à la présence auto-matique de singularités qui sont, en général, non dégénérées (au sens naturel du terme, elles correspondent aux points fixes et aux points d’équilibre relatifs du sys-tème). De multiples questions se posent :
Qu’est ce qu’une singularité non dégénérée d’un système hamiltonien inté-grable ? Quelle est la structure locale de ces singularités ? La structure non lo-cale (orbite passant par un tel point, feuilletage singulier associé) ? Le théorème d’Arnold-Liouville reste-t-il valable dans ce cas ? Peut-on définir une action ha-miltonienne de tore dans un voisinage d’une feuille singulière ?
2.2
Point singulier non dégénéré
Dans la théorie de singularités des fonctions différentiables, les singularités "génériques" sont les singularités de Morse [53]. Il existe dans la théorie des sys-tèmes complètement intégrables un analogue de la notion de singularité de Morse (ou plus généralement de Morse-Bott).
Définition 2.10 Un pointx ∈ M2n est dit singulier pour F sidF(x) est de rang
strictement inférieur àn. Notons rang(x) = rangdF(x) < n.
Définition 2.11 Une valeurc ∈ Rnest dite singulière s’il existe un point singulier x appartenant à F−1(c).
Définition 2.12 Un point singulierx est dit fixe s’il est de corang maximal,
autre-ment dit, sirang dF(x) = 0.
Définition 2.13 Un point fixex est dit non dégénéré au sens d’Eliasson si les
Hes-siennes d2Fi(x) engendrent une sous-algèbre de Cartan de l’algèbre de Lie des
formes quadratiques surTxM.
SoitQ(2n) l’ensemble des formes quadratiques sur R2n. Q(2n) muni du cro-chet de Poisson est une algèbre de Lie isomorphe à l’algèbre de Lie symplectique sp(2n, R).
Soit x un point fixe. Les parties quadratiques F1(2), ..., Fn(2) des composantes
F1, ..., Fn de l’application moment F au point x commutent sous le crochet de
Poisson standard. Elles forment une sous-algèbre de Lie abélienneA de l’algèbre de LieQ(2n, R).
Plus généralement, lorsque rang x = m > 0, sans nuire à la généralité, sup-posons quedF1∧ ... ∧ dFm(x) 6= 0. La réduction symplectique locale au voisinage
du pointx qui respecte l’action localement libre de Rnengendrée par les champs de vecteurs hamiltoniensXF1, ..., XFm nous permet de définir un système
hamil-tonien local à(n − m) degré de liberté.
Par suite,x correspond à un point fixe dans le nouveau système intégrable. S’il est un point fixe non dégénéré, alorsx est un point singulier non dégénéré de rang m et de corang n − m.
Le théorème suivant fournit la structure locale des singularités non dégénérées d’un système hamiltonien intégrable.
Théorème 2.14 (Williamson [68]) Soit C une sous-algèbre de Cartan réelle de
Q(2n). Il existe des coordonnées symplectiques linéaires (x1, ..., xn, y1, ..., yn) sur
R2n, et une base f1, ..., fndeC telle que fiait l’une des trois formes suivantes : •fi = x2i + y2i i = 1, ..., ke, (singularité elliptique).
• fi= xiyi i = ke+ 1, ..., kh, (singularité hyperbolique).
• fi= xiyi+ xi+1yi+1 et fi+1= xiyi+1− xi+1yi
pour touti = ke+kh+1, ke+kh+3, ..., ke+kh+2kf−1 (singularité foyer-foyer).
On appelle(f1, ..., fn) une base standard de C, on dit que C est de type (ke, kh, kf),
avecke+ kh+ 2kf = n si une base standard contient keéléments de type
ellip-tiques,khéléments hyperboliques, etkf paires de type foyer-foyer.
Définition 2.15 Le triplet(ke, kh, kf) est appelé le type de Williamson du (système
Exemples :
On introduit des exemples sur les trois types de singularités, en considérant des systèmes hamiltoniens intégrables qui apparaissent dans notre vie quotidienne. Dans le chapitre 5, nous étudions les singularités du système de Gelfand-Ceitlin, nous prouvons que dans le cas deG = SU (3) les singularités non dégénérées sont toutes de type elliptique.
1) L’oscillateur harmonique :
Un exemple très célèbre en mécanique hamiltonienne est celui d’un ressort en mouvement.
L’équation d’allongement d’un ressort (sans amortissement) est : ¨
x = −ax (a 6= 0 ∈ R).
L’espace de phase est le plan R× R muni de la 2-forme symplectique w = dy ∧ dx. Le système différentiel s’écrit dans les coordonnées (x, y) de R2:
˙x = −ay, ˙y = x.
L’Hamiltonien du système est :H = 12(x2+ a2y2).
Les trajectoires ont pour supports les niveaux de H, c’est-à-dire des cercles centrés en origine. (Il suffit de faire le changement de variablesX = x, Y = ay pour arriver à l’équation classique :12(X2+ Y2)).
D’après les équations du mouvement, il est clair que l’origine présente une sin-gularité pour ce système dynamique. La Hessienne au point(0, 0) de la fonction H : R2 → R est la matrice : 1 0 0 a2 de déterminant∆ = a2> 0.
Donc l’origine est un point singulier non dégénéré de type elliptique. 2)Le pendule sphérique :
Le système appelé pendule sphérique consiste tout simplement en une bille (pesante) attachée à un point fixeO par l’intermédiaire d’une corde. On considère
son mouvement dans l’espace R3qui décrit la sphère unitéS2 ⊂ R3. (On suppose que la masse de la corde est négligeable, et sa longueur égal à une unité de lon-gueur).
L’espace des phases est :T S2 = {(x, y) ∈ R3× R3| ||x||2= 1 et hy, xi = 0} oùh, i désigne le produit scalaire euclidien.
Le fibré tangent à la sphèreS2est bien une variété symplectique, et la restric-tion de la 2-forme symplectique de R3× R3surT S2 l’est aussi.
L’énergie totale du système est :H = 12 < y, y > − < x, e3 > .γ.
Le champ gravitationnel est désigné parγ, on suppose γ = 1.
Le pendule sphérique étant un système physique dans R3, il est invariant par la rotation autour de la verticale −→e3. L’action de S1surT R3:
S1× T R3 −→ T R3
Rt× (x, y) 7→ (Rtx, Rty).
donne la fonction hamiltonienne :
J : T R3−→ R
(x, y) 7→< x × y, e3 >= x1y2− x2y1.
En d’autres termes,J est l’application de moment de l’action de S1 surT R3.
{J, H}|T S2 = 0.
Donc le pendule sphérique est un système intégrable à la Liouville. Les équations de mouvement du système sont :
˙x = y, ˙y = −e3+ (< x, e3> − < y, y >)x.
Dans [19], Cuchman et Bates étudient le pendule sphérique comme un système hamiltonien avec des "contraintes". Les contraintes viennent du fait de considérer que la particule décrit la sphèreS2 ⊆ R3. Ils démontrent que le système admet deux points critiques,(0, 0, 1, 0, 0, 0) de type hyperbolique et (0, 0, −1, 0, 0, 0) de type foyer-foyer1.
Théorème 2.16 (Vey-Eliasson [27] [61]) Soitx un point fixe non dégénéré d’un système inégrable avecn degré de liberté. Il existe un triplet (ke, kh, kf)
avecke, kh, kf ∈ Z+, et ke+ kh+ 2kf 6n et il existe un système de coordonnées
symplectiques local (pi, qi), (c’est-à-dire dans lequel w = P dpi ∧ dqi) tel que
l’application de moment ne dépend que desn fonctions f1, ..., fnsuivantes :
•fi = p2i + qi2 i = 1, ..., ke,
• fi= piqi i = ke+ 1, ..., ke+ kh,
• fi= piqi+ pi+1qi+1 et fi+1= piqi+1− pi+1qi
pour touti = ke+ kh+ 1, ke+ kh+ 3, ..., ke+ kh+ 2kf − 1,
• fi= pi ke+ kh+ 2kf + 1 6 i 6 n.
Autrement dit, la fibration locale donnée par l’applicaton de moment est une fibration "linéaire" donnée par les fonctionsf1, ...fnci-dessus.
Vey l’a prouvé pour toutn [61]. Eliasson dans le cas C∞, [27]. Pour la preuve complète, voir [58].
Dans le cas général, pour un point singulier non dégénéré, on parle de difféo-morphisme local et non de symplectodifféo-morphisme.
Une conséquence directe du théorème d’Eliasson est de prouver l’existence d’une action hamiltonienne du tore Tke+kf qui préserve le système, dans un
voisi-nage d’un point fixe non dégénéré de type de Williamson(ke, kh, kf).
2.3
Feuilletage singulier non dégénéré
Soit F: M2n→ Rnl’application moment d’un système intégrable donné. On
admet que l’image réciproque par F de tout point de Rn est compacte et que la différentielleDF est non dégénérée presque partout.
Définition 2.17 Une feuille est dite singulière si elle passe par un point singulier. Définition 2.18 Une feuille singulière non dégénérée est une feuille singulière où
tous les points singuliers sont non dégénérés.
Définition 2.19 La codimension d’une feuille singulière est égale au corang
maxi-mum des corangs des points singuliers appartenant à la feuille.
Toute feuille régulière du feuilletage de Liouville consiste une seule orbite de dimensionn de l’action hamiltonienne associée. Un feuilletage non régulier (sin-gulier) peut contenir plusieurs orbites de dimensions différentes.
Proposition 2.20 (a) Soitx un point singulier de corang k. Alors l’orbite Ox de
(b) Une feuille singulière non dégénérée contient un nombre fini d’orbites.
(c) Toute orbite de dimensionn − k (de dimensin minimale) dans une feuille non
dégénérée de codimensionk est difféomorphe à un tore Tn−kde dimensionn − k.
En particulier, une feuille singulière de codimensionk est de dimension supé-rieure ou égale àn − k.
Soit N une feuille singulière non dégénérée. Alors N est constituée par un nombre fini des orbites du système, donc de type Tc× Ro, c + o 6 n. Dans ce qui suit, nous allons interpréter les deux nombresc et o. Notons que c + o est égal à la dimension de l’orbite, doncc + o est le rang de l’application moment en O.
Définition 2.21 SoientN une feuille singulière non dégénérée, et x un point ap-partenant àN. Si l’orbite Oxest difféomorphe à Tc× Ro, on appelle c le degré de
fermeture eto le degré d’ouverture de Ox.
Le 5-uplet(ke, kh, kf, c, o) détermine le type de l’orbite Oxoù(ke, kh, kf) est
le type de Williamson dex.
Dans [70], Nguyen Tien Zung démontre que le 5-uplet est un invariant de l’or-bite. En d’autre termes, le type de l’orbite O est indépendant du choix de x. Le type d’orbite d’un tore régulier de Liouville est(0, 0, 0, n, 0), où n est le degré de liberté du système. En général, on a :ke+ kh+ 2kf+ c + o = n.
2.4
Orbite singulière non dégénérée
Eva Miranda et Nguyen Tien Zung ont démontré récemment que le théorème d’Eliasson reste vrai en considérant une orbite singulière non dégénérée compacte de l’action hamiltonienne associée au système [59].
Définition 2.22 Une orbiteO est dite non dégénérée s’il existe un point singulier
non dégénéré appartenant àO.
En fait, si l’orbiteO est non dégénérée, alors tout point de O l’est aussi, car la propriété de non dégénéréscence est invariante localement sous l’action de Poiss-son de Rn.
Le triplet(ke, kh, kf) est aussi appelé le type de Williamson de l’orbite O, car
2.5
Produit direct de systèmes hamiltoniens intégrables
Soient (M(2n), w, F
1, ..., Fn) et (M′(2n
′)
, w′, F′
1, ..., Fn′′) deux systèmes
ha-miltoniens intégrables.
En considérant le produit directM ×M′des deux variétés, la2−forme w + w′ naturellement associée à la variété produit, et lesn + n′intégrales premières
F1, ..., Fn, F1′, ..., Fn′′, nous obtenons un nouveau système hamiltonien intégrable
àn + n′degré de liberté :
(M × M′, w + w′, F1, ..., Fn, F′
1, ..., Fn′′) est appelé produit direct de deux
sys-tèmes hamiltoniens intégrables.
Un point(x, x′) ∈ M × M′ est appelé point singulier du système si l’un au moins des pointsx ou x′l’est. Il est appelé singulier non dégénéré si et seulement si x et x′sont non dégénérés (ou non singuliers). Le rang d’un point singulier(x, x′)
est la somme des rangs dex et x′.
Le théorème d’Arnold-Liouville assure qu’un voisinage d’un tore de Liouville peut être représenté par le produit direct den systèmes triviaux à 1 degré de liberté. D’une manière analogue, le théorème d’Eliasson affirme que toute singularité non dégénérée peut être localement décomposée en produit direct de singularités basiques non dégénérées.
D’un point de vue topologique, une singularité de type produit direct est loca-lement (ou de manière semi-locale) équivalente à un produit direct de petits voisi-nages du point singulier (ou de la feuille singulière).
2.6
Produit presque direct de systèmes hamiltoniens
inté-grables
Dans ce paragraphe nous décrivons une méthode de construction (décomposi-tion) de singularités multidimensionelles à partir (en) des singularités "simples".
On considère une singularité de type produit directU = V1× ... × Vm et les
actionsψ1, ..., ψmd’un groupe finiG sur les composantes V1, ..., VmdeU vérifiant
les conditions suivantes :
1) Toute applicationψi(g) : Vi → Vi est un symplectomorphisme qui préserve le
feuilletage de Liouville.
2) L’actionψ : G × U → U définie par :
est libre.
Par la réduction symplectique, l’espace quotient U/G (de U selon l’action ψ) est une variété symplectique lisse. Le feuilletage lagrangien associé àU/G est dé-fini par des fonctions indépendantes et en involution.
L’espace quotientU/G est considéré comme un voisinage d’une feuille singu-lière non dégénérée. En d’autres termesU/G représente un modèle de singularités non dégénérées d’un système hamiltonien intégrable.
Définition 2.23 Les singularités de type U/G sont appelées des singularités de type produit presque direct.
Définition 2.24 Une singularité non dégénéréeV d’un feuilletage lagrangien est dite topologiquement stable (ou vérifie la condition de "non splitting") si
l’en-semble des valeurs singulières de l’application moment restreinte à V coïncide
avec l’ensemble des valeurs singulières de l’application moment restreinte à un voisinage d’un point singulier non dégénéré de corang maximal égal à la codi-mension de la feuille singulière non dégénérée.
Un résultat essentiel dans l’étude topologique globale des singularités non dé-générées des systèmes intégrables est le théorème de décomposition. Nguyen Tien Zung prouve dans [70] qu’un voisinage d’une singularité non dégénérée peut être vu comme un produit direct de singularités plus simples (de corang 1 et 2).
Théorème 2.25 Toute singularité non dégénérée satisfaisant la condition de "non
splitting" est équivalente à la Liouville à un produit presque direct de singularités plus simples de types :
1) Singularité elliptique à1 degré de liberté Vell.
2) Singularité hyperbolique à1 degré de liberté Vhyp.
3) Singularité type foyer-foyer à2 degré de liberté Vf .
4) Un feuilletage de LiouvilleVregrégulier à 1 degré de liberté (i.e. D1× S1).
Remarque 2.26 Le choix du groupe fini dans la décomposition n’est pas unique. Remarque 2.27 La décomposition décrite dans le théorème est topologique (elle
est même lisse) mais non symplectique. Or la structure symplectique sur une variété produit n’est pas nécessairement la somme directe des formes symplectiques de ses composantes.
2.7
Classification symplectique des feuilletages de
Liou-ville
Du point de vue topologique, on cherche à "classifier" les systèmes hamilto-niens. Il est donc nécessaire de définir une relation d’équivalence sur l’ensemble
des systèmes intégrables, ainsi qu’une certaine classe des singularités non dégéné-rées.
Définition 2.28 Deux systèmes intégrables sur(U1, w1) et (U2, w2) sont dit
sym-plectiquement équivalents s’il existe un symplectomorphisme Ψ : U1 → U2 qui
envoie chaque feuille du feuilletage de Liouville deU1 sur une feuille du
feuille-tage de Liouville deU2.
LorsqueΨ est un homéomorphisme, les deux systèmes sont dits équivalents au sens de Liouville.
Le choix des voisinagesU1 etU2 détermine la classification. Par exemple, au
voisinage d’une singularité (resp. d’une feuille singulière), on parle de classifica-tion locale (resp. semi-locale). Le cas global concernera évidement le cas où les voisinages couvrent les espaces des phases des systèmes étudiés [8].
2.8
Singularité dégénérée
Dans le cas où les singularités sont dégénérées, l’existence de formes normales symplectiques (même locale) est un problème très difficile et toujours ouvert. En tout cas, les résultats dans [16] montrent qu’en général, le mieux que l’on puisse espérer est la finitude de certains groupes de cohomologie attachés à la singularité et au système intégrable (qui s’annulent dans le cas non dégénéré).
Dans cette thèse, on va étudier les singularités du système de Gelfand-Cetlin sur su(3). On décrit la singularité dégénérée "spéciale", en l’identifiant à un modèle simple. Ainsi, on s’intéresse à la topologie des fibres singulières non dégénérées.
Chapitre 3
Système de Gelfand-Ceitlin et son
intégrabilité
Dans ce chapitre, on étudie un modèle d’une famille de fonctions hamilto-niennes qui constituent un système complètement intégrable sur une variété sym-plectique particulière. C’est le système de Gelfand-Ceitlin, une famille de fonctions indépendantes et en involution sur toute orbite coadjointe générique.
A priori, il n’est jamais évident de trouver des intégrales premières pour un système dynamique. En 1983, dans [35] ainsi que [38], V. Guillemin et S. Stern-berg ont construit une famille de fonctions sur le dual de l’algèbre de Lie g∗ d’un groupe de LieG opérant sur une variété symplectique. Le pull-back de cette famille de fonctions forme un système complètement intégrable sur la variétéX. L’intégra-bilité du système se prouve grâce à la méthode de Thimm [66]. En fait, le système de Gelfand-Ceitlin est un cas particulier de systèmes hamiltoniens collectifs (qu’on définit à la fin du chapitre), qui constitue un sujet d’étude pour Guillemin et Stern-berg dans [39].
3.1
Construction de fonctions G-invariantes sur une
va-riété symplectique dont les flots sont périodiques
Soient (X,Ω) une variété symplectique, G un groupe de Lie compact connexe, g l’algèbre de Lie deG que l’on suppose semi-simple. Soit t une algèbre de Cartan de g. Le groupe G agit sur X de façon hamiltonienne. Soit φ : X −→ g∗ son application moment.
La forme de Killing étant non dégénérée sur g, on peut identifier l’algèbre de Lie g et son dual : g ≃ g∗. Soit t∗ l’espace dans g∗ qui correspond à t, donc toute
termes, il y a une bijection entre les orbites coadjointes dans g∗ et les orbites du groupe de Weyl. Soitβ l’application de g∗dans t∗+, où t∗+désigne la chambre de Weyl positive dans t∗,
β : g∗ −→ t∗+ u 7−→ Ou∩ t∗+
qui, à un pointu ∈ g∗associe le seul point d’intersection de l’orbite coadjointeOu
passant paru avec t∗+.
Pour tout élément ξ dans t, définissons une fonction Hξ sur g∗ de la façon
suivante. Soientℓξ la fonction linéaire associée au champ de vecteursξ, et ℓ+ξ sa
restriction sur la chambre de Weyl positive t∗+. La fonction Hξ est définie comme
la composée des deux applicationsℓ+ξ etβ,
Hξ:= ℓ+ξ ◦ β : g∗ −→ t∗+−→ R.
La fonctionHξest continue sur g∗, elle est lisse sur l’ensemble régulier
greg = β−1(Int t∗+). Elle est par construction invariante sur g∗par rapport à
l’ac-tion coadjointe deG.
Notre but dans cette section est de construire des fonctions sur la variété X à flot périodique. Pour cela, nous avons construit les fonctionsHξ pour toutξ ∈ t,
pour lesquelles on considère les fonctionsHξ◦ φ sur X qu’on obtient par le
pull-back via l’application momentφ. On va montrer que :
exp 2πξ = e =⇒ ϕ2πXHξ◦φ = Id
oùe est l’élément identité dans le groupe G.
On se limite dans notre travail au flot deXHξ◦φ lorsqu’il est défini, donc en
tout pointp tel que φ(p) = f ∈ greg. Sans nuire à la généralité, puisque la fonction
Hξest G-invariante, on suppose quef ∈ Int t∗+. NotonsH = Hξ.
Proposition 3.1 Pour toutf appartenant à Int t∗+, on a : dHf = ξ.
Preuve : On a
H = Hξ : g∗ −→ R
dHf : Tfg∗≡ g∗ −→ R
- En tout pointv ∈ t∗,dHf(v) = hξ, vi.
Pour toutf ∈ Int(t∗+), on a :
H : g∗ −→ t∗+−→ R f 7−→ f 7−→ ℓ+ξ(f )
DoncdHf(v) = dℓ+ξ(f ) = ξ et par suite dHf(v) = hξ, vi.
- Siv ∈ TfO, où O est une orbite coadjointe de G, alors dHf(v) = 0 car la
fonction H est invariante sur g∗, donc elle est constante sur chaque orbite
coad-jointeO de G. Il reste à montrer que : hξ, vi = 0, ce qui revient à démontrer TfO = t0 = l’annulateur de t.
Puisquef est régulier dans g∗, son algèbre isotrope gf est commutative. Elle
contient évidement t qui est un tore abélien maximal, et donc gf = t. Ceci revient
à démontrer :
TfO = g0f = l’annulateur de gf. (⋆)
Démonstration de (⋆) :
En effet, l’action coadjointe est hamiltonienne, son application de momentφ n’est autre que l’inclusion. Considérons pour toutf ∈ g∗:
φ : O ֒→ g∗ dφf : TfO −→ Tfg∗ ≡ g∗
(dφf)∗ : g −→ Tf∗O soit : ψf : g −→ TfO.
Puisque les orbites coadjointes sont des sous-variétés symplectiques de g∗, alors on a TfO ≃ Tf∗O. Les applications (dφf)∗ et ψf coïncident en tout point
de g.
D’une part,ker ψf = gf, et d’autre part, ker ψf = TfO0 = l’annulateur de TfO.
D’où (⋆). Et finalement :
dHf = ξ .
3.1.1 Etude du flot deHξ◦ φ
Proposition 3.2 En tout pointp ∈ X tel que φ(p) = f ∈ greg, la trajectoire de
XHξ◦φest :
(exp tξ).p − ∞ < t < +∞.
Au voisinage d’un point f , le flot de XHξ passant par f est (exp tξ)(f ). Le
groupeG est compact, donc ce flot est complet, et par suite sur g∗le flot deXHξ
estϕt
XHξ = exp tξ.
L’action infinitésimale induite de l’action deG sur la variété symplectique X, g−→ Symp(X)
ξ 7−→ ˜ξp =
d dt|t=0
(exp tξ).p
associe à tout champ de vecteurs dans g le champ de vecteur localement hamilto-nien défini en tout pointp par ˜ξp (ci-dessus) appelé le champ fondamental associé
àξ au point p.
Puisque g est compact semi-simple, l’action de g surSymp(X) engendre une action de G sur X (on peut intégrer globalement). Par suite le flot sur X engendré parξ ∈ g est le flot engendré par ˜ξ.
D’où, en tout pointp tel que φ(p) ∈ greg, la trajectoire est définie par :
(exp tξ).p − ∞ < t < +∞.
Ces flots sont-ils périodiques ?
Puisque t est un tore,exp : t −→ T est un morphisme de groupes abéliens, son noyauΓ = ker(exp) est un réseau (un sous-groupe abélien discret) de t, donc le flotexp tξ lorsque ξ ∈ Γ est périodique de période égale à 2π.
3.1.2 Conclusion : Intérêt de cette construction
A partir d’un élémentξ ∈ t vérifiant exp 2πξ = e (e étant l’élément neutre de G), on a construit une fonction g∗-invarianteHξsur g, telle que Hξ◦ φ le flot de
son pull-back via l’application momentφ est périodique sur X de période 2π. On considère un système de générateurs deΓ, ξi∈ t, pour tout 1 6 i 6 dim t.
Alors les fonctionsHξi sont des fonctions G-invariantes dont les flots deHξi◦ φ
ont la même propriété de périodicité. Autrement dit, les fonctionsHξi ◦ φ
consti-tuent les variables "action" sur X.
Le théorème d’action angle assure l’existence de nouvelles coordonnées dites "action-angle" sur toute variété symplectique. Cependant, il n’est jamais évident de construire des variables "action-angle". Dans le cas du système de Gelfand-Ceitlin,
la famille de fonctionsG-invariantes construite va fournir les variables action sur une variété de Poisson (dans [47], on prouve le théorème d’action-angle de sys-tèmes hamiltoniens intégrables sur une variété de Poisson).
Dans l’article [35] de V. Guillemin et S. Sternberg, les variables actions sont construites pour tout système hamiltonien collectif complètement intégrable.
3.2
Système de Gelfand-Ceitlin
Dans cette section la variété symplectique X est une orbite coadjointe de g∗. Evidement, l’orbite X est un G-espace hamiltonien, et son application moment est l’inclusioni : X ֒→ g∗.
Soit K un sous-groupe fermé connexe de G et K = Lie(K). L’orbite X est un K-espace hamiltonien, son application momentφ : X −→ K∗ est la composée de deux applications :
φ : X −→ gi ∗ p−→ K∗,
oùp désigne l’application transposée de l’inclusion de k dans g.
Maintenant, soient G = K0 ⊇ K1 ⊇ ... ⊇ Ks, s 6 n, une chaîne de
sous-groupes connexes fermés dans G, etφi: X −→ K∗i l’application moment associée
à l’action deKi sur X. Alors :
φi= pi◦ φ0, et φi = pij◦ φj pour tout1 6 j < i 6 s,
où pi est la transposée de l’inclusion de Ki dans g, et pij est la transposée de
l’inclusion deKidansKj.
Pour tout1 6 i 6 s soit {Hj(i), 1 6 j 6 ri= rang Ki} un système de l’anneau
des fonctionsKi-invariantes. Les fonctions :
{Hj(i)◦ φi, 1 6 j 6 ri, 1 6 i 6 s} (3.1)
commutent pour le crochet de Poisson de X.
Dans le cas où ces fonctions sont indépendantes, elles forment un système ha-miltonien complètement intégrable sur X. Autrement dit, en un point générique x ∈ X les champs de vecteurs hamiltoniens associés à ces fonctions engendrent un sous-espace lagrangien deTxX.
Définition 3.3 Dans le cas où la famille des fonctions 3.1 forme un système
Pour un système de Gelfand-Ceitlin, il est facile de construire un système de variables "action-angle". En effet, considérons dansG un sous-groupe de Cartan T , et une chaîne de sous-groupes de T , T = T0 ⊇ T1 ⊇ ... ⊇ Ts, s 6 n, telle
queTi est un sous-groupe de Cartan deKi. Pour tout 1 6 i 6 s désignons par ti
la sous-algèbre de Lie du groupeTi, et(t∗i)+la chambre de Weyl positive dans t∗i.
Construisons le système de variables action sur l’orbiteX comme auparavant avec les fonctionsMj(i)définies précédemment.
Les applications βi : K∗i −→ (ti∗)+ sont continues. Pour tout ξ ∈ ti, soitℓξ
l’application linéaire sur t∗i associée àξ, et notons ℓ+ξ sa restriction sur(t∗ i)+.
Pour chaquei, 1 6 i 6 s, choisissons une base de ti, soit la famille {ξij, 1 6 j 6
ri = rang Ki}.
Le système de fonctions :Mj(i) = ℓ+ξ
ij◦ βi ◦ φi, 1 6 j 6 ri, 1 6 i 6 s,
constitue un système des variables action sur toute orbite coadjointe régulière.
3.2.1 Application :G = U(n)
Dans ce qui suit, nous décrivons le système de Gelfand-Ceitlin classique, qui correspond au casG = U (n). A la fin du chapitre, nous expliquons pourquoi la fa-mille de fonctions constitue un système complètement intégrable. Examinons pour G = U (n), cette famille de fonctions périodiques sur une orbite coadjointe, en choisissant des sous-groupesKibien particuliers.
SoitKi,1 6 i 6 n le sous-groupe de G constitué par toutes les matrices de la
forme : A = B 0 exp iθ1 0 0 . .. 0 exp iθi , oùB ∈ U(n − i) et (θ1, ..., θi) ∈ Ri. On aK0 = G et Kn= T, le sous-groupe de Cartan de U (n).
On identifie g∗avec√−1u(n) = H(n), l’espace des matrices hermitiennes.
Proposition 3.4 Pour toute matriceA ∈ H(n), l’orbite coadjointe passant par A
est :
Preuve : D’après la méthode d’orthogonalisation de Gram-Schmidt, toute
ma-trice hermitienne A est diagonalisable. La mama-trice diagonaleD = i.Diag(λ1, ..., λn),
les(λi)16i6n étant les valeurs propres (réelles) deA, et la matrice de passage est
unitaire : A = P−1DP, P ∈ U(n), D= λ1 0 . .. 0 λn .
Par suite les orbites coadjointes de l’action deU (n) sur H(n) sont notées : Oλ= {A ∈ H(n)|Spec(A) = (λ1, ..., λn)}, λ = (λ1, ..., λn) ∈ Rn.
Notons que le cas générique correspond à une orbite régulière Oλ où les
va-leurs propres sont distinctes deux à deux.
Pour tout 1 6 i 6 n l’algèbre Ki∗ est l’ensemble des matrices hermitiennes A telles que exp tA appartient au sous-groupe Ki. Donc, par dérivation, nous
concluons queKi est l’ensemble des matrices hermitiennes de la forme :
A = B 0 θ1 0 0 . .. 0 θi , oùB ∈ u(n − i) et (θ1, ..., θi) ∈ Ri.
L’algèbre de Cartan t étant t= {Diag(λ1, ..., λn)|λ = (λ1, ..., λn) ∈ Rn}, on
identifie la chambre de Weyl positive t∗+avec l’ensemble des matrices diagonales où les valeurs propresλi, 1 6 i 6 n sont classées par ordre décroissant,
c’est-à-dire :
t∗+= {Diag(λ1, ..., λn) ∈ Rn|λ1 >λ2 >... > λn}.
Définissons maintenant les projectionspi: g∗−→ K∗i
A 7−→ ˜A = (˜akl) ˜ akl= akl sik = l ou (k ou l < n − i) 0 sinon
Les variables action pour une orbite coadjointe régulière (générique) Oλ sont
données par
