Isotopies maximales et feuilletages transverses

Dans cette section, nous rappelons les bases de la théorie de forçage de Le Calvez et Tal, qui sera l’outil principal dont nous nous servirons dans la suite, développée dans [LCT18] et [LCT]. On considère un homéomorphisme f : M → M isotope à l’identité sur une surface compacte orientée M . Si I : [0, 1] × M → M est une isotopie entre Id_M et f , on note Fix(I) l’ensemble des points fixes de l’isotopie, défini par

Fix(I) = {x ∈ M | pour tout t ∈ [0, 1], I(t, x) = x}

et on note dom(I) = M \ Fix(I) le domaine de l’isotopie. Pour tout point x ∈ M , on note I(x) le chemin t 7→ I(t, x) donnée par l’isotopie, reliant x à f (x). On définit également les concaténations suivantes : pour tout n ∈ N^∗, Iⁿ(x) = n−1 Y k=0 I(f^k(x)) et IZ(x) = ^Y k∈Z I(f^k(x)).

Bien entendu, si x ∈ M est un point fixe de f , le chemin I(x) relie x à lui-même et définit donc un lacet.

Définition 1.3.1. On dit qu’une isotopie I entre Id_M et f est maximale si pour tout x ∈ Fix(f ) \ Fix(I), le lacet I(x) n’est pas homotopiquement trivial dans dom(I).

L’utilisation du terme “maximal” provient du fait que cette définition coïncide avec la maximalité pour un certain préordre sur l’ensemble des isotopies entre Id_M et f (voir [Jau14]). Un résultat de Béguin-Crovisier-Le Roux [BCLR18] affirme alors que toute iso-topie entre Id_M et f est en fait inférieure pour ce préordre à une isotopie maximale. En particulier, il existe des isotopies maximales :

Théorème 1.3.2. Si f : M → M est un homéomorphisme isotope à l’identité, alors il existe une isotopie maximale reliant Id_M et f .

Remarquons que de manière équivalente, une isotopie I entre l’identité et f est maxi-male si et seulement si f se relève au revêtement universel gdom(I) du domaine de I en une application ef : gdom(I) → gdom(I) qui n’a aucun point fixe. On va ainsi pouvoir appliquer la théorie de Le Calvez-Brouwer, développée dans [LC04], pour construire un feuilletage “transverse” à I.

Rappelons les bases de cette théorie. Un homéomorphisme de Brouwer est un homéo-morphisme h : R² → R2 préservant l’orientation et sans point fixe. Pour toute droite orientée D de R² (c’est-à-dire un plongement propre de R), on note R(D) la composante connexe de R²\ D située à la droite de D, et L(D) la composante connexe de R2\ D située à la gauche de D ; on dit que D est une droite de Brouwer pour h si h(D) ⊂ L(D) et h⁻¹(D) ⊂ R(D). La version feuilletée équivariante du théorème de translation de Brouwer due à Le Calvez [LC04] affirme alors que :

Théorème 1.3.3. Si G est un groupe discret d’automorphismes du plan préservant l’orien-tation, dont l’action est libre et propre, et h un homéomorphisme de Brouwer commutant aux éléments de G, alors il existe un feuilletage orienté G−invariant de R² dont les feuilles sont des droites de Brouwer pour h.

Étant donnée donc une isotopie maximale I entre l’identité de M et f , comme les com-posantes connexes de gdom(I) sont topologiquement des plans, f se relève donc à gdom(I) en une application dont les restrictions à ces composantes connexes sont des homéomor-phismes de Brouwer. En appliquant le théorème 1.3.3 avec le groupe G des automorhoméomor-phismes du revêtement, on peut donc feuilleter gdom(I) par un feuilletage G−équivariant en droites de Brouwer. Ce procédé permet d’obtenir la proposition suivante :

Proposition 1.3.4. Si I est une isotopie maximale entre Id_M et f , alors il existe un feuilletage F singulier orienté sur M , dont l’ensemble des singularités est égal à Fix(I), et tel que pour tout x ∈ dom(I), la trajectoire I(x) est homotope à extrémités fixées dans dom(I) à un chemin transverse à F .

Un tel feuilletage donné par la proposition 1.3.4 est dit transverse à l’isotopie I. Étant donné un feuilletage transverse F à une isotopie maximale I entre Id_M et f , on peut donc définir pour tout x ∈ dom(I) un chemin transverse à F , homotope à extrémités fixées à I(x) dans dom(I), que l’on note I_F(x). Ce chemin est uniquement défini modulo la relation d’équivalence entre chemins transverses. Pour tout x ∈ dom(I), le chemin I_F(x) relie x à f (x), donc on peut définir les concaténations suivantes :

pour tout n ∈ N^∗, I_Fⁿ(x) = n−1 Y k=0 IF(f^k(x)) et IZ F(x) = ^Y k∈Z IF(f^k(x)).

On dit enfin qu’un chemin transverse α : [a, b] → dom(I) est admissible d’ordre n ∈ N^∗ s’il existe x ∈ dom(I) tel que α est équivalent (au sens de la relation entre chemins trans-verses définie en 1.2.13) à un sous-chemin de I_Fⁿ(x).

Ces définitions données, nous pouvons aborder le fond de la théorie de forçage de Le Calvez et Tal. Son résultat fondamental est de construire, étant donnés deux chemins admissibles qui s’intersectent convenablement (il s’agit bien sûr de la notion d’intersection F −transverse), de nouveaux chemins admissibles. Plus précisément, le lemme de “forçage” est le suivant :

Proposition 1.3.5. Soit I une isotopie maximale et F un feuilletage transverse à I. Soit α : [a, b] → dom(I) et α⁰ : [a⁰, b⁰] → dom(I) deux chemins transverses à F , s’intersectant F −transversalement en un point α(t) = α⁰(t⁰), avec a < t < b et a⁰ < t⁰ < b⁰.

Si α est admissible d’ordre n et α⁰ est admissible d’ordre n⁰ alors les deux chemins α_|[a,t]α⁰_|[t0,b0] et α⁰_|[a0,t0]α_|[t,b] sont admissibles d’ordre n + n⁰.

Autrement dit, à partir de deux orbites dont les trajectoires transverses au feuilletage données par l’isotopie s’intersectent F −transversalement, on déduit l’existence d’orbites dont les trajectoires “suivent” les chemins obtenus en changeant de direction au point d’in-tersection entre les deux premières trajectoires. Cette construction repose sur un simple argument de connexité, dont nous nous inspirerons dans l’une des situations que nous étudierons. C’est donc cette situation d’intersection F − transverse entre trajectoires ad-missibles qui fait apparaître la richesse de la dynamique de l’homéomorphisme f .

Cette proposition peut, et à juste titre, faire penser au théorème de Sharkovsky dans le cas unidimensionnel (voir [Sha64]) : en effet, celui-ci fournit l’existence d’un ordre total ≺ sur N^∗ (dont le plus petit élément est 1 et le plus grand élément est 3) tel que toute

application continue de [0, 1] dans lui-même ayant une orbite périodique de période n a une orbite périodique de période m pour tout m ≺ n. Ce “forçage” d’orbites induit en particulier une certaine richesse dynamique, puisqu’on peut en déduire qu’une application continue sur [0, 1] admettant une orbite périodique dont la période n’est pas une puissance de 2 a une entropie strictement positive.

Le premier théorème découlant de ce phénomène de forçage 1.3.5 et décrivant ainsi cette richesse dynamique, énoncé dans [LCT18], est le suivant :

Théorème 1.3.6. Soit I une isotopie maximale et F un feuilletage transverse à I. On suppose qu’il existe deux points récurrents dont les trajectoires transverses ont une inter-section F −transverse. Alors f est topologiquement chaotique, c’est-à-dire que :

- l’entropie de f est strictement positive, et

- le nombre de points périodiques de période n d’un certain itéré de f croît exponentielle-ment en n.

De manière plus générale cependant, une condition suffisante pour qu’un homéomor-phisme T : X → X soit topologiquement chaotique est qu’il présente un fer-à-cheval topologique, c’est-à-dire qu’il existe un compact Y ⊂ X invariant par un itéré T^r, r ≥ 1, tel que les deux conditions suivantes soient vérifiées :

- T_|Y^r est semi-conjugué au décalage de Bernouilli σ : {1, ..., q}Z→ {1, ..., q}Z avec q ≥ 2, - la préimage par l’application de semi-conjugaison de tout point σ−périodique de {1, ..., q}Z

contient au moins un point T^r−périodique de même période.

Il s’avère que c’est en fait la situation que l’on a lorsque des trajectoires ont une intersection F −transverse : en effet, dans [LCT], on dispose de la version améliorée suivante du théorème 1.3.6 :

Théorème 1.3.7. S’il existe un chemin transverse admissible ayant une auto-intersection F −transverse, alors f possède un fer-à-cheval topologique.

Ce second énoncé est bien une amélioration du premier : d’une part, il précise que le comportement chaotique provient bel et bien de la présence d’un fer-à-cheval ; d’autre part, il s’appuie sur une hypothèse plus faible puisque la trajectoire admissible considérée n’est plus forcément récurrente. Notons également qu’il contient le premier énoncé car on peut construire un chemin transverse admissible avec une auto-intersection F −transverse dès lors que l’on a deux points récurrents dont les trajectoires transverses s’intersectent F −transversalement.

Enfin, une dernière conséquence importante est que la situation d’auto-intersection F −transverse permet également d’obtenir l’existence de multiples points périodiques dans l’ensemble de rotation (voir toujours [LCT]) :

Théorème 1.3.8. Soit I une isotopie maximale et F un feuilletage transverse à I. Soit g

dom(I) le revêtement universel du domaine de I et G le groupe des automorphismes de ce revêtement, et soit eF le feuilletage relevé. On suppose qu’il existe un automorphisme T ∈ G et un chemin α : [a, b] → g_e dom(I) relevant un chemin transverse admissible d’ordre n, tels queα et T_e α ont une intersection e_e F −transverse au point Tα(s) =_e α(t) avec a < s < t < b._e Alors, pour tout κ ∈ Q∩]0, 1], il existe un point périodique z ∈ M dont le vecteur de rotation ρz est égal à

ρz = κ^{[T ]} n ^.