1.3 Des exemples de m´ elange
1.3.1 Une g´ en´ eralisation de la propri´ et´ e de Howe-Moore
1.3.1.1 D´ecompositions de Cartan et propri´et´e de Mautner
Dans l’article [HM79], Howe et Moore ont mis en ´evidence un ph´enom`ene tr`es int´eressant : d`es qu’un groupe de Lie simple, non compact, connexe, de centre fini, agit de mani`ere ergodique sur un espace de probabilit´e, l’action est automatique-ment m´elangeante. Cette propri´et´e se formule en fait en termes de d´ecroissance de coefficients matriciels de certaines repr´esentations unitaires, via la construction de Koopman vue dans la section pr´ec´edente.
Le beau travail de Ciobotaru, [Cio17], fournit une d´emonstration unifi´ee de la propri´et´e de Howe-Moore pour tous les exemples connus au moment de la publication de son article, en mettant en ´evidence que d’une part, tous les groupes en question v´erifient deux propri´et´es : ils poss`edent ce que nous avons appel´e une d´ecomposition de Cartan et v´erifient une propri´et´e que nous avons appel´ee propri´et´e de Mautner ; et que d’autre part, ces deux propri´et´es suffisent `a conf´erer au groupe la propri´et´e de Howe-Moore.
Que se passe-t-il pour les produits ? Comme nous le verrons dans la suite, les produits de groupes poss´edant la propri´et´e de Howe-Moore ne la v´erifient que tr`es rarement.
Cependant, le th´eor`eme [BM00, Theorem 1.1, p. 81] montre que certains produits de groupes de Lie simples v´erifient tout de mˆeme une propri´et´e plus faible que la propri´et´e de Howe-Moore.
Dans cette section, qui reprend le contenu de l’article [PL19a], nous affaiblissons la propri´et´e de Mautner afin qu’elle permette un passage aux produits, et que, jointe `
a l’existence de d´ecompositions de Cartan, elle implique une version affaiblie de la propri´et´e de Howe-Moore. Nous g´en´eralisons ainsi [BM00, Theorem 1.1, p. 81] en le retrouvant comme un cas particulier.
Remarque 1.3.1. Dans [BG17], Bader et Gelander suivent une approche parall`ele et consid`erent une classe de groupes (la classe des groupes “quasi-semi-simples”) un peu diff´erente.
Nous ´enon¸cons les d´efinitions suivantes, propres `a cette section, puis ´enon¸cons le th´eor`eme et mettons en ´evidences des corollaires importants. Nous donnons enfin l’exemple concret du m´elange du flot g´eod´esique sur un tore de genre sup´erieur ou ´egal `a deux muni d’une structure hyperbolique.
D´efinition 1.3.2. (D´ecomposition de Cartan)
On dit qu’un triplet (K1, A+, K2) est une d´ecomposition de Cartan de G si les conditions suivantes sont v´erifi´ees :
1. K1 et K2 sont des parties compactes de G,
2. A+est un sous-semi-groupe commutatif de G, c’est-`a-dire que ∀a1, a2 ∈ A+, a1a2 = a2a1 ∈ A+ et 3. G = K1A+K2. Notation 1.3.3. Si a ∈ GN, on pose Ua+ := {g ∈ G | lim n→∞a−1n g an= e} et Ua− := {g ∈ G | lim n→∞an g a−1n = e}.
On les appelle sous-groupes contractants positif et n´egatif associ´es `a a. Lemme 1.3.4. Si a = (a1, · · · , aN) ∈ (G1× · · · × GN)N, alors U+
a = Ua+1× · · · × U+ aN
(et de mˆeme pour U−).
D´efinition 1.3.5. (Propri´et´e de Mautner)
Soit F un ensemble de sous-groupes de G, et A une partie de G. On dit que (G, A) a la propri´et´e de Mautner relativement3 `a F si
∀a ∈ AN lim n→∞an= ∞ =⇒ ∃F ∈ F ∃b sous-suite de a, F ⊆ hUb+, Ub−i.
Remarque 1.3.6. Dans [Cio17], il est d´emontr´e que les groupes suivants poss`edent des d´ecompositions de Cartan (K1, A+, K2) telles que (G, A+) poss`ede la propri´et´e de Mautner :
1. les groupes alg´ebriques simples isotropes sur un corps non archim´edien ;
2. les sous-groupes du groupe des automorphismes d’un arbre semi-r´egulier4 dont tous les sommets ont une valence strictement sup´erieure `a 2, qui sont topolo-giquement simples et qui agissent 2-transitivement sur le bord de l’arbre ; 3. les groupes de Lie connexes, simples, non-compacts, de centre fini.
Notation 1.3.7. Si π : G → U (H) une repr´esentation unitaire et F un sous-groupe de G. On note5
Fix(π, F ) := {φ ∈ H | ∀g ∈ F, π(g)φ = φ}.
D´efinition 1.3.8. (Propri´et´e de Howe-Moore)
Soit F une famille de sous-groupes de G. On dit que G a la propri´et´e de Howe-Moore relativement2 `a F si ∀π : G → U (H), (∀F ∈ F , Fix(π, F ) = {0}) =⇒ ∀φ, ψ ∈ H, lim g→∞hπ(g)φ, ψi = 0 .
Remarque 1.3.9. Dans [CdCL+11], une propri´et´e poss`ede le nom de propri´et´e de Howe-Moore relative, mais ce n’est pas la mˆeme que celle consid´er´ee ici.
Remarque 1.3.10 (Howe-Moore n’est pas stable par produit). Soient G et H deux groupes topologiques poss´edant la propri´et´e de Howe-Moore. On suppose que G poss`ede au moins une repr´esentation unitaire sans vecteur fixe non nul, sur un espace de Hilbert de dimension au moins 1. Alors G × H ne v´erifie pas la propri´et´e de Howe-Moore. En effet, posons, pour (g, h) ∈ G × H, ˜π(g, h) := π(g). Alors ˜π n’a pas de vecteur fixe non nul. Cependant, si φ est un vecteur non nul, la fonction h 7→ h˜π(e, h)φ, φi est constante de valeur kφk2, et donc ne tend pas vers 0 quand h tend vers l’infini dans H.
Le th´eor`eme d’int´erˆet est alors le suivant.
Th´eor`eme 1.3.11. Soit F un ensemble de sous-groupes de G. Si G a une d´ecomposition de Cartan (K1, A+, K2) telle que (G, A+) poss`ede la propri´et´e de Mautner relative `
a F , alors il a la propri´et´e de Howe-Moore, relativement `a F .
Le corollaire suivant est l’application classique de la propri´et´e de Howe-Moore dans le cadre des actions pr´eservant une mesure de probabilit´e.
Corollaire 1.3.12. Soit F un ensemble de sous-groupes de G. Supposons que G a la propri´et´e de Howe-Moore relativement `a F .
Alors pour toute action de G pr´eservant la mesure sur un espace de probabilit´e, si elle est telle que pour tout F ∈ F , la restriction `a F est ergodique, alors elle est m´elangeante.
Exemple 1.3.13. Si α ∈ R \ Q, l’action de Z sur S1 engendr´ee par la rotation d’angle 2πα est ergodique, mais pas m´elangeante, et donc Z n’a pas la propri´et´e de Howe-Moore.
4. C’est-`a-dire, les arbres dont tous les sommets qui sont `a distance paire ont mˆeme valence. 5. Souvent, on note cela HF mais il y aurait ambigu¨ıt´e avec l’ensemble des applications de F dans H.
Ce sont les corollaires suivants qui permettent de consid´erer le cas des produits.
Corollaire 1.3.14. Soient G1, ..., GN des groupes σ-compacts poss´edant des d´ecompositions de Cartan
(K1,1, A+1, K1,2), ..., (Kn,1, A+n, Kn,2)
telles que pour tout i, (Gi, A+i ) poss`ede la propri´et´e de Mautner. Alors G a la pro-pri´et´e de Howe-Moore, relativement `a3 {G1, · · · , GN}.
Pour d´emontrer ce corollaire, le lemme suivant suffit.
Lemme 1.3.15. Soient G1, ..., GN des groupes σ-compacts qui ont des d´ecompositions de Cartan (K1,1, A+1, K1,2), ..., (Kn,1, A+
n, Kn,2) telles que pour tout i, (Gi, A+i ) poss`ede la propri´et´e de Mautner. Alors
(K1,1× · · · × Kn,1, A+1 × · · · × A+n, K1,2× · · · × Kn,2)
est une d´ecomposition de Cartan de G := G1× · · · × GN telle que (G, A+1 × · · · × A+ n) poss`ede la propri´et´e de Mautner, relative `a3 {G1, ..., GN}.
D´emonstration. Il est clair que le triplet annonc´e est une d´ecomposition de Cartan de G. Il ne reste qu’`a v´erifier que (G, A+1×· · ·×A+N) v´erifie bien la propri´et´e de Mautner, relativement `a {G1, ..., GN}. Posons A+ := A+1 × · · · × A+
N. Soit a = (a1, · · · , aN) ∈ (A+)Ntelle que limn→∞an= ∞. L’ensemble {i ∈ {1, ..., N } | (ai
n)n∈Nest non born´ee} n’est pas vide, sans quoi a elle-mˆeme serait born´ee, ce qui est exclu, par hypoth`ese. Soit j tel que (aj
n)n∈N n’est pas born´ee. Alors, d’apr`es l’hypoth`ese de σ-compacit´e, il existe h1 : N → N strictement croissante telle que (ajh1(n))n∈N tend vers l’infini dans Gj. Par hypoth`ese sur Gj, il existe h2 : N → N strictement croissante telle que si on note bj := (ajh
1(h2(n)))n∈N, hUb+j, Ub−ji = Gj. On a alors, d’apr`es le lemme 1.3.4 hU+
b , Ub−i ⊇ {1} × · · · × {1} × Gj × {1} × · · · × {1}.
Corollaire 1.3.16. Soient G1, · · · , GN des groupes σ-compacts poss´edant des d´ e-compositions de Cartan
(K1,1, A+1, K1,2), ..., (Kn,1, A+n, Kn,2)
telles que pour tout i, (Gi, A+i ) poss`ede la propri´et´e de Mautner. Soit G := G1 × · · · × GN, et soit G y (X, µ) une action sur un espace de probabilit´e telle que la restriction de l’action `a chacun des Gi est ergodique. Alors l’action G y (X, µ) est m´elangeante.
Le dernier corollaire donne des conditions suffisantes pour que les actions par multiplication `a gauche d’un groupe sur ses quotients `a droite par certains r´eseaux sont m´elangeantes.
D´efinition 1.3.17 (R´eseau irr´eductible). Soient G1, · · · , Gn des groupes topolo-giques. On consid`ere le groupe produit G des Gi. Un r´eseau de G est dit irr´eductible (sous-entendu : par rapport `a sa structure de produit des Gi) si pour tout i ∈ {1, · · · , n}, la projection de Γ dans G1× · · · × cGi × · · · × GN est dense.
Remarques 1.3.18. 1. Par G1× · · · × cGi× · · · × GN, on entend le produit de tous les Gj sauf Gi.
2. Diff´erentes d´efinitions de l’irr´eductibilit´e sont envisag´ees dans [CLB18, Section 1.5] ; la nˆotre est une des plus fortes.
Corollaire 1.3.19. Soient G1, · · · , GN des groupes poss´edant des d´ecompositions de Cartan
(K1,1, A+1, K1,2), ..., (Kn,1, A+n, Kn,2)
telles que pour tout i, (Gi, A+i ) poss`ede la propri´et´e de Mautner. Soit G := G1×· · ·× GN, et soit Γ un r´eseau irr´eductible de G. Alors l’action G y G/Γ est m´elangeante. D´emonstration. D’apr`es le corollaire pr´ec´edent, il suffit de v´erifier que pour tout i, Gi y G/Γ est ergodique. D’apr`es [Zim84, Corollary 2.2.3, p. 18], Gi y G/Γ est ergodique si et seulement si Γ y G/Gi est ergodique. Or cette derni`ere action est ergodique si et seulement si l’image de Γ dans G1× · · · × cGi× · · · × GN est dense (d’apr`es [Zim84, Lemma 2.2.13, p. 20]), et ceci est le cas si Γ est irr´eductible. Remarque 1.3.20. Supposons qu’aucun des Gi n’est compact et soit Γ est un r´eseau dans G. Si l’action G y G/Γ est m´elangeante, alors Γ est irr´eductible (et donc, la condition d’irr´eductibilit´e dans le corollaire pr´ec´edent est n´ecessaire). En effet, comme la restriction de toute action m´elangeante est m´elangeante, cela implique que l’action de chacun des Gi sur G/Γ est m´elangeante, et donc ergodique, car chacun des Gi est non compact. Ceci implique, d’apr`es [Zim84, Lemma 2.2.13, p. 20], que la projection de Γ dans G/Gi ' G1× · · · × ˆGi× · · · × Gn est dense, c’est-`a-dire que Γ est irr´eductible.
1.3.1.2 D´emonstration du th´eor`eme
Soit π : G → U (H) une repr´esentation unitaire.
Lemme 1.3.21. [Cio17, Lemma 2.9] Soit (K1, A+, K2) une d´ecomposition de Car-tan de G. Alors
∃φ, ψ ∈ H \ {0}, ∃g ∈ GN, (hπ(gn)φ, ψi)n∈N ne converge pas vers 0 ⇓
∃φ, ψ ∈ H \ {0}, ∃a ∈ (A+)N, (hπ(an)φ, ψi)n∈N ne converge pas vers 0. Lemme 1.3.22. [Cio17, Lemma 2.8] Soit g ∈ GN. Alors
∃φ, ψ ∈ H \ {0}, (hπ(gn)φ, ψi)n∈N ne converge pas vers 0 ⇓
∃φ ∈ H \ {0}, (hπ(gn)φ, φi)n∈N ne converge pas vers 0.
On extrait le lemme suivant de [Cio17, Lemma 3.1] pour la clart´e de l’expos´e. Lemme 1.3.23. Soit g ∈ GN telle que ∀n, m ∈ N, gngm = gmgn. Soit φ ∈ H \ {0} tel que (hπ(gn)φ, φi)n∈N ne converge pas vers 0. Alors il existe φ0 ∈ H \ {0}, fix´e par U+
g et par Ug−.
D´emonstration. Quitte `a extraire, on peut supposer que (π(gn))n∈N converge, pour la topologie faible des op´erateurs, vers un op´erateur normal E qui commute aux π(gn), d’apr`es le lemme A.2.3.
Par convergence faible des op´erateurs, on a que hEφ, φi 6= 0, ce qui implique que Eφ 6= 0. D´emontrons que Eφ est fix´e par Ug±.
Soit u ∈ Ug+, et ψ ∈ H. On a
|hπ(u)Eφ − Eφ, ψi| = |hEπ(u)φ − Eφ, ψi| = lim n→∞hπ(gn)π(u)φ − π(gn)φ, ψi = lim n→∞hπ(gnug−1n )π(gn)φ − π(gn)φ, ψi = lim n→∞ π(gnugn−1) − Id π(gn)φ, ψ = lim n→∞π(gn)φ, π(gnug−1n ) − Id∗ ψ = lim n→∞π(gn)φ, π(g−1 n u−1gn) − Id ψ ≤ lim sup n→∞ kπ(gn)φk · k π(gn−1u−1gn) − Id ψk = lim sup n→∞ kφk · k π(gn−1u−1gn) − Id ψk (u−1∈ U ) = 0
Ceci ´etant vrai pour tout ψ, c’est donc que π(u)Eφ = Eφ. On proc`ede de mˆeme pour d´emontrer que c’est vrai pour u ∈ Ug−.
Lemme 1.3.24. Si φ ∈ H, l’ensemble {g ∈ G | π(g)φ = φ} est un sous-groupe ferm´e.
D´emonstration. C’est un sous-groupe car π est un morphisme, et c’est ferm´e car π est fortement continue.
D´emonstration du th´eor`eme 1.3.11. Raisonnons par l’absurde. On va d´emontrer que s’il existe φ, ψ ∈ H tels que l’on n’a pas limg→∞hπ(g)φ, ψi = 0, alors il existe F ∈ F et un vecteur φ0 ∈ H \ {0} fix´e par π(F ).
Soient donc φ, ψ ∈ H ainsi. Il existe une suite g ∈ GNtendant vers l’infini telle que (hπ(gn)φ, ψi)n∈Nne converge pas vers 0. D’apr`es le Lemme 1.3.21, on peut supposer que g ∈ (A+)N, et d’apr`es le Lemme 1.3.22, que (hπ(gn)φ, φi)n∈N ne converge pas vers 0. Quitte `a remplacer g par une sous-suite, on peut supposer qu’il existe F ∈ F tel que F ⊆ hU+
g , U−
g i. D’apr`es le lemme 1.3.23, il existe φ0 ∈ H \ {0} qui est fix´e par Ug±. D’apr`es le lemme 1.3.24, φ0 est en fait fix´e par hU+
g , U−
g i, et donc par F .