Groupes de Ping-Pong et comptage

ANNALES

DE LA FACULTÉ DES SCIENCES

Mathématiques

XAVIERTHIRION

Groupes de Ping-Pong et comptage

Tome XIX, n^o1 (2010), p. 135-190.

<http://afst.cedram.org/item?id=AFST_2010_6_19_1_135_0>

© Université Paul Sabatier, Toulouse, 2010, tous droits réservés.

L’accès aux articles de la revue « Annales de la faculté des sciences de Toulouse Mathématiques » (http://afst.cedram.org/), implique l’ac- cord avec les conditions générales d’utilisation (http://afst.cedram.org/

legal/). Toute reproduction en tout ou partie cet article sous quelque forme que ce soit pour tout usage autre que l’utilisation à fin strictement person- nelle du copiste est constitutive d’une infraction pénale. Toute copie ou im- pression de ce fichier doit contenir la présente mention de copyright.

cedram

Article mis en ligne dans le cadre du

Centre de diffusion des revues académiques de mathématiques

Annales de la Facult´e des Sciences de Toulouse Vol. XIX, n^◦1, 2010 pp. 135–230

Groupes de Ping-Pong et comptage

Xavier Thirion⁽¹⁾

R^´ESUM´E.— Dans cet article, nous ´etudions les propri´et´es asymptotiques d’une large classe de sous-groupe discrets du groupe lin´eaire r´eel : les groupes de Ping-Pong. Nous d´ecrivons leuraction surl’espace projectif r´eel et le comportement `a l’infini de leurfonction de comptage.

ABSTRACT.— In this paper, we study the asymptotic properties of a large class of discrete subgroups of the real linear group, called the Ping- Pong groups. We describe their action on the real projective space and the behaviorat infinity of theircounting function.

1. Introduction

L’´etude des sous-groupes discrets d’isom´etries des espaces sym´etriques de type non compact est un domaine de recherche tr`es actif, en quˆete con- stante de nouveaux exemples explicites. Contrairement `a ce qui se passe en rang 1, on dispose en rang sup´erieur ou ´egal `a 2 de peu d’exemples de tels sous-groupes discrets, puisque seuls les r´eseaux ou les groupes de Schottky ont fait l’objet d’´etudes pr´ecises (voir par exemple [Esk-McMul], [Duk-Rud-Sar], [Bar] et [Qui1]), r´epondant en particulier `a un crit`ere dit de

«g´en´ericit´e» introduit par P. Albuquerque dans [Alb].

Il est int´eressant de souligner un ph´enom`ene de rigidit´e en rang sup´erieur ou ´egal `a 2, qui am`ene une restriction de facto `a l’existence de tels sous- groupes. Dans un travail r´ecent [Quint2], J.-F. Quint a montr´e que les seuls sous-groupes discrets convexes co-compacts (en un sens qu’il pr´ecise) d’un groupe de Lie lin´eaire r´eel simple et de rang2 sont les r´eseaux uniformes ;

(∗) Re¸cu le 23/10/08, accept´e le 02/12/08

(1) LAGA, Institut Galil´ee, Universit´e Paris 13, 93 430 Villetaneuse [email protected]

le contraste est donc grand avec le rang 1, la classe des groupes convexes co- compacts de l’espace hyperbolique ´etant par exemple tr`es vaste et contenant, loin s’en faut, beaucoup plus de groupes que les seuls r´eseaux uniformes ou les groupes de Schottky.

Nous consid´erons dans cet article une vaste classe de sous-groupes dis- crets du groupe lin´eaire de R^d, appel´es «groupes de Ping-Pong» ; ces groupes peuvent en particulier contenir des transformations unipotentes ce qui les distingue de fa¸con significative des seuls groupes de Schottky.La pr´esence d’´el´ements unipotents apporte toute une s´erie de difficult´es dans l’´etude de l’action du groupe sur l’espace projectif, qui n’est plus orbitale- ment ´equivalente `a celle d’un sous-shift de type fini sur un espace symbo- lique fini ; la mise en oeuvre des outils du formalisme thermodynamique ne se fait plus de fa¸con directe comme dans le cas des groupes de Schottky (voir [Pol-Sha] et [Qui1]).

Pr´esentons maintenant les r´esultats principaux de cet article.

Nous fixons un nombre entier d 1, nous munissons R^d du produit scalaire usuel·,·, nous notons·la norme associ´ee etB= (ei)_1idla base canonique de R^d.Nous munissons l’espace End

R^d

des endomorphismes deR^d de la norme.d´efinie par :

∀f ∈End R^d

f= sup{f(x)/x∈R^d,x= 1}. De plus, nous notonsGle groupe des automorphismes lin´eaires deR^d.

Nous nous int´eressons `a l’action projective des ´el´ements de G et mu- nissons pour ce faire l’espace projectif P

R^d

de la distance canonique δ, d´efinie par la formule (2.1) de la page 140 et appel´ee parfois«distance de Fubini-Study».Pour tout vecteur x ∈R^d\ {0}, on notera x l’´el´ement de P

R^d

qui lui est associ´e.

Rappelons qu’un automorphisme g de R^d est dit proximal s’il poss`ede une unique valeur propre λ_g de module maximal et si de plus cette valeur propre est simple.Notons alors que

• la valeur propreλ_g appartient `a R

• sixgun vecteur propre degassoci´e `aλg etXgl’unique hyperplang- invariant deR^dtel queXg⊕Rxg=R^d, la suite (gⁿ·x)_n∈Nconverge versxgpour toutx∈/P(Xg).

Les transformations proximales deR^d sont donc «contractantes », au sens suivant :

D´efinition 1.1. — Un automorphismegdeR^dest ditcontractantsur P

R^d

s’il existe x∈P R^d

et un sous-espace vectoriel propreX ⊂R^d tels que, pour tout y∈/ P(X), la suite (gⁿ·y)_n∈N converge versx.

Remarquons d’embl´ee que l’´el´ementxqui apparaˆıt dans cette d´efinition est unique : on le notera par la suite xg et on dira que xg est la droite attractive de g. Remarquons ´egalement qu’il existe des automorphismes deR^dqui sont contractants surP

R^d

et non proximaux, nous dirons qu’ils sontquasi-proximauxsurP

R^d

. On peut par exemple consid´erer certains automorphismes unipotents de G; en effet, la matrice







11 (0)

. .. ...

1 1

(0) 1







d´efinie un automorphisme g de R^d contractant sur P R^d

puisque, pour tout x∈R^d\ {0}, la suite (gⁿ·x)_n∈Nconverge verse₁.

Dans cet article, nous caract´erisons les ´el´ements deGqui sont contrac- tants surP

R^d

. Cela nous permet d’associer `a chaque automorphismegde R^d contractant sur P

R^d

un unique hyperplanX_g deR^d, appel´ehyper- plan r´epulsif, tels que pour toutx∈R^d\X_g, on ait lim_n→+∞gⁿ·x=x_g.

C’est essentiellement la propri´et´e de contraction sur P R^d

d´ecrite ci- dessus des automorphismes proximaux qu’utilisent Y. Benoist [Ben] ou M.

Pollicott et R. Sharp [Pol-Sha] pour construire des groupes de Schottky.

Ainsi, `a l’instar de la construction des produits Schottky de groupes discrets kleiniens (voir par exemple [Pei]), il est possible de consid´erer des sous- groupes discrets deG, de type Schottky, mais contenant des transformations non proximales. L’´etude du comportement asymptotique des fonctions de comptage de ces groupes n´ecessite cependant de«quantifier» la notion de transformation contractante ; nous proposons la

D´efinition 1.2. — Soitg une transformation contractante surP R^d

. Pour tout ∈]0,1[, on pose

b_g:={x∈P R^d

/δ(x,x_g)} et B_g:={x∈P R^d

/δ(x,P(X_g))}. L’automorphisme g est dit-contractantsur P

R^d

si, pour tout n∈N^∗, on a :

• gⁿ B_g

⊂b_g.

• la restriction degⁿ `aB_g est lipschitzienne, de constante de lipschitz .

Nous disposons `a pr´esent de tous les outils n´ecessaires pour construire de nouveaux sous-groupes discrets deG; nous avons la

D´efinition 1.3. — Soitun r´eel strictement positif. Une partie sym´etri- que A := {a^±₁¹, . . . , a^±_N¹}, avec N 2, de G form´ee de transformations -contractantes sur P

R^d

est dite en position -Ping-Pongsi :

• l’ensembleBΓ:=

g∈AB_g est non vide.

• pour tousg, h∈ Atels que g=h^±1, l’ensembleb_g est contenu dans l’int´erieur deB_h.

• pour tousg, h∈ Atels que g=h^±1 on a b_g∩b_h=∅.

Le sous-groupe de Gengendr´e par une partieA en position -Ping-Pong est appel´egroupe -Ping-Pongsur P

R^d

engendr´e parA.

Dans ce qui suit, Γ d´esigne un groupe-Ping-Pong contenant des trans- formations quasi-proximales et l’on fixe un ´el´ement x0 de R^d\ {0} tel que x0 ∈ BΓ. Nous ´etudions le comportement asymptotique des fonctions de comptage

NΓ(x0, R) := Card{γ∈Γ/γ(x0)R}

et

NΓ(R) := Card{γ∈Γ/γR}.

Nous donnons tout d’abord un crit`ere simple, portant sur les g´en´erateurs de Γ, qui assure que son exposant critique

τ:= lim sup

R→+∞

log Card{γ∈Γ/γR}

R est fini.

Nous pouvons alors pr´eciser le comportement asymptotique de la fonc- tion NΓ(x0,·). Rappelons que, suivant la terminologie employ´ee par [Con-Gui], un sous-groupe discretH deGv´erifie l’hypoth`ese d’irr´eductible s’il n’existe pas de sous-espace propre deR^d qui soit invariant parH. Nous avons le

Th´eor`eme 1.4. — SoitΓun sous-groupe deGengendr´e par une partie Aen position-Ping-Pong surP

R^d

, d’exposant critiqueτ fini et v´erifiant

l’hypoth`ese d’irr´eductibilit´e. Si on suppose que Γ contient une transforma- tion non proximale alors, pour tout x₀∈R^d\ {0}tel quex₀∈B_Γ, il existe C=C(Γ, x₀)>0 tel que

Card{γ∈Γ/γ(x₀)R} ∼C R^τ lorsqueR→+∞.

Notons que le cas o`u tous les ´el´ements de Γ sont proximaux a d´ej`a ´et´e

´

etudi´e par M. Pollicott et R. Sharp dans [Pol-Sha], sous une hypoth`ese technique suppl´ementaire, dite de non-arithmicit´e, portant sur les rayons spectraux des ´el´ements de Γ ; cette hypoth`ese n’est plus n´ecessaire lorsque Γ contient une transformation non proximale, nous renvoyons le lecteur au paragraphe 5 pour plus de d´etails.

Quant au comportement asymptotique de la fonctionNΓ(·), nous d´emon- trons le

Th´eor`eme 1.5. — SoitΓun sous-groupe deGengendr´e par une partie Aen position-Ping-Pong sur P

R^d

d’exposant critiqueτ fini et v´erifiant l’hypoth`ese d’irr´eductibilit´e. On suppose que les transformations deAsont, soit proximales, soit contractantes sur P

R^d

et unipotentes. Il existe alors une constanteC=C(Γ)>0 telle que

Card{γ∈Γ/γR} ∼C R^τ lorsqueR→+∞.

La principale propri´et´e des groupes de Ping-Pong sur P R^d

que nous utilisons ici est que leur ensemble limite peut ˆetre cod´e par un alphabet infini d´enombrable. Ceci nous permet d’introduire une famille d’op´erateurs de Ruelle, dont il est possible de d´ecrire le spectre en restriction `a certains espaces fonctionnels adapt´es ; cette description est une ´etape essentielle dans l’´etude de la s´erie de Poincar´e associ´ee `a ces groupes.

Il est important de souligner que les seuls g´en´erateurs non proximaux que nous consid´erons dans le dernier th´eor`eme sont unipotents ; cette restric- tion est n´ecessaire pour minorer la taille des cylindres associ´es au codage de l’ensemble limite, avec une borne comparable `a leur diam`etre ; cette pro- pri´et´e, que nous appelons non distorsion, est ´etablie dans le paragraphe 6.1 et intervient de fa¸con essentielle dans la d´emonstration du th´eor`eme 1.5.

2. Pr´eliminaires

On identifie l’espace des matrices carr´ees d’ordredavec l’espace End R^d des endomorphismes deR^d et on noteI l’application identit´e surR^d.

Nous notons ₂

R^d le carr´e ext´erieur de R^d muni du produit scalaire ., .2d´efini pourx1∧x2, y1∧y2∈2R^d par

x1∧x2, y1∧y22=x1, y1 x2, y2 − x1, y2 x2, y1. Nous notons .2 la norme sur ₂

R^d associ´ee `a ., .2 et End2R<sup>d</sup> l’espace des endomorphismes de 2R<sup>d</sup> muni de la norme canonique . associ´ee `a .2.

Pour tout g ∈ G, nous notons 2

g l’automorphisme de 2R^d d´efini par :

∀x∧y∈2

R^d 2

g

(x∧y) :=g(x)∧g(y). Nous munissons enfin l’espace projectif de R^d, not´eP

R^d

, de la distance naturelleδ, dite de«Fubini-Study», d´efinie par

∀x,y∈P R^d

δ(x,y) = x∧y2

x y, (2.1)

o`uxetysont respectivement des repr´esentants dexety. Notons pour finir queGop`ere de fa¸con naturelle surP

R^d .

2.1. D´ecomposition de Cartan de G et transformations unipo- tentes

Le groupe G des matrices inversibles poss`ede des sous-groupes remar- quables qui joueront un rˆole important par la suite. Nous noterons ainsi

• Ale sous-groupe deGconstitu´e des matrices diagonales `a coefficients strictement positifs.

• Kle sous-groupe deGconstitu´e des matrices orthogonales.

Ces sous-groupes permettent de d´ecomposerG. En effet, nous avons la D´efinition-Th´eor`eme 2.1. — Toute matricegdeGse d´ecompose sous la forme g=k a(g)l avec :

• k, l∈K.

• a(g) =diag (a₁(g), . . . , a_d(g))∈A eta₁(g). . .a_d(g)>0.

Une telle d´ecomposition est appel´eed´ecomposition de Cartandeg.

Un automorphisme lin´eaireg est ditunipotents’il se d´ecompose sous la forme g =I+u o`u u est un endomorphisme nilpotent deR<sup>d</sup> ; l’indice de nilpotence deu, c’est-`a-dire le plus petit entierνdtel queu^ν = 0, est aussi appel´eindicedeg. De fa¸con ´equivalent,gest unipotent s’il existe un endomorphisme nilpotentv deR^d tel queg= exp (v). On a u= exp (v)− I = d−1

k=1v^k

k! et r´eciproquement v = ln (I+u) = −d−1 k=1(−u)^k

k . De ces expressions, on d´eduit que les endomorphismes nilpotents u et v ont le mˆeme indice et que ker uⁿ = kervⁿ pour tout entier n 1. Introduisons alors la

D´efinition 2.2. — Soit g un endomorphisme unipotent de R^d et ν = ν(g) son indice ; on appelle ultime noyau de g le sous-espace vectoriel ker

u^ν−1 .

2.2. Sur l’action projective des ´el´ements deG

On consid`ere un endomorphismegdeR<sup>d</sup>, on note Spect(g) l’ensemble des valeurs propres complexes deg (c’est-`a-dire l’ensemble des valeurs propres de g vu comme application lin´eaire de C^d) et ρ(g) le rayon spectral deg d´efini par

ρ(g) = max{|λ|/λ∈Spect (g)}.

Siλ∈Spect (g), on d´esigne respectivement parEλ etCλles sous-espaces propres et caract´eristiques deC^dassoci´es `a la valeur propreλet d´efinis par

Eλ= ker(g−λI) et Cλ= ker(g−λI)^d.

La multiplicit´e alg´ebrique deλ, c’est-`a-dire la multiplicit´e deλcomme racine du polynˆome caract´eristique deg, est not´eemλ ; par convention, lorsqueλ n’est pas une valeur propre deg, on posemλ=0.

La restriction deg−λI `a l’espaceCλ est un op´erateur nilpotent, dont l’indice de nilpotence sera not´e ν_λ et l’ultime noyauUλ ; remarquons que ν_λest aussi la multiplicit´e deλen tant que racine du polynˆome minimal de g et que l’on a

Uλ= ker (g−λI)^νλ−1 et Cλ= ker (g−λI)^νλ.

En particulier, νλ = 1signifie que la restriction de g `a Eλ est diagonale.

Rappelons que siλ∈Spect(g), il en est de mˆeme pour ¯λet l’on a : Eλ¯= ¯Eλ,C¯λ= ¯Cλ et U¯λ= ¯Uλ.

On consid`ere alors les sous-espaces vectoriels deR^d d´efinis par :

E_λ= (Eλ⊕ E^¯λ)∩R^d , C_λ= (Cλ⊕ C^¯λ)∩R^d et U_λ= (Uλ⊕ U^¯λ)∩R^d. Notons que E_λ=Eλ¯, C_λ =C¯λ et U_λ=U¯λ ; de plus, pour toutλ∈R, on a :

E_λ=Eλ∩R^d , C_λ=Cλ∩R^d et U_λ=Uλ∩R^d. Introduisons la

D´efinition 2.3. — Soitgun endomorphisme deR^d. On appelleindice de g le nombre entier ν(g)d´efini par :

ν(g) = max{ν_λ/λ∈Spect(g),|λ|=ρ(g)}. et la

Notation 2.4. — Pour tout endomorphismegdeR^d, on noteX_gle sous- espace deR^d d´efini par

Xg:=

|λ|<ρ⊕ Cλ

⊕



 ⊕

|λ|=ρ

νλ<ν(g)

Cλ



⊕



 ⊕

|λ|=ρ

νλ=ν(g)

Uλ



. (2.2)

En utilisant alors le fait que, pour tout λ∈ Spect (g), tout k∈ Net tout x∈ker (g−λ I)^k+1\ker (g−λI)^k, on a

gⁿ(x) |λ|ⁿn^k, ⁽¹⁾ on obtient la

Proposition 2.5. —

1. Il existe une constantec1>1 telle que, pour tout n1, on ait g^nc1 ρⁿn^ν(g)−1.

2. Siλest une valeur propre degtelle que|λ|< ρ, pour tout vecteur uni- taire de xde C_λ, la suite

gⁿ(x) gⁿ

n∈N converge exponentiellement vite vers0.

(1) Pourtousx1, x2 ∈R^{+ et toutc1, nous ´ecrivonsx1c} x2 si ^x_c^{1 x2 c x1.}

On ´ecrit plus simplementx1x2lorsque la constantecn’est pas explicit´ee.

3. Si λ est une valeur propre de g telle que |λ| = ρ et ν_λ < ν(g), il existe une constante c₂ > 0 telle que, pour tout vecteur unitaire de x∈C_λ et toutn1, on ait :

gⁿ(x)c₂ gⁿ n^ν(g)−νλ.

4. Si λ est une valeur propre de g telle que |λ| = ρ et νλ = ν(g), il existe une constante c3 >0 telle que, pour tout entier n1 et tout x∈Uλ, on ait :

gⁿ(x)c3gⁿ n .

5. Siλ est une valeur propre de g telle que |λ|=ρetνλ=ν(g), alors pour toutx∈C_λ\U_λ, il existe un r´eelc₄(x)>0 tel que :

n→lim+∞

gⁿ(x)

gⁿ =c₄(x). Nous obtenons de fa¸con imm´ediate le

Corollaire 2.6. — Pour toute partie compacte C deP R^d

\P(Xg), il existeη=η(C)>0tel que, pour toutn∈Net toutx∈R^d\{0}v´erifiant x∈C, on ait :

gⁿ(x) x

gη ⁿ.

En particulier, cette estimation est uniforme.

La proposition qui suit d´ecrit l’action des puissances d’une transforma- tiong∈Gsur les ´el´ements deP

R^d .

Proposition 2.7. — Soitgun endomorphisme deR^d de rayon spectral ρet d’indiceν et soit Xg le sous-espace deR^d d´efini par la formule (2.2).

1. Pour tousx, y /∈X_g\ {0} tels quex∈R^∗y+X_g, on a

n→+∞lim δ(gⁿ·x, gⁿ·y) = 0.

2. Soitλ∈Rtel queλ=±ρ. Pour toutx∈C_λ\U_λ, la suite(gⁿ·x)_n∈N converge vers un ´el´ement de P(E_λ).

3. Soitλ∈Ctel queλ=±ρet|λ|=ρ. Pour toutx∈Cλ\Uλ, la suite (gⁿ·x)_n∈N ne converge pas.

D´emonstration de la proposition 2.7. — La premi`ere assertion d´ecoule directement de la proposition 2.5. En effet on a x=λ y+z avec,λ∈R<sup>∗</sup>, x, y /∈ X<sub>g</sub> et z ∈ X<sub>g</sub>, si bien que g<sup>n</sup>(x) g<sup>n</sup>(y) g<sup>n</sup> tandis que lim<sub>n→+∞</sub><sup>g</sup><sub>g</sub><sup>n(z)</sup>n = 0. Pour ´etablir les deux autres assertions, posons λ = |λ|e<sup>iθ</sup> et ´ecrivons la restriction de g `a C_λ sous la forme λ e^vλ o`u v_λ est un endomorphisme nilpotent de Cλ d’indice νλ. Fixons x ∈ Cλ\Uλ

et d´ecomposons x en x + ¯x avec x ∈ Cλ\ Uλ. Pour tout n 1, on a gⁿ(x) = λⁿ_νλ−1

k=0 n^k

k!v^k_λ(x), si bien qu’en posant y = ^v

νλ−1 λ (^x)

v^νλ−1_λ (x), on obtient

n→+∞lim gⁿ(x)

gⁿ(x) −e^{i n θ}y= 0 ;

ainsi, en notant respectivementy1ety2les parties r´eelles et imaginaires de y, il vient

n→+∞lim gⁿ(x)

gⁿ(x) −(cos(n θ)y1+ sin (n θ)y2)= 0.

La suite (gⁿ·x)_n∈Nconverge si et seulement siθ∈πZ. D’o`u le r´esultat.

3. Transformations contractantes sur P R^d Nous d´emontrons la

Proposition 3.1. — Soitg un automorphisme de R^d. Les deux asser- tions suivantes sont ´equivalentes :

1. L’automorphismeg est contractant sur P R^d

.

2. L’automorphisme g poss`ede une unique valeur propre λ de module maximal telle que, dans l’espace caract´eristique associ´e, l’automor- phisme unipotent <sup>1</sup><sub>λ</sub>g poss`ede un unique bloc de Jordan de longueur maximale.

D´emonstration de la proposition 3.1. — Nous notonsXg le sous-espace deR^d d´efini par la formule (2.2).

Montrons que1⇒2.L’automorphismeg´etant suppos´e contractant sur P

R^d

, nous fixonsy∈P R^d

et un hyperplanY deR^d tels que, pour tout x∈/ P(Y), la suite (gⁿ·x)_n∈N converge versy. De plus, nous consid´erons une valeur propreλ∈Cdeg telle que|λ|=ρ(g)et ν_λ=ν(g).

Comme Xg = R^d, nous avons R^d = Xg∪Y. Ainsi, nous fixons x1 ∈ Cλ\Uλ et nous choisissons x2 ∈/ Xg ∪Y tel que x1 ∈ R^∗x2+Xg. Par

d´efinition de Y, la suite (gⁿ·x₂)_n∈Nconverge versyet, d’apr`es l’assertion 1de la proposition 2.7, la suite (δ(g<sup>n</sup>·x<sub>1</sub>, g<sup>n</sup>·x<sub>2</sub>))<sub>n∈N</sub>converge vers 0. La suite (g<sup>n</sup>·x<sub>1</sub>)<sub>n∈N</sub>converge donc versysi bien que, d’apr`es l’assertion 3 de la proposition 2.7, la valeur propreλest donc r´eelle. De plus, d’apr`es l’assertion 2 de la proposition 2.7, nous avonsy∈P(E_λ). Ce qui est suffisant.

Montrons que2 ⇒1.Notonsλl’unique valeur propre de module maximal telle que, dans l’espace caract´eristique associ´e, l’automorphisme unipotent

1

λgposs`ede un unique bloc de Jordan de longueur maximale. Ces hypoth`eses assurent queXg est un hyperplan deR^d.

D’apr`es l’assertion 2 de la proposition 2.7, pour toutx∈/ P(X_g), la suite (gⁿ·x)_n∈Nconverge vers un ´el´ement deP(E_λ). De plus, le sous-espaceX_g

´

etant un hyperplan de R^d, pour tousx1,x2 ∈/ P(Xg), on peut respective- ment fixer deux repr´esentants x1 et x2 ∈ R^d \ {0} de x1 et x2 tels que x1∈R^∗x2+Xg. Ainsi, d’apr`es l’assertion 1de la proposition 2.7, pour tous x1,x2 ∈/ P(Xg), nous avonsδ(gⁿ·x1, gⁿ·x2) →0 quand n →+∞. Ceci d´emontre qu’il existexg∈P

R^d

tel que, pour toutx∈P R^d

\P(X_g), la suite (gⁿ·x)_n∈Nconverge versx_g. Ce qui est suffisant.

La proposition 3.1nous am`ene `a introduire la

D´efinition 3.2. — Soit g un automorphisme contractant sur P R^d

. L’hyperplan Xg de R^d d´efini par la formule (2.2) est appel´e hyperplan r´epulsifdeg.

La d´efinition 1.2 donn´ee dans l’introduction est une version quantifi´ee de la notion de transformation contractante. Il est clair qu’elle est plus restrictive, cependant nous avons la

Proposition 3.3. — Soit g un automorphisme de R^d contractant sur P

R^d

. Pour tout ∈]0,1[ il existe n = n(, g) 1 tel que, pour tout nn, l’automorphismegⁿ est-contractant sur P

R^d .

D´emonstration de la proposition 3.3. — Nous allons d´emontrer une ver- sion uniforme de l’assertion 1de la proposition 2.7. Pour ce faire, fixons x∈R^d\ {0}orthogonal `a X_g et montrons qu’il existen=n(, g)∈Ntel que, pour touty∈B_g et toutn∈Navecnn, on ait δ(gⁿ·x, gⁿ·y)

2δ(x,y).

Nous fixons une partie compacteC deXg telle queB_g⊂ {y∈P R^d

/ y=x+z avecz∈C}. De plus, grˆace au corollaire 2.6, nous fixonsκ >0 tel que, pour touty∈R^d\ {0}avecy∈B_g, nous ayonsgⁿ(y)κgⁿ y.

Consid´erons `a pr´esent z ∈ C et posons y = x+z. Le vecteur x´etant orthogonal `a z∈X_g, nous avons x∧z2=x z si bien queδ(x,y) =

x∧y 2

x y = _{x y} ^{x∧z 2} = _{x y} ^{x z} = _y ^z .Ainsi, pour toutn∈N, nous avons δ(gⁿ·x, gⁿ·y) = 2

gⁿ(x∧z)2

gⁿ(x) gⁿ(y) gⁿ(x) gⁿ(z) κgⁿ(x) gⁿ y gⁿ(z)

κgⁿ z z

y gⁿ(z)

κgⁿ zδ(x,y). D’apr`es la proposition 2.5, la suite

gⁿ(z) gⁿ |z

n∈Nconverge uniform´ement vers 0 surC. Ce qui est suffisant

4. Groupes de Ping-Pong sur P R^d

Dans cette section, nous ´etudions la classe des groupes-Ping-Pong sur P

R^d

introduite dans la d´efinition 2.6. L’existence de tels groupes repose sur la proposition suivante

Proposition 4.1. — SoitA={a^±₁¹, ..., a^±_N¹} une famille sym´etrique et finie d’´el´ements contractants deG. On suppose que pour tousg, h∈ A tels queg=h^±1 on axg∈/ P(Xh). Pour tout >0 suffisamment petit, il existe n∈Ntel que la familleA⁽ⁿ⁾:={a^±₁ⁿ, ..., a^±_Nⁿ}soit en position-Ping-Pong.

D´emonstration de la proposition 4.1. — Grˆace aux hypoth`eses, on fixe > 0 suffisamment petit de sorte que, pour tous g, h ∈ Aavec g =h^±1, nous ayons

• les ensemblesb_g et b_h sont disjoints.

• la partieb_g est contenue dans l’int´erieur deB_h.

• l’ensemble

a∈AB_a est non vide.

On ach`eve cette d´emonstration en appliquant la proposition 3.3.

Dans tout le reste de l’article, on fixe >0, on consid`ere une partie finie A de G en position-Ping-Pong et on note Γ le sous-groupe -Ping-Pong qu’elle engendre.

Par un argument classique, reposant sur le lemme du tennis de ta- ble de Klein, on montre que Γ est libre et discret. Ainsi, ces ´el´ements se d´ecomposent de fa¸con unique sous la forme αⁿ₁¹...αⁿ_k^k o`u (αi, ni)_1ik est

une suite finie deA×N^∗telle queα_i =α^±_i+1¹, pouri∈ {1, . . . , k−1}. On ob- tient ainsi une bijection entre Γ et l’ensemble des suites finies (α_k, n_k)_1kl d’´el´ements deA×N^∗telles que, pour toutk∈ {1, ..., l−1}, on aitαk=α^±1_k+1. Nous pr´ecisons `a pr´esent un certain nombre de notations.

Notations 4.2. — Soitγune transformation de Γ qui se d´ecompose sous la formeγ =αⁿ₁¹...αⁿ_l^l o`u (αi, ni)_1il est une suite finie deA^∗:=A ×N^∗ telle queαi=α^±1_i+1pour i∈ {1, . . . , l−1}.

• La suite (αi, ni)_1il est dite A^∗-admissible et est appel´ee A^∗- d´ecompositiondeγ.

• L’entierl est appel´elongueur de γet est not´el(γ).

• L’ensembleb_α1 est appel´ebassin d’arriv´ee de γet est not´eb_γ.

• L’ensembleB_αk est appel´ebassin de d´epart de γet est not´eB_γ. 4.1. Sur la norme des ´el´ements d’un groupe -Ping-Pong

D’apr`es le corollaire 2.6, si g est un automorphisme contractant sur P

R^d

, pour toutx /∈X_g et toutn∈N, on a gⁿ(x)

x gⁿ.

Lorsque Γ est un groupe-Ping-Pong, cette propri´et´e se propage `a partir des g´en´erateurs `a tout le groupe. Afin d’´enoncer ce r´esultat, nous pr´ecisons deux notations :

• D’apr`es le corollaire 2.6, on peut choisir κ > 0 tel que, pour tout g∈ A, toutn∈N^∗ et toutx∈R^d\ {0} v´erifiantx∈Bg, on ait

g(x)

x κg.

• On poseη:= ming,h∈A

g=h^±1δ bg,P

R^d

\Bh

.

Nous avons la

Proposition 4.3. — Il existe une constante c =c(,A)>0 telle que, pour toutγ∈Γ et toutx∈R^d\ {0}v´erifiant x∈B_γ, on ait

γ(x) x

c γ.

Plus pr´ecis´ement on peut prendrec:=(1−)ηκ

√2

1− 1−η²

3/2

. La d´emonstration de cette proposition repose sur l’´etude d’une classe particuli`ere d’´el´ements de Γ au travers des deux lemmes qui suivent.

D´efinition 4.4. — Soitγ∈Γet soit(αi, ni)_1ilsaA^∗-d´ecomposition.

On dit que γ esttr`es r´eduit sil(γ)2 et si α1 =α<sup>±</sup><sub>l</sub> <sup>1</sup>. Nous notons Γ<sup>+</sup> l’ensemble des transformations tr`es r´eduites deΓ.

Lemme 4.5. — Tout ´el´ement γ de Γ⁺ est proximal et P(X_γ) est in- clus dans le compl´ementaire de B_γ. De plus, pour tout γ ∈ Γ⁺, on a δ(bγ,P(Xγ))η.

On d´eduit directement de ce lemme que les ´el´ements de Γ sont soit proximaux soit conjugu´es `a une puissance d’un g´en´erateur quasi-proximal.

Lemme 4.6. — Il existe une constante η₁ = η₁(Γ) telle que, pour tout γ∈Γ⁺, on ait :

γ^η1ρ(γ),

o`uρ(γ)d´esigne le rayon spectral de γ; plus pr´ecisement, on a (1−)

1−

1−η²

γρ(γ)γ.

D´emonstration du lemme 4.5. —Commen¸cons par expliciter une valeur propre r´eelle deγ. On fixeγ∈Γ⁺et on note (αi, ni)_1ilsaA^∗-d´ecomposi- tion. Commeγ∈Γ⁺, on aα₁ =α^±_l ¹, si bien que γ·b_γ ⊂b_γ. La partieA

´

etant en position-Ping-Pong, la transformationγestⁿ-lipschitzienne sur b_γet, par le th´eor`eme du point fixe, nous fixonsy<sub>γ</sub> ∈b<sub>γ</sub>tel queγ·y<sub>γ</sub>=y<sub>γ</sub>. Il existe donc λ<sub>γ</sub> ∈R tel queγ(y<sub>γ</sub>) = λ<sub>γ</sub>y<sub>γ</sub>, o`uy_γ est un repr´esentant de y_γ.

Montrons `a pr´esent queλγ est la seule valeur propre deγdont le module est ´egal `aρ(γ)et que celle-ci est simple.Nous consid´erons l’action naturelle deγ surC^d. De plus, nous fixons une valeur propreλ∈Cde γde module ρ(γ), nous posonsλ=e^{i θ}ρ(γ), avecθ∈R, et nous choisissons un vecteur propreu∈C^d deγ associ´e `a λ. Pour toutt∈Ret toutn∈N, nous avons

γⁿ(y_t) =t λⁿ_γy_γ+ρ(γ)ⁿ

e^{i n θ}u+e^{−i n θ}u¯

∈R^d, (4.1) o`uy_t:=t y_γ+ (u+ ¯u)∈R^d.

L’ensemble bγ ´etant contenu dans l’int´erieur de Bγ et yγ ∈ bγ, nous fixonst0∈Rtel que yt0 ∈Bγ. La transformationγ´etantⁿ-lipschitzienne

sur B_γ, par le th´eor`eme du point fixe, la suite (γ<sup>n</sup>·y<sub>t0</sub>)<sub>n∈N</sub> converge vers y<sub>γ</sub> mais, d’apr`es la formule (4.1), ceci n’est possible que siλ=λ_γ =ρ(γ) et u∈Ry_γ. Ce qui est suffisant.

Montrons que P(Xγ)∩Bγ = ∅.Il suffit de remarquer que l’orbite de tout point de Bγ s’accumule en xγ alors que l’ensemble ferm´eP(Xγ) est γ-invariant mais ne contient pasxγ. D’o`u le r´esultat.

Pour d´emontrer le lemme 4.6, nous aurons besoin du r´esultat suivant Fait 4.7. — Soient P(X) et P(Y) deux sous-ensembles de P

R^d tels queδ(P(X),P(Y))>0.

(i) Pour tout vecteur unitaire x ∈ R^d tel que x ∈ P(X) et tout y ∈ R^d\ {0} tel quey∈P(Y), on a

x−yδ(P(X),P(Y)).

(ii) Pour tousx, y∈R^d\ {0} tels quex∈P(X) ety∈P(Y), on a : x+yc(x+y)

avec c:=

1−

1−δ(P(X),P(Y))²

2 .

D´emonstration du fait 4.7. — Remarquons que, pour tousx, y∈R^d\{0}, la quantit´eδ(x,y) repr´esente le sinus de l’angle entrexety.

Choisissonsa, b∈R^d\ {0}et notonspd´esigne la projection orthogonale de a sur Rb. Nous avons a−p a−b et, le triangle [0, a, p] ´etant rectangle, nous avonsδ(a,b)a−p/a. Ainsi, pour tousx, y∈R^d\{0}

tels quex∈P(x) ety∈P(Y), nous avonsδ(P(X),P(Y)) ^x−y _x . Pour ´etablir la deuxi`eme assertion, remarquons que, pour tous x, y ∈ R^d\ {0}, nous avons x+y² x²+y²−2x y

1−δ(x,y)². Ainsi, pour tous x, y ∈ R^d tels que x ∈ P(X) et y ∈ P(Y), nous avons x+y²c² (x+y)². D’o`u le r´esultat.

D´emonstration du lemme 4.6. — Fixonsγ∈Γ⁺et consid´erons un vecteur unitairey∈R^d tel queγ(y)=γ.

Comme γ est tr`es r´eduit, il est proximal et on a xγ ∈/ P(Xγ). Fixons un repr´esentant unitaire x_γ ∈ R^d de x_γ et d´ecomposons y sous la forme α x+β x_γ avecα, β∈R,x= 1 etx∈P(X_γ) ; on a :

γ=γ(y)|α| × γ(x)+|β| ×ρ(γ).

Dans un premier temps, nous controlons la taille des coefficients α et β.

Supposons pour fixer les id´ees que|α||β|; on a alors 1 =y²=α²+β²+ 2α βx, xγα²+β²−2|α β|

1−η², d’o`u 1

|α| −

1−η²|β|2

; en utilisant le fait que |α| |β|, il vient

|α| 1 1−

1−η². Le cas o`u |α| |β| se traite de fa¸con analogue et on obtient finalement

max(|α|,|β|) 1 1−

1−η². (4.2)

Dans un second temps, nous majoronsγ(x)en fonction deρ(γ). Puisque xappartient au sous-espaceγ invariantX_γ, on a

γ(x) ×δ(xγ,P(Xγ))xγ∧γ(x)2.

Posons alorsy:=x+xγ et remarquons quey appartient `abγ ; il vient xγ∧γ(x)2 = 1

xγ∧γ(y)2

γ(x)+ρ(γ)

δ(γ·xγ, γ·y)

γ(x)+ρ(γ)

^l(γ)δ(x_γ,P(X_γ)). On a alorsγ(x)

γ(x)+ρ(γ)

^l(γ)d’o`u γ(x) ^l(γ)−1

1−^l(γ) ρ(γ). (4.3)

En combinant les in´egalit´es (4.2), (4.3) et le fait quel(γ)2, il vient γ ρ(γ)

(1−)(1−

1−η²). D’o`u le r´esultat.

D´emonstration de la proposition 4.3. — Fixons γ ∈ Γ et notons (αi, ni)_1il sa A^∗-d´ecomposition ; choisissons par ailleurs un vecteur uni- tairex∈R^d tel quex∈Bγ.

Dans un premier temps, supposons que γ soit tr`es r´eduit. Le vecteur x se d´ecompose sous la forme µ x<sub>γ</sub> +x avec µ ∈ R<sup>∗</sup> et x ∈ X<sub>γ</sub> ; on a x ∈P(X<sub>γ</sub>) etx<sub>γ</sub> ∈b<sub>γ</sub> si bien queδ(x<sub>γ</sub>,x)η() d’apr`es le lemme 4.5.

Par cons´equent, en appliquant l’assertioni) du fait 4.7, il vient x−x=|µ|η(η).

De mˆeme, en appliquant cette fois l’assertionii) du fait 4.7, on obtient γ(x)

1−

1−η² 2

|µ|ρ(γ) +γ(x)

1−

1−η²

2 |µ|ρ(γ). D’apr`es le lemme 4.6, il vient

γ(x)

1− 1−η²

2 ηρ(γ) η(1−)

√2

1− 1−η²

3/2

γ.

Ainsi, pour toutγ∈Γ⁺ et toutx∈Bγ, on aγ(x)cγ avec c =η(1−)

√2

1− 1−η²

3/2

.

Lorsque γ n’est pas tr`es r´eduit, on ´ecrit γ =α<sup>n</sup><sub>1</sub><sup>1</sup>...α<sup>n</sup><sub>l−</sub><sup>l−</sup><sub>1</sub><sup>1</sup>α<sup>n</sup><sub>l</sub><sup>l</sup> ; la trans- formation α<sup>n</sup><sub>1</sub><sup>1</sup>...α<sup>n</sup><sub>l−1</sub><sup>l−1</sup> est tr`es r´eduite et αⁿ_l^l·x ∈ B_αl−1 (car x ∈ B_γ). Il vient

γ(x) cαⁿ₁¹. . . αⁿ_l−1^l−1 αⁿ_l^l(x) cκαⁿ₁¹...αⁿ_l−^l−₁¹ αⁿ_l^lcκγ.

D’o`u le r´esultat avecc=κ c.

4.2. Sur l’exposant critique des groupes de Ping-Pong

Dans ce paragraphe, nous ´etudions l’exposant critique associ´e aux grou- pes de Ping-Pong. Plus pr´ecis´ement, nous ´enon¸cons un crit`ere de finitude et nous montrons que les groupes de Ping-Pong satisfont une propri´et´e que nous appelons, propri´et´e du trou critique. On commence par rappeler la notion d’exposant critique.

D´efinition 4.8. — SoitHun sous-semi-groupe discret deG. L’exposant critique τ_H deH est d´efini par

τ_H = inf{s >0/

h∈H

h^−s<∞},

avec la convention inf∅ = +∞. On dit que H est divergent si la s´erie

h∈Hh^−τH diverge ; sinon, on dit que H est convergent.

Pour toutg ∈G, nous notons g le sous-semi-groupe engendr´e parg.

Nous avons la