.
5.7 Conclusion
En utilisant la structure desQ-groupes, nous pouvons maintenant terminer par r´ecurrence notre raisonnement.
D´emonstration du th´eor`eme 5.4 Remarquons tout d’abord que siG=HnN est une d´ecomposition d’un Q-groupe G en un produit semidirect d’un Q -sous-groupe H et d’un Q-sous-groupe distingu´e N, alors le groupe HZNZ est inclus dans GZ. En particulier si HZ est un r´eseau de HR et NZ est un r´eseau de NR, alors GZ est un r´eseau de GR
D’apr`es la d´ecomposition de Levy, valable sur tout corps k de caract´eristique 0, tout k-groupe G est un produit semidirectLnUd’un k-groupe r´eductif L et d’un k-sous-groupe distingu´e unipotentU.
En outre, toutk-groupe unipotent de dimensionn ≥1 est un produit semidirect duk groupe additifGade dimension 1 et d’unk-sous-groupe distingu´e unipotent U0 de dimension n−1.
Puisque le sous-groupe arithm´etique (Ga)Z ' Z est un r´eseau cocompact du groupe de Lie (Ga)R 'R, ces remarques ram`enent la d´emonstration du th´eor`eme 5.4 au cas r´eductif que nous avons obtenu dans la proposition 5.11.
6 M´ elange et comptage
Ce chapitre est encore au coeur des th`emes de ce cours reliant th´ eo-rie des nombres et th´eorie ergodique `a travers la th´eorie des groupes.
L’objectif arithm´etique est de donner l’asymptotique enrdu nom-bre de matrices deSL(d,Z) de norme au plusr. Nous obtiendrons plus g´en´eralement un tel asymptotique pour tous les r´eseaux Γ des groupes de Lie quasisimples G.
La propri´et´e ergodique est ici le m´elange de l’action des ´el´ements de G sur le quotient de volume fini G/Γ.
La th´eorie des repr´esentations unitaires joue un rˆole central dans cette propri´et´e de m´elange.
Les d´emonstrations ci-dessous sont self-contained pour SL(d,Z), sauf pour une formule explicite pour la mesure de Haar dans la d´ e-composition de Cartan . Dans le cas g´en´eral, nous utiliserons en plus quelques propri´et´es sur la structure des groupes de Lie semisimples r´eels, d´ecompositions de Cartan et d’Iwasawa, que nous avons d´ emon-tr´ees au chapitre 3.
6.1 Repr´ esentations unitaires et m´ elange
Commen¸cons par la partie th´eorie des repr´esentations unitaires et
´
enon¸cons une propri´et´e g´en´erale, due `a Howe et Moore, de d´ ecrois-sance des coefficients des repr´esentations unitaires.
D´efinition 6.1 Une repr´esentation unitaire π d’un groupe localement compact G dans un espace de Hilbert (s´eparable) Hπ est un morphisme de G dans le groupe U(Hπ) des transfomations unitaires de Hπ, tel que, pour tout v dans Hπ, l’application G→ Hπ;g 7→π(g)v est continue.
Pour tout v, w dans Hπ, le coefficient est la fonction continue cv,w : G → C donn´ee par cv,w(g) = < π(g)v, w >.
Exemples - Larepr´esentation trivialeest la repr´esentation constanteπ(g) =Id.
Ses coefficients sont des fonctions constantes.
- QuandGest compact, toute repr´esentation unitaire est une somme hilbertienne orthogonale de repr´esentations unitaires irr´eductibles. Par Peter-Weyl, elles sont de dimension finie.
- Supposons que G agisse continˆument sur un espace localement compact X en pr´eservant une mesure de Radonν. Alors la formule (π(g)ϕ)(x) :=ϕ(g−1x) d´efinit une repr´esentation unitaireπ deGdans L2(X, ν) Pour montrer la continuit´e des applications g 7→ π(g)ϕ, on la montre tout d’abord pour les fonctions continues
`
a support compact puis on utilise la densit´e de ces fonctions dans L2(X, ν).
Les coefficients
cϕ,ψ :g → Z
X
ϕ(x)ψ(gx)dν(x)
de cette repr´esentation sont aussi appel´es coefficients de corr´elation.
Pour tout sous-groupe H deG, notons
HHπ :={v ∈ Hπ /∀h∈H, π(h)v =v}
le sous-espace des vecteurs H-invariants.
Rappelons qu’un groupe de Lie G est semisimple si son alg`ebre de Lie g est semisimple, et que G est quasisimple si g simple (voir chapitre 3). Par exemple les groupes de Lie SL(d,R) et SO(p, q) sont quasisimples pourd≥2 etp+q ≥3.
Th´eor`eme 6.2 (Howe, Moore) Soit G un groupe de Lie r´eel connexe semi-simple `a centre fini etπ une repr´esentation unitaire deG. Supposons queHGπi = 0 pour tout sous-groupe connexe normal Gi 6= 1.
Alors, pour tout v, w dans Hπ, on a lim
g→∞ < π(g)v, w >= 0.
Remarques - La preuve de ce th´eor`eme est report´ee `a la section 6.3.
- Le symbole g → ∞signifie que g sort de tout compact de G.
- D’apr`es le th´eor`eme 2.7, il n’y a qu’un nombre fini deGi. - Quand g est simple, l’hypoth`ese est HGπ = 0.
Corollaire 6.3 Soit Gun groupe de Lie r´eel connexe semisimple `a centre fini et π une repr´esentation unitaire de G sans vecteur G-invariant non nul. Soit H un sous-groupe ferm´e de Gdont les images dans tous les groupes quotientsG/Gi 6= 1 sont non compactes. Alors HHπ = 0.
Remarque - Quandg est simple, l’hypoth`ese surH ´equivaut `aH non compact.
D´emonstration Par r´ecurrence, en ´ecrivant Hπ =HGπi ⊕(HGπi)⊥, on peut sup-poser que HGπi = 0 pour tout i. Soit v un vecteur H-invariant. Le coefficient cv,v est constant surH. Par le th´eor`eme 6.2, il doit ˆetre nul. Donc v = 0.
Corollaire 6.4 Soit G un groupe de Lie r´eel connexe quasisimple `a centre fini, Γ⊂G un r´eseau. Alors l’action de G est m´elangeante sur X =G/Γ, i.e. on a la propri´et´e suivante de “d´ecroissance des corr´elations” : pour toutϕ, ψ∈L2(X, dx),
g→∞lim Z
X
ϕ(x)ψ(gx)dx = Z
X
ϕ(x)dx Z
X
ψ(x)dx.
- Pour simplifier, on a not´edx=λX la probabilit´eG-invariante sur X.
- Une extension aux r´eseaux irr´eductibles sera donn´ee dans le corollaire 7.7.
RemarqueEn particulier, pour tout ´el´ementg ∈Gqui engendre un sous-groupe non-born´e de G, l’action de g sur X est ergodique, i.e. toute partie mesurable g-invariante A deX v´erifie λX(A) = 0 ou 1 (voir chapitre 8).
D´emonstration du corollaire 6.4 Ecrivons L2(X, dx) = C1 ⊕ L20(X, dx) o`u L20(X, dx) d´esigne le sous-espace des fonctions d’int´egrale nulle. D’apr`es le th´eor`eme 6.2, il suffit de remarquer que les fonctionsG-invariantesϕdeL20(X, dx) sont nulles. Cela r´esulte de Fubini car si, pour toutg dansG,ϕ(gx) =ϕ(x) pour presque tout x ∈ X, alors on peut trouver x ∈ X tel que, ϕ(gx) = ϕ(x) pour presque toutg ∈G. Et donc ϕest presque sˆurement constante. Donc ϕ= 0.