Cette th`ese est bas´ee sur l’´etude de sous-groupes discrets du groupe des isom´etries de l’espace hyperbolique (r´eel ou complexe), et entre autres des r´eseaux de Isom(HnR). Cette partie d´etaille le contexte g´en´eral des sous-groupes discrets et des r´eseaux dans des groupes de Lie semi-simples, en particulier des r´eseaux arithm´etiques. Le dernier paragraphe est plus g´eom´etrique et ´etudie les r´eseaux de Isom(HnR)du point de vue des domaines fonda- mentaux.
1.2.1 R´eseaux dans des groupes de Lie semi-simples
Soit G un groupe de Lie localement compact. G admet une mesure de Radon invariante par l’action du groupe par multiplication `a gauche, qui est unique `a multiplication par un scalaire positif pr`es ([Kna02] section VIII-2). Cette mesure s’appelle mesure de Haar de G. Si Γ est un sous-groupe discret de G, la mesure de Haar descend sur le quotient G/Γ. D´efinition 1.2.1. Un sous-groupe discret Γ de G est un r´eseau si le quotient G/Γ est de mesure finie. Il est cocompact si G/Γ est compact.
Exemple 1.2.2. Znest un r´eseau cocompact de Rn. SL(n, Z) est un r´eseau non cocompact de SL(n, R).
Le th´eor`eme suivant, de Borel et Harish-Chandra, donne une m´ethode pour construire des r´eseaux dans des groupes alg´ebriques semi-simples d´efinis sur Q. Une alg`ebre de Lie est semi-simple si elle n’admet pas d’id´eal non trivial r´esoluble, et un groupe de Lie est dit semi-simple si son alg`ebre de Lie est semi-simple. Soit G un groupe alg´ebrique d´efini sur Q : G est un sous-groupe de GL(n, C) d´efini par un nombre fini d’´equations polynomiales `
a coefficients rationnels. G est dit semi-simple si le groupe de Lie G(R) des points r´eels de G est semi-simple (voir [Eme09] pour une d´efinition plus g´en´erale).
Th´eor`eme 1.2.3 (Borel, Harish-Chandra, [BHC62] p.519). Soit G un groupe alg´ebrique semi-simple d´efini sur Q. Alors G(Z) est un r´eseau du groupe de Lie G(R) : G(R)/G(Z) est de mesure de Haar finie.
Il existe de plus des crit`eres caract´erisant la cocompacit´e du r´eseau G(Z), comme le crit`ere de Godement ([BHC62] Th´eor`eme 11.6), ou le crit`ere de Mahler (voir par exemple [Ben09]). Tous les r´eseaux ´etudi´es dans cette th`ese sont non cocompacts, on ne s’´etend donc pas sur ces crit`eres de cocompacit´e.
Exemple 1.2.4. Consid´erons la forme quadratique de signature (n, 1) de la section 1.1 : q0(x0, . . . , xn) = −x02+x12+ ⋯ +xn2. q0 est d´efinie sur Q, donc le groupe sp´ecial orthogonal SO(n, 1) = SO(q0) est un groupe alg´ebrique d´efini sur Q. Il est semi-simple ([Kna02]), donc SO(q0, Z) est un r´eseau de SO(q0, R).
Appliqu´e aux groupes non compacts classiques, le th´eor`eme de Borel - Harish-Chandra fournit des exemples de r´eseaux non cocompacts ([WM15], corollaire 5.1.17). Le proc´ed´e de restriction des scalaires ([Eme09]) permet de construire des exemples cocompacts, en ´etudiant des groupes d´efinis sur des corps de nombres. Soit k un corps de nombres, et Gal(k) l’ensemble des conjugu´es de Galois de l’extension k/Q. On note GalR(k) l’ensemble
des morphismes de Galois r´eels, et GalC(k) l’ensemble des paires de morphismes conjugu´es. Soit G un groupe alg´ebrique d´efini sur k. Pour tout σ ∈ Gal(k), on note Gσ l’image de G
par σ. La restriction des scalaires assure l’existence d’un groupe alg´ebrique H d´efini sur Q, tel que G(R) ≃ H(R) = ∏ σ∈GalR(k) Gσ(R) × ∏ σ∈GalC(k) Gσ(C) et
G(Ok) ≃H(Z), o`u Ok est l’anneau des entiers de k.
Si H est semi-simple, alors le th´eor`eme de Borel - Harish-Chandra implique que H(Z) est un r´eseau de H(R). Si tous les facteurs de H(R) correspondant `a des morphismes non triviaux sont compacts, la projection sur le premier facteur G(R) est `a noyau compact. G(Ok) est alors un r´eseau de G(R). Si de plus H(R) admet un facteur compact, alors G(Ok) est un r´eseau cocompact ([Eme09] Proposition 3.20).
Consid´erons par exemple la forme quadratique q(x) = − √
2 x02+x12+ ⋯ +xn2. SO(q) est d´efini sur Q(√2). Notons σ l’unique morphisme de Galois non trivial de Q(√2) : la forme quadratique qσ est d´efinie positive, donc SO(qσ) est compact. SO(q, Z[
√ 2]) est donc un r´eseau cocompact de SO(q, R).
1.2.2 R´eseaux arithm´etiques
Les r´eseaux G(Z) ⊂ G(R) donn´es par le th´eor`eme de Borel - Harish-Chandra sont les exemples les plus simples de ce qu’on appelle les r´eseaux arithm´etiques. Les r´eseaux arithm´etiques g´en´eraux sont obtenus `a partir de ces exemples par deux op´erations.
Notons d’abord que pour un groupe alg´ebrique lin´eaire G d´efini sur Q, l’ensemble G(Z) d´epend du plongement de G dans GL(n, C). Mais ´etant donn´es deux plongements ϕ et ψ tels que ϕ ⋅ ψ−1 est un Q-isomorphisme, les groupes ϕ(G)(Z) et ψ(G)(Z) sont commensurables ([Eme09] Proposition 3.2), au sens suivant :
D´efinition 1.2.5. Soit G un groupe. Deux sous-groupes Γ1 et Γ2 de G sont commensu-
rables si l’intersection Γ1∩Γ2 est d’indice fini dans Γ1 et Γ2.
La notion d’arithm´eticit´e doit donc ˆetre ind´ependante de la classe de commensurabi- lit´e :
D´efinition 1.2.6. Soit G un groupe alg´ebrique semi-simple d´efini sur Q, et Γ un r´eseau du groupe de Lie G(R). Γ est un r´eseau arithm´etique s’il est commensurable au r´eseau G(Z).
Il est naturel aussi de vouloir consid´erer le sous-groupe SO(q, Z[√2]) de l’exemple pr´ec´edent comme un groupe arithm´etique : il faut alors que la d´efinition autorise le passage `
a l’image par un morphisme surjectif (ici la projection sur le premier facteur du produit) `
a noyau compact. L’image d’un r´eseau par un tel morphisme est bien un r´eseau.
Les r´eseaux arithm´etiques rencontr´es dans cette th`ese seront tous de la forme de la d´efinition 1.2.6. Pour une d´efinition exacte de l’arithm´eticit´e, voir [Eme09] ou [Zim84]. Exemple 1.2.7. D’apr`es la section pr´ec´edente, SL(n, Z) est un r´eseau arithm´etique de SL(n, R), et SO(q, Z[√2]) est un r´eseau arithm´etique de SO(q, R), o`u q est la forme quadratique d´efinie par q(x) = −√2 x02+x12+ ⋯ +xn2.
Noter qu’il existe une classification des r´eseaux arithm´etiques dans les groupes de Lie semi-simples, voir [WM15] section 18.5. Elle est bas´ee sur la classification des k-formes dans les groupes alg´ebriques classiques, pour tout corps de nombre k, et sur le fait que tout r´eseau dans un groupe de Lie semi-simple non localement isomorphe `a SL(2, R) est d´efini sur un corps de nombres ([Wei62, GR70]).
1.2.3 R´eseaux non arithm´etiques
Existence de r´eseaux non arithm´etiques Le th´eor`eme de Borel - Harish-Chandra assure que pour tout groupe de Lie semi-simple d´efini sur Q, il existe des r´eseaux arithm´e- tiques. Il est naturel de chercher s’il existe aussi des r´eseaux non arithm´etiques. Dans la suite, on s’int´eresse aux r´eseaux de groupes d’isom´etries d’espaces sym´etriques : X est un espace sym´etrique, et G = Isom(X). Les r´esultats suivants restreignent grandement les espaces dans lesquels il existe des r´eseaux non arithm´etiques.
Th´eor`eme 1.2.8 (Margulis, Corlette, Gromov-Schoen [Mar77, Cor92, GS92]). Soit G le groupe d’isom´etries d’un espace sym´etrique irr´eductible X de type non-compact. Si G est de rang sup´erieur ou ´egal `a deux [Mar77], ou si X est l’espace hyperbolique sur les quaternions ou le plan hyperbolique sur les octonions [Cor92, GS92], alors tout r´eseau de G est arithm´etique.
Les seuls espaces pouvant admettre des r´eseaux non arithm´etiques sont donc les es- paces hyperboliques r´eels et complexes, HnR et HnC. En r´eel, la m´ethode de Gromov - Piatetski-Shapiro [GPS87] permet de construire une infinit´e de classes de commensurabi- lit´e de r´eseaux non arithm´etiques dans HnR, et ce pour tout n ⩾ 2. Dans le cas complexe, en revanche, il n’existe pas de construction en toute dimension. Les constructions existantes ne fournissent qu’un nombre fini d’exemples de r´eseaux non arithm´etiques, en dimension 2 et 3 [Mos80, DM86, Thu98, DPP15].
Crit`ere de (non) arithm´eticit´e On se place maintenant dans le cadre du groupe des isom´etries de l’espace hyperbolique r´eel, P O(n, 1) (ou P O(q) pour une forme quadratique q de signature (n, 1)). Soit Γ un r´eseau de P O(n, 1). Soit k = Q({T r(Adγ) ∣ γ ∈ Γ}) le corps engendr´e par les traces des ´el´ements de Γ dans la repr´esentation adjointe de P O(n, 1). On rappelle que pour un groupe de Lie matriciel G, la repr´esentation adjointe est d´efinie par l’action de G par conjugaison sur son alg`ebre de Lie g :
∀g ∈ G, Adg ∶ g → g, x ↦ gxg−1
Le corps k est fondamental dans la description du r´eseau Γ, d’apr`es le r´esultat suivant, cas particulier de la proposition 12.2.1 de [DM86] :
Proposition 1.2.9. Soit Γ un r´eseau de P O(n, 1), et k = Q({T r(Adγ) ∣ γ ∈ Γ}) le corps des traces de Γ dans la repr´esentation adjointe. Alors k est le corps minimal de d´efinition de Γ, et k est un invariant de commensurabilit´e dans P O(n, 1).
Dans certains cas, le corps des traces k est calculable, et il permet de tester l’arithm´eticit´e de Γ. Le crit`ere suivant est un cas particulier du corollaire 12.2.8 de [DM86] (voir [DPP15] pour une version hyperbolique complexe) :
Th´eor`eme 1.2.10 (Crit`ere d’arithm´eticit´e). Soit q une forme quadratique de signature (n, 1), d´efinie sur un corps K totalement r´eel, et soit Γ un r´eseau de P O(q, R) tel que Γ est un sous-groupe de P O(q, OK), o`u OK est l’anneau des entiers de K. Alors Γ est
arithm´etique si et seulement si pour tout plongement σ ∶ K → R dont la restriction au corps des traces k n’est pas le plongement identit´e, la forme quadratique qσ est d´efinie.
1.2.4 Point de vue g´eom´etrique
Quotients Soit Γ un sous-groupe du groupe des isom´etries de HnRou HnC (not´e HnK dans la suite). Le caract`ere discret de Γ peut se voir sur l’action de Γ sur l’espace hyperbolique : Γ < Isom(HnK) est discret si et seulement si son action sur Hn
K est proprement discontinue
([Rat06] p.164). On rappelle qu’un groupe Γ agit proprement discontinument sur HnK si pour tout compact C ⊂ HnK, l’ensemble {γ ∈ Γ ∣ γ(C) ∩ C ≠ ∅} est fini.
Si Γ est un sous-groupe discret sans torsion (i.e. tout ´el´ement d’ordre fini est trivial) de Isom(HnK), alors le quotient Hn
K/Γ est une vari´et´e hyperbolique, r´eelle ou complexe. Si
Γ admet des ´el´ements de torsion, alors certains points de HnK ont un stabilisateur non trivial dans Γ. Ce stabilisateur est fini, donc tout point de HnK/Γ admet un voisinage hom´eomorphe au quotient de HnK par un groupe fini : HnK/Γ admet donc une structure d’orbifold hyperbolique (voir [Thu80] pour une d´efinition plus g´en´erale).
HnK est un espace sym´etrique de la forme G/K, o`u G est la composante connexe de l’identit´e de Isom(HnK)et K est un sous-groupe compact maximal. Dans la suite, la mesure de Haar µ choisie sur G est construite `a partir de la mesure de Haar sur K de volume total 1, et de la forme volume hyperbolique sur HnK∼G/K. Pour cette normalisation, on a pour tout sous-groupe discret Γ < Isom(Hn) : µ(G/Γ) = vol(Hn
K/Γ), o`u vol est le volume
hyperbolique.
Domaines fondamentaux On d´ecrit dans ce paragraphe des objets g´eom´etriques im- portants associ´es aux groupes discrets d’isom´etries : les domaines fondamentaux. De nom- breuses propri´et´es du groupes sont en correspondance directe avec les propri´et´es d’un domaine fondamental.
D´efinition 1.2.11. Soit Γ un sous-groupe discret de Isom(HnK), et D un ouvert connexe de HnK. D est un domaine fondamental pour Γ si HnK est pav´e par les copies de D sous Γ :
— HnK= ⋃γ∈Γγ(D),
— si γ ∈ Γ ∖ {id} alors D ∩ γ(D) = ∅. D est dit localement fini si tout point x ∈ Hn
K admet un voisinage U tel que l’ensemble
{γ ∈ Γ ∣ U ∩ γ(D) ≠ ∅} est fini.
Dans la suite, on utilisera parfois le terme domaine fondamental pour un ensemble E tel que D ⊂ E ⊂ D.
Th´eor`eme 1.2.12 ([Rat06] p.238). Soit Γ un groupe discret d’isom´etries de HnK, et D un domaine fondamental localement fini pour Γ. Alors le quotient HnK/Γ est isom´etrique `a D/Γ.
Soit Γ un r´eseau de Isom(Hn), et D un domaine fondamental pour Γ tel que son bord ∂D est de mesure 0. Alors Γ est de covolume fini si et seulement si D est de volume fini, et dans ce cas, le covolume de Γ est ´egal au volume de D. De mˆeme, Γ est cocompact si et seulement si D est compact. Sous les hypoth`eses du th´eor`eme pr´ec´edent, on peut de plus en d´eduire une partie g´en´eratrice pour Γ : {γ ∈ Γ ∣ γ(D) ∩ D ≠ ∅}. La section suivante, sur le th´eor`eme de Poincar´e, montre que sous certaines conditions, on peut aussi d´eduire une pr´esentation de Γ `a partir d’un domaine fondamental.
Un groupe discret Γ ⊂ Isom(HnK) admet toujours un domaine fondamental localement fini. Un exemple de tel domaine fondamental est donn´e par les domaines de Dirichlet. Pour tout p0∈Hn
K et γ ∈ Γ tel que γ n’appartient pas au stabilisateur de p0, on d´efinit
H−
γ(p0) = {x ∈ Hn
K∣d(x, p0) ⩽d(x, γ(p0))}
H−
γ(p0) est un demi-espace de Hn
K, bord´e par l’hypersurface m´ediatrice entre p0 et γ(p0):
Hγ(p0) = {x ∈ Hn
K∣d(x, p0) =d(x, γ(p0))}
Dans le cas de l’espace hyperbolique r´eel, Hγ(p0)est un hyperplan, totalement g´eod´esique. Dans HnC, Hγ(p0) est un bissecteur. Les bissecteurs seront ´etudi´es plus en d´etail sec- tion 3.3.1.1. Ils ne sont pas totalement g´eod´esiques d’apr`es la section 1.1.2, mais on verra qu’ils admettent un feuilletage par des sous-espaces totalement g´eod´esiques. Tous les poly`edres de H2C consid´er´es dans cette th`ese seront bord´es par des bissecteurs.
D´efinition 1.2.13. Soit Γ ⊂ Isom(HnK) discret, et p0∈Hn
K de stabilisateur trivial dans Γ
Le domaine de Dirichlet pour Γ centr´e en p0 est d´efini par
DΓ(p0) = ⋂
γ∈Γ∖{id}
H− γ(p0)
Un domaine de Dirichlet partiel pour Γ est un ensemble de la forme ⋂
γ∈S
H− γ(p0) o`u S est un sous-ensemble fini de Γ ∖ {id}.
Th´eor`eme 1.2.14 ([Rat06] p.244). Soit Γ ⊂ Isom(HnK)discret, et p0∈Hnde stabilisateur trivial dans Γ. Alors le domaine de Dirichlet de Γ centr´e en p0, DΓ(p0), est un domaine
fondamental localement fini pour Γ.
Etant donn´e un sous-groupe Γ < Isom(HnK)dont on veut d´eterminer le caract`ere discret, la construction d’un domaine de Dirichlet (ou d’un domaine de Dirichlet partiel), peut ˆetre une strat´egie naturelle. Sa mise en pratique est fortement li´ee au th´eor`eme de Poincar´e, d´ecrit dans la section suivante.