L’algorithme de Vinberg est d´etaill´e section 2.2.3. Etant donn´e une forme quadratique q enti`ere de signature (n, 1), l’algorithme permet de d´eterminer (lorsqu’il termine) un do- maine fondamental de Coxeter pour le sous-groupe de O(q, Z) engendr´e par les r´eflexions. Les formes quadratiques q0 `a q3 L’´etude des groupes d’isom´etries pour les formes
quadratiques q0 `a q3 est d´ej`a effectu´ee dans d’autres travaux. Le cas de q0 est trait´e dans
l’article initial de Vinberg sur l’algorithme [Vin75] : q0 est ´equivalente sur Z `a la forme
quadratique lorentzienne standard q(y0, . . . , y5) = −y02+y12+ ⋯ +y52, via la matrice B = diag ⎛ ⎜ ⎝ ⎛ ⎜ ⎝ 1 0 1 1 1 0 1 1 1 ⎞ ⎟ ⎠ , 1, 1, 1 ⎞ ⎟ ⎠
B et son inverse sont `a coefficients entiers, donc les groupes O(q0, Z) et O(q, Z) sont
conjugu´es par B. Dans [Vin75], Vinberg explicite son algorithme pour plusieurs exemples, entre autres les groupes d’isom´etries des formes quadratiques lorentziennes standard de signature (n, 1) pour 2 ⩽ n ⩽ 17. Pour n = 5, le diagramme de Coxeter obtenu est donn´e Figure 2.56.
Figure 2.56 – Diagramme de Coxeter de O(q0, Z) ([Vin75] p.345).
Il n’admet pas de sym´etrie, donc c’est le diagramme de O(q, Z). L’algorithme four- nit la liste des polaires du domaine fondamental, et les r´eflexions associ´ees forment un syst`eme g´en´erateur pour O(q, Z). Le diagramme de Coxeter donne une pr´esentation pour ce syst`eme g´en´erateur. En conjuguant par la matrice B, on en d´eduit imm´ediatement des g´en´erateurs explicites et un domaine fondamental pour O(q0, Z).
Le cas des trois autres formes quadratiques est trait´e dans la th`ese de Chu [Chu06]. q1,
q2 et q3 sont ´equivalentes sur Z, respectivement, aux formes quadratiques donn´ees par les
matrices diag (−1, 1, 1, 1, 1, 2), diag (−1, 1, 1, 1, 2, 2) et diag (−1, 1, 1, 2, 2, 2). L’´etude de l’al- gorithme de Vinberg pour ces formes quadratiques est effectu´ee en d´etails dans [Chu06], chapitre 6 : on obtient alors un domaine fondamental et des g´en´erateurs pour chacun des groupes de r´eflexions O(qj, Z). Les diagrammes de Coxeter obtenus sont donn´es Fi-
gure 2.57. Dans chacun des cas, les diagrammes de Coxeter (munis des normes des po- laires pour j = 2, 3) n’admettent pas de sym´etries, donc O(qj, Z) = Ref (O(qj, Z)) et les
O(q3, Z)
O(q2, Z)
O(q1, Z)
∞
∞ ∞
Figure 2.57 – Diagrammes de Coxeter des groupes O(qj, Z) pour j = 1, 2, 3 ([Chu06]
chapitre 6). Les normes des polaires aux hyperplans sont indiqu´ees pour les deux derniers diagrammes : si la norme de la polaire est 1 (resp. 2 ou 4), le sommet est blanc (resp. admet une barre verticale ou une croix).
Noter que pour la forme quadratique q3, Chu ne conclut pas l’algorithme, car le crit`ere
de terminaison utilis´e (qui se lit sur le diagramme de Coxeter) ne peut pas s’appliquer. On peut cependant prouver directement que le volume du poly`edre de Coxeter obtenu `a la derni`ere ´etape est fini, en montrant qu’il admet seulement un nombre fini de sommets `
a l’infini. Les polaires du poly`edre sont calcul´ees, on peut donc en d´eduire les in´egalit´es d´efinissant le poly`edre. Dans le mod`ele de Klein (i.e. en prenant y0=1), elles sont donn´ees par
0 ⩽ y2⩽y1, 0 ⩽ y5 ⩽y4 ⩽y3, y1+2y2 ⩽1, y1+y2⩽1, y3+y4+y5⩽1
Les points `a l’infini sont ceux v´erifiant 1 = y12+y22+2y32 +2y42+2y52. Les in´egalit´es impliquent que y2⩽1 − y1, y2 ⩽y1, et yj ⩽ (1 − y1)/2 pour j = 3, 4, 5. Finalement, pour un point `a l’infini :
1 − y12 =y22+2y32+2y42+2y52 ⩽y1(1 − y1) +2 ⋅1 − y1
2 ⋅ (y3+y4+y5) ⩽y1−y12+1 − y1=1 − y12
Toutes les in´egalit´es sont donc des ´egalit´es. Ceci repr´esente seulement un nombre fini de solutions, donc le poly`edre admet un nombre fini de sommets `a l’infini : il est donc de
volume fini d’apr`es la proposition 2.2.7. L’algorithme de Vinberg est par cons´equent ter- min´e : puisque le diagramme de Coxeter n’a pas de sym´etrie, on en d´eduit que O(q3, Z) est
´egal `a son sous-groupe de r´eflexions, et que le poly`edre donn´e est un domaine fondamental pour O(q3, Z).
La forme quadratique q4. La forme quadratique q4 est d´efinie par
q4(a, b, x1, x2, x3, x4) = −2ab + 2x12+2x22+2x32+2x42
Elle n’est pas ´equivalente sur Z `a la forme de Chu pour les octiques de type 4, donn´ee par la matrice Q4,Chu= ⎛ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝ 0 −1 0 0 0 0 −1 0 0 0 0 0 0 0 2 0 1 −1 0 0 0 2 −1 −1 0 0 1 −1 2 0 0 0 −1 −1 0 2 ⎞ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎟ ⎠
car leurs d´eterminants sont diff´erents. On d´etaille donc les calculs pour q4. q4 est bien une
forme quadratique int´egrale de signature (5, 1) : on peut lui appliquer l’algorithme de Vin- berg pour trouver un domaine fondamental, des g´en´erateurs et une pr´esentation explicite pour le groupe de r´eflexions Ref (O(q4, Z)). Le cˆone sup´erieur Q−sup(voir section 2.2.1) est
choisi comme v´erifiant la condition a + b > 0.
On commence par ´etudier les polaires primitives possibles pour une r´eflexion apparte- nant `a O(q4, Z). Pour chaque r´eflexion enti`ere, il y a exactement deux polaires primitives,
oppos´ees l’une de l’autre. Soit v = (a, b, x1, x2, x3, x4) une polaire pour O(q4, Z). Elle doit v´erifier la condition cristallographique (2.2) :
2 ⋅⟨v, ej⟩ ⟨v, v⟩
∈Z pour tout vecteur ej de la base canonique, o`u ⟨., ., ⟩ est la forme bilin´eaire associ´ee `a q4. Ceci se traduit par
2a ⟨v, v⟩ ∈Z, 2b ⟨v, v⟩ ∈Z, 4x1 ⟨v, v⟩ ∈Z, 4x2 ⟨v, v⟩ ∈Z, 4x3 ⟨v, v⟩ ∈Z, 4x4 ⟨v, v⟩ ∈Z.
Les coefficients de v sont premiers entre eux, et ⟨v, v⟩ est pair par d´efinition de q4 : on en
d´eduit que ⟨v, v⟩ ne peut ˆetre que 2 ou 4. Si ⟨v, v⟩ = 4, alors a et b sont pairs. On peut maintenant appliquer l’algorithme de Vinberg.
Etape 1 : choix du centre. Le centre est choisi pour ˆetre le plus simple et le plus sym´etrique possible pour la forme quadratique q4. On choisit ici le point p0 de relev´e
P0= (1, 1, 0, 0, 0, 0), qui est bien dans Q−sup.
Etape 2 : ´etude du stabilisateur de p0. D’apr`es Vinberg ([Vin75] p. 327), le stabilisa-
teur Gp0 de p0 dans Ref (O(q4, Z)) est engendr´e par des r´eflexions. On commence par
trouver toutes les r´eflexions appartenant `a Gp0, pour en d´eduire un domaine fondamental
de Gp0.
Soit v = (a, b, x1, x2, x3, x4)la polaire d’une r´eflexion de Gp0 : ⟨v, P0⟩ =0 par d´efinition, donc b = −a et ⟨v, v⟩ = 2(a2+x12+x22+x32+x42). Les polaires des r´eflexions de Gp0 sont
donc les v = (a, −a, x1, x2, x3, x4) primitifs tels que a2+x12+x22+x32+x42=1 ou { a
2
+x12+x22+x32+x42=2 avec a pair
Le premier cas est v´erifi´e si et seulement si a = ±1 ou bien xj = ±1 pour exactement un j. Le deuxi`eme cas est v´erifi´e si et seulement si exactement deux xj et xisont ´egaux `a ±1. On
a donc quatre types de r´eflexions dans Gp0 (pour les trois derniers types, les coefficients
non nuls correspondent `a xj et xi) :
type de polaire hyperplan correspondant action de la r´eflexion sur un point x = (a, b, x1, x2, x3, x4) (1, −1, 0, 0, 0, 0) a = b ´echange a et b
(0, 0, . . . , 1, . . . , 0) xj =0 transforme xj en son oppos´e (0, 0, . . . , 1, . . . , −1, . . . , 0) xj =xi ´echange xj et xi
(0, 0, . . . , 1, . . . , 1, . . . , 0) xj = −xi transforme xi en −xj et xj en −xi L’action des r´eflexions obtenues incite `a consid´erer le poly`edre hyperbolique Pp0 d´efini
(apr`es intersection avec Q−
sup et passage au quotient par les scalaires positifs) par les
in´egalit´es essentielles suivantes :
a ⩽ b, 0 ⩽ x1⩽x2⩽x3⩽x4
Les r´eflexions en les faces du poly`edres sont des ´el´ements de Gp0 par construction. On
voit ais´ement qu’elles engendrent l’ensemble des r´eflexions obtenues pr´ec´edemment, donc tout le groupe Gp0. De plus, Pp0 est un poly`edre de Coxeter, donc d’apr`es le th´eor`eme de
Poincar´e c’est un domaine fondamental pour le groupe engendr´e par les r´eflexions en ses faces. Pp0 est donc un domaine fondamental pour le stabilisateur de p0dans Ref (O(q4, Z)).
On obtient donc cinq hyperplans, donn´es par les polaires
v1= (1, −1, 0, 0, 0, 0), v2= (0, 0, −1, 0, 0, 0), v3= (0, 0, 1, −1, 0, 0), v4= (0, 0, 0, 1, −1, 0), v5= (0, 0, 0, 0, 1, −1) avec Pp0 = ⋂ 5 j=1H − j.
Etape 3 : recherche des demi-espaces suivants. Pour poursuivre la construction d’un domaine fondamental pour Ref (O(q4, Z)), on cherche un demi-espace H−, de polaire
v = (a, b, x1, x2, x3, x4), qui v´erifie les conditions suivantes :
— H− est oppos´e `a tous les H−
k construits pr´ec´edemment : ceci se traduit par les
in´egalit´es a ⩽ b, 0 ⩽ x1⩽x2⩽x3⩽x4, — H− est `a distance minimale de p
0 parmi les miroirs de r´eflexions de O(q4, Z).
D’apr`es les remarques pratiques de la section 2.2.3, il suffit de classer les polaires de mani`ere croissante pour la quantit´e
⟨P0, v⟩2 ⟨v, v⟩
=
(a + b)2 ⟨v, v⟩
⟨v, v⟩ vaut 2 ou 4, et dans le dernier cas a et b doivent ˆetre pairs. La quantit´e cherch´ee est donc forc´ement de la forme k/2, avec k ⩾ 1.
Montrons qu’il existe une polaire admissible pour la valeur minimale 1/2, lorsque a+b = 1 et ⟨v, v⟩ = 2. La derni`ere condition se traduit par −ab+x12+x22+x32+x42=1. Consid´erons le vecteur
Il v´erifie bien les conditions cherch´ees, ainsi que les in´egalit´es assurant que le demi-espace H−
6 est oppos´e aux Hj− pour j = 1, . . . , 5. De plus, H −
6 est donn´e par {x ∈ Q−sup∣ ⟨x, v6⟩ ⩽ 0} = {x ∈ Q−
sup∣2x4⩽a}, donc p0 ∈H6−. On obtient donc le poly`edre P =
6
⋂
j=1
H−
j, d´efini par les in´egalit´es 0 ⩽ x1⩽x2⩽x3⩽x4 ⩽a 2 ⩽
b 2
Montrons que l’algorithme est termin´e `a cette ´etape, en v´erifiant que le poly`edre hyper- bolique P est de volume fini. Il est facile de voir que P est inclus dans le poly`edre P4
construit dans la section pr´ec´edente, puisque les in´egalit´es d´efinissant P4 impliquent celles
de P. P4 ´etant de volume fini, il en est de mˆeme pour P.
R´esultat de l’algorithme : l’algorithme de Vinberg termine, et le poly`edre P obtenu est un domaine fondamental pour Ref (O(q4, Z)). P est un simplexe de Coxeter, de diagramme
donn´e Figure 2.58.
1 6 5 4 3 2
Figure 2.58 – Diagramme de Coxeter de O(q4, Z).
Le diagramme n’admet pas de sym´etries, donc on en d´eduit que O(q4, Z) = Ref (O(q4, Z)).
P est donc un domaine fondamental pour O(q4, Z), et une partie g´en´eratrice pour O(q4, Z) est donn´ee par les r´eflexions rj en les polaires vj, j = 1, . . . , 6.
Remarque 2.4.12. Les poly`edres fondamentaux pour le groupe O(q4, Z) et le groupe O(Q4,chu, Z)
obtenu par Chu pour les octiques de type 4 (de diagramme de Coxeter 3 − 3 − 3 − 4 − 3, voir [Chu06] p.95) sont des simplexes de Coxeter. Les classes de commensurabilit´e des simplexes hyperboliques de Coxeter sont compl`etement d´ecrites dans l’article [JKRT02]. On peut donc v´erifier que les deux groupes sont bien commensurables.