Dans ses articles de 1882-1886 àActa Mathematica, Poincaré propose de nouvelles « transcendantes » sur le modèle des fonctions elliptiques (chapitre I). La motivation initiale de Poincaré était de développer globa-lement les solutions d’une équation différentielle linéaire à coefficients algébriques en séries entières. Les travaux récents de Fuchs sur les points singuliers des équations linéaires[Fuc1880, Fuc1881]montraient que les solutions s’expriment comme fonctions analytiques d’une variable fini-ment ramifiée,z1/q, ou infiniment ramifiée, log(z)(ce qui correspond à
«q = ∞»). Poincaré cherche un analogue global, tout d’abord sous la forme du revêtement universel deCP1privé d’un nombre fini de points, contenant les points singuliers de l’équation différentielle ; puis, au fur et à mesure des notes publiées aux Comptes rendus de l’Académie des sciences de Parisentre février 1881 et avril 1882, on voit l’énoncé se préci-ser, jusqu’au revêtement universel d’une surface de Riemann compacte avec « structure orbifold ». Nous exposons tout d’abord sa construction de groupes fuchsiens.
VI.1. Groupes fuchsiens, polygone fondamental et pavage hyperbolique
On rappelle queHdésigne le demi-plan de Poincaré H={x+p
−1y =z∈C;y >0}
muni de la métrique hyperboliquey−2d z d z. Les géodésiques sont les demi-cercles centrés sur l’axe réely =0 et les demi-droites verticales.
Occasionnellement, on utilisera aussi le disqueD={z ∈C; |z|<1} muni de la métrique hyperbolique 4(1−|z|2)−2d z d z, pour lequel les géo-désiques sont les arcs de cercles et les segments orthogonaux au cercle unité∂D.
VI.1.1. Isométries du demi-plan de Poincaré
Le groupe PSL(2,R)agit sur H par transformations homographiques : z 7→a zc z+d+b oùa,b,cetdsont des nombres réels satisfaisanta d−b c=1.
Cette action est isométrique pour la métrique hyperbolique. Rappelons également que PSL(2,R)coïncide avec le groupe des difféomorphismes holomorphes deH.
Il existe trois types d’éléments dans PSL(2,R), caractérisés par leurs points fixes surH=H∪∂H(on considère iciHcomme un disque de la sphère de Riemann si bien que∂Hcontient un point à l’infini). Le pre-mier type est constitué de transformations dites elliptiques. Elles sont caractérisées par l’inégalité |a +d| < 2 et ont la propriété d’avoir un unique point fixe surH, qui se situe en fait dansH. Toute transforma-tion elliptique est conjuguée àz 7→−cosθsinθzz+sinθ+cosθ pour un certainθ ∈R(il est en fait plus commode de se placer dans le modèle du disque, où les transformations elliptiques sont conjuguées à des rotationsz 7→eiθz).
Notons qu’une transformation elliptique engendre un sous-groupe rela-tivement compact de PSL(2,R).
Le second type d’isométries est caractérisé par l’inégalité|a+d|>2.
Ces transformations sont diteshyperboliques, et à conjugaison près dans PSL(2,R), elle sont de la formez 7→λz, avecλ >0 et différent de 1. Une telle transformation ϕ possède exactement deux points fixes distincts dans H, situés sur∂H. L’un de ces points fixes (noté p+) est attractif, l’autre (notép−) est répulsif, au sens suivant : siz∈Hest différent dep−, alors ϕn(z)tend vers p+ lorsquen tend vers+∞. De même, si z ∈H est différent dep+, alorsϕn(z)tend versp−lorsquen tend vers−∞. La géodésique hyperbolique reliantp+àp−est appeléel’axedeϕ.
Enfin, les éléments de PSL(2,R)différents de l’identité et satisfaisant
|a+d|=2 sont ditsparaboliques. Une transformation paraboliqueϕest conjuguée dans PSL(2,R)àz7→z±1. Elle a un unique point fixepdansH, qui est en fait situé sur∂H. Siz ∈H, alorsϕn(z)tend versp lorsquen tend vers∞.
VI.1.2. Groupes fuchsiens
On appelleragroupe fuchsientout sous-groupe discretΓde PSL(2,R). Proposition VI.1.1. — Un sous-groupe Γ de PSL(2,R) est discret si et seulement s’il agit discontinûment sur H, i.e. si toutes ses orbites sont discrètes.
Démonstration. — Le groupe PSL(2,R)agit librement et transitivement sur le fibré unitaire tangent UH. Par suite,Γest discret si et seulement s’il agit discrètement sur UH. Comme les fibres de la projection UH→H sont compactes, les orbites sont discrètes dans PSL(2,R)si et seulement si elles le sont dansH.
VI.1.3. Polygone fondamental et pavage
On appellerapolygone P ⊂Hune partie convexe fermée à bord géodé-sique par morceaux, le nombre d’arcs géodégéodé-siques étant localement fini dansH. On appellecôtéchaque arc géodésique maximal contenu dans le bord deP. L’intersection de deux côtés est ou bien vide, ou bien réduite à un point ; on appellesommetdePl’intersection de deux côtés. On dira quePestfinilorsqu’il n’a qu’un nombre fini de côtés.
On appellepolygone fondamentalpour le groupe fuchsienΓtout poly-goneP ⊂Htel que l’orbiteΓ(z)de tout pointz ∈HintersecteP en au moins un point et intersecte l’intérieur Pen au plus un point. Autre-ment dit, l’ensemble des translatésϕ(P),ϕ∈Γ, définit unpavagedu plan hyperbolique :
[
ϕ∈Γ
ϕ(P) =H et ϕ(P)∩ψ(P) =; pour tous ϕ6=ψ.
L’ensemble des pavés{ϕ(P);ϕ∈Γ}est alors en bijection avecΓ. Nous avons vu l’exemple classique de pavage pour PSL(2,Z)au chapitre pré-cédent (figure V.1, page 162). La figure VI.1 en présente deux autres.
Théorème VI.1.2. — SoitΓ⊂PSL(2,R)un groupe fuchsien et soit z0un point deHqui n’est fixé par aucun élément non trivial deΓ. Alors l’en-semble
P=¦
z∈H;dhyp(z,z0) =dhyp(z,Γ(z0))©
des points z ∈Hqui sont plus proches de z0 que de tout autre point de l’orbiteΓ(z0)est un polygone fondamental convexe pourΓ. De plus, P est fini dès queΓest de type fini.
FIGUREVI.1. Deux autres pavages pour PSL(2,Z)(variantes)
Poincaré ne considère que des groupes fuchsiens de type fini et admet, dans ce cas, l’existence d’un domaine fondamental bordé par un nombre fini d’arcs de courbes ; il explique alors comment le modifier pour le rendre polygonal. Il semble que Poincaré ait omis ici une vraie difficulté. Signalons qu’il existe des groupes discrets de type fini dans PGL(2,C)n’admettant pas de polyèdre fondamental fini dans l’espace hyperboliqueH3(voir[BoOt1988]). Nous donnons ici la construction du domaine de Dirichlet pour un groupe fuchsien quelconque. Il est fini dès que le groupe fuchsien est de type fini, mais nous renvoyons à[Dal2007] pour la démonstration de ce dernier point.
Démonstration sans la finitude. — Soit z0 un point deHqui n’est fixé par aucun élément non trivial de Γ et considérons l’ensemble P des points z ∈H qui sont plus proches de z0 que de tout autre point de l’orbiteΓ(z0):
P=¦
z∈H;dhyp(z,z0) =dhyp(z,Γ(z0))© .
Tout d’abord, puisque Γ est fuchsien, l’orbite Γ(z0) est discrète et P contient un voisinage dez0. Maintenant, notons quePest l’intersection des « demi-plans »
Pi=¦
z∈H; dhyp(z,z0)¶dhyp(z,zi)©
, zi∈Γ(z0)− {z0};
puisque chaquePi est convexe (pour la métrique hyperbolique), l’inter-section P l’est aussi : P est en particulier connexe et simplement connexe. La restriction deP à une boule (hyperbolique) de rayonr >0 coïncide avec l’intersection d’un nombre fini de Pi, à savoir ceux cor-respondant aux points zi ∈Γ(z0)contenus dans la boule de rayon 2r. En particulier, P est un polygone (à bord géodésique par morceaux).
Maintenant, considérons un pointz∈Hquelconque. Sa distance àΓ(z0) est atteinte pour un point z1 ∈Γ(z0); en effet,Γ(z0) est discret, donc fermé. Soitϕ1∈Γl’élément du groupe qui envoiez0surz1; puisqueϕ1
est isométrique, le pointz0∈Γ(z0)minimise la distance àz01:=ϕ1−1(z) dansΓ(z0), etz10 appartient donc àP :Γ(z)∩P6=;. Enfin, siΓ(z) inter-secte P en au moins deux points distincts, disons z01 et z02 = ϕ2−1(z), alorszest équidistant dez1etz2=ϕ2(z0),i.e. z01est équidistant dez0et ϕ1−1ϕ2(z0):z10 etz02sont en fait sur le bord∂P.
VI.1.4. Polygones finis
Par la suite, on ne considérera que des polygones de type Dirichlet, c’est à dire construits comme dans l’énoncé du théorème VI.1.2.
Proposition VI.1.3. — SoitΓ⊂PSL(2,R)un groupe fuchsien et soit P un polygone fondamental de Dirichlet. Si P est fini, alorsΓest de type fini.
Plus précisément, il existe une décomposition du bord orienté de P en un nombre pair d’arcs géodésiques orientésδ1, . . . ,δ2n, une involution sans point fixeσde l’ensemble{1, . . . , 2n}et une famille génératriceϕ1, . . . ,ϕ2n
pourΓsatisfaisant
ϕi(δi) =δσ(i−1) et ϕσ(i)=ϕi−1, i=1, . . . , 2n.
Un polygone fondamental muni d’une telle décomposition paire de son bord sera ditadapté au groupeΓ. Attention, le fait que P soit de Dirichlet est essentiel dans l’énoncé ; dans [Bea1983, p. 210-213], on trouvera un exemple de groupe fuchsien avec polygone fondamental convexe à 5 côtés : un des côtés n’est associé à aucun autre et est accu-mulé par une infinité de translatésϕ(P),ϕ∈Γ. On dit alors que le pavage n’est pas localement fini.
Démonstration. — Soientδ1, . . . ,δp les côtés deP, munis de l’orienta-tion de bord deP. Pour tout pointz ∈∂P, il existe au moins une trans-formationϕ∈Γdifférente de l’identité envoyantz sur un pointz0∈∂P (éventuellement le même). En effet, puisqueP est de Dirichlet, disons relativement à un pointz0(voir énoncé du théorème VI.1.2), la distance dez à l’orbiteΓ(z0)est réalisée parz0et au moins un autre pointz16=z0
de l’orbite. Il suffit alors de choisirϕ∈Γqui envoiez1surz0: la distance dez0 =ϕ(z)àΓ(z0)est réalisée parz0=ϕ(z1)etϕ(z0). Ainsiz0 est un point du bord deP.
ϕ2=ϕ−13
P ϕ1(P)
δ1 δ4
ϕ1ϕ2ϕ4ϕ2ϕ1
=ϕ1ϕ2ϕ1−1ϕ2ϕ1
ϕ1=ϕ−14
ϕ1ϕ2(P) δ3
δ2
FIGUREVI.2. Un système générateur pour PSL(2,Z)
Dans le cas oùz etz0 sont des points lisses de∂P (i.e.pas des som-mets), ϕ est unique et conjugue les germes d’arcs (δi,z) et (δ−1j ,z0) correspondants de ∂P; dans le cas contraire, on trouverait arbitraire-ment près de z des points dont l’orbite rencontre au moins deux fois l’intérieur deP. La classe d’équivalence d’un pointz ∈∂P est finie, car la somme des angles correspondants doit être ¶ 2π et chaque angle de∂Pest strictement positif (on ne considère que les points dansH). En considérant comme nouveaux sommets les éléments des classes d’équi-valence des points non-lisses de∂P, on obtient un nouveau découpage par arcs géodésiques δ1, . . . ,δp satisfaisant : pour tout i = 1, . . . ,p, il existe j etϕi ∈Γuniques tels queϕi(δi) =δ−1j ; de plus, l’orbite d’un pointz ∈δi différent des extrémités intersecte∂P exactement enz et ϕi(z). Il se peut que i = j auquel cas ϕi a un point fixe au milieu de l’arcδi; on rajoute ce point aux sommets et on découpeδi en deux arcs pour obtenir l’énoncé demandé (voir la figure VI.2). En particulier lep final est pair,p=2n.
Pour vérifier que les élémentsϕ1, . . . ,ϕ2n ∈Γainsi construits engen-drentΓ, on utilise le pavage de la manière suivante. Notons d’abord que le pavé adjacent àPle long du côtéδi estϕi−1(P). Ainsi, siϕ(P)etϕ0(P), avecϕ,ϕ0 ∈Γ, sont deux pavés adjacents le long du côtéϕ0(δi), alors ϕ0−1◦ϕ(P) =ϕ−1i (P)et par suiteϕ0 = ϕ◦ϕi. Maintenant, étant donné un élémentϕ∈Γ, choisissons un cheminγjoignantP au pavéϕ(P)et évitant tous les sommets du pavage (i.e.les translatés parΓdes sommets