naturelle X[N ] ×X[N ] → µb N, où µN désigne l’ensemble des racines N -ièmes de l’unité ([67, Page 183]). Une polarisation H sur X permet alors d’en déduire un couplage eH : X[N ] × X[N ] → µN. C’est une généralisation du couplage de Weil sur les courbes elliptiques et nous parlerons donc dans la suite de couplage de Weil associé à une polarisation.
Définition 2.4.10. Soient (X, H1) et (Y, H2) deux variétés abéliennes
principa-lement polarisées et soit f : X → Y une isogénie de degré `2, pour ` un nombre premier. On dit que f est une `-isogénie lorsque le diagramme suivant commute :
X [`] f // φ`H1 Y φH2 X φH1 //Xb Yb b f oo
Dans ce cas, ker f ⊆ ker φ`H1 est isotrope maximal pour le couplage de Weil issu de `H1. Réciproquement, soient H une polarisation sur X et K ⊆ ker φH isotrope maximal pour eH. Alors il existe une polarisation H2 sur X/K qui est principale et telle que f∗H2 = H (voir [66, 18]). Si ` est premier, alors f est une
`-isogénie si et seulement si K = ker f ⊆ X[`] est isotrope maximal pour e`H1. De plus, on a K ' (Z/`Z)2 ce qui fait que plusieurs auteurs parlent de (`, `)-isogénie. Nous avons choisi dans cette thèse de garder la dénomination `-isogénie pour être cohérent avec la notion qui suit.
Définition 2.4.11. Soient (X, H1) et (Y, H2) deux variétés abéliennes
principa-lement polarisées de dimension 2 et soit f : X → Y une isogénie de degré `, pour ` un nombre premier. Supposons qu’il existe i : K0 → Ends
Q(X), où K0 est un corps de nombres quadratique totalement réel et que ` = ββ dans K0 avec β totalement réel totalement positif. On dit que f est une β-isogénie lorsque le diagramme suivant commute :
X β f // φβH1 Y φH2 X φH1 //Xb Yb b f oo où βH1(x, y) := H1(βx, y) = H1(x, βy).
Dans ce cas, ker f ⊆ X[β] est un sous-groupe cyclique qui est alors isotrope maximal pour eβH1. Réciproquement, soient β totalement réel totalement positif de norme ` et K isotrope maximal dans X[β] pour eβH1, alors il existe une pola-risation principale H2 sur X/K telle que le diagramme de la définition précédente commute (voir [18]).
2.5 Espaces de modules
Nous avons vu qu’à un tore complexe on peut associer plusieurs matrices des périodes, selon les bases que l’on choisit. Nous décrivons dans cette section un critère permettant de dire si deux matrices des périodes différentes proviennent de la même variété abélienne ou pas. D’autre part, nous allons faire la même chose avec des variétés abéliennes qui ont un certain type d’anneau d’endomorphismes.
2.5.1 Espace de Siegel et matrices symplectiques
Soit X = V /Λ un tore complexe de dimension g et H une forme de Riemann qui définit une polarisation de type D = diag(d1, . . . , dg). Soient λ1, . . . , λg, µ1, . . . , µg
une base symplectique de Λ pour H. La forme alternée E qui correspond à H est donnée par la matrice −D 00 Dpar rapport à cette base.
Posons maintenant ei = d1
iµi pour i = 1, . . . , g. D’après le lemme 2.2.15, les vecteurs ei forment une C-base de V . Par rapport aux bases e1, . . . , eg et
λ1, . . . , λg, µ1, . . . , µg, la matrice des périodes de X est de la forme Π = (Ω, D) pour un certain Ω ∈ Mg(C). On peut être plus précis et utiliser les relations de Riemann (théorème 2.3.11) pour trouver qu’en fait Ω est une matrice symétrique dont la partie imaginaire est définie positive et que =(Ω)−1 est la matrice de la forme hermitienne H par rapport à la base e1, . . . , eg. Ceci conduit à la définition suivante.
Définition 2.5.1. Le demi-espace supérieur de Siegel Hg de dimension g est l’ensemble
Hg:= {Ω ∈ Mg(C) : tΩ = Ω, =(Ω) > 0}.
L’espace de Siegel est une sous-variété ouverte de dimension 12g(g + 1) sur
l’espace vectoriel des matrices symétriques de Mg(C). On appelle variété abélienne
polarisée de type D avec base symplectique un triplet de la forme
(X, H, {λ1, . . . , λg, µ1, . . . , µg}),
avec X = V /Λ une variété abélienne, H une polarisation de type D et les λi et µi une base symplectique de Λ pour H.
Proposition 2.5.2. Soit D un type. L’espace de Siegel Hg est un espace de mo-dules (grossier) pour les variétés abéliennes polarisées de type D avec base sym-plectique.
Démonstration. Voir [4, Section 8.1]. On a vu déjà que d’un tel triplet on peut en
déduire un point Ω ∈ Hg. Réciproquement, soient D un type et Ω ∈ Hg. On pose alors ΛΩ := (Ω, D)Z2g; c’est un réseau de V = Cg et XΩ := V /ΛΩ est un tore complexe. On définit la forme hermitienne HΩ qui s’écrit matriciellement =(Ω)−1 par rapport à la base standard de Cg. Par définition de l’espace de Siegel, cette forme est définie positive. Considérons maintenant l’isomorphisme R-linéaire de R2g vers Cg défini par la matrice (Ω, D) ∈ Mg×2g(C). Soient λ1, . . . , λg, µ1, . . . , µg
les images dans Cg des éléments de la base standard de R2g. Par définition, ces éléments forment une base de ΛΩ. Par rapport à cette base, =(HΩ|(ΛΩ× ΛΩ)) est donnée par la matrice
=(t(Ω, D)(=(Ω))−1(Ω, D)) =−D 00 D.
On a donc montré que HΩ est une polarisation de type D sur XΩ.
On cherche maintenant à se débarrasser de la base symplectique, c’est-à-dire à se rendre indépendant du choix de la base pour l’écriture de la matrice des périodes. En d’autres termes, à donner un critère qui permet de savoir quand deux matrices des périodes proviennent de la même variété abélienne.
2.5. ESPACES DE MODULES 75 Définition 2.5.3. Soit R un anneau commutatif. On appelle groupe symplectique
le groupe Sp2g(R) :=nγ ∈ R : γ 0 Ig −Ig 0 tγ = 0 Ig −Ig 0 o .
Lemme 2.5.4. Soit R un anneau commutatif.
1. Le groupe Sp2g(R) est fermé par transposition ;
2. Pour une matrice γ = A B C D
∈ M2g(R), on a les équivalences suivantes :
(a) γ ∈ Sp2g(R) ;
(b) AC ett tBD sont symétriques et tAD − tCB = Ig; (c) AtB et CtD sont symétriques et AtD − BtC = Ig. Démonstration. Soit γ ∈ Sp2g(R). Notons que tγ = 0 −Ig
Ig 0 γ−1 0 Ig −Ig 0 . On vérifie qu’alors tγ 0 Ig −Ig 0 γ = 0 Ig −Ig 0
et donc que le premier point est vrai. Le deuxième découle directement de la définition du groupe symplectique et du fait qu’il est fermé par transposition. Voir aussi [4, Lemme 8.2.1].
Le groupe Sp2g(R) agit transitivement par la gauche sur Hg par
A B
C D
!
· Ω := (AΩ + B)(CΩ + D)−1.
De plus, tout sous-groupe discret Γ de Sp2g(R) agit proprement et discontinûment sur Hg ([4, Proposition 8.2.5]). Ceci signifie que pour toute paire de compacts (K1, K2) de Hg, l’ensemble {γ ∈ Γ : γK1∩ K2 6= ∅} est fini.
Posons ΛD :=Ig 0 0 D
Z2g et ΓD := {γ ∈ Sp2g(Q) : tγΛD ⊆ ΛD} pour un type
D fixé.
Proposition 2.5.5. Soient Ω1, Ω2 ∈ Hg. Les deux propositions suivantes sont équivalentes :
1. Les variétés abéliennes (XΩ1, HΩ1) et (XΩ2, HΩ2) de type D sont isomorphes ;
2. Ω2 = γ · Ω1 pour un certain γ ∈ ΓD.
Démonstration. Voir [4, Proposition 8.1.3]. La preuve est calculatoire. Elle découle
de la relation A(Ω1, D) = (Ω2, D)R, vue dans l’équation (2.1), où A et R sont
les matrices des représentations analytique et rationnelle d’un isomorphisme f : (XΩ1, HΩ1) → (XΩ2, HΩ2) par rapport à la base standard de Cg et des bases de ΛΩ1 et ΛΩ2 déterminées par Ω1 et Ω2.
Puisque ΓD est un sous-groupe discret, le [4, Théorème A.6] nous garantit que le quotient
Ag,D := Hg/ΓD
est un espace analytique complexe et normal de dimension 12g(g + 1). Avec les
propositions précédentes, on en déduit :
Théorème 2.5.6. L’espace Ag,D est un espace de modules pour les classes d’iso-morphismes des variétés abéliennes polarisées de type D.
Il existe une autre approche pour décrire l’espace des modules des variétés abéliennes de type D. Soit pour R un anneau commutatif de caractéristique nulle
SpD2g(R) =nγ ∈ M2g(R) : γ 0 D −D 0 tγ = 0 D −D 0 o .
En général, ce groupe n’est pas invariant par transposition. L’application
σD : SpD2g(R) −→ Sp2g(R) γ 7−→ Ig 0 0 D−1 γIg 0 0 D
est un isomorphisme de groupe. L’action de Sp2g(R) sur Hg induit une action de SpD2g(R) sur Hg via σD :
γ · Ω := (A0Ω + B0D)(D−1C0Ω + D−1D0D)−1
pour tous γ = AC00 BD00
∈ SpD2g(R) et Ω ∈ Hg. Notons aussi que l’on a ΓD =
σD(SpD2g(Z)). On en déduit que
e
Ag,D := Hg/ SpD2g(Z)
est un espace analytique complexe isomorphe à Ag,D. D’où
Corollaire 2.5.7. L’espace Aeg,D est un espace de modules pour les classes d’iso-morphismes des variétés abéliennes polarisées de type D.
Démonstration. Voir [4, Corollaire 8.2.7].
Dans la suite, c’est cette dernière description qui nous privilégierons. 2.5.2 Variétés abéliennes ayant multiplication réelle
Nous reprenons ici des résultats de [4, Sections 9.1 et 9.2]. Soit K un corps de nombres totalement réel de degré e sur Q.
Définition 2.5.8. On dit qu’une variété abélienne X a multiplication réelle par
K lorsqu’il existe un plongement K ,→ EndQ(X).
Pour une telle variété abélienne, la proposition 2.4.9 nous dit que g = em pour un certain entier m ≥ 1.
Soit a ∈ K. Notons a(i) la valeur de a par le i-ème plongement de K dans R. On pose
ρ : K −→ Mg(C)
a 7−→ diag(a(1)Im, . . . , a(e)Im). Soit z = (z1, . . . , ze) ∈ Hem. On définit l’application
Jz : (K ⊗QR)2m' R2g −→ Cg
a 7−→ diag((z1, Im), . . . , (ze, Im))a
où a = t(a(1), . . . , a(e)) ∈ R2g avec a(i) = t(a(i)1 , . . . , a(i)2m) ∈ R2m. Ainsi, Jz(a) est le vecteur colonne
Jz(a) =zit(a(i)1 , . . . , a(i)m) + t(a(i)m+1, . . . , a(i)2m)
2.5. ESPACES DE MODULES 77 Cette application est un isomorphisme de R-espaces vectoriels. Du coup, pour tout sous-Z-module libre M de K2mde rang 2g tel que la trace TrK/Qta 0 Im
−Im 0
b
est dans Z pour tous a, b ∈ M ⊆ (K ⊗QR)2m, on a que Jz(M) est un réseau de Cg et le quotient Xz := Cg/Jz(M) est un tore complexe. Posons alors
Hz(x, y) = tx diag(=(z1), . . . , =(ze))−1y.
C’est une forme de Riemann définie positive sur Cg. Enfin, on a que ρ(K) ⊆ EndQ(Xz) et on pose alors ιz = ρ.
Définition 2.5.9. Fixons une représentation ρ : K → Mg(C). Une variété abé-lienne polarisée avec (K, 0, ρ) comme structure d’endomorphismes est un triplet
(X, H, ι) tel que X = Cg/Λ est une variété abélienne, H une forme de Riemann définie positive qui est donc une polarisation sur X, et tel que l’on a un plongement ι : K ,→ EndQ(X) ⊆ Mg(C) (ici, on considère EndQ(X) comme un sous-espace
de Mg(C) via la représentation analytique) qui vérifie :
— ι et ρ sont des représentations équivalentes ;
— l’involution de Rosati sur EndQ(X) relativement à H prolonge l’involution
0 sur K via ι.
Proposition 2.5.10. Pour tout z ∈ He
m, le triplet (Xz, Hz, ιz) est une variété
abélienne polarisée avec (K, idK, ρ) comme structure d’endomorphismes. Démonstration. Voir [4, Proposition 9.2.1].
Regardons maintenant quand est-ce que deux triplets sont isomorphes au sens suivant :
Définition 2.5.11. Soient (X1, H1, ι1) et (X2, H2, ι2) deux triplets avec la même
structure d’endomorphismes (K, 0, ρ). Un isomorphisme de variétés abéliennes
avec une structure d’endomorphismes f : (X1, H1, ι1) → (X2, H2, ι2) est un
iso-morphisme de variétés abéliennes polarisées f : (X1, H1) → (X2, H2) tel que le
diagramme suivant commute :
X1 f // ι1(a) X2 ι2(a) X1 f //X2 pour tout a ∈ K.
L’action de Sp2m(R) sur Hm induit une action du groupe G :=Qe
i=1Sp2m(R) sur Hme. Cette action est, pour tous z = (z1, . . . , ze) ∈ Hemet γ = (γ1, . . . , γe) ∈ G,
γ · z := (γ1· z1, . . . , γe· ze), avec γi · zi = (Aizi + Bi)(Cizi + Di)−1, où γi = Ai Bi
CiDi
et les Ai, Bi, Ci, Di
sont des matrices m × m. Pour chaque sous-module M sur Z de K2m comme précédemment, on pose
Proposition 2.5.12. Soient z et t deux points de Hem. Les variétés abéliennes polarisées (Xz, Hz, ιz) et (Xt, Ht, ιt) avec (K, 0, ρ) comme structure d’endomor-phismes sont isomorphes si et seulement s’il existe un γ ∈ G(M) tel que t = γ · z. Démonstration. Voir [4, Proposition 9.2.2].
Ce groupe G(M) est discret dans G. Il agit proprement et discontinûment sur He
m ([4, Proposition 8.2.5]). Donc comme dans la section précédente, on en déduit que le quotient A(M) := Hem/G(M) est un espace analytique complexe normal
de dimension dim A(M) = dim Hem= 2em(m + 1).
Proposition 2.5.13. A(M) est un espace de modules appelé espace de mo-dules pour les variétés abéliennes polarisées avec pour structure d’endomorphismes (K, 0, ρ) associé au K-module M.
Démonstration. Voir [4, Page 249].
Notons que le choix de M fixe le type de polarisation et donc si on change M, on change ce type. On obtient ainsi une multitude indéfinie d’espaces de modules associés à une même structure d’endomorphismes et chaque type de polarisation apparaît au moins une fois. Inversement, on a :
Proposition 2.5.14. Toute variété abélienne polarisée (X, H, ι) de dimension g
avec (K, idK, ρ) comme structure d’endomorphismes est contenue dans un espace de modules de la forme A(M).
Démonstration. Voir [4, Proposition 9.2.3].
Le cas qui nous intéresse le plus est lorsque l’on a que e = g et m = 1. On prend M un idéal fractionnaire de K, qui est ici un corps de nombres totalement réel de degré g. On vérifie aisément que pour z ∈ Hg1, Xz = Cg/(Mz + M) où
Mz + M = {t(λ(1)z1 + µ(1), . . . , λ(g)zg+ µ(g)) ∈ Cg : λ, µ ∈ M}. L’espace de modules A(M) est appelé variété modulaire de Hilbert. Nous étudierons dans la section 5.1 les surfaces modulaires de Hilbert.