pour l’obtention du grade de DOCTEUR DE L’UNIVERSIT´ E PARIS 13 pr´esent´ee par

(1)

Universit´ e Paris 13 – Institut Galil´ ee

Laboratoire Analyse, G´eom´etrie et Applications, UMR 7539

T H ` ESE DE D OCTORAT

Spécialité : Mathématiques

pour l’obtention du grade de DOCTEUR DE L’UNIVERSIT´ E PARIS 13 pr´esent´ee par

Mladen Dimitrov

V ALEUR CRITIQUE DE LA FONCTION L ADJOINTE D’UNE FORME MODULAIRE DE H ILBERT ET ARITHM ´ ETIQUE DU MOTIF CORRESPONDANT

soutenue le 9 octobre 2003 devant un jury constitu´e de Michael Harris Universit´e Paris 7

Abdellah Mokrane Universit´e Paris 13

Jacques Tilouine Universit´e Paris 13 Directeur

J¨org Wildeshaus Universit´e Paris 13

Jean-Pierre Wintenberger Universit´e Louis Pasteur Pr´esident

rapporteurs

Guido Kings Regensburg Universit¨at

Richard Taylor Harvard University

(2)

A mes parents Mariyana et Miroslav

et ` a ma soeur Nadya

(3)

Remerciements

Je voudrais d’abord exprimer toute ma gratitude à mon directeur de thèse Jacques Tilouine pour m’avoir initié à ces belles mathématiques, donné un sujet de recherche si riche et passionnant, et pour avoir été toujours présent au cours de ces dernières années pour répondre à mes questions. Il reste pour moi un exemple à suivre dans beaucoup de domaines au-delà des mathématiques.

Je voudrais aussi remercier G. Kings et R. Taylor pour avoir accept´e d’ˆetre mes rapporteurs et pour toutes leurs remarques sur le texte, ainsi que M. Harris, A.

Mokrane, J. Wildeshaus et J.-P. Wintenberger pour avoir accept´e de faire partie du jury de soutenance.

J’estime que préparer ma thèse au sein de l’équipe d’Arithmétique et Géométrie Algébrique a été une grande chance pour moi. Je remercie toute l’équipe pour l’accueil qu’elle m’a réservé, et tout particulièrement A. Abbès, D. Barski, Y. Hen- rio, A. Mokrane, E. Urban, I. Vidal et J. Wildeshaus qui ont toujours été prêts à m’écouter et à m’aider à résoudre mes problèmes.

Le L.A.G.A. a été pour moi un endroit convivial, mais aussi propice au travail de recherche grâce à sa direction et son secrétariat efficaces, sa bibliothèque calme, son réseau informatique qui s’est beaucoup amélioré et, bien-sûr, tous ses membres.

Pendant ma thèse j’ai pu participer à de nombreuses conférences dont je voudrais remercier les organisateurs. Lors de ces rencontres j’ai pu tirer avantage de conver- sations avec F. Andreatta, C. Breuil, L. Dieulefait, E. Ghate, H. Hida, M. Kisin, L.

Illusie, V. Lafforgue, M. Raynaud et J.-P. Wintenberger qui m’ont beaucoup apport´e.

Tout au long de ma thèse je n’ai pas cessé de m’instruire en discutant avec des amis mathématiciens tels que Joël Bella¨ıche, Laurent Berger, David Blottière, Olivier Brinon, Gaëtan Chenevier, Fabio Mainardi, Adriano Marmora, David Mauger, San- dra Rozenzstajn et Alain Troesch. Je les remercie tous de leur patience et de leur bonne volonté, ainsi que Delphine Louis pour la relecture de l’introduction.

Je souhaite également remercier ici mes professeurs pour tout ce qu’ils m’ont en- seigné. La liste serait trop longue et je ne citerai que mes professeurs de mathématiques du lycée I. Simeonov, J.-D. Bloch et D. Monasse, qui ont su susciter chez moi une réelle passion pour les mathématiques.

Je voudrais enfin remercier Mme et M. Balkanski, qui ont été ma famille sur Paris durant ces longues années d’études, ma mère Mariyana, mon père Miroslav et ma soeur Nadya qui m’ont toujours beaucoup soutenu.

(4)

(5)

Table des Mati` eres

Introduction 7

Chapitre I. Variétés et formes modulaires de Hilbert analytiques 11 1. Sous-groupes de congruence et variétés modulaires de Hilbert. 11 2. Formes automorphes de Hilbert et opérateurs de Hecke. 15 3. Variétés abéliennes de Hilbert-Blumenthal et formes de Hilbert. 17

4. Formes modulaires de Hilbert pour GL₂. 23

5. Isomorphisme d’Eichler-Shimura-Harder. 26

6. Compactifications toro¨ıdales analytiques. 28

Chapitre II. Compactifications arithmétiques des variétés de Hilbert pour Γ₁(c,n) 33

1. Construction de VAHB dégénérantes. 34

2. R-pointes et (R,n)-pointes. 37

3. Cartes locales pour les variétés modulaires de Hilbert arithmétiques. 41

4. Un th´eor`eme de descente formelle de Rapoport. 43

5. Th´eor`eme d’uniformisation de Raynaud pour les VAHB. 46

6. Compactifications toro¨ıdales arithm´etiques. 47

7. Formes de Hilbert et compactification minimale arithmétiques. 50 8. Compactifications toro¨ıdales des variétés de Kuga-Sato. 57 9. Construction de fibrés automorphes sur la variété modulaire de Hilbert. 64 10. Prolongements des fibrés automorphes aux compactifications toro¨ıdales. 66 Chapitre III. Cohomologie p-adique des variétés modulaires de Hilbert 69 1. Cohomologie l-adique et de Betti des variétés modulaires de Hilbert. 69

2. Repr´esentations p-adiques et poids de Hodge-Tate. 70

3. Le complexe de Berstein-Gelfand-Gelfand sur Q. 72

4. Cohomologie de De Rham logarithmique. 73

5. D´ecomposition de Hodge-Tate de H^•(M_Q

p,V_n(Q_p)). 74

6. Action des op´erateurs de Hecke sur la cohomologie. 75

7. Poids de Hodge-Tate de ⊗Ind^Q_Fρ dans le cas cristallin. 76

8. Poids de Hodge-Tate de ρ dans le cas cristallin. 78

Chapitre IV. Repr´esentations galoisiennes r´esiduelles 81

1. Poids de Fontaine-Laffaille de ρ. 81

2. Relèvement de caractères et critère d’irréductibilité pour ρ. 84

3. Le cas exceptionnel. 85

4. Le cas di´edral. 86

5. Etude de l’image de´ ρ. 87

6. Etude de l’image de Ind´ ^Q_Fρ. 88

7. Congruences entre conjugu´es internes. 91

5

(6)

6 TABLE DES MATI`ERES

Chapitre V. Cohomologie modulop des vari´et´es modulaires de Hilbert 93

1. Le complexe BGG sur O. 93

2. Complexe BGG pour les cristaux. 96

Chapitre VI. Applications arithm´etiques 99

1. Cohomologie du bord localisée et critère de congruences. 99 2. La cohomologie sur certaines composantes locales de l’algèbre de Hecke. 105 Chapitre VII. Modularité des déformations minimales deρ. 111

1. Introduction et strat´egie de la preuve. 111

2. D´eformation de repr´esentations galoisiennes. 111

3. Construction des anneaux RQ. 114

4. Modules de cohomologie localis´ee. 118

5. Syst`emes de Taylor-Wiles, d’apr`es Fujiwara. 121

6. Démonstration du théorème C. 122

Liste des notations. 125

R´ef´erences 127

(7)

Introduction

0.1. Soit F un corps de nombres totalement réel de degré d, d’anneau des entiers o et de différente d. On note Fe la clôture galoisienne de F dans Q et J_F l’ensemble des plongements de F dans Q.

On fixe un id´eal n ⊂ o et on pose ∆ = N_F/Q(n d). Pour un poids arithm´etique k = P

τ∈J_F k_ττ ∈Z[J_F] (cfDéf.I.2.1), on posek₀= max{k_τ|τ ∈J_F}. Enfin, pour tout caractère de Hecke ψ de F de conducteur divisant n et de type k₀−2 à l’infini, on note S_k(n, ψ) l’espace de formes modulaires de Hilbert correspondant (cf Déf.I.4.1).

Soit f ∈ S_k(n, ψ) une forme modulaire de Hilbert nouvelle (propre, normalisée et primitive pour l’algèbre de Hecke). Pour tout idéal a⊂oon note c(f,a) la valeur propre de l’opérateur de Hecke standard Ta sur f.

Soit p ≥5 un nombre premier et soit E un corps p-adique assez grand, d’anneau des entiers O, d’id´eal maximalP et de corps r´esiduelκ.

0.2. Résultats galoisiens. Le groupe de Galois absolu d’un corpsLest notéGL. Par les travaux de Taylor [65] et Blasuis-Rogawski [2] on sait associer à f une représentation galoisiennep-adiqueρ:GF →GL2(E) qui est absolument irréductible, totalement impaire, non-ramifiée en dehors de npet telle que pour tout premier v de o, ne divisant pas np :

Tr(ρ(Frob_v)) =c(f, v), Det(ρ(Frob_v)) =ψ(v) N_F/Q(v), où Frob_v désigne un Frobenius géométrique env.

En prenant unO-réseau deE², stable parGF, on définitρ=ρ mod P :GF →GL₂(κ), dont la semi-simplification est indépendante du choix du réseau.

La proposition suivante ´etend au cas des formes modulaires de Hilbert des r´esultats de Serre [61] et Ribet [59] sur les formes modulaires elliptiques (cf Prop.IV.2.1, Prop.IV.5.2 et Prop.IV.7.3).

Proposition 0.1. (i) Pour tout premier P en dehors d’un ensemble fini, on a (Irrρ) ρ=ρ_f,_P est absolument irr´eductible.

(ii) Si f n’est pas une s´erie thˆeta, alors pour tout premier P en dehors d’un ensemble fini, on a

(LI_ρ) il existe une puissanceq de p telle que SL₂(F_q)⊂Im(ρ)⊂κ^×GL₂(F_q).

(iii) Supposons que f n’est égale à aucune de ses d conjuguées internes tordues par un caractère quadratique, ni à une série thêta. Alors, pour tout premier P en dehors d’un ensemble fini, il existe une puissance q de p, une partition J_F =`

i∈IJ_Fⁱ et des ´el´ements σ_i,τ∈Gal(F_q/F_p), τ∈J_Fⁱ, tels que (τ 6=τ⁰⇒ σ_i,τ 6=σ_i,τ⁰) et tels que la condition suivante soit satisfaite :

(LI_Indρ) Ind^Q_Fρ : GFb⁰⁰ → SL₂(F_q)^J^F se factorise par une surjection GFb⁰⁰ SL₂(F_q)^I suivie par l’application (M_i)_i_∈_I 7→ (M_i^σ^i,τ)_i_∈_I,τ_∈_Ji

F, o`u Fb⁰⁰ est le compositum de Fe et du corps fixe de(Ind^Q_Fρ)⁻¹(SL₂(F_q)^J^F).

7

(8)

8 INTRODUCTION

0.3. R´esultats cohomologiques. Soit Y_/_Z[1

∆] la variété modulaire de Hilbert de niveauK₁(n) (cfII.3.1). On s’intéresse au groupe de cohomologiep-adique H^•(Y_Q,V_n(Q_p)), où V_n(Q_p) désigne le système local de poids n = P

τ∈J_F(k_τ −2)τ ∈ N[J_F] (cf II.9).

Par un r´esultat de Brylinski-Labesse [4] le sous-espace W_f := T

a⊂o

ker(Ta −c(f,a)) de H^d(Y_Q,Vn(Q_p)) est isomorphe, commeGFe-module et apr`es semi-simplification, `a l’induite tensorielle ⊗Ind^Q_F ρ. Supposons que :

(I)p ne divise pas ∆ = ∆_F N(n),

Alors Y poss`ede des compactifications toro¨ıdales lisses surZ_p. Pour tout J⊂J_F, on pose|p(J)| =P

τ∈J(k₀−m_τ−1) +P

τ∈J_F\Jm_τ, o`um_τ = (k₀−k_τ)/2∈N. En appliquant la m´ethode de Faltings-Chai [21], on obtient

Théorème 0.2. (i) (Thm.III.5.1) La représentation galoisienne H^j(Y_Q,V_n(Q_p)) est cristalline enp, de poids de Hodge-Tate appartenant à l’ensemble{|p(J)|, J⊂J_F |J| ≤j}. (ii) (Cor.III.7.4)Les poids de Hodge-Tate deW_f sont les entiers|p(J)|,J ⊂JF, comptés avec multiplicité.

Afin de pouvoir établir une variante modulopde ce théorème, on a besoin de l’hypothèse supplémentaire suivante :

(II) p−1>P

τ∈JF(k_τ−1).

L’entier P

τ∈JF(k_τ−1) est égal à la différence |p(J_F)| − |p(∅)| entre les deux poids de Hodge-Tate extrêmes de la variété modulaire de Hilbert. On utilise (I) et (II) pour appliquer la théorie de Fontaine-Laffaille [23], ainsi que le Théorème de Comparaison de Faltings modulop[20]. En adaptant au cas modulaire de Hilbert l’approche développée par Mokrane-Polo-Tilouine [51, 56] dans le cas modulaire de Siegel, notamment la construction d’un complexe de Bernstein-Gelfand-Gelfand entier, on calcule les poids de Fontaine- Laffaille des groupes de cohomologie étale modulo p, H^•(Y_Q,Vn(κ)).

0.4. Résultats arithmétiques. On définit le O-module de cohomologie intérieure H^d_!(Y,V_n(O))⁰, comme l’image de H^d_c(Y,V_n(O)) dans H^d(Y,V_n(E)) et on noteT=O[Ta,a⊂ o] l’algèbre de Hecke agissant dessus. Soit ml’idéal maximal deTcorrespondant à f et p.

Th´eor`eme0.3. Supposons (I) et (II).

(i) (Thm.VI.1.3) Si on a (Irrρ), d(p−1)>5P

τ∈JF(kτ−1) et

(PM) le poids m´edian ^|^p(J^F⁾^|₂⁺^|^p(∅)^| = ^d(k⁰₂⁻¹⁾ n’appartient pas `a {|p(J)|, J⊂J_F},

alors la composante locale de la cohomologie du bordH^•_∂(Y,V_n(O))ms’annule et l’accouplement de Poincar´eH^d_!(Y,V_n(O))⁰_m×H^d_!(Y,V_n(O))⁰_m→ O est une dualit´e parfaite.

(ii) (Thm.VI.2.6) Si on a (LI_Ind_ρ), alors H^•(Y,V_n(O))_m = H^d(Y,V_n(O))_m est un O- module libre de rang fini et son dual de Pontryagin est isomorphe `a H^d(Y,V_n(E/O))_m.

La démonstration s’appuie sur un argument galoisien de type “global-local”. Pour le (i), on utilise le lemme VI.1.1(ii) et un théorème de Pink [55] sur la cohomologie étale d’un système local restreint au bord de Y. Pour le (ii), on utilise le lemme VI.2.5 et le calcul des poids de Fontaine-Laffaille de la cohomologie.

Soit Λ^∗(Ad⁰(f), s) la fonctionL adjointe imprimitive de f, complétée par ses facteurs d’Euler à l’infini et soit W(f) la constante complexe intervenant dans l’équation fonction- nelle de la fonction L standard de f. On note Ω^±_f ∈ C^×/O^× les périodes définies par l’isomorphisme d’Eichler-Shimura-Harder (cf VI.1.2).

(9)

INTRODUCTION 9

Th´eor`eme A(Thm.VI.1.10)Supposons (I),p−1>max(1, ⁵_d)P

τ∈J_F(k_τ−1), (Irr_ρ) et(PM). SiP divise ^W^(f)Λ^∗^(Ad⁰^(f),1)

Ω⁺_fΩ⁻_f , alors il existe une autre forme propre et normalis´ee g∈S_k(n, χ) telle quef ≡g (modP), i.e. c(f,a)≡c(g,a) (mod P), pour tout id´eala⊂o.

Sin=oet k= (2, ..,2) ou siF est quadratique, k est parallèle etf est ordinaire en p, alors Ghate [27] a obtenu des résultats analogues à ceux du théorème précédent.

La preuve suit de pr`es celle donn´ee par H. Hida [31] dans le cas elliptique (F =Q), et utilise Thm.0.3(i), ainsi qu’une formule de Shimura [63] reliant Λ^∗(Ad⁰(f),1) au produit de Petersson def (cf(VI.5)).

Th´eor`eme B(Thm.VI.2.7) Supposons (I), (II) et (LI_Ind_ρ). Alors

(i) H^•(Y,V_n(κ))[m] = H^d(Y,V_n(κ))[m] est un k-espace vectoriel de dimension 2^d. (ii) H^•(Y,V_n(O))m= H^d(Y,V_n(O))m est libre de rang 2^d sur Tm.

(iii) T_m est Gorenstein.

Par [48] il suffit de d´emontrer le (i), dont la preuve repose sur le Thm.0.3(ii) et le Principe duq-d´eveloppement (cf II.7.3).

Ce théorème, sous des hypothèses plus faibles, est dû à Mazur [48], pour F = Q et k= 2, et à Faltings-Jordan [22], pourF =Q. La propriété de Gorenstein a été démontrée par Diamond [18] pourF quadratique et k= (2,2), sous les hypothèses(I),(II)et (Irr_ρ).

L’approche de Diamond via la cohomologie d’intersection devrait pouvoir se généraliser afin de démontrer queT_mest Gorenstein, sous les hypothèses(I),(II)et (LI_ρ) (cfLemme VI.1.1(i) et Rque VI.1.2).

0.5. Résultats explicites. Par un résultat classique de Dickson, l’image dans PGL2(κ) d’un sous-groupe irréductible de GL₂(κ) qui ne satisfait pas (LI_ρ), est diédrale, tétraédrale, octaédrale ou icosaédrale. Dans la proposition suivante nous étudions ces cas exceptionnels pour l’image deρ dans PGL₂(κ).

Soit o^×₊ (resp. o^×_n,1) le groupe des unit´es de o qui sont totalement positives (resp.

congrues `a 1 modulon).

Proposition 0.4. Supposons quep-∆ et p > k₀.

(i) Si k est non-parall`ele, et si pour tout J⊂J_F, il existe une unit´e ∈o^×₊∩o^×_n,1, telle quep ne divise pas N_F/Q_e Q

τ∈J

τ()^k⁰⁻^m^τ⁻¹− Q

τ∈J_F\J

τ()^m^τ

!

6

= 0, alors on a (Irr_ρ).

(ii) Si d(p−1) > 5 P

τ∈JF

(kτ−1), alors l’image de ρ dans PGL2(κ) n’est pas diédrale, tétraédrale, octaédrale, ni icosaédrale.

(iii) Supposons que :

(non-CM)pour toute une extension quadratique CMK/F, de discriminant∆_K/F divisant net dans laquelle tous les premierspdeF au-dessus depse d´ecomposent, il n’existe pas de caract`ere de Heckeϕde K de conducteur divisantn∆⁻_K/F¹ et de type (m_τ, k₀−1−m_τ)_τ_∈_J_F

`

a l’infini, et tel que ρ ≡Ind^F_Kϕ (mod P).

Alors l’image de ρ dans PGL₂(κ) n’est pas di´edrale.

(iv) Si on a(LI_ρ), et sik n’est pas induit d’un poids d’un sous-corps strict de F, alors on a (LI_Ind_ρ).

De cette proposition, on obtient le corollaire suivant des th´eor`emes A et B :

(10)

10 INTRODUCTION

Corollaire 0.5. Soit un ´el´ement de o^×₊∩o^×_n,1.

(i) Supposons que d= 2 et k= (k₀, k₀−2m₁), avec m₁ 6= 0.

Si p-∆ N_F/Q((^m¹−1)(^k⁰⁻^m¹⁻¹−1))et p−1>4(k₀−m₁−1), alors on a le th´eor`eme A.

Si de plus on a la condition(non-CM), alors on a aussi le th´eor`eme B.

(ii)Supposons qued= 3,id6=τ ∈J_F etk= (k₀, k₀−2m₁, k₀−2m₂), où0≤m₁ ≤m₂6= 0. Si p - ∆ N_F/Q_e ((τ()^m¹ −⁻^m²)(τ()^m¹ −^m²⁺¹⁻^k⁰)(τ()^m¹⁺¹⁻^k⁰ −^m²)(τ()^k⁰⁻^m¹⁻¹− ^m²⁺¹⁻^k⁰)) et p−1> ⁵₃(3k₀−2m₁−2m₂−3), alors on a le théorème A. Si de plus on a la condition(non-CM), alors on a aussi le théorème B.

0.6. Systèmes de Taylor-Wiles, modularité et formule “à la Bloch-Kato”.

Dans le cas oùρest de niveau minimal on sait définir un anneau universel de déformations minimalesRdeρ, ainsi qu’un groupe de Selmer Sel(F,Ad⁰(ρ)⊗E/O). On a une surjection canoniqueRTm.

En construisant un système de Taylor-Wiles suivant le formalisme développé par Fuji- wara [25], on obtient :

Th´eor`eme C (Thm.VII.6.2) Supposons (I), (II), (LI_Ind_ρ) et que ρ est de niveau minimal. AlorsR 'T_m et

W(f)Λ^∗(Ad⁰(ρ),1) Ω⁺_fΩ⁻_f

!

= Fitt_O Sel(F,Ad⁰(ρ)⊗E/O) .

0.7. Organisation du texte.

Dans le chapitre I on définit différents objets analytiques dont on voudrait étudier les propriétés arithmétiques.

Dans le chapitre II on donne des détails sur les compactifications arithmétiques toro¨ıdales des variétés de Kuga-Sato au-dessus de la variété modulaire de Hilbert en niveau Γ₁(c,n).

Ceci permet de prolonger certains fibrés automorphes aux compactifications toro¨ıdales de la variété modulaire de Hilbert.

Les constructions du chapitre II, nous permettent d’appliquer dans le chapitre III la m´ethode de Faltings-Chai, pour donner la d´ecomposition de Hodge-Tate de la cohomologie

étale p-adique de la variété modulaire de Hilbert. On détermine également les poids de Hodge-Tate de la représentation galoisienne associée à une forme modulaire de Hilbert.

Le chapitre IV est consacré à l’étude de l’image de la représentation galoisienne résiduelle associée à une forme modulaire de Hilbert, ainsi que son induite tensorielle.

Dans le chapitre V, on reprend la construction du chapitre III, afin de calculer suivant Mokrane-Polo-Tilouine les poids de Fontaine-Laffaille de la cohomologie étale modulopde la variété modulaire de Hilbert.

Enfin, les chapitres VI et VII contiennent les démonstrations des principaux résultats arithmétiques.

(11)

CHAPITRE I

Vari´ et´ es et formes modulaires de Hilbert analytiques

R´ef´erences : [24][34][35][68]

1. Sous-groupes de congruence et vari´et´es modulaires de Hilbert.

SoitF un corps de nombres totalement réel de degréd=d_F, d’anneau des entierso, de différente det de discriminant ∆_F = N_F/Q(d). On noteJ_F = Hom_Q₋_alg.(F,C) l’ensemble de ses plongements (réels).

On se donne un groupe alg´ebriqueD_/_Q, interm´ediaire entreG_m/_Qet Res^F_QG_m, connexe G_m,→D ,→Res^F_QG_m.

On définit le groupe algébrique G = G^D_/_Q (resp. G^∗_/_Q) comme le produit fibré de D (resp. G_m) et de Res^F_QGL₂ au dessus de Res^F_QG_m. On a le diagramme cartésien suivant :

Res^F_QSL₂

//G^∗

//G^D

//Res^F_QGL₂

ν

1 ^//Gm //D ^//Res^F_QG_m,

où les flèches verticales sont données par la norme réduiteν : Res^F_QGL₂ →Res^F_QG_m. Le sous-groupe de Borel standard de G, son radical unipotent et son tore maximal standard sont notés B, U et T, respectivement. On pose T₁ = T ∩ker(ν) et on identifie T₁ × D et T par (u, ) 7→

u 0 0 u⁻¹

. Pour toute Q-alg`ebre R et pour tout groupe alg´ebriqueH sur Q, on note H_R le groupe de ses R-points.

Remarque1.1. Dans toutes les applications le groupeG^D sera soitG^∗, soit Res^F_QGL₂. Nous avons préféré de ne pas fixer G^D dès le départ, car G^∗ intervient dans l’étude géométrique des formes modulaires de Hilbert (le problème de modules de variétés abéliennes de Hilbert associé àG^∗ est représentable : voir la partie 3), alors que Res^F_QGL₂ intervient dans l’étude arithmétique des formes modulaires de Hilbert (les variétés de Shimura as- sociées à Res^F_QGL₂ne sont en général que des espaces de modules grossiers, mais on connaˆıt l’existence de représentations galoisiennes associées aux formes modulaires de Hilbert pro- pres pour Res^F_QGL₂). Cette présentation à été inspirée par le paragraphe 3.1 de [4] (cf [45] §.1.1 et §.4.1 pour une discussion sur les avantages et inconvénients de travailler avec G^∗ ou Res^F_QGL2).

1.1. Le domaine symétrique hermitien H_F. Soit (F ⊗R)₊ (resp. G⁺_R) la composante neutre de (F ⊗R)^× (resp. de GR). Le groupe G⁺_R agit par homographies sur l’espace HF ={z ∈F ⊗C | Im(z) ∈ (F ⊗R)₊} ∼= H^J^F, où H= {z ∈ C | Im(z) >0} désigne le demi-plan de Poincaré (l’isomorphisme étant donné par ξ ⊗z 7→ (τ(ξ)z)_τ_∈_J_F,

11

(12)

12 I. VARI´ET´ES ET FORMES MODULAIRES DE HILBERT ANALYTIQUES

pourξ ∈F, z∈C). Cette action s’étend en une unique action du groupeG_R surHF telle que, composante par composante, l’élément

−1 0

0 1

agit parzτ 7→ −zτ. Posons i = (√

−1, ...,√

−1) ∈ H_F, K_∞⁺ = Stab_G+

R(i) et K_∞ = Stab_G_R(i). Alors G⁺_R/K_∞⁺ ∼=H_F, parg7→g(i) d’inversex+iy7→

y^1/2 xy⁻^1/2 0 y⁻^1/2

K_∞⁺. Via l’inclusion HF ,→ P¹(F ⊗C),z7→hz

1

i, l’action deG⁺_R surHF est compatible avec l’action naturelle deGC sur P¹(F ⊗C).

Les points rationnels P¹(F) du bord P¹(F ⊗R) de HF sont appel´es les pointes. On pose ∞ = h1

0

i. Le groupe G_Q agit transitivement sur l’ensemble des pointes. On a BQ = StabG_Q(∞) et P¹(F)∼=GQ/BQ.

On munit l’espace H^∗_F =H_F tP¹(F) de la topologie de Satake, donn´ee par :

−la topologie usuelle sur H_F,

− pour toute pointe C ∈ P¹(F), s’écrivant C = γ∞ avec γ ∈ GQ, un système fonda- mental de voisinages ouverts deC est donné par les{γW_H}H∈R^∗₊, où

W_H ={z∈H_F | Y

τ

Im(z_τ)> H}.

H^∗_F est s´epar´e (mais pas localement compact!) pour cette topologie (cf [24] I.2.9).

1.2. Action de G⁺_Q sur les o-réseaux. Le groupe G_Q agit à gauche sur F², par γ·(ξ, ζ) = (ξ, ζ)γ⁻¹, où γ ∈ GQ et ξ, ζ ∈ F. Soit G⁺_Q le sous-groupe de GQ formé des

éléments dont le déterminant appartient au sous-groupe des éléments totalement positifs F₊^× de F^×. On note o^× le groupe des unités deo, et on poseo^×₊:=F₊^×∩o^×.

Pour tout id´eal fractionnairefdeF on posef^∗=f⁻¹d⁻¹. On a un accouplement parfait Tr_F/Q :f×f^∗→Z.

Nous allons définir des sous-groupes intéressants de G⁺_Q en considérant son action sur leso-réseau deF².

Soit L un o-réseau de F²; c’est un o-module projectif de rang deux, donc il s’écrit, quitte à changer la base de F², commeL=e⊕f^∗, avec e et f des idéaux fractionnaires de F. Le stabilisateur du réseau e⊕f^∗ dansG⁺_Q est égal à :

G⁺(e⊕f^∗) :={γ ∈G⁺_Q|det(γ)∈o^×₊} ∩

o (ef)^∗ efd o

Lorsque G =G^∗ (resp. G = Res^F_QGL₂), on écrit SL(e⊕f^∗) (resp. GL⁺(e⊕f^∗)), à la place de G⁺(e⊕f^∗). Notons que o^×₊∩Q = {1}, et donc SL(e⊕f^∗) est formé d’éléments dont le déterminant vaut 1.

Lemme 1.2. Dans la SL₂(F)-orbite de tout o-réseauL de F², il existe un o-réseau de la forme o⊕c^∗, avec c un idéal fractionnaire de F.

Démonstration : Il est clair que la SL₂(F)-orbite deLcontient au moins un réseau de la forme e⊕f^∗. Prenonsa∈e et c∈fdsatisfaisant ao+cef^∗=e. Par le théorème de Bezout, il existe alors une matrice unimodulaire

a b c d

∈SL₂(F)∩

e f^∗ fd e⁻¹

et l’image dee⊕f^∗

(13)

1. SOUS-GROUPES DE CONGRUENCE ET VARI ´ET´ES MODULAIRES DE HILBERT. 13

par cette matrice vauto⊕c^∗, avec c^∗ =ef^∗. L’id´eal c^∗ vaut ∧²oL et donc ne d´epend pas de

la matrice de passage unimodulaire particuli`ere choisie.

En vertu de ce lemme, nous ne considérerons par la suite que deso-réseau de la forme o⊕c^∗, avec c un idéal fractionnaire deF.

Remarque 1.3. Consid´erons le cas o`u G = Res^F_QGL₂. Alors l’application L 7→

∧²oL induit un isomorphisme entre les G⁺_Q-orbites de o-réseaux L de F² et le groupe de classes strictes d’idéaux Cl⁺_F. Afin de préserver la symétrie du problème nous devons con- sidérer tous les groupes GL⁺(o⊕c^∗), lorsquecdécrit un ensemble de représentants de Cl⁺_F. L’approche adélique permet de faire ceci tout naturellement (cf§.4.1).

Notons que deux groupes GL⁺(o⊕c^∗) et GL⁺(o⊕c^0∗) sont conjugués dans G⁺_Q, si et seulement, si les idéaux c et c⁰ appartiennent au même genre (i.e. c⁰ =ξe²c, avec ξ ∈F₊^× et eidéal de F).

1.3. Sous-groupes de congruence de G⁺_Q. On fixe dans la suite un idéal fraction- nairec et on considère le réseau L0=o⊕c^∗.

On se donne aussi un id´eal n ( o. Le o/n-module n⁻¹L₀/L₀ est libre de rang 2.

Prenonsx₀ ∈F, aveco=n+x₀cd. La multiplication par x₀ induit alors les isomorphismes o/n−→^∼ c^∗/c^∗n et cd/cdn −→^∼ o/n ce qui nous permet d’identifier l’image de SL(o⊕c^∗) dans Aut(n⁻¹L₀/L₀) et SL₂(o/n) par l’application

a bx₀ c d

7→

a b cx₀ d

, o`u a, b, d ∈ o/net c∈cd/cdn. Faisons l’hypoth`ese :

(NT)nest premier `a N_F/Q(cd) et nne divise ni 2, ni 3.

Soit Γ¹₀(c,n) = SL₂(F)∩

o c^∗ cdn o

, Γ¹(c,n) = ker(SL(o⊕c^∗)→Aut(n⁻¹L₀/L₀)) et Γ¹₁(c,n) =n

γ = a b

c d

∈Γ¹₀(c,n) d≡1 (mod n)o . La r´eduction moduloninduit un diagramme cart´esien :

Γ¹(c,n)

//Γ¹₁(c,n)

//Γ¹₀(c,n)

//SL(o⊕c^∗)

1 0 0 1

//

∗ ∗ 0 1

//

∗ ∗ 0 ∗

//SL₂(o/n)

Définition 1.4. Un sous-groupe Γ de G⁺_Q est appelésous-groupe de congruence si, et seulement si, Γ =GQ∩KG⁺_∞ avecK sous-groupe compact ouvert de G_f (cf§.2.4 pour la définition deG_f, ainsi que la fin de§.2.5).

Les groupes Γ¹(c,n)⊂Γ¹₁(c,n)⊂Γ¹₀(c,n)⊂SL(o⊕c^∗) sont des sous-groupes de congruence deG^∗_Q (en fait ce sont des sous-groupes de SL₂(F)). De mˆeme on d´efinit les groupes les sous-groupes de congruence suivants

Γ(c,n)⊂Γ₁(c,n)⊂Γ₀(c,n)⊂GL⁺(o⊕c^∗)⊂GL⁺₂(F), Γ^D(c,n)⊂Γ^D₁(c,n)⊂Γ^D₀ (c,n)⊂G⁺(o⊕c^∗)⊂G⁺_Q,

en rempla¸cant la condition d’unimodularit´e, avec celle d’avoir son d´eterminant appartenant

`ao^×₊ (resp. `a o^×_D+:=D_Q∩o^×₊).

Lemme 1.5. Sous l’hypoth`ese (NT) le groupe Γ₁(c,n) est sans torsion.

(14)

Démonstration : Par l’absurde. Supposons qu’il existe un élément de Γ₁(c,n) d’ordre premier p. Le déterminant de cet élément est une racine de l’unité totalement positive, donc égale à 1. Cet élément admet comme valeur propre une racinep-ième de l’unitéζ_p 6= 1, ainsi que son inverseζ_p⁻¹. En prenant sa trace on trouve queζ_p est quadratique surF, i.e.

[F(ζp) :F]≤2. Par ailleurs,ζp+ζ_p⁻¹−2∈n, donc N_F/Q(n) est une puissance dep. D’après (NT)on a alors queF etQ(ζ_p) sont linéairement disjoints, d’où [F(ζ_p) :F] =p−1. Donc p= 2 ou p= 3, ce qui implique, par un calcul facile, que ndivise 2 ou 3.

Remarque 1.6. La condition (NT)est optimale pour que Γ₁(c,n) soit sans torsion.

En effet, comme les matrices

−1 0 0 −1

∈ Γ¹₁(d⁻¹,(2)) et

−2 1

−3 1

∈ Γ¹₁(d⁻¹,(3)) sont d’ordre fini, n ne peut pas diviser ni 2 ni 3. Par ailleurs, la condition que n soit premier

`a N_F/Q(d) est aussi n´ecessaire, comme le montre la matrice d’ordre fini

1 1

√5−5 2

√5−3 2

de Γ¹₁(d⁻¹,(√

5)) (ici F = Q(√

5)). Enfin, la condition que n soit premier à N_F/Q(c) est bénigne, car par le théorème d’approximation faible, chaque classe de Cl⁺_F contient des idéaux cpremiers à N_F/Q(n) (cf§.4.1).

Dans toute la suite du texte on suppose que l’hypoth`ese (NT) est satisfaite, de sorte que Γ₁(c,n) soit sans torsion.

1.4. Pointes pour les sous-groupes de congruence. Soit Γ un sous-groupe de congruence. Comme F^×Γ/F^× est commensurable avec PSL₂(o), l’ensemble de ses pointes est aussi P¹(F) et l’ensembles Γ\P¹(F) est fini.

Les deux lemmes suivants d´ecrivent les classes d’isomorphisme de Γ^•₀(c,n)-pointes (•=

∅, D,+). Ceci sera utilisé dans le paragraphe 3.3, où nous étudions les Γ^•₁(c,n)-pointes, ainsi que dans la partie II.2. Notons que Γ^D₀(c,n) =G⁺(o⊕c^∗)∩G⁺(o⊕(cn)^∗).

Lemme 1.7. Soient a c

,a⁰ c⁰

∈F²− {0} et soit f un id´eal fractionnaire de F.

Siao+cf^∗=a⁰o+c⁰f^∗, alors il existe γ ∈SL(o⊕f^∗) tel quea⁰ c⁰

=γa c

.

D´emonstration : Posonsb=ao+cf^∗. Il existent γ, γ⁰ ∈SL₂(F)∩

b (bf)^∗ bfd b⁻¹

tels que a

c

=γ∞ et a⁰ c⁰

=γ⁰∞. Comme γ⁰γ⁻¹∈SL₂(o⊕f^∗) on a le lemme.

Soit IF l’ensemble des id´eaux fractionnaires et Cl_F le groupe des classes deF. Lemme 1.8. On a deux bijections :

G⁺(o⊕c^∗)\ F²− {0} _∼

−→ IF, a c

7→b=ao+cc^∗, et

G⁺(o⊕(cn)^∗)\ F²− {0} _∼

−→ IF, a c

7→b⁰ =ao+c(cn)^∗, qui induisent deux bijections d’ensembles finis :

G⁺(o⊕c^∗)\P¹(F)−→^∼ Cl_F, et G⁺(o⊕(cn)^∗)\P¹(F)−→^∼ Cl_F.

Démonstration : Les flèches sont bien définies (voir l’action de G⁺_Q sur F² définie au début de §.1.2). Le lemme précédent donne l’injectivité. La surjectivité découle du fait que tout idéal dans un corps de nombres peut être engendré par deux de ses éléments.

(15)

2. FORMES AUTOMORPHES DE HILBERT ET OP ´ERATEURS DE HECKE. 15

1.5. Variétés modulaires de Hilbert analytiques. Etant donné un sous-groupe´ de congruence Γ on définit la variété modulaire de Hilbert analytique Mân = Γ\HF. La variétéMân est lisse, si et seulement, si Γ est sans torsion. En revanche Mân n’est jamais compacte.

Les variétés modulaires de Hilbert, dont nous étudierons en détail la géométrie, sont celles correspondant aux sous-groupes de congruence Γ^D₁ (c,n).

1.6. Compactification de Satake. L’espace quotient Mân^∗ = Γ\H^∗_F est compact pour la topologie de Satake définie dans§.1.1. Il est l’union deMân et d’un nombre fini de points (cf[24] Chap.I). Il est muni d’une structure de variété analytique complexe normale pour laquelle les pointes sont des points singuliers sid_F >1 (cf[24] II.4).

Remarque 1.9. Le revêtement SL(o⊕c^∗)\H_F → GL⁺(o⊕c^∗)\H_F est fini étale de groupe o^×₊/o^×². C’est un 2-groupe qui est non-trivial en général. Par conséquent, le morphisme SL(o⊕c^∗)\H^∗_F →GL⁺(o⊕c^∗)\H^∗_F n’est pas étale en général, car son degré est

´egal `a 1 au-dessus des pointes (cfLemme 1.7).

2. Formes automorphes de Hilbert et op´erateurs de Hecke.

2.1. Facteurs automorphes. Pour tout z ∈ H_F et γ =

a b c d

∈ G⁺_R on pose j(γ, z) = c·z+d ∈ (F ⊗C)^×. D’après l’identité j(γγ⁰, z) = j(γ, γ⁰(z))j(γ⁰, z) on a un 1-cocycle holomorphe G⁺_R −→ (o⊗OHF)^×, γ 7→ (z 7→ j(γ, z))). Plus généralement pour toutJ ⊂J_F on pose j_J(γ, z) =c·z^J +d∈(F ⊗C)^×, oùz_τ^J =

(z_τ, siτ ∈J, z_τ, siτ ∈J_F\J.

2.2. Poids. Rappelons queZ[J_F] s’identifie au groupe des caract`eres du tore Res^F_QG_m par k = P

τ∈JFkττ 7→ (x 7→ Q

τ(x)^k^τ). Les éléments de Z[JF] sont appelés des poids.

Dans la suite, l’on ne considère que des poids vérifiant la condition d’algébricité de Clozel suivante ([7] Sect.1.2.3):

Définition 2.1. Un poidsk ∈ Z[J_F] est dit arithmérique si ses coordonnées k_τ sont supérieures ou égales à 2 et sont de même parité. On pose alors k₀ = max{k_τ|τ ∈ J_F}, m_τ = ^k⁰⁻₂^k^τ ∈N,t=P

τ∈JFτ,n_τ =k_τ−2≥0 etn₀ =k₀−2. (n=k−2tetk+2m=k₀t).

Pour µ= P

τ∈JF

µττ ∈Z[JF] et z= (zτ)τ∈J_F ∈C^J^F on ´ecrira z^µ `a la place de Q

τ∈JF

zτ^µ^τ. 2.3. Formes automorphes pour G. Soit Γ un sous-groupe de congruence deG⁺_Q et soit k un poids. Pour toute fonctiong : HF → C, pour tout γ ∈G⁺_Q et pour toute partie J deJF, on pose

(g|k,Jγ)(z) =ν(γ)^k+m⁻^tj_J(γ, z)⁻^kg(γz).

Définition2.2. L’espaceG_k,J(Γ;C) des formes automorphes classiques de Hilbert, de poidsk, niveau Γ et type à l’infini J ⊂ J_F, est le C-espace vectoriel formé des fonctions g:H_F →Cvérifiant les deux conditions suivantes :

(m1) pour tout γ ∈Γ on ag|k,Jγ =g,

(m2) la fonctionz7→g(z^J) est holomorphe sur H^∗_F.

Remarque2.3. D’après le principe de Koecher, la condition d’holomorphie aux pointes est toujours satisfaite, si F est différent de Q (cf [24] Prop.4.9 et son corollaire). Une définition précise de la notion d’holomorphie aux pointes, ainsi qu’une preuve du principe de Koecher sont données dans la partie 3.4, lorsque Γ = Γ^D₁(c,n).

(16)

On d´efinit l’espaceS_k,J(Γ;C) des formes automorphes de Hilbert cuspidales classiques, comme le sous espace de G_k,J(Γ;C) form´e des fonctions f qui s’annulent en toutes les pointes.

Afin de faciliter l’introduction des opérateurs de Hecke, nous donnerons une autre définition (adélique) des formes automorphes de Hilbert.

2.4. Formes automorphes adéliques pour G. SoitA l’anneau des adèles deQet soit G_A = G_fG_R la décomposition en le produit des places finies et des places infinies.

Tout élément x de G_A se décompose en conséquence en produit dex_f ∈G_f et x_∞∈G_R. Soit K un sous-groupe compact ouvert de G_f.

Définition 2.4. L’espace G_k,J(K;C) des formes automorphes adéliques de poids k, niveauK et type à l’infiniJ ⊂J_F, est leC-espace vectoriel formé des fonctionsg:G_A→C vérifiant les trois propriétés suivantes :

(M1) g(axy) =g(x) pour tout a∈G_Q, y∈K et x∈G_A.

(M2) g(xγ) =ν(γ)^k+m⁻^tj_J(γ, i)⁻^kg(x) pour tout γ ∈K_∞⁺ et x∈G_A.

Soit pour toutx∈G_f la fonctiong_x :HF →C, donnée parz7→ν(γ)^t⁻^k⁻^mj_J(γ, i)^kg(xγ), oùγ ∈G⁺_∞ est choisi de manière que z=γ·i. En vertu de (M2) cette fonction ne dépend pas du choix particulier de γ.

(M3) La fonctiong_x est holomorphe enz_τ, pourτ ∈J, et anti-holomorphe enz_τ, pour τ ∈J_F\J (lorsque F =Qil faut rajouter la condition d’holomorphie aux pointes).

L’espace S_k,J(K;C) des formes automorphes adéliques cuspidales est le sous-espace de G_k,J(K;C) contenant les fonctions vérifiant la condition supplémentaire suivante :

(M4) R

U(Q)\U(A)g(ux)du= 0, pour toutx∈G_A et toute mesure de Haar additive du.

Le paragraphe suivant compare les espaces de formes automorphes cuspidales ad´eliques et classiques.

2.5. Lien entre les formes ad´eliques et classiques.

Lemme 2.5. La fl`eche

ν :G_Q\G_A/KG⁺_∞→D_Q\D_A/ν(K)D⁺_∞, donn´ee par la norme r´eduite, est un isomorphisme.

Démonstration : La flèche est bien définie et surjective. On note G¹ := Res^F_QSL₂. Pour l’injectivité, supposons que l’on ait x, x⁰ ∈ G_A tels queν(x⁰) ∈D_Qν(x)ν(K)D⁺_∞. Comme ν(G_Q) =D_Q et ν(G⁺_∞) =D⁺_∞, on peut supposer que ν(x⁰) =ν(x), i.e. x⁰ ∈G¹_Ax. D’après le théorème d’approximation forte pour le groupe algébrique semi-simple G¹ et son sous- groupe ouvert compact x_fK¹x⁻_f¹ (où K¹ := K ∩G¹_f), on a G¹_A = G¹_Qx_fK¹x⁻_f¹G¹_∞ = G¹_Qx_fK¹x⁻_f¹x_∞G¹_∞x⁻_∞¹=G¹_QxK¹G¹_∞x⁻¹. D’où x⁰∈G¹_Ax=G¹_QxK¹G¹_∞⊂G_QxKG⁺_∞. Soient η_i ∈ D_A, 1 ≤ i ≤ h des représentants du groupe D_A/D_Qν(K)D_∞⁺. Par le théorème d’approximation faible on peut supposer que η_i ∈D_f. Posons t_i =

η_i 0 0 1

et d´efinissons le sous-groupe de congruence Γⁱ(K) = GQ ∩tiKt⁻_i ¹G⁺_∞ de G⁺_Q. Alors il est facile de voir que l’isomorphismeHF ∼=G⁺_R/K_∞⁺ induit un hom´eomorphisme :

(I.1)

ah i=1

Γⁱ(K)\HF →GQ\GA/KK_∞⁺.

(17)

3. VARIÉTÉS ABÉLIENNES DE HILBERT-BLUMENTHAL ET FORMES DE HILBERT. 17

Proposition 2.6. En gardant les notations de ce paragraphe les applications (I.2) G_k,J(K;C) →^∼

Mh i=1

G_k,J(Γⁱ(K);C) , S_k,J(K;C)→^∼ Mh

i=1

S_k,J(Γⁱ(K);C), donn´ees par f 7→(f_t_i)₁_≤_i_≤_h sont des isomorphismes d’espaces vectoriels.

On note Zb=Q

lZ_l le complété profini deZet on considère les sous-groupes compacts ouverts de G_f suivants :

K₀^D(n) =

a b c d

∈G(bZ)|c∈n

,

K₁^D(n) =

a b c d

∈K₀(n)|d−1∈n

,

K^D(n) =

a b c d

∈K₁(n)|a−1, b∈n

. Soitcun idéal deF,ηl’idèle correspondant àc^∗et posonst=

η 0 0 1

. Alors Γ^D_? (c,n) = G_Q ∩tK_?^D(n)t⁻¹G⁺_∞ et donc les sous-groupes de G_Q d´efinis dans le paragraphe 1.3 sont bien des sous-groupes de congruence (? = 0,1,∅).

2.6. Opérateurs de Hecke. Considérons le groupe abélien libre Z[K\G_f/K] qui a comme base les doubles classes deK dansG_f. Il est muni d’une structure d’algèbre, où le produit de deux éléments de la base est donné par

[KxK]·[KyK] =X

i

[KxiyK], o`u [KxK] =`

i

Kx_i est la décomposition de la classe double en classes à droite. On appelle cette algèbre, l’algèbre de Hecke abstraite. En général, elle n’est pas commutative. Elle agit surG_k,J(K;C), en préservantS_k,J(K;C), de la manière suivante (g∈G_k,J(K;C)) :

(g|[KxK])(·) =X

i

g(·x_i).

2.7. Produit de Petersson. Soit la mesure surHF donn´ee pardµ(z) = Q

τ∈JF

y⁻_τ²dxτdyτ. Pour deux formesf et g de S_k,J(Γ;C) on d´efinit leur produit de Petersson normalis´e

hf, gi=µ(Γ\H_F)⁻¹(f, g)_Γ, avec (f, g)_Γ= Z

Γ\HF

f(z)g(z)y^kdµ(z).

On en d´eduit le produit de Petersson sur S_k,J(K,C), via l’isomorphisme (I.2).

3. Variétés abéliennes de Hilbert-Blumenthal et formes de Hilbert.

Dans la suite de ce travail, Γ (resp. Γ¹) d´esigne le sous-groupe de congruence Γ^D₁ (c,n) (resp. Γ¹₁(c,n)) et on pose M^an = Γ^D₁(c,n)\HF (resp. M^1,an = Γ¹₁(c,n)\HF).

(18)

3.1. Variétés abéliennes de Hilbert-Blumenthal.

Définition 3.1. Une variété abélienne à multiplication réelle par o sur un schéma S est la donnée d’un schéma abélienπ : A→ S de dimension relative d_F et d’une injection ι:o,→End(A/S).

Soit c un idéal fractionnaire. Pour chaque variété abélienne à multiplication réelle A/S, on définit un faisceau en o-modules sur le gros site étale de S en associant à unS- schémaY leo-module A(Y)⊗oc. Ce foncteur est représentable par une variété abélienne

à multiplication réelle surS, notéeA⊗oc (cf[14]); elle est caractérisée par : A⊗oc=

(A/A[c⁻¹], si c⁻¹ entier.

(A^t ⊗c⁻¹)^t, si c entier.

La première formule s’obtient en tensorisant par A sur o la suite exacte courte 0 → o→c→c/o→0. La seconde en résulte par dualité.

A partir de` ι:o,→End(A/S) on obtient c,→Homo(A, A⊗ôc). Soitc₊=c∩(F⊗R)₊. Soit Sym_o(A, A^t) le o-module des homomorphismes symétriques de A vers A^t et P(A) ⊂ Sym_o(A, A^t) le cône des polarisations.

Définition 3.2. Une variété abélienne A de Hilbert-Blumenthal (abrégée en VAHB) sur un schémaSest une variété abélienne à multiplication réelle paro, vérifiant la condition de Deligne-Pappas [14] suivante:

(DP) il existe un isomorphisme o-´equivariant λ : A⊗c −→^∼ A^t tel que via λ on a (c,c+)∼= (Sym_o(A, A^t),P(A)).

Un tel isomorphismeλ est appel´e unec-polarisation.

Le groupeo^×₊ agit sur l’ensemble des c-polarisations d’une VAHBA/S.

D´efinition3.3. On appelle une classe dec-polarisation, une orbiteλdec-polarisations souso^×_D+=o^×₊∩D_Q.

Remarque 3.4. Si ∆_F est inversible dans S, alors la condition(DP) est ´equivalente

`a la condition suivante de Rapoport (cf [57] [41])

(R)le faisceauω =π_∗Ω¹_A/S est localement libre de rang 1 suro⊗OS (pour la topologie de Zariski).

Pour la d´emonstration cf [14] Cor.2.9, ainsi que [28] Chap.3.5.

Définition 3.5. Une µ_n-structure de niveau sur une VAHB A/S est la donnée d’un morphisme o-linéaire injectif de S-schémas en groupes finis α : (o/n)(1) ,→ A[n], où (o/n)(1) = (G_m⊗d⁻¹)[n] désigne le dual de Cartier du S-schéma constant o/n.

Remarque 3.6. La c-polarisation λ, combinée avec l’accouplement de Weil A[n]× A[n]^t → (G_m⊗d⁻¹)[n], donnent un accouplement o-équivariant parfait A[n] ×A[n] → (G_m⊗c^∗)[n]. Étant donné une µn-structure de niveau α : (o/n)(1) ,→ A[n], à l’aide de ce-dernier, on lui associe de manière canonique un morphisme o-linéaire surjectif de S- schémas en groupes finis α^∗ : A[n] → c⁻¹/nc⁻¹, appelé le λ-dual de Cartier de α. On a une suite exacte courte :

0→(o/n)(1)−→^α A[n]−→^α^∗ c⁻¹/nc⁻¹ →0