INTRODUCTION AUX FORMES MODULAIRES GAËTAN CHENEVIER

GAËTAN CHENEVIER

Leçon à l’École Normale Supérieure (4h), mars 2015

Introduction

Les¹formes modulaires sont des fonctions holomorphes sur le demi-plan de Poincaré qui se transforment de manière particulière sous l’action du groupe modulaire SL₂(Z). Elles interviennent de façon plus ou moins naturelle dans plusieurs domaines assez différents des mathématiques : théorie des fonctions elliptiques, théorie des formes quadratiques à coefficients entiers, théorie des représentations unitaires du groupe de Lie SL2(R), fonctions L et représentations du groupe de Galois absolu de Q... Elles ont aussi été ont été l’objet de plusieurs conjectures célèbres, comme la conjecture de Ramanujan ou la conjecture de Shimura- Taniyama-Weil. Aborder chacun de ces thèmes dans une si courte leçon est bien entendu impossible. Aussi, l’objectif que nous avons choisi est de montrer par des exemples que les coefficients de Fourier des formes modulaires renferment des informations arithmétiques intéressantes. En particulier, nous verrons comment utiliser des formes modulaires pour déterminer le nombre des représentations d’un entier comme somme de 8 carrés (Jacobi). On rapporte qu’Eichler aurait dit un jour que les formes modulaires constituent la 5ème opération de l’arithmétique (après l’addition, la soustraction, la multiplication et la division). Certains exemples, on l’espère !, illustreront la pensée d’Eichler.

Table des matières

Introduction 1

1. Action de SL₂(Z) sur le demi-plan de Poincaré 3

2. Formes modulaires pour SL₂(Z) 5

3. Sur les zéros des formes modulaires 7

4. Quelques q-développements 10

5. La fonction ϑde Jacobi 11

6. Formes modulaires pour un sous-groupe de SL2(Z) 14

7. Le ϑ-groupe est de congruence 15

8. Sommes de 8 carrés 16

Références : R. Busam & E. Freitag,Funktionentheorie,

Henri Cartan,Théorie élémentaire des fonctions analytiques d’une ou plusieurs variables complexes, Jean-Pierre Serre,Cours d’arithmétique,

Goro Shimura,Introduction to the arithmetic theory of automorphic functions.

.

1. Je remercie A. Minguez pour ses remarques sur ce texte. L’auteur est financé par le CNRS.

1

1. Action de SL₂(Z) sur le demi-plan de Poincaré

1.1. Rappelons que pour tout corps K le groupeGL₂(K) agit naturellement sur K², puis sur l’ensemble P¹(K) des droites vectorielles de ce dernier. Une application linéaire préservant toutes les droites étant une homothétie, cette action se factorise en une action fidèle du groupe quotient PGL2(K) de GL2(K) parK^×. On pose

Kb = K a

{∞}.

Cet ensemble s’identifie à P¹(K) en envoyant tout élément z ∈K sur la droite engendrée par

z

1

, et le symbole ∞ sur celle engendrée par

1

0

. Par transport de structure, on en déduit une action de GL₂(K) sur K, que l’on noterab (γ, z)7→γz. Concrètement, si γ désigne l’élément

a b

c d

de GL2(K), et si z∈K est tel que cz+d6= 0, on constate les égalités

(1) γ

z 1

=

az+b cz+d

= (cz+d)

_az+b

cz+d

1

,

et l’on retrouve la formule bien connueγz= ^az+b_cz+d. De plus, si on ac6= 0(resp.c= 0) alors on aγ∞=a/cet γ(−d/c) =∞(resp. d6= 0 etγ∞=∞). Ces bijections deKb sont appelées homographies, et forment donc un sous-groupe isomorphe àPGL2(K). Par exemple

a b

0 1

correspond à l’homographie “affine”z7→a z+b et

0 −1

1 0

à l’inversion z7→ −1/z.

Pour utilisation future, mentionnons que l’élément γ =

a b c d

de GL2(K) étant donné, l’application z7→cz+d, K→K,sera notée j(γ, z). La formule (1) ci-dessus montre la relation dite de “cocycle” :

j(γγ⁰, z) = j(γ, γ⁰z)j(γ⁰, z), valable pour tout γ, γ⁰∈GL₂(K) et tout z∈K.

1.2. Ces rappels s’appliquent àK =C, auquel casCb n’est autre que la sphère de Riemann. Le sous-groupe GL₂(R) ⊂ GL₂(C) agit par restriction sur cette sphère, en préservant Rb, ainsi donc son complémentaire C−R. Cet ouvert de Ca deux composantes connexes, l’une d’elles étant l’ouvert

H={τ ∈C,Imτ >0}, appelé demi-plan de Poincaré. Si γ est l’élément

a b

c d

de GL₂(R), et siz∈C−R, alors on a cz+d6= 0 et un calcul immédiat montre l’égalité

(2) Imγz= detγ Imz

|cz+d|².

En particulier, l’action par homographies du groupeSL₂(R)préserve le demi-plan de Poincaré. L’action des homographies de la forme aτ+bavec a∈R>0 etb∈R, montre que l’action deSL2(R) surHest transitive.

Nous n’en aurons pas besoin, mais signalons que l’on vérifierait sans difficulté que le stabilisateur de l’élément i∈Hest le sous-groupe SO₂(R) usuel, et donc queγ 7→γ iinduit une bijection SL₂(R)/SO₂(R)→^∼ H.

Ces homographies ont des propriétés géométriques remarquables, particulièrement lumineuses lorsqu’on les étudie du point de vue de la géométrie hyperbolique (où nous ne nous aventurerons pas !). Par exemple, notons C l’ensemble des parties de H qui sont soit de la forme Reτ =a (droites verticales), soit un demi- cercle de centre dans R. Alors SL₂(R) préserve C. Pour le voir, il suffit d’observer que les éléments de C sont exactement les parties non vides de H de la forme α+βRe τ +γ|τ|² = 0 avec (α, β, γ) ∈ R³− {0}.

La vérification de l’assertion précédente est alors un simple exercice ; il suffit même de le vérifier pour les homographies τ 7→τ+λetτ 7→ −1/τ, auquel cas c’est immédiat.

1.3. Analysons l’action du sous-groupe Γ = SL₂(Z) surH. Deux éléments importants de ce groupe sont S =

0 −1 1 0

et T =

1 1 0 1

, i.e. Sτ =−1/τ etTτ =τ + 1. On a S² =−I₂ et ST = _{0 −1}

1 1

, ainsi donc que l’identité (ST)³ =−I₂. On a Si=ietSTρ=−1/(ρ+ 1) =ρ où ρ=e^2iπ/3. On poseF ={τ ∈H,|Reτ| ≤ ¹₂ et|τ| ≥1}.

Figure 1. Le pavage de Hpar laΓ-orbite deF Théorème 1.4. (i) Pour toutτ ∈H, l’orbite Γτ rencontre F.

(ii) Si τ et τ⁰ sont deux points distincts de F tels queΓτ = Γτ⁰ alors : – soit Reτ =±¹₂ et τ⁰ =τ ±1,

– soit |τ|= 1 etτ⁰=−1/τ.

(iii) Si τ ∈ F alors le stabilisateur de τ dans Γ est {±1}, sauf si τ = i (resp. τ = ρ,−ρ²), auquel cas c’est le sous-groupe engendré par S (resp.ST).

Démonstration — Soit τ ∈ H. La forme quadratique R² → R,(c, d) 7→ |c τ +d|² est définie positive, elle admet donc un minimum sur Z²− {0}. D’après la formule (2), il y a donc un sens à considérer l’ensemble E ⊂ Γτ des éléments τ⁰ tels que Imτ⁰ est maximal. Il est invariant par τ⁰ 7→ τ⁰+ 1, de sorte qu’il existe τ⁰ ∈ E tel que |Reτ⁰| ≤ ¹₂. Mais −1/τ⁰ ∈ Γτ et Im(−1/τ⁰) = ^Imτ_|τ0|²⁰, donc |τ⁰| ≥ 1. Ainsi, τ⁰ ∈ Γτ ∩ F. Observons que cette démonstration montre en fait Gτ ∩ F 6=∅ où Gdésigne le sous-groupe de Γ engendré par SetT.

Pour montrer (ii) et (iii), considérons τ, τ⁰ ∈ F (non nécessairement distincts) tels que Imτ⁰ ≥ Imτ et tels que τ⁰ =γτ où

γ =

a b c d

∈SL2(Z).

On a alors |c τ+d| ≤1. En particulier,|cImτ| ≤1et donc|c| ≤1. Sic= 0alorsd=a=±1et donc±γ est une puissance de Tet on est dans le premier cas du (ii). Sinon on peut supposer c= 1, quitte à remplacer γ par−γ. On voit sur le dessin que|τ+d| ≤1 entraîne|τ|= 1, et que l’on est dans l’un des cas suivants : 1.τ 6=ρ,−ρ² etd= 0. Dans ce cas,b=−1etτ⁰=a−1/τ puisa= 0car|Re(−1/τ)|<1/2. Ainsi,γ= S et τ⁰=τ =i.

2. τ = ρ et d = 0,−1. Si d = 0 on a encore b = −1 et τ⁰ = a−1/ρ = a−ρ². Cela montre que soit τ⁰ =−ρ²,a= 0 etγ =±S, soitτ⁰ =τ,a=−1 etγ = (ST)².

3. Le cas τ =−ρ² et d= 0,1 se traite de manière similaire au cas 2.

Soit E l’ensemble desτ ∈ F tels que l’on ait soitReτ = ¹₂, soit|τ|= 1etReτ >0. SoitF⁰ =F −E. Les points (i) et (ii) du théorème ci-dessus montrent que pour tout τ ∈ H, l’orbiteΓτ rencontre F⁰ en un et un seul point. On dit aussi que F⁰ estun domaine fondamental de l’action de Γ surH.

Corollaire 1.5. Γ est engendré par S et T.

Démonstration — Il ne serait pas difficile de démontrer ce corollaire de manière directe en utilisant des opérations sur les lignes et les colonnes. Déduisons-le plutôt du théorème. SoitGle sous-groupe deΓengendré parSetT. Soitτ un point de l’intérieur deF. Soitγ ∈Γ. D’après la démonstration du (i) ci-dessus (dernière remarque), il existe g ∈G tel que g⁻¹γτ ∈ F. Ainsi, g⁻¹γ ∈SL₂(Z) fixe τ, c’est donc ±I₂ d’après le (iii).

Au final, on a γ∈Gcar −I₂ = S² ∈G.

2. Formes modulaires pour SL₂(Z)

L’application(f, γ)7→(τ 7→f(γτ))définit une action à droite du groupeSL2(R)sur leC-espace vectoriel des fonctions H → C, c’est même une représentation linéaire. Plus généralement, si k ∈ Z,f : H → C et γ ∈SL₂(R), on définit une fonctionf_|kγ :H→Cen posant

f_|kγ (τ) = j(γ, τ)^−kf(γτ).

Cela a un sens carj(γ, τ)6= 0pour toutγ ∈SL₂(R)et toutτ ∈H. On vérifie immédiatement que la relation de cocyle satisfaite parjéquivaut à dire que (f, γ)7→f_|kγ est une actionà droitede SL2(R) sur l’espace des fonctions H→C, appelée action de poids k. L’action précédente en est alors le cas particulier k= 0.

Proposition-Définition 2.1. Une fonctionf :H→C est dite faiblement modulaire de poids k∈Z si f(aτ+b

cτ+d) = (cτ+d)^kf(τ) ∀τ ∈H, ∀

a b c d

∈SL2(Z)

ou ce qui revient au même si f(τ + 1) =f(τ) et f(−1/τ) =τ^kf(τ) pour tout τ ∈H.

Démonstration — Par définition, f est faiblement modulaire si f est fixée par Γ pour l’action de poidsk.

CommeΓ est engendré parS etT(corollaire 1.5), il est équivalent de demander quef est fixée parSetT.

Notons O(H) l’espace vectoriel des fonctions holomorphes H → C. Les homographies de H étant des transformations biholomorphes, l’action de poidsk de SL2(R) préserve le sous-espace O(H).

Définition 2.2. Une forme modulaire de poidsk∈Z est une fonction holomorphe f :H→Ctelle que : (i) f est faiblement modulaire de poids k,

(ii) f(τ) admet une limite finie quandImτ −→+∞; on la note f(∞).

L’ensemble des formes modulaires de poidskest un sous-espace de O(H). Suivant Serre, nous le noterons M_k. Les relations S² =−I₂ et f_|k−I2 = (−1)^kf montrent que si f ∈ M_k alors f = (−1)^kf, de sorte que M_k = 0sik est impair. Les fonctions constantes sont modulaires de poids 0: nous verrons plus loin que ce sont les seules. Un premier exemple intéressant de forme modulaire est donné par les séries d’Eisenstein.

Proposition 2.3. Soit k ≥ 4 un entier pair. La série P

(m,n)∈Z²−{0} 1

(mτ+n)^k est absolument convergente sur H; on note G_k(τ) sa somme. Alors G_k∈M_k et G_k(∞) = 2ζ(k). En particulier G_k 6= 0.

Démonstration — FixonsA, B∈R>0 et notonsD_A,Bl’ensemble desτ ∈Htels queImτ > Aet|Reτ|< B.

Vérifions qu’il existe un réel C >0 tel que pour tout(µ, ν)∈R²− {0} et tout τ ∈ D_A,B alors

|µτ+ν|> C sup(|µ|,|ν|).

Soit τ ∈ D_A,B. D’une part, on a|τ −λ|> A pour toutλ∈R. D’autre part, le cône{λx, x∈ D_A,B, λ∈R} a pour frontière les droites vectorielles engendrées respectivement par B+iAet−B+iA. En particulier, il existeδ >0 tel que|λτ + 1|> δ pour toutλ∈R. Ainsi, C = Min(A, δ) convient.

Sis≥1, il y a exactement 8scouples(m, n)∈Z² tels que sup(|m|,|n|) =s. On en déduit la majoration X

(m,n)∈Z²−{0}

1

|mτ+n|^k < 1 C^k

X

s≥1

8s s^k

pour tout τ ∈ D_A,B. Ainsi, la série de l’énoncé est normalement convergente sur D_A,B. En particulier, G_k(τ) est une fonction holomorphe deτ. Par convergence absolue de G_k(τ), les bijections(m, n)7→(m, n+ m) et (m, n) 7→ (n,−m) de Z² − {0} entraînent les identités Gk(τ + 1) = Gk(τ) et Gk(−1/τ) = τ^kGk(τ) pour tout τ ∈H.

Enfin, faisons tendre Imτ vers l’infini quand τ ∈ D_1,1. La fonction τ 7→ ¹

(mτ+n)^k tend vers ¹

n^k ou 0 selon quem= 0ou non. Par convergence uniforme deG_k surD_1,1, on peut intervertir limite et sommation et l’on

obtient que Gk(τ)→2ζ(k). On conclut par1-périodicité deGk.

Si k ≥ 4 est pair, on pose Ek = _2ζ(k)¹ Gk ∈ Mk (série d’Eisenstein “normalisée”), de sorte que l’on ait E_k(∞) = 1. Bien entendu, cette définition a un sens puisqueζ(k) 6= 0. L’application M_k → C, f 7→f(∞), est une application linéaire. Son noyau, noté Sk, est le sous-espace des formes modulaires paraboliques (“cuspidal” en anglais). Si k≥4, il est donc engendré par les éléments de la forme f −f(∞)E_k.

Corollaire 2.4. Pour tout entier pair k≥4, on aM_k = S_k⊕CE_k.

Observons que si f ∈ M_k et g ∈ M_k⁰ alors f g ∈ M_k+k⁰. On peut donc fabriquer tout un tas de formes modulaires à l’aide des séries d’Eisenstein. Par exemple, sir etssont des entiers≥0alors E^r₄E^s₆ ∈M_4r+6s. Théorème 2.5. Soit k∈Z. L’espace M_k admet pour base les E^r₄E^s₆, avec(r, s)∈N² vérifiant 4r+ 6s=k.

Observons d’abord que si f ∈ M_k alors f(i) = f_|kS (i) = i^−kf(i). Ainsi, f(i) = 0 si k 6≡ 0 mod 4. De même f(ρ) = 0 si k6≡0 mod 3. En particulier, E₆(i) = 0 etE₄(ρ) = 0. Nous démontrerons E₄(i)6= 0 dans la section suivante (pouvez-vous le démontrer directement ?) et que la famille de l’énoncé est génératrice : admettons-le pour l’instant. Vérifions ici qu’elle est libre. On procède par récurrence sur k≥0, le cask= 0 étant trivial. Supposons donc pour k≥0 donné que l’on ait une relation de dépendance linéaire

X

4r+6s=k

λ_r,sE^r₄E^s₆= 0.

Si k est multiple de 4, l’évaluation en τ =i de cette formule donne λ_k/4,0 = 0 (car on a E4(i) 6= 0). Dans tous les cas, on a donc “λ_r,s 6= 0 implique s 6= 0”. Ainsi, soit tous les λ_r,s sont nuls, soit on ak ≥6 et on peut simplifier l’égalité ci-dessus par E6 (l’anneau des fonctions holomorphes sur H étant intègre...), puis conclure par récurrence sur k.

Définition 2.6. (Fonction∆de Jacobi) La fonction∆ = ₁₇₂₈¹ (E³₄−E²₆)est une forme modulaire parabolique de poids 12.

L’apparition du facteur 1728 sera expliquée plus loin. D’après ce que nous avons dit ci-dessus, ∆ 6= 0 car

∆(i) = ₁₇₂₈¹ E₄(i)³.

3. Sur les zéros des formes modulaires

3.1. q-développement d’une forme modulaire. Observons que si z ∈ C alors |e^2iπz| = e^−2πImz. Soit D ={z∈C, |z|<1}. On considère l’application

q :H−→D− {0}, τ 7→e^2iπτ.

Cette application induit une bijection hTi\H →^∼ D− {0}. Autrement dit, si f : H → C est telle que f(τ+ 1) =f(τ), il existe une unique fonction fe: D− {0} →Ctelle que f(τ) =f(q).e

Soit f :H→Ctelle que f(τ+ 1) =f(τ). Observons que f est une fonction holomorphe si, et seulement si, feest une fonction holomorphe sur D− {0}. En effet, pour tout τ₀ ∈ H, l’application q induit une bijection bi-holomorphe entre le voisinage ouvert{τ ∈H, |Re(τ−τ0)|< 1/2}de τ0 dansH, et le voisinage ouvert D − R≤0e^2iπτ0 (un inverse s’obtient en considérant une branche du logarithme complexe). Sif est holomorphe il y a donc équivalence entre :

– f(τ) admet une limite quand Imτ −→ ∞, – |f(τ)|est bornée sur{τ ∈H,Imτ >1}, – |f(q)|g est bornée au voisinage deq = 0,

– fese prolonge en une fonction holomorphe sur tout D,

– feadmet un développement en série entière en 0 de rayon de convergence≥1.

(L’implication assertion 3 ⇒ assertion 4 est le lemme de prolongement de Riemann). Cela justifie à la proposition-définition suivante.

Proposition-Définition 3.2. Soit f ∈M_k. La forme f admet un unique développement f(τ) =X

n≥0

a_n(f) qⁿ,

avec a_n(f)∈Cpour tout entiern≥0, normalement convergent sur toute partie deHde la formeImτ > A, A∈R>0. Ce développement est appelédéveloppement de Fourier, ouq-développement, de la forme f, et les a_n(f) sont ses coefficients de Fourier. On aa₀(f) =f(∞).

Comme nous le verrons, et de manière un peu surprenante, la suite des coefficients de Fourier de chaque forme modulaire est en général d’un intérêt arithmétique considérable.

3.3. Formule k/12. Soientf ∈M_k etP ∈H. On notevP(f) l’ordre d’annulation def au pointP eteP le cardinal du stabilisateur de P dansSL₂(Z)/{±I₂}. Ces deux quantités, des entiers ≥0, ne dépendent que de la Γ-orbite deP (pourvP(f), cela vient de la non annulation desj(γ, τ)quandγ ∈Γetτ ∈H). De plus, d’après le théorème 1.4 (iii) on a e_i = 2,e_ρ = 3, et si P n’est pas dans l’orbite de iou ρ alorse_P = 1. On note aussi v∞(f) l’ordre d’annulation de feen 0.

Proposition 3.4. (Formule k/12) Soientk∈Z et f ∈M_k non nulle. On a la relation v∞(f) + X

P∈Γ\H

v_P(f) e_P = k

12.

Il fait partie de l’énoncé que la somme de gauche est en fait une somme finie (nécessairement ≥ 0). Le lecteur préférant voir d’abord comment utiliser cette formule, et par exemple terminer la démonstration du théorème 2.5, peut commencer par lire la sous-section suivante.

Démonstration — Soitf ∈M_knon nulle. Rappelons que laΓ-orbite de tout zéro def rencontre le domaine F. Si r est un réel > 0 posons Ωr = {τ ∈ H,Imτ > r}. La fonction feétant holomorphe en 0, il existe r >0 tel que f n’admet pas de zéro dans Ω_r. La partie F −Ω_r étant compacte, la fonction holomorphe f n’y admet qu’un nombre fini de zéros (qui sont isolés). Cela montre que le nombre des Γ-orbites de points constituées de zéros de f est fini (et donc que la somme apparaissant dans la formulek/12a tous ses termes nuls sauf au plus un nombre fini d’entre eux).

Considérons le contour C indiqué par la figure 2. Sur cette figure, les zéros éventuels de f qui sont dans

∂F − {i, ρ,−ρ²}et de partie réelle1/2(resp. de module1) sont notésλ(resp.µ). En particulier, ce contour ne contient aucun zéro de f. On suppose que chaque portion de cercle dessinée est de rayon suffisamment petit de sorte que le disque bordé ne contienne que le point indiqué pour éventuel zéro (i.e i, ρ,−ρ², l’un des λ, λ+ 1, ou l’un des µ,−1/µ). Nous noterons γ_XY le chemin portion de C allant de X à Y (dans ce sens). Le chemin γ_D⁰_E est par définition le chemin Tγ_AB^opp. De même, on a choisiγ_C⁰_D = Sγ_B^opp0C. Enfin, on

suppose que γ_EA est de partie imaginairer suffisament grande de sorte qu’aucun zéro def ne soit de partie imaginaire> r. L’existence d’un tel contour est justifiée par le paragraphe précédent (zéros isolés).

Figure 2. Le chemin d’intégration dans la démonstration de la formulek/12 La formule des résidus appliquée à la1-forme méromorphe ^df_f = ^f_f⁰_(τ)^(τ)dτ s’écrit donc

1 2iπ

Z

C

f⁰(τ)

f(τ)dτ =X

P

vP(f)

la somme portant sur les Γ-orbites de zéros de f ne contenant ni ini ρ. Examinons maintenant les contri- butions des diverses portions du contour. Les fonctions f etf⁰ étantT-invariantes on observe d’abord

Z

γAB

f⁰(τ) f(τ)dτ =

Z

TγAB

f⁰(τ)

f(τ)dτ =− Z

γ_D0E

f⁰(τ) f(τ)dτ.

Le chemin ω(t) := e^2iπγEA(t) est un cercle de centre 0 dans Dfaisant un tour dans le sens indirect. On a alors

1 2iπ

Z

γEA

f⁰(τ)

f(τ)dτ = 1 2iπ

Z

ω

fe⁰(q)

fe(q)dq =−v∞(f).

En effet, la première égalité est un simple changement de variables, et la seconde est le théorème des résidus appliqué à fe, sachant que par hypothèse0 est le seul zéro éventuel de fedans le disque deD bordé par ω.

De plus, par modularité de f on a ^f_f⁰ =−^k_τ + ^(f◦S)_f◦S⁰, de sorte que 1

2iπ Z

γ_B0C

f⁰(τ)

f(τ)dτ =− 1 2iπ

Z

γ_B0C

k τdτ +

Z

Sγ_B0C

f⁰(τ) f(τ)dτ,

avec rappelons-le Sγ_B⁰_C =γ_C^opp0D. Lorsque le point B⁰ tend vers ρ,C tend vers i, et lorsque les portions de cercles autour des points notés µsont de rayon tendant vers0, alors l’intégrale de chemin ¹_iR

γ_B0C

dτ τ tends vers l’angle orienté défini par ρ, 0 et i, i.e. −(^2π₃ − ^2π₄ ) = −^π₆. De même, lorsque B et B⁰ tendent vers ρ alors l’intégrale de chemin ¹_i R

γ_BB0

f⁰(τ)

f(τ)dτ tend vers l’angle orienté B ρ B\⁰ =−^π₃ multiplié par vρ(f). Enfin, lorsque C et C⁰ tendent vers ialors l’intégrale de chemin ¹_i R

γ_CC0

f⁰(τ)

f(τ)dτ tend vers−πv_i(f). On conclut en

mettant toutes ces identités bout à bout.

3.5. Conséquences de la formule k/12. La première conséquence évidente de la formulek/12 est l’an- nulation M_k= 0 sik <0. De plus, on a S_k= 0 sik <12, carv∞(f)≥1 sif ∈S_k− {0}. En particulier, on a donc M₀ =C1(les constantes). Séparant les orbites de ietρ des autres, la formulek/12s’écrit aussi

(3) v∞(f) +1

2vi(f) +1

3vρ(f) +X

P

vP(f) = k 12,

la somme portant sur les Γ-orbites de points de H distinctes de Γi et Γρ. En particulier on a M₂ = 0 car chaque terme de gauche est soit >1/6, soit nul. On a donc montré le :

Corollaire 3.6. (i) Si k <0 ou k= 2 alors M_k= 0.

(ii) M0 =C1 et sik= 4,6,8,10 alors Mk=CEk.

Appliquons la formule (3) à k = 4 et f = E4. Dans ce cas on a ₁₂^k = ¹₃, mais l’annulation évidente E₄(ρ) = 0entraîne ¹₃v_ρ(f) ≥1/3. Ainsi, la seule Γ-orbite de points qui sont des zéros de E₄ est celle de ρ.

En particulier, cela démontre la non-nullité annoncée E₄(i)6= 0,

puis ∆6= 0car on a ∆(i) = ₁₇₂₈¹ E₄(i)³. Appliquant maintenant (3) à k= 12etf = ∆, on en déduit que∆ ne s’annule pas sur Het que l’inégalité v∞(∆)≥1 est une égalité. En particulier, sik est quelconque et si f ∈S_k alors la fonction _∆^f est une forme modulaire de poidsk−12. On a démontré le corollaire suivant.

Corollaire 3.7. (i) La fonction∆ ne s’annule pas sur Het l’on a v∞(∆) = 1.

(ii) Si k∈Z alors S_k= ∆ Mk−12. En particulier, S₁₂=C∆est de dimension 1.

Démontrons enfin que M_k est engendré par les E^r₄E^s₆, où r, s sont des entiers ≥0 tels que 4r+ 6s =k.

D’après le corollaire 3.6, on peut supposer k≥4. On procède par récurrence sur k. Observons quek étant pair ≥ 4, il existe des entiers positifs r, s tels que k = 4r+ 6s : on a soit k ≡ 0 mod 4, soit k ≡ 6 mod 4 et k ≥6. Un tel couple (r, s) étant fixé, observons que pour tout f ∈ M_k alors f −f(∞)E^r₄E^s₆ ∈S_k. Mais S_k= ∆Mk−12d’après le corollaire 3.7, et∆ = ₁₇₂₈¹ (E³₄−E²₆). Cela termine la démonstration, ainsi donc que celle du théorème 2.5.

Les corollaires 3.6 et 3.7 entraînent également immédiatement le corollaire suivant :

Corollaire 3.8. Supposons k≥0 pair. La dimension deS_k vaut [k/12]si k6≡2 mod 12, [k/12]−1 sinon.

4. Quelques q-développements

4.1. Séries d’Eisenstein. Si k∈ Z etn≥ 1 est un entier, on pose σk(n) =P

d|nd^k. On rappelle que les nombres de Bernoulli sont définis par la série formelle _et^t−1 =P

n≥0 Bn

n!tⁿ. L’identité suivante est essentiel- lement due à Euler.

Proposition 4.2. Soit k un entier pair ≥4. On a E_k= 1−_B^2k

k

P

n≥0σk−1(n)qⁿ.

Démonstration — Rappelons qu’Euler a démontré que pour toutz∈C−Z, on a

(4) π

tanπz = 1

z+ X

n∈Z−{0}

( 1 z−n+ 1

n)

Justifions brièvement cette identité. Notons g(z) la série de fonctions de droite et posons f(z) = _tan^π_πz. Si

|z| ≤r et|n|> ralors l’inégalité

| 1 z−n+ 1

n|= |z|

|n||z−n| ≤ r

|n|(|n| −r)

montre que la série de fonctions méromorphes g(z) converge normalement sur tout compact de C. C’est donc une fonction méromorphe sur C, holomorphe sur C−Z, dont les pôles en les entiers sont simples de résidu 1. La fonction f a les même propriétés que g, de sorte que f −g est holomorphe sur C. Mais f et

g, et donc f −g, sont 1-périodiques et impaires (c’est un exercice pour g). Pour en déduire que f−g est nulle il suffit d’après Liouville de montrer que f etg restent bornées quand Imτ → ∞. C’est clair pour f.

Pour g, on observe queqg(τ)→0quandIm(τ)→+∞, d’où l’on tire queegest holomorphe en0 (lemme de prolongement de Riemann), ce qui conclut.

Siτ ∈Hon a le développement évident _tan^π_πτ =iπ^q+1_q−1 =iπ−2iπP

n≥0qⁿ. Soitk≥2. En dérivantk−1 fois par rapport àτ la formule d’Euler, on trouve l’identité

X

n∈Z

1

(τ+n)^k = (−2iπ)^k (k−1)!

X

n≥0

n^k−1qⁿ.

Supposons k pair ≥ 4. On applique cette identité à mτ pour tout m entier ≥ 1, ce qui a pour effet de remplacer qparq^m, et on fait la somme (la convergence absolue du terme de droite ayant déjà été vérifiée).

On en déduit, pour k≥4pair : 1

2G_k(τ)−ζ(k) = (2iπ)^k (k−1)!

X

n≥0

σk−1(n)qⁿ.

Pour conclure, on utilise une identité fameuse due à Euler : ζ(k) =−(2iπ)^k

2k! B_k.

En fait, cette formule est aussi conséquence de l’identité (4). En effet, cette dernière dérivéek−1fois s’écrit ( 2iπ

e^2iπz−1 −1

z)^(k−1) = (−1)^k−1(k−1)!X

n6=0

1 (z+n)^k. Par définition des nombres de Bernoulli on a _e2iπz^2iπ₋₁ −¹_z =P

n≥1(2iπ)^nB_n!ⁿzⁿ⁻¹ au voisinage de z= 0. On

conclut par évaluation en z= 0.

Observons que le q-développement de Ek est à coefficients dans Q. Mieux, E4 et E6 sont à coefficients entiers, comme le montre le tableau suivant. Ainsi, le théorème 2.5 entraîne que S_k possède une C-base constituée de formes modulaires à coefficients entiers, un phénomène inattendu.

k 2 4 6 8 10 12 14 16

−_B^2k

k −24 240 −504 480 −264 65520/691 −24 16320/3617

4.3. La magie des formes modulaires. En guise d’exemple, considéronsE²₄. C’est un élément de M₈ = CE8 (Corollaire 3.6). CommeE²₄(∞) = E₈(∞) = 1, on a nécessairement

E²₄ = E8.

Cette identité est tout à fait non triviale ! En effet, une fois les coefficients de Fourier égalisés elle s’écrit σ₇(n) =σ₃(n) + 120

n−1

X

m=1

σ₃(m)σ₃(n−m), ∀n ≥1.

Par exemple, 1 + 2⁷ = 129 = 1 + 2³+ 120. Cette méthode de raisonnement est de portée très générale, et nous en verrons d’autres applications spectaculaires dans la suite.

4.4. La fonction ∆. La formule∆ = ₁₇₂₈¹ (E³₄−E²₆), combinée aux q-développements deE₄ etE₆, permet d’exprimer les coefficients de Fourier de ∆. On trouve (en notant 1728 = 3·240 + 2·504)

∆ = q−24 q²+ 252 q³+· · · Théorème 4.5. (Jacobi) ∆ = qQ

n≥1(1−qⁿ)²⁴.

Pour une démonstration, voir le livre de Serre référencé. Les coefficients de Fouriera_n(∆)de∆sont notés τ(n): c’est la fonction τ de Ramanujan. Elle possède une riche histoire, sur laquelle nous reviendrons dans les exposés.

5. La fonction ϑ de Jacobi

5.1. L’identité de Poisson. Considérons la fonction d’une variable réellet >0définie par la somme θ(t) =X

n∈Z

e^−tπn2.

Cette série (à termes positifs) est bien évidemment convergente, et fonction décroissante de t > 0. Elle satisfait l’équation fonctionnelle curieuse suivante, due à Poisson, que nous allons d’abord démontrer.

Proposition 5.2. Pour tout réel t >0 on aθ(1/t) = √ t θ(t).

On rappelle que l’espace de Schwartz S(R) est l’espace des fonctions f :R→C de classe C^∞ telles que pour tous entiers n, m ≥ 1, on ait xⁿf^(m)(x) → 0 quand |x| −→ ∞. Si f ∈ S(R), f est en particulier sommable de sorte que sa transformée de Fourier fb:R→C,y7→R

Rf(x)e^−2iπxydx, est bien définie.

Lemme 5.3. (Formule de Poisson) Pour tout f ∈ S(R) on a l’égalité de séries absolument convergentes X

n∈Z

f(n) =X

n∈Z

f(n).b

Démonstration — Soit ψ(x) = P

m∈Zf(x+m). Cette série de fonctions converge normalement sur tout segment, ainsi que toutes ses dérivées, par hypothèse surf. Elle définit donc une fonctionC^∞et1-périodique de la variable réelle x. Ses coefficients de Fourier sont donnés par la formule

c_n= Z 1

0

ψ(x)e^−2iπnxdx= X

m∈Z

Z m+1

m

f(x)e^−2iπnxdx =fb(n).

L’intervertion somme/intégrale est bien sûr loisible car f est sommable sur R. La fonction ψ étant C^∞, sa série de Fourier P

n∈Zf(n)eb ^2iπnx est absolument convergente vers ψ(x) pour tout x ∈ R. On conclut en prenant x= 0, et montre au passage que les deux sommes de l’énoncé sont absolument convergentes.

Lemme 5.4. Si t∈R>0, la fonction x7→ft(x) =e^−πtx2 est dans S(R), et vérifie fbt(y) = 1

√tf_1/t(y) ∀y∈R.

Démonstration — L’assertionft∈ S(R) est facile, et laissée au lecteur. Un simple changement de variables montre fb_t(y) = ^√1

tfb₁(y/√

t). Il suffit donc de démontrerfb₁ =f₁, i.e. quex7→e^−πx2 est égale à sa tranformée de Fourier. C’est un fait bien connu dû à Gauss. Donnons un argument. On constate que

∂

∂yfb₁(y) =i Z

R

(e^−πx2)⁰e^−2iπxydx=−2πyfb₁(y)

d’où l’on tire fb1(y) =e^−πy2I, avecI =fb1(0) =R

Re^−πx2dx. Mais Gauss a démontré I = 1: par exemple par passage aux coordonnées polaires on a l’identité I² =R2π

0 dθ R∞

0 e^−πr2rdr = 1, etI>0.

Pour conclure la démonstration de la proposition 5.2, il suffit d’appliquer la formule de Poisson à la fonction f_t. Mentionnons que cette identité de Poisson est l’ingrédient clé dans la démonstration par Riemann de l’équation fonctionnelle de la fonction ζ(s).

5.5. La fonctionΘ de Jacobi. Jacobi a introduit une variante à deux variables de la fonctionθ: si z∈C et τ ∈H, il pose

Θ(z;τ) =X

n∈Z

e^{iπτ n2+2iπnz}.

Cette série est manifestement normalement convergente sur toute partie deC×Hde la forme{(z, τ), Imz >

A,Imτ > B}, oùA ∈Ret B ∈R>0. Cela justifie la définition, et montre que la fonction (z, τ) 7→Θ(z;τ) est holomorphe en chacune de ses variables, l’autre étant fixée (et même en les deux variables si l’on sait ce que cela signifie). On observe que si t > 0 alors Θ(0, it) =θ(t) : on retrouve la fonction précédente sur l’axe imaginaire, quand z = 0. Des manipulations évidentes montrent que la fonction Θ(z;τ) satisfait les équations fonctionnelles suivantes :

Θ(z+ 1 ;τ) = Θ(z;τ) et Θ(z+τ;τ) =e^{−iπτ−2iπz}Θ(z;τ).

Ainsi, à τ fixé, ces formules expriment le comportement de la fonction z 7→ Θ(z;τ) par rapport au réseau Z+τZ de C; leur application originale est d’ailleurs à la construction de fonctions méromorphes sur C invariantes par un tel réseau. Leur dépendance en la variable τ, que l’on peut voir comme paramétrant le réseau Z+τZ, est encore plus remarquable :

Théorème 5.6. Pour tout z∈C et toutτ ∈H, on a les relations Θ(z;τ + 2) = Θ(z;τ) et Θ(z;−1/τ) =√

−iτ e^{iπτ z2} Θ(τ z;τ).

Dans cette formule la notation √

−iτ désigne la racine carrée de−iτ dont la partie réelle est>0.

Démonstration — L’identitéΘ(z;τ + 2) = Θ(z;τ) est immédiate. Pour la seconde, on applique la formule de Poisson à la fonction du lemme suivant, dans lequel le complexe√

−iτ pourτ ∈Hest à prendre au même sens que dans l’énoncé du théorème. On obtient Θ(z;τ) = (−iτ)^−1/2e^−iπz2/τΘ(z/τ;−1/τ). On conclut en

remplaçantz parτ z.

Lemme 5.7. Si z∈Cet τ ∈H, la fonction x7→e^{iπτ x2+2iπzx} est dans S(R), et de transformée de Fourier y 7→ 1

√−iτe^{−iπτ(x−z)2}.

Démonstration — Posonsg_τ(x) =e^{iπτ x2}. La transformée de Fourier dex7→g_τ(x)e^2iπzxétanty7→gb_τ(y−z), on peut supposer z= 0. Fixonsy∈R. On veut démontrer l’égalité

gb_τ(y) = 1

√−iτg_−1/τ(y).

Lorsque τ =it avec t réel >0, c’est exactement le lemme 5.4. D’après le principe des zéros isolés, il suffit donc de vérifier que les deux termes de cette égalité sont des fonctions holomorphes de la variable τ dans H. C’est clair pourτ 7→g_−1/τ(y) etτ 7→√

−iτ (cette dernière est une racine carrée continue de la fonction τ 7→ −iτ qui ne s’annule pas sur H). En ce qui concerne l’intégrale à paramètre τ 7→ g_τ(y), cela se déduit de l’holomorphie de τ 7→gτ(x)pour tout x∈Ret de l’inégalité |e^{iπτ x2}| ≤e^{−πImτ x2}.

5.8. La fonctionϑ. NotonsJ⊂SL2(Z)le sous-groupe engendré par les élémentsT² etS. Certains auteurs, comme Busam & Freitag, appellent Jle “ϑ-groupe”. Notons ϑ:H→C la fonction

ϑ(τ) = Θ(0 ;τ) =X

n∈Z

e^{iπτ n2}.

Elle est non identiquement nulle car ϑ(it) =θ(t)>0si test un réel>0.

Corollaire 5.9. Il existe un unique morphisme de groupesχ: J→ {±1,±i}tel queχ(S) =−ietχ(T²) = 1.

De plus, pour tout γ ∈J on a la relation ϑ²_|1γ = χ(γ)ϑ².

Démonstration — Le Théorème 5.6 entraîneϑ²_|1S =−i ϑ² et aussiϑ²_|1T² =ϑ². Autrement dit, la fonction ϑ² est vecteur propre pour l’action de poids1deSetT², de valeurs propres respectives−iet1. Ces éléments engendrant J, on en déduit d’une part l’existence et l’unicité de χ comme dans l’énoncé, et d’autre part la

seconde assertion.

Observons que l’existence même d’un morphisme χ : J → C^∗ tel que χ(S) = −i et χ(T²) = 1 n’était pas du tout évidente à priori ! Ainsi, la fonction ϑ² apparaît comme une forme modulairegénéralisée, en un sens que nous préciserons dans la partie suivante. Avant d’en arriver là, observons que l’on a manifestement ϑ(2τ) =P

n∈Zqⁿ², de sorte que pour tout entier k≥1 on a la relation ϑ^k(2τ) = X

(n1,...,nk)∈Z^k

q^{n21+···+n2k} =X

n≥0

r_k(n)qⁿ

où rk(n)désigne le nombre de k-uples(n1, . . . , nk)∈Z^k tels quen=Pk

i=1n²_i. Autrement dit, comme série en q, la fonction ϑ^k(2τ) n’est rien d’autre que la série génératrice du nombre des façons d’écrire un entier n≥0comme somme dekcarrés d’entiers. C’est le point de départ du lien entre formes quadratiques entières et formes modulaires.

5.10. ... et ses compagnons ϑe et e

ϑ.e Jacobi a également introduit les fonctionsH−→C: ϑ(τe ) =X

n∈Z

(−1)ⁿe^{iπτ n2} et e

ϑ(τe ) =X

n∈Z

e^{iπτ(n+1/2)2} =e^iπτ4 X

n∈Z

q^n(n+1)2 .

Par définition, on a donc ϑ(τe ) = Θ(1/2 ;τ) eteϑ(τe ) =e^iπτ4 Θ(τ /2 ;τ). Elles sont reliées àϑpar les formules ϑ(τe ) =ϑ(τ + 1) et e

ϑ(τe ) = 1

√−iτ ϑ(1−1/τ).

(Pour la première utiliser n²≡nmod 2et pour la seconde appliquer l’identité de Jacobi à z= 1/2.) 6. Formes modulaires pour un sous-groupe de SL2(Z)

Dans cette partie, Γ désigne un sous-groupe deSL₂(Z). Un caractère de Γest un morphisme de groupes Γ→C^∗ .

Définition 6.1. Soient k ∈ Z et χ un caractère de Γ. Une forme modulaire de poids k et de caractère χ pour le groupe Γ est une fonction holomorphe f :H→Ctelle que :

(i) f_|kγ =χ(γ)f pour tout γ ∈Γ,

(ii) pour tout γ∈SL₂(Z), la fonction (f_|kγ)(τ) admet une limite finie quand Imτ −→ ∞.

Lorsque χ est le caractère trivial, on parle simplement de forme modulaire de poidsk pour le groupe Γ.

On note M_k(Γ, χ)⊂ O(H) le sous-espace des formes modulaires de poidsket caractèreχ; on pose aussi Mk(Γ) = Mk(Γ,1). Par exemple,Mk= Mk(SL2(Z)). Discutons un peu la seconde condition. Observons que si une fonction f satisfait la condition (i), alors pour toutγ⁰∈Γ,γ ∈SL₂(Z), etm∈Zon a

(f_|k ±γ⁰γT^m)(τ) =±χ(γ⁰) (f_|kγ) (τ +m).

Ainsi,f|_k±γ⁰γT^madmet une limite quandImτ →+∞si, et seulement si,f|_kγ a cette propriété. Autrement dit, pour vérifier la condition (ii) il suffit de le faire pour un ensemble de représentantsγ des doubles classes Γ\SL₂(Z)/h±I₂,Ti.

Remarque 6.2. Bien que nous ne l’utiliserons pas, mentionnons que la condition (ii) admet une signi- fication plus claire s’il on introduit les pointes de H (“cusps” en anglais). Ce sont les éléments de Qb. On vérifie que le groupe SL₂(Z) agit transitivement sur Qb, avec hT,±I₂i pour stabilisateur de ∞. L’ensemble Γ\SL₂(Z)/h±I₂,Ti s’identifie alors à l’ensemble des orbites deΓ surQb. La condition (ii) précise le compor- tement de f(τ) lorsqueτ tend vers chacune des pointes selon le filtre des disques tangents à la pointe.

Lorsque l’on suppose que le groupe Γest d’indice fini dansSL₂(Z), et que le caractèreχest d’image finie, on dispose d’une majoration intéressante de la dimension de M_k(Γ, χ). Si le caractère χ est d’image finie, on appelle ordre de χ le plus petit entiere≥1 tel queχ^e= 1. Tout sous-groupe fini de C^∗ étant cyclique, on a bien sûr e=|χ(Γ)|.

Proposition 6.3. Supposons Γ d’indice fini m dansSL₂(Z) et le caractère χ d’image finie. On a dim M_k(Γ, χ)≤ k m

12 + 1 pour tout entier k≥0. De plus, on a M_k(Γ, χ) = 0 si k <0.

Commençons par quelques remarques. La formule évidente f|_kγ ×g|_k0γ = (f g)|_k+k0γ entraîne que si f ∈Mk(Γ, χ) et g∈Mk(Γ, χ⁰) alorsf g∈M_k+k⁰(Γ, χχ⁰). On en déduit que si χ^e = 1 etf ∈Mk(Γ, χ) alors f^e ∈M_ke(Γ). Pour la même raison, on constate que sif ∈M_k(Γ)et γ ∈SL₂(Z), alors f_|kγ ne dépend que de la classe γ de γ dansΓ\SL₂(Z), nous la noteronsf_|kγ. En particulier, si f ∈M_k(Γ)il y a un sens à poser

Normef = Y

x∈Γ\SL₂(Z)

f_|kx.

Lemme 6.4. Supposons Γ d’indice fini m dans SL₂(Z), k ∈Z et f ∈ M_k(Γ). Alors Normef ∈M_km. De plus, Normef = 0 si, et seulement si, f = 0.

Démonstration — Normef est une fonction holomorphe sur H, qui admet une limite quand Imτ −→ ∞ par hypothèses sur f. Si γ ∈ SL2(Z), la multiplication à droite par γ sur l’ensemble fini Γ\SL₂(Z) est bien entendu bijective, de sorte (Normef)|_mkγ = Normef. On a montré Normef ∈M_mk. Par intégrité de l’anneau des fonctions holomorphes sur le connexe H (i.e. par le principe des zéros isolés), Normef = 0 entraîne qu’il existeγ ∈SL₂(Z)tel quef_|kγ = 0, puis f = (f_|kγ)_|kγ⁻¹= 0.

Démonstration — (de la proposition 6.3) Soit N un entier ≥ 0 tel que N > ^mk₁₂. Soit P ⊂ F^o une partie arbitraire de l’intérieur de F telle que |P|=N. Considérons l’application linéaire

Mk(Γ, χ)→C^P, f 7→(f(p))p∈P.

Il suffit de démontrer qu’elle est injective pour en déduire la proposition. Soientf dans son noyau etel’ordre de χ. D’après le lemme ci-dessus, la fonction g= Normef^e est dansM_ekm. De plus, gest produit de f^e par une fonction holomorphe, et s’annule donc en chacun desN points deP avec un ordre d’annulation≥e. La formule k/12, appliquée à la forme g de poidsekm, montre doncg= Normef^e= 0, puis f^e=f = 0.

Remarque 6.5. Lorsquek6= 1, le théorème de Riemann-Roch permet de donner une formule exacte pour la dimension de M_k(Γ), en fonction d’un petit nombre d’invariants associés à Γ : voir le livre de Shimura référencé. Il n’existe pas en revanche de description générale des M_k(Γ) qui soit aussi explicite que celle obtenue pourΓ = SL2(Z)etχ= 1: chaque groupeΓa son histoire. Nous examinerons ci-après le casΓ = J.

7. Le ϑ-groupe est de congruence

Si N ≥ 1 est un entier on dispose d’un morphisme de groupes ε_N : SL₂(Z) → SL₂(Z/NZ) obtenu en réduisant les coefficients modulo N. Le noyau de ce morphisme est un sous-groupe noté Γ(N) et appelé sous-groupe de congruence principal de niveau N. Il est un distingué et d’indice fini dans SL₂(Z). On dit qu’un sous-groupe Γ⊂SL2(Z) est de congruence s’il existe un entierN ≥1 tel queΓ(N)⊂Γ.

Il ne serait pas difficile de démontrer que ε_N est surjectif, et qu’il induit donc un isomorphisme SL₂(Z)/Γ(N) →^∼ SL₂(Z/NZ). Vérifions-le pour N = 2. L’ensemble Z[/2Z = {0,1,∞} a trois éléments, et l’on dispose d’un homomorphisme h : SL2(Z/2Z) → S(Z[/2Z) donné par l’action par homographies (§1.1). Il injectif car la seule homothétie de SL₂(Z/2Z) est I₂. Les éléments hε₂(S) et hε₂(T) sont deux transpositions, la première fixant le point 1, la seconde le point∞. Ces dernières engendrantS(Z[/2Z), on en déduit que h est un isomorphisme et queε₂ est surjectif.

Proposition 7.1. (i) J = Γ(2) ∪ S Γ(2). En particulier, on aΓ(2)⊂J, etJ est de congruence.

(ii) Les éléments 1,T et TS forment un système de représentants de J\SL₂(Z). En particulier, J est d’indice 3 dans SL₂(Z).

(iii) Pour tout τ ∈H, il existeg∈J tel que gτ ∈ F ∪ TF ∪ TSF.

Démonstration — Vérifions d’abord le (iii). Observons que F ∪ TF ∪ TSF est l’ensemble des τ ∈H tels que −1/2≤Reτ ≤3/2,|τ| ≥1et|τ−2| ≥1(figure 1.3). Comme les élémentSetST², d’homographies associéesτ 7→ −1/τ etτ 7→ −1/(τ−2)sont dans J, l’argument de maximalité donné dans la démonstration du théorème 1.4 (i) démontre le (iii).

Montrons maintenant le (ii). Choisissons un point τ dans l’intérieur de F (ou simplement, qui n’est pas dans la SL₂(Z)-orbite de iouρ). Rappelons que d’après le théorème 1.4, les seuls élémentsγ ∈SL₂(Z) tels que γτ ∈ F sont±I₂. Soit γ ∈ SL2(Z). D’après le (iii) appliqué à γτ, il existe g ∈J tel que gγτ soit dans F,TF ou TSF. Ainsi, le théorème 1.4 entraine ±gγ = I₂,Tou TS. Comme−I₂ = S²∈J on a montré

SL₂(Z) = J ∪J T ∪ J TS.

Cette réunion est disjointe. En effet, si g∈J (resp. JT, JTS) alors ε2(g⁻¹) envoie 1∈Z[/2Z sur1 (resp. 0,

∞). Cela termine la démonstration du (ii), et démontre que J est l’ensemble des éléments γ ∈SL₂(Z) tels

que ε2(γ) fixe 1. Autrement dit, on aJ = Γ(2) ∪ S Γ(2).

Figure 3. Le domaineF ∪ TF ∪ TSF

8. Sommes de 8 carrés Observons que d’après la proposition 7.1, les classes des éléments 1et

TS =

1 −1 1 0

recouvrent J\SL₂(Z)/h±Ti. Ainsi, si une fonction holomorphe f : H → C satisfait la condition (i), elle satisfait (ii) si et seulement si les fonctions f(τ) et(f_|kTS)(τ) =τ^−kf(1−1/τ) admettent toutes deux des limites quandImτ → ∞. Pour des raisons de clarté, et tout en s’imposant une certaine prudence, ces limites seront notées respectivement f(∞) etf(1), si elles existent. Soitχ: J→C^∗ le caractère introduit au §5.8.

Proposition 8.1. La fonction ϑ² est modulaire de poids 1 et caractère χ pourJ. De plus, on a ϑ²(∞) = 1 et ϑ²(1) = 0.

Plus précisément, ϑ²_|1TS (τ) =−i e^iπτ2 (P

n∈Zqⁿ²⁺ⁿ² )² =−ieϑ(τe )².

Démonstration — Compte tenu du corollaire 5.9, la seule chose qu’il reste à démontrer est l’assertion sur les limites. Il est évident queϑ(τ)→1quandImτ →+∞. Par définition, on aϑ²_|1TS(τ) =τ⁻¹ϑ²(1−1/τ).

On conclut par la relation déjà vue au §5.10 :

(−iτ)^−1/2ϑ(1−1/τ) =eϑ(τe ).

Corollaire 8.2. (i) Pour tout entier k≥0, on aϑ^2k ∈Mk(J, χ^k).

(ii) (Jacobi) On a l’identité (ϑϑee

ϑ)e⁸ = 2⁸∆. En particulier, ϑne s’annule pas sur H.

Démonstration — D’après la proposition 8.1, ϑ² ∈ M₁(J, χ). Le (i) en est une conséquence immédiate.

Pour le (ii), on constate que le terme de gauche est Normeϑ⁸ au sens du §5.10. On observe que c’est un élément non nul de S₁₂ dont le coefficient de Fourier en q est 2⁸; la présence du 2 vient de la relation ee

ϑ(τ) = 2e^iπτ4 +O(e^iπτ2 ) quandImτ → ∞. D’après la proposition 3.7, c’est nécessairement 2⁸∆.

On a E_k ∈M_k(J)car M_k ⊂M_k(J) pour tout k∈Z. Comme E_k= E_k|kTS, on a de plus E_k(∞) = E_k(1) = 1. La construction de séries d’Eisenstein effectuée pour SL₂(Z) admet des variantes pour les groupes de congruences. Nous nous contenterons d’illustrer ce phénomène dans le cas du groupe J.

Proposition 8.3. Soit k ≥ 4 un entier pair. La série P

(m,n)∈Z²−{0},m≡nmod 2 1

(mτ+n)^k est absolument convergente sur H; on note G^∗_k(τ) sa somme. On a G^∗_k ∈ M_k(J), G^∗_k(∞) = 2^1−kζ(k) et G^∗_k(1) = 2ζ(k).

Enfin, on a

2^k−1

ζ(k)G^∗_k(τ) = 1− 2k B_k

X

n≥1

(−1)ⁿσk−1(n)e^iπnτ.

Démonstration — On procède de manière strictement identique à la démonstration de la proposition 4.2.

La convergence absolue de G^∗_k(τ) ainsi que son invariance par l’action de poidsk de Jest claire. De même, G_k(τ) tend vers2^1−kζ(k) quandImτ −→ ∞. On constate enfin que

τ^−kGk(1−1/τ) = X

(m,n)∈Z²−{0},m≡nmod 2

1

((m+n)τ−m)^k = X

(m,n)∈Z²−{0}

1 (2mτ+n)^k,

qui tend vers 2ζ(k) quand Imτ −→+∞. Pour le dernier point, on peut procéder comme dans la démons- tration de la proposition 4.2. Mieux, on peut le déduire du q-développement deEk en observant la relation

(immédiate !)G^∗_k(τ) = 2^−kG_k(^τ+1₂ ).

Si kest pair >2, on pose E^∗_k= ²_ζ(k)^k−1G^∗_k. On considère également u : M_k(J)−→C×C, f 7→ (f(∞), f(1)); c’est une application linéaire.

Proposition 8.4. (i) Si k >2 est pair, l’applicationu est surjective.

(ii) M4(J) est de dimension 2 engendré par E4 et E^∗₄.

Démonstration — La proposition précédente entraîneu(Ek) = (1,1)etu(E^∗_k) = (1,2^k), d’où la surjectivité de u. Le groupe J est d’indice 3 dans SL₂(Z) (Prop. 7.1). La proposition 6.3 entraîne que M₄(J) est de dimension ≤2. On conclut car il contientE₄ etE^∗₄, etu(E_k) etu(E^∗_k) ne sont pas proportionnels.

Théorème 8.5. (Jacobi, 1829) On a l’identité ϑ⁸ = ₁₅¹ (16 E₄ −E^∗₄). En particulier, si r₈(n) désigne le nombre de (n1, . . . , n8)∈Z⁸ tels queP8

i=1n²_i =n, on a la relation r₈(n) = 16X

d|n

(−1)^n−dd³.

Démonstration — Les propositions 8.1 et 8.4 montrent qu’il existea, b∈C tels queϑ⁸=aE4+bE^∗₄ et u(ϑ⁸) = (1,0) = (a+b, a+ 16b).

On trouve (a, b) = (¹⁶₁₅,⁻¹₁₅). Étant donné que 240 = 15·16, on a donc X

n≥0

r₈(n)qⁿ = ϑ⁸(2τ) = 1 + 16X

n≥1

σ₃(n)(16 q²ⁿ−(−1)ⁿqⁿ).

Si n est impair, le coefficient de qⁿ dans la somme ci-dessus est σ₃(n). Si n est pair, il s’agit plutôt de

−σ₃(n) + 16σ3(n/2). Mais comme dans ce cas on a16σ3(n/2) = 2P

2|d|nd³, on a aussi la relation−σ₃(n) + 16σ₃(n/2) =P

d|n(−1)^dd³.

En particulier, si pest un nombre premier impair on a simplement r₈(p) = 16 (p³+ 1). Par exemple pour p= 3 on ar8(3) = 2³C³₈= 8²·7... qui vaut bien16·28. De même,2⁵·C⁵₈+ 8·7·2² = 2016 = 16 (5³+ 1)( !).

On obtient bien d’autres formules fabuleuses pour les sommes de 8k carrés en étudiant plus généralement M_4k(J). Un ingrédient clé, maintenant à notre portée, est alors le suivant :

Théorème 8.6. (i) Sik≡0 mod 4, l’espaceM_k(J)est de dimension ^k₄+1. Il admet pour base lesE^r₄(E^∗₄)^s avec r+s=k/4.

(ii) Si k6≡0 mod 4 alors M_k(J, χ^k) =ϑ²M_k−1(J, χ^k−1).

Démonstration — Montrons le (i). La famille de l’énoncé est libre par un argument semblable (en plus simple) à celui de la proposition 2.5. Elle est de cardinal ^k₄ + 1. On conclut car dim M_k(J)≤ ^k₄ + 1 d’après la proposition 6.3, le groupe J étant d’indice 3 dans SL2(Z). Pour démontrer le (ii), il suffit de démontrer que si f ∈M_k(J, χ^k) avec k6≡ 0 mod 4 alorsg(τ)e^{−iπτ /2} admet une limite quand Imτ tends vers +∞, où g = f|_kTS. En effet, étant donné que ϑ(τ) ne s’annule pas dans H (Corollaire 8.2 (ii)), la proposition 8.1 permet de conclure f /ϑ² ∈Mk−1(J, χ^k−1). Mais TSTS⁻¹T⁻¹ =−ST⁻¹SS⁻¹T⁻¹ = −ST⁻² est un élément de J de caractère i, et de sorte queg(τ + 1) =i^kg(τ), ce qui conclut.

Pour aller plus loin, il nous resterait à définir une série d’Eisenstein vivant dans M_k(J, χ^k) avec k non nécessairement ≡0 mod 4. C’est particulièrement difficile pour des raisons de convergence lorsquek= 2, et pire encore lorsque k= 1. Cela permettrait de démontrer par exemple les formules célèbres, valables pour tout n≥1,

r₂(n) = 4X

d|n

ψ(d), r₄(n) = 8 X

4-d|m

d³.

La première est due à Gauss ; dans cette formule ψ(d)vaut par définition0 sidest pair,1sid≡1 mod 4et

−1sinon. Il en existe une autre une preuve très simple utilisant l’arithmétique de Z[i]. La seconde est due à Jacobi. De même, il en existe une preuve relativement transparente utilisant l’arithmétique des quaternions de Hurwitz. Signalons que Gauss a également trouvé une formule pour r₃(n), d’apparence assez différente, dont l’établissement pourrait par exemple être obtenu par les principes étudiés ici si l’on avait introduit les formes modulaires de poids “demi-entier”. Enfin, il existe des formules raisonnablement simples pour r_k(n) pour tout k≤10 pair...