Étude des jets de Demailly-Semple en dimension 3

A L

E S

E D L ’IN IT ST T U

F O U R

ANNALES

DE

L’INSTITUT FOURIER

Erwan ROUSSEAU

Étude des jets de Demailly-Semple en dimension 3 Tome 56, n^o2 (2006), p. 397-421.

<http://aif.cedram.org/item?id=AIF_2006__56_2_397_0>

© Association des Annales de l’institut Fourier, 2006, tous droits réservés.

L’accès aux articles de la revue « Annales de l’institut Fourier » (http://aif.cedram.org/), implique l’accord avec les conditions générales d’utilisation (http://aif.cedram.org/legal/). Toute re- production en tout ou partie cet article sous quelque forme que ce soit pour tout usage autre que l’utilisation à fin strictement per- sonnelle du copiste est constitutive d’une infraction pénale. Toute copie ou impression de ce fichier doit contenir la présente mention de copyright.

cedram

Article mis en ligne dans le cadre du

ÉTUDE DES JETS DE DEMAILLY-SEMPLE EN DIMENSION 3

par Erwan ROUSSEAU

Résumé. — Dans cet article nous faisons l’étude algébrique des jets de Demailly- Semple en dimension 3 en utilisant la théorie des invariants des groupes non réduc- tifs. Cette étude fournit la caractérisation géométrique du fibré des jets d’ordre 3 sur une variété de dimension 3 et permet d’effectuer, par Riemann-Roch, un calcul de caractéristique d’Euler.

Abstract. — In this article, the algebraic characterization of Demailly-Semple jets in dimension 3 is given using the invariant theory of non reductive groups. This work provides the geometric characterization of the 3-jets bundle on a manifold of dimension 3 and, by Riemann-Roch, the computation of the Euler characteristic.

1. Introduction 1.1. Contexte géométrique

Il est bien connu (cf. [1], [17]) que l’étude de l’hyperbolicité des variétés algébriques complexes est liée à l’étude des sections globales de certains fibrés vectorielsEk,mT_X^∗ d’opérateurs différentiels d’ordreket de degré m agissant sur les germes de courbes holomorphes dansX, variété complexe.

L’étude des jets de Demailly-Semple est motivée par les résultats qu’ils ont fournis sur l’hyperbolicité des variétés complexes, sur des questions liées à la conjecture de Kobayashi qui stipule que le complémentaire d’une hypersurface générique de degréd>2n+ 1dansPⁿ_Cest hyperbolique.

Mots-clés :hyperbolicité des variétés complexes, huperbolicité au sens de Kobayashi, fi- brés des jets de différentielles, représentations des groupes linéaires, théorie des invariants des groupes non réductifs.

Classification math. :32Q45, 13A50, 06B15.

Des résultats intéressants ont été obtenus en dimension 2 pour le cas des complémentaires de courbes dans P²_C avec un nombre donnék de compo- santes irréductibles : citons les résultats de Y.T. Siu et S.K. Yeung [17], ceux de J.P. Demailly et J. El Goul [2] qui ont traité le cas du complémen- taire d’une courbe générique lisse dansP²_C, ainsi que ceux de G. Dethloff, G. Schumacher et P.M. Wong [4] et [5] concernant le cas de 3 composantes, et plus récemment le cas de 2 composantes a été traité également par les techniques de jets [15].

L’hyperbolicité en dimension 3 est un sujet très peu défriché à l’heure ac- tuelle malgré l’existence de quelques classes d’exemples (Masuda-Noguchi, Siu, Shiffmann et Zaidenberg). L’étude des jets de Demailly-Semple en dimension 3 a été faite dans la perspective d’attaquer le problème de l’hy- perbolicité des hypersurfaces projectives génériques de grand degré de di- mension 3 pour lequel il n’y a pas encore de résultats.

1.2. Principaux résultats

Si on définit A_k = ⊕

m

(E_k,mT_X^∗)_x l’algèbre des opérateurs différentiels en un point x ∈ X, celle-ci peut-être vue comme une représentation du groupe linéaireGl_n. On sait alors que l’on a une décomposition de cette représentation en somme directe de représentations irréductibles de Schur.

Ainsi Demailly [1] a caractérisé les fibrés de jets d’ordre 2, de degrém: Gr^•E_2,mT_X^∗ = ⊕

λ₁+2λ₂=m

Γ^(λ1,λ2,0)T_X^∗, oùΓ est le foncteur de Schur.

Le premier résultat de cet article est donné par l’étude algébrique deA3, par la théorie classique des invariants. On obtient une caractérisation des jets d’ordre 3, en dimension 3 :

Théorème 1.1. — En dimension 3 :

A3=C[f_i⁰, wij, w_ij^k, W], 16i < j63,16k63

oùW =

f₁⁰ f₂⁰ f₃⁰ f₁⁰⁰ f₂⁰⁰ f₃⁰⁰ f₁⁰⁰⁰ f₂⁰⁰⁰ f₃⁰⁰⁰

, w_ij =f_i⁰f_j⁰⁰−f_i⁰⁰f_j⁰, w_ij^k = (f_k⁰)⁴d(_(f^w0^ij

k)³) =f_k⁰(f_i⁰f_j⁰⁰⁰−f_i⁰⁰⁰f_j⁰)−3f_k⁰⁰(f_i⁰f_j⁰⁰−f_i⁰⁰f_j⁰).

De plus, deg.tr(C(f_i⁰, w_ij, w_ij^k, W)) = 7(le calcul de l’idéal des relations entre les générateurs est fait dans[14]).

Cette étude algébrique a conduit à des applications géométriques au niveau des fibrés de jets.

Le résultat principal est la caractérisation du gradué du fibré des jets d’ordre 3 en dimension 3 :

Théorème 1.2. — Soit X une variété complexe de dimension 3, alors : Gr^•E3,mT_X^∗ = ⊕

06γ6^m5

⊕

{λ1+2λ₂+3λ₃=m−γ;λ_i−λj>γ, i<j}

Γ^{(λ1,λ2,λ3)}T_X^∗ oùΓ est le foncteur de Schur.

Un calcul de type Riemann-Roch fournit alors :

Proposition 1.3. — Soit X une hypersurface lisse de degré d de P⁴, alors :

χ(X, E_3,mT_X^∗) = m⁹

81648×10⁶d(389d³−20739d²+185559d−358873)+O(m⁸).

Corollaire 1.4. — Pour d > 43, χ(X, E3,mT_X^∗) ∼ α(d)m⁹ avec α(d)>0.

2. Préliminaires

Cette section a pour but de rappeler la construction des espaces de jets de Demailly, les bases de la théorie de la représentation du groupe linéaire Gl_nCet celles de la théorie classique des invariants qui seront utilisées de manière cruciale dans la preuve des théorèmes 1 et 2.

2.1. Espaces des jets

SoitX une variété complexe de dimensionn. On définit le fibréJ_k→X desk-jets de germes de courbes dansX, comme étant l’ensemble des classes d’équivalence des applications holomorphesf : (C,0)→(X, x)modulo la relation d’équivalence suivante :f ∼gsi et seulement si toutes les dérivées f^(j)(0) = g^(j)(0) coïncident pour 0 6 j 6 k . L’application projection J_k→X est simplementf →f(0). Grâce à la formule de Taylor appliquée à un germe f au voisinage d’un point x ∈ X, on peut identifier Jk,x à l’ensemble des k−uplets de vecteurs (f⁰(0), ..., f^(k)(0)) ∈ C^nk. Ainsi, J_k est un fibré holomorphe sur X de fibre C^nk. On peut voir qu’il ne s’agit pas d’un fibré vectoriel pourk>2 (pour k= 1, c’est simplement le fibré tangentTX).

Définition 2.1. — Soit (X,V) une variété dirigée. Le fibré J_kV →X est l’espace desk−jets de courbesf : (C,0)→X tangentes à V, c’est-à- dire telles quef⁰(t)∈V_f(t)pourtau voisinage de0,l’application projection sur X étantf →f(0).

Nous présentons la construction des espaces de jets introduits par J.-P. Demailly dans [1].

Soit(X, V)une variété dirigée. On définit(X⁰, V⁰)par : i)X⁰=P(V)

ii) V⁰ ⊂ T_X⁰ est le sous-fibré tel que pour chaque point (x,[v]) ∈ X⁰ associé à un vecteurv∈Vx\{0} on a :

V_(x,[v])⁰ ={ξ∈T_X⁰;π_∗ξ∈Cv} oùπ:X⁰→X est la projection naturelle etπ∗ :TX⁰ →π^∗TX

On a donc V⁰=π_∗⁻¹(O_X⁰(−1)).

On définit par récurrence le fibré de k-jets projectivisé PkV =Xk et le sous-fibré associéVk ⊂TX_kpar :(X0, V0) = (X, V),(Xk, Vk) = (X_k−1⁰ , V_k−1⁰ ).

On a par construction :

dimXk =n+k(r−1),rangVk=r:= rangV.

Soit πk la projection naturelleπk :Xk →X_k−1,on notera πj,k :Xk → X_j la compositionπ_j+1◦π_j+2◦...◦π_k,pourj 6k.

Par définition, il y a une injection canoniqueOP_kV(−1),→π^∗_kV_k−1et on obtient un morphisme de fibrés en droites

OP_kV(−1)→π_k^∗V_k−1^(πk)

∗(πk−1)∗

→ π_k^∗OPk−1V(−1) qui admet

D_k=P(T_{Pk−1V /Pk−2V})⊂P_kV comme diviseur de zéros.

Ainsi, on a :

O_PkV(1) =π^∗_kO_Pk−1V(1)⊗O(D_k).

Remarque 2.2. — Chaque application non constantef : ∆_R → X de (X, V)se relève en f[k] : ∆R → PkV. En effet : si f n’est pas constante, on peut définir la tangente [f⁰(t)] (aux points stationnaires f⁰(t) = (t− t₀)^su(t),[f⁰(t₀)] = [u(t₀)]) etf_[1](t) = (f(t),[f⁰(t)]).

2.2. Opérateurs différentiels sur les jets

D’après [7], on introduit le fibré vectoriel des jets de différentielles, d’ordre ket de degrém,E_k,m^GGV^∗→X dont les fibres sont les polynômes à valeurs

complexesQ(f⁰, f⁰⁰, ..., f^(k))sur les fibres de J_kV,de poidsmpar rapport à l’action deC^∗ :

Q(λf⁰, λ²f⁰⁰, ..., λ^kf^(k)) =λ^mQ(f⁰, f⁰⁰, ..., f^(k)) pour toutλ∈C^∗ et(f⁰, f⁰⁰, ..., f^(k))∈JkV.

E^GG_k,mV^∗ admet une filtration canonique dont les termes gradués sont Gr^l(E_k,m^GGV^∗) =S^l1V^∗⊗S^l2V^∗⊗...⊗S^lkV^∗,

où l := (l1, l2, ..., lk) ∈ N^k vérifie l1+ 2l2+...+klk = m. En effet, en considérant l’expression de plus haut degré en les(f_i^(k))qui intervient dans l’expression d’un polynôme homogène de poidsm, on obtient une filtration intrinsèque :

E_k−1,m^GG V^∗=S0⊂S1⊂...⊂S[^m_k] =E_k,m^GGV^∗ où

Si/S_i−1'SⁱV^∗⊗E_k,m−ki^GG V^∗.

Par récurrence, on obtient bien une filtration dont les termes gradués sont ceux annoncés plus haut.

D’après [1], on définit le sous-fibré Ek,mV^∗ ⊂ E_k,m^GGV^∗, appelé le fibré des jets de différentielles invariants d’ordreket de degrém,i.e.,:

Q((f ◦φ)⁰,(f◦φ)⁰⁰, ...,(f◦φ)^(k)) =φ⁰(0)^mQ(f⁰, f⁰⁰, ..., f^(k)) pour toutφ∈Gk le groupe des germes de k-jets de biholomorphismes de (C,0). Pour G⁰_k le sous-groupe de G_k des germes φ tangents à l’identité (φ⁰(0) = 1) on aE_k,mV^∗= (E_k,m^GGV^∗)^G0k.

La filtration canonique sur E_k,m^GGV^∗ induit une filtration naturelle sur Ek,mV^∗ dont les termes gradués sont

⊕

l₁+2l₂+...+kl_k=m

S^l1V^∗⊗S^l2V^∗⊗...⊗S^lkV^{∗ G0}_k

.

Le lien entre ces espaces d’opérateurs différentiels et les espaces de jets construits précédemment est donné par :

Théorème 2.3. — [1]Supposons queV a un rangr>2.

Soitπ_0,k:P_kV →X, etJ_kV^regle fibré des k-jets réguliers i.e.,f⁰(0)6= 0.

i)Le quotientJkV^reg/Gk a la structure d’un fibré localement trivial au- dessus deX, et il y a un plongement holomorphe J_kV^reg/G_k →P_kV,qui identifieJkV^reg/Gk avecPkV^reg.

ii) Le faisceau image direct (π_0,k)_∗O_PkV(m) peut être identifié avec le faisceau des sections holomorphes deEk,mV^∗.

iii) Pour tout m >0, le lieu de base du système linéaire |OPkV(m)|est égal àPkV^sing. De plus,OP_kV(1)est relativement big (i.e., pseudo-ample) au-dessus deX.

2.3. Théorie classique des invariants

Soitfun polynôme dont les variables sont des vecteurs,i.e.,un polynôme en les coordonnées des vecteurs, d’un espace vectoriel fixé V. Pour tous vecteurs s, t on note par D_s^tf le résultat de la différentiation de f par rapport àsdans la direction det,i.e.,:

D^t_sf =X

i

ti

∂f

∂s_i

où lessi, ti sont les coordonnées des vecteursset trespectivement.

Les opérateurs de la forme D_s^t sont appelés opérateurs de polarisation.

Ils commutent avec l’action du groupeGl(V)sur l’algèbre des polynômes.

Considérons la somme directe de m copies de V munie de l’action natu- relle deGl(V)et de l’action de Gl_m qui commute avec celle-ci,i.e., pour A ∈ Glm, A.(x1, ..., xm) = (x1, ..., xm)A⁻¹. Ainsi chaque vecteur xj est remplacé par une combinaison linéaire de vecteursx₁, ..., x_mavec des coef- ficients pris dans la j-ème colonne deA⁻¹.Cette action induit une action de Gl_msur l’algèbre des polynômes en les variablesx₁, ..., x_m.Explicitement, la matriceA= (aij)agit sur un polynômef comme suit :

(Af)(x₁, ..., x_m) =fX

i

a_i1x_i, ...,X

i

a_imx_i .

Si un polynômef dont les variables sont des vecteurs a pour degrépen la variablex, alors l’opérateurPx=_p!¹D^x_x¹...Dx^xp(oùx1, ..., xpn’apparaissent pas dans l’expression def) transformef en un polynôme qui est symétrique et multi-linéaire en x1, ..., xp. On peut retrouver f à partir de Pxf en substituant x à la place de x₁, ..., x_p. Si f est homogène en toutes ses variables, si l’on répète l’opération précédente avec toutes les variables, on obtient une forme multi-linéaireP f appeléela polarisation complète def.

On retrouvef en y substituant les variables originelles.

Définition 2.4. — (cf.[12]) SoitF une forme multi-linéaire en les va- riablesu1, ..., uloù lesui sont des vecteurs d’un espace vectorielV.Soient x₁, ..., x_mmvecteurs deV.On définitS^x1,...,xm(F),l’espace vectoriel engen- dré par tous les polynômes obtenus en substituant les variablesx1, ..., xm

aux variablesu₁, ..., u_l en permettant les répétitions. Cet espace est claire- ment invariant sous l’action deGlm.

Soit Gun groupe linéaire arbitraire agissant sur un espace vectoriel de dimensionn. On considère le problème de trouver les G−invariants d’un système de vecteurs deV,i.e.,les polynômes invariants sous l’action deG dans la somme directe de plusieurs copies deV.Il est clair que l’algèbre de tous lesG−invariants d’un système de vecteurs est linéairement engendré par les invariants qui sont homogènes en chaque variable. Si f est un tel invariant, sa polarisation complète en est un aussi. Ainsi si l’on est capable de trouver tous les invariants multi-linéaires, alors on obtient tous les in- variants homogènes en y substituant de nouvelles variables (en permettant les répétitions).

Définition 2.5. — (cf.[12]) Un ensemble{F_α}de formes multi-linéaires G-invariantes est appelé système complet de G-invariants d’un système de m vecteurs si les espaces de polynômes S^x1,...,xm(F) associés aux formes Fα engendrent l’algèbre de tous les G-invariants du système de vecteurs x1, ..., xm.

Théorème 2.6. — ([12]) SoitV un espace vectoriel de dimensionn.

1)Tout système complet deG-invariants d’un système denvecteurs est aussi un système complet pour tout nombre de vecteurs.

2) Si G⊂SL(V) alors tout système complet deG-invariants d’un sys- tème de n−1 vecteurs auquel on ajoute la forme ”det” est un système complet deG-invariants pour tout nombre de vecteurs.

On rappelle qu’un groupe G est dit linéairement réductif si tout G- module V de dimension finie est semi-simple. On a alors le théorème de Hilbert :

Théorème 2.7. — (cf.[12]) SoitG⊂Gl(V)un groupe réductif. Alors il existe un système fini complet deG-invariants.

Dans le cas des groupes qui ne sont pas réductifs il y a quelques résultats connus et des conjectures à propos du 14^ème problème de Hilbert sur l’exis- tence d’un système fini de générateurs de l’algèbre des invariants. Le cas général se ramène au cas des groupes unipotents. Nagata (1959) a construit un exemple de groupe unipotent dont l’algèbre des invariants n’a pas de système fini de générateurs. Les résultats positifs découlent du

Théorème 2.8. — (cf.[12]) (Principe de Grosshans) SoitGun groupe algébrique qui agit rationnellement sur une k-algèbre A, et H un sous- groupe fermé deG. Alors :

A^H ∼= (k[G]^H⊗A)^G.

Si Gest réductif etAde type fini, cela ramène le problème de savoir si A^H est de type fini à celui de savoir sik[G]^H = k[G/H] est de type fini.

D’où la définition suivante :

Définition 2.9. — (cf.[12]) Un sous-groupeH d’un groupe réductifG est appelé sous-groupe de Grosshans s’il vérifie les conditions :H est fermé, G/Hest quasi-affine,k[G/H]est de type fini.

On peut alors substituer au problème de Hilbert le problème suivant proposé par K. Pommerening [11] :Trouver les sous-groupes de Grosshans deGln ou plus généralement d’un groupe réductif G.

On a alors la conjecture de Popov-Pommerening [11] :

Conjecture 2.10. — Tout sous-groupe unipotent régulier, i.e., norma- lisé par un tore maximal, d’un groupe réductif est de Grosshans.

L. Tan [18] a montré que cette conjecture est vraie pour tous les sous- groupes de Gl_n(k), Sl_n(k), P Sl_n(k) (k corps algébriquement clos) pour n6 5.

2.4. Théorie de la représentation

Cette partie rappelle brièvement la théorie de la représentation deGl(V), oùV est un espace vectoriel complexe de dimension finie r.

À l’ensemble des r-uplets décroissants (a1, ..., ar) ∈ Z^r, a1 > a2... >

a_r, on associe de manière fonctorielle une collection d’espaces vectoriels Γ^(a1,...,ar)V qui fournit la liste de toutes les représentations polynômiales irréductibles du groupe linéaire Gl(V), à isomorphisme près. Γ^• est ap- pelé foncteur de Schur. Donnons une description simple de ces foncteurs.

SoitUr =

1 ∗ 0 1

le groupe des matrices unipotentes triangulaires supérieuresr×r.Si tous lesaj sont positifs, on définit

Γ^(a1,...,ar)V ⊂S^a1V ⊗...⊗S^arV

comme étant l’ensemble des polynômesP(x1, ..., xr)sur(V^∗)^rqui sont ho- mogènes de degréaj par rapport àxj et qui sont invariants sous l’action à droite deUr sur(V^∗)^r i.e.,tels que

P(x1, ..., x_j−1, xj+xk, xj+1, ..., xr) =P(x1, ..., xr) ∀k < j.

Si(a₁, ..., a_r)n’est pas décroissant alors on pose Γ^(a1,...,ar)V = 0. Comme cas particuliers on retrouve les puissances symétriques et les puissances

extérieures :

S^kV = Γ(k,0,...,0)V,

∧^kV = Γ(1,...,1,0,...,0)V (aveckindices 1), detV = Γ^(1,...,1)V.

Les foncteurs de Schur satisfont la formule

Γ^{(a1+l,...,ar+l)}V = Γ^(a1,...,ar)V ⊗(detV)^l

qui peut être utilisée pour définirΓ^(a1,...,ar)V si l’on a desa_i négatifs.

On fixe une base deV et on identifieG=Gl(V)avecGlr(C). On note T ={(x= diag(x₁, ..., x_r)} ⊂Gle sous-groupe des matrices diagonales.

Définition 2.11. — (cf. [6]) Un vecteur e d’une représentation E est appelé vecteur de poidsα= (α₁, ..., α_r)(où lesα_i sont des entiers) si

x.e=x^α₁¹...x^α_r^re pour toutxdeT.

Proposition 2.12. — (cf. [6]) Toute représentation E est somme di- recte de ses espaces de poids :

E=⊕E_α, E_α={e∈E:x.e=x^α₁¹...x^α_m^me,∀x∈ T }.

Définition 2.13. — (cf.[6]) SoitB⊂Gle groupe de Borel des matrices triangulaires supérieures. Un vecteur ed’une représentation E est appelé vecteur de plus haut poids siB.e=C^∗.e.

Proposition 2.14. — (cf.[6]) Une représentation (de dimension finie, polynômiale)EdeGlr(C)est irréductible si et seulement si elle a un unique vecteur de plus haut poids, à multiplication par un scalaire près. De plus, deux représentations sont isomorphes si et seulement si leurs vecteurs de plus haut poids ont le même poids.

Nous utiliserons aussi la semi-simplicité des représentations holomorphes deGlr(C) :

Proposition 2.15. — (cf. [6]) Toute représentation holomorphe de Glr(C)est somme directe de représentations irréductibles.

Ainsi pour déterminer complètement une représentation holomorphe de Glr(C), il suffit de déterminer ses vecteurs de plus haut poids.

3. Étude algébrique On définit : A_k =⊕

m

(E_k,mT_X^∗)_x l’algèbre des opérateurs différentiels en un pointx∈X.

Soit G⁰_k le groupe des reparamétrisations φ(t) =t+b2t²+...+bkt^k+ O(t^k+1)tangentes à l’identité. G⁰_k agit sur(f⁰, f⁰⁰, ..., f^(k))par action uni- potente. Par exemple pourk= 3, on a l’action :

(f◦φ)⁰ =f⁰; (f◦φ)⁰⁰=f⁰⁰+ 2b₂f⁰; (f ◦φ)⁰⁰⁰=f⁰⁰⁰+ 6b₂f⁰⁰+ 6b₃f⁰. Donc une représentation :

G⁰₃,→U(3) :φ→





1 0 0

2b₂ 1 0 6b3 6b2 1



.

DéterminerAk revient donc à déterminer(C[(f⁰),(f⁰⁰), ...,(f^(k))])^G

0 k. En dimension 2, on aG⁰₂=U(2).Les invariants par le groupe unipotent sont bien connus (cf. [13]). Ainsi :

(i) A1=C[f₁⁰, f₂⁰],

(ii) A2=C[f₁⁰, f₂⁰, w12] oùw12=f₁⁰f₂⁰⁰−f₁⁰⁰f₂⁰. On a la propriété suivante :

Proposition 3.1.

An=An[f₁⁰⁻¹]∩An[f₂⁰⁻¹]

Démonstration. — Il suffit de prouver An[f₁⁰⁻¹]∩An[f₂⁰⁻¹] ⊂ An. Soit F ∈A_n[f₁⁰⁻¹]∩A_n[f₂⁰⁻¹] :F = _(f^P0

1)^l = _(f^Q0

2)^m. Ainsi : (f₂⁰)^mP = (f₁⁰)^lQet (f₁⁰)^l divise P, doncF ∈C[f⁰, f⁰⁰, f⁰⁰⁰]. De plus F est invariant par repara-

métrisation doncF ∈An.

3.1. Étude de la dimension 3 et preuve du théorème 1

Nous étudions maintenant la dimension 3 : G⁰₃=











1 0 0

2b₂ 1 0 6b3 6b2 1











⊂U(3).

Faisons le lien avec la théorie classique des invariants (partie 3 des pré- liminaires). G⁰₃ agit sur





f₁⁰ f₂⁰ f₃⁰ f₁⁰⁰ f₂⁰⁰ f₃⁰⁰ f₁⁰⁰⁰ f₂⁰⁰⁰ f₃⁰⁰⁰



 par multiplication à gauche.

Considérons l’action deGL3: A∈GL3, A.





f₁⁰ f₂⁰ f₃⁰ f₁⁰⁰ f₂⁰⁰ f₃⁰⁰ f₁⁰⁰⁰ f₂⁰⁰⁰ f₃⁰⁰⁰



=





f₁⁰ f₂⁰ f₃⁰ f₁⁰⁰ f₂⁰⁰ f₃⁰⁰ f₁⁰⁰⁰ f₂⁰⁰⁰ f₃⁰⁰⁰



A⁻¹. Cette action induit une action sur les polynômesP(f⁰, f⁰⁰, f⁰⁰⁰)qui commute avec celle deG⁰₃.Ainsi on a une action deGL3 qui laisseA3 invariant.

Nous cherchons à déterminer les invariants parG⁰₃du système de vecteurs (x₁, x₂, x₃)oùx_i =



 f_i⁰ f_i⁰⁰ f_i⁰⁰⁰



.

Appliquons le théorème 2.6 des préliminaires à notre situation. On a bienG⁰₃⊂SL3.Il nous suffit donc de connaître un système complet deG⁰₃- invariants pour deux vecteurs i.e., en dimension 2. Cela nous est donné par le théorème annoncé par J.P. Demailly dont nous donnons ici une démonstration :

Théorème 3.2. — (Demailly) En dimension 2 : A3=C[f₁⁰, f₂⁰, w¹₁₂, w²₁₂][w12] où w₁₂ⁱ = (f_i⁰)⁴d(_(f^w120

i)³) = f_i⁰(f₁⁰f₂⁰⁰⁰−f₁⁰⁰⁰f₂⁰)−3f_i⁰⁰(f₁⁰f₂⁰⁰−f₁⁰⁰f₂⁰) et (R) : 3(w₁₂)²=f₂⁰w₁₂¹ −f₁⁰w²₁₂.

La démonstration nécessite deux lemmes :

Lemme 3.3. — w₁₂ est quadratique surC[f₁⁰, f₂⁰, w₁₂² , w₁₂¹ ].

Démonstration. — Par(R), w12est algébrique surC[f₁⁰, f₂⁰, w₁₂² , w₁₂¹ ]de degré 2 ou 1.

Supposons qu’il existe deux polynômes P et Q tels que : P(f₁⁰, f₂⁰, w₁₂² , w₁₂¹ )w12=Q(f₁⁰, f₂⁰, w²₁₂, w¹₁₂).

Par(R)on remplacew₁₂² par ^f

0

2w¹₁₂−3(w₁₂)²

f₁⁰ dans P et Q.

Ainsi on obtient une égalité, après multiplication par(f₁⁰)^mavecmsuffi- samment grand, entre deux polynômes en les variables{f₁⁰, f₂⁰, w₁₂, w¹₁₂}qui sont algébriquement libres. Mais l’un des polynômes a toutes ses puissances enw₁₂ impaires et l’autre, paires ; ce qui impliqueP =Q= 0.

Ainsi le degré de w12 est 2.

Lemme 3.4. — {f₁⁰, f₂⁰, w²₁₂, w¹₁₂}sont algébriquement libres.

Démonstration. — w12est algébrique sur C(f₁⁰, f₂⁰, w₁₂² , w₁₂¹ )donc deg.tr(C(f₁⁰, f₂⁰, w²₁₂, w¹₁₂)) = deg.tr(C(f₁⁰, f₂⁰, w²₁₂, w¹₁₂, w₁₂))

> deg.tr(C(f₁⁰, f₂⁰, w12, w¹₁₂)) = 4.

On peut maintenant passer à la démonstration du théorème 3.2 : Démonstration. — D’après la proposition 3.1 on est ramené à déterminer A₃[f₁⁰⁻¹]∩A₃[f₂⁰⁻¹].On considère la reparamétrisationφ=f₁⁻¹sur la carte (f₁⁰ 6= 0). Soit P ∈ A3. Donc P(f ◦φ) = (φ⁰)^mP(f)◦φ. Remarquons maintenant par le calcul :

(f2◦f₁⁻¹)⁰ = f₂⁰ f₁⁰ ◦f₁⁻¹, (f₂◦f₁⁻¹)⁰⁰ = w₁₂

(f₁⁰)³ ◦f₁⁻¹, (f₂◦f₁⁻¹)⁰⁰⁰ = w₁₂¹

(f₁⁰)⁵ ◦f₁⁻¹. AinsiP ∈C[f₁⁰, f₂⁰, w12, w¹₁₂][f₁⁰⁻¹] et donc

A₃[f₁⁰⁻¹] =C[f₁⁰, f₂⁰, w₁₂, w¹₁₂][f₁⁰⁻¹].

Par symétrie :A3[f₂⁰⁻¹] =C[f₁⁰, f₂⁰, w12, w²₁₂][f₂⁰⁻¹].L’inclusion

C[f₁⁰, f₂⁰, w₁₂, w¹₁₂, w²₁₂]⊂C[f₁⁰, f₂⁰, w₁₂, w¹₁₂][f₁⁰⁻¹]∩C[f₁⁰, f₂⁰, w₁₂, w²₁₂][f₂⁰⁻¹] est immédiate puisque par(R):

w²₁₂∈C[f₁⁰, f₂⁰, w12, w¹₁₂][f₁⁰⁻¹]et w₁₂¹ ∈C[f₁⁰, f₂⁰, w12, w₁₂² ][f₂⁰⁻¹].

Il reste donc à montrer

C[f₁⁰, f₂⁰, w12, w¹₁₂][f₁⁰⁻¹]∩C[f₁⁰, f₂⁰, w12, w₁₂² ][f₂⁰⁻¹]⊂C[f₁⁰, f₂⁰, w12, w¹₁₂, w²₁₂].

SoitF ∈C[f₁⁰, f₂⁰, w₁₂, w₁₂¹ ][f₁⁰⁻¹]∩C[f₁⁰, f₂⁰, w₁₂, w₁₂² ][f₂⁰⁻¹]: F = P(f₁⁰;f₂⁰;w12;w¹₁₂)

(f₁⁰)^l = Q(f₁⁰;f₂⁰;w12;w²₁₂) (f₂⁰)^m . Par(R):

P(f₁⁰;f₂⁰;w₁₂;w¹₁₂) = P₁(f₁⁰;f₂⁰;w¹₁₂;w²₁₂)w₁₂+P₂(f₁⁰;f₂⁰;w¹₁₂;w²₁₂), Q(f₁⁰;f₂⁰;w12;w²₁₂) = Q1(f₁⁰;f₂⁰;w¹₁₂;w²₁₂)w12+Q2(f₁⁰;f₂⁰;w¹₁₂;w²₁₂)

Ainsi :

((f₂⁰)^mP1(f₁⁰;f₂⁰;w₁₂¹ ;w₁₂² )−(f₁⁰)^lQ1(f₁⁰;f₂⁰;w¹₁₂;w²₁₂))w12

+ ((f₂⁰)^mP₂(f₁⁰;f₂⁰;w¹₁₂;w²₁₂)−(f₁⁰)^lQ₂(f₁⁰;f₂⁰;w¹₁₂;w²₁₂)) = 0.

Orw12est quadratique sur C[f₁⁰, f₂⁰, w²₁₂, w¹₁₂] donc :

(f₂⁰)^mPi(f₁⁰;f₂⁰;w₁₂¹ ;w₁₂² )−(f₁⁰)^lQi(f₁⁰;f₂⁰;w¹₁₂;w²₁₂) = 0, i= 1,2.

{f₁⁰, f₂⁰, w²₁₂, w¹₁₂}sont algébriquement libres donc :

Pi(f₁⁰;f₂⁰;w₁₂¹ ;w₁₂² ) = (f₁⁰)^lRi(f₁⁰;f₂⁰;w¹₁₂;w²₁₂).

Et le résultat est prouvé.

On peut maintenant caractériser les opérateurs différentiels d’ordre 3 en dimension 3.

En notant u_i=



 u¹_i u²_i u³_i



et en définissant : F₁(u₁) = u¹₁;

F2(u1, u2) = u¹₁u²₂−u²₁u¹₂;

F3(u1, u2, u3) = u¹₃(u¹₁u³₂−u³₁u¹₂)−3u²₃(u¹₁u²₂−u²₁u¹₂).

on obtient que l’ensemble{F1, F₂, F₃}de formes multilinéairesG⁰₃-invarian- tes est un système complet deG⁰₃-invariants d’un système de 2 vecteurs.

Par application du théorème 2.6 de Popov, on obtient la preuve du théo- rème 1 et donc, la caractérisation algébrique de l’algèbre A3 des germes d’opérateurs invariants en dimension 3 :

Démonstration. — Il ne reste qu’à justifier l’assertion sur le degré de transcendance. Mais celle-ci est une conséquence immédiate du théorè- me 2.3 qui identifieEk,mT_X,x^∗ avec les sections de OP_kV(m)au-dessus de

(π0,k)⁻¹(x).

Remarque 3.5. — 1) Pour toutk, G⁰_k ⊂SLk, donc par le raisonnement précédent pour déterminer Ak en toute dimension il suffit de déterminer Ak en dimensionk−1.

2) On a montré que le groupe G⁰₃ =











1 0 0

2b₂ 1 0 6b3 6b2 1











⊂U(3)est un groupe de Grosshans deGL₃i.e.,C[GL₃]^G

0

3 est une algèbre de type fini.

De plus, ce groupe n’est pas régulier i.e., normalisé par un tore maximal

car :





λ₁ 0 0 0 λ2 0 0 0 λ₃









1 0 0

2b2 1 0 6b₃ 6b₂ 1









λ⁻¹₁ 0 0 0 λ⁻¹₂ 0 0 0 λ⁻¹₃





=





1 0 0

2b₂λ⁻¹₁ λ₂ 1 0 6b3λ⁻¹₁ λ3 6b2λ⁻¹₂ λ3 1



 ∈/ G⁰₃. On ne peut donc pas appliquer le résultat de L. Tan [18] sur la conjec- ture 2.10 de Popov-Pommerening cité dans les préliminaires pour montrer queG⁰₃ est un sous-groupe de Grosshans.

3) Sans l’utilisation du théorème de Popov, la détermination par un calcul

“à la main” des générateurs deA3semble difficile.

4. Applications géométriques et preuve du théorème 2 Il s’agit d’étudier le fibré E3,mT_X^∗ en dimension 3 pour obtenir sa filtra- tion en représentations irréductibles de Schur qui nous permettra, par un calcul de Riemann-Roch, de calculer sa caractéristique d’Euler. Rappelons (cf. introduction) que E_3,mT_X^∗ est muni d’une filtration dont les termes gradués sont

Gr^•E_3,mT_X^∗ =

⊕

l1+2l2+3l3=m

S^l1T_X^∗ ⊗S^l2T_X^∗ ⊗S^l3T_X^∗ G⁰₃

.

D’après la théorie de la représentation, ces termes gradués se décomposent en représentations irréductibles de Gl(T_X^∗) : les représentations de Schur.

La caractérisation algébrique précédente va nous permettre de trouver les représentations irréductibles qui interviennent dans cette décomposition.

Pour cela, on a besoin de la filtration des 3-jets en dimension 2 : Théorème 4.1. — En dimension 2 on a :

Gr^•E3,mT_X^∗ = ⊕

06γ6^m5

( ⊕

{λ1+2λ₂=m−γ;λ₁−λ2>γ;λ₂>γ}

Γ^(λ1,λ2)T_X^∗).

Démonstration. — On sait que :

A3=C[f₁⁰, f₂⁰, w¹₁₂, w²₁₂][w12] oùw₁₂ⁱ = (f_i⁰)⁴d(_(f^w0¹²

i)³) =f_i⁰(f₁⁰f₂⁰⁰⁰−f₁⁰⁰⁰f₂⁰)−3f_i⁰⁰(f₁⁰f₂⁰⁰−f₁⁰⁰f₂⁰)et3(w₁₂)²= f₂⁰w₁₂¹ −f₁⁰w²₁₂.

A_3,mest une représentation polynômiale deGL₂.La théorie de la repré- sentation (proposition 2.14 et 2.15) nous dit queA3,mest somme directe de

représentations irréductibles qui sont déterminées par les vecteurs de plus haut poids.

Rappelons (définition 2.13) qu’un vecteur est vecteur de plus haut poids s’il est invariant sous l’action deU(2) =

1 ∗ 0 1

. Ici :

V ={(f₁⁰)^α(w₁₂¹ )^γ(w12)^β/ α+ 5γ+ 3β =m}

est clairement un ensemble de vecteurs de plus haut poids, de poids (α+β+ 2γ, β+γ).

On en déduit que chaque représentationΓ^(λ1,λ2)vérifiant {λ1+ 2λ₂=m−γ;λ₁−λ₂>γ;λ₂>γ}

apparaît une et une seule fois dans les représentations déterminées par cet ensemble de vecteurs de plus haut poids. En effet, soit(λ₁, λ₂)un tel couple alors

{α=λ₁−λ₂−γ;β=λ₂−γ}

et(α, β, γ)sont déterminés de manière unique.

On a donc :

Gr^•E3,mT_X^∗ ⊃ ⊕

06γ6^m5

⊕

{λ1+2λ₂=m−γ;λ₁−λ2>γ;λ₂>γ}

Γ^(λ1,λ2)T_X^∗ . Pour avoir l’égalité, il suffit de montrer que l’ensembleV est l’ensemble de tous les vecteurs de plus haut poids,i.e.,:

V = (A3,m)^U(2).

SoitP ∈(A3,m)^U(2):P=P1+P2.w12,avecPi∈C[f₁⁰, f₂⁰, w₁₂¹ , w₁₂² ].

Soitu∈U(2) :u.P =u.P₁+ (u.P₂).w₁₂ caru.w₁₂=w₁₂.

Doncu.P=P⇔u.Pi=Pi (carw12est quadratique par le lemme 3.3).

Donc pour déterminer(A_3,m)^U(2),il nous suffit de déterminer C[f₁⁰, f₂⁰, w¹₁₂, w²₁₂]^U(2).

Soit :u=

1 λ 0 1

∈U(2).

On a les relations suivantes :

u.f₁⁰ = f₁⁰; u.f₂⁰ = λf₁⁰ +f₂⁰; u.w₁₂¹ = w₁₂¹ ; u.w₁₂² = w₁₂² +λw¹₁₂.

Rappelons que{f₁⁰,f₂⁰,w²₁₂,w₁₂¹ }sont algébriquement libres par le lemme 3.4, donc déterminerC[f₁⁰, f₂⁰, w₁₂¹ , w₁₂² ]^U(2) revient à déterminer les invariants du groupe unipotent U(2) qui sont bien connus en théorie classique des invariants (cf.[13] p.87). Donc on a l’égalité :

C[f₁⁰, f₂⁰, w¹₁₂, w²₁₂]^U(2)=C[f₁⁰, w₁₂¹ , f₂⁰w₁₂¹ −f₁⁰w²₁₂] =C[f₁⁰, w¹₁₂,(w12)²].

Finalement on obtient l’inclusion :

(A3,m)^U(2) ⊂C[f₁⁰, w¹₁₂, w12].

Par l’unicité de (α, β, γ)vue précédemment on obtient bien : (A_3,m)^U(2)=V.

On passe maintenant à la preuve du théorème 2 :

Démonstration. — On suit le même schéma que dans la preuve précé- dente.

Soit :

V ={(f₁⁰)^α(w¹₁₂)^γ(w12)^βW^δ / α+ 5γ+ 3β+ 6δ=m}.

V est un ensemble de vecteurs de plus haut poids de poids (α+β+ 2γ+δ;β+γ+δ;δ).

Soit(λ1, λ2, λ3)vérifiant :

(P) :{λ1+ 2λ2+ 3λ3=m−γ,06γ6 m

5;λi−λj>γ, i < j}.

Comme précédemment, on obtient que chaque représentation Γ^{(λ1,λ2,λ3)}T_X^∗ où(λ₁, λ₂, λ₃)vérifie(P)apparaît une et une seule fois dans les représentations déterminées par cet ensemble de vecteurs de plus haut poids. En effet, soit(λ₁, λ₂, λ₃)vérifiant(P).

Alors :

{α=λ1−λ2−γ; β=λ2−λ3−γ; δ=λ3} et(α, β, γ, δ)sont déterminés de manière unique.

Donc on a l’inclusion : Gr^•E_3,mT_X^∗ ⊃ ⊕

06γ6^m₅

⊕

{λ₁+2λ₂+3λ₃=m−γ;λ_i−λ_j>γ, i<j}

Γ^{(λ1,λ2,λ3)}T_X^∗ . Pour avoir l’égalité, il suffit à nouveau de montrer que V est l’ensemble de tous les vecteurs de plus haut poids deA_3,m i.e.,:V = (A_3,m)^U(2).

L’idée importante ici est d’utiliser un argument qui apparait dans la preuve du théorème 2.6 de Popov [12] et permet de voir que le résultat obtenu pour la dimension 2 implique le résultat pour la dimension 3.