Domaines pseudoconvexes, fonctions plurisousharmoniques

Domaines pseudoconvexes, Fonctions pluri-sous-harmoniques

FrançoisDEMARÇAY

Département de Mathématiques d’Orsay Université Paris-Sud, France

1. Introduction

2. Domaines à bords lisses dansR^d

Soit d > 1un entier, et soient x = (x₁, . . . , x_n) les coordonnées canoniques sur R^d. Rappelons que le bord d’un sous-ensemble quelconque E ⊂ R^d est par définition l’en- semble des points qui ‘hésitent’ entreE et son complémentaire R^d\E, i.e.dont dont tout voisinage intersecteEetR^d\E. Autrement dit (exercice) :

∂E := E

IntE.

PourE = Ω⊂R^dégal à un ouvert :

∂Ω = Ω Ω.

Pour un entier 1 6 κ 6 ∞, la classe C^κ désigne les fonctions κ fois continûment différentiables. Par convention, pourκ=ω, elle désigne la classe des fonctions analytiques réelles, c’est-à-dire partout localement développables en série entière convergente.

Définition 2.1. Un ouvertΩ ⊂ R^dest dit à bord lissede classe C^κ avec1 6 κ 6 ∞, ω en un pointp∈∂Ωs’il existe un voisinage ouvertU 3pdepdansR^d, et une fonction de classeC^κ:

r: U −→ R avec dr(p) 6= 0, tels que :

Ω∩U =

x∈U: r(x)<0 ,

∂Ω∩U =

x∈U: r(x) = 0 .

Une telle fonctionrest appeléefonction définissante localede∂Ωenp.

Sans démonstrations, rappelons quelques énoncés de géométrie différentielle élémen- taire. Par convention,∞ −1 =∞etω−1 =ω.

Lemme 2.2. Sis: V −→ RavecV 3 pouvert est une autre fonctionC^κ avecds(p)6= 0 etΩ∩V ={s <0}ainsi que∂Ω∩V ={s= 0}, alors il existe un sous-voisinage ouvert p∈W ⊂U ∩V et une fonctionλ: W −→Ravecλ(p)>0de classeC^κ−1telle que :

s(x) = λ(x)r(x) ^(∀x∈W).

Le théorème des fonctions implicites montre alors que ∂Ωest une hypersurface réelle de classeC^κ dans un voisinage assez petit dep.

1

Définition 2.3. Un ouvertΩ ⊂ R^dest dità bord lisse de classeC^κ s’il l’est en tout point p∈∂Ω.

Grâce à des partitions de l’unité, il est alors possible de recoller des fonctions définis- santes locales en des points de∂Ω, puis de globaliser la fonction définissante.

Théorème 2.4. Pour un ouvertΩ⊂R^dles deux conditions suivantes sont équivalentes.

(i) Le bord∂ΩestC^κ-lisse en chacun de ses pointsp∈∂Ω.

(ii) Il existe une fonctionC^κ globale :

r: R^d −→ R telle que :

Ω =

x∈R^d: r(x)<0 ,

∂Ω =

x∈R^d: r(x) = 0 et dr(p)6= 0 ∀p ∈ ∂Ω.

Cette dernière condition de non-annulation de la différentielle deren tout point du bord estessentielle, parce qu’elle garantit, grâce au théorème des fonctions implicites, que∂Ω est unehypersurface lisse — sous-variété de codimension1 — de classeC^κ−1deR^d.

La géométrie différentielle élémentaire nous apprend alors qu’en un point quelconque p∈∂Ω, l’espace tangent s’écrit :

T_p∂Ω =

v ∈Rⁿ: 0 =dr(p)(v) = _∂x^∂r

1(p)v₁ +· · ·+ _∂x^∂r

d(p)v_d .

SiΩ = {s < 0}avec ∂Ω = {s = 0}pour une autre telle fonction globales: R^d −→ R, une version globale du lemme qui précède fournit une fonctionλ: R^d−→Ravecλ(p)6= 0 pour toutp∈∂Ωtelle que :

s(x) = λ(x)·r(x) ^(∀x∈R^d),

d’où par différentiation en un point quelconquep∈∂Ω = {r= 0}: ds(p) = dλ(p)·r(p)

◦+λ(p)·dr(p),

ce qui montre que cette définition de l’espace tangent ne dépend pas de la fonction définis- sante globale choisie :

T_p∂Ω =

∂r(p)(v) = 0 =

∂s(p)(v) = 0 .

Lemme 2.5. En tout point p ∈ ∂Ωdu bord d’un domaineΩ ⊂ R^d à bord lisse de classe C^κ, il existe des coordonnées affines centréesx = (x₁, . . . , xd−1, x_d)avecx(p) = 0, avec Tp∂Ω = {xd = 0}, et il existe une fonctionh = h(x1, . . . , xd−1)de classe C^κ−1 définie dans un voisinage ouvert de l’origine dansR^d−1telle que, près dep:

Ω =

x_d=h x₁, . . . , xd−1 ,

∂Ω =

x_d< h x₁, . . . , xd−1 . 3. Inéquation locale pour un bord de domaine dansCⁿ

Soit un domaineΩ⊂Cⁿà bord lisse∂Ω∈C^κ>1, et soit un point quelconque : p₀ ∈ M := ∂Ω.

Après une transformation affine, nous pouvons supposer que les coordonnées (z₁, . . . , z_n)∈Cⁿsont centrées enp₀ = 0qui devient l’origine et telles que :

T_p0M =

y_n = 0 .

3.Inéquation locale pour un bord de domaine dansCⁿ 3

Le théorème des fonctions implicites permet alors de représenter localement le bordM de ce domaine comme graphe au-dessus de son espace tangent horizontalT_p0M :

M:

y_n = F x₁, . . . , x_n−1, y₁, . . . , y_n−1, x_n ,

Ω :

0 > −y_n+F x₁, . . . , x_n−1, y₁, . . . , y_n−1, x_n ,

au moyen d’une certaine fonction localeF de classeC^κpar rapport à ses(2n−1)variables réelles. Comme l’espace tangent à l’origine a été redressée en{y_n= 0}, il vient :

0 = F(0) = Fx1(0) = · · · = Fxn−1(0) = Fy1(0) = · · · = Fyn−1(0) = Fxn(0).

Il sera utile d’abréger : z⁰ := z₁, . . . , zn−1

, x⁰ := x₁, . . . , xn−1

, y⁰ := y₁, . . . , yn−1

, et il est alors naturel de prendre pour fonction définissante implicite locale deΩ ={r <0}:

r(x, y) := −yn+F x⁰, y⁰, xn

.

Le lemme suivant montre que l’on peut toujoursnormaliserles termes d’ordre2en(x⁰, y⁰) dans la fonction graphante F de manière à ce qu’il ne reste qu’une forme hermitienne diagonale en (z₁, . . . , z_n−1). Cette forme hermitienne, que nous redéfinirons plus tard et que nous appelleronsforme de Levi, jouera un rôle absolument fondamental dans la théorie des fonctions de plusieurs variables complexes.

Théorème 3.1. Il existe des coordonnéesholomorpheslocales(z⁰, z_n) = (z₁, . . . , zn−1, z_n) centrées enp₀ = 0 ∈M dans lesquellesΩest localement représenté par l’inéquation :

0 > −y_n+ε₁|z₁|²+· · ·+εn−1|zn−1|²+ O_x⁰_,y⁰(3) +x_nO_x⁰_,y⁰_,xn(1), où :

ε_j ∈

−1,0,+1 (16j6n−1). Ici, la notation O_x⁰_,y⁰(3) désigne une fonction-reste qui ne dépend que des variables (x⁰, y⁰)et est d’ordre>3à l’origine. En négligeant les restes, le bord deΩs’identifie à une simple quadrique d’équation :

yn = ε1|z1|²+· · ·+εn−1|zn−1|².

Quand tous lesε_j = 1, le domaine{y_n > |z₁|² +· · ·+|z_n−1|² est strictement convexe dans toutes les directionsz_j.

Démonstration. En spécifiant la forme générale des termes d’ordre2en(x⁰, y⁰), nous pou- vons écrire l’équation du bordM =∂Ωcomme :

y_n =

n−1

X

j=1 n−1

X

k=1

4a_i,jx_jx_k+ 4b_i,jx_jy_k+ 4c_j,ky_jy_k

+ O_x⁰_,y⁰(3) +x_nO_x⁰_,y⁰_,xn(1), au moyen de certaines constantes réelles aj,k, bj,k, cj,k ∈ R, avec par exemple bj,k :=

1 4

∂²F

∂xj∂yk(0), et il n’est pas nécessaire pour la suite d’arranger les symétries a_k,j = a_j,k

et c_k,j = c_j,k. Le facteur 4est placé à l’avance pour disparaître lorsqu’on exprime cette partie quadratique en fonction desz•et desz•:

n−1

X

j=1 n−1

X

k=1

a_j,k z_j+z_j

z_k+z_k

−b_j,k^√−1 z_j +z_j

z_k−z_k

−c_j,k z_j−z_j

z_k−z_k

=

=

n−1

X

j=1 n−1

X

k=1

z_jz_k

a_j,k−^√−1b_j,k −c_j,k + +z_jz_k

a_j,k+a_k,j+^√−1b_j,k−^√−1b_k,j+c_j,k +c_k,j + +z_jz_k

a_j,k +^√−1b_j,k−c_j,k ,

ce qui fait apparaître de nouvelles constantescomplexesα_j,k ∈Cetε_j,k ∈Ctelles que : z_n−z_n

2^√−1 =

n−1

X

j=1 n−1

X

k=1

α_j,kz_jz_k+

n−1

X

j=1 n−1

X

k=1

ε_j,kz_jz_k+

n−1

X

j=1 n−1

X

k=1

α_j,kz_jz_k+O_x⁰_,y⁰(3)+x_nO_x⁰_,y⁰_,xn(1).

Il n’est pas nécessaire d’assurer les symétriesα_k,j =α_j,k, mais il importe d’observer (exer- cice visuel) l’hermitianité :

ε_k,j = ε_j,k (16j, k6n).

Pour faire disparaître du membre de droite les termes quadratiques holomorphes purs en z•z•, en les déplaçant à gauche :

z_n−2^√−1 P

j

P

k α_j,kz_jz_k− z_n+ 2^√−1 P

j

P

k α_j,kz_jz_k

2 ^√−1 =

n−1

X

j=1 n−1

X

k=1

ε_j,kz_jz_k+restes

nous voyons qu’il suffit d’effectuer le biholomorphisme quadratique :

z₁ := z₁, . . . , z_n−1 := zn−1, z_n := z_n−2^√−1 n−1

X

j=1 n−1

X

k=1

α_j,kz_jz_k,

pour atteindre :

yn =

n−1

X

j=1 n−1

X

k=1

ε_j,kz_jz_k+restes.

Mais quelle est alors la forme de ces nouveaux restes ? Puisqu’il est tout d’abord évident que :

O_x⁰_,y⁰(3) = O_x⁰_,y⁰(3),

un calcul simple pour le deuxième reste montre qu’il conserve aussi la même forme : x_nO_x⁰_,y⁰_,xn(1) = x_n+ O_x⁰_,y⁰(2)

O_x⁰_,y⁰(1) +x_nO_x⁰_,y⁰_,xn(0)

= O_x⁰_,y⁰(3) +x_nO_x⁰_,y⁰_,xn(1).

Pour terminer, une transformation C-linéaire appropriée z⁰ 7−→ H⁰ · z⁰ normalise la forme hermitienneP

j

P

k ε_j,kz_jz_kde manière à la rendre diagonale.

4.Phénomène d’extension de Levi 5

4. Phénomène d’extension de Levi

Nous avons déjà vu qu’une figure de Hartogs bien placée permettait de prolonger toutes les fonctions holomorphes au-delà du bord de certains domaines.

Ω

∂Ω p

y₂

z₁, x₂

Ω

∂Ω p

y₂

z₁, x₂ V

Quand l’un des ε_j = −1 du Théorème 3.1 qui précède est strictement négatif, il est alors possible de placer un petit disque tangentiellement au bord du domaine de manière à ce qu’il soit contenu — excepté l’unique point de contact qui est son centre — dansle domaine, et alors des épaississements appropriés de ce petit disque produisent un analogue de la figure de Hartogs.

Théorème 4.1. [Levi 1909]Soit un domaineΩ⊂C^n>2 à bord lisse∂Ω∈C^∞, localement représenté en un des points de son bord par l’inéquation :

y_n > ε₁|z₁|²+· · ·+εn−1|zn−1|²+ O_x⁰_,y⁰(3) +x_nO_x⁰_,y⁰_,xn(1).

S’il y a un entier16j∗ 6n−1avec :

ε_j∗ = −1, alors il existe un voisinage ouvertV30tel que :

∀f ∈O(Ω) ∃!F ∈O Ω∪V F

Ω = f.

Plus tard, ces ε_j seront réinterprétés comme des valeurs propres d’une certaine forme hermitienne intrinsèque sur l’espace tangentcomplexeT₀^C∂Ω, mais avant d’en venir à cette conceptualisation, il est préférable de transmettre les idées géométriques concrètes.

L’énoncé et les arguments de preuve sont tout aussi vrais en supposant seulement∂Ω∈ C², car il suffit de remplacer partoutO_x⁰_,y⁰(3)paro_x⁰_,y⁰(2).

Démonstration. Détaillons seulement le cas n = 2, puisque le cas général n > 2 s’en déduit par modifications symboliques mineures. AinsiΩest défini par l’inéquation :

y₂ > − |z₁|²+ O_x1,y1(3) +x₂O_x1,y1(1) + O_x2(2).

Pourr >0petit, nous affirmons alors que les disques holomorphes définis, pourz ∈D dans le disque unité, par :

A_z2(z) := rz, z₂

ont un bordA_z2(∂D) ⊂ Ωentièrement contenu dans le domaine, pour tout z₂ ∈ Cassez petit. En effet, demandons pour fixer les idées que :

|x₂| < ¹₂r², |y₂| < ¹₂r², et constatons que l’inégalité, pour|z|= 1, donc pour|z₁|=r:

y₂+|z₁|² = y₂+r² > ¹₂r² >^? O(r³) + O(r²) O(r) + O(r⁴), (4.2)

est effectivement satisfaite parr >0assez petit.

Comme dans la démonstration du théorème de Hartogs, la formule de Cauchy permet alors de prolonger holomorphiquement :

f(z₁, z₂) := 1 2iπ

Z

|ζ|=r

f(ζ, z₂) ζ−z₁ dζ, cela dans l’ouvert :

|z₁|< r, |x₂|< ¹₂ r², |y₂|< ¹₂r² =: V.

Les paragraphes qui suivent sont alors consacrés à des rappels préliminaires à une conceptualisation plus intrinsèque de cette hypothèse spéciale «ε_j∗ =−1».

5. Champs de vecteurs et formes différentielles surR^d

Soitd >1un entier, soientx= (x₁, . . . , x_d)les coordonnées réelles canoniques surR^d et soit un ouvertU ⊂R^d. Les champs de vecteurs réels et les formes différentielles réelles de classeC^κ>1surU s’écrivent :

L =

d

X

i=1

`_i(x) ∂

∂x_i et ω =

d

X

i=1

ω_i(x)dx_i, avec des fonctions-coefficients`i, ωi ∈C^κ(U,R).

Évidemment :

ω(L) = X ω_i`_i.

Complexifions la situation,i.e.tensorisons avecCpour obtenirT U⊗_RCetT^∗U⊗_RC, avec des coefficients à valeurs complexes, décomposés en parties réelles et imaginaires :

`<sub>i</sub>(x) = `⁰_i(x) +^√−1`⁰⁰_i(x) et ω_i(x) = ω⁰_i(x) +^√−1ω⁰⁰_i(x), d’où :

L = L⁰+^√−1L⁰⁰ et ω = ω⁰ +^√−1ω⁰⁰. Évidemment :

ω(L) = ω⁰(L⁰)−ω⁰⁰(L⁰⁰) +^√−1 ω⁰(L⁰⁰) +ω⁰⁰(L⁰) . En particulier,^√−1est une constante librement déplaçable :

ω(^√−1L) = ^√−1ω(L).

De plus l’opérateur de différentiation extérieure satisfait : d ω⁰+^√−1ω⁰⁰) = dω⁰+^√−1dω⁰⁰.

Tout ceci vaut aussi pour des formes différentielles de degrés supérieurs.

Rappelons que pour 0 6 k 6 d entier, une k-forme différentielle de classe C^κ>1 sur U ⊂R^douvert s’écrit :

ω = X

16i1<···<i_k6d

ω_i1,...,ik(x)dx_i1 ∧ · · · ∧dx_ik, et souvenons-nous qu’elle a pour différentielle extérieure :

dω := X

16i1<···<ik6d d

X

j=1

∂ω_i1,...,ik

∂x_j (x)dx_j∧dx_i1 ∧ · · · ∧dx_ik.

6.Champs de vecteurs et formes différentielles surCⁿ 7

La commutativité de Schwarz donne (calcul de révision) : d◦d = 0.

Ensuite, soit un autre ouvertV ⊂R^dmuni de coordonnéesy= (y₁, . . . , y_d), et soit une application de classeC^κ :

φ: V −→ U

y 7−→ x=φ(y).

Latirée en arrièreφ^∗(ω)d’une1-forme différentielleω=ω(x, dx)surU est par définition la1-forme différentielle :

φ^∗(ω) :=

d

X

i=1

ωi φ(y)

d φi(y)

=

d

X

i=1

ωi φ(y)

d

X

j=1

∂φ_i

∂y_j(y)dyj, et il y a une formule analogue pour lesk-formes différentielles.

L’extension aux formes à valeurs complexes est simple : φ^∗ ω⁰ +^√−1ω⁰⁰

= φ^∗(ω⁰) +^√−1φ^∗(ω⁰⁰).

Par conséquent, la conjugaison complexe commute avec l’opération de tirer en arrière : φ^∗ ω⁰+^√−1ω⁰⁰

= φ^∗(ω⁰) +^√−1φ^∗(ω⁰⁰)

= φ^∗(ω⁰)−^√−1φ^∗(ω⁰⁰)

= φ^∗ ω⁰−^√−1ω⁰⁰ .

Souvenons-nous que la barre de conjugaison ne touche niφ^∗(·)nid(·).

6. Champs de vecteurs et formes différentielles surCⁿ

Maintenant, en dimension d = 2nsoit un ouvert Ω ⊂ Cⁿ ∼= R²ⁿ à bord ∂Ω ∈ C^κ au moins deux fois continûment différentiable. D’après ce qui précède, il existe une fonction r: Cⁿ −→ Rtelle queΩ = {r < 0}avec∂Ω = {r = 0}et avecdr(p)6= 0quel que soit r(p) = 0.

Il s’agit maintenant d’analyser l’interaction de la géométrie complexe ambiante de Cⁿ avec la géométrie réelle de de l’hypersurfaceC^κ:

M := ∂Ω.

Commençons par analyser la structure complexe du fibré tangent de Cⁿ lui-même. Les paragraphes qui vont suivre ont beau sembler élémentaires et simples, nous conseillons de les étudier en profondeur.

Pouri = 1, . . . , n, notonsz_i = x_i+^√−1y_i les coordonnées complexes canoniques de Cⁿ, de telle sorte que x_i, y_i sont des coordonnées réelles sur R²ⁿ ∼= Cⁿ. Aussi, notons TCⁿ ∼=TR²ⁿle fibré tangentréelàCⁿ.

Par définition, la structure complexe standard de TCⁿ agit sur les champs de vecteurs unitaires le long des axes comme le ferait une multiplication par^√−1:

J ∂

∂x_i

:= ∂

∂y_i et J

∂

∂y_i

:= − ∂

∂x_i.

Après extension de J par R-linéarité, nous obtenons un automorphisme de fibré J: TCⁿ −→TCⁿqui satisfaitJ² =−Id.

Introduisons aussi le fibré vectorielcomplexeC⊗_RTCⁿ. On vérifie (exercice) que c’est une somme directe :

C⊗_RTCⁿ = T^1,0Cⁿ⊕T^0,1Cⁿ,

de deux fibrés complexes fondamentaux ayant pour fibres respectives, en un point quel- conquep∈Cⁿ:

T_p^1,0Cⁿ :=

X_p−^√−1J(X_p) : X_p ∈T_pCⁿ , T_p^0,1Cⁿ :=

X_p+^√−1J(X_p) : X_p ∈T_pCⁿ , d’où par conjugaisonT^1,0Cⁿ=T^0,1Cⁿ, et de plus{0}=T^1,0Cⁿ∩T^0,1Cⁿ.

Pour16i6n, introduisons les champs de vecteurs :

∂

∂z_i := 1 2

∂

∂x_i −

√−1

2

∂

∂y_i, ∂

∂z_i := 1 2

∂

∂x_i +

√−1

2

∂

∂y_i, ainsi que les différentielles :

dz_i := dx_i+^√−1dy_i, dz_i := dx_i−^√−1dy_i. Les sections locales deT^1,0Cⁿet deT^0,1Cⁿs’écrivent :

n

X

i=1

`i(x, y) ∂

∂z_i et

n

X

i=1

bi(x, y) ∂

∂z_i,

avec des fonctions-coefficients`_ietb_i de classeC^κ dans leurs domaines de définition. Les sections locales deT^∗1,0Cⁿet deT^∗0,1Cⁿs’écrivent :

n

X

i=1

ω_i(x, y)dz_i et

n

X

i=1

$_i(x, y)dz_i. Puisque les transformations biholomorphes locales deCⁿ:

(z1, . . . , zn) 7−→ h1(z1, . . . , zn), . . . , hn(z1, . . . , zn)

=: (z₁⁰, . . . , z⁰_n) stabilisent lesdz•et lesdz•:

dz_i⁰ =

n

X

k=1

∂h_i

∂z_kdz_k et dz⁰_i =

n

X

k=1

∂h_i

∂z_kdz_k, les formes différentielles avecpfoisdz•etqfoisdz•:

η := X

16i1<···<ip6n

X

16j1<···<jq6n

ω_{i1,...,ip;j1,...,jq} x, y

dz_i1 ∧ · · · ∧dz_ip∧dz_j1 ∧ · · · ∧dz_jq

conservent une invariante, et sont appelées pour cette raison des(p, q)-formes.

Sur des fonctionsχ=χ(x, y), définissons premièrement :

∂χ :=

n

X

k=1

∂χ

∂z_k dz_k et ∂χ :=

n

X

k=1

∂χ

∂z_kdz_k, et deuxièmement sur des(p, q)-formes générales :

∂η := X

16i1<···<ip6n

X

16j1<···<jq6n n

X

k=1

∂ω_{i1···ipj1···jq}

∂zk

dz_k∧dz_i1 ∧ · · · ∧dz_ip∧dz_j1∧ · · · ∧dz_jq,

∂η := X

16i1<···<i_p6n

X

16j1<···<j_q6n n

X

k=1

∂ω_i1···i_pj1···j_q

∂z_k dz_k∧dz_i1 ∧ · · · ∧dz_ip∧dz_j1 ∧ · · · ∧dz_jq.

7.Espaces tangents complexes à une hypersurface réelle lisseM²ⁿ⁻¹⊂Cⁿ 9

La commutativité de Schwarz donne :

0 = ∂ ◦∂ = ∂ ◦∂, et puisque :

d = ∂+∂, il vient :

∂◦∂ = −∂◦∂.

7. Espaces tangents complexes à une hypersurface réelle lisseM²ⁿ⁻¹ ⊂Cⁿ Soit à nouveauM = ∂Ω = {r = 0} une hypersurface de Cⁿ qui est le bord lisse de classeC^κ d’un domaine Ω = {r < 0}. En un point p ∈ M, l’espace tangent réel à M s’écrit :

T_pM = n

(v⁰, v⁰⁰)∈Rⁿ×Rⁿ: 0 =P

i

v⁰_{i ∂x}^∂r

i(p) +P

i

v_i⁰⁰_∂y^∂r

i(p)o .

Comme la différentielledr(p) 6= 0 ne s’annule pas, il existe au moins un indicei tel que

∂r

∂xi(p) 6= 0ou _∂y^∂r

i(p)6= 0, donc cette équation est celle d’un hyperplan réel non-dégénéré

∼= R²ⁿ⁻¹ ⊂R²ⁿ.

Avec l’observation simple : 2Re

h

v_i⁰+^√−1v_i⁰⁰

1 2

∂r

∂xi(p)−

√−1 2

∂r

∂yi(p) i

= v⁰_i∂x^∂r

i(p) +v_i⁰⁰_∂y^∂r

i(p), nous pouvons aussi récrire l’équation de cet espace tangent comme :

0 = 2ReP

i

∂r

∂zi(p)v_i, ce qui motive de supprimer cette partie réelle.

Définition 7.1. L’espace tangent complexeen un pointp∈M de l’hypersurfaceM est : T_p^CM :=

v ∈Cⁿ: 0 =P

i

∂r

∂zi(p)v_i . Comme il existe un indice i tel que _∂z^∂r

i(p) 6= 0, il est clair que T_p^CM ∼= Cⁿ⁻¹ est un hyperplan complexe non-dégénéré deCⁿ. Quand nous écrironsv ∈ T^CM, nous sous- entendrons le point de base dev.

Nous affirmons que cet espace tangent complexe est un vrai concept mathématique, à savoir qu’il ne dépend pas du choix de la fonction définissanter et qu’il est invariant par biholomorphismes.

Lemme 7.2. Si s = λ r avec λ > 0sur M = ∂Ωest une autre fonction définissante de Ω ={r <0}={s <0}, alors en tout pointp∈M :

v ∈Cⁿ: 0 = P

i

∂s

∂zi(p)v_i =

v ∈Cⁿ: 0 =P

i

∂r

∂zi(p)v_i .

Démonstration. Puisquer(p) = 0, quand on différenties =λ rpar rapport àzi, le premier terme disparaît :

∂s

∂zi(p) = _∂z^∂λ

i(p)r(p)

◦+λ(p)_∂z^∂r

i(p),

et commeλ(p)>0est non nul, l’ensemble des zéros est le même.

Lemme 7.3. Sih: w7−→h(w) =: zest un biholomorphisme localCⁿ −→Cⁿ:

N ^{h //}

s:=r◦h

((Q

QQ QQ QQ QQ QQ QQ QQ QQ

Q h(N) =M

r

R

qui transforme l’hypersurface réelleM ={r= 0}en l’hypersurface : h⁻¹M =

s :=r◦h = 0 ,

alors sa matrice jacobienne holomorphedhfait se correspondre les espaces tangents com- plexes :

dh T^Ch⁻¹M

= T^CM.

Démonstration. À nouveau, la vérification est simple. Grâce à la règle de la chaîne, une différentiation des(w) =r h(w)

par rapport àwi donne :

∂s

∂wi = P

j

∂r

∂zj

∂hj

∂wi +P

j

∂r

∂zj

∂hj

∂wi◦. Pouru∈T^CN quelconque, nous pouvons donc insérer, réorganiser :

0 = P

i

∂s

∂wiui = P

j

∂r

∂zj

P

i

∂hj

∂wiui

=: P

j

∂r

∂zj vj,

et reconnaître le vecteur v := dh(u) transformé de u par la jacobienne holomorphe de

h.

8. Forme de Levi de bords lissesM =∂Ωde domainesΩ⊂Cⁿ

Maintenant que la structure différentielle du bord à l’ordre 1 est comprise grâce la conceptualisation des espaces tangents complexes T^C∂Ω, il s’agit d’étudier la structure différentielle à l’ordre2des bords lisses de domaines dansCⁿ.

Soit donc un ouvert Ω = {r < 0}représenté par une inéquation définissante locale ou globale. Sur le bordM ={r= 0}, la différentielle ders’annule :

0 = dr

M = ∂r+∂r M,

simplement parce quer y vaut constamment zéro ! Une correction par le facteur multipli- catif−^√−1fait alors voir que la forme différentielle intrinsèque :

−^√−1∂r

M = ^√−1∂r M

estréelle.

Cette forme différentielle est définie à multiplication par une fonction réelle> 0près, puisqu’en remplaçantr par une autre fonction définissantes = λ r avec λ > 0 comme précédemment, il vient :

−^√−1∂s

M = λ −^√−1∂r M

. Pour atteindre l’ordre2, prenons-en la différentielle extérieure :

d − ^√−1∂r

= (∂+∂) − ^√−1∂r

= ^√−1∂∂r.

8.Forme de Levi de bords lissesM=∂Ωde domainesΩ⊂Cⁿ 11

Définition 8.1. Sur un vecteur tangent complexe v ∈ T^C∂Ω, la forme (hermitienne) de Levia pour valeur :

√−1∂∂r − ^√−1v ∧v

= ∂∂r v∧v . Un simple calcul :

∂∂r = ∂ n

X

k=1

∂r

∂z_k dz_k

=

n

X

j=1 n

X

k=1

∂²r

∂z_j∂z_k dz_j∧dz_k, agrémenté d’une connaissance de géométrie différentielle :

dz_j ∧dz_k v ∧v

= dz_j(v)dz_k(v)−dz_k(v)

◦dz_j(v)

◦

= v_jv_k, conduit à la formule fondamentale :

∂∂r v∧v

=

n

X

j=1 n

X

k=1

∂²r

∂z_j∂z_k vjvk.

Lemme 8.2. Le changement de fonction définissantes =λ r donne, en un pointp∈M =

∂Ωet pour tout vecteur tangent complexev ∈T_p^CM :

n

X

j=1 n

X

k=1

∂²s

∂z_j∂z_k(p)vjvk = λ(p)

n

X

j=1 n

X

k=1

∂²r

∂z_j∂z_k(p)vjvk. Preuve. Commev ∈T_p^CM, il vient après conjugaison :

0 =

n

X

j=1

∂r

∂z_j v_j et 0 =

n

X

k=1

∂r

∂z_kv_k. Différentions une première foiss=λ r:

∂s

∂z_k = ∂λ

∂z_k r_◦+λ ∂r

∂z_k, puis une deuxième fois :

∂²s

∂zj∂zk

= ∂²λ

∂zj∂zk

r_◦+ ∂λ

∂zk

∂r

∂zj

+ ∂λ

∂zj

∂r

∂zk

+λ ∂²r

∂zj∂zk

.

Commer = 0 au pointp ∈ M, observons que le premier terme disparaît, sommons, et constatons l’annulation conclusive :

n

X

j=1 n

X

k=1

∂²s

∂z_j∂z_k v_jv_k = ⁿ

X

k=1

∂λ

∂z_k v_k

n

X

j=1

∂r

∂z_j v_j

◦

+ ⁿ

X

j=1

∂λ

∂z_j v_j

n

X

k=1

∂r

∂z_k v_k

◦

+

+λ

n

X

j=1 n

X

k=1

∂²r

∂z_j∂z_kv_jv_k, .

Cetteforme de Leviest clairement une forme hermitienne surT_p^CM ∼= Cⁿ⁻¹, et le fait que l’ambiguïtér 7−→ λ r respecte, viaλ > 0, le fait queΩ est d’un côté bien défini de l’hypersurface M = ∂Ωgarantit que l’on peut parler de son nombre de valeurs propres

>0, et de son nombre de valeurs propres>0. Redéfinissons-la concrètement.

Définition 8.3. Laforme de Levid’un domaineΩ = {r < 0}à bord de classe au moins C²est :

n

X

j=1 n

X

k=1

∂²r

∂z_j∂z_k(p), v_jv_k (p∈M, v∈T_p^CM). Il est aussi possible de la polariser, en prenant deux vecteurs tangents complexes quel- conquesv, w∈T_p^CM :

∂∂r v∧w :=

n

X

j=1 n

X

k=1

∂²r

∂z_j∂z_kv_jw_k

= w₁ · · · w_n







∂²r

∂z1∂z1 · · · _∂z^∂2r

1∂zn

... . .. ...

∂²r

∂zn∂z1 · · · _∂z^∂2r

n∂zn









 v1

... vn



.

Comme T_p^CM ∼= Cⁿ⁻¹, ceci doit plutôt être entendu comme une forme hermitienne à (n−1)variables, ce qui devient plus transparent en revenant à l’équation normalisée locale du bord.

Observation 8.4. Si un ouvertΩ⊂Cⁿà bord∂Ω∈C² a pour inéquation normalisée : 0 > r := −y_n+ε₁|z₁|²+· · ·+εn−1|zn−1|²+ O_x⁰_,y⁰(3) +x_nO_x⁰_,y⁰_,xn(1), alors à l’origineT₀^C∂Ω = Cⁿ⁻¹× {0}et sur des vecteurs v = (v1, . . . , vn−1,0), la forme de Levi a pour matrice hermitienne réduite :





ε₁ · · · 0 ... . .. ... 0 · · · εn−1



.

Preuve. Puisquev_n = 0, il suffit de connaître au point-originep= 0les dérivées croisées

∂²r

∂zj∂zk(0)pour16j, k 6n−1, et leurs valeurs sont immédiatement visibles.

La forme de Levi jouit d’une invariance remarquable vis-à-vis des transformations bi- holomorphes deCⁿ.

Lemme 8.5. Sous les mêmes hypothèses que le Lemme 7.3, la forme de Levi de l’ouvert h⁻¹(Ω) ={s=r◦h <0}en un vecteur tangent complexe quelconqueu∈T^Ch⁻¹M coïn- cide avec la forme de Levi de l’ouvertΩ = {r < 0}en le vecteurv := dh(u)transformé par la matrice jacobienne holomorphe :

n

X

j=1 n

X

k=1

∂²s

∂w_j∂w_k(w) u_ju_k =

n

X

j=1 n

X

k=1

∂²r

∂z_j∂z_k h(w) v_jv_k.

Démonstration. En effet, différentionss(w)≡r h(w)

une fois puis une deuxième fois :

∂s

∂wk = P

i

∂r

∂zi

∂hi

∂wk, _∂w^∂2s

j∂wk = P

i

P

`

∂²r

∂z`∂zi

∂h`

∂wj

∂hi

∂wk, afin de sommer :

P

j

P

k

∂²s

∂wj∂w_k u_ju_k = P

i

P

`

∂²r

∂z_`∂zi

P

j

∂h`

∂wj u_jP

k

∂hi

∂w_k u_k

= P

i

P

`

∂²r

∂z`∂ziv<sub>`</sub>v_i,

9.Plurisousharmonicité de la fonctionz7−→ −log dist(z, ∂Ω) 13

pour reconnaître le vecteur transformév =dh(u)ainsi que son conjugué.

Ainsi, l’hypothèse d’existence d’une valeur propre strictement négativeε_j∗ =−1dans le Théorème 4.1 était invariante et concernait la forme de Levi au point de référence.

Définition 8.6. Un domaineΩ ={r <0} ⊂Cⁿà bord∂Ω∈ C²lisse au moins deux fois continûment différentiable est ditpseudoconvexe au sens de Levilorsque sa forme de Levi est>0en tout pointp∈∂Ω:

0 =

n

X

j=1

∂r

∂z_j v_j =⇒

n

X

j=1 n

X

k=1

∂²r

∂z_j∂z_k(p)v_jv_k > 0 ^(∀p∈∂Ω). Par un argument simple, Levi a donc établi en 1909 que lanon-pseudoconvexité ouvrait la porte de Pandore à un phénomène d’extension de Hartogs. Au contraire, lorsque ∂Ω est pseudoconvexe, l’argument de contrôle par termes quadratiques dans l’inégalité (4.2) échoue. D’ailleurs, on démontre qu’il est impossible de placer des disques holomorphes locaux analogues à ceux de Levi — voire plus généraux, non plats, courbés — de manière à prolonger toutes les fonctions holomorphes au-delà de ∂Ω au moyen de la formule de Cauchy.

Problème de Levi 8.7. Étant donné un domaineΩ⊂Cⁿà bord∂Ω∈C² pseudoconvexe, existe-t-il une fonction holomorphe f^o ∈ O(Ω) qui ne se prolonge holomorphiquement au-delà de∂Ωen aucun pointp∈∂Ω?

Autrement dit :

Problème 8.8. Tout domaine Levi-pseudoconvexe est-il un domaine d’holomorphie? 9. Plurisousharmonicité de la fonctionz 7−→ −log dist(z, ∂Ω)

Dans le chapitre sur les fonctions sous-harmoniques, nous avons démontré qu’une fonc- tion semi-continue supérieurementu: Ω −→ [−∞,∞[définie dans un ouvertΩ ⊂ Cest sous-harmonique si et seulement si :

∀z0 ∈Ω ∀r >0 avec Dr(z0) ⊂ Ω ∀p∈C[z]

u z0+τ

6 ^Rep z0+τ

∀ |τ| = r

=⇒

u z0+τ

6 ^Rep z0+τ

∀ |τ| 6 r

. Nous allons maintenant utiliser ce critère, lequel présente l’avantage de ne requérir que des polynômes, holomorphes dansCentier — donc dansΩ.

Par ailleurs, dans le chapitre sur les domaines d’holomorphie, nous avons démontré que dans un ouvertΩ⊂ Cⁿqui est d’holomorphie, pour tout compactK ⊂Ω, si une fonction f ∈O(Ω)satisfait :

f(z)

6 ^dist z,_{Ω

(∀z∈K), alors elle satisfait aussi en tout point de l’enveloppe holomorpheKb_O(Ω) deK :

f(ζ)

6 ^dist ζ,_{Ω

(∀ζ∈Kb_O(Ω)). Ici, la fonction distancedist =dist_Dⁿ est calculée par rapport à la norme standard :

|z| := max

16i6n|z_i|.

Une grande contribution d’Oka fut de découvrir la sous-harmonicité de la restriction à toutes les droites affines complexes de la fonction :

Ω −→ R

z 7−→ −log dist z, ∂Ω

= −log dist z,_{Ω , qui est continue (exercice).

Plus précisément, pour tout z₀ ∈ Ω et tout vecteur complexe tangent non nul v₀ ∈ T_z^C₀Ω∼=Cⁿ, soit la droite affine :

z₀+Cv₀ :=

z₀+τ v₀: τ ∈C ∼= C. Elle intersecte l’ouvertΩ⊂Cⁿen un certain sous-ouvert non vide deC:

Ω_z0,v0 := Ω∩ z₀+Cv₀ .

Même lorsqueΩest connexe, cesΩ_z0,v0 ne sont pas forcément connexes. Comme on peut changer librement de centre sur une droite affine :

∀z₁ ∈ Ω_z0,v0 Ω_z1,v0 = Ω_z0,v0.

z0+Cv0

z0+Cv0

Ωz0,v0

Ω_z0,v0 ∆ z0

Ωz0,v0

Ω_z0,v0 z0

Ω

v0

Théorème 9.1. [Oka 1942]Si un ouvertΩ⊂Cⁿest un domaine d’holomorphie, alors en tout pointz₀ ∈Ωet pour tout vecteur non nulv₀ ∈T_z^C

0Ω, la fonction : Ω_z0,v0 −→ R

z 7−→ −log dist z, _{Ω est continue etsous-harmoniquedansΩz0,v0.

Démonstration. La continuité étant laissée en exercice, on peut, quitte à recentrer en un point quelconquez₁ ∈Ω_z0,v0, supposer quez₁ =z₀, et chercher à vérifier le critère rappelé ci-dessus.

Soit doncr >0tel que le disque fermé de rayonrdans la droite complexez₀+Cv₀est contenu dansΩ_z0,v0 :

∆ :=

z₀+τ v₀: |τ|6r ⊂ Ω_z0,v0 ⊂ Ω.

Comme la restriction à ce disque ∆ de toute fonction holomorphe f ∈ O(Ω) est une fonction holomorphe de la variable complexeτ ∈Ccontinue sur∆qui satisfait le principe du maximum au bord :

max

|τ|6r

f(z₀+τ v₀)

= max

|τ|=r

f(z₀ +τ v₀) ,

9.Plurisousharmonicité de la fonctionz7−→ −log dist(z, ∂Ω) 15

il est clair que :

∂∆c_O(Ω) ⊃ ∆.

En direction du critère, soit un polynômep∈C[τ]satisfaisant sur le bord de∆:

−log dist z₀+τ v₀, ∂Ω

6 ^Rep(τ) (∀ |τ|=r).

Puisqu’on peut trouver (exercice) un polynômeP ∈C[z₁, . . . , z_n]ànvariables tel que : P z₀+τ v₀

≡ p(τ) (dansC[τ]),

en exponentiant, il vient :

e^−P(z)

6 ^dist z,_{Ω

(∀z∈∂∆), donc la fonction holomorphee^−P(z) ∈O(Ω)dans le domaine d’holomorphieΩsatisfait la même inégalité dans l’enveloppe :

e^−P(ζ)

6 ^dist ζ,_{Ω

(∀ζ∈∆), ce qui équivaut à :

−log dist z₀+τ v₀, _{Ω

6 ^Rep(τ) (∀ |τ|6r),

et achève l’argumentation.

Rappelons qu’étant donné une famille quelconque (ua)a∈A de fonctions continues ou même semi-continues supérieurementu_a: Ω−→[−∞,∞[, la fonction-infimum :

u := inf

a∈Au_a: Ω −→ [−∞,∞[

est toujours semi-continue supérieurement. Ceci est vrai en particulier pour des suites (u_n)^∞_n=1, et comme on doit souvent, en Analyse, prendre des limites — inférieures ou su- périeures — de suites, la découverte d’Oka motive une définition qui introduit un concept central en Analyse Complexe à plusieurs variables.

Définition 9.2. [Oka 1942]Une fonction définie dans un ouvertΩ⊂Cⁿ: u: Ω −→ [−∞,∞[,

la valeur−∞étant autorisée, est diteplurisousharmoniquelorsque : (1) uest semi-continue supérieurement ;

(1) pour tout pointz₀ ∈Ωet pour tout vecteur tangent non nulv₀ ∈T_z^C₀Ω, la restriction de uau sous-ouvertΩ_z0,v0 := Ω∩ z₀+Cv₀

deCest sous-harmonique.

En particulier, la fonctionu≡ −∞est plurisousharmonique.

Bien que dans ce chapitre et ceux qui suivront, nous n’aurons en fait affaire qu’à des fonctions plurisousharmoniques continues à valeurs dans ]− ∞,∞[, la théorie générale demande seulement la semi-continuité supérieure pour plus de flexibilité.

Terminologie 9.3. Un ouvertΩ⊂Cⁿest appelépseudoconvexelorsque la fonction conti- nue :

Ω 3 z 7−→ −log dist z,_{Ω est plurisousharmonique