D´ emonstration du r´ esultat principal

equivalent `a trouver une paire de domainesω et ˜ω minimisant (5.4). Deux structures naturelles ont ´et´e sugg´er´ees. Consid´erons d’abord

β_rad= inf u∈Mrad

ϕ(u)

o`u Mradest le sous ensemble deMconstitu´e des fonctions radiales. L’on peut montrer que βrad est atteint par une solution radiale v de (5.1) qui poss`ede exactement deux domaines nodaux (voir [4]). Les domaines nodaux de v sont une boule et un anneau. Maintenant soient B^± =

{x∈B;±x_N >0}des demi-boules et notonsMh le sous ensemble deMform´e des fonctions qui sont positives dansB+et negatives dansB−. L’infimum deϕsurMh, not´eβ_h, est atteint et nous avons

β_h= ^p₂⁻_p²S_p(B+)p−^p2 +^q₂⁻_q²S_q(B⁻)q−^q2.

Lorsqueq=petB est remplac´e par un anneau il est d´emontr´e dans [4] queβ≤β_h< β_radsipest suffisament proche de 2^∗. Nous voulons ´etudier ce type d’in´egalit´e dans le cas du probl`eme (5.1). Th´eor`eme 24. Soientβ_h etβ_radcome ci-dessus.

1. SupposonsN ≥2. Si pest suffisament proche de2 et siq est suffisament proche depalors β_h< β_rad. En particulier siq=pest proche de2 alors la conclusion est vraie.

2. SupposonsN ≥3. Soit pfix´e avec2 < p <2^∗. Si q est suffisament proche de 2 ou si q est suffisament proche de 2^∗ alorsβ_rad< β_h.

Une propri´et´e similaire `a la deuxi`eme affirmation est vraie lorsque qest fix´e etpvarie.

Un r´esultat similaire au th´eor`eme 24 est vrai lorsque la condition de Dirichlet dans (5.1) est remplac´ee par une condition de Neumann homog`ene ∂u

∂ν = 0. Le probl`eme de Neumann est ´etudi´e en plus de d´etails dans la section 5.3.

5.2 D´emonstration du r´esultat principal

Afin de d´emontrer le th´eor`eme 24 nous rappelons quelques caract´erisations des minima consid´er´es. Introduisons d’abord quelques notations. Soitω⊂Bun ouvert non vide contenu dansBet notons

Sp(ω) = inf u∈H1 0(ω) R ω|∇u|2dx R ω|u|pdx²_p (5.5)

la meilleure constante de Sobolev pour l’injectionH₀¹(ω),→L^p(ω) avec 2≤p≤2^∗. Lorsqueωest un domaine radial nous notonsSrad

p (ω) l’infimum (5.5) pris sur les fonctions radiales. Notons que siωest une boule alorsSrad

p (ω) =S_p(ω) tandis que siω est un anneau alors ce n’est pas toujours vrai. NotonsAl’ensemble des couples (ω,ω) o`˜ uωet ˜ωsont des ouverts non vides disjoints contenus dansB. Soit r∈]0,1[. NotonsB<sub>r</sub> la boule ouverte de rayonrcentr´ee `a l’origine etA_r=B\B^¯_r l’anneau de rayon ext´erieur unit´e et de rayon int´erieur r.

Proposition 25. Soit2< p, q <2^∗. Alors nous avons les caract´erisations suivantes. β= min (ω,ω˜)∈A p−2 2p S_p(ω)p−^p2 +^q₂⁻_q²S_q(˜ω)q−^q2, (5.6) β_h= ^p₂⁻_p²S_p(B+)p−^p2 +^q₂⁻_q²S_q(B⁻)q−^q2, (5.7) βrad= min 0<r<1min^np₂⁻_p²Sp(Br)p−^p2 +^q₂⁻_q²Srad q (Ar)q−^q2; p−2 2p S_p^rad(Ar)p−^p2 +^q₂⁻_q²Sq(Br)q−^q2 o . (5.8)

De plus le minimum dans (5.6) est atteint si et seulement si ω et ω˜ sont les domaines nodaux d’un minimiseur u pour β. De mˆeme les minima dans (5.8) sont atteints, et ce uniquement par les domaines nodaux d’un minimiseur pourβ_rad.

D´emonstration. Nous prouvons seulement (5.6) car (5.7) et (5.8) se d´emontrent de mani`ere simi-laire. Il est facile de v´erifier queβ d´efini par (5.3) poss`ede la caract´erisation

β = min (ω,ω˜)∈Ac(ω) +c(˜ω), (5.9) o`u c(ω) = inf u∈N(ω) ϕ(u) et N(ω) = u∈H₀¹(ω) ; u >0,hϕ⁰(u), ui= 0

pour tout ouvert non videω⊂B. De plus le minimum dans (5.9) est atteint si et seulement siω et ˜ω sont les domaines nodaux d’un minimiseurudeβ. Remarquons queN(ω) est une vari´et´e de Nehari. L’on sait que

c(ω) = ^p₂⁻_p²Sp(ω)p−^p2 et c(˜ω) = ^q₂⁻_q²Sq(˜ω)q−^q2. La formule annonc´ee en d´ecoule.

Nous utilisons le lemme suivant dans le preuve du th´eor`eme 24 (ce lemme nous a ´et´e communiqu´e par Michel Willem).

Lemme 26. Soit1< p <2^∗ et soientB_r etA_r comme ci-dessus avec0< r <1. Alors lim

r→0S_p^rad(A_r) =S_p(B).

D´emonstration. Soituun minimiseur pourS_p(B). L’on sait queuest une fonction radiale. Soit v ∈ C^∞(_R) tel que 0 ≤ v ≤1, v(r) = 0 pour 0 ≤r ≤ 1 et v(r) = 1 pour r ≥ 2. D´efinissons u_n(x) =v(n|x|)u(x) pourx∈B. Nous avonsu_n →uet v_n(n|x|) ∂u

∂xk → ∂u

∂xk dans L2(B) pour tout 1≤k≤N. D’autre part, par l’in´egalit´e de Hardy nous avons

nu(x)v⁰(n|x|) = ^u(x) |x| ^n|x|v 0(n|x|) ≤2|v⁰|∞ u(x) |x| ^∈L 2(B).

Doncnv⁰(n|x|)u(x)→0 dansL²(B). Il s’ensuit que un →udansH₀¹(B).

MaintenantSp(B)< S_p^rad(Ar) carAr B pour tout 0< r <1. D’autre part sir=_n¹ alors

S_p^rad(Ar)≤ R B|∇u_n|2dx R Bu^pndx^2/p et^R_B|∇un|2dx/ ^R_Bu^p_ndx^2/p→Sp(B) lorsquen→ ∞.

D´emonstration du th´eor`eme 24. Premi`ere affirmation. Soit λr la deuxi`eme valeur propre radiale du Laplacien et soient Br₀ etAr₀ les domaines nodaux d’une fonction propre associ´ee. Alors l’on sait queλ_r=S₂(B_r0) =S₂(A_r0). Soitλ₂(B) la seconde valeur propre du Laplacien. Nous savons que les domaines nodaux d’une fonction propre associ´ee sont exactement deux demi-boules, donc λ₂(B) = S₂(B+) =S₂(B⁻). Puisque λ₂(B) < λ_r nous avons S₂(B_r0) > S₂(B+) et S₂(A_r0) > S₂(B⁻). Consid´erons d’abord l’in´egalit´eS₂(B_r0)> S₂(B+). Par continuit´e il existeδ >0 etc >1 tels que S_p(B_r0) > cS_p(B+) pour tout p ∈ [2,2 +δ]. Donc si δ > 0 est suffisament petit nous avons Sp(Br₀) Sp(B+) _p−^p₂ >2, ∀p∈]2,2 +δ]. De fa¸con similaire,

S_p(A_r0) Sp(B−)

_p−^p₂

>2, ∀p∈]2,2 +δ]. En utilisantS₂(B+) =S₂(B⁻) nous avons

p−2

2p Sp(Br₀)p−^p2 > ^p₂⁻_p²Sp(B⁺)p−^p2 +^p₂⁻_p²Sp(B⁻)p−^p2, ∀p∈]2,2 +δ]. Maintenant par continuit´e,

p−2

2p Sp(Br₀)p−^p2 > ^p₂⁻_p²Sp(B+)p−^p2 +^q₂⁻_q²Sq(B⁻)q−^q2,

pour tout p ∈ ]2,2 +δ] et pour tout q ∈ [p−δ_p, p+δ_p] pour un 0 < δ_p < δ qui d´epend de p. PuisqueS_p(B_r)> S_p(B_r0) lorsquer < r₀, nous avons

inf

0<r<r₀ p−2

2p Sp(Br)p−^p2 +^q₂⁻_q²Sq(Ar)q−^q2 >^p₂⁻_p²Sp(Br₀)p−^p2

>^p₂⁻_p²Sp(B+)p−^p2 +^q₂⁻_q²Sq(B⁻)q−^q2, pour toutp∈]2,2 +δ] et pour toutq∈[p−δ_p, p+δ_p].

De mani`ere similaire, en utilisant le fait que S₂(A_r) > S₂(A_r0) lorsque r > r₀, nous pouvons obtenir que

inf r0<r<1

p−2

2p Sp(Br)p−^p2+^q₂⁻_q²Sq(Ar)q−^q2 > ^p₂⁻_p²Sp(B⁺)p−^p2 +^q₂⁻_q²Sq(B⁻)q−^q2,

pour toutp∈]2,2 +δ] et pour toutq∈[p−δp, p+δp]. En combinant ces in´egalit´es nous obtenons inf

0<r<1

p−2

2p Sp(Br)p−^p2 +^q₂⁻_q²Sq(Ar)q−^q2 > ^p₂⁻_p²Sp(B⁺)p−^p2 +^q₂⁻_q²Sq(B⁻)q−^q2

=βh,

pour toutp∈]2,2 +δ] et pour toutq∈[p−δp, p+δp]. Il est clair que nous pouvons ´echangerp etq dans cet in´egalit´e. Cela prouve la premi`ere affirmation.

Deuxi`eme affirmation. Soitpfix´e avec 2< p <2<sup>∗</sup>. Nous consid´erons d’abord le cas o`uqest proche de 2. Nous avons

S₂(B⁺)> S₂(B) =λ₁(B) =j²N

2−1,1, o`u λ1(B) est la premi`ere valeur propre du Laplacien, etjN

2−1,1 est le premier zero de la fonction de Bessel du premier type et d’ordre N

2 −1. D’apr`es [17] nous avonsS₂(B)> j2 0,1+ N

2 −12

>1. Par continuit´e il existeδ >0 etc >1 tels que

Sq(B⁺)> cSq(Br)>1, (5.10) pour unr >0 fix´e suffisament proche de 1 et pour toutq∈[2,2 +δ]. Posons maintenant

α= p−2 2p Srad p (Ar)p−^p2 −^p₂⁻_p²Sp(B⁻) p p−2 . Il d´ecoule de (5.10) que siδ >0 est suffisament petit alors

S_q(B+)q−^q2 > S_q(B_r)q−^q2 +α_q²₋^q₂, pour toutq∈]2,2 +δ]. Donc

β_h = ^q₂⁻_q²S_q(B+)q−^q2 +^p₂⁻_p²S_p(B⁻)p−^p2

> ^q₂⁻_q²Sq(Br)q−^q2 +^p₂⁻_p²Srad p (Ar)p−^p2

≥βrad.

Consid´erons `a pr´esent le cas o`uqest proche de 2^∗. PuisqueB+ B nous avonsS_p(B+)> S_p(B). Par le lemme 26 nous avons lim_r→0Srad

p (A_r) = S_p(B), donc nous pouvons fixer r > 0 petit tel que p−2 2p Sp(B+)p−^p2 >^p₂⁻_p²Srad p (Ar)p−^p2. D’autre part q−2 2q Sq(Br)q−^q2 → 1 NS^N2 et ^q₂⁻_q²Sq(B⁻)q−^q2 → 1 NS^N2,

lorsque q → 2^∗, o`u S est la constante de Sobolev critique. Par cons´equent, si q est suffisament proche de 2^∗alors

β_h = ^p₂⁻_p²S_p(B+)p−^p2 +^q₂⁻_q²S_q(B⁻)q−^q2

> ^p−_p²S_p^rad(Ar)p²−^p2 +^q₂⁻_q²Sq(Br)q−^q2

≥β_rad.

Pour terminer cette section nous pr´esentons une nouvelle caract´erisation deβet nous en d´eduisons l’existence de minimiseurs poss`edant la sym´etrie foli´ee de Schwarz.

Proposition 27. Soitβ d´efini par (5.3). Notons

˜ ϕ(v) = ^p−2 2p Z Ω |∇v+|2dx _p−^p₂ +^q−2 2q Z Ω |∇v−|2dx _q−^q₂ et Σ = v∈H₀¹(Ω), Z Ω v^p₊dx= 1, Z Ω v₋^q dx= 1

Alors nous avons la caract´erisation

β = inf

v∈Σϕ(v)˜ (5.11) De plus, si u est un minimiseur pour (5.3) alors v ≡ ^u+

ku₊kp − _ku−^u−_k

q est un minimiseur pour (5.11). R´eciproquement, si v est un minimiseur pour (5.11) alors u ≡ R

Ω|∇v₊|2_p−¹₂

v₊ −

R

Ω|∇v₋|2_q−¹2 v₋ est un minimiseur pour (5.3).

D´emonstration. Notons µl’infimum apparaissant dans le membre de droite de (5.11). Si u∈ M

alorsv≡ ^u+

ku₊k_p− ^u−

ku−k_q appartient `a Σ. On peut v´erifier directement que ˜ϕ(v) =ϕ(u) doncµ≤β. D’autre part, siv∈Σ alorsu≡ R

Ω|∇v+|2_p−¹2v+− R

Ω|∇v₋|2_q−¹2v₋ appartient `aM. On peut v´erifier directement que ϕ(u) = ˜ϕ(v) donc β ≤ µ. Les autres affirmations d´ecoulent de ce qui pr´ec`ede.

Soituun minimiseur pour (5.3) et v = ^u+

ku₊kp −_ku−^u−_k

q le minimiseur correspondant pour (5.11). On aϕ(u) = ˜ϕ(v). SoitP un point de∂B et −P le point antipode. On a

vP = ^u+ ku₊kp P−_ku−^u−_k q −P.

D’apr`es les estimations d’´energie pour la sym´etrisation foli´ee de Schwarz rappel´ees dans l’annexe A, il est clair que ˜ϕ(v_P)≤ϕ(v). D’autre part,˜ ϕ(u_P) = ˜ϕ(v_P). Doncu_P est un minimiseur pour