Études des solutions de quelques équations aux dérivées partielles non linéaires via l'indice de Morse

HAL Id: tel-01495035

https://tel.archives-ouvertes.fr/tel-01495035

Submitted on 24 Mar 2017

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

Foued Mtiri

To cite this version:

Foued Mtiri. Études des solutions de quelques équations aux dérivées partielles non linéaires via l’indice de Morse. Equations aux dérivées partielles [math.AP]. Université de Lorraine, 2016. Français. �NNT : 2016LORR0150�. �tel-01495035�

AVERTISSEMENT

Ce document est le fruit d'un long travail approuvé par le jury de soutenance et mis à disposition de l'ensemble de la communauté universitaire élargie.

Il est soumis à la propriété intellectuelle de l'auteur. Ceci implique une obligation de citation et de référencement lors de l’utilisation de ce document.

D'autre part, toute contrefaçon, plagiat, reproduction illicite encourt une poursuite pénale.

Contact : ddoc-theses-contact@univ-lorraine.fr

LIENS

Code de la Propriété Intellectuelle. articles L 122. 4

Code de la Propriété Intellectuelle. articles L 335.2- L 335.10 http://www.cfcopies.com/V2/leg/leg_droi.php

http://www.culture.gouv.fr/culture/infos-pratiques/droits/protection.htm

Mention: Math´ ematiques

Pr´ esent´ ee par

Foued Mtiri

Sur

Etudes des solutions de quelques ´ equations aux d´ eriv´ ees partielles non lin´ eaires via l’indice de Morse.

Dirig´ ee par: Mr. Abdellaziz Harrabi et Mr. Dong Ye

Soutenue le 25 novembre 2016 devant le jury compos´ e de : Mr. Alberto Farina PR Universit´ e d’Amiens Rapporteur Mme. Sa¨ıma Khenissy MCF Universit´ e de la Manouba Rapporteur Mr. Mohamed Ben Ayed PR Universit´ e de Sfax Examinateur

Mr. Louis Dupaigne MCF Universit´ e de Lyon 1 Examinateur Mr. Louis Jeanjean PR Universit´ e de Besancon Examinateur Mr. Abdelaziz Harrabi MCF Universit´ e de Kairouan Directeur de Th` ese

Mr. Dong Ye PR Universit´ e de Lorraine Directeur de Th` ese

Remerciements

Bien ´ evidemment, c’est ` a mon directeur de th` ese, M. Abdellaziz Harrabi que vont mes pre- miers remerciements. Il a ´ et´ e pour moi, depuis le d´ ebut de mon M1, et tout au long de ma th` ese, un mentor remarquable. Je voudrais lui exprimer ma tr` es profonde gratitude pour m’avoir trans- mis I’envie de faire de la recherche en math´ ematiques, pour m’avoir appris ` a en faire et pour m’avoir offert un sujet de th` ese captivant et original. Sa tr` es grande comp´ etence scientifique, le temps qu’il m’a g´ en´ ereusement accord´ e, ses qualit´ es p´ edagogiques, son enthousiasme et son exp´ erience ont ´ et´ e absolument cruciaux pour la concr´ etisation de cette th` ese. Aussi, c’est par ses qualit´ es humaines qu’il a su rendre ces ann´ ees agr´ eables et enrichissantes.

Je voudrais remercier tout particuli` erement mon directeur de th` ese, M. Dong Ye, pour la con- fiance qu’il m’a accord´ ee en acceptant d’encadrer ce travail doctoral, pour ses multiples conseils et pour toutes les heures qu’il a consacr´ ees ` a diriger cette recherche. J’aimerais ´ egalement lui dire

`

a quel point j’ai appr´ eci´ e ses qualit´ es p´ edagogiques et scientifiques, sa franchise et sa sympathie.

Enfin, j’ai ´ et´ e extrˆ emement sensible ` a ses qualit´ es humaines d’´ ecoute et de compr´ ehension tout au long de ce travail. Je lui suis aussi reconnaissant d’avoir su rester tr` es disponible jusqu’` a la fin de ma th` ese, malgr´ e une vie professionnelle charg´ ee. Bref, un ´ enorme merci !

J’adresse tous mes remerciements ` a M. Alberto Farina ainsi qu’` a Mme. Sa¨ıma Khenissy d’avoir accept´ e de relire cette th` ese et d’en ˆ etre rapporteurs. La version finale de ma th` ese a b´ en´ efici´ e de leur lecture tr` es attentive et de leurs remarques pr´ ecieuses.

Je tiens ` a remercier M. Mohamed Ben Ayed, M. Louis Dupaigne et M. Louis Jeanjean pour l’honneur qu’ils me font d’ˆ etre dans mon jury de th` ese et pour avoir accept´ e d’examiner mon travail.

Je remercie M. Hatem Hajlaoui pour l’aide pr´ ecieuse qu’il m’a apport´ ee au cours de notre collaboration, et pour les nombreuses discussions fructueuses et toujours motivantes que nous avons eues.

Je remercie M. Kamel Troudi qui a su me soutenir, me supporter et m’encourager pendant toute la dur´ ee de ma th` ese et plus particuli` erement durant ces derniers mois.

Je tiens ` a adresser mes remerciement ` a celles et ceux qui se sont int´ eress´ es ` a mon travail et qui ont contribu´ e ` a leur mani` ere ` a l’aboutissement de cette th` ese : Les personnels et les th´ esards du Laboratoire AGTS de Sfax et UMR 7502 (Institut Elie Cartan de Lorraine).

Durant ces trois ann´ ees de th` ese, j’ai assist´ e ` a plusieurs colloques et s´ eminaires qui m’ont ´ et´ e

tr` es b´ en´ efiques ( ` a Metz, ` a Kairouan, ` a Tunis, Nancy...). Je profite de I’occasion pour remercier

les organisateurs, les conf´ erenciers et les participants de toutes ces rencontres.

Mes plus profonds remerciements vont ` a mes parents. Tout au long de mon cursus, ils m’ont toujours soutenu, encourag´ e et aid´ e. Ils ont su me donner toutes les chances pour r´ eussir. Qu’ils trouvent, dans la r´ ealisation de ce travail, l’aboutissement de leurs efforts ainsi que l’expression de ma plus affectueuse gratitude.

Enfin, je remercie ma ch` ere fianc´ ee Wafa pour son soutien quotidien ind´ efectible et son

enthousiasme contagieux ` a l’´ egard de mes travaux comme de la vie en g´ en´ eral.

R´ esum´ e

Cette th` ese porte principalement sur l’´ etude des solutions de certaines ´ equations aux d´ eriv´ ees partielles elliptiques via l’indice de Morse, y compris des solutions stables, i.e. quand l’indice de Morse est ´ egal ` a z´ ero. Elle comporte deux parties ind´ ependantes.

Dans la premi` ere partie, sous des hypoth` eses surlin´ eaires et sous-critiques sur f , on ´ etablit d’abord une estimation explicite de la norme L

^∞

des solutions de −∆u = f (u) avec u = 0 sur le bord, via leurs indices de Morse. On propose une approche plus transparente et plus souple que le travail de Yang [1998], ce qui nous permet de traiter des nonlin´ earit´ es tr` es proches de la croissance critique.

Les r´ esultats obtenus nous ont motiv´ e de travailler sur des ´ equations polyharmoniques (−∆)

^k

u = f (x, u) avec notamment k = 2 et 3. Avec des hypoth` eses semblables ` a Yang [1998]

sur f et des conditions au bord convenables, on obtient pour la premi` ere fois des estimations explicites de solution des ´ equations polyhamoniques, via l’indice de Morse.

Dans la seconde partie, on consid` ere un syst` eme de Lane-Emden

−∆u = ρ(x)v

^p

, −∆v = ρ(x)u

^θ

, u, v > 0, dans

R^N

,

avec 1 < p ≤ θ et un poids radial ρ strictement positif. Nous montrons la non-existence de solution stable en petites dimensions N . Nos r´ esultats am´ eliorent les travaux pr´ ec´ edents de Cowan & Fazly [2012]; Fazly [2012]; Hu [2015], et fournissent notamment des r´ esultats du type Liouville pour solution stable, en petites dimensions N , valables pour tout 1 < p ≤ min(

⁴₃

, θ).

Mots-cl´ es : Indice de Morse, Estimation elliptique, Identit´ e de Pohozaev, ´ Equations poly-

harmoniques, Syst` eme de Lane-Emden avec poids, Th´ eor` eme du type Liouville.

The main concern of this thesis deals with the study of solutions of several elliptic partial differential equations via the Morse index, including the stable solutions, i.e. when the Morse index is zero. The thesis has two independent parts.

In the first part, under suplinear and subcritical assumptions on f , we establish firstly some explicit estimation for the L

^∞

norms of solutions to −∆u = f (u) with u = 0 on the boundary, via its Morse index. We propose an approach more transparent and easier than the work of Yang [1998], which allow us to treat some nonlinearities very close to the critical growth.

These results motivated us to consider the polyharmonic equations (−∆)

^k

u = f (x, u) with especially k = 2 and 3. With the hypothesis on f similar to Yang [1998] and appropriate boundary conditions, we obtain for the first time some explicit estimations of solution via its Morse index, for the polyharmonic equations.

In the second part, we consider a Lane-Emden system

−∆u = ρ(x)v

^p

, −∆v = ρ(x)u

^θ

, u, v > 0, in

R^N

,

with 1 < p ≤ θ and a radial positive weight ρ. We prove the non-existence of stable solution in small dimension case. Our results improve the previous works Cowan & Fazly [2012]; Fazly [2012]; Hu [2015], especially we prove some general Liouville type results for stable solutions in small dimension which hold true for any 1 < p ≤ min(

⁴₃

, θ).

Keywords: Morse index, Elliptic estimate, Pohozaev identity, Polyharmonic equation,

Weighted Lane-Emden system, Stable solution, Liouville type theorem.

Table des Mati` eres

Table des Mati` eres

v

1 Introduction G´ en´ erale

1

Introduction G´ en´ erale

1

1 Estimation explicite des solutions via l’indice de Morse: Cas du Laplacien . . . . 2

1.1 R´ esultats d’existence et de multiplicit´ e . . . . 2

1.2 Indice de Morse et son rˆ ole . . . . 3

1.3 D’autres r´ esultats . . . . 4

1.4 Nos r´ esultats principaux . . . . 4

2 Estimation explicite pour les ´ equations polyharmoniques. . . . . 8

2.1 Estimation explicite des solutions via l’indice de Morse . . . . 9

3 Th´ eor` eme de type Liouville et syst` eme de Lane-Emden. . . . 12

3.1 Th´ eor` eme du type Liouville et indice de Morse . . . . 12

3.2 Equation polyharmonique et classification . . . . ´ 13

3.3 Syst` eme de Lane-Emden classique . . . . 14

3.4 Syst` eme de Lane Emden avec poids . . . . 16

I Estimation explicite des solutions via l’indice de Morse 18 2 Morse Indices of Solutions for Super-linear Elliptic PDE’s

19

Morse Indices of Solutions for Super-linear Elliptic PDE’s

19

1 Introduction . . . . 19

2 Preliminary technical Lemmas . . . . 23

3 Proof of Theorems 2.3 and 2.4 . . . . 27

4 Proof of Theorem 2.5. . . . 30

3 Explicit estimates for solutions to higher order elliptic PDEs via Morse index

34

Explicit estimates for solutions to higher order elliptic PDEs via Morse index

34

1 Introduction . . . . 34

2 Proof for k = 2 . . . . 37

2.1 Preliminaries . . . . 37

2.2 Estimation via Morse index . . . . 42

2.3 Proof of Theorem 3.1 completed . . . . 44

3 Proof of Theorem 3.1 for k = 3 . . . . 45

3.1 Preliminaries . . . . 46

II Th´ eor` eme de type Liouville et syst` eme de Lane-Emden 53 4 Liouville theorems for stable solutions of the weighted Lane-Emden system

54

Liouville theorems for stable solutions of the weighted Lane-Emden system

54

1 Introduction . . . . 54

2 Preliminaries . . . . 57

2.1 Comparison property . . . . 58

2.2 Consequence of stability . . . . 60

2.3 Property of the polynomial H . . . . 61

3 Proofs of Theorem 4.1 and Corollary 3.1. . . . . 62

Bibliographie

68

Chapitre 1

Introduction G´ en´ erale

Sommaire

1 Estimation explicite des solutions via l’indice de Morse: Cas du

Laplacien . . . 2

1.1 R´esultats d’existence et de multiplicit´e . . . 2

1.2 Indice de Morse et son rˆole . . . 3

1.3 D’autres r´esultats . . . 4

1.4 Nos r´esultats principaux . . . 4

2 Estimation explicite pour les ´equations polyharmoniques. . . 8

2.1 Estimation explicite des solutions via l’indice de Morse . . . 9

3 Th´eor`eme de type Liouville et syst`eme de Lane-Emden. . . 12

3.1 Th´eor`eme du type Liouville et indice de Morse . . . 12

3.2 Equation polyharmonique et classification . . . .´ 13

3.3 Syst`eme de Lane-Emden classique . . . 14

3.4 Syst`eme de Lane Emden avec poids . . . 16

Dans cette th` ese, nous nous sommes int´ eress´ es ` a l’´ etude des solutions de certaines ´ equations aux d´ eriv´ ees partielles, via leurs indices de Morse. Plus concr` etement, nous avons travaill´ e sur les estimations explicites des solutions et sur la classification des solutions stables.

ˆ

On ´ etablit d’abord des estimations explicites de norme L

^∞

de solution pour −∆u = f (u) pour une large famille de nonlin´ earit´ e surlin´ eaire et sous-critique. On a notamment am´ elior´ e la technique de Yang [1998], ce qui nous a permis d’une part de trouver une approche plus transparente que Yang, d’autre part de traiter des nonlin´ earit´ es tr` es proches de la croissance critique. Ce travail a ´ et´ e publi´ e dans Nonlineat Analysis.

ˆ

On a ensuite consid´ er´ e le cas polyharmonique: (−∆)

^k

u = f (x, u). Sous des hypoth` eses semblables ` a Yang [1998] sur f et des conditions au bord convenables, on a r´ eussi ` a ´ etablir pour k = 2 et 3, des estimations explicites de la norme infini des solutions en utilisant l’indice de Morse. C’est la premi` ere fois que de telles estimations soient ´ etablies.

ˆ

On a consid´ er´ e dans un troisi` eme travail des r´ esultats du type Liouville pour les solutions stables du syst` eme de Lane-Emden −∆u = ρ(x)v

^p

, −∆v = ρ(x)u

^θ

, u, v > 0 avec 1 < p ≤ θ, et un poids ρ strictement positif admettant une croissance polynomiale ` a l’infini. En

´

etablissant une in´ egalit´ e inverse que celle de Souplet, on a r´ eussi notamment ` a traiter des

cas o` u 1 < p ≤

⁴₃

, qui n’´ etait pas trait´ e jusque l` a.

1 Estimation explicite des solutions via l’indice de Morse: Cas du Laplacien

Dans la premi` ere partie de cette th` ese, on ´ etudie les solutions de certains probl` emes elliptiques surlin´ eaires et sous critiques via leurs indices de Morse.

On s’int´ eresse d’abord ` a l’´ equation semilin´ eaire d’ordre deux:

−∆u = f (x, u) dans Ω,

u = 0 sur ∂Ω, (E

₁

)

o` u Ω est un ouvert born´ e, r´ egulier de

R^N

, f (x, t) est une fonction de C

¹

(Ω ×

R

).

1.1 R´ esultats d’existence et de multiplicit´ e

En dimension N = 1, et avec f(x, s) = g(s) + h(x), Ehrman [1957] et Fucik & Lovicar [1975] ont montr´ e que le probl` eme (E

₁

) admet une infinit´ e de solutions distinctes sous l’unique hypoth` ese

|s|→∞

lim g(s)

s = ∞.

Pour N = 2, Turner [1974] a montr´ e que si f satisfait

C

1

u

^p

≤ f (x, u) ≤ C

2

(1 + u

^p

) avec p < 3, C

1

, C

2

> 0, alors toute solution classique et positive de (E

₁

) satisfait l’estimation ` a priori

kuk

_L∞(Ω)

≤ C.

Ensuite, Nussbaum [1975] a ´ etabli la mˆ eme estimation pour f satisfaisant

|f(x, u)| ≤ C(1 + |u|

^p

) avec p < N + 1

N − 1 . (∗)

Son argument se base sur l’in´ egalit´ e de Sobolev, et l’estimation de la norme L

¹

pour f(x, u)ϕ

1

, o` u ϕ

₁

est une fonction propre qui correspond ` a la premi` ere valeur propre de (−∆) dans H

₀¹

(Ω).

De plus, si Ω est une boule de

R^N

, Nussbaum a ´ etabli des estimations a priori pour toute solution positive ` a sym´ etrie radiale de l’´ equation (E

1

) avec |f(x, u)| ≤ C(1 + |u|

^p

) et p <

^N_N⁺²₋₂

.

Il est clair que c’est difficile d’avoir une conclusion pour le cas g´ en´ eral des nonlin´ earit´ es f , des r´ esultats de multiplicit´ e sont donc ´ etablis souvent sous des contraintes sur la croissance et la forme de f . Par exemple, en dimension N ≥ 2, si f (x, s) = f (s) est une fonction impaire, Coff- man [1969], Hempel [1971], Ambrosetti [1973] et Rabinowitz [1974] ont prouv´ e que le probl` eme (E

₁

) admet une infinit´ e de solutions. Une question qui se pose est alors de savoir si ce r´ esultat reste vrai si on admet une perturbation pour f.

Dans cet esprit, Bahri & Berestycki [1981] ont consid´ er´ e (E

1

) avec f (x, u) = |u|

^p−1

u + h(x).

Ils ont montr´ e que pour N ≥ 2 et p

_N

∈ [1,

^N_N⁺²₋₂

[, d´ esigne la plus grande racine de (2N − 2)p

²

− (N + 2)p − N = 0,

alors le probl` eme (E

1

) admet une infinit´ e de solutions, si 1 < p < p

N

et h ∈ L

²

(Ω). En fait, ils ont construit une suite de solutions (u

_k

), associ´ ees aux valeurs critiques de la fonctionnelle

I(u) =

Z

Ω

1

2 |∇u|

²

− F (x, u)

dx

3

1 Estimation explicite des solutions via l’indice de Morse: Cas du Laplacien

telle que lim

k→+∞

i(u

k

) = +∞. Ici i(u) d´ esigne l’indice de Morse de la solution u, qui est d´ efini comme le maximum des dimensions d’un sous-espace X de C

_c¹

(Ω) qui v´ erifie Λ

u

(ζ) < 0 sur X \ {0} o` u Λ

_u

est juste la diff´ erentielle d’ordre deux de la fonctionnelle I , c’est ` a dire

Λ

u

(ζ) :=

Z

Ω

|∇ζ|

²

dx −

Z

Ω

f

⁰

(x, u)ζ

²

dx, ∀ ζ ∈ C

_c¹

(Ω).

Ici f

⁰

(x, t) :=

^∂f_∂t

(x, t). Cette m´ ethode perturbative utilise essentiellement des estimations sur la croissance des valeurs critiques de I .

Pour le mˆ eme type de non-lin´ earit´ e, Bahri [1981] a ´ etabli l’existence d’une infinit´ e de solu- tions pour (E

1

) si la fonction h appartient ` a un ensemble qui est une intersection d´ enombrable d’ouverts denses dans H

⁻¹

(Ω). Ce r´ esultat a r´ esolu une conjecture d´ evelopp´ ee dans l’article de Bahri & Berestycki [1981]. D’autre part, Bahri & Lions [1988] ont am´ elior´ e les estimations obtenues par Bahri-Berestycki; ils ont remplac´ e le terme forcing h par un terme nonlin´ eaire qui n’est pas n´ ecessairement une fonction impaire. Ils ont montr´ e que pour p ∈ [1,

_N^N₋₂

[ avec N ≥ 2, le probl` eme −∆u = |u|

^p−1

u + h(x, u), u ∈ H

₀¹

(Ω) o` u Ω est un domaine born´ e de

R^N

, admet une infinit´ e de solutions avec une restriction sur l’accroissement sous-critique de h(x, u).

R´ ecemment, ce r´ esultat a ´ et´ e am´ elior´ e par Ramos

et al.

[2009a]. En effet, en utilisant l’indice de Morse des solutions pour le probl` eme non perturb´ e, ils ont obtenu une suite de solutions changeant de signe et pour des nonlin´ earit´ es plus g´ en´ erales et sous des conditions d’accroissement sous-critique plus large.

1.2 Indice de Morse et son rˆ ole

La compr´ ehension des solutions de (E

1

) via leurs indices de Morse s’est r´ ev´ el´ e tr` es int´ eressante grˆ ace au travail de Barhi-Lions, il semble naturel de relier l’indice de Morse ` a certaines propri´ et´ es qualitatives d’une solution. Par exemple, cela peut ˆ etre utile pour montrer l’existence des solutions et pour ´ etablir une estimation uniforme des solutions.

En fait, si on revient ` a la d´ emonstration du r´ esultat d’existence d’une infinit´ e de solutions dans Rabinowitz [1973] en dimension 1, on peut voir qu’il a classifi´ e les solutions par leur nombre de z´ eros dans un diagramme bifurcatif. D’une part, on sait bien que le nombre de z´ eros de solutions nodales est li´ e naturellement ` a l’indice de Morse; D’autre part, un fait crucial de la preuve dans Rabinowitz [1973] est que les branches de bifurcations sont born´ ees et ne peuvent pas aller d’une fonction propre ` a une autre, puisqu’elles ont des nombres de z´ eros distincts. Or, cette derni` ere propri´ et´ e est loin d’ˆ etre vraie en dimension sup´ erieure. L’´ etude du diagramme de bifurcation en utilisant l’indice de Morse au lieu du nombre de z´ eros est sans doute plus compliqu´ ee, mais possible dans certains cas particuliers.

Dans le travail de Zou [2001] (respectivement Yang [2004]), les auteurs ont utilis´ e l’information sur l’indice de Morse des solutions du probl` eme perturb´ e (i.e. avec f (x, s) = |s|

^p−1

s + h(x)). Il est important de constater que dans ces deux travaux, il y a une l´ eg` ere ressemblance avec le diagramme bifurcatif de Rabinowitz [1973] dans le sens que la diff´ erence de l’indice de Morse des solutions du probl` eme perturb´ e empˆ eche les solutions limites de co¨ıncider.

Comme l’indice de Morse permet d’avoir des r´ esultats d’existence, de classification et de r´ egularit´ e (voir la sous-section 3.1.1), il est clairement utile d’essayer de la relier avec d’autres propri´ et´ es de solution, telle que la norme L

^p

, afin de mieux comprendre les ´ equations elliptiques non lin´ eaires. Dans leur travail pionnier, Bahri & Lions [1992] ont montr´ e que si f satisfait :

f

⁰

(x, s)|s|

^−p+1

→ c(x) > 0 uniform´ ement dans Ω, quand s → ±∞,

avec c ∈ C(Ω) et 1 < p <

^N+2_N−2

, alors toute suite de solutions (u

k

) de (E

1

) v´ erifie que i(u

_k

) → ∞ si et seulement si ku

_k

k

_L∞(Ω)

→ ∞.

C’est facile de voir que i(u

k

) reste born´ ee si ku

_k

k

_L^∞_(Ω)

est born´ ee. Pour le sens inverse, Barhi- Lions ont proc´ ed´ e par l’absurde et utilisent un argument de blow-up. Cette technique consiste

`

a un changement d’´ echelle obtenu par dilatation, translation et normalisation, ce qui permet de d´ efinir une nouvelle suite (˜ u

_k

) d´ efinie sur de nouveaux domaines (Ω

_k

), telle que (˜ u

_k

) et son laplacien restent born´ es dans L

^∞

(Ω

_k

). De cette mani` ere, on peut analyser le comportement microlocal concentr´ e autour de l’extremum absolu ` a l’´ echelle macroscopique. En fait, la suite des domaines (Ω

_k

) converge vers l’espace entier

R^N

ou bien vers un demi-espace

R^N₊

, suivant la distance du point de concentration par rapport au bord de Ω modulo le rapport de dilatation.

On obtiendra alors des ´ equations limites d´ efinies sur

R^N

ou bien

R^N+

, et on conclut par des r´ esultats de classification des solutions avec l’indice de Morse fini pour le probl` eme limite (voir plus de d´ etails dans la sous-section 3.1.1)

1.3 D’autres r´ esultats

Harrabi

et al.

[1998b] ont prouv´ e un r´ esultat du type Bahri & Lions [1992] pour (E

₁

), mais avec une non-lin´ earit´ e f n’ayant plus le mˆ eme comportement asymptotique en +∞ et −∞. Ils supposent que :

(H

⁰

) f

⁰

(x, t)

∼

p

⁺

t

^p+−1

en + ∞, f

⁰

(x, s)

∼

p

⁻

|s|

^p−−1

en − ∞, uniform´ ement en x, avec 1 ≤ p

⁻

, p

⁺

<

^N+2_N−2

[ si N ≥ 4 et p

⁻

, p

⁺

∈ [2, 5[ si N = 3. Il est facile de v´ erifier que (H

⁰

) implique

(H) f (x, s)

∼

s

^p+

en + ∞, f (x, s)

∼

|s|

^p−−1

s en − ∞.

Ils ont montr´ e que, sous l’hypoth` ese (H

⁰

), pour toute suite (u

_k

) de solutions de (E

₁

), ku

_k

k

_L∞(Ω)

est born´ ee si et seulement si la suite des indices de Morse i(u

_k

) est born´ ee. La preuve s’adapte de la m´ ethode de Barhi-Lions, sauf que nous utilisons l’argument de blow-up autour du maximum et de minimum de u s´ epar´ ement, et que l’´ equation limite est maintenant de la forme −∆u = u

^p₊

(u

₊

:= max(u, 0)) sur demi-espace ou l’espace tout entier.

Pour l’´ equation de Neumann, i.e.

−∆u = f(x, u) dans Ω

∂u

∂ν

= 0 sur ∂Ω (1.1)

o` u Ω est un domaine born´ e r´ egulier de

R^N

, N ≥ 2 et f est une nonlin´ earit´ e satisfaisant l’hypoth` eses (H

⁰

), Harrabi

et al.

[2011a] ont montr´ e r´ ecemment qu’une suite de solutions (u

k

) de (1.1) est uniform´ ement born´ ee si et seulement si i(u

_k

) reste born´ ee. Dans ce cas, ils ont besoin de la classification des solutions de l’´ equation −∆u = u

^p₊

avec l’indice de Morse fini sur un demi-espace

R^N₊

et associ´ ee ` a la condition de Neumann au bord.

1.4 Nos r´ esultats principaux

Dans le premier travail de cette th` ese, on s’int´ eresse ` a obtenir des estimations de la norme L

^p

de solution du probl` eme de Dirichlet, via l’indice de Morse. Notre approche s’inspire du travail

de Yang [1998], o` u Yang a montr´ e qu’il existe des relations entre les propri´ et´ es analytiques des

solutions de (E

₁

) et les indices de Morse des solutions. Pour la premi` ere fois, Yang [1998] a r´ eussi

5

1 Estimation explicite des solutions via l’indice de Morse: Cas du Laplacien

`

a ´ etablir des estimations explicites en montrant notamment que la norme L

^q

et L

^∞

´ evoluent moins rapidement qu’un accroissement polynomial de l’indice. Il a obtenu ces r´ esultats sous des hypoth` eses mˆ eme plus faibles que celles dans Bahri & Lions [1992]. Sa m´ ethode consiste

`

a adapter les techniques de Bahri-Lions tout en consid´ erant des fonctions tests locales bien choisies.

Introduisons d’abord les hypoth` eses de Yang sur la nonlin´ earit´ e f : (H

₁

) (Sur-lin´ earit´ e) Il existe µ > 0 tel que

f

⁰

(x, s)s

²

≥ (1 + µ)f (x, s)s > 0, ∀ |s| > s

0

, x ∈ Ω.

(H

₂

) (Croissante sous critique) il existe 0 < θ < 1 telle que 2N

N − 2 F(x, s) ≥ (1 + θ)f (x, s)s, ∀ |s| > s

0

, x ∈ Ω.

(H

₃

) Il existe une constante C ≥ 0 satisfaisant

|∇

_x

F(x, s)| ≤ C(F (x, s) + 1), ∀ x ∈ Ω.

Yang [1998] a montr´ e que sous les hypoth` eses (H

₁

)–(H

₃

), alors il existe une constante positive C = C(Ω, f ) telle que toute solution classique u de l’´ equation (E

1

) v´ erifie

ˆ Z

Ω

|f(x, u)|

^p0

≤ C(i(u) + 1)

^α

o` u p

0

= 1 +

(1−θ)N+2(1+θ)^{(1+θ)(N−2)}

et α =

3

2

+

_2+µ³

(2+µ)² 3µ+µ²

;

ˆ

Et il existe une constante 0 < β ≤

_p ^2α

0N(2−p0)

h 2

N(2−p0)

−

_p¹

0

i−1

telle que kuk

_L∞(Ω)

≤ C(i(u) + 1)

^β

.

Le premier but de notre travail est d’obtenir une estimation explicite de la norme L

^∞

de la solution de l’´ equation (E

1

) via l’indice de Morse sous des hypoth` eses plus faibles que (H

1

)–(H

2

).

En plus on va proposer une d´ emonstration plus transparente que celle d´ evelopp´ ee par Yang.

Finalement, notre approche s’adapte ` a des nonlin´ earit´ es tr` es proches de l’accroissement critique, et on montre que dans ce cas, la norme L

^∞

´ evolue moins rapidement qu’un accroissement exponentiel de l’indice. Ce dernier r´ esultat est tout ` a fait nouveau.

Plus pr´ ecis´ ement, on traite le cas o` u f (x, s) = f (s), i.e

−∆u = f (u) dans Ω et u = 0 sur ∂Ω. (E

₁⁰

) Ici Ω est un domaine r´ egulier born´ e de

R^N

avec N ≥ 3. Nos hypoth` eses sur f sont:

(f

0

) Il existe s

0

> 0, C > 0 et γ > 0 tel que

|f (s)|

^N+22N

≥ C|s|

^2+γ

, ∀ |s| > s

0

. (f

₁

) Il existe s

₀

> 0 et C > 0 tel que

C|f (s)|

^N+22N

≤ s

²

f

⁰

(s) − f(s)s, pour |s| > s

0

.

(f

2

) Il existe s

0

> 0 et C > 0 tel que C|f (s)|

^N+22N

≤ 2N

N − 2 F (s) − f (s)s pour |s| > s

₀

, o` u F (s) =

Z t

0

f (t)dt.

On remarque que si les hypoth` eses (H

1

)–(H

2

) de Yang sont v´ erifi´ ees, alors il existe C > 0 tel que

C|f (s)|

^N+22N

≤ µsf(s) ≤ s

²

f

⁰

(s) − sf (s), si |s| > s

₁

, et

C|f(s)|

^N+22N

≤ θf (s)s ≤ 2N

N − 2 F (s) − sf(s), si |s| > s

1

.

Cela signifie que les hypoth` eses (H

1

)–(H

2

) impliquent les conditions (f

1

)–(f

2

). On note aussi que l’hypoth` ese (f

₂

) a ´ et´ e introduite pour la premi` ere fois, dans le travail de Harrabi

et al.

[2011b]

dans le but d’obtenir des estimations L

^∞

au cas radial. On note ´ egalement que (f

2

) couvre une large classe de nonlin´ earit´ e proche de la croissance critique

^N_N⁺²₋₂

. On peut citer l’exemple suivant mentionn´ e dans Harrabi

et al.

[2011b] :

f (s) = |s|

^N−24

s (ln(|s| + 2))

^q

.

Il est facile de voir que f satisfait (f

₀

) et (f

₁

). De plus, pour tout q ≥

^N_N⁺²₋₂

, on a quand |s| → ∞, 2N

N − 2 F (s) − sf (s) ∼ (N − 2)q

2N × |s|

^N−22N

(ln(2 + |s|))

^q+1

= o (sf(s)) . On observe alors que f ne v´ erifie pas l’hypoth` ese (H

2

), mais elle satisfait (f

2

).

Nos principaux r´ esultats sont les suivants:

Th´ eor` eme 1.1 Supposons que f satisfait (f

₀

)–(f

₂

). Alors il existe une constante C = C(Ω, f ) telle que si u ∈ C

²

(Ω) ∩ C(Ω) est une solution de (E

⁰₁

), u v´ erifie

k∇uk

²_L2(Ω)

≤ C(1 + i(u))

^δ

o` u

δ = N + 2

N × max

2(N + 2)(γ + 2)

γN + 6, N

N − 2

2(N + 2)(γ + 2)

γN ) + 4

+ 1

.

Th´ eor` eme 1.2 Supposons que f satisfait (f

₀

)–(f

₂

) et

(f

3

) Il existe q > 0, s

0

> 1 et une constante positive C

⁰

tel que

|f (s)| ≤ C

⁰

|s|

^N+2N−2

(ln |s|)

^q

∀ |s| ≥ s

0

.

Alors il existe une constante C = C(Ω, f ) telle que toute solution u ∈ C

²

(Ω) ∩ C(Ω) de (E

₁⁰

) v´ erifie

kuk

_L^∞

≤ C exp

h

C

_N

(1 + i(u))

^q(N−2)2δ i

.

Ici δ est celle d´ efinie dans le Th´ eor` eme

3.1

et C

_N

est une constante qui ne d´ epend que de N .

7

1 Estimation explicite des solutions via l’indice de Morse: Cas du Laplacien

Un point cl´ e de notre approche est que l’on utilise une fonction test ` a support compact pour

´

etablir une version sp´ eciale de l’identit´ e de Pohozaev. Cela nous permet d’´ eviter les int´ egrales sph´ eriques qui apparaissent dans l’approche de Yang [1998] pour l’estimation des int´ egrales pr` es de ∂Ω et qui sont difficiles ` a contrˆ oler.

Plus pr´ ecis´ ement, on d´ ecompose Ω comme dans la preuve de Yang [1998], et consid` ere Ω

1,R

:=

x ∈ Ω : dist(x, ∂Ω) > R 2

et Ω

2,R

:=

x ∈ Ω : dist(x, ∂Ω) ≤ R 3

.

La difficult´ e principale est l’estimation de u pr` es du bord ∂Ω, c’est ` a dire sur Ω

2,R

. Pour couvrir Ω

_2,R

, on choisit comme Yang des boules dont les centres se situent dans

Γ(R) :=

x ∈

R^N

\Ω : dist(x, ∂Ω) = R 20

.

Puis on multiplie l’´ equation (E

₁⁰

) par ψ∇u · n avec n(x) := x − y et ψ une fonction positive

∈ C

_c²

(B

R

(y)), o` u B

R

(y) d´ esigne la boule de centre y et de rayon R. En utilisant le fait que ν · n ≤ 0 sur ∂Ω

_R

(y), o` u ∂Ω

_R

(y) := ∂Ω ∩ B

_R

(y) et ν d´ esigne le vecteur unit´ e normal ext´ erieur

`

a ∂Ω, on a

Z

∂Ω_R(y)

(n · ∇u)(ν · ∇u) − 1

2 ν · n|∇u|

²

ψdσ ≤ 0.

Ainsi l’identit´ e de Pohozaev avec ψ∇u · n implique que

Z

Ω

2N

N − 2 F (u) − f (u)u

ψdx

≤ CRk∇ψk

_∞

"

k∇uk

²_L2(A_R,ψ(y))

+

Z

AR,ψ(y)

F (u)dx

#

+ Ck∆ψk

_∞

kuk

²_L2(A_R,ψ(y))

,

(1.2)

avec

A

_R,ψ

(y) = B

_R

(y) ∩ Ω ∩ {∇ψ 6= 0}.

En prenant ψ une focntion de troncature telle que ψ ≡ 1 sur B

_R/2

(y), cela nous permet de contrˆ oler l’int´ egrale sur B

_R/2

(y) ∩ Ω par une int´ egrale sur A

_R,ψ

(y), et d’obtenir des preuves plus faciles que Yang [1998]. Par contre, sous les hypoth` eses (f

0

)–(f

2

), l’estimation locale de la norme L

²

de ∇u via i(u) est plus difficile ` a obtenir que sous les hypoth` eses (H

₁

)–(H

₃

). On a besoin d’´ etablir une estimation int´ erieure afin d’avoir une d´ ependance explicite en fonction de i(u). Pour cela, on consid` ere les domaines suivants:

A := A

^b_a

= {x ∈

R^N

; a < |x − y| < b}, A

_R,ψ

(y) ⊂ A

_ρ

:= A

^b−ρ_a+ρ

pour 0 < ρ < b − a 4 . Par l’estimation elliptique, il existe une constante C > 0 d´ ependant uniquement de N tel que

k∇uk

²_L2(Aρ∩Ω)

≤ C

kf k

²

L^N+22N (A∩Ω)

+ 1

ρ

²

kuk

²_L2(A∩Ω)

. (1.3)

Maintenant, en utilisant le faite que i(u) < ∞ et en travaillant avec des fonctions de tronca- ture sur des anneaux disjoints, on peut montrer qu’il existe a et b convenables tels que

Z

Ω∩A^b_a

|f(u)|

^N+22N

dx ≤ C(1 + i(u))

²⁽

γ+2 γ )

.

Associant ceci avec les in´ egalit´ es (1.2) et (1.3), on peut conclure que kf (u)k

²

L^N+22N (Ω)

≤ C(1 + i(u))

^δ

,

avec δ du Th´ eor` eme 3.1. Ensuite, par l’in´ egalit´ e de Sobolev-Gagliardo-Nirenberg, on d´ eduit que k∇uk

_L2(Ω)

≤ C(1 + i(u))

^δ

.

Si la nonlin´ earit´ e f satisfait de plus la condition (f

3

), l’estimation de k∇uk

_L2(Ω)

permet d’appliquer alors la technique de Brezis & Kato [1978] pour obtenir une estimation explicite de la norme L

^∞

de u, via son indice de Morse.

Dans ce premier travail, on a r´ evis´ e ´ egalement le Th´ eor` eme 1.2 dans Yang [1998], et on obtient une estimation de la norme L

^∞

des solutions de (E

1

) sous les hypoth` eses (H

1

)–(H

3

).

Th´ eor` eme 1.3 Supposons que f satisfait (H

₁

)–(H

₃

). Alors il existe une constante C = C(Ω, f ) telle que si u ∈ C

²

(Ω) ∩ C(Ω) est une solution de (E

1

), u v´ erifie

k∇uk

²_L2(Ω)

≤ C(i(u) + 1)

^α0

et kuk

_L^∞

≤ C(i(u) + 1)

^β0

o` u

α

⁰

= 4

µ + 3 et β

⁰

= 3µ + 4 3µθ

3N

²

(1 − θ) + N (7θ − 4) − 2θ + 12 N (N − 2)

²

.

Notre preuve est encore une fois plus transparente et plus simple que celle de Yang, qui donne une l´ eg` ere am´ elioration de l’estimation de la norme L

^∞

donn´ ee par Yang [1998] quand N devient large.

2 Estimation explicite pour les ´ equations polyharmoniques.

Dans cette section, on consid` ere les ´ equations polyharmoniques (E

_k

) : (−∆)

^k

u = f (x, u) dans Ω, k ≥ 2, avec soit les conditions de Dirichlet au bord

u = ∂u

∂ν = . . . = ∂

^k−1

u

∂ν

^k−1

= 0 sur ∂Ω; (2.1)

soit les conditions de Navier au bord

u = ∆u = . . . = ∆

^k−1

u = 0 sur ∂Ω. (2.2) Ici Ω est un ouvert born´ e r´ egulier de

R^N

avec N > 2k et f est une fonction C

¹

(Ω ×

R).

L’indice de Morse d’une solution classique u de (E

_k

), not´ ee par i(u), est le maximum des dimensions de sous-espace Σ tel que Λ

_u

(φ) < 0 sur Σ \ {0} avec

Λ

u

(φ) :=

Z

Ω

h

|D

^k

φ|

²

− f

⁰

(x, u)φ

² i

dx ∀ φ ∈ Σ, o` u

D

^k

u :=

(

∇(∆

^k−12

u) si k est impair,

∆

^k2

u si k est pair;

et

Σ

k

:=

(

H

₀^k

(Ω) si on travaille avec (2.1);

n

φ ∈ H

^k

(Ω), φ = ∆φ = ... = ∆

^{[k−12 ]}

φ = 0 on ∂Ω

o

si on travaille avec (2.2).

9

2 Estimation explicite pour les ´equations polyharmoniques.

Une solution u de (E

k

) est dite stable si Λ

u

(φ) ≥ 0 pour tout φ ∈ Σ, autrement dit si son indice de Morse est ´ egale ` a z´ ero.

Pour le cas avec les conditions de Dirichlet au bord, Soranzo [1994] a ´ etabli des estimations a priori pour les solutions positives ` a sym´ etrie radiale de (−∆)

^k

u = |u|

^p−1

u avec 1 ≤ p <

^N_N^+2k_−2k

par une l´ eg` ere modification de la m´ ethode de blow-up de Gidas & Spruck [1981]. Ce r´ esultat a

´

et´ e g´ en´ eralis´ e par Reichel & Weth [2009] d’une part pour tout domaine born´ e et r´ egulier Ω et solution u changeant de signe, d’autre part pour l’´ equation polyharmonique Lu = f(x, u), o` u L est un op´ erateur uniform´ ement elliptique d’ordre 2k donn´ e par

L =

N

X

i, j=1

a

_ij

(x) ∂

²

∂x

_i

∂x

_j k

+

X

|α|≤2m−1

b

_α

(x)D

^α

.

Ils ont utilis´ e ´ egalement la m´ ethode de blow-up, en se basant sur leur r´ esultat de type Liouville pour l’´ equation sous critique (−∆)

^k

u = u

^p

avec 1 ≤ p <

^N+2k_N−2k

dans le demi espace

R^N+

, avec des conditions de Dirichlet sur ∂R

^N₊

.

Pour le cas avec les conditions de Navier au bord, en se basant sur l’identit´ e de Pohozaev, la technique du plan mobile (moving plane method en anglais) et un argument de boot-strap, Soranzo [1994] a ´ etabli des estimations a priori L

^∞

des solutions positives de (−∆)

^k

u = |u|

^p−1

u avec un domaine born´ e, r´ egulier et convexe Ω.

2.1 Estimation explicite des solutions via l’indice de Morse

Dans ce deuxi` eme travail de cette th` ese, on souhaite obtenir des estimations explicites de so- lutions aux ´ equations polyharmoniques, via les indices de Morse, ce qui semble un th` eme de recherche compl` etement vierge. Comme la situation est bien plus complexe que le cas du lapla- cien, notre principal objectif est de nous concentrer sur les cas k = 2 et k = 3. Sous des conditions appropri´ ees sur f, on a r´ eussi ` a montrer que la norme L

^∞

d’une solution classique

´

evolue moins rapidement qu’un accroissement polynomial de son indice de Morse i(u). Plus pr´ ecis´ ement, on a consid´ er´ e les probl` emes suivants:

(−∆)

²

u = f (x, u) dans Ω; u = ∆u = 0 sur ∂Ω. (E

₂

) et

(−∆)

³

u = f (x, u) dans Ω; u = ∂u

∂ν = ∂

²

u

∂ν

²

= 0 sur ∂Ω. (E

₃

) Voici nos hypoth` eses sur la nonlin´ earit´ e f qui reprennent celles de Yang [1998].

(H

1

) Il existe µ > 0 tel que f

⁰

(x, s)s

²

≥ (1 + µ)f (x, s)s > 0, ∀ |s| > s

0

et x ∈ Ω.

(H

2

) Il existe 0 < θ < 1 telle que 2N

N − 2k F (x, s) ≥ (1 + θ)f (x, s)s, ∀ |s| > s

0

, x ∈ Ω.

(H

₃

) Il existe une constante C ≥ 0 satisfaisant |∇

_x

F (x, s)| ≤ C(F (x, s) + 1) pour tout x ∈ Ω.

Nos principaux r´ esultats sont les suivants:

Th´ eor` eme 1.4 Si u est une solution classique de (E

2

) avec f ≥ 0 satisfaisant (H

1

)–(H

3

) dans

R+

ou bien si u est une solution classique de (E

3

) avec f satisfaisant (H

1

)–(H

3

), alors il existe une constante positive ind´ ependante de u tel que

Z

Ω

|f (x, u)|

^pk

dx ≤ C(i(u) + 1)

^αk

,

o` u p

_k

=

N(1−θ)+2k(1+θ)^2N

et α

_k

=

^4k(µ+1)_µ

pour k = 2 ou 3 respectivement.

Comme f admet une croissance sous-critique, En utilisant une it´ eration standard de boot- strap, on peut prouver que

Th´ eor` eme 1.5 Sous les hypoth` eses du Th´ er` eme

1.4, il existe une constante positive

C telle que toute solution de (E

_k

) v´ erifie, pour k = 2 ou 3 respectivement

kuk

_L^∞_(Ω)

≤ C(i(u) + 1)

^βk

, avec β

k

= 2kα

k

p

_k

N (2 − p

_k

)

2k

N (2 − p

_k

) − 1 p

_k

−1

, α = 4k(µ + 1)

µ ,

et p

k

d´ efini dans le Th´ eor` eme

1.4.

Notre approche s’inspire du travail de Hajlaoui

et al.

[2015], nous gardons les mˆ emes notations que dans le cas du laplacien, mais la consid´ eration est bien plus difficile que le cas de (E

1

).

Pour l’´ etude de (E

2

), on d´ ecompose le domaine Ω comme dans le cas du Laplacien, et on va

´

etablir des estimations L

^p

locale via l’indice de Morse. Voyons d’abord l’identit´ e de Pohozaev avec ψ∇u · n o` u n(x) := x − y et ψ est une fonction positive dans C

_c²

(B

_R

(y)). Soit u une solution de (E

₂

), alors on obtient

2N N − 4

Z

Ω

F (x, u)ψdx + 2 N − 4

Z

Ω

∇

_x

F(x, u) · nψdx −

Z

Ω

(∆u)

²

ψdx

= − 4

N − 4

Z

Ω

∆u∇

²

u(∇ψ, n)dx + 1 N − 4

Z

Ω

(∇ψ · n)(∆u)

²

dx (2.3)

− 4 N − 4

Z

Ω

(∇u · ∇ψ)∆udx − 2 N − 4

Z

Ω

(∇u · n)∆u∆ψdx

− 2 N − 4

Z

Ω

F (x, u)∇ψ · ndx − 2 N − 4

Z

∂ΩR(y)

∂∆u

∂ν (∇u · n)ψdσ.

Le choix de conditions de Navier ´ etait en fait motiv´ e pour avoir le bon contrˆ ole du terme au bord. Comme on suppose que f ≥ 0, les conditions de Navier permettent de dire que u ≥ 0 et

−∆u ≥ 0 dans Ω, cela implique que le dernier terme de (2.3) soit n´ egatif.

En associant avec les hypoth` eses (H

₁

)–(H

₃

), on peut montrer que pour R < R

₀

(Ω),

Z

Ω

f (x, u)uψdx +

Z

Ω

(∆u)

²

ψdx

≤ CRk∇ψk

_∞ Z

AR,ψ(y)

f (x, u)udx + CR

² Z

AR,ψ(y)

|∇

²

(u∇ψ)|

²

dx + C

1 + Rk∇ψk

_∞

k∆uk

²_L2(A_R,ψ(y))

+ C

R

²

k∇(∆ψ)k

²_∞

+ k∆ψk

²_∞

kuk

²_L2(A_R,ψ(y))

+ CR

²

k∆ψk

²_∞

+ 1

R

²

k∇ψk

²_∞

+ k∇

²

ψk

²_∞

k∇uk

²_L2(AR,ψ(y))

+ CR

^N

.

(2.4)

D’autre part, soit u une solution de l’´ equation (E

2

) avec l’indice de Morse fini. En prennant les

fonctions de test sous forme uφ

^m

o` u φ repr´ esente des fonctions de troncature sur des anneaux

11

2 Estimation explicite pour les ´equations polyharmoniques.

disjoints, on peut obtenir sous l’hypoth` ese (H

1

) que il existe des constantes a < b bien choisies telles que

Z

A^b_a∩Ω

(∆u)

²

dx +

Z

A^b_a∩Ω

f(x, u)udx ≤ C

1 + i(u) R

^4µ+8_µ

.

Comme d´ ej` a mentionn´ e, le travail ici est plus complexe que le cas du Laplacien, car le d´ eveloppement de |∆(uφ

^m

)|

²

g´ en` ere beaucoup de termes d’int´ eraction et on doit les bien estimer tous.

On remarque aussi que (H

₁

) implique kuk

²_L2(A∩Ω)

≤ C

Z

A∩Ω

f(x, u)udx

²

2+µ

+ C.

D’autre part, avec l’estimation elliptique, il existe C > 0 dependant que de N telle que pour toute fonction u ∈ H

²

(Ω) ∩ H

₀¹

(Ω) and 0 < ρ < min(1,

^b−a₄

),

k∇uk

²_L2(Aρ∩Ω)

≤ C 1

ρ

²

kuk

²_L2(A∩Ω)

+ k∆uk

²_L2(A∩Ω)

.

En consid´ erant les termes ` a droite dans (2.5), il reste le terme avec ∇

²

(u∇ψ) ` a estimer.

En remarquant que u∇ψ = 0 sur ∂Ω, la th´ eorie elliptique nous dit que k∇

²

(u∇ψ)k

_L2(Ω)

≤ C

_Ω

k∆(u∇ψ)k

_L2(Ω)

, ce qui nous permet donc de conclure.

Pour l’´ equation (E

₃

), comparant ` a (E

₂

), en repla¸ cant les conditions de Navier par les condi- tions de Dirichlet au bord, on n’impose plus la conditions du signe ` a f , ni ` a la solution u. Encore une fois, le choix des conditions de Dirichlet est motiv´ e pour bien contrˆ oler les termes aux bord qui apparaissent dans la formule de Pohozaev associ´ ee ` a ψ∇u · n avec n(x) = x − y. Mˆ eme si on proc` ede similairement comme pour (E

2

) ou encore (E

1

), il y a des difficult´ es suppl´ ementaires qui surgissent dans chaque ´ etape.

On peut voir d’abord qu’il y a beaucoup de termes nouveaux dans le d´ eveloppement de

|∇∆(uφ

^m

)|

²

que nous devons contrˆ oler. Par exemple, nous avons eu besoin de montrer que pour tout m ≥ 3 et tout > 0, il existe C > 0 telle que ∀ u ∈ H

₀³

(Ω) et φ ∈ C

⁶

(Ω), on a

Z

Ω

h

(∆u)

²

|∇φ

^m

|

²

+ |∇u|

²

|∇

²

φ

^m

|

²

+ |∇u|

²

(∆φ

^m

)

²

+ |∇

²

u|

²

|∇φ

^m

|

²i

dx

≤

Z

Ω

|∇(∆u)|

²

φ

^2m

dx + C

Z

Ω

u

²

[φ]

6

φ

^2m−6

dx, o` u

[φ]

6

(x) =

X

|β1|+...+|βp|=6,|βi|≥1 p

Y

i=1

|∂

_βi

φ(x)|.

Dans le mˆ eme registre, suite ` a l’identit´ e de Pohozaev pour (E

3

), on est amen´ e ` a bien ´ etudier des termes comme

Z

AR,ψ(y)

∇(∆u)∇

h

∇

²

u(n, ∇ψ) + ∇u∇ψ

i

dx +

Z

Ω

∆ψ∇(∆u)∇(n · ∇u)

dx.

3 Th´ eor` eme de type Liouville et syst` eme de Lane-Emden.

Dans la deuxi` eme partie de cette th` ese, on traite le probl` eme de classification des solutions stables pour un syst` eme du type Lane-Emden non-autonome:

−∆u = ρ(x)v

^p

, −∆v = ρ(x)u

^θ

, u, v > 0, dans

R^N

(3.1) o` u 1 < p ≤ θ.

Le probl` eme du type (3.1) trouve son origine dans la description de plusieurs ph´ enom` enes physiques, astrophysiques, chimiques et biologiques. Il a ´ et´ e trait´ e par beaucoup d’auteurs. Le but de notre travail est d’´ etablir des r´ esultats de non-existence (du type Liouville) de solution stable pour (3.1) sous des conditions convenables sur ρ.

3.1 Th´ eor` eme du type Liouville et indice de Morse

En analyse complexe, le th´ eor` eme de Liouville affirme que toute fonction holomorphe et born´ ee sur

C

est constante. Cela se g´ en´ eralise comme suit: toute fonction harmonique −∆u = 0 sur

R^N

telle que u ∈ L

^∞

(

R^N

) est forc´ ement constante.

Dans le c´ el` ebre papier de Gidas & Spruck [1981a], les auteurs ont prouv´ e que l’´ equation

−∆u = |u|

^p−1

u dans

R^N

(3.2)

n’admet pas de solutions classiques positives non triviale si 1 < p < p

s

:=

^N_N⁺²₋₂

et N ≥ 2. Une preuve plus simple de ce r´ esultat bas´ ee sur la m´ ethode du plan mobile, a ´ et´ e donn´ ee ensuite par Chen & Li [1991].

Pour le cas du demi-espace, Gidas & Spruck [1981a] ont montr´ e que si u est une solution classique et positive de

−∆u = |u|

^p−1

u dans

R^N₊

(3.3)

avec la condition de Dirichlet sur le bord ∂

R^N₊

, alors u ≡ 0 si p ≤ p

_s

. Ce r´ esultat a ´ et´ e ´ etendu par Dancer [1992] pour 1 < p <

^N_N⁺¹₋₃

si N ≥ 3, ce qui montre d´ ej` a que l’exposant critique de Sobolev p

_s

n’est pas toujours une valeur critique pour les th´ eor` emes du type Liouville. Tout r´ ecemment, Chen

et al.

[2014b] ont ´ etabli un r´ esultat tr` es g´ en´ eral: Soit u une solution positive et born´ ee de −∆u = f (u) sur

R^N+

avec u = 0 sur ∂

R^N+

,

f ∈ C

¹

(R

+

) ∩ C

²

(R

+

), f (0) = 0 et f convexe, alors u ≡ 0.

Pour (3.2) ou (3.3), il est clair que des solutions changeant de signe existent pour tout p > 1.

Donc la question qui se pose est de savoir sous quelle propri´ et´ e qualitative peut-on esp´ erer un th´ eor` eme du type Liouville. Dans cette direction, Bahri & Lions [1992] ont r´ eussi ` a relier la probl´ ematique ` a l’indice de Morse. En fait, ils ont montr´ e que si u est une solution born´ ee de (3.2) avec i(u) < ∞ et p < p

s

, alors u ≡ 0. De plus, pour p = p

s

et N ≥ 3, Caffarelli

et al.

[1989] et Chen & Li [1991] ont montr´ e que toute solution positive non triviale de (3.2) s’´ ecrit sous la forme

u(x) =

" p

N (N − 2)λ λ

²

+ |x − x

0

|

²

#^N−2₂

, avec λ > 0, x

0

∈

R^N

.