Théorèmes de points critiques pour des fonctionnelles symétriques fortement indéfinies et applications

Théorèmes de points critiques pour des fonctionnelles

symétriques fortement indénies et applications

par

Cyril Joël Batkam

Thèse présentée à la Faculté des Sciences

en vue de l'obtention du grade de

Philosophiæ Doctor (Ph.D.)

en Mathématiques

Faculté des Sciences

Université de Sherbrooke

Le 22 Août 2014

le jury a accepté la thèse de Monsieur Cyril Joël Batkam dans sa version nale.

Membres du jury

Professeur Fabrice Colin Directeur de recherche

Département de Mathématiques et d'Informatique Université Laurentienne

Professeur Tomasz Kaczynski Codirecteur de recherche Département de Mathématiques

Professeur Jean-Marc Belley Membre interne

Département de Mathématiques

Marlène Frigon Professeure Membre externe

Département de Mathématiques et de Statistique Université de Montréal

Professeure Vasilisa Shramchenko Président-rapporteur Département de Mathématiques

Je dédie ce travail :

À ma mère À Fostin Tchatchoua À la mémoire de Jonas Tankoua

RÉSUMÉ

Dans cette thèse, nous utilisons le degré et la topologie τ introduits en 1996 par Kryszewski et Szulkin pour généraliser, au cas des fonctionnelles fortement indénies, les théorèmes de la fontaine de T. Bartsch (1993), de T. Bartsch et M. Willem (1995) et de W. Zou (2001). Aucune méthode de réduction n'est utilisée. Nous appliquons les nouveaux théorèmes pour prouver l'existence d'une innité de solutions pour quelques systèmes diérentiels.

ABSTRACT

By using the degree theory and the τ´topology introduced in 1996 by Kryszewski and Szulkin, we extend to the case of strongly indenite functionals the fountain theorems of T. Bartsch (1993), of T. Bartsch and M. Willem (1995), and of W. Zou (2001). We use no reduction method, and we carry out our proofs directly in the innite-dimensional setting. The new critical point theorems are applied to study the multiplicity of solutions for some dierential systems with strongly indenite variational structure, including elliptic systems of noncooperative and Hamiltonian type, and a Hamiltonian system.

REMERCIEMENTS

Je voudrais tout d'abord remercier Fabrice Colin et Tomasz Kaczynski, respectivement directeur et co-directeur de cette thèse. C'était un honneur pour moi de collaborer avec vous durant ces presque quatre dernières années. Je vous suis inniment reconnaissant pour la conance que vous m'avez accordée, en vous investissant corps et âme pour faciliter ma venue à Sherbrooke et également mon séjour pendant les études doctorales. Merci Fabrice de m'avoir proposé ce sujet intéressant et d'avoir partagé tes idées avec moi. Merci Tomasz pour tous tes conseils et pour tout le temps que tu as dédié à mon travail en étant toujours très disponible et en venant me chercher très souvent pour que l'on discute, ce qui m'a énormément aidé et encouragé.

Je remercie chaleureusement le professeur Jean-Marc Belley et les professeures Marlène Frigon et Vasilisa Shramchenko pour l'honneur que vous me faites en acceptant de faire partir du jury de ma thèse.

Ma venue à Sherbrooke n'aurait sans doute pas été possible sans les professeurs Ernest Monga et Éric Marchand, qui ont recommandé et soutenu ma candidature pour la bourse triennale de la Faculté des Sciences. Je prote de ces quelques lignes pour leurs adresser mes sincères remerciements.

Je tiens à remercier Thomas Bouetou Bouetou et Sophonie Blaise Tchapnda Njabo, respectivement professeur à l'École Nationale Supérieure Polytechnique de Yaoundé et

professeur à l'Université de Yaoundé 1, pour m'avoir encouragé à venir faire ma thèse à l'Université de Sherbrooke et aussi pour leur soutient permanent pendant mes études doctorales.

Je remercie le Département de Mathématiques et la Faculté des Sciences de l'Univer-sité de Sherbrooke, ainsi que l'Institut des Sciences Mathématiques pour leur soutient nancier. Merci à tous les membres du Département de Mathématiques et de la Faculté des Sciences qui ont participé directement ou indirectement à la réussite de cette thèse. Une pensée particulière pour Marie-France Roy à qui je souhaite un total rétablissement. Je remercie ma famille pour m'avoir encouragé et supporté toutes ces années. Eunice Tankeu et Lucrèce Tankoua, vous êtes les prochaines sur la liste.

Je tiens également à remercier mes amis Ndoune Ndoune, Djoan Bonls, Martin Côté, Benoît de Grandpré, François Tagne, Emmanuel Tchamba, Thierry Ngapna, Raoul Sack, Abdou Seck, Aurelien Guetsop, Christine Bell et tous mes co-équipiers de l'équipe de soccer du Vert et Or de l'Université de Sherbrooke pour leur soutient. Merci à Sidi Ould Ahmed Salem pour avoir lu et relu cette thèse en entier.

Je ne saurais terminer sans exprimer toute ma gratitude à Monique Dembele, une femme formidable qui m'encourage, me supporte, m'endure et me réconforte quand j'en ai besoin dans la vie comme dans les études. Merci pour tout ce que tu m'apportes.

TABLE DES MATIÈRES

RÉSUMÉ iii

ABSTRACT iv

REMERCIEMENTS v

TABLE DES MATIÈRES vii

NOTATIONS x

INTRODUCTION 1

CHAPITRE 1  Rappels et degré de Kyszewski-Szulkin 11

1.1 Quelques rappels . . . 11 1.1.1 Résultats d'intégration et théorèmes de plongement de Sobolev . . 11 1.1.2 Partition de l'unité dans un espace métrique . . . 13 1.1.3 Équations diérentielles . . . 14

1.1.4 Fonctionnelles diérentiables . . . 15

1.2 Degré de Kryszewski-Szulkin et la topologie τ . . . . 17

1.2.1 Le degré topologique de Brouwer . . . 17

1.2.2 Le degré de Kryszewski-Szulkin . . . 18

1.2.3 La topologie τ . . . . 25

CHAPITRE 2  Théorèmes des points critiques 28 2.1 Théorèmes de la fontaine . . . 29

2.2 Théorèmes de la fontaine basés sur la méthode de monotonicité . . . 39

2.3 Théorèmes de la fontaine avec condition de Cerami . . . 48

CHAPITRE 3  Systèmes elliptiques non coopératifs combinant termes concaves et termes convexes 52 3.1 Cas d'un système sous-critique . . . 53

3.1.1 Condition de Palais-Smale . . . 56

3.1.2 Solutions de grande énergie . . . 61

3.1.3 Solutions de petite énergie . . . 64

3.2 Cas d'un système critique . . . 67 CHAPITRE 4  Solutions radiales et non radiales d'un système non

co-opératif sur RN ₇₃

4.2 Existence de solutions radiales . . . 78 4.3 Existence de solutions non radiales . . . 82 CHAPITRE 5  Système elliptique de type Hamiltonien 84 5.1 Introduction et résultat principal . . . 84 5.2 Formulation variationnelle du problème . . . 88 5.3 Première démonstration du résultat principal . . . 9 1 5.4 Deuxième démonstration du résultat principal . . . 100 CHAPITRE 6  Solutions périodiques d'un système Hamiltonien 104 6.1 Énoncé du résultat principal . . . 105 6.2 Preuve du résultat principal . . . 108

CONCLUSION 114

NOTATIONS

N, M : entiers naturels non nuls

2‹ : désignera 8 si N “ 1, 2 et 2N{pN ´ 2q si N ě 3 Ω Ă RN _{: ouvert de R}N BΩ : frontière de Ω |Ω| : mesure de Lesbesgue de Ω ∇u : le gradient de u Δu : le Laplacien de u

F_u : la dérivée partielle de F par rapport à u

|u|p : la norme de u dans l'espace de Lebesgue Lp

Wm,p_{, W}m,p

0 , Hm, H0m : les espaces de Sobolev

Ñ : convergence forte á : convergence faible

INTRODUCTION

Il est bien connu que l'étude de plusieurs problèmes en science et en ingénierie se ramène à la recherche de points critiques d'une fonctionnelle Φ : X Ñ R, dénie sur un espace fonctionnel approprié. De tels problèmes sont dits à structure variationnelle et dans ce cas Φ est la fonctionnelle d'Euler-Lagrange `aussi appelée fonctionnelle d'énergie) associée.

Dans le cas où Φ est minorée, on considère une suite tunu Ă X telle que Φpunq Ñ

infXΦ (suite minimisante) et on essaie de trouver une sous-suite convergente, ce qui

as-surera l'existence d'un point critique de Φ, si cette dernière est susamment régulière. Il s'agit là de la méthode directe du calcul des variations, qui a été développée par Euler, Lagrange, Legendre, Jacobi, Hamilton, Wierstrass, Arzéla, Fréchet, Hilbert, Lebesgue et bien d'autres `voir par exemple [52] ou [72]˘. Dans de nombreuses situations, la fonction-nelle est indénie au sens qu'elle n'est ni minorée, ni majorée, ce qui oblige la recherche des points de selle, qui sont obtenus par des arguments minimax. C'est le but de la théorie moderne du calcul des variations qui a débuté avec les travaux de M. Morse [55] ainsi que de L. Ljusternik et L. Schnirelmann [49] en 1934 et a depuis connu un développe-ment spectaculaire grâce notamdéveloppe-ment à l'apport des mathématiciens tels que R. Palais, S. Smale, D.C. Clark, I. Ekeland, F. Browder, P.H. Rabinowitz, A. Ambrosetti, V. Benci, J. Mawhin, M. Schechter, H. Brezis, L. Nirenberg, K.C. Chang, P.L. Lions, M. Struwe,

A. Szulkin, M. Willem, pour ne citer que ceux là. Les résultats typiques sont : le célèbre théorème du col de montagne d'Ambrosetti et Rabinowitz [3], le théorème du point selle de Rabinowitz [63] et divers théorèmes d'enlacement [25, 64, 68, 69, 36]. L'idée générale est de chercher les valeurs critiques de Φ sous la forme

c“ inf

APSsup_uPAΦpuq,

où S est une famille de sous-ensembles de X et l'ingrédient essentiel est la construction d'un ot η sur X le long des lignes sur lesquelles la fonctionnelle Φ est décroissante. Ce ot est utilisé dans l'esprit de la théorie de Morse pour construire les déformations des ensembles de sous-niveaux de Φ, ce qui permet d'obtenir une suite tunu Ă X, telle que

Φpunq Ñ c et Φ1punq Ñ 0.

Une telle suite est appelée suite de Palais-Smale de niveau c pour Φ. L'information supplémentaire Φ1_pu

nq Ñ 0, facilite alors dans de nombreuses applications l'obtention

d'une sous-suite convergente de tunu et ce même dans le cas où la fonctionnelle est

minorée.

Lorsque la fonctionnelle Φ est invariante par l'action d'un groupe compact `par exemple l'action antipodale de Z2˘, on s'attendà ce qu'elle possède plusieurs points critiques,

comme le montre le célèbre résultat suivant de Lusternik et Schnirelman [49] : Théorème 0.1. Si Φ P C1_pRN_{,Rq est paire, alors Φ|}

SN´1 possède au moins N paires ˘u

de points critiques.

Ce résultat se généralise en dimension innie, où la perte de compacité de la sphère est surmontée par l'utilisation de la condition de compacité introduite par Palais et Smale [58], qui joue un rôle fondamental dans les applications de la théorie des points critiques `

Dénition 0.2 (Condition de Palais-Smale). On dit que la fonctionnelle Φ satisfait la condition de Palais-Smale de niveau c P R (en abbregé pP Sqc), si toute suite de

Palais-Smale au niveau c possède une sous-suite convergente.

Théorème 0.3 (Rabinowitz, [64]). On suppose que dim X “ 8 et que Φ P C1_{pX, Rq est}

paire. Soit S :“ u P X ; }u} “ 1( la sphère unité de X. Si Φ|_S est minorée et satisfait

la condition pP Sqc pour tout c P R, alors Φ|S possède une innité de paires ˘u de points

critiques.

Dans de nombreuses applications, il est plus commode d'étudier la fonctionnelle direc-tement sur X. Comme nous l'avons mentionné plus haut, plusieurs problèmes variation-nels sont indénis au sens que les fonctionnelles d'énergie associées ne sont ni minorées, ni majorées. Cependant, certaines de ces fonctionelles deviennent minorées `ou majorées˘ modulo une pertubation par une fonctionnelle faiblement continue. Ces fonctionnelles sont dites semi-dénies. Le théorème suivant, dû à Ambrosetti et Rabinowitz [3], per-met alors d'obtenir une innité de solutions pour ce type de fonctionnelles.

Théorème 0.4 (Théorème du col de montagne symétrique). Soit Φ P C1_{pX, Rq une}

fonctionnelle paire qui satisfait la condition pP Sqc pour tout c P R. On suppose que

(i) Φp0q “ 0 et Dρ, α ą 0 tels que Φpuq ě α pour tout u P X tel que }u} ď ρ,

(ii) pour tout sous-espace de dimension nie E Ă X, il existe R ą 0 tel que Φpuq ď 0 pour tout u P E tel que }u} ą R.

Alors Φ possède une suite non bornée de valeurs critiques.

En 1993, Barstch [8] a établi la généralisation suivante de ce théorème, qui est à la fois un outil simple et puissant dans la recherche de solutions de grande énergie de plusieurs problèmes aux limites :

Théorème 0.5 (Théorème de la fontaine). On suppose que X “ À8 j“0 Rej. Soient Y_k:“ k à j“0 Rej et Zk :“ 8 à j“k Rej, k ě 2.

Si Φ P C1_{pX, Rq est paire et s'il existe ρ}

k ą rką 0 tels que ‚ a_{k :“ max uPYk} }u}“ρk Φpuq ď 0, ‚ b_{k :“ inf uPZk} }u}“rk Φpuq Ñ 8, lorsque k Ñ 8, ‚ Φ satisfait la condition pP Sqc pour tout c ą 0,

alors Φ possède une suite non bornée de valeurs critiques.

En 1995, Bartsch et Willem [15] démontrèrent la version duale de ce théorème qui donne l'existence d'une suite de valeurs critiques négatives qui converge vers 0. Leur méthode est basée sur une approximation de Galerkin et nécessite l'utilisation d'une version forte de la condition pP Sqc, introduite en 1981 par A. Bahri [5] :

Dénition 0.6 (Condition de Palais-Smale étoile). On dit que Φ satisfait la condition de Palais-Smale étoile de niveau c`ou tout simplement la condition pP Sq‹

c

˘

par rapport à Yn si toute suite tunju Ă X telle que

n_j Ñ 8, u_nj P Y_nj, _Φpunjq Ñ c, Φ|1_Y

njpunjq Ñ 0

possède une sous-suite qui converge vers un point critique de Φ.

Théorème 0.7 (Dual du théorème de la fontaine). On suppose que Φ P C1_{pX, Rq est}

paire. Si pour tout k ě k0, il existe ρk ą rk ą 0 tels que

‚ inf uPZk }u}“ρk Φpuq ě 0, ‚ max uPYk }u}“rk Φpuq ă 0, ‚ inf uPYk }u}ďρk Φpuq Ñ 0, lorsque k Ñ 8,

‚ Φ satisfait la condition pP Sq‹

c par rapport à Yn pour tout c ă 0,

alors Φ possède une suite tcku de valeurs critiques telle que ckÑ 0´, lorsque k Ñ 8.

Mentionnons que les démonstrations des théorèmes de la fontaine sont basées, entre autre, sur l'utilisation du théorème de Borsuk-Ulam et le fait que Yk soit de dimension

nie y joue donc un rôle capital.

L'objectif de cette thèse est de généraliser les théorèmes 0.5 et 0.7 aux cas où Yk est

remplacé par un sous-espace de dimension innie, ce qui orira la possibilité de les appli-quer à des fonctionnelles qui sont fortement indénies, c'est-à-dire des fonctionnelles dénies sur un espace de Hilbert dont la partie quadratique possède une innité de valeurs propres positives et une innité de valeurs propres négatives.Ces dernières fonctionnelles apparaissent par exemple lorsqu'on recherche les solutions périodiques de l'équation des ondes et des systèmes Hamiltoniens et celles des systèmes d'équations elliptiques.

L'étude des fonctionnelles fortement indénies est plus dicile, car leur structure em-pêche une application directe des théorèmes d'enlacement classiques.Au cours des der-nières années, plusieurs méthodes ont été mises au point pour surmonter cette diculté : l'approximation par des problèmes en dimension nie `Rabinowitz [62], Amann & Zehn-der [1], Pankov & Püger [60]˘, enlacement local `Li & Willem [43]˘, utilisation d'une topologie faible-forte `Kryszewski & Szulkin [42], Bartsch & Ding [10]˘ et tout récem-ment la réduction à la variété de Nehari-Pankov `Pankov [59], Szulkin & Weth [74, 75]˘. En présence de symétries, Benci a introduit dans [24] une théorie de pseudo-indice qu'il utilisa pour developper une méthode permettant d'estimer le nombre minimal de points critiques de certaines fonctionnelles fortement indénies.Les preuves de ses résultats sont données directement en dimension innie, mais requièrent que les fonctionnelles sas-tifassent certaines propriétés de dimension qui, malheureusement, restreignent la classe des problèmes où ils s'appliquent.Récemment, une nouvelle approche basée sur les

ap-proximations de Galerkin a permis de simplier et de généraliser les résultats de Benci, en ramenant le problème à une situation semi-dénie. Voir par exemple [9, 13, 33, 35, 44]. An de présenter cette nouvelle approche, nous devrons supposer que X “ X´_{‘ X}` _est

un espace de Hilbert séparable avec X˘ _{fermé et dim X}˘ _{“ 8 et que Φ P C}1_{pX, Rq est}

de la forme Φpuq “ 1 2}u `_}2_´1 2}u ´_}2_{´ Ψpuq,}

où u “ u´<sub>` u</sub>` _{P X, u}˘_{P X}˘ _{et Ψ est une fonctionnelle non linéaire sur X.}

L'approximation de Galerkin consiste à étudier la restriction Φn “ Φ|Xn, où tXnu est une

suite croissante de sous-espaces de X telle que

X “ďX_n et

´

dim XnX X` ă 8 ou dim XnX X´ă 8

¯

.

On commence par trouver les points critiques de Φn

`

ce qui est relativement facile puis-qu'elle est semi-dénie˘, puis on les contrôle en faisant tendre n vers l'inni pour obtenir les points critiques de Φ, ce qui est possible si Φ satisfait la condition pP Sq‹

c par rapport

à Xn. Puisque la condition pP Sq‹c est plus forte que la condition pP Sqc

`

voir la remarque 3.19 dans [78]˘, cette méthode n'est pas entièrement satisfaisante.

Dans cette thèse, nous allons montrer qu'il n'est pas nécessaire de réduire le problème à une situation semi-dénie. Considérons une base othonormale pejq de X` et posons

X_k´_{:“ X}´‘`‘k<sub>j“0</sub>Re<sub>j</sub>˘, X<sub>k</sub>`_{:“ ‘}8_j“kRe_j.

Nous allons démontrer les théorèmes suivants, qui généralisent au cas des fonctionnelles fortement indénies, les théorèmes 0.5 et 0.7 respectivement.

Théorème 0.8. Soit Φpuq “ 1

2}u`}2´12}u´}2´Ψpuq, où la fonctionelle Ψ P C1pX, Rq est

paire, positive et faiblement séquentiellement semicontinue inférieurement. On suppose que Ψ1 _{est faiblement séquentiellement continue et qu'il existe ρ}

k ą rk ą 0 tels que :

‚ sup_uPX´ k

}u}“ρk

Φpuq ă min`0, inf uPX

}u}ďrk

ϕpuq˘ et sup_uPX´ k

}u}ďρk

‚ inf_uPX` k

}u}“rk

Φpuq Ñ 8, lorsque k Ñ 8 ;

‚ Φ satisfait la condition pP Sqc pour tout c ą 0.

Alors Φ possède une suite non bornée de valeurs critiques. Théorème 0.9. Soit Φpuq “ 1

2}u`}2 ´ 12}u´}2 ` Npuq, où N P C1pX, Rq est paire,

positive et faiblement séquentiellement semicontinue inférieurement. On suppose que N1

est faiblement séquentiellement continue.

Si pour tout k ě k0, il existe ρk ą rk ą 0 tels que :

‚ inf_uPX` k

}u}“ρk

Φpuq ą max`0, sup uPX

}u}ďsk Φpuq˘, sup uPX_k´ }u}“rk Φpuq ă 0, ‚ inf_uPX` k }u}ďρk Φpuq Ñ 0, k Ñ 8,

‚ Φ satisfait la condition pP Sqc pour tout c ă 0,

alors Φ possède une suite tuku de points critiques tel que Φpukq Ñ 0´, lorsque k Ñ 8.

Nous utiliserons les nouveaux théorèmes de la fontaine, dans la deuxième partie de cette thèse pour étudier l'existence et la multiplicité de solutions pour quelques systèmes diérentiels.

Cette thèse s'articule autour de cinq chapitres :

Chapitre 1 : Dans la première partie de ce chapitre, il sera fait un bref rappel de quelques résultats de base en analyse fonctionnelle qui seront utilisés dans les chapitres suivants. Dans la deuxième partie, nous donnerons une présentation détaillée du degré et de la topologie τ de Kryszewski et Szulkin [42], qui sont les ingrédients essentiels qui nous permettrons d'aborder l'étude des fonctionnelles paires fortement indénies directement en dimension innie, sans faire de réduction. Plus précisement, le degré de Kryszewski et Szulkin jouera dans notre cas le même rôle que le degré classique de Brouwer dans la démontration des théorèmes d'enlacement classiques, y compris les théorèmes de la fontaine `les théorèmes 0.5 et 0.7˘. Ce degré nous permettra d'établir une version du

théorème de Borsuk-Ulam en dimension innie pour une classe de fonctions, que nous appellerons admissibles`voir le théorème 1.31˘. La topologie τ, qui est un subtil mélange de la topologie forte`c-à-d. la topologie engendrée par la norme˘et de la topologie faible, nous permettra, entre autres, de recupérer la compacité des boules fermées dans X´

k.

Chapitre 2 : Ce chapitre est consacré à la démonstration des théorèmes 0.8 et 0.9. Nous commencerons par démontrer un lemme de déformation quantitatif, que nous utili-serons ensuite pour construire les suites de Palais-Smale. Par ailleurs, nous démontrerons également quelques variations de ces deux théorèmes qui couvrent certaines situations où la condition pP Sqc n'est pas nécessairement vériée. En particulier, nous allons

généra-liser les variantes des théorèmes de la fontaine obtenues en 2001 par W. Zou [80] au cas des fonctionnelles fortement indénies.

Chapitre 3 : Dans ce chapitre, nous appliquerons nos théorèmes aux systèmes ellip-tiques de la forme " ´Δu “ λ|u|p´2_{u` δF</sub> upx, u, vq, x P Ω Δv “ μ|v|q´2<sub>v` δF} vpx, u, vq, x P Ω

soumis aux conditions limites de Dirichlet homogènes, où Ω désigne un domaine borné de RN _{et 1 ă p, q ă 2. Nous montrerons dans un premier temps que si}

Fpx, u, vq „`u2` v2˘r2_, avec 2 ă r ă 2‹_, p2‹ “ exposant critique de Sobolevq

alors le système possède une innité de solutions de grande énergie positive et de petite énergie négative, dépendamment des signes des paramètres λ, μ et δ. Des résultats simi-laires avaient été obtenus dans le cas scalaire par Ambrosetti, Brezis et Cerami [2] et par Bartsch et Willem [15]. Nous montrerons dans un deuxième temps que si

Fpx, u, vq „ 1

2‹|u|

α_|v|β_{, α` β “ 2}‹_,

alors pour λ, μ ą 0 et δ ă 0, le système possède une innité de solutions de petite énergie négative.

Chapitre 4 : Dans ce chapitre, nous considérerons le problème $ & % ´Δu ` u “ Fup|x|, u, vq, x P RN ´Δv ` v “ ´Fvp|x|, u, vq, x P RN upxq, vpxq Ñ 0 lorsque |x| Ñ 8.

Dans [38], en combinant une théorie d'indice avec une approximation de type Galerkin, Huang et Li ont démontré que ce problème possède autant une innité de solutions radiales qu'une innité de solutions non radiales. L'application du nouveau théorème de la fontaine simpliera les preuves de ces résultats. Rappellons que des résultats similaires avaient d'abord été obtenus dans le cas scalaire par Bartsch et Willem [14], en utilisant le théorème de la fontaine classique.

Chapitre 5 : Dans ce chapitre, nous étudierons le problème $ & % ´Δu “ gpx, vq dans Ω, ´Δv “ fpx, uq dans Ω, u“ v “ 0 sur BΩ,

où Ω est un domaine borné de RN _{(N ě 3). Sous nos hypothèses sur f et g, il n'est pas}

clair si les suites de Palais-Smale de la fonctionnelle d'énergie associée à ce problème sont bornées. Par conséquent, nous ne savons pas si cette fonctionnelle satisfait la condition de Palais-Smale. Nous montrerons de deux manières que ce problème possède une innité de solutions de grande énergie positive. Notre résultat généralise celui de Felmer et Wang [35] où une approximation de Galerkin était utilisée et celui de Szulkin et Weth [74] où une réduction à la variété de Nehari-Pankov permettait d'appliquer le théorème 0.3.

Chapitre 6 : Ce chapitre sera consacré à l'étude du système Hamiltonien "

Btu´ Δxu` V pxqu “ Hvpt, x, u, vq dans R ˆ Ω,

´Btv´ Δxv` V pxqv “ Hupt, x, u, vq dans R ˆ Ω,

où Ω est un domaine borné de RN_{, V P CpΩq, 0 R σp´Δ}

x` V q et H : R ˆ Ω ˆ R2M Ñ R

est une fonction périodique de période T ą 0 par rapport au temps. En utilisant le cadre fonctionnel déni pas Bartsch et Ding dans [11], nous montrerons par exemple que si

où apt, xq ą 0 est T -périodique par rapport à t, alors ce système possède une innité de solutions, satisfaisant les conditions

zpt, xq “ zpt ` T, xq @pt, xq P R ˆ Ω,

zpt, xq “ 0 @pt, xq P R ˆ BΩ.

Dans ce cas également, nous ne savons pas si la fonctionnelle d'énergie associée satisfait la condition de Palais-Smale.

Notons nalement que les principaux résultats de cette thèse font l'objet des articles [17, 18, 19, 20, 21, 22, 23].

CHAPITRE 1

Rappels et degré de Kyszewski-Szulkin

1.1 Quelques rappels

Dans cette section, nous rapellons sans preuves quelques résultats classiques d'analyse fonctionnelle qui nous seront utiles dans la suite. An de garder la liste relativement courte, nous supposerons que le lecteur est susamment familier avec les dénitions et les propriétés basiques de notions telles que : la convergence faible, la mesure et les espaces de Lebesgue, ainsi que les espaces de Sobolev. On peut trouver ces notions par exemple dans les livres de Rudin [65] et de Brezis [27, 28].

1.1.1 Résultats d'intégration et théorèmes de plongement de

So-bolev

Soit Ω un ouvert de RN_{. Nous considérons l'espace de Lebesgue L}p_{pΩq, 1 ď p ď 8 et}

les espaces de Sobolev H1_{pΩq et H}1

0pΩq, munis de leurs normes usuelles. Nous écrirons

Nous utiliserons très souvent les résultats suivants : Proposition 1.1.

1. Soient 1 ď p ď 8 et p1 _{tels que} 1

p ` p11 “ 1. Si u P LppΩq et v P Lp 1 pΩq, alors uv P L1pΩq et on a ż Ω|uv| ď |u|p|v|p 1. `inégalité de Hölder˘

2. Si u P Lp_{pΩq X L}q_{pΩq avec 1 ď p ď q ď 8, alors pour tout r P rp, qs, u P L}r_{pΩq et}

|u|r ď |u|αp|u|1´αq où

1 r “ α p ` 1 ´ α q , αP r0, 1s. ` inégalité d'interpolation˘ Théorème 1.2 (Convergence dominée de Lebesgue). Soit tfnu une suite de fonctions

dans L1_{pΩq telle que f}

npxq Ñ fpxq p.p.. Supposons qu'il existe g P L1pΩq tel que |fnpxq| ď

gpxq p.p.. Alors f P L1pΩq et on a ż Ω f_npxq Ñ ż Ω fpxq.

Théorème 1.3 (Lemme de Fatou). Soit tfnu Ă L1pΩq une suite de fonctions positives.

Alors _ż

Ωlim inf fnpxq ď lim inf

ż

Ω

f_npxq.

Théorème 1.4 (Plongement de Sobolev et théorème de Rellich-Kondrashov).

(1) L'injection H1_{pΩq ãÑ L}p_{pΩq est continue pour 2 ď p ă 8 si N “ 1, 2 et pour}

1 ď p ď _N´22N si N ě 3.

(2) Si |Ω| ă 8, alors l'injection H1

0pΩq ãÑ LppΩq est compacte pour 2 ď p ă 2‹.

Proposition 1.5 (Inégalité de Poincaré). Si |Ω| ă 8, alors il existe c ą 0 tel que |u|2 ď c|∇u|2. En particulier, l'application u ÞÑbş_Ω|∇u|2 dénit une norme sur H01pΩq

Les preuves des résultats précédents se trouvent par exemple dans [27, 28]. Par ailleurs, les deux résultats suivants nous seront utiles :

Proposition 1.6 ([76], théorème 10.36). Soit 1 ă q ă 8. Si (a) tunu est bornéee dans LqpΩq,

(b) tunu converge vers u presque partout sur Ω,

alors tunu converge faiblement vers u dans LqpΩq.

Proposition 1.7 ([78], lemme 3.8). Soient E “ À8

j“0Rej un espace de Hilbert tel que

l'injection de E dans Lp _{soit compacte pour p ě 1 xé. Alors on a}

sup ! |u|p ; u P 8 à j“k Rej et }u} “ 1 ) Ñ 0, k Ñ 8.

1.1.2 Partition de l'unité dans un espace métrique

Soient pE, dq un espace métrique, A Ă E et O une famille d'ouverts de E. Dénition 1.8.

(a)On dit que O est un recouvrement ouvert de A si pour tout u P A, il existe O P O tel que u P O.

(b)On dira que O est un recouvrement ouvert localement ni de A si tout élément de

A possède un voisinage ouvert, qui intersecte seulement un nombre ni d'éléments

de O.

Proposition 1.9 (Tout espace métrique est paracompact). Tout recouvrement ouvert d'un espace métrique possède un sous recouvrement localement ni.

Dénition 1.10. Une application f : E Ñ E est dite localement liptschitzienne si pour tout u P E il existe r ą 0 et K “ Kpu, rq ą 0 tels que

Lorsque K est indépendant de u et r, on dit tout simplement que f est lipschitzienne. Proposition 1.11. Soit O un recouvrement ouvert de l'espace métrique pE, dq. Alors il existe une famille de fonctions λ_{i : E Ñ r0, 1s}(

iPI telle que :

(1) λi est liptschitzienne ;

(2) !V_i “uP E ; λ_ipuq ‰ 0()

iPJ est un recouvrement localement ni de E ;

(3) @i P J, DUi P O tel que Vi Ă Ui;

(4) ř

iPJ

λ_ipuq “ 1, @u P E.

Dénition 1.12. La famille de fonctions tλiuiPI précédente est appelée une partition de

l'unité lipschitzienne subordonnée au recouvement O.

Nous référons à [81] pour les preuves des propositions 1.9et 1.11.

1.1.3 Équations diérentielles

Nous présentons ici un théorème d'existence globale pour le problème de Cauchy as-socié à une équation diérentielle de la forme

y1ptq “ fpyptqq.

Théorème 1.13. Soit E un espace de Banach. Si F : E Ñ E est une application localement lipschitzienne telle que

}F puq} ď cp1 ` }u}q, @u P E, alors pour tout u0 P E, le problème de Cauchy

U1ptq “ F pUptqq, Up0q “ u₀,

possède une unique solution sur R`_{. De plus cette solution dépend continûment de la}

Pour la preuve de ce théorème, voir [67] ou [81].

Proposition 1.14 (Inégalité de Gronwall, [78]). Soient a, b, T ą 0 et f : r0, T s Ñ R`_,

tels que

fptq ď a ` b

ż_t

0

fpsqds.

Alors, on a fptq ď a exppbtq pour tout t P r0, T s.

1.1.4 Fonctionnelles diérentiables

Soit X un espace de Banach et U un ouvert non vide de X. On note X1 _{le dual}

topologique de X, c'est-à-dire l'espace des formes linéaires continues sur X. Nous noterons par , le produit dans la dualité entre X1 et X.

Dénition 1.15. La fonctionnelle Φ : U Ñ R est dite diérentiable au sens Fréchet `ou tout simplement diérentiable˘ en u P U de diérentielle dΦpuq P X1 _si

lim

}h}Ñ0

1 }h}

“

Φpu ` hq ´ Φpuq ´dΦpuq, h‰“ 0.

Nous dirons que Φ P C1_{pU, Rq si Φ est diérentiable en tout point de U et si l'application}

uÞÑ dΦpuq est continue sur U.

La dérivée de Φ en u sera simplement notée Φ1_puq.

Si X est un espace de Hilbert, alors pour tout u P X nous noterons ∇Φpuq l'unique élément de X, donné par le théorème de représentation de Riesz, tel que



Φ1puq, v “`∇Φpuq, v˘, @v P X,

où `,˘ désigne le produit scalaire de X.

(i) On dit que u P X est un point critique de Φ si Φ1_{puq “ 0 dans X}1_.

(ii) On dit que c P R est une valeur critique de Φ, s'il existe un point critique u P X de Φ tel que Φpuq “ c.

En pratique, il est plus commode de travailler avec la notion de dérivée au sens de Gâteaux.

Dénition 1.17. On dit qu'une fonctionnelle Φ : U Ñ R est diérentiable au sens de Gâteaux en u P U de dérivée gpuq P X1 _{si, pour tout h P X}

lim

tÑ0

1

t

“

Φpu ` thq ´ Φpuq ´gpuq, th‰“ 0.

Il est clair que toute fonctionnelle Fréchet-diérentiable est continue et Gâteaux-diérentiable. De plus ces deux notions de diérentiabilité sont liées par le théorème suivant, dont une preuve est donnée par exemple dans [41] :

Théorème 1.18 (Théorème de la diérentielle totale). Si Φ est diérentiable au sens de Gâteaux sur U de dérivée continue, alors Φ P C1_{pU, Rq et la dérivée de Gâteaux de Φ}

coïncide avec sa diérentielle de Fréchet.

Terminons cette sous-section avec la dénition suivante :

Dénition 1.19 (Suite et condition de Palais-Smale). Soit Φ P C1_{pX, Rq.}

(i) On dit que tunu Ă X est une suite de Palais-Smale de Φ si

sup

n |Φpunq| ă 8 et Φ

1_pu

nq Ñ 0.

(ii) On dira que Φ satisfait la condition de Palais-Smale si toute suite de Palais-Smale possède une sous-suite convergente.

1.2 Degré de Kryszewski-Szulkin et la topologie τ

1.2.1 Le degré topologique de Brouwer

Soient Ω un ouvert de RN _{et f : Ω Ñ R}N _{une application continue. L'idée du degré}

topologique est d'associer à f et Ω un entier dépendant de f qui s'il est non nul, entraîne que l'équation fpyq “ 0 admet au moins une solution. La combinaison des techniques variationnelles et du degré topologique permet d'établir des résultats d'existence de so-lutions pour de nombreux problèmes aux limites. Le théorème fondamental du degré topologique est le suivant :

Théorème 1.20. Soit Ω un ouvert borné de RN_{. Il existe une application}

deg_{B :} f P CpΩ, RNq ; 0 R fpBΩq( ÞÝÑ Z,

appelée degré topologique de Brouwer, satisfaisant les propriétés suivantes : (i) (Normalisation) : Si y P Ω alors degBpid ´ y, Ωq “ 1 ;

(ii) (Existence) : Si degBpf, Ωq ‰ 0, alors il existe y0 P Ω tel que fpy0q “ 0 ;

(iii) (Invariance par homotopie) : Si h P Cpr0, 1sˆΩ, RN_{q est tel que 0 R hpr0, 1sˆ}

BΩq, alors degBphpt, ¨q, Ωq est indépendant de t P r0, 1s ;

(iv) (Excision) : Si U est un ouvert de RN _{tel que U Ă Ω et f}´1_{p0q Ă U, alors}

deg_Bpf, Ωq “ deg_Bpf, Uq ;

(v) (Contraction) : S'il existe un sous-espace Y Ă RN _{tel que pid´fqpΩq Ă Y , alors}

deg_Bpf, Ωq “ deg_B`f|_{ΩXY, Ω X Y}˘.

Le degré de Brouwer permet de démontrer les deux résultats suivants, qui sont très utiles pour l'étude des fonctionnelles symétriques en théorie de points critiques.

Théorème 1.21 (Théorème de Borsuk). Soit Ω un ouvert borné de RN_{, symétrique}

deg_Bpf, Ωq est un entier impair.

Théorème 1.22 (Théorème de Borsuk-Ulam). Soit Ω un ouvert symétrique borné de RN_{, contenant l'origine. Si f P CpBΩ, R}N_{q est une fonction impaire telle que fpBΩq est}

contenu dans un sous-espace ane de RN_{, de dimension inférieure ou égale à N ´ 1,}

alors il existe x0 P BΩ tel que fpx0q “ 0.

On peut trouver les preuves des théorèmes 1.20, 1.21 et 1.22 dans [41, 78].

1.2.2 Le degré de Kryszewski-Szulkin

Dans cette sous-section, nous présentons un degré généralisant celui de Brouwer, in-troduit par Kryzewski et Szulkin [42], qui sera d'une importance capitale pour notre travail. Ce degré va nous permettre d'établir une version du théorème de Borsuk-Ulam lorsque l'espace RN _{est remplacé par un espace de dimension innie. La présentation ici}

est principalement tirée du livre de Willem [78].

Soit H un espace de Hilbert séparable de dimension innie. On note p¨, ¨q un produit scalaire sur H et } ¨ } la norme associée. Fixons une base hilbertienne pejqjě0 de H et

dénissons une nouvelle norme sur H en posant : }u}0 :“ 8 ÿ j“0 1 2j`1|pu, ejq|, u P H. (1.1)

Convenons de noter σ la topologie engendrée par cette nouvelle norme. Rassemblons quelques propriétés de la topologie σ.

Proposition 1.23.

1. La topologie usuelle de H est strictement plus forte que la topologie σ.

3. Muni de la topologie σ, H n'est pas complet. Démonstration.

1. On déduit facilement de l'inégalité de Cauchy-Schwarz que }u}0 ď }u}, pour tout

uP H, ce qui montre que la topologie usuelle de H est plus forte que σ. Par ailleurs,

pour tout r ą 0, on a 2k_re

k P Bσp0, rq :“ tu P H | }u}0 ă ru pour tout k ě 0. Mais

pour k susamment grand, on a 2k_re

k R Bp0, 1q :“ tu P H | }u} ă 1u, ce qui

montre que Bp0, 1q n'est pas σ´ouvert. Par conséquent la topologie usuelle de H est strictement plus forte que σ.

2. Soit tunu Ă H et soit u P H tels que un á u. Alors pun´ u, ejq Ñ 0 pour tout

j ě 0 et il existe une constante C ą 0, telle que }u_n} ď C et }u} ď C, @n. Donc

pour tout ε ą 0, on peut trouver des entiers j0, n0 ą 0 tels que

1 2j0 ă ε 4C |pun´ u, ejq| ă ε 2, pour 0 ď j ď j0, ną n0. On a alors pour n ą n0 : }un´ u}0 “ 8 ÿ j“0 1 2j`1|pun´ u, ejq| ď j0 ÿ j“0 ε{2 2j`1 ` 8 ÿ j“j0`1 2C 2j`1 ă ε 2 ` ε 2. On en déduit que unÑ u.σ

Réciproquement, soit tunu Ă H une suite bornée telle que un Ñ u. Alors il existeσ

une constante C ą 0 telle que }un} ď C et }u} ď C. Soit ε ą 0 xé. Pour tout

v “ ř8

j“0

v_je_j P H, on a ř8

j“k

v_je_j Ñ 0, lorsque k Ñ 8 et il existe alors K ą 0 tel que

} ř8

j“K

v_je_j} ă _4Cε . Puisque u_nÑ u, il existe nσ ₀ susamment grand tel que

}un´ u}0 ă ε{`2 max<sub>0ďjďK´1</sub>2j`1vj

˘

Ainsi pour n ą n0, on a |pun´ u, v ´ 8 ÿ j“K v_je_jq| “ | K´1ÿ j“0 v_jpu_n´ u, e_jq| ď max 1ďkďK´1p2 k`1<sub>|v</sub> k|q K´1ÿ j“0 |pun´ u, ejq| 2j`1 ď max 1ďkďK´1p2 k`1_|v k|q}un´ u}0 ă ε 2. On a également |pun´ u, 8 ÿ j“K v_je_jq| ď 2C} 8 ÿ j“K v_je_j} ă ε 2.

Ainsi pour n ą n0, on a |pun´ u, vq| ă ε, @n ą n0, ce qui entraîne que un á u.

3. Pour montrer que pH, σq n'est pas complet, nous considérons la suite tun “ n

ř

j“0

je_ju_ně1.

Cette suite est de Cauchy dans pH, σq. En eet, pour tous entiers m, p ě 0, on a : }um`p´ um}0 “ 8 ÿ j“0 1 2j`1 ˇˇ ˇ` m`pÿ k“m`1 ke<sub>k</sub>, e<sub>j</sub>˘ˇˇˇ “ m`pÿ k“m`1 k 2k`1 ď ÿ8 k“m`1 k 2k`1 Ñ 0, m Ñ 8, car la série ř8 k“0 k 2k`1 converge.

Supposons qu'il existe u P H tel que unÑ u. Alors pour tout j ě 0 on aσ ₂j`11 |pun´

u, e_jq| ď }u_n´u}₀ Ñ 0. Donc |pu_n´u, e_jq| Ñ 0, lorsque n Ñ 8. Mais par dénition

de tunu on a pun, ejqnÑ8Ñ j, @j ě 0. On en déduit que j “ pu, ejq pour tout j ě 0.

L'inégalité de Cauchy-Schwarz entraîne alors que j ď }u} pour tout j ě 0, ce qui conduit à une contradiction lorsque nous faisons tendre j vers l'inni.

pH, σq n'est donc pas complet.

Soit maintenant U un ouvert borné de H tel que U soit σ´fermé `par exemple une boule˘.

Remarque 1.24. La proposition 1.23 p2q entraîne que U est σ´compact.

Dénition 1.25. Une application f : U Ñ H est dite σ´admissible si elle vérie les conditions suivantes :

1. f est σ´continue,

2. tout u P U possède un σ´voisinage Vu dans H tel que pid ´ fqpV X Uq est contenu

dans un sous-espace de dimension nie de H.

Exemple 1.26. Soit y P H xé. Alors l'application dénie sur U par fpuq “ u ´ λy, @λ P R, est σ´admissible.

Proposition 1.27. Soit f : U Ñ H une application σ´admissible telle que 0 R fpBUq. Alors :

1. Il existe un ouvert borné O de H et il existe un sous-espace vectoriel de dimension nie F de H tels que f´1_{p0q Ă O et pid ´ fqpOq Ă F .}

2. degBpf|OXF,OXF q est bien déni et ne dépend pas du choix de O et F

`

on rappelle que degB désigne le degré de Brouwer

˘ . Démonstration.

1. Puisque f est σ´continue et 0 R fpBUq, f´1_{p0q est un sous-ensemble σ´ fermé de}

U. U étant σ´compact, on en déduit que f´1p0q l'est aussi. Par hypothèse, tout uP f´1p0q possède un voisinage σ´ouvert V_utel que pid´fqpV_uXUq Ă F_u, où F_uest

un sous-espace de dimension nie de H. Du recouvrement σ´ouvert pVuquPf´1p0q de

f´1p0q, on extrait un sous-recouvrement ni pV_ujq_1ďjďket on dénit O :“ Ťk

j“1

VujXU

et F :“ řk

j“1

F_uj. Il est alors évident que f´1p0q Ă O et pid ´ fqpOq Ă F .

2. O X F est ouvert et f´1_{p0q Ă O X F est compact dans F . De plus, l'application}

f|_OXF est continue `car f est σ´continue et dim F ă 8˘. Donc deg_Bpf|_OXF,OXF q

(i) Soit O1 _{un autre ouvert borné de H tel que f}´1_{p0q Ă O}1 _{et pid ´ fqpO}1_{q Ă F .}

Par la propriété d'excision du degré de Brouwer, on a

deg_Bpf|_O1_XF,O1X F q “ deg_Bpf|_O1_XOXF,O1X O X F q “ deg_Bpf|_OXF,O X F q.

(ii) Soit G un autre sous-espace de dimension nie de H tel que pid ´ fqpOq Ă G, alors pid´fqpOq Ă F XG et par la propriété de contraction du degré de Brouwer on a

deg_Bpf|_OXG,O X Gq “ deg_Bpf|_OXGXF,O X G X F q “ deg_Bpf|_OXF,O X F q.

La dénition suivante est due à Kryszewski et Szulkin (voir [42]) :

Dénition 1.28 (Degré de Kryszewski-Szulkin). Soit f : U Ñ H une application

σ´admissible telle que 0 R fpBUq. On dénit le degré de f par degpf, Uq :“ deg_Bpf|_OXF,O X F q,

où O et F sont donnés par la proposition précédente.

Avant de donner les propriétés du degré de Kryszewski-Szulkin, dénissons d'abord la notion d'homotopie admissible.

Dénition 1.29. Une application h : r0, 1s ˆ U Ñ H est une homotopie σ´admissible si les conditions suivantes sont satisfaites :

1. h est σ´continue, c'est-à-dire si tn Ñ t dans r0, 1s et un Ñ u dans U alorsσ

hpt_n, u_nqÑ hpt, uq.σ

2. Tout pt, uq P r0, 1s ˆ U possède un voisinage Mpt,uq dans la topologie produit de

r0, 1s et pH, σq tel que tv ´ hps, vq | pv, sq P Mpt,uqX pr0, 1s ˆ Uqu est contenu dans

Proposition 1.30 (Propriétés du dégré de Kryszewski-Szulkin). 1. (Normalisation) : Pour y P U xé, on a degpid ´ y, Uq “ 1.

2. (Existence) : Soit f : U Ñ H une application σ-admissible telle que 0 R fpBUq. Si

degpf, Uq ‰ 0, alors il existe u P U tel que fpuq “ 0.

3. (Invariance par homotopie) : Soit h : r0, 1s ˆ U Ñ H une homotopie σ-admissible telle que 0 R hpr0, 1s ˆ BUq. Alors degphpt, ¨q, Uq est bien déni et ne dépend pas du choix de t dans r0, 1s.

Démonstration.

1. Soit f : U Ñ H déni par fpuq “ u´y. f est évidemment σ-continu et on a f´1_{p0q “}

tyu Ă U. De plus pour tout u P U on a pid ´ fqpuq “ y P Ry. D'après la propriété de normalisation du degré de Brouwer on a degpf, Uq “ degpf|U XRy, U X Ryq “ 1.

2. Si degpf, Uq ‰ 0 alors degpf|OXF,O X F q ‰ 0 et on conclut en utilisant la propriété

d'existence du degré de Brouwer.

3. Il est évident que h´1_{p0q est σ-compact. Si nous désignons par π la projection}

r0, 1s ˆ U Ñ U, pt, uq ÞÑ u, alors K :“ πph´1_{p0qq est aussi σ-compact. h étant}

une homotopie admissible, tout pt, uq P r0, 1s ˆ K Ă r0, 1s ˆ U possède un σ-voisinage Npt,uq tel que tv ´ hps, vq | ps, vq P Npt,uqX pr0, 1s ˆ Uqu est contenu dans

un sous-espace de dimension nie de H. Par σ-compacité de r0, 1s ˆ K, il existe k couples pt1, u1q, ¨ ¨ ¨ , ptk, ukq tels que r0, 1s ˆ K Ă W :“ Ykj“1Nptj,ujqX pr0, 1s ˆ Uq

et tu ´ hpt, uq | pt, uq P Nptj,ujqX pr0, 1s ˆ Uqu soit contenu dans un sous-espace de

dimension nie G de H. Puisque σ coïncide avec la topologie forte sur G, K est compact et par suite il existe un ouvert V Ă U tel que r0, 1s ˆ K Ă r0, 1s ˆ V Ă W . Par dénition hpt, ¨q est une application σ-admissible pour tout t P r0, 1s xé, donc le degré de hpt, ¨q est bien déni et on a

On conclut en utilisant l'invariance par homotopie du degré de Brouwer.

Le théorème suivant généralise le théorème de Borsuk-Ulam au cas des applications

σ-admissibles en dimension innie.

Théorème 1.31. Soit U un voisinage ouvert et symétrique de 0 dans H tel que U soit

σ-fermé. Soit f : U Ñ H une application σ-admissible impaire. Si fpUq est contenu dans

un sous-espace propre de H `c'est-à-dire un sous-espace non nul de codimension non nulle˘, alors il existe u0 P BU tel que fpu0q “ 0.

Démonstration. Supposons que la conclusion du théorème soit fausse, c'est-à-dire

f´1p0q X BU “ H. Puisque f est impaire nous allons supposer O symétrique. Soit Y le

sous-espace propre de H tel que fpUq Ă Y . Fixons z P YK_{zt0u et dénissons}

h : r0, 1s ˆ U Ñ H, hpt, uq :“ fpuq ´ tz.

(a) h´1_{p0q X pr0, 1s ˆ BUq “ H.}

En eet, s'il existe pt, uq P r0, 1s ˆ BU tel que hpt, uq “ 0, alors fpuq “ tz. Puisque 0 R f pBUq on a t ‰ 0, ce qui entraîne que tz P YKzt0u. Mais ceci contredit le fait que fpBUq Ă Y .

(b) h est σ-continue puisque f l'est.

(c) Soit pt, uq P r0, 1s ˆ U. f étant σ-admissible, u possède un σ-voisinage Nu tel que

pid ´ fqpNu X Uq Ă Fu, où Fu est un sous-espace de dimension nie de H. On en

déduit que pour tout ps, vq P pr0, 1s ˆ Nuq X pr0, 1s ˆ Uq on a

v´ hps, vq “ pid ´ fqpvq ` sz P F<sub>u</sub> ` Rz,

avec Fu` Rz qui est un sous-espace de dimension nie de H.

(a), (b) et (c) montrent que h est une homotopie σ-admissible telle que 0 R hpr0, 1sˆBUq. D'après la proposition 1.30 p3q on a

f étant impaire on déduit du théorème de Borsuk (théorème 1.21) que degpf, Uq ‰ 0, ce

qui entraîne alors que degpf ´ z, Uq ‰ 0. D'après la proposition 1.30 p2q il existe u0 P U

tel que z “ fpu0q, ce qui contredit le fait que z P HzfpUq.

1.2.3 La topologie τ

Il est bien connu que les boules fermées ne sont pas compactes pour la topologie usuelle en dimension innie

`

théorème de nitude de Riesz

˘

. La topologie τ introduite par Kryszewski et Szulkin [42], qui est un subtil mélange de la topologie faible et de la topologie forte, nous permettra de récupérer la compacité de certaines de ces boules.

On suppose maintenant que H est un sous-espace fermé de l'espace de Hilbert E muni du produit scalaire p¨, ¨q et de la norme associée } ¨ }.

Dénition 1.32. La topologie τ sur E “ H ‘ HK _{est la topologie associée à la norme}

~u~ :“ max´ÿ8 j“0 1 2j`1|pP u, ejq|, }Qu} ¯ , uP E,

où P et Q sont des projections orthogonales de E sur H et sur HK _{respectivement.}

Cette topologie coïncide avec la topologie forte de E sur HK _{et avec la topologie faible}

sur les sous-ensembles bornés de H. Plus précisement, des propriétés de la topologie σ on déduit celles de la topologie τ :

Proposition 1.33 ([42], théorème 2.4).

1. La topologie τ est strictement plus faible que la topologie usuelle de E. 2. Si punq est une suite bornée de E, alors

u_n Ñ u ðñ P uτ _ná P u et Qu_nÑ Qu.

Soit pfjq0ďjďk (k ě 2) une famille de vecteurs deux à deux orthogonaux de HK telle

que }fj} “ 1 pour tout j. Posons

e1_{j :“}

"

f_j pour j “ 0, 1, ..., k e_j´k´1 pour j ě k ` 1,

Alors pe1

jqjě0 est une base hilbertienne de Hk :“ H ‘ p‘kj“0Rfjq. Nous pouvons dénir

une nouvelle norme sur E “ Hk‘ HkK en posant

~u~k :“ max ´_ÿ8 j“0 1 2j`1|pPku, e 1 jq|, }Qku} ¯ ,

où Pk: E Ñ Hk et Qk : E Ñ HkK sont les projections orthogonales.

Proposition 1.34.

1. Les normes ~ ¨ ~ et ~ ¨ ~k sont équivalentes sur Hk, @k ě 1.

2. Pour tout u P E on a ~Pku~ ď ~u~, k ě 1.

Démonstration. 1. Soit u “ y ` u0` ¨ ¨ ¨ ` uk P Hk, avec y P H et uj P Rfj, j “ 0, ¨ ¨ ¨, k. On a : ~u~k “ 8 ÿ j“0 1 2j`1|py ` u0` ¨ ¨ ¨ ` uk, e 1 jq| “ 1 2|pu0, e0q| ` 1 22|pu1, e1q| ` ¨ ¨ ¨ ` 1 2k`1|puk, ekq| ` 8 ÿ j“k`1 1 2j`1|py, ej´1´kq| “ 1 2}u0} ` 1 22}u1} ` ¨ ¨ ¨ ` 1 2k`1}uk} ` 1 2k`1 8 ÿ j“0 1 2j`1|py, ejq| ď p1 2 ` 1 22 ` ¨ ¨ ¨ ` 1 2k`1q}Qu} ` 1 2k`1 8 ÿ j“0 1 2j`1|pP u, ejq| ď 3 2~u~,

et ~u~ “ max`ÿ8 j“0 1 2j`1|py, ejq|, }u0` u1` ¨ ¨ ¨ ` uk} ˘ ď ÿ8 j“0 1 2j`1|py, ejq| ` }u0} ` }u1} ` ¨ ¨ ¨ ` }uk} ď 2k`1_~u~ k.

2. On écrit u “ y ` u0` ¨ ¨ ¨uk` zk`1 avec y P Y , uj P Rfj, j “ 0, ¨ ¨ ¨ , k et zk`1 P Zk`1.

Alors, }Qu}2 _{“ }u}

CHAPITRE 2

Théorèmes des points critiques

Les théorèmes de la fontaine de Bartsch [8] et de Barstch et Willem [15] sont devenus des outils très puissants dans la recherche des solutions de grande et de petite énergie, de plusieurs problèmes variationnels dont les fonctionnelles d'énergie sont semi-dénies. Le but de ce chapitre est de généraliser ces théorèmes pour qu'on puisse les appliquer aux fonctionnelles fortement indénies. Nous commencerons, dans la section 2.1, par traiter les cas où la condition de Palais-Smale est satisfaite. Notre approche, inspirée des travaux de Willem [77] et de Mawhin [51], consiste d'abord à établir un lemme de déformation quantitatif `sans la condition de Palais-Smale˘ qu'on utilisera ensuite pour construire les suites de Palais-Smale. L'avantage de cette approche est que la condition de Palais-Smale n'est utilisée qu'à la n, ce qui laisse envisager des applications à des problèmes pour lesquels cette condition n'est pas satisfaite. Dans les sections 2.2 et 2.3, nous traiterons certains cas où la condition de Palais-Smale n'est pas vériée.

Dans ce chapitre, X désigne un espace de Hilbert séparable muni du produit scalaire p¨, ¨q et de la norme associée } ¨ }.

2.1 Théorèmes de la fontaine

Soit Y un sous-espace vectoriel fermé de dimension innie de X tel que YK _{soit aussi}

de dimension innie. Fixons tfjujě0 et tejujě0 des bases hilbertiennes respectives de Y

et de YK_.

Nous désignons par P : X Ñ Y et Q : X Ñ YK _{les projections orthogonales et nous}

considérons sur X “ Y ‘ YK _{la topologie τ de Kryszewski et Szulkin. On rappelle qu'il}

s'agit de la topologie engendrée par la norme ~u~ :“ max´ÿ8 j“0 1 2j`1|pP u, fjq|, }Qu} ¯ , uP X.

Soient ϕ : X Ñ R, u, v P X, α ą 0 et a ă b. Nous noterons :

ϕb _:“wP X ; ϕpwq ď b(, ϕ_{a :“}wP X ; ϕpwq ě a(, ϕb_{a :“ ϕa}X ϕb.

Dénition 2.1. Soient ϕ P C1_{pX, Rq et a ă b.}

1. La fonctionnelle ϕ est τ´semi-continue supérieurement `resp. τ´semi-continue inférieurement˘ si pour tout c P R l'ensemble ϕc

`

resp. ϕc˘ _{est τ´fermé.}

2. ∇ϕ est faiblement séquentiellement continu si

u_n á u`dans X˘ùñ ∇ϕpu_nq á ∇ϕpuq.

3. ∇ϕ est τ´faiblement séquentiellement continu sur ϕb a si

u_nÑ uτ `dans ϕb_a˘ùñ ∇ϕpu_nq á ∇ϕpuq.

Nous commençons par démontrer une version équivariante du lemme de déformation dans [42].

Lemme 2.2 (Lemme de déformation). Soit ϕ P C1_{pX, Rq une fonctionnelle paire qui}

continu sur ϕb

a, @a ă b. Soient c P R et ε ą 0 tels que

@u P ϕ´1`<sub>rc ´ 2 , c ` 2 s</sub>˘_{, }ϕ}1_{puq} ě 8 . (2.1)}

Alors, il existe une application η P Cpr0, 1s ˆ ϕc`2ε_{, Xq telle que :}

(i) ηp0, uq “ u pour tout u P ϕc`2ε_,

(ii) ηp1, ϕc`ε_{q Ă ϕ}c´ε_,

(iii) ϕpηp¨, uqq est décroissante, @u P ϕc`2ε_,

(iv) tout pt, uq P r0, 1s ˆ ϕc`2ε _{possède un τ-voisinage N}

pt,uq dans X tel que v ´

ηps, vqˇˇps, vq P N_pt,uqXpr0, 1sˆϕc`2ε_q(_{est contenu dans un sous-espace de dimension}

nie de X,

(v) η est τ-continue,

(vi) ηpt, ´uq “ ´ηpt, uq @t P r0, 1s et @u P ϕc`2ε_.

Démonstration. Considérons le champ de vecteurs

wpvq :“ 2}∇ϕpvq}´2∇ϕpvq, @v P ϕ´1`rc ´ 2 , c ` 2 s˘.

Puisque ∇ϕ est τ´faiblement séquentiellement continue sur ϕc`2ε

c´2ε, pour tout v P ϕ´1

` rc´ 2ε, c ` 2εs˘, il existe un τ-voisinage ouvert et symétrique Nv de v dans X tel que

p∇ϕpuq, wpvqq ą 1, @u P Nv X ϕc`2εc´2ε. L'ensemble rN :“ ϕ´1

`

s ´ 8, c ´ 2εr˘ est τ-ouvert car ϕ est τ´semi-continue supérieurement. La famille

N “N_vˇˇc´ 2ε ď ϕpvq ď c ` 2ε(Y rN

est alors un recouvrement τ´ouvert de ϕc`2ε<sub>. Puisque pϕ</sub>c`2ε_{, τq est un espace métrique,}

on peut extraire de N un sous recouvrement τ´localement ni M :“M_{i : i P I}(, d'après

la proposition 1.9. Soit

V :“ď

iPI

Pour tout i P I, on a Mi Ă Nv pour un certain v ou bien Mi Ă rN. Dans le premier cas,

on dénit vi :“ wpvq et dans le second cas on pose vi :“ 0.

Soit tλiˇˇi P Iu une partition de l'unité τ-lipschitzienne subordonnée à M. Dénissons

sur V le champ de vecteurs

fpuq :“ÿ

iPI

λ_ipuqv_i.

Puisque ϕ est paire et V symétrique, on peut supposer que f est impaire `autrement on peut remplacer f par 1

2pfpuq ´ fp´uqq

˘

. Par construction, f vérie les conditions suivantes :

(a) f est τ-localement lipschitzienne et localement lipschitzienne,

(b) tout u P V possède un τ-voisinage Vu tel que fpVuq est contenu dans un sous-espace

de dimension nie de X, (c) `∇ϕpuq, fpuq˘ě 0 @u P V ,

(d) @u P ϕ´1`<sub>rc ´ 2ε, c ` 2εs</sub>˘_, `_{∇ϕpuq, fpuq}˘_{ą 1.}

D'après l'hypothèse (2.1), on a }wpuq} ď 1

4ε, ce qui entraîne que }fpuq} ď 4ε1 sur V .

Pour tout u P ϕc`2ε_{, le problème de Cauchy}

" _d

dtμpt, uq “ ´fpμpt, uqq

μp0, uq “ u

possède une solution unique μp¨, uq dénie sur R`<sub>. De plus μ est continue sur R</sub>`_ˆϕc`2ε_.

D'après pcq d dtϕpμpt, uqq “ ´ ∇ϕpμpt, uqq, d dtμpt, uq ¯ “ ´´∇ϕpμpt, uqq, fpμpt, uq¯ď 0. p‹q Dénissons η sur r0, 1s ˆ ϕc`2ε _par

ηpt, uq :“ μp2εt, uq.

piq est évidemment vériée et piiiq est vériée d'après p‹q.

Puisque f est impair, pviq est une conséquence de l'existence et de l'unicité de la solution du problème de Cauchy précédent.

Soit v P ηp1, ϕc`ε<sub>q, alors il existe u P ϕ</sub>c`ε _{tel que v “ ηp1, uq “ μp2ε, uq.}

‚ S'il existe t P r0, 2εs tel que ϕpμpt, uqq ă c ´ ε, alors

ϕpvq “ ϕpμp2ε, uqq ď ϕpμpt, uqq ď c ´ ε,

car ϕpμp¨, uqq est décroissante d'après p‹q.

‚ Si μpt, uq P ϕ´1`<sub>rc ´ ε, c ` εs</sub>˘ _{@t P r0, 2εs, alors on déduit de pdq que}

d

dtϕpμpt, uqq “ ´



∇ϕpμpt, uqq, fpμpt, uqqď ´1.

Il vient en intégrant sur r0, 2εs que

ϕpηp1, uqq “ ϕpμp2ε, uqq ď ϕpuq ´ 2ε ď c ´ .

D'où piiq est vériée.

Il reste à vérier pivq et pvq.

Soit pt0, u0q P r0, 2εs ˆ ϕc`2ε. On voit facilement que l'ensemble K :“ μ`r0, 2εs ˆ tu0u˘

est τ´compact. Donc il existe r, p ą 0 tels que

U : “ ! uP X : ~u ´ K~ ă r ) Ă V u, v P U ñ ~fpuq ´ fpvq~ ď p~u ´ v~

et fpUq soit contenu dans un sous-espace de dimension nie W de X. Si μps, uq P U pour 0 ď s ď t ď 2ε, alors ~μpt, uq ´ μpt, u0q~ ď~u ´ u0~ ` ż<sub>t</sub> 0 ~fpμps, uqq ´ fpμps, u0qq~ds ď~u ´ u0~ ` p ż_t 0 ~μps, uq ´ μps, u0q~ds.

En utilisant l'inégalité de Gronwall `lemme 1.14˘, on en déduit que

En particulier, pour ~u ´ u0~ ă r expp´2pεq et 0 ă t ă 2ε on obtient :

u´ μpt, uq “

ż_t

0

fpμps, uqqds P W.

Ceci montre que pivq est vériée.

Soit 0 ă ν ă r expp´2pεq. Si ~u ´ u0~ ă ν, |t ´ t0| ă ν et 0 ă t ă 2ε, alors on a

~μpt, uq ´ μpt0, u0q~ ď~μpt, uq ´ μpt, u0q~ ` ż<sub>t</sub> t0 ~fpμps, u0qq~ds ď´expp2pεq ` 1 4ε ¯ ν,

ce qui entraîne que μ est τ-continue et pvq est vériée. Introduisons les notations suivantes :

Y_{k :“ Y ‘ p} k à j“0 Rejq, Zk:“ 8 à j“k Rej, (2.2) B_{k:“ tu P Yk}ˇˇ}u} ď ρ_ku, N_{k :“ tu P Zk}ˇˇ}u} “ r_ku, avec 0 ă r_k ă ρ_k, k ě 2.

pfjqjě0 et pejqjě0 sont des bases hilbertiennes respectives de Y et YK xées au début de

cette section.

Soient Pk : X Ñ Yk et Qk: X Ñ Zk les projections orthogonales. On dénit

e1_{j :“}

"

e_j si j “ 0, 1, ..., k f_j´k´1 si j ě k ` 1,

Rappellons que si nous dénissons une nouvelle norme sur X, en posant ~u~k “ max ´_ÿ8 j“0 1 2j`1|pPku, e 1 jq|, }Qk`1u} ¯ ,

alors les normes ~¨~ et ~¨~ksont équivalentes sur Yk

`

voir la proposition 1.34 du chapitre 1˘. La topologie engendrée par cette nouvelle est donc équivalente à la topologie τ sur

Y_k.

Dénition 2.3. Pour k ě 2, soit Γk l'ensemble des applications γ : BkÑ X telles que :

(a) γ est τ´continue et impaire ;

(b) Tout u P Bk possède un τ´voisinage Nu dans Yk tel que pid ´ γq

`

N_uX B_k˘ est

contenu dans un sous-espace de dimension nie de X ; (c) ϕpγpuqq ď ϕpuq @u P Bk, où ϕ P C1pX, Rq.

L'ensemble Γk ainsi déni est non vide, puisqu'il contient la restriction à Bk de

l'ap-plication id : X Ñ X, idpxq “ x. paq et pbq entraînent que tout γ P Γk est continue.

Lemme 2.4 (Lemme d'intersection). Soit ϕ P C1_{pX, Rq telle que}

sup uPYk }u}“ρk ϕpuq ă inf uPX }u}ďrk ϕpuq. (2.3)

Alors pour tout γ P Γk on a γpBkq X Nk ‰ H.

Démonstration. Soit γ P Γk et soit U “ tu P Bkˇˇ}γpuq} ă rku. Puisque γ est

impaire, U est symétrique et contient 0. Nous savons que Bk est τ-fermée, donc par

τ´continuité de γ U l'est aussi. Si u P B_k est tel que }u} “ ρ_k, alors d'après la propriété

pcq dans la dénition de Γk on obtient ϕpγpuqq ă ϕpuq et d'après (2.3) u R U. Puisque γ

est continue, on en déduit que U est un voisinage ouvert et symétrique de 0 dans Yk.

Considérons l'application impaire

P_{k´1γ : U Ñ Yk´1}.

(i) Pk´1γ est τ-continue. En eet, si un Ñ u, alors γpuτ nq Ñ γpuq d'après paq et parτ

suite ~Pk´1pγpunq ´ γpuqq~ ď ~γpunq ´ γpuq~ Ñ 0, lorsque n Ñ 8.

(ii) Soit u P U. D'après pbq, u possède un τ-voisinage Nu tel que pid´γqpNuXUq Ă W ,

où W est un sous-espace de dimension nie de X. Si v P NuXU Ă Yk “ Yk´1‘Rek,

alors pid ´ Pk´1γqpvq “ Pk´1pv ´ γpvqq ` λek P W ` Rek, qui est évidemment un

On a ainsi montré que Pk´1γ : U Ñ Yk´1 est σ´admissible

`

où σ est la topologie dénie au chapitre 1 sur pYk,pe1jqq

˘

. D'après le théorème 1.31, il existe u0 P BU tel que

P_k´1γpu₀q “ 0. Puisque X “ Y_k´1‘ Z_k, le lemme est démontré.

On dénit pour k ě 2 : a_{k :“ sup} uPYk }u}“ρk ϕpuq, b_{k:“ inf} uPZk }u}“rk ϕpuq, d_{k:“ sup} uPYk }u}ďρk ϕpuq et c_{k :“ inf} γPΓk_uPBsup_k ϕ`γpuq˘.

Le théorème suivant généralise le théorème de la fontaine.

Théorème 2.5. Soit ϕ P C1_{pX, Rq une fonctionnelle paire. On suppose que ϕ est}

τ-semi-continue supérieurement et que ∇ϕ est τ´faiblement séquentiellement continu sur

ϕb

a, @a ă b.

Supposons qu'il existe ρką rką 0 tels que :

pA1q ak “ sup uPYk

}u}“ρk

ϕpuq ă min`_{0, inf}

uPX }u}ďrk ϕpuq˘ et d_k “ sup uPYk }u}ďρk ϕpuq ă 8 ; pA2q bk “ inf uPZk }u}“rk ϕpuq Ñ 8, k Ñ 8.

Alors il existe k0 tel que pour tout k ě k0, il existe une suite tunkun Ă X satisfaisant

ϕ1pun_kq Ñ 0 et ϕpun_kq Ñ c_k ě b_k, lorsque n Ñ 8.

En particulier, si ϕ satisfait la condition pP Sqc pour tout c ą 0, alors ϕ possède une suite

non bornée de valeurs critiques.

Ce théorème est une conséquence directe du théorème suivant :

Théorème 2.6. Soit ϕ P C1_{pX, Rq une fonctionnelle paire. On suppose que ϕ est}

ϕb_a, @a ă b. Si d_kă 8 et a_k ă min`b_{k, inf} uPX }u}ďrk ϕpuq˘,

alors ckě bk et, pour P s0, pck´ akq{2r et γ P Γk tels que

sup Bk ϕ˝ γ ď c_k` , (2.4) Du P ϕ´1`_rc k´ 2 , ck` 2 s ˘ ; }ϕ1puq} ď 8 . (2.5) Démonstration. D'après le lemme d'intersection, pour tout γ dans Γk, il existe u0

dans Bk tel que γpu0q P Nk. Ceci entraîne, d'après la dénition de Bk, que ϕpγpu0qq ě bk

et par suite que supuPBkϕpγpuqq ě bk pour tout γ P Γk. On déduit alors que ck ě bk.

Supposons que (2.5) n'est pas vériée et appliquons le lemme de déformation `lemme 2.2˘ avec c “ ck. En faisant usage de la déformation η obtenue, nous dénissons sur Bk

l'application βpuq :“ ηp1, γpuqq.

Montrons que β ainsi dénie est un élément de Γk.

1. Évidemment β est τ-continue, impaire et ϕpβpuqq ď ϕpuq, @u P Bk.

2. Soit u P Bk. Puisque γ P Γk, u possède un τ-voisinage Nu dans Yk tel que pid ´

γq`N_uX B_k˘ Ă W₁, où W₁ est un sous-espace de dimension nie de X. En vertue

de la conclusion pivq du lemme de déformation, le point p1, γpuqq possède un τ-voisinage Mp1,γpuqq “ M1 ˆ Mγpuq tel que



z ´ ηps, zqˇˇps, zq P M_p1,γpuqq X pr0, 1s ˆ ϕck`2 q(soit contenu dans un sous-espace de dimension nie W₂de X. Il vient alors

que pour tout v P Nu X γ´1pMγpuqq X Bk, on a

pid ´ βqpvq “ pid ´ γqpvq ` γpvq ´ ηp1, γpvqq P W1 ` W2,