SoientE etF deux espaces vectoriels normés complexes. Notons BE ={x∈E : kxk ≤1}
la boule unité fermée deE. Un élément ude L(E, F)est dit compacts’il vérifie l’une des trois conditions équivalentes suivantes :
• u(BE)est d’adhérence compacte dans F (pour la topologie forte),
• l’image par u de tout borné deE est d’adhérence compacte dansF,
• pour toute suite (xn)n∈N dans E telle que kxnk ≤ 1 pour tout n ∈ N, la suite (u(xn))n∈N admet une sous-suite convergente dansF.
Vérifions l’équivalence de ces conditions.
Il est immédiat que la seconde condition entraîne la première. Pour montrer l’implica-tion inverse, soit B un borné de E. Alors B est contenu dans une boule fermée de centre 0 et de rayon r pour un certain r > 0. Or u(B(0, r)) = r u(BE) par linéarité de u. De plus, les homothéties x 7→ rx étant des homéomorphismes, u(B(0, r)) est d’adhérence compacte puisque u(BE) l’est par hypothèse. Maintenant, u(B), en tant que partie de la partie d’adhérence compacte u(B(0, r)), est d’adhérence compacte, car tout fermé dans un compact est compact.
Il est immédiat que la première condition implique la troisième. Réciproquement, si la troisième condition est vérifiée, et si (yn)n∈N est une suite dans l’adhérence de u(BE), alors pour tout n∈N, soit xn∈BE tel que d(u(xn), yn)≤ n1. Par la troisième condition, la suite(u(xn))n∈N admet une sous-suite convergente, donc (yn)n∈N aussi.
Ces trois conditions sont bien sûr équivalentes à demander que l’image paru de toute suite bornée dans E admet une sous-suite convergente dansF.
Remarque. La définition a aussi un sens pour les espaces vectoriels normés réels, et les propositions 1.33,1.34,1.35,1.36restent valables dans ce cadre.
Exemples. (1) Un élémentudeL(E, F)est ditde rang finisi son image est de dimension finie. Par le théorème de Riesz 1.7 (et le fait que l’image de u(BE) soit contenue dans BF(0,kuk)), un élément deL(E, F) de rang fini est compact.
En particulier, siF est de dimension finie, alors tout élément deL(E, F)est compact.
De nouveau par le théorème de Riesz 1.7, siE est de dimension infinie, alors l’identité de E dansE n’est pas un opérateur compact.
(2) SoientX etY deux espaces métriques compacts, µune mesure positive borélienne finie surY etN ∈C(X×Y;C). NotonsE etF les espaces de BanachC(Y;C)etC(X;C) respectivement (pour les normes uniformes k · k∞, voir la partie 1.1). Pour tout f ∈ E, notons Kf =KNf ∈F l’application définie par
Kf(x) = Z
y∈Y
N(x, y)f(y)dµ(y),
pour tout x ∈X. Nous affirmons que K =KN ∈L(E, F) est un opérateur compact, dit opérateur à noyau, de noyau N.
Avant de montrer ce résultat, rappelons deux théorèmes qui seront utiles (voir par exemple [Dix, Dug, Pau] pour des démonstrations). Nous renvoyons à la démonstration du théorème 1.10 dans l’appendice A pour des rappels sur les applications uniformément continues.
Théorème 1.31 (Théorème de Heine) Soient X et Y deux espaces métriques, tels que X soit compact. Toute application continue de X dans Y est uniformément continue.
SoientX un espace métrique, et K=Rou K=C. Une partie A de C(X;K) est dite équicontinue si pour tous les ǫ > 0 etx0 ∈X, il existe un voisinage U de x0 dans X tel que
∀x∈U, ∀f ∈A, |f(x)−f(x0)|< ǫ .
L’important est que le voisinageU ne dépende pas de l’élémentf deA (attention à l’ordre des quantificateurs ! !).
Théorème 1.32 (Théorème d’Arzela-Ascoli) SoientXun espace métrique, etK=R ou K=C. SoitA une partie de C(X;K) telle que
• A est équicontinue,
• pour toutx dans X, l’ensemble A(x) ={f(x) : f ∈A} est d’adhérence compacte dans K.
Alors l’adhérence de A est compacte (et équicontinue) dans C(X;K) pour la norme
uni-forme sur les compacts.
Montrons maintenant que les opérateurs à noyaux K = KN définis ci-dessus sont compacts. Remarquons que
|Kf(x)−Kf(x′)| ≤ kfk∞
Z
y∈Y |N(x, y)−N(x′, y)|dµ(y)
pour tous les x etx′ dans X. Comme la mesure µest finie, et par continuité uniforme en y de x7→N(x, y) (par le théorème de Heine1.31), ceci montre que Kf est bien définie et continue, et que l’image parKde la boule unité fermée deEest équicontinue. L’application K est clairement linéaire, et continue car, aveckµk=µ(Y) la masse totale deµ,
kKfk∞≤ kµk kNk∞kfk∞.
Ceci montre aussi que les images des applicationsKf pourf ∈BE restent dans un compact fixé deC. Donc l’application linéaireK est compacte, par le théorème d’Arzela-Ascoli1.32 appliqué àA ={Kf : f ∈BE}.
(3) Soient (X,A, µ) et (Y,B, ν) deux espaces mesurés σ-finis, E et F les espaces de HilbertL2(ν)etL2(µ)respectivement, etN ∈L2 (X,A, µ)×(Y,B, ν)
. Pour toutf ∈E, notons Kf =KNf ∈F l’application définie par
Kf(x) = Z
y∈Y
N(x, y)f(y)dν(y),
pour (presque) tout x ∈ X. Alors K = KN ∈ L(E, F) est un opérateur compact, dit opérateur à noyau de type Hilbert-Schmidt, de noyau N.
En effet, par le théorème de Fubini (qu’il est possible d’utiliser par l’hypothèse de σ-finitude des mesures), l’application Nx : y 7→ N(x, y) appartient à E = L2(ν) pour µ-presque tout x∈X. Par l’inégalité de Cauchy-Schwarz, pour tout f ∈E, nous avons
|Kf(x)| ≤ kNxk2 kfk2
pourµ-presque toutx∈X. En utilisant de nouveau le théorème de Fubini pour la dernière égalité,
kKfk2 = Z
x∈X|Kf(x)|2dµ(x)12
≤ Z
x∈XkNxk22 kfk22dµ(x)12
=kfk2
Z
x∈X
Z
y∈Y |N(x, y)|2dν(y)
dµ(x)12
=kNk2kfk2 .
Donc l’applicationKest bien définie, clairement linéaire, et continue (de norme d’opérateur inférieure ou égale à kNk2).
Montrons maintenant que l’opérateurK est compact. Soit(fn)n∈Nune suite dans BE, et montrons que, quitte à extraire, la suite (Kfn)n∈N converge fortement dans F. Par le théorème 1.21, nous pouvons supposer quitte à extraire que (fn)n∈N converge faiblement vers f ∈ E. En particulier, pour µ-presque tout x, nous en déduisons que Kfn(x) = hfn, NxiE converge vers hf, NxiE = Kf(x). Puisque kfnk ≤ 1, nous avons |Kfn(x)| ≤
kNxk2 pour µ-presque tout x ∈ X et pour tout n ∈ N. Par le théorème de convergence dominée de Lebesgue, puisque x 7→ kNxk22 est intégrable, kKfnk2 converge donc vers kKfk2. De plus,Kfnconverge faiblement versKf, puisqueK est continue, par l’assertion (4) de la proposition 1.20. Par la proposition 1.22, nous avons donc que Kfn converge fortement vers Kf. Le résultat en découle.
Exercice E.9 Pour tout i ∈ {1,2,3}, soit (Xi,Ai, µi) un espace mesuré σ-fini. Soient N2,1 ∈L2((X2,A2, µ2)×(X1,A1, µ1)) etN3,2 ∈L2((X3,A3, µ3)×(X2,A2, µ2)). Montrer que la composition KN3,2 ◦KN2,1 des opérateurs de type Hilbert-Schmidt de noyaux N2,1 et N3,2 est l’opérateur de type Hilbert-Schmidt de noyau N3,1 défini presque partout par (x3, x1)7→R
X2N3,2(x3, x2)N2,1(x2, x1)dµ2(x2).
Exercice E.10 SoientI un intervalle ouvert borné de Retp∈N. Notons k · k0 la norme uniforme sur C(I;C) et D(p)(I) l’espace vectoriel complexe des applications f : I → C de classe Cp, de dérivées d’ordre au plus p bornées sur I, muni de la norme kfkp = Pp
i=0kf(i)k∞. Montrer que D(p)(I) est un espace de Banach complexe et que pour p≥1, l’injection f 7→f de D(p)(I) dans D(p−1)(I) est un opérateur compact.
Proposition 1.33 Le sous-ensemble K(E, F) des opérateurs compacts de E dans F est un sous-espace vectoriel de L(E, F), qui est fermé siF est un espace de Banach. De plus, si u∈L(E, F) est compact, si G1 etG2 sont des espaces vectoriels normés complexes, si v∈L(G1, E) et si w∈L(F, G2), alors w◦u◦v∈L(G1, G2) est compact.
En particulier, par l’exemple (1), toute limite d’une suite d’opérateurs de rang fini est un opérateur compact (lorsque l’espace d’arrivée est un espace de Banach). Mais on connait des exemples d’opérateurs compacts qui ne sont pas limites d’opérateurs de rang fini (voir par exemple [LT2]). Voir toutefois la proposition 1.34suivante pour le cas des espaces de Hilbert (aussi valable dans le cas réel).
SiE est un espace de Banach, l’ensemble des opérateurs compacts deE dans lui-même est donc un idéal bilatère (c’est-à-dire un sous-espace vectoriel stable par composition à droite et à gauche par n’importe quel élément de L(E)) fermé dans l’algèbre de Banach L(E), et en particulier, une sous-algèbre (non unifère, c’est-à-dire ne contenant pas l’iden-tité, si E est de dimension infinie) fermée de L(E).
Démonstration. Il est immédiat (en utilisant la troisième définition des opérateurs com-pacts) que l’ensemble des opérateurs compacts est stable par combinaisons linéaires. Si un opérateur continu u ∈ L(E, F) est compact, si v ∈ L(G1, E) et w ∈ L(F, G2), alors v(BG1)est borné car kvk est fini, doncu◦v(BG1) est contenu dans un compact caruest compact, donc w◦u◦v(BG1)est contenu dans un compact, car l’image d’un compact par une application continue à valeurs dans un espace métrique est encore compact. Puisque tout fermé dans un compact est compact, w◦u◦v(BG1) est donc d’adhérence compacte.
Pour montrer la fermeture de l’ensemble des opérateurs compacts lorsque F est un espace de Banach, soit(un)n∈Nune suite d’opérateurs compacts deE dansF, qui converge vers u dans L(E, F). Montrons que u(BE) est d’adhérence compacte. Puisque F est complet, par le théorème de Bolzano-Weierstrass, il suffit de montrer que pour tout ǫ >0, on peut recouvrir u(BE) par un nombre fini de boules de rayon ǫ. Soit n ∈ N tel que kun−uk< 2ǫ. Puisque l’opérateur continu unest compact, il existey1, . . . , yk ∈F tels que
un(BE) ⊂ Sk
i=1B(yi,2ǫ). Mais alors par l’inégalité triangulaire, u(BE) ⊂ Sk
i=1B(yi, ǫ) : pour tout x∈BE, soit i∈N∩[1, k] tel queun(x)∈B(yi,2ǫ); alors
ku(x)−yik ≤ ku(x)−un(x)k+kun(x)−yik< ǫ 2 + ǫ
2 =ǫ .
Proposition 1.34 Si F est un espace de Hilbert complexe, alors tout opérateur compact u de E dans F est limite d’opérateurs continus deE dans F de rang fini.
Démonstration.Pour toutǫ >0, par le théorème de Bolzano-Weierstrass, puisqueu(BE) est d’adhérence compacte, il existey1, . . . , yn∈F tels queu(BE)⊂Sn
i=1B(yi,2ǫ). Notons p la projection orthogonale sur le sous-espace vectoriel engendré par y1, . . . , yn (qui est fermé par le corollaire 1.8), et v=p◦u, qui est linéaire continue (comme composition de deux applications linéaires continues), et de rang fini. Pour tout x∈BE, soiti∈N∩[1, n]
tel que u(x) ∈ B(yi,ǫ2). Alors, comme p(yi) = yi et puisque kpk ≤ 1 (voir le théorème 1.11), nous avons par l’inégalité triangulaire
ku(x)−v(x)k ≤ ku(x)−yik+kp(yi)−p(u(x))k ≤ ǫ 2 + ǫ
2 =ǫ .
Donc ku −vk ≤ ǫ. Ainsi, u peut être approché arbitrairement près par des opérateurs
continus de rang fini.
L’exercice suivant donne des approximations explicites (modulo le choix d’une base hilbertienne) d’opérateurs compacts par des opérateurs de rang fini.
Exercice E.11 SoientH un espace de Hilbert complexe, séparable, de dimension infinie, (en)n∈N une base hilbertienne de H, et u∈L(H).
(1) Montrer que siuest compact, alors l’image parud’une suite faiblement convergente est (fortement) convergente.
Notons Fn = Vect(e0, . . . , en) l’espace vectoriel engendré par e0, . . . , en. Notons τn = ku|F⊥
nk la norme de la restriction deu à l’orthogonal deFn, et un:H →H l’application définie par
un:x7→
Xn
i=0
hx, eiiu(ei).
(2) Pour tout n ∈ N, montrer que un ∈ L(H) est un opérateur continu de rang fini, que l’application u 7→ un appartient à L(L(H)), et est de norme au plus 1, et que τn=ku−unk.
(3) Soit (yn)n∈N une suite dans H, telle que kynk = 1 et yn ∈Fn⊥ pour tout n ∈N.
Montrer que (yn)n∈N converge faiblement vers 0.
(4) Montrer que u est compact si et seulement si la suite (τn)n∈N converge vers 0.
(5) Montrer que siu transforme toute suite faiblement convergente en une suite conver-gente, alors u est compact.
Proposition 1.35 (Théorème de Schauder) Si un opérateur continuu∈L(E, F) est compact, alors son application duale tu∈L(F∗, E∗) (voir la partie 1.1) est un opérateur compact. Si F est un espace de Banach, alors u∈L(E, F) est compact si et seulement si
tu∈L(F∗, E∗) est compact.
Démonstration. Soit u ∈ L(E, F) un opérateur compact. Notons X l’espace métrique compact u(BE), et considérons l’espace de Banach C(X;C) (muni de la norme uniforme k · k∞). NotonsA le sous-ensemble deC(X;C) des restrictions àX des éléments deBF∗. AlorsA est équicontinu (ses éléments sont1-lipschitziens), et pour toutxdansX, la partie A(x) = {f(x) : f ∈ A} est bornée (par kuk). Par le théorème 1.32 d’Arzela-Ascoli, le sous-ensemble A est d’adhérence compacte dansC(X;C).
Soit(ℓn)n∈Nune suite dansBF∗. Quitte à extraire, la suite des éléments ℓn|X deA est donc convergente, donc de Cauchy, dans C(X;C). Comme
ktu(ℓn)− tu(ℓm)kE∗= sup
x∈BE
tu(ℓn)(x)− tu(ℓm)(x)
= sup
x∈BE
|ℓn(u(x))−ℓm(u(x))| ≤ kℓn|X −ℓm|Xk∞, la suite tu(ℓn)
n∈N, qui est de Cauchy dans l’espace de BanachE∗, converge. Donc l’opé-rateur continu tu est compact (par la troisième définition des opérateurs compacts).
Pour montrer la dernière assertion, si tu est compact, alors l’opérateur continu t(tu) est compact par ce qui précède. Identifions E avec son image dans E∗∗ par x7→evx (voir la partie1.1), et de même avec F. AlorsF est fermé dans F∗∗par le corollaire 1.4, carF est un espace de Banach. Par la formule (3) dans la partie 1.1, nous avons
t(tu)(BE) =u(BE).
Donc u(BE), contenu dans l’image par t(tu) d’un borné, est d’adhérence compacte dans
F∗∗, donc dansF qui est fermé.
Les propriétés élémentaires du spectre des opérateurs compacts sont regroupées dans le résultat suivant (aussi valable pour les espaces de Banach réels). Elles sont toutes im-médiates pour les applications linéaires entre deux espaces vectoriels de dimension finie, le but de la démonstration est de montrer qu’elles s’étendent aux opérateurs compacts.
Rappelons qu’un point x d’une partie A d’un espace métrique est isolédans A s’il existe ǫ >0tel que A∩B(x, ǫ) ={x}.
Proposition 1.36 Soient E un espace de Banach complexe et u ∈ L(E) un opérateur compact.
(1) Le noyau deid−u est de dimension finie.
(2) L’image deid−u est fermée.
(3) Siid−u est injective, alors id−u est surjective, donc inversible dans L(E).
(4) Toute valeur spectrale non nulle de u est une valeur propre de u de multiplicité finie, isolée dans Sp(u).
(5) SiE est de dimension infinie, alors0 est une valeur spectrale, et donc Sp(u) ={0} ∪Vp(u).
(6) Le spectre Sp(u) deuest ou bien fini, ou bien la réunion de{0} et de l’image d’une suite de valeurs propres (λn)n∈N qui converge vers 0.
Le spectre résiduel d’un opérateur compactu, qui est contenu dansSp(u)−Vp(u) est donc par (5) ou bien vide (par exemple pour l’opérateur nul), ou bien égal à {0} (voir l’exercice E.12 pour un exemple).
On fera bien attention qu’il existe des opérateurs compacts non nuls sans valeurs propres non nulle, et donc de spectre réduit à{0}(voir par exemple l’exercice E.14).
Démonstration. Notons v= id−uetN = Ker(v).
(1) Pour toutx∈N, nous avons x=u(x). La boule unité fermée BN =BE∩N deN est fermée dansE carN est fermé. Elle est d’adhérence compacte dansE, donc compacte, carBN ⊂u(BE)etuest compact. Donc par le théorème1.7de Riesz, la dimension deN est finie.
(2) Soit(xn)n∈N une suite dansE telle que la suite(v(xn))n∈N converge vers un point y dans E. Montrons que y appartient à l’image de v. Pour tout n ∈ N, puisque N est de dimension finie, l’intersection N ∩B(xn, d(xn, N) + 1) est compacte (toujours par le théorème1.7de Riesz). Puisque toute application continue, définie sur un espace compact et à valeurs réelles, atteint sa borne inférieure, et puisque
d(xn, N) = inf
z∈N∩B(xn, d(xn, N)+1)
d(xn, z), il existe zn∈N tel que d(xn, N) =d(xn, zn).
Supposons par l’absurde qued(xn, N) tende vers+∞. Posons wn= d(x1
n, N)(xn−zn), qui est de norme 1. Puisque l’opérateur continu u est compact, quitte à extraire, la suite
u(wn)
n∈Nconverge vers un élément w dansE. Or, en utilisant quev(zn) = 0, wn−u(wn) =v(wn) = 1
d(xn, N)v(xn)
converge vers 0, car la suite (v(xn))n∈N converge vers y et le dénominateur du terme de droite ci-dessus tend vers+∞. Doncwnconverge verswetw∈Ker(v) =N par continuité de v. Or d(wn, N) = 1 par définition de zn, et doncd(w, N) = 1par continuité, ce qui est une contradiction.
Donc quitte à extraire, la suite(d(xn, N) =kxn−znk)n∈N reste bornée. Puisqueu est compact, quitte à extraire, u(xn−zn) converge vers un point y′ dansE. Donc
xn−zn=u(xn−zn) +v(xn−zn) =u(xn−zn) +v(xn) converge vers y′+y. Par continuité de v et puisquezn ∈N,
y= lim
n→+∞v(xn) = lim
n→+∞v(xn−zn) =v(y′+y) appartient alors à l’image de v, ce qu’il fallait démontrer.
(3) Soient E0 = E et E1 = v(E0). Supposons par l’absurde que v est injectif et que E1 6= E0. Par (2), E1 est un sous-espace vectoriel fermé de E0, stable par u (qui commute avec v). La restriction u|E1 de u à E1 est donc encore un opérateur compact de l’espace de Banach E1. Par récurrence, la suite (En = vn(E0))n∈N est une suite de sous-espaces vectoriels fermés deE, qui est strictement décroissante puisquev est injectif.
Soient xn ∈ En −En+1 et x′n ∈ En+1 tels que d(xn, x′n) ≤ 2d(xn, En+1) (ce qui est possible car xn n’appartenant pas au fermé En+1, nous avons d(xn, En+1) > 0). Posons
yn= kx 1 est un opérateur compact tel que id−λ1u soit injective (sinonλ serait une valeur propre) et non surjective (sinon u−λidserait inversible, etλne serait pas une valeur spectrale).
Ceci contredit (3).
Soitλune valeur propre non nulle. Comme 1λu est compact, le noyau deid−λ1u est de dimension finie par (1), donc la multiplicité de λest finie.
Montrons queλest isolée dansSp(u). Sinon, soit(λn)n∈N une suite de valeurs propres de u non nulles deux à deux distinctes, qui converge vers λ. Pour tout n∈N, soit en un vecteur propre unitaire de valeur propre λn, etEn le sous-espace vectoriel de E engendré pare0, . . . , en. Alors(En)n∈Nest une suite strictement croissante de sous-espaces vectoriels fermés (car de dimension finie, voir le corollaire1.8) deE stables paru. Comme ci-dessus, pour toutn≥1, puisqued(en, En−1)>0, soite′n∈En−1 tel qued(en, e′n)≤2d(en, En−1). ce qui, avec la convergence deλnversλ6= 0, contredit aussi queuest compact, car l’image par u de la suite bornée yλn
n
n∈N n’a pas de sous-suite convergente par la minoration précédente.
(5) Si 0 ∈/ Sp(u), alors u−1 existe et est continu. Puisque u est compact, u(BE) = (u−1)−1(BE), qui est d’adhérence compacte et fermé, est compact. DoncBE =u−1(u(BE)) est compact, ce qui implique par le théorème 1.7de Riesz que la dimension deE est finie.
(6) Notons par convention dans cette démonstration 10 =ρ(u).
Puisque toute valeur spectrale deunon nulle est isolée, pour tout k ∈ N, il n’existe qu’un nombre fini d’éléments de Sp(u) dans le compact Ak =B(0,1k)−B(0,k+11 ). Posons n0=−1. SiSp(u) est infini, en numérotant par récurrence denk+ 1ànk+1 les éléments deAk∩Sp(u)si cet ensemble est non vide, et en prenantnk+1=nk
sinon, le résultat en découle. λ0
λnk+1 1 ρ(u)
k
Exercice E.12 Soient H un espace de Hilbert complexe séparable de dimension infinie, et (en)n∈N une base hilbertienne de H.
Montrer qu’il existe un et un seul opérateur continuu∈L(H)tel queu(en) = n+11 en+1 pour tout n∈N.
Montrer que u est un opérateur compact, n’ayant pas de valeur propre. En déduire que le spectre de u est réduit à {0}. Calculer kuk, et remarquer que cette norme est non nulle.
Montrer que le spectre résiduel deu est {0}.
1.5 Opérateurs auto-adjoints