5. Op´erateurs autoadjoints non born´es

(1)

Op´erateurs non born´es

Soient X et Y deux espaces vectoriels sur K = R ou C; une application linéaire par- tiellement définie (un peu plus loin, on dira un opérateur) T de X dans Y est donnée par un sous-espace vectoriel dom(T) de X appelé domaine de T et par une application linéaire (usuelle) LT de dom(T) dans Y. Autrement dit, la donnée T est celle de (X,Y,dom(T),LT). Dans la suite, pour tout x ∈ dom(T) on écrira simplement Tx = LTx. Si T est une application linéaire partiellement définie, le graphe de T est le sous-espace vectoriel du produit X×Y égal à

Gr(T) ={(x,Tx) :x∈dom(T)}.

La restriction à Gr(T) de la première projection est injective. Réciproquement, appelons graphe partiel tout sous-espace vectoriel G de X×Y tel que la restriction de la première projection à G soit injective : si (0, y) ∈ G, alors y = 0. On voit facilement que tout graphe partiel est le graphe d’une unique application linéaire partiellement définie T.

La correspondance qui à T associe son graphe est une correspondance bijective entre applications linéaires partiellement définies et graphes partiels :

soit G⊂X×Y un graphe partiel. Notons p1 : G→X etp2 : G→Y les projections et définissons un opérateur T en posant dom(T) = p1(G) et T(p1z) = p2z pour tout z ∈G. Il est clair que Gr(T) = G. Comme le noyau de la première projection de X×Y dans X est le sous-espace {0} ×Y de X×Y, la correspondance entre opérateur et graphe partiel est bijective.

On appellera image de T le sous-espace vectoriel im(T) de Y form´e de tous les vecteurs Tx, pourxvariant dans dom(T) ; c’est l’image du graphe Gr(T) par la seconde projection du produit X×Y.

Désormais on diraopérateur au lieu d’application linéaire partiellement définie. On appelle extension d’un opérateur T tout opérateur S tel que Gr(T) ⊂ Gr(S). On écrit alors T⊂S.

Soient S et T deux opérateurs de X dans Y ; on définit l’opérateur S + T en posant dom(S + T) = dom(S)∩dom(T) et en posant (S + T)(x) = Sx+ Tx pour tout vecteur x∈dom(S + T).

Si S est une application linéaire usuelle de X dans Y, elle définit un opérateur de la fa¸con la plus évidente : on pose dom(S) = X et Sx ∈ Y aura le sens habituel pour tout x∈X ; dans ce cas, si T est un opérateur (non borné) de X dans Y, le domaine de S + T sera égal à celui de l’opérateur T. Cette remarque sera utilisée lorsque X = Y et S =λIdX, pour introduire l’opérateur T−λIdX, de même domaine que T.

Soient X, Y et Z des espaces vectoriels, T un opérateur de X dans Y et S un opérateur de Y dans Z ; on définit la composition ST de ces deux opérateurs en posant d’abord dom(ST) = {x ∈ dom(T) : Tx ∈ dom(S)} et en posant (ST)x = S(Tx) pour tout x∈dom(ST).

(2)

L’attitude habituelle quand on travaille avec les opérateurs bornés continus est d’essayer de les prolonger le plus vite possible à l’espace complet convenable (penser

à la transformation de Fourier, qui est définie sur L1(R) par la formule intégrale usuelle ; on appelle aussi transformation de Fourier son extension par continuité à l’espace L2(R)).

Pour comprendre les définitions de ce paragraphe, il faut se dire qu’on adopte l’attitude radicalement opposée : ici, on ne prend aucune initiative de prolongement ; si T1 est défini sur D1 et T2 sur D2, la seule chose que nous sommes obligés d’admettre est que les deux sont définis sur D1∩D2. On ne cherche surtout pas à aller plus loin.

Définition.Soient X et Y deux espaces de Banach ; un opérateur T de X dans Y est dit densément défini si son domaine dom(T) est dense dans X. Un opérateur de X dans Y est dit fermé si son graphe est un sous-espace fermé de X×Y. Un opérateur de X dans Y est dit fermable s’il admet une extension fermée.

Exemples.

A.On prend X = Y = L2(R), et on définit un opérateur D0 (D comme^hhdérivationⁱⁱ) de la fa¸con suivante : dom(D₀) est l’espaceD(R) des fonctions C^∞ à support compact et on pose D0f =f⁰ pour f ∈dom(D0). Cet opérateur est densément défini puisque D(R) est dense dans L₂(R) ; il est assez facile de voir qu’il n’est pas fermé. En revanche il est fermable, et on déterminera plus loin sa fermeture.

B. Considérons X = Y = L₂(0,1) ; désignons par P l’opérateur borné de^hhprimitive nulle en 0ⁱⁱ, défini par (Pf)(t) =R_t

0f(s)ds. On a vu que P est injectif, donc P définit une bijection de X sur P(X) = im(P). On peut donc définir l’opérateur T = P⁻¹ de domaine im(P) en posant pour tout g∈im(P)

(Tg=f)⇔(Pf =g).

Cet opérateur T est donc injectif lui-aussi, de im(P) dans L2(0,1) (en fait il est bijectif de im(P) sur L₂(0,1)). On voit facilement que im(P) est dense, donc P⁻¹ = T est densément défini. Puisque P est continu, son graphe est fermé, donc P⁻¹ est fermé puisque son graphe s’obtient à partir de celui de P par l’homéomorphisme (x, y)→(y, x) de L2(0,1)×L2(0,1) sur lui-même.

Int´egration par parties

Supposons que deux fonctions int´egrables f, g soient donn´ees sur [a, b] et que l’on pose ensuite

F(x) =α+ Z _x

a

f(t)dt, G(x) =β+ Z _x

a

g(t)dt.

En utilisant le th´eor`eme de Fubini, on montre que (IPP)

Z _b

a

F(t)g(t)dt= h

F(t)G(t) i_b

a− Z _b

a

f(t)G(t)dt.

En effet, Z _b

a

F(t)g(t)dt=α Z _b

a

g(t)dt+ Z _b

a

³Z t a

f(s)ds

´

g(t)dt=

(3)

=α(G(b)−G(a))+

Z _b

a

f(s)

³Z ^b

s

g(t)dt

´

ds=α(G(b)−G(a))+

Z _b

a

f(s)¡

G(b)−G(s)¢ ds=

= F(a)(G(b)−G(a)) +

³Z b a

f(s)

´

G(b)− Z _b

a

f(s)G(s)ds=

= F(b)G(b)−F(a)G(a)− Z _b

a

f(s)G(s)ds.

Un exemple de fermeture

Soit S une extension fermée de l’opérateur T ; alors Gr(S) contient Gr(T), donc son adhérence Gr(T). Il s’ensuit qu’un opérateur T est fermable si et seulement si Gr(T) est le graphe d’un opérateur. On appellera fermeture de l’opérateur T l’opérateur T tel que Gr(T) = Gr(T). En particulier, pour que l’opérateur T soit fermable il faut et il suffit que l’on ait Gr(T)∩({0} ×Y) ={(0,0)}.

Exemple. On va étudier en détail la fermeture de l’opérateur D0 de l’exempleA, défini sur L2(R). On va montrer que D0 est fermable et identifier sa fermeture.

Supposons que (f, g) soit dans l’adhérence de Gr(D0) ; il existe une suite (fn)⊂ D(R) telle que (fn, f_n⁰)→(f, g) dans L2×L2, c’est-à-dire que fn→f dans L2 et f_n⁰ →g dans L2. Puisque la suite (f_n⁰) converge, elle est bornée dans L2 par une constante C, donc en appliquant Cauchy-Schwarz, on obtient

∀t, u∈R, ¯

¯f_n(u)−f_n(t)¯

¯=

¯¯

¯ Z _u

t

f_n⁰(s)ds

¯¯

¯≤ |u−t|^1/2kf_n⁰k₂ ≤C|u−t|^1/2. La suite des fonctions (f_n−f_n(0)) est donc équicontinue, et uniformément bornée sur tout compact deR; par Ascoli, on peut supposer, quitte à passer à une sous-suite, que la suite de fonctions (f_n−f_n(0)) converge uniformément sur tout compact vers une fonction F continue sur R. En intégrant sur (0,1) on déduit de la convergence uniforme que

Z ₁

0

fn(s)ds−fn(0)→ Z ₁

0

F(s)ds, mais on d´eduit de la convergence L2 que

Z ₁

0

fn(s)ds→ Z ₁

0

f(s)ds,

ce qui implique que limfn(0) =cexiste ; la suite (fn) tend donc uniformément vers F +c sur tout compact, et vers f dans L2(R). Il en résulte que f = F +c (comme élément de l’espace L2(R)). On peut donc choisir la fonction continue F +c comme représentant de f : on dira que f ^hhestⁱⁱ continue. Par les convergences établies ci-dessus, on a

∀t, u∈R, f(u)−f(t) = lim

n

Z _u

t

f_n⁰(s)ds= Z _u

t

g(s)ds.

(4)

On introduit l’ensemble G1 =©

(f, g)∈L2(R)×L2(R) :∀t < u, f(u) =f(t) + Z _u

t

g(s)dsª

(pour être vraiment correct, on devrait dire : l’ensemble des couples (f, g) tels que la classe f admette un représentant ˜f pour lequel, pour tous t < u, on ait ˜f(u) =. . .). On vient de montrer que l’adhérence de Gr(D0) est contenue dans G1; pour savoir que D0

est fermable, il suffit de voir que G₁ est un graphe : c’est clairement un espace vectoriel, et si (0, g)∈G1, on aura R_u

t g= 0 pour tous t < u, ce qui signifie que g est orthogonale

`a toutes les fonctions en escalier, qui sont denses dans L2(R), doncg= 0, ce qu’il fallait d´emontrer.

On va montrer que l’adhérence du graphe de D0 est égale à G1. On passera par un espace intermédiaire G2. Supposons que ϕ ∈dom(D0) et (f, g)∈ G1. D’après (IPP) appliquée à un intervalle [a, b] assez long pour que ϕ, ϕ⁰ soient nulles en dehors de [a, b], on a

(DG1)

Z

R

f ϕ⁰ = Z _b

a

f ϕ⁰ = h

f ϕ i_b

a− Z _b

a

gϕ=− Z _b

a

gϕ=− Z

R

gϕ.

Désignons par G₂ l’ensemble des couples (f, g) ∈ L₂(R)×L₂(R) tels que l’égalité ci- dessus soit vraie pour toute fonction ϕ∈ D(R). On vient d’indiquer que G1 ⊂G2; il est clair que G₂ est fermé dans L₂(R)×L₂(R), comme intersection de fermés. On va voir que G2 est contenu dans l’adhérence de Gr(D0), par la méthode usuelle de régularisation- troncature. Soit (θ_n) une suite de fonctions de D(R), positives et d’intégrale 1, dont les supports tendent vers 0 ; on peut obtenir une telle suite en posant

∀t∈R, θn(t) = 2ⁿθ0(2ⁿt) ;

on sait, par la théorie de la convolution, que θn∗f tend vers f dans L2(R), pour toute f ∈ L2(R) ; de plus θn∗f est C^∞ et sa dérivée est égale à θ⁰_n∗f. Si (f, g) ∈ G2, on va vérifier que θn∗g est aussi la dérivée deθn∗f. Par intégration par parties et Fubini, on voit que (∗) implique que

− Z

R

(θ_n∗f)⁰ϕ= Z

R

(θ_n∗f)ϕ⁰ =− Z

R

(θ_n∗g)ϕ

pour touteϕ∈ D(R). Par la densit´e deD(R) dans L2(R), il en r´esulte que (θn∗f)⁰ =θn∗g.

Le couple (θn∗f, θn∗g) tend vers (f, g). On peut donc trouver un couple de fonctions C^∞, de la forme (f1, f₁⁰) avec f1 = θn ∗f pour un n grand, qui est proche de (f, g).

Posons maintenant χn(x) = χ(x/n), o`u χ ∈ D(R) est égale à 1 dans un voisinage de 0. La fonction h_n = χ_n(x)f₁(x) est C^∞ à support compact, donc dans le domaine de D0, et on va voir que le couple (hn, h⁰_n) tend vers (f1, f₁⁰). C’est facile pour hn → f1

(convergence dominée). Pour les dérivées, on a h⁰_n= 1

nχ⁰(x/n)f₁(x) +χ_n(x)f₁⁰(x),

(5)

et ¸ca marche car χnf₁⁰ tend vers f₁⁰ dans L2(R) pour la mˆeme raison de convergence domin´ee, tandis que

Z

R

¯¯

¯1

nχ⁰(x/n)f₁(x)

¯¯

¯²dx≤ 1

n² kχ⁰k²_∞kf₁k²₂ →0.

On appelle H₁(R) (espace de Sobolev) l’espace des fonctions f ∈L₂(R) telles qu’il existe g∈L2(R) telle que (f, g)∈G1 = G2. On dit queg est la dérivée généralisée def, et on note simplement g = f⁰. La fermeture de l’opérateur D₀ de l’exemple Aest donc l’opérateur D = D0 de L2(R) dans lui-même dont le domaine est H1(R) et qui est défini par Df =f⁰ pour f ∈H₁(R).

On d´efinit aussi l’espace H1([0,1]) des fonctions f ∈ L2([0,1]) (en fait f sera continue) pour lesquelles existe une fonction g∈L2([0,1]) telle que

(DG2) f(t) =f(0) +

Z _t

0

g(s)ds,

pour tout t ∈[0,1]. Si on se rappelle l’opérateur-exemple P de L2([0,1]) dans lui-même qui associe à chaqueg ∈L2([0,1]) sa^hhprimitiveⁱⁱnulle en zéro, on voit que H1([0,1]) est

´egal `a im(P) +K1.

Sif est dans H1([0,1]), la fonction gvérifiant (DG2) est unique (par la densité dans L2 des fonctions en escalier). Il est commode de noter f⁰ cette unique fonction g, en l’appelant dérivée généralisée de f, pour ne pas oublier que ce n’est pas une dérivée au sens ordinaire.

Continuons sur la notion de dérivée généralisée. C’est la propriété (DG1) qui permet d’étendre la définition de H¹ au cas de plusieurs dimensions. Par exemple, on dit que f ∈ H¹(R²) si f ∈ L2(R²) et s’il existe deux fonctions g1, g2 ∈ L2(R²) qui seront les dérivées partielles faibles de f, ce qui signifie que

Z

R²

f(x)∂ϕ

∂x_j(x)dx=− Z

R²

gj(x)ϕ(x)dx

pour j = 1,2 et pour toute fonction ϕ ∈ D(R²). Les fonctions de cet espace H¹(R²) ne sont plus nécessairement continues, ni même bornées sur les compacts de R². Si Ω est un ouvert de R², on définit de la même fa¸con un espace H¹(Ω), où f et les g_j sont dans L2(Ω) et où les fonctions test ϕ sont maintenant limitées à l’espace D(Ω) des fonctions

`a support compact dans Ω.

On est conduit naturellement à ces espaces de Sobolev si on généralise l’exemple D0 : définissons un opérateur ∇0 de X = L2(R²) dans l’espace de Hilbert Y = L2(R², dλ,K²) des fonctions définies sur R², à valeurs dans l’espace vectoriel K² (en général R², mais

¸ca peut être C²) de la fa¸con suivante. Le domaine de ∇0 est D(R²) (fonctions à valeurs réelles ou complexes). Siϕ∈dom(∇0), on définit∇0ϕ∈Y comme la fonction vectorielle

t∈R² →(∇ϕ)(t)∈K².

Si on détermine la fermeture de∇₀ comme on l’a fait ci-dessus pour D₀, on trouve que le domaine de la fermeture ∇=∇0 est H¹(R²), l’opérateur ∇ associant à chaque fonction f ∈H¹(R²) son gradient généralisé, dont les deux composantes sont les dérivées partielles généralisées. Si on effectue le même travail sur un ouvert Ω, on est conduit à l’espace H¹₀(Ω), sous-espace de H¹(Ω) dont on reparlera plus loin.

(6)

Spectre des op´erateurs ferm´es

Définition.Soient T un opérateur d’un espace de Banach complexe X dans lui même et λ∈C; on dit queλ est unevaleur régulière de T si T−λIdXest une application linéaire bijective de dom(T) sur X et si l’application linéaire réciproque définit une application linéaire continue de X dans lui même. On appellespectre de T le complémentaire σ(T) dans C de l’ensemble des valeurs régulières de T.

Répétons pour enfoncer le clou : la valeur λ est régulière pour T s’il existe un opérateur borné S ∈ L(X) qui vérifie les propriétés suivantes : S(X) ⊂ dom(T) ; pour tout x∈dom(T), on a x= S(Tx−λx) ; pour touty ∈X, on a y= (T−λId)Sy.

Soit T un opérateur sur un espace de Banach complexe X ; désignons par Ω_T l’ensemble des λ ∈C qui sont valeur régulière de T ; pourλ ∈ΩT, on pose

Rλ(T) = (λIdX−T)⁻¹ ∈ L(X) et on appelle Rλ(T) la r´esolvante de T.

Seuls les opérateurs fermés sont intéressants pour la théorie spectrale : en effet, si T admet une valeur régulière λ, l’opérateur (λId_X−T)⁻¹ est continu donc à graphe fermé ; on en déduit que son inverse λIdX−T est fermé, et il en résulte facilement que T lui-même est fermé. Autrement dit : si T n’est pas fermé, T n’admet aucune valeur régulière, donc on a toujours σ(T) =C.

Soit T un opérateur fermé d’un espace de Banach X dans lui-même ; remarquons que pour toutλ ∈C, l’opérateur λId_X−T est fermé. SiλId_X−T est bijectif de dom(T) sur X, alors λ est une valeur régulière car (λIdX−T)⁻¹ est fermé, défini sur un espace de Banach, donc continu par le théorème du graphe fermé.

Exemples.

1. Considérons l’opérateur M de multiplication par la fonction t → t sur L2(R), défini sur le domaine

dom(M) ={f ∈L₂(R) : Z

R

|t|²|f(t)|²dt <+∞},

qui agit sur f ∈ dom(M) par (Mf)(t) = tf(t) ; on a bien alors Mf ∈ L2(R). On peut d´ecrire l’appartenance de f au domaine dom(M) en une seule formule,

Z

R

(1 +|t|²)|f(t)|²dt <+∞.

On montre assez facilement que M est fermé en utilisant les outils de la théorie de l’intégration. On suppose d’abord queλ∈R; soit B = B(λ, ε),ε >0 ; on peut considérer la fonction f =1_B, qui est dans dom(M), et qui est non nulle dans L₂(R). On a

|λf −Mf|=|t−λ|1_B ≤ε1_B

(7)

car 1B est nulle là où |t−λ| > ε. Ceci montre que kλf −Mfk2 ≤ εkfk2; si l’inverse R_λ(M) de λId−M existait, il devrait vérifier kR_λ(M)k ≥ 1/ε, pour tout ε > 0, ce qui est impossible. Il en résulte que λ∈σ(M).

On suppose inversement que λ /∈ R. Considérons la fonction continue g définie sur R par g(t) = (λ−t)⁻¹; elle est bornée sur R par |Imλ|⁻¹. La multiplication Mg est bornée sur L2(R) puisque g est bornée, et on va voir que Mg = Rλ(M). Si f ∈dom(M), on voit que Mg(λf −Mf) = g(λ−t)f est égale à f; on a bien Mg(λf −Mf) = f en tant que classe. Inversement, si h∈L2(µ), on vérifie que Mg(h)∈dom(M) (en effet,

Z

R

|t|²|(M_gh)(t)|²dt= Z

R

|t|²|g(t)h(t)|²dt= Z

R

|tg(t)|²|h(t)|²dt <+∞

parce que tg(t) est born´ee sur R) et ensuite (λId−M)(M_g(h)) = h. On a bien montr´e que Mg = Rλ(M).

En bref, le spectre de M est exactement l’ensemble des λ∈R.

2. Nous allons montrer maintenant que le spectre de l’opérateur T = P⁻¹ de l’exemple B est vide : évidemment, 0 est valeur régulière de T et R0(T) = −P. Pour λ 6= 0, cherchons à résoudre l’équation λx−Tx = y, pour y ∈ X donné (on cherche x∈D). Puisque T est surjectif, on peut écrire y= Tz, avec z = Py∈D. En appliquant P on trouve λPx−x =z, soit λ⁻¹x−Px = −λ⁻¹z. On sait que λ⁻¹ n’est pas dans le spectre de P (qui est réduit à {0}) donc on peut résoudre,

x= R_λ⁻¹(P)(−λ⁻¹z) =−λ⁻¹R_λ⁻¹(P) (Py).

On vient donc d’identifier Rλ(T) = −λ⁻¹Rλ⁻¹(P) P. Finalement, on constate que tout nombre complexe est valeur r´eguli`ere de T, donc le spectre de T = P⁻¹ est vide.

3. Opérateur diagonal. Pour toute suite scalaire (µn)n≥0, on définit un opérateur (en général non borné) sur `2(N) dont le domaine est l’espace vectoriel

E = {x ∈`2 :X

|µnxn|² <+∞}

et qui est défini pourx∈E par (Tx)_n =µ_nx_n. Le spectre de T est l’adhérence dansCde l’ensemble des valeurs (µn)n≥0. Comme toute partie fermée non vide F deC admet une suite dense, on trouve que pour toute partie fermée non vide F de C, on peut construire un opérateur T d’un espace de Hilbert H dont le spectreσ(T) soit égal à F. L’opérateur T = P⁻¹ fournit un cas oùσ(T) =∅.

4. Considérons l’opérateur D de dérivation sur L2(R), défini sur le domaine H¹(R) par Df =f⁰ (dérivée généralisée) ; on voit d’abord que si ω est réel, la valeur imaginaire pure λ = iω n’est pas régulière, car on va trouver une suite (fn) ⊂ dom(D) telle que kf_nk= 1 et

(λId−D)fn=λfn−f_n⁰ →0.

A cet effet choisissons` θ ∈ D(R) telle que kθk2 = 1, puis posons fn(t) = 1

√nθ(t/n) e^iωt.

(8)

On v´erifie que kfnk2 =kθk2 = 1, et

λfn(t)−f_n⁰(t) =−1 n

√1

nθ⁰(t/n) e^iωt

dont la norme est n⁻¹kθ⁰k2, qui tend vers 0. Il ne peut donc pas exister d’inverse born´e pour λId−D.

Pour montrer que les valeurs λ /∈ iR sont régulières, on divise en deux cas : si λ=a+ ib avec a, b réels et a > 0, on montre que

(R_λg)(t) = e^λt Z _+∞

t

e^−λsg(s)ds.

Dans le cas a <0, on int`egre depuis −∞. On conclut que σ(D) = iR.

Le raisonnement utilisé dans l’exemple 2 précédent montre que

Lemme. Soient T un opérateur injectif fermé d’un espace de Banach X dans lui même et λ une valeur régulière de T non nulle ; alors λ⁻¹ est une valeur régulière de T⁻¹ et on a

R_λ⁻¹(T⁻¹) =−λT Rλ(T) =λIdX−λ²Rλ(T).

Preuve. — On veut résoudre pour tout y ∈ X l’équation (λ⁻¹Id_X−T⁻¹)x = y (on cherche x ∈ dom(T⁻¹) = im(T)). Puisque λ est régulière pour T, on peut écrire y = (λId_X−T)z, avec z = R_λ(T)y. On sait alors que z ∈dom(T) = im(T⁻¹), donc il existe u∈im(T) tel que z = T⁻¹u. L’équation proposée est donc

λ⁻¹x−T⁻¹x =y= (λIdX−T)(T⁻¹u) =λT⁻¹u−u=λ⁻¹(−λu)−T⁻¹(−λu).

Il en résulte que x₀ = −λu convient. Par ailleurs, λ⁻¹Id_X−T⁻¹ est injectif (donc la solutionx0est unique) : six∈dom(T⁻¹) etλ⁻¹x−T⁻¹x= 0, alorsx=λT⁻¹x∈dom(T) et Tx = λx implique x = 0 puisque λ est régulière pour T. Si R_λ⁻¹(T⁻¹) existe, on a donc

x= R_λ⁻¹(T⁻¹)y=−λu=−λTz =−λT R_λ(T)y.

Il reste à expliquer pourquoi l’opérateur T Rλ(T) est borné. Cela provient de l’égalité (λIdX−T)Rλ(T) = IdX, qui donne T Rλ(T) =λRλ(T)−IdX, qui est bien continu.

///

Proposition. Le spectre d’un opérateur fermé T d’un espace de Banach complexe X dans lui même est une partie fermée de C, et l’application λ → Rλ(T) est analytique, du complémentaire du spectre dans L(X).

(9)

Preuve. — Soit λ0 une valeur régulière pour T ; en introduisant T0 = T−λ0IdX on se ramène à étudier la situation au voisinage de 0. L’opérateur T₀ est une bijection de dom(T) sur X, d’inverse S =−Rλ0(T) ∈ L(X) ; on veut montrer qu’il existe ε0 > 0 tel que ε soit valeur régulière de T0 dès que |ε| < ε0. L’opérateur borné S vérifie les deux propriétés suivantes :

– pour tout y∈X, on a Sy∈dom(T0) = dom(T) et T0Sy =y; – pour tout x∈dom(T), on a ST0x=x.

Considérons l’opérateur borné Vε = (Id−εS)⁻¹ ∈ L(X), qui est certainement défini quand |ε| < ε0 = kSk⁻¹. On va voir que l’opérateur Sε = SVε = VεS convient comme inverse borné de T0−εId. Si y∈ X, le vecteur Sεy= SVεy est dans l’image de S, donc dans dom(T), et

(T0−εId)SVεy= T0SVεy−εSVε = Vεy−εSVεy= (Id−εS)Vεy=y; si x∈dom(T), on a

Sε(T0−εId)x = VεS(T0−εId)x = Vεx−εVεSx= Vε(Id−εS)x=x

ce qui montre que T0−εId est bijective de dom(T) sur X, d’inverse Sε =−Rε(T0). En développant V_ε au moyen de la série géométrique usuelle, on voit que

(∗) −R_ε(T₀) = S +εS²+ε²S³+· · ·

L’écriture (∗) montre que ε→Rε(T0) est développable en série au voisinage de 0, c’est-

`a-dire que λ →Rλ(T) est analytique dans l’ouvert ΩT.

///

Adjoint hilbertien

Soient X et Y deux espaces de Banach et T un opérateur densément défini de X dans Y ; on définit le transposé de T, qui est un opérateur de Y^∗ dans X^∗, de la fa¸con suivante : le domaine de ^tT est défini comme étant l’ensemble des y^∗ ∈ Y^∗ telles que la forme linéaire x ∈ dom(T) → y^∗(Tx) soit continue (en ayant muni l’espace vectoriel dom(T) de la norme induite par celle de X). Dans le cas où y^∗ ∈ dom(^tT), cette forme linéaire continue, définie sur le sous-espace dense dom(T) ⊂ X, se prolonge de fa¸con unique en une forme linéaire x^∗ ∈X^∗ continue sur X. On pose alors ^tTy^∗ =x^∗. On a donc

(^tT)(y^∗)(x) =y^∗(Tx) pour tous x ∈dom(T) ety^∗ ∈dom(^tT).

Lorsque X et Y sont deux espaces de Hilbert et T un opérateur densément défini de X dans Y, on définit un opérateur T^∗ de Y dans X de la fa¸con suivante : on définit T^∗y = x si la forme linéaire `y associée à y ∈ H est dans dom(^tT), et si `x = x^∗ =

tT(`_y). Le vecteur y est donc dans le domaine de T^∗ si et seulement si la forme lin´eaire

`:u ∈dom(T)→ hTu, yiest continue sur dom(T) (muni de la norme de X), et le couple (y, x)∈Y×X est dans le graphe de T^∗ si et seulement si

(∗) hTu, yi=hu, xi

(10)

pour tout u ∈ dom(T), ce qui signifie que x représente la forme linéaire ` (et son prolongement continu à X). On a donc

Gr(T^∗) ={(y, x)∈Y×X : ∀z ∈dom(T), hx, zi=hy,Tzi}.

En effet, la forme linéaireu→ hTu, yiest alors continue puisqu’elle est égale àu→ hu, xi et dans ce cas on a x = T^∗y par définition de l’adjoint. Il est clair que la condition (∗) définit un ensemble fermé de couples (y, x), ce qui montre que T^∗ est toujours un opérateur fermé.

Redisons les choses d’une autre fa¸con, qui sera tr`es utile plus loin. Sur l’espace X×Y on introduit le produit scalaire

h(x, y),(x⁰, y⁰)iX×Y =hx, x⁰i+hy, y⁰i

et on procède de même sur Y×X. Soit UX,Y ∈ L(X×Y,Y ×X) l’opérateur unitaire qui à (x, y)∈X×Y associe (−y, x) ; l’adjoint U^∗_X,Y= U⁻¹_X,Y vérifie U^∗_X,Y(y, x) = (x,−y), c’est-à-dire que U^∗_X,Y =−UY,X. Le couple (y, x) est dans le graphe de T^∗ si et seulement si on a pour tout z ∈dom(T)

0 =hy,−Tzi+hx, zi=h(y, x),(−Tz, z)iY×X,

ce qui signifie que (y, x) est orthogonal `a toutes les images par UX,Y des points (z,Tz) du graphe de T, c’est-`a-dire que (y, x) est orthogonal au sous-espace U_X,Y(Gr(T)).

Le graphe Gr(T^∗) de l’op´erateur adjoint T^∗ est l’orthogonal de UX,Y(Gr(T)) dans l’espace de Hilbert Y×X,

donc Gr(T^∗) est fermé. Bien entendu, en modifiant notre interprétation, 0 =h−x, zi+hy,Tzi=h(−x, y),(z,Tz)iX×Y, et il revient au même de dire que

U_Y,X(Gr(T^∗)) est l’orthogonal de Gr(T) dans l’espace de HilbertX×Y.

Voici une premi`ere occasion d’utiliser cette approche.

Proposition. Soient X et Y deux espaces de Hilbert et T un opérateur densément défini de X dans Y; si T est fermé, alors T^∗ est densément défini, (T^∗)^∗ = T et on a la décomposition orthogonale

X×Y = Gr(T)⊗U_Y,X(Gr(T^∗)).

(11)

Preuve. — Supposons T densément défini et fermé. Pour montrer que T^∗ est densément défini, on va montrer que y = 0_Y est le seul vecteur de Y orthogonal à dom(T^∗). Si y est orthogonal à dom(T^∗), le couple (y,0X) est orthogonal à Gr(T^∗), donc (0X, y) est orthogonal à UY,X(Gr(T^∗)) = Gr(T)^⊥,

(0X, y)∈Gr(T)^⊥⊥;

puisque T est fermé, Gr(T) est un sous-espace fermé, donc Gr(T))^⊥⊥ = Gr(T) ; on obtient ainsi (0X, y)∈Gr(T), d’où y= T0X= 0Y.

On sait qu’en général UY,X(Gr(T^∗)) est l’orthogonal de Gr(T) ; si Gr(T) est fermé, on en déduit que Gr(T) est l’orthogonal de UY,X(Gr(T^∗)) ; mais on a dit que le graphe de (T^∗)^∗ est l’orthogonal de UY,X(Gr(T^∗)). Il en résulte que Gr((T^∗)^∗) = Gr(T), ce qui contient toute l’information voulue pour conclure que (T^∗)^∗ = T. On a de plus la décomposition orthogonale H = Z⊕Z^⊥, vraie pour tout sous-espace fermé Z d’un espace de Hilbert H.

///

Proposition. Soit T un opérateur densément défini d’un espace de Hilbert X dans un espace de Hilbert Y; alorsker T^∗ = im(T)^⊥.

Preuve. — Soity ∈Y ; on a y∈ker T^∗ si et seulement si, pour tout x∈dom(T), on a h0, xi=hy,Txi; cela a lieu si et seulement si y ∈im(T)^⊥.

///

Définition. On dit que T (densément défini sur un Hilbert) est symétrique si hx,Tyi=hTx, yi

pour tous x, y ∈ dom(T). Cela revient à dire que T ⊂ T^∗. Un opérateur T de X dans lui-même est dit autoadjoint si T = T^∗. Tout autoadjoint est symétrique mais l’inverse n’est pas vrai.

Exemples.

1.On va vérifier que l’opérateur M est autoadjoint. On voit facilement que dom(M) est dense dans L₂(R) (parce que dom(M) contient toutes les fonctions de L₂(R) à support borné). Il est à peu près évident que M est symétrique,

hMf, gi= Z

R

¡tf(t)¢

g(t)dt= Z

R

f(t)tg(t)dt=hf,Mgi.

On en déduit dom(M) ⊂ dom(M^∗). Inversement, supposons que g ∈ dom(M^∗), et con- sidérons pour tout n ≥ 0 la fonction fn ∈ dom(M) définie par fn(t) = t1[−n,n](t)g(t) ; puisque g ∈ dom(M^∗), il existe une constante C telle que pour tout n ≥ 0, on ait

|hMfn, gi| ≤Ckfnk2, ce qui donne Z _n

−n

t²|g(t)|²dt≤C

³Z n

−n

t²|g(t)|²dt

´_1/2

d’o`u r´esulte que R

Rt²|g(t)|²dt≤C² <+∞, soit g∈dom(M). La v´erification est finie.

(12)

2.On définit un opérateur DA sur X = L2(0,1) (D comme dérivation,Aparce qu’il y aura des variations B, C de cet exemple), par son domaine

dom(DA) = H¹₀ ={f ∈H¹([0,1]) :f(0) =f(1) = 0}

et on définit ensuite DAf = f⁰ (la dérivée généralisée) pour toute f ∈ dom(DA). On vérifie d’abord que H¹₀ = dom(D_A) est dense dans X : c’est clair puisque H¹₀ contient D(]0,1[), qui est dense dans L2(0,1) ; on note que si g ∈ H¹, f ∈ H¹₀, on a en utilisant l’intégration par parties dans H¹([0,1])

hg,D_Afi= Z ₁

0

g f⁰ =£ g f¤₁

0− Z ₁

0

g⁰f =− Z ₁

0

g⁰f =−hg⁰, fi (le terme £

.¤₁

0 est nul parce quef est nulle aux bornes par définition de H¹₀). On a ainsi montré que le domaine de D^∗_A contient H¹, et que D^∗_Ag =−g⁰. Inversement, supposons que g ∈ dom(D^∗_A). Dire que (g, h) est dans le graphe de D^∗_A signifie que h = D^∗_Ag ∈ X vérifie

hf, hi=hD_Af, gi pour toute fonction f ∈H¹₀. On a donc si (g, h)∈Gr(D^∗_A) (+)

Z ₁

0

f h=− Z ₁

0

f⁰g

pour toute f ∈H¹₀. Posons H(t) =R_t

0 h(s)ds. On obtient par int´egration par parties Z ₁

0

f h=£ fH¤₁

0− Z ₁

0

f⁰H = − Z ₁

0

f⁰H,

ce qui donne Z ₁

0

f⁰g= Z ₁

0

f⁰H,

pour toute f ∈ H¹₀. On remarque que l’ensemble des f⁰, lorsquef ∈H¹₀, est exactement l’ensemble de toutes les fonctions k de X = L2(0,1) qui sont d’int´egrale nulle sur [0,1].

Cet ensemble des fonctions d’intégrale nulle est égal à (C1)^⊥, et l’équation précédente indique que H−g est orthogonale à (C1)^⊥, donc H−g ∈ (C1)^⊥⊥ = C1. On obtient que H−g est une fonction constante, donc g= H + Cte; comme H est une fonction de H¹([0,1]), il en résulte queg∈H¹. On a déjà vu que H¹ ⊂dom(D^∗_A), et on a maintenant dom(D^∗_A)⊂H¹, donc dom(D^∗_A) = H¹ et pour g∈dom(D^∗_A) on a D^∗_Ag=−g⁰.

On voit ainsi apparaˆıtre une variante DB de l’op´erateur de d´erivation, dont le domaine est

dom(DB) = H¹([0,1])

et on définit ensuite DBf =f⁰; on a obtenu que D^∗_A =−DB. D’après le résultat sur les double-adjoints, on a aussi D^∗_B =−D_A. Si on travaille sur les complexes, on aura envie d’écrire (iDA)^∗ = iDB, (iDB)^∗ = iDA, mais on n’a pas encore d’exemple de dérivation autoadjointe sur (0,1). C’est l’objet du prochain exercice.

(13)

Exercice.

a. On d´efinit un op´erateur DC sur X = L2(0,1) par son domaine dom(DC) ={f ∈H¹([0,1]) :f(0) =f(1)}

et on définit ensuite DCf =f⁰ (la dérivée généralisée) pour toutef ∈dom(DC). Montrer que iD_C est auto-adjoint.

b. Soit D l’opérateur sur L₂(R), de domaine H¹(R), qui agit par Df = f⁰ (dérivée généralisée). Montrer que iD est un opérateur autoadjoint sur L2(R).

Proposition. Soient H un espace de Hilbert et B un op´erateur born´e, hermitien et injectif ; alors B⁻¹ est autoadjoint.

Preuve. — Le domaine de T = B⁻¹ est l’image im(B) de B ; comme B est hermitien injectif, cette image est dense ; en effet, si z est orthogonal `a im(B), on a

0 =hBy, zi=hy,Bzi

pour tout y∈H donc Bz = 0, donc z = 0 puisque B est injectif. Il est évident que T est symétrique : si x1, x2 ∈im(B), on peut écrire xj = Byj, j = 1,2 et

hTx1, x2i=hy1,By2i=hBy1, y2i=hx1,Tx2i.

Il reste `a montrer que le domaine de T^∗ n’est pas plus grand que im(B) ; si u est dans le domaine de T^∗, il existe un vecteur v tel que

hTx, ui=hx, vi pour tout x= By dans im(B), donc puisque Tx=y

hy, ui=hBy, vi=hy,Bvi pour tout y ∈H, ce qui donneu= Bv, donc u∈im(B).

///

Proposition. Soient H et K deux espaces de Hilbert et T un opérateur fermé densé- ment défini de H dans K; l’opérateur(Id_H+T^∗T)est injectif, son image est égale àH et (IdH+T^∗T)⁻¹ est un élément positif de L(H). L’opérateur T^∗T est autoadjoint et son spectre est contenu dans [0,+∞[.

Preuve. — Soit x∈H ; comme T est densément défini et fermé on a H×K = Gr(T)⊕UK,H(Gr(T^∗)),

donc il existe deux vecteurs ξ ∈ Gr(T) et η ∈ Gr(T^∗) tels que (x,0) = ξ−U_K,H(η) ; en d’autres termes, il existe z ∈dom(T) et y∈dom(T^∗) tels que

(x,0) = (z,Tz) + (T^∗y,−y).

(14)

Alors y = Tz, donc z ∈dom(T^∗T) et x= (IdH+T^∗T)z, ce qui montre que (IdH+T^∗T) est surjectif. Soit z ∈dom(T^∗T) ; comme z ∈dom(T) et Tz ∈dom(T^∗), on a

h(IdH+T^∗T)z, zi=hz+ T^∗Tz, zi=hz, zi+hT^∗Tz, zi=kzk²+kTzk². Alors

kzk² ≤ kzk²+kTzk² =h(IdH+T^∗T)z, zi ≤ kzk k(IdH+T^∗T)zk,

donc kzk ≤ k(IdH+T^∗T)zk; il en résulte que IdH+T^∗T est injectif, que l’opérateur inverse B = (Id_H+T^∗T)⁻¹ est continu et que kBk ≤ 1. Enfin, considérons x₁ = By₁, x2 = By2, avec y1, y2 ∈H ; on ax1, x2 ∈dom(T^∗T) et

hy1,By2i=h(IdH+T^∗T)x1, x2i=hx1, x2i+hTx1,Tx2i=hBy1, y2i, donc B est hermitien ; de plus les égalités précédentes montrent que

hy1,By1i=hx1, x1i+hTx1,Tx1i ≥0

donc B est un élément positif de L(H). Par la proposition précédente, l’opérateur inverse B⁻¹ = Id_H+T^∗T est autoadjoint, donc T^∗T est autoadjoint. Comme l’opérateur B est positif de norme ≤ 1, on a σ(B) ⊂ [0,1] ; il en résulte que σ(IdH+T^∗T) ⊂ [1,+∞[ et σ(T^∗T)⊂[0,+∞[.

///

Transformations et repr´esentations

On peut appliquer la transformation de Cayley, qui est fondée sur l’utilisation de la fonction t ∈ R → (1 + it)/(1− it) à valeurs dans le cercle unité, pour associer à tout autoadjoint non borné T sur H un opérateur unitaire U sur H,

U = (IdH+iT)(IdH−iT)⁻¹.

Sous certaines hypothèses, on peut aussi faire le chemin inverse, et associer à certains unitaires un autoadjoint, en général non borné.

Le calcul fonctionnel continu conduit au théorème de représentation suivant, résultat

`a partir duquel le calcul fonctionnel devient essentiellement trivial.

Théorème. Soit T∈ L(H) un opérateur normal borné, défini sur un espace de Hilbert complexe H; il existe un espace mesuré(Ω, µ), un opérateur unitaireUde Hsur L2(Ω, µ) et une fonction mesurable bornée g∈L∞(Ω, µ) tels que

T = U^∗◦Mg ◦U,

o`u M_g ∈ L(L₂(Ω, µ)) est l’op´erateur de multiplication par la fonction g.

(15)

Esquisse de preuve. — Donnons une idée de démonstration dans un cas plus simple, qui sert de brique fondamentale pour la preuve générale : on supposera qu’il existe x₀ ∈H, disons de norme 1, tel que l’espace vectoriel engendré par toutes les images T^m(T^∗)ⁿx0, m, n ≥ 0, soit dense dans H. On note K = σ(T) comme d’habitude et on note ζ = ζK

la fonction z ∈K→z ∈C. On introduit une application lin´eaire u0 de C(K) dans H en posant

∀f ∈C(K), u0f =f(T)x0.

L’image de la fonction constante 1est le vecteurx0 donné ; l’image deu0 est dense dans H d’après notre hypothèse supplémentaire, car cette image contient tous les vecteurs T^m(T^∗)ⁿx0, images des fonctions ζ^mζⁿ. Introduisons une forme linéaire ξ sur C(K) par

∀f ∈C(K), ξ(f) =hu0f, x0i=hf(T)x0, x0i;

la valeur ξ(f) est réelle quand f est réelle, car f(T) est alors hermitien, et positive si f est réelle ≥ 0, car f(T) est alors hermitien positif. On a ξ(1) =hx0, x0i= 1. D’après le théorème de représentation des formes linéaires positives sur C(K), on sait qu’il existe une probabilité µsur K telle que

∀f ∈C(K), ξ(f) = Z

K

f(t)dµ(t).

On voit que u₀ est isom´etrique de C(K), muni de la norme de L₂(K, µ), `a valeurs dans l’espace de Hilbert H : en effet,

ku0fk²_H =hf(T)x0, f(T)x0i=hf(T)f(T)x0, x0i=hu0(f f), x0i= Z

K

|f|²dµ.

On peut donc ´etendre u0 en une isom´etrie U de L2(K, µ) dans H, surjective car l’image de u0 est dense. On voit que pour f continue,

TUf = Tf(T)x₀ =u₀(ζf) = U(ζf).

On voit donc que l’action de T dans H correspond `a la multiplication par la fonction ζK

dans L₂(K, µ).

///

Corollaire.Soit Tun opérateur autoadjoint (non borné) sur un espace de Hilbert com- plexe H; il existe un espace mesuré (Ω, µ), un opérateur unitaire U de H sur L2(Ω, µ) et une fonction mesurable réelle g∈L∞(Ω, µ) tels que

T = U^∗◦Mg ◦U,

où M_g est l’opérateur (non borné) de multiplication par la fonction réelle g.

Si on utilise comme unitaire U la transformation de type Fourier qui est d´efinie sur L1(R) par

∀t∈R, f(t) =b 1

√2π Z

R

f(x) e^−itx dt,

et qui est ensuite prolongée en isométrie de L2(R), on voit que l’autoadjoint iD :f → if⁰, de domaine H¹(R), correspond par Fourier à l’opérateur M de multiplication par t→t.

(16)

L’espace H¹₀(Ω)

On peut généraliser l’exemple A dans un ouvert Ω de R^d; on considère l’opérateur ∇0

sur H = L₂(Ω, λ) (λ la mesure de Lebesgue), d´efini sur le domaine dom(∇₀) =D(Ω) par ϕ∈ D(Ω)→ ∇0ϕ, o`u

∀t∈Ω, (∇0ϕ)(t) = (∇ϕ)(t) = (D1ϕ(t), . . . ,Ddϕ(t))∈K^d

où D_j désigne la jème dérivée partielle de ϕ. D’un point de vue plus global, on peut considérer que t ∈ Ω → (∇ϕ)(t) est une fonction vectorielle, élément de l’espace de Hilbert K = L2(Ω, λ,K^d), et ∇0 sera vu comme opérateur de H dans K. La fermeture de∇0 est l’opérateur∇dont le domaine est l’espace vectoriel H¹₀(Ω) formé des fonctions f ∈ L2(Ω) qui sont limite dans L2 d’une suite (ϕn) ⊂ D(Ω) telle que Djϕn converge dans L2 vers une fonction gj pour j = 1, . . . , d. Ces fonctions gj auront la propriété

Z

Ω

fDjψ=− Z

Ω

gjψ

pour toute ψ ∈ D(Ω) ; ce sont les dérivées distribution de f, qui seront encore notées Djf ; l’opérateur∇ défini sur H¹₀(Ω) agit par

(D1f, . . . ,Ddf) =∇f ∈K.

On munit H¹₀(Ω) de la norme du graphe, kfk²_H1 =

Z

Ω

|f|²+ Z

Ω

Xd j=1

|Djf|² = Z

Ω

¡|f|²+|∇f|²¢ .

Muni de cette norme H¹₀ est complet, et c’est un espace de Hilbert pour le produit scalaire hf, gi_H¹ =

Z

Ω

¡f g+∇f· ∇g¢ .

Si on est sur un ouvert Ω d’une variété riemannienne M, on a une notion de gradient pour les fonctions différentiables définies sur Ω, et on peut généraliser la discussion précédente à ce cadre.

Injection de H¹₀(Ω) dans L2(R^d)

Si ϕ est une fonction de D(Ω), on la prolongera en une fonction Eϕ d´efinie sur R^d en posant simplement (Eϕ)(x) =ϕ(x) six ∈Ω et (Eϕ)(x) = 0 si x /∈Ω. Il est clair que Eϕ est C^∞ sur R^d. On a

(∗)

Z

R^d

|(Eϕ)(x)|²dx= Z

Ω

|ϕ(x)|²dx≤ kϕk²_H¹

pour toute ϕ∈ D(Ω). Il est clair en particulier que l’application E définie sur D(Ω) est continue de la norme H¹(Ω) vers L2(R^d) ; comme l’espace H¹₀(Ω) est précisément défini comme adhérence de D(Ω) dans H¹(Ω), il en résulte que l’application E se prolonge en application continue de H¹₀(Ω) dans L2(R^d). Il s’agit moralement de l’injection canonique du premier espace dans le second. On a alors