4 Th´ eor` eme spectral et calcul fonctionnel
4.1 R´ esultats pr´ eliminaires
Nous pr´esentons ici quatre r´esultats qui seront utilis´es dans la suite. Les deux premiers th´eor`emes sont bien connus, et nous renvoyons aux livres [Ric09,Rev84]
pour leur d´emonstration. SoitX un espace m´etrique compact etC(X) l’espace des fonctions continuesf :X →C.
Th´eor`eme 4.1 (Riesz–Markov). Soit � : C(X) → C une fonctionnelle lin´eaire telle que �(f) ≥ 0 pour toute f ∈ C(X) positive et �(1) = m > 0, o`u1d´esigne la fonction identiquement ´egale `a1. Alors il existe une mesureµ sur X telle queµ(X) =m et
�(f) =
�
X
f dµ pour toutf ∈C(X). (4.1)
Soit maintenantX un espace m´etrique complet s´eparable. On noteL∞(X) l’espace des fonctions f : X → R bor´eliennes born´ees et Cb(X) ⊂L∞(X) le sous-espace des fonctions continues. Soit{gn} ⊂L∞(X) une suite. On dit que {gn} b-converge vers g ∈L∞(X) si supn,x|gn(x)| <∞ et gn(x)→ g(x) pour toutx∈X.
Th´eor`eme 4.2 (lemme des classes monotones). La classe L∞(X) est l’espace vectoriel minimal contenantCb(X)et stable pour la b-convergence.
SoitRl’espace des fonctions rationnelles born´ees surRetC( ˙R) l’espace des fonctions continues sur R qui convergent vers une limite quand |x| → ∞. Le r´esultat suivant sera utile pour la construction du calcul fonctionnel continu.
Lemme 4.3. L’espace Rest dense dans C( ˙R).
D´emonstration. Soitf ∈C( ˙R). Sans perte de g´en´eralit´e, on peut supposer que f(x)→0 quand|x| → ∞. Dans ce cas
f(x) = lim
ε→0+
ε π
�
R
f(y)
(x−y)2+ε2dy,
o`u la limite est uniforme par rapport `a x∈ R. Il s’ensuit que, uniform´ement par rapport `ax∈R, on a
f(x) = lim
ε→0+ lim
R→∞
ε π
� R
−R
f(y)
(x−y)2+ε2dy. (4.2) Remarquons maintenant que la fonction
gε,x(z) = 1
(x−z)2+ε2, z∈C,
est holomorphe dans la bande|Imz|< ε. Par cons´equent, pour touty0∈Ron peut ´ecrire
gε,x(y) =
�∞ k=0
g(k)ε,x(y0)
k! (y−y0)k,
o`u la s´erie converge uniform´ement pour|z−y0| ≤ε/2 etx∈R. Cette repr´esen- tation implique que l’int´egrale dans (4.2) peut ˆetre approch´ee uniform´ement enx∈Rpar des fonctions rationnelles born´ees.
Enfin, le dernier r´esultat donne, pour tout op´erateur auto-adjointAdans un espace de HilbertH, une repr´esentation deH comme la somme directe de sous- espaces invariants qui poss`edent un vecteur cyclique. Plus pr´ecis´ement, un sous espaceH� ⊂H est ditinvariant parAsi Rλ(A)H� ⊂H� pour toutλ∈C\R. Pour un sous-espace invariantH�, on dit que ψ∈H� est unvecteur cycliquesi le sous-espace engendr´e parRλ(A)ψ avecλ∈C\Rest dense dansH�.
Proposition 4.4. SoitAun op´erateur auto-adjoint dansH. Alors il existe des sous-espaces invariants Hn,n= 1,2, . . . , N, avec N ≤ ∞, tels que
H =
�N
n=1
Hn, (4.3)
et pour toutnle sous-espaceHn poss`ede un vecteur cycliqueψn∈ D(A).
D´emonstration. Soit{ϕj} ⊂H une suite dense dansH. Alors l’espace vectoriel engendr´e par la famille {Rλ(A)ϕj, j ≥ 1, λ ∈ C\R} est dense dans H. On noteH1le sous-espace vectoriel ferm´e engendr´e parRλ(A)ϕ1avecλ∈C\Ret on fixeλ0∈C\R. AlorsH1est un sous-espace invariant pourAetψ1:=Rλ0(A)ϕ1
est un vecteur cyclique. Soit j1 ≥ 2 l’entier minimal tel que ϕj1 ∈/ H1 et ψ2=Rλ0(ϕj1−PH1ϕj1). On d´efinitH2comme l’espace vectoriel ferm´e engendr´e parRλ(A)ψ2avecλ∈C\R. Il est facile `a voir queH1andH2sont des espaces orthogonaux et queψ2 est un vecteur cyclique pour l’espace invariant H2. En r´eit´erant cette proc´edure, on obtient un entier N ≤ ∞ et une suite (finie ou infinie) d’espaces invariants orthogonaux{Hn}avec des vecteurs cycliquesψn. Comme{ϕj}engendre tout l’espaceH etiλRiλ(A)→Ipour la topologie forte quandλ→+∞, on conclut que (4.3) a lieu.
4.2 Calcul fonctionnel continu
Pourλ∈C, on noterλ(x) = (λ−x)−1. Le th´eor`eme suivant permet de d´efinir, de fa¸con naturelle, des op´erateurs de la formef(A) avecf ∈C( ˙R).
Th´eor`eme 4.5. SoitA un op´erateur auto-adjoint dansH. Alors il existe une unique applicationΦ:C( ˙R)→ L(H) avec les propri´et´es suivantes.
(i) Pour tout λ∈C\R, on a Φ(rλ) =Rλ(A).
(ii) Φ est un homomorphisme alg´ebrique; c’est-`a-dire,
Φ(f g) =Φ(f)Φ(g), (4.4) Φ(λf+g) =λΦ(f) +Φ(g), (4.5) Φ(1) =I, Φ( ¯f) =Φ(f)∗, (4.6) o`u1d´esigne la fonction identiquement ´egale `a1.
De plus,Φposs`ede les propri´et´es suivantes:
(iii) Φ pr´eserve la positivit´e; c’est-`a-dire, sif ≥0, alors Φ(f)≥0.
(iv) Pour tout f ∈C( ˙R), on a
�Φ(f)�L(H)≤sup
x∈R|f(x)|. (4.7)
(v) Si {fn} ⊂ C( ˙R) est une suite telle que supn,x|fn(x)|<∞ et fn(x)→0 uniform´ement sur tout interval born´e, alors
Φ(fn)→s 0 quandn→ ∞. (4.8)
Dans la suite, on ´ecrit parfoisΦ(f) =f(A).
D´emonstration. Nous allons construire le calcul fonctionnel en deux ´etapes : d’abord pour les fonctions rationnelles et apr`es, en utilisant un argument d’appro- ximation, pour les fonctions continues avec une limite `a l’infini.
Etape 1.´ Rappelons qu’on note R l’ensemble des fonctions rationnelles born´ees sur R. Montrons qu’il existe une unique application Φ : R → L(H) v´erifiant (i)–(iii). En effet, toute fonction rationnelle born´ee surRest repr´esen- table comme la somme d’une constante et de certaines fonctions de la forme
qλ(x) =
�k
j=1
cj
(λ−x)j, x∈R,
o`u λ∈C\Ret cj ∈C. De plus, cette repr´esentation est unique. Tout homo- morphisme alg´ebrique v´erifiant (i) est uniquement d´efini surqλ:
Φ(qλ) =
�k
j=1
cjRjλ(A).
Ces observations impliquent imm´ediatement l’unicit´e de Φ, ainsi que les pro- pri´et´es (i), (4.5) et (4.6). Pour terminer la construction de Φ sur R, il nous reste `a v´erifier la relation (4.4).
On peut supposer quef =g. Soit f(z) =
�N
k=1 mk
�
j=1
cjk
(λk−x)j,
o`u cjk ∈Cet λk �=λl pourk�=l. En vertu de la lin´earit´e, il suffit de montrer que
Φ�
(λk−x)−j(λl−x)−n�
=Rjλk(A)Rnλl(A). (4.9) Cette ´egalit´e est ´evidente si k = l. Supposons que k �= l et donc λk �= λl. Sans perte de g´en´eralit´e, on peut supposer aussi que n≥j, et on raisonne par r´ecurrence par rapport `a n≥1 etj ≤n. Pourn=j= 1, on a
(λk−x)−1(λl−x)−1= (λl−λk)−1�
(λk−x)−1−(λl−x)−1�
. (4.10) En utilisant l’identit´e r´esolvante (1.2), on obtient
Φ�
(λk−x)−1(λl−x)−1�
= (λl−λk)−1Φ�
(λk−x)−1−(λl−x)−1�
= (λl−λk)−1�
Rλk(A)−Rλl(A)�
=Rλk(A)Rλl(A).
Cette ´egalit´e est confondue avec (4.9) pourj =n= 1. Supposons maintenant quen ≥2, j ≤n et que la relation (4.9) avec j =j� et n=n� est vraie pour n�< netj� ≤n�, ainsi que pourn�=netj� ≤j−1. Alors (4.10) implique
(λk−x)−j(λl−x)−n
= (λl−λk)−1�
(λk−x)−j(λl−x)−(n−1)−(λk−x)−(j−1)(λl−x)−n� . En utilisant l’hypoth`ese de r´ecurrence, on obtient
Φ�
(λk−x)−j(λl−x)−n�
= (λl−λk)−1�
Rjλk(A)Rnλl−1(A)−Rjλ−k1(A)Rnλl(A)� L’application de l’identit´e r´esolvante ach`eve la d´emonstration de (4.4).
Etape 2. On veut utiliser maintenant le lemme 4.3 afin de prolonger´ Φ `a l’espaceC( ˙R). Pour cela il suffit de montrer l’in´egalit´e (4.7) pour tout f ∈ R. En effet, une fois cette in´egalit´e sera ´etablie, on pourra ´etendreΦ `a C( ˙R) par continuit´e et v´erifier la propri´et´e (ii) par passage `a la limite. La d´emonstration l’in´egalit´e (4.7) est bas´ee sur la propri´et´e (iii) deΦque nous allons maintenant
´etablir.
Montrons d’abord que sif ∈ R est positive sur R, alors il existeg ∈ R tel que f(z) = g∗(z)g(z), o`u g∗(z) = g(¯z). En effet, il existent des polynˆomes P etQtels queQ(x)�= 0 pourx∈Ret
f(z) = P(z)
Q(z) = P(z)Q∗(z)
|Q(z)|2 .
Commef(x)≥0 pour x∈R, les racines r´eelles du polynˆome P(z)Q∗(z) sont de multiplicit´e paire et pour toute racinez∗∈C\Rson conjugu´e complexe ¯z∗ est aussi une racine. On peut donc ´ecrire
P(z)Q∗(z) =a
�m
j=1
(z−xj)2
�n
l=1
(z−zl)(z−¯zl),
o`ua >0,xj∈Retzl∈C\R. On conclut que la repr´esentation cherch´ee a lieu avec
g(z) =√
a Q(z)−1
�m
j=1
(z−xj)
�n
l=1
(z−zl).
Supposons maintenant quef ∈ Rsoit une fonction positive sur R. Alors il existeg∈ Rtel que f(x) =|g(x)|2. Les relations (4.4) et (4.6) impliquent que
Φ(f) =Φ(¯gg) =Φ(¯g)Φ(g) =Φ(g)∗Φ(g), d’o`u on conclut queΦ(f)≥0.
On d´emontre maintenant (4.7). Supposons quef ∈ Rest tel que|f(x)| ≤1 pourx∈R. On veut montrer que�Φ(f)�L(H)≤1. Pour toutu∈H, on ´ecrit
�u�2−�
Φ(f)u, Φ(f)�
= (u−Φ(f)∗Φ(f), u) =�
Φ(1− |f|2)u, u�
≥0, o`u on a utilis´e la positivit´e de Φ. Comme u ∈ H est quelconque, on obtient l’in´egalit´e cherch´ee.
Nous avons montr´e queΦ:R → L(H) admet une unique extension continue
`a l’espaceC( ˙R). De plus, on obtient par continuit´e les propri´et´es (iii) et (iv). Il nous reste `a montrer (v). Pour toute fonction rationnellegqui converge vers z´ero
`a l’infini, la suite{fng} converge vers z´ero uniform´ement sur R. D’apr`es (iv), on a Φ(fng) →0 dans L(H). Comme {Φ(g)u, u ∈ H, g ∈ R, g→0 `a l’infini} est dense dansH, on conclut queΦ(fn)→0 pour la topologie forte.
4.3 Th´ eor` eme sur la repr´ esentation spectrale
Le r´esultat suivant est un analogue du th´eor`eme spectral pour les op´erateurs auto-adjoints born´es dans le cas d’op´erateurs non born´es.
Th´eor`eme 4.6. SoitAun op´erateur auto-adjoint dans un espace de HilbertH. Alors il existe un espace mesur´e (X,B) munie d’une mesure de probabilit´e µ, une isom´etrie U : H → L2(X, µ) et une fonction mesurable a : X → R finie µ-presque partout tels que
U AU−1=Ma, (4.11)
o`uMa d´esigne l’op´erateur de multiplication para(x).
D´emonstration. Il suffit de consid´erer le cas o`u A poss`ede un vecteur cyclique et montrer qu’on puisse choisir une mesureµ avec la masse totale donn´ee. En effet, supposons que ce r´esultat soit vrai. D’apr`es la proposition 4.4, l’espaceH est repr´esentable sous la forme (4.3). On fixecn >0 tels que�
ncn= 1. Pour chaquen, on peut construire un espace mesur´e (Xn,Bn, µn) avec µn(Xn) =cn, une isom´etrieUn :Hn →L2(Xn, µn) et une fonctionan tels queUnAnUn−1 = Man, o`u An d´esigne la restriction deA `a Hn. On d´efinit maintenant l’espace X = �N
n=1Xn muni de la tribu minimale B engendr´ee par Bn, 1 ≤ n ≤ N, et de l’unique mesureµ sur X telle queµ(Γ) = µn(Γ) pour Γ∈ Bn. De plus,
soit a:X →R telle quea(x) = an(x) pourx∈Xn. On d´efinit une isom´etrie U :H →L2(X, µ) par la relation
U
��N n=1
ϕn
�
(x) = (Unϕn)(x) pour x∈Xn, o`u�
nϕn est la d´ecomposition associ´ee `a (5.2). Il est facile `a v´erifier que toutes les propri´et´es requises sont satisfaites.
On fixe maintenantc >0 et on suppose queψ∈H est un vecteur cyclique pour A tel que �ψ�2 = c. Alors {Rλ(A)ψ, λ ∈ C\R} est dense dans H.
Consid´erons la fonctionnelle�:C( ˙R)→Cd´efinie par
�(f) =�
f(A)ψ, ψ�
pour f ∈C( ˙R).
C’est une fonctionelle continue telle que�(1) =c. CommeC( ˙R) est isom´etrique
`a l’espace des fonctions continues sur un cercleS, d’apr`es le th´eor`eme de Riesz–
Markov, il existe une unique mesure ˜µsurSde la masse totalec telle que
�f(A)ψ, ψ�
=
�
Rf dµ pour f ∈C( ˙R), (4.12) o`u on noteµla mesure sur l’espaceR∪ {∞}(la compactification deR) associ´ee
`a ˜µ. Montrons que µ({∞}) = 0. Soit {fn} ⊂ C0(R) une suite de fonctions telles que 0≤fn≤1 etfn→1 uniform´ement sur tout intervalle born´e. Alors, d’apr`es la propri´et´e (v) du th´eor`eme 4.5 on a
µ(R) = lim
n→∞
�
Rfndµ= lim
n→∞
�fn(A)ψ, ψ�
= (ψ, ψ) =c.
Commecest la masse totale de ˜µ, on conclut queµ({∞}) = 0.
Soit maintenant l’espace X = R muni de la tribu bor´elienne B et de la mesureµ. On d´efinit une applicationU sur un sous-espace dense deH `a valeurs dansL2(X, µ) par la formule
U� f(A)ψ�
=f pourf ∈C( ˙R). (4.13)
Alors on a
��U�
f(A)ψ���2
L2(X,µ)=
�
X|f|2dµ=�
|f|2(A)ψ, ψ�
=��f(A)ψ��2.
Comme l’espace C( ˙R) est dense dans L2(X, µ), on peut prolonger U par con- tinuit´e `a une isom´etrie entre H et L2(X, µ). Montrons que la relation (4.11) a lieu avec la fonctiona(x) =x.
D’apr`es (4.13), pour toutes fonctionsf, g∈C( ˙R) on a U�
g(A)(f(A)ψ)�
=gf.
CommeU est une isom´etrie, il s’ensuit que U�
g(A)v�
=g(U v) pour toutv∈H. (4.14) Prenons dans cette ´egalit´e gn(x) = λn(λnrλn(x)−1) avec λn = in. Comme gn=xˆgn avec ˆgn(x) =λnrλn(x), on peut ´ecrire
U(gn(A)v) =U(ˆgn(A)Av) =gn(x)(U v)(x) pour toutv∈ D(A).
La propri´et´e (v) du th´eor`eme 4.5 implique que les deux premiers termes de cette
´egalit´e convergent dans L2(X, µ). Il en est donc de mˆeme pour le membre de droite, qui ne peut converger que versx(U v)(x). On a montr´e queU v∈ D(Mx) et U(Av) =Mx(U v). R´eciproquement, supposons que h∈ D(Mx). Alors, en prenantv =U−1het g=gn dans la relation (4.14) et la multipliant parU−1, on obtient
gn(A)U−1h=A�
λnRλn(A)U−1h�
=U−1(ˆgnMxh).
Soitvn=λnRλn(A)U−1h. Alorsvn→U−1h, et la relation ci-dessous implique Avn →U−1(Mxh) dansH. CommeAest ferm´e, on conclut queU−1h∈ D(A) etAU−1h=U−1(Mxh). Ceci ach`eve la d´emonstration de (4.11).
Le th´eor`eme 4.6 permet d’´etablir facilement des propri´et´es suppl´ementaires de l’applicationΦconstruite dans th´eor`eme 4.5.
Corollaire 4.7. L’applicationΦ:C( ˙R)→ L(H)construite dans le th´eor`eme 4.5 poss`edent les propri´et´es suivantes.
(i) Soit {fn} ⊂ C( ˙R) une suite b-convergeant vers une fonction f ∈ C( ˙R).
AlorsΦ(fn)→Φ(f)pour la topologie forte.
(ii) Soitfn ∈C( ˙R),fn(x)→xpour toutx∈Ret|fn(x)| ≤ |x|. Alors Φ(fn)u→Au pour toutu∈ D(A).
(iii) Si Au=λu, alorsΦ(f)u=f(λ)upour toutf ∈C( ˙R).
D´emonstration. Consid´erons une applicationΦ� :C( ˙R)→ L(H) d´efinie par
Φ�(f) =U−1Mf(a)U, (4.15)
o`u l’isom´etrieU et la fonctionasont celles du th´eor`eme 4.6. Il est facile `a v´erifier queΦ� poss`edent les propri´et´es (i)–(iii) du th´eor`eme 4.5. Par l’unicit´e, on doit avoir Φ� = Φ. CommeU est une isom´etrie, il suffit de montrer les propri´et´es (i)–(iii), en supposant queH:L2(X, µ),A=Ma etf(A) =Mf(a).
La propri´et´e (i) est une cons´equence imm´ediate du th´eor`eme de Lebesgue sur la convergence domin´ee. Pour montrer (ii), remarquons que si u∈ D(A), alorsu, au∈L2(X, µ). Il s’ensuit que
Φ(fn)u=fn(a)u→au dansL2(X, µ),
o`u on a utilis´e le fait que |fn(a)u| ≤ |au|, ainsi que le th´eor`eme de Lebesgue.
Enfin, pour ´etablir (iii), il suffit de remarquer queu∈L2(X, µ) est un vecteur propre deMaavec une valeur propreλsi est seulement si l’ensemble Γ :=a−1(λ) a uneµ-mesure positive etu(x) =C IΓ(x), o`uC�= 0. On a donc
f(A)u=C Mf(a)IΓ =Cf(λ)IΓ=f(λ)u.
Ceci termine la d´emonstration du corollaire.
4.4 Calcul fonctionnel bor´ elien
Rappelons que L∞(R) d´esigne l’ensemble des fonctions f :R→Cbor´eliennes born´ees. Nous allons maintenant ´etablir un r´esultat qui permet de d´efinirf(A) pour toutf ∈L∞(R).
Th´eor`eme 4.8. Soit A un op´erateur auto-adjoint dans H. Alors il existe une unique application Φ : L∞(R) → L(H) v´erifiant les propri´et´es (i), (ii) du th´eor`eme 4.5 et telle que Φ(fn) →s Φ(f) pour toute suite {fn} ⊂ L∞(R) qui b-converge versf. De plus,Φpr´eserve la positivit´e, v´erifie l’in´egalit´e(4.7)pour toute fonctionf ∈L∞(R)et poss`ede les propri´et´es suivantes.
(i) Si fn∈L∞(R),fn(x)→xpour toutx∈Ret|fn(x)| ≤ |x|, alors Φ(fn)u→Au pour toutu∈ D(A).
(ii) Si Au=λu, alorsΦ(f)u=f(λ)upour toutf ∈L∞(R).
D´emonstration. Montrons d’abord l’existence. On note L2(X, µ), a: X → R etU l’espace, la fonction et l’isom´etrie construits dans le th´eor`eme 4.5. On pose alors
Φ(f) =U Mf(a)U−1, f ∈L∞(R).
On v´erifie facilement toutes les propri´et´es requises.
Pour d´emontrer l’unicit´e, nous allons utiliser le lemme des classes monotones.
Supposons qu’il existe une autre application Φ� : L∞(R) → L(H) v´erifiant les propri´et´es d´ecrites dans le th´eor`eme. On note
F={f ∈L∞(R) :Φ(f) =Φ�(f)}.
Alors, d’apr`es le th´eor`eme 4.5, on a F ⊃ C( ˙R). De plus, grace `a la propri´et´e de continuit´e, si {fn} ⊂ F b-converge vers f ∈ L∞(R), alors f ∈ F. Le th´eor`eme 4.2 implique queF ⊃L∞(R), d’o`u on conclut queΦ=Φ�.