Iφ(av) = Iφ(Lk(av))
pour tout k. On v´erifie que a → Lk(av) est continue de Sm(X× IRN) → Sm−k(X× IRN). Comme l’int´egraleR
|θ|≥1,θ∈IRN(1+|θ|)−N−εdθ converge lorsque ε > 0, l’int´egraleR eiφ(x,θ)b(x, θ)dθ est bien d´efinie pour b d’ordre au plus−N.
Soit a∈ Sm(X× IRN) (et cette fois nous n’avons aucune hypoth`ese sur m. Pour tout k tel que m− k < −N, c’est-`a-dire pour k > m + N, Lk(av)∈ Sm−k(X× IRN), donc Iφ(Lk(av)) existe. De plus, pour tous k, k0 > m + N ,
Iφ(Lk0(av)) = Iφ(Lk(av)).
Ce nombre est donc ind´ependant de k > m + N . Par d´efinition, on dit que Iφ(av) = Iφ(Lk(av)), k > m + N.
C’est une int´egrale convergente et continue en fonction de a∈ Sm(X×IRN). L’int´egrale Iφ(av), qui n’est pas d´efinie de mani`ere classique lorsque a n’est pas `a support compact en θ, est donc d´efinie en utilisant les symboles et la relation d’int´egrations par parties de la m´ethode de la phase non stationnaire.
Nous d´efinissons ainsi une distribution :
D´efinition 7.1 Pour a∈ Sm(X× IRN), on d´efinit l’application de C0∞(X) dans IR par Iφ(av) = Iφ(Lk(av))
pour tout k v´erifiant m− k < −N, l’int´egrale de droite ´etant alors absolument convergente. Ceci est l’extension de la d´efinition de (7.1.1) pour a∈ Sm(X× IRN), m <−N.
Les applications ainsi d´efinies s’appellent les op´erateurs int´egraux de Fourier.
7.2 Front d’onde des op´erateurs int´egraux de Fourier
Dans la repr´esentation
Iφ(av) = Z Z
eiφ(x,θ)a(x, θ)v(x)dxdθ, on peut consid´erer x comme la variable d’int´egration. On d´efinit
Xφ={x, ∀θ ∈ IRN
− {0}, ∇θφ(x, θ)6= 0}.
Pour tout x0∈ Xφ, le th´eor`eme de la phase stationnaire 4.3 permet de d´efinir Z
eiφ(x0,θ)a(x0, θ)dθ.
Il s’agit en effet d’une int´egrale oscillante. On introduit `a cet effet l’op´erateur diff´erentiel Mx0= i(1− χ(θ))|∇θφ(x0, θ)|−2 j=N X j=1 ∂φ ∂θj ∂ ∂θj + χ(θ)
la fonction χ ayant ´et´e introduite pr´ec´edemment. L’adjoint de Mx0 pour le produit sca-laire dans L2(IRN) est not´e Lx0; il s’agit d’un op´erateur diff´erentiel d’ordre 1. La formule d’int´egration par parties usuelle montre que
Z
eiφ(x,θ)Lk
est absolument convergente pour m− k < −N. Elle d´efinit donc une distribution, not´ee formellement
A(x) = Z
a(x, θ)eiφ(x,θ)dθ pour chaque x dans Xφ.
On v´erifie (exercice 7.1) que
e−iφ(x,θ)∂xjj[Lkx(a(x, θ))eiφ(x,θ)]
est un symbole de Sm−k+j(X × IRN). Lorsque k est choisi de sorte que m− k + p < −N, la fonction A(x) est de classe Cp sur tout compact inclus dans Xφ. Comme le raisonnement est valable pour tout p, puisque pour k > m + N la d´efinition de R eiφadθ ne change pas, on trouve que A(x) est C∞sur Xφ. Rappelons que le support singulier d’une distribution A, not´e SS(A), est le compl´ementaire du plus grand ouvert O(A) o`u A est une fonction C∞. Nous avons la
Proposition 7.1 Soit A la distribution d´efinie par < A, u >= Iφ(au).
1) Le support singulier de A est contenu dans le compl´ementaire de Xφ, c’est-`a-dire {x ∈ X, ∃θ ∈ IRN− {0}, ∇θφ(x, θ) = 0}.
2) Si a s’annule dans un voisinage conique de
C ={(x, θ) ∈ X × (IRN− {0}), ∇θφ(x, θ) = 0} alors A est une fonction de classe C∞.
Preuve La distribution A est C∞ sur Xφ, donc Xφ⊂ O(A). Ainsi SS(A), compl´ementaire de O(A), est contenu dans le compl´ementaire de Xφ.
De plus, pour a nulle dans un voisinage conique de C, pour tout x dans la projection du support de a, (x, θ) /∈ C pour tout θ ∈ IRN− {0}. Donc, si x est dans π(supp(a)), x ∈ Xφ, il existe un voisinage V de x dans X pour lequel (y, θ) /∈ C pour tout y dans V et pour tout θ6= 0. Donc A est de classe C∞sur V (x).
Soit x hors de π(suppa). Alors, si V1est un voisinage de x tel que V1×(IRN−{0}) est inclus dans le compl´ementaire du support de a, et que, par d´efinition pour k tel que m− k < −N
Z Z
eiφ(x,θ)a(x, θ)u(x)dxdθ = Z Z
eiφ(x,θ)Lk(a(x, θ)u(x))dxdθ,
l’int´egrale de droite est identiquement nulle puisque a est identiquement nulle sur V1× IRN− {0}. La distribution A est alors nulle sur le compl´ementaire de π(supp(a)).
En r´esum´e, A est une fonction C∞sur X. On l’appelle aussi op´erateur de Fourier int´egral. On d´efinit le front d’onde C∞ d’une distribution A sur X ⊂ IRN, que l’on note W F (A), inclus dans X× IRN :
D´efinition 7.2 On dit que (x0, ξ0)∈ X × IRN n’est pas dans le front d’onde de A si il existe une fonction χ, C∞ `a support compact, identiquement ´egale `a un dans un voisinage de x0, et un voisinage cˆonique Γ de ξ0 dans IRN telle que la transform´ee de Fourier de la distribution χA soit `a d´ecroissance rapide dans Γ.
En d’autres termes
∀p, ∃Cp,∀ξ ∈ Γ, | < A(x), e−ix.ξχ(x) >| ≤ Cp(1 +|ξ|)−p. On a la
7.2. FRONT D’ONDE DES OP ´ERATEURS INT ´EGRAUX DE FOURIER 117 Proposition 7.2 Supposons que a soit nul pr`es de θ = 0. Alors le front d’onde de A(a, φ) est inclus dans
{(x, ∇xφ(x, θ)), (x, θ)∈ supp(a), ∇θφ(x, θ) = 0}
Preuve Pour prouver la Proposition 7.2, il faut montrer qu’un point du compl´ementaire de {(x, ∇xφ(x, θ)), (x, θ)∈ supp(a), ∇θφ(x, θ) = 0}
n’est pas dans le front d’onde de A(a, φ). On consid`ere donc en premier le cas o`u x v´erifie ∀θ, ∇θφ(x, θ) 6= 0. La Proposition 7.1 implique que la fonction A(x) est de classe C∞ au voisinage de ce point. On se place donc dans le cas o`u il existe une solution `a∇θφ(x, θ) = 0. On suppose que χ est une fonction de classe C∞`a support compact localis´ee au voisinage d’un x de cette forme. On introduit Γ ={θ, ∃x ∈ suppχ, ∇θφ(x, θ) = 0} qui est donc un ensemble cˆonique de IRN. On consid`ere K1={∇xφ(x, θ), θ∈ Γ} et K2 disjoint de K1.
On trouve
F(χA)(ξ) = Z Z
eiφ(x,θ)−ix.ξa(x, θ)χ(x)dxdθ.
On consid`ere ici ξ comme un param`etre. Alors le gradient de la phase en x est ∇xφ(x, θ)− ξ.
Comme θ∈ Γ et ξ ∈ K2, K1et K2´etant disjoints et∇xφ(x, θ) est homog`ene en θ, il existe C(K1, K2) > 0 telle que
|∇xφ(x, θ)− ξ| ≥ C(K1, K2)(|θ| + |ξ|).
On modifie le th´eor`eme de la phase stationnaire pr´ec´edent en ne consid´erant que les variables x.
Il existe L op´erateur diff´erentiel en x tel que tL(ei(φ(x,θ)−ξ.x)) = ei(φ(x,θ)−ξ.x). On r´e´ecrit alors l’int´egrale F(χA) comme F(Lk(χA)) (notation condens´ee pour l’op´erateur int´egral de Fourier de mˆeme phase et de symbole Lk(χA)). On v´erifie que l’int´egrant est alors major´e par
C(a)C(K1, K2)(|ξ| + |θ|)−k(1 +|θ|)m. Lorsque k0 est fix´e tel que m− k0<−N − 1, on v´erifie que
F(χA)(ξ) ≤ c1(k0, K1, K2, a)|ξ|k0−k,
et la transform´ee de Fourier de χA est alors `a d´ecroissance rapide dans K2. Ceci prouve qu’un point qui est `a l’ext´erieur du cˆone ferm´e (ensemble des points (x,∇xφ(x, θ))) n’est pas dans le front d’onde de A. Les points du front d’onde sont, soit de la forme (x, ξ) o`u x n’est pas dans le support singulier de A (remarque au d´ebut), soit de la forme (x,∇xφ(x, θ)) et∇θφ(x, θ) = 0.
Ceci termine notre preuve de la Proposition 7.2.
En donnant une forme particuli`ere `a la phase φ, d´efinie d´esormais pour X = IRd× IRd et N = d, on d´efinit un op´erateur int´egral de Fourier de symbole a∈ Sm(X× IRd) et de phase φ(x, y, θ)∈ S1(X× X × IRd) par
D´efinition 7.3 Soit φ(x, y, θ) une phase telle que∇(x,θ)φ6= 0 (pour θ 6= 0) et φ homog`ene de degr´e 1 en θ. Soit a(x, y, θ)∈ Sm(X× X × IRd). On appelle op´erateur int´egral de Fourier, de symbole a(x, y, θ) et de phase φ(x, y, θ) l’op´erateur de S dans S0 d´efini pas son action sur les fonctions u∈ C∞
0 (X) par
< Au, ψ >= Iφ(au⊗ ψ) = Z
X×X×IRd
Un cas particulier de la d´efinition pr´ec´edente est obtenu lorsque φ(x, y, θ) = s(x, θ)− y.θ et a(x, y, θ) = ˜a(x, θ), X⊂ IRd :
D´efinition 7.4 (X⊂ IRd)
Soit s(x, θ) une phase telle que∇xs(x, θ) 6= 0, et a(x, θ) ∈ Sm(X× IRd). On introduit la phase φ(x, y, θ) = s(x, θ)− y.θ.
On appelle op´erateur de Fourier int´egral de symbole a(x, θ) et de phase s(x, θ) l’op´erateur de S dans S0
u→ Au d´efini par son action sur les fonctions de C∞
0 par < Au, ψ >=
Z Z
eis(x,θ)a(x, θ)ψ(x)ˆu(θ)dxdθ. On v´erifie que
< Au, ψ >= Iφ(au⊗ ψ),
int´egrale oscillante sur X× X × IRN. On peut aussi ´ecrire < Au, ψ >= Is((aˆu)ψ) utilisant la d´efinition 7.1.
On a le r´esultat suivant sur l’op´erateur de la d´efinition 7.4 :
Th´eor`eme 7.1 Soit A un op´erateur int´egral de Fourier associ´e `a la phase φ(x, y, θ) = s(x, θ)− y.θ. Alors (x, ξ)∈ W F (Au), ξ 6= 0 ⇒ ∃θ 6= 0 tel que ξ = ∇xs(x, θ) et (∇θs(x, θ), θ)∈ W F (u).
Plus g´en´eralement, pour A op´erateur int´egral de Fourier suivant la d´efinition 7.3, W F (Au)⊂ {(x, ∇xφ(x, y, θ)),∇θφ(x, y, θ) = 0}.
Ce th´eor`eme est la version front d’onde d’op´erateur de la Proposition 7.2 (Proposition 2.5.7 de [46]).
Prouvons ce Th´eor`eme. On se donne un point (x0, ξ0) de IRd× IRd− {ξ = 0} et on d´efinit l’ensemble ferm´e G des θ6= 0 tels que ξ0=∇xs(x0, θ). Supposons que pour tout θ de la sorte, (∇θs(x0, θ), θ) n’est pas dans W F (u). Il existe alors deux voisinages coniques de G, Γ⊂ Γ0, et un voisinage conique W de ξ0 tels que, pour x− x0 suffisamment petit, θ /∈ Γ, ξ ∈ W , |∇xs(x, θ)− ξ| ≥ C(|θ| + |ξ|), et (∇θφ(x, θ), θ) /∈ W F (u) pour x − x0 assez petit et θ ∈ Γ0, a(x, θ)6= 0 sur Γ0.
On repr´esente J(ξ) =F(χ1Au)(ξ) = R R R ei(s(x,θ)−x.ξ−y.θ)a(x, θ)u(y)χ1(x)dxdydθ et on prouve la d´ecroissance rapide en ξ de J(ξ).
Le seul cas int´eressant est au voisinage des pointsF(u)(θ) pour u localis´ee au voisinage de y et∇θs(x, θ)− y 6= 0. Alors on applique une version du th´eor`eme de la phase stationnaire en int´egrant par parties en θ. Le th´eor`eme est d´emontr´e.
Nous verrons dans le chapitre 9 que le front d’onde de l’op´erateur A d´efinit la classe des op´erateurs int´egraux de Fourier de mˆeme type que A, associ´es `a la mˆeme phase. La phase sera li´ee `a ce que l’on nommera relation canonique C de A, et on notera A ∈ I(X × X, C0). On d´emontrera en particulier que tout op´erateur int´egral de Fourier associ´e `a une phase φ(x, y, θ) peut se mettre, dans un syst`eme de coordonn´ees ad´equat, sous la forme d’un op´erateur int´egral de Fourier associ´e `a une phase s(x, θ)− y.θ.
Chapitre 8
Les op´erateurs
pseudo-diff´erentiels
8.1 D´efinition et propri´et´es ´el´ementaires
Les notions de ce chapitre sont classiques. Beaucoup d’auteurs ont pr´esent´e la th´eorie des op´erateurs pseudo-diff´erentiels, parmi lesquels J. Sjostrand et A. Grigis [42], S. Alinhac et P. G´erard [3], L. Boutet de Monvel [16]), L. H¨ormander [47], M. Taylor [93], J.J. Kohn et L. Nirenberg [54]... Nous supposons que X ⊂ IRd est l’espace sur lequel nous travaillons. Nous visons `a construire un calcul symbolique sur l’espace de symboles Sm(X× X × IRd), g´en´eralisant ainsi la composition des op´erateurs diff´erentiels et autorisant l’inversion d’un certain nombre d’op´erateurs diff´erentiels.
Les op´erateurs pseudo-diff´erentiels sont construits, comme le fait H¨ormander, comme un cas particulier des op´erateurs int´egraux de Fourier. Cette pr´esentation ne refl`ete pas l’his-torique, dans laquelle les op´erateurs pseudo-diff´erentiels ont ´et´e introduits en premier par l’interm´ediaire de leur symbole et du calcul symbolique. Nous d´eduisons ici le calcul symbo-lique du th´eor`eme de la phase stationnaire et non de la g´en´eralisation du calcul de la compos´ee pour deux op´erateurs diff´erentiels.
Nous introduisons donc une phase particuli`ere dans les op´erateurs int´egraux de Fourier d´efinis pr´ec´edemment. La phase est alors d´efinie pour (x, y, ξ)∈ X × X × IRd par :
φ(x, y, ξ) = (x− y).ξ =X
j
(xj− yj)ξj. Alors on a la d´efinition :
D´efinition 8.1 A tout symbole a ∈ Sm(X × X × IRd) est associ´e un op´erateur int´egral de Fourier particulier, appel´e op´erateur pseudo-diff´erentiel associ´e `a a, not´e A ou Op(a), d´efini par
Op(a)u(x) = 1 (2π)d
Z
ei(x−y).ξa(x, y, ξ)u(y)dydξ, d´efini pour u∈ C∞
0 (X). L’ensemble de ces op´erateurs pseudo-diff´erentiels est not´e Lm(X). A l’ordre m du symbole correspond l’ordre m de l’op´erateur.
D´efinition 8.2 On dit qu’un op´erateur A : C0∞(X)→ D0(X) lin´eaire continu, qui admet un noyau de distribution KA(x, y)∈ D0(X× X) est r´egularisant lorsque KA(x, y)∈ C∞
0 (X× X). Lemme 8.1 A est r´egularisant est ´equivalent `a A se prolonge en un op´erateur deE0(X) sur C∞(X).
On en d´eduit que les op´erateurs r´egularisants sont, `a peu de chose pr´es, les op´erateurs pseudo-diff´erentiels dont le symbole est dans S−∞ :
Proposition 8.1 Si A est un op´erateur r´egularisant, alors il existe un symbole a(x, y, θ) de S−∞(X× X × IRd) tel que
Au(x) = 1 (2π)n
Z Z
ei(x−y).θa(x, y, θ)u(y)dydθ. Preuve On sait que, pour u∈ C∞
0 , Au(x) =
Z
KA(x, y)u(y)dy.
(que l’on ´ecrit aussi < Au, φ >=< KA, u⊗ φ >). Ainsi, si u est r´egularisant, il n’y a aucun probl`eme pour d´efinir sous la forme int´egrale la fonction C∞Au.
On introduit une fonction χ(θ), de classe C0∞(IRn), d’int´egrale ´egale `a (2π)n. On construit alors
a(x, y, θ) = KA(x, y)e−i(x−y).θχ(θ).
Ce symbole est dans S−∞(X× X × IRd), car la fonction est `a support compact en θ et il est clair que
Au(x) = 1 (2π)n
Z Z
ei(x−y).θa(x, y, θ)u(y)dydθ.
Soit A un op´erateur pseudo-diff´erentiel, comme dans la d´efinition 8.1. Alors la distribution Au est d´efinie par son action sur une fonction test ψ par
< Au, ψ >= Iφ(aψ⊗ u) o`u a(x, y, ξ)∈ Sm(X× X × IRd) et ψ⊗ u ∈ C∞
0 (X× X), d´efinie par (ψ ⊗ u)(x, y) = ψ(x)u(y). Les propri´et´es de la phase (x− y).ξ donnent imm´ediatement :
Lemme 8.2 1. Soit P un op´erateur diff´erentiel `a coefficients variables P = X
α,|α|≤m
aα(x)Dxα= X
α,|α|≤m
i−|α|aα(x)∂xα. L’op´erateur pseudo-diff´erentiel de symbole
p(x, ξ) = X
α,|α|≤m
aα(x)ξα est ´egal `a P .
2. Les espaces Xφ et C introduits dans la Proposition 7.1 sont respectivement Xφ={(x, y), x 6= y ∈ X × X} C = {(x, x, ξ), x ∈ X, ξ ∈ IRd− {0}}. 3. Comme∇(x,ξ)((x− y).ξ) 6= 0 sur X × (IRd− {0}) pour tout y ∈ X, la distribution
A(y) = Z
ei(x−y)ξa(x, y, ξ)dxdξ est bien d´efinie comme int´egrale oscillante.
4. De mˆeme,∇(y,ξ)((x− y).ξ) 6= 0 implique que l’application u→ Iφ(au)
est continue de C∞
8.2. COMPOSITION DES OPD 121