{f, g} = {F, G} =X j ∂f ∂pj ∂g ∂qj −∂q∂f j ∂g ∂pj . La relation{f, g} = Hfg conduit `a Hf =P j ∂f ∂pj ∂ ∂qj−∂q∂fj ∂ ∂pj. L’identification σ(Hf, Hg) = {f, g} donne alors σ(X j −∂qjf dpj+ ∂pjf dqj,X j −∂qjgdpj+ ∂pjgdqj) =X j ∂pjf ∂qjg− ∂qjf ∂pjg. Il vient alors σ(X j ajdpj+ bjdqj,X j cjdpj+ djdqj) =X j −bjcj+ ajdj, donc σ =Pn
1dpj∧ dqj, et le syst`eme de coordonn´ees (pj, qj) est symplectique. Le lemme 9.3 est donc d´emontr´e.
9.4 Relations canoniques et op´erateurs int´egraux de
Fou-rier
Dans cette section, nous ´enon¸cons le th´eor`eme de composition des op´erateurs int´egraux de Fourier, tel que nous pouvons le trouver dans [42]. Nous n’en pr´esenterons pas la d´emonstration. Il est n´ecessaire pour ce faire d’introduire une notion g´eom´etrique associ´ee `a un op´erateur int´egral de Fourier, sa relation canonique. La d´efinition des relations canoniques est ´etroitement li´ees `a des sous-vari´et´es particuli`eres de T∗X, associ´ees `a la structure symplectiques, les vari´et´es lagrangiennes. Nous les introduisons ici pour la d´efinition abstraite des classes d’op´erateurs int´egraux de Fourier. Nous les utiliserons `a nouveau dans le chapitre 12.
9.4.1 D´efinition des relations canoniques et des transformations
ca-noniques
Soit X une vari´et´e de dimension n.
D´efinition 9.3 On appelle vari´et´e lagrangienne toute sous-vari´et´e Λ isotrope (c’est-`a-dire v´erifiant σ|Λ= 0) de dimension maximale n (dim (x0,ξ0)Λ = n).
Cette d´efinition provient des travaux de Maslov [72], on la retrouve dans L. H¨ormander [46] et dans J.J. Duistermaat [29]. L’auteur a aussi rencontr´e (dans des notes de Chazarain, Ren-contres scientifiques de Cargese) l’appellation de lagrangienne maximale.
Un exemple naturel est la vari´et´e {(x, dφ(x)), x ∈ X} = Λφ. Cette vari´et´e s’appelle la vari´et´e lagrangienne associ´ee `a la phase φ. L’hypoth`ese de maximalit´e est trivialement v´erifi´ee, puisque x est un param´etrage de la vari´et´e. On v´erifie, sur Λφ que ξj = ∂x∂φj(x), puis que dξj=P i ∂2φ ∂xi∂xjdxi, d’o`u X dξj∧ dxj=X i,j ∂2φ ∂xi∂xj dxi∧ dxj. Les relations ∂2 xixjφ = ∂2
xjxiφ pour φ suffisamment r´eguli`ere et dxi∧dxj=−dxj∧dximontrent que la vari´et´e Λφ est une vari´et´e lagrangienne.
D´efinition 9.4 Une relation canoniqueC de T∗(X× Y ) est un sous espace de T∗(X× Y ) ' T∗X× T∗Y qui soit une vari´et´e lagrangienne pour la forme canonique σX− σY = dx∧ dξ − dy∧ dη. En d’autres termes
C = {(x, ξ; y, η) ∈ T∗X× T∗Y}
est une relation canonique si ΛC ={(x, ξ; y, −η), (x, ξ; y, η) ∈ C} est une vari´et´e lagrangienne pour σX×Y = dx∧ dξ + dy ∧ dη.
SoitH une transformation canonique de X sur Y . Il s’agit d’une application de classe C∞
de T∗Y sur T∗X qui pr´eserve la structure symplectique (soit H∗(dy∧ dη) = dx ∧ dξ). On v´erifie que le grapheCHde la transformation canoniqueH, sous ensemble de T∗X×T∗Y des (H(ρ), ρ), ρ ∈ T∗Y , est une relation canonique.
On suppose qu’il existe un point (x0, η0) tel que la projection canonique l de T∗(X× Y ) dans IR2n qui `a (x, ξ; y, η) fait correspondre (x, η) est un diff´eomorphisme en l−1(x0, η0). Alors il existe, par le th´eor`eme de repr´esentation de H¨ormander (Th´eor`eme 10.1, ´enonc´e et d´emontr´e plus loin, dont la d´emonstration s’appuie sur le Lemme 10.2 de compl´etude d’une base cano-nique) une phase φ(x, η) telle que, localement,CH est de la forme (x,∂φ∂x(x, η),∂φ∂η(x, η), η). En d’autres termes, la transformation canoniqueH est localement de la forme
(∂φ
∂η(x, η), η)→ (x,∂φ∂x(x, η)). SoitC0={(x, ξ; y, η), (x, ξ; y, −η) ∈ C}. On v´erifie que
dx∧ dξ + dy ∧ dη|C0 = dx∧ d(∂xφ)− d(∂ηφ)∧ dη. On a les ´egalit´es d(∂xiφ) = Hessxixφ.dx +P
j ∂2φ ∂xiηjdηj et d(∂ηjφ) =P ji ∂2φ ∂xi∂ηjdxi+ Hessηφ.η. Les matrices Hessx2φ et Hessη2φ ´etant sym´etriques, on trouve
dx∧ dξ + dy ∧ dη|C0 =X
ij
∂2φ ∂xi∂ηj
(dxi∧ dηj− dxi∧ dηj) = 0. Ceci d´emontre queC est une relation canonique.
Toute relation canonique de X× Y a, modulo un changement de variable symplectique dans Y , une fonction g´en´eratrice φ(x, η). On trouve la d´emonstration dans [42] (Th´eor`eme 10.1). Ce r´esultat est un superbe r´esultat d’Egorov [33], et nous rappelons `a la fin de cette section la d´emonstration originale en deux pages.
Soit A l’op´erateur int´egral de Fourier de C∞
0 (Y ) dans S0(X) donn´e par Au(x) =
Z Z
ei(φ(x,η)−y.η)a(x, y, η)u(y)dydη. (9.4.16) On rappelle que c’est une notation formelle pour l’action d’une distribution deS0, on devrait ´ecrire, pour ψ∈ S0,
< Au, ψ >= Z Z
ei(φ(x,η)−y.η)a(x, y, η)u(y)ψ(x)dydηdx.
On d´eduit de la proposition 7.2 que le front d’onde de l’op´erateur A est contenu dans
W F (Au)⊂ T∗X ={(x, ∂x(φ(x, η)− y.η)), ∂η(φ(x, η)− y.η) = 0/(y, η) ∈ W F (u)} ce qui s’´ecrit aussi
W F (Au)⊂ {(x,∂φ∂x(x, η)), (∂φ
∂η(x, η), η)∈ W F (u)}. ´
Etudions explicitement la relation canonique associ´ee `a un op´erateur int´egral de Fourier. La fonction φ est la fonction g´en´eratrice de la relation canonique C = {(x, ∂xφ; ∂ηφ, η), x ∈
9.4. RELATIONS CANONIQUES ET OP ´ERATEURS INT ´EGRAUX DE FOURIER 157 X, η ∈ IRd}. A cette relation canonique est associ´ee la transformation canonique H. On a ais´ement W F (Au)⊂ H(W F (u)).
Remarque 1
Si A est un op´erateur pseudo-diff´erentiel sur IRd Au(x) = 1
(2π)d
Z
T∗IRd
ei(x−y).ηa(x, y, η)u(y)dydη.
La phase φ0(x, η) est donc φ0(x, η) = x.η. L’application H est alors l’identit´e de T∗IRd et la relation canoniqueC est
C = {(x, η; x, η), (x, η) ∈ T∗IRd} associ´ee `a la vari´et´e lagrangienne Λφ0 ={(x, x, η, −η)}.
Remarque 2 On consid`ere d´esormais l’application particuli`ereHsde IRd×IRdqui `a (x, θ) fait correspondre (y, Σ) tel que x = y +∇θs(y, θ), θ +∇ys(y, θ) = Σ. L’op´erateur int´egral de Fourier (selon la d´efinition 7.4) de phase φ(y, θ) = y.θ + s(y, θ), et de symbole m(y, z, θ) s’´ecrit
Tsmu(y) = Z
ei(φ(y,θ)−z.θ)m(y, z, θ)u(z)dzdθ = Z
ei((y−z)θ+s(y,θ))m(y, z, θ)u(z)dzdθ. On ´ecrit dy∧ dΣ =X j dyj∧ [dθj+X k ( ∂ 2s ∂yj∂yk dyk+ ∂ 2s ∂yj∂θk dθk)]. De l’´egalit´eP j,kdyj∧ ∂2s
∂yj∂ykdyk = 0, on d´eduit dy∧ dΣ =X j dyj∧ dθj+X j,k ∂2s ∂yj∂θk dyj∧ dθk. De mˆeme, de dxj = dyj+P k ∂2s ∂θj∂ykdyk+P k ∂2s ∂θj∂θkdθket de l’identit´eP j,kdθj∧ ∂2s ∂θj∂θkdθk= 0 on d´eduit X j dxj∧ dθj=X j dyj∧ dθj+X j,k ∂2s ∂yj∂θk dyj∧ dθk.
On a donc dy∧ dΣ = dx ∧ dθ. La transformation Hs est un diff´eomorphisme de l’espace IRd× IRd laissant invariante la structure symplectique. C’est une transformation canonique sur T∗IRd× T∗IRd associ´ee `a la relation canoniqueCs={(y, θ + ∇ys(y, θ); y +∇θs(y, θ), θ)}. Remarque 3 : Ordre des op´erateurs int´egraux de Fourier Consid´erons l’op´erateur int´egral de Fourier A, dont la phase est φ(x, y, θ), x∈ IRnX, y∈ IRnY, θ∈ IRN, homog`ene en θ de degr´e 1, et dont le symbole est a(x, y, θ), non encore pr´ecis´e. On applique cet op´erateur int´egral de Fourier, d´efini par l’int´egrale oscillante
Au(x) = Z
eiφ(x,y,θ)a(x, y, θ)u(y)dydθ `
a une fonction phase u(y) = σ(y, k)eikψ(y). On d´esigne alors par ˜ψ(x, y) la valeur critique de ψ(y) + φ(x, y, θ) `a un point critique ηc solution de
∂ηφ(x, y, ηc) = 0. Le terme principal de Au(x, k) s’´ecrit
Z
IRnXa(x, y, ηc)σ(y, k)eik ˜ψ(x,y)kN2(detJ(φ + ψ))−12dy.
Ce r´esultat est ind´ependant du nombre de variables utilis´ees dans la phase φ lorsque, `a di-mensions d’espace nX et nY fix´ees, a est dans Sm+l(nX,nY)−N
Nous retrouvons les op´erateurs pseudo-diff´erentiels ordinaires lorsque nX = nY = N , auquel cas il suffit de poser l(N, N ) =−N/2.
Ensuite, lorsque l’on compose formellement deux op´erateurs int´egraux de Fourier, respecti-vement A1dont le symbole a1appartient `a Sm1+l(nX,nY)−N12 et A2de symbole a2appartenant `
a Sm2+l(nY,nZ)−N22 , A1◦ A2 est donn´e par A1A2u(x) =
Z Z Z Z
eiφ1(x,y,θ)+iφ2(y,z,η)a1(x, y, θ)a2(y, z, η)u(z)dydzdηdθ.
On veut obtenir un repr´esentant de A1◦ A2de symbole b(x, z, ω)∈ Sm1+m2+l(nX,nZ)−nω2 . On pose formellement ω = (y, θ, η)∈ IRN1+N2+nY et on retrouve la repr´esentation
A1A2u(x) =
Z Z Z Z
eiψ(x,z,ω)b(x, z, ω)u(z)dzdω
Pour identifier les ordres, on doit avoir b∈ Sm1+m2+l(nX,nZ)−N1+N2+nY2 , ce qui donne l’´egalit´e l(nX, nY) + l(nY, nZ) = l(nX, nZ)−n2Y.
Consid´erant alors l’adjoint A∗= I˜a,ψ de l’op´erateur A = Ia,φde phase ψ(y, x, θ) =−φ(x, y, θ) et de symbole ˜a(y, x, θ) = ¯a(x, y, θ), on trouve que l(nX, nY) = l(nY, nX). Des deux ´egalit´es, on peut alors d´eduire que
l(nX, nY) =−nX+ n4 Y.
On d´efinit alors l’espace des op´erateurs int´egraux de Fourier ayant la mˆeme relation cano-nique et le mˆeme poids m.
D´efinition 9.5 Soit φ(x, y, θ) une phase d´efinie sur IRnX
×IRnY
×IRN. Elle d´efinit une relation canonique C sur T∗(X × Y ). L’espace Im(X × Y, C0) des op´erateurs int´egraux de Fourier de symbole a ∈ Sm+nX +nY −2N4 (X× Y × IRN) de relation canonique C associ´ee `a la vari´et´e lagrangienne pour σX+ σY deC0 ⊂ T∗(X× Y ) est l’ensemble des int´egrales oscillantes dans S0 de la forme
Au(x) = Z
IRnY×IRN
a(x, y, θ)eiφ(x,y,θ)u(y)dydθ.
Cette d´efinition ne d´epend pas du nombre de variables θ utilis´ees pour caract´eriser la relation canonique.
9.4.2 Inversion des op´erateurs int´egraux de Fourier
Nous r´esumons le r´esultat d’inversion d’op´erateurs int´egraux de Fourier et de conjugaison d’op´erateurs pseudo-diff´erentiels par des op´erateurs int´egraux de Fourier dans le
Th´eor`eme 9.1 SoitC une relation canonique homog`ene d’un voisinage conique de (y0, η0)∈ T∗X, X ⊂ IRd sur un voisinage conique de (x0, ξ0)∈ T∗Y , Y ⊂ IRd associ´ee `a une fonction g´en´eratrice φ(x, η). Sa relation canonique inverse, not´eeC−1 est la vari´et´e lagrangienne dans T∗(X× Y ) pour dy ∧ dη − dx ∧ dθ des points {(y, η, x, θ), (x, θ, y, η) ∈ C}
On consid`ere l’op´erateur A∈ I0(X× Y, C0), de symbole a∈ S0(X× Y × IRd) elliptique Au(x) =
Z
T∗X
9.4. RELATIONS CANONIQUES ET OP ´ERATEURS INT ´EGRAUX DE FOURIER 159 1. Il existe b∈ S0(Y×X ×IRd) tel que l’op´erateur de Fourier int´egral B∈ I0(Y×X, (C−1)0)
donn´e par
Bv(x) = Z Z
ei(x.ξ−φ(y,ξ))b(x, y, ξ)v(y)dydξ
v´erifie AB = Id + R1∈ L0(Y ), BA = Id + R2∈ L0(X), R1 et R2 sont dans L−∞.
2. Soit P un op´erateur pseudodiff´erentiel sur X d’ordre m des symbole principal pm. L’op´erateur Q = A◦ P ◦ B est un op´erateur pseudodiff´erentiel sur Y d’ordre m, dont le symbole prin-cipal qm est l’image du symbole principal pm de P par la transformation canonique. On a de plus (x0, ξ0, y0, η0) /∈ W F (P A − AQ).
Notons qu’un op´erateur pseudo-diff´erentiel sur X est associ´e `a la relation canonique identit´e sur T∗(X×X) et `a la phase x.η. Comme nous l’avons vu en Remarque 3, la dimension d’espace est ´egale `a la dimension en η, donc I0 correspond aux symboles de S0.
D’autre part, lorsque la relation canonique est g´en´er´ee par la phase φ(x, η), on a la relation pm(x,∇xφ) = qm(∇ηφ, η), g´en´eralisation de la relation entre les symboles apr`es changement de variable symplectique de l’exercice 8.3.
Ce th´eor`eme est une cons´equence directe des d´efinitions ci-dessus et de l’exercice 8.3. C’est le th´eor`eme 10.1 de [42], d´emontr´e par Egorov [33] et qui sert de base aux transformations canoniques d’op´erateurs pseudo-diff´erentiels afin de se ramener `a des op´erateurs simples.
Egorov part d’une fonction phase S(x, ξ) v´erifiant det( ∂2S
∂xiξj(x, ξ0)) 6= 0. Il introduit la transformation canonique homog`ene (x, ξ) → (x0, ξ0) avec x0
j = ∂ξjS(x, ξ0), ξj = ∂xjS(x, ξ0). Alors pour tout op´erateur pseudo-diff´erentiel P et toute fonction h, il existe Q tel que
P hΦu = ΦhQu + T u o`u Φ est l’op´erateur int´egral de Fourier
Φv(x) = 1 (2π)n Z IRn ˆ u(ξ)eiS(x,ξ)dξ
et o`u T ∈ L−∞(IRn). La relation canonique de P Φ est ainsi ´egale `a celle de Φ, ce qui correspond `
a la remarque 1 pr´ec´edente.
9.4.3 Composition des op´erateurs int´egraux de Fourier
Dans ce dernier paragraphe, nous ´enon¸cons le th´eor`eme de composition des op´erateurs int´egraux de Fourier par l’interm´ediaire de leurs relations canoniques. Nous renvoyons le lecteur int´eress´e au chapitre 11 de [42] pour la preuve d´etaill´ee de ce th´eor`eme.
On se donne X, Y , Z trois vari´et´es de dimension nX, nY et nZ et un op´erateur int´egral de Fourier A1de X dans Y , de relation canonique C1⊂ T∗(X× Y ), un op´erateur int´egral de Fourier A2 de Y dans Z, de relation canonique C2. On suppose
A1∈ Im1(X× Y, C10), A2∈ Im2(X× Y, C20).
On suppose que C1× C2 et T∗X× {(ρ, ρ), ρ ∈ T∗Y} × T∗Z ont une intersection transverse, et que la projection naturelle C1◦ C2 de cette intersection vers T∗(X× Z) est propre. Nous v´erifions que
(ρ1, ρ2)∈ T∗X× T∗Z ∈ C1◦ C2⇔ ∃ρ ∈ T∗Y, (ρ1, ρ)∈ C1, (ρ, ρ2)∈ C2.
Dire que A1 est de relation canonique C1 ´equivaut `a dire que, microlocalement au voisi-nage d’un point de C1, on peut repr´esenter C1 par une phase φ1(x, θ) sous la forme C1 = {(x, ∂xφ(x, θ); (∂θφ(x, θ), θ)}. De mˆeme, dire que A2 est de relation canonique C2´equivaut `a dire que, microlocalement au voisinage d’un point de C2, on peut repr´esenterC2par une phase φ2(y, w) sous la formeC2={(y, ∂yφ(y, w); ∂wφ(y, w), w)}.
Th´eor`eme 9.2 Sous les hypoth`eses pr´ec´edentes, l’op´erateur A1◦ A2 est un op´erateur int´egral de Fourier, de relation canonique C1◦ C2, d’ordre la somme des ordres des symboles de A1 et de A2.
Preuve Des ´egalit´es
A1v(y) =R
T∗Xeiφ1(y,θ)−x.θa1(y, θ)v(x)dxdθ A2u(z) =R
T∗Y eiφ2(z,w)−y.wa2(z, w)u(y)dwdy on d´eduit
A2A1u(z) = Z
T∗X×T∗Y
ei(φ1(y,θ)−x.θ+φ2(z,w)−y.w)a1(y, θ)a2(z, w)u(x)dxdwdydθ. Nous calculons la valeur de A2A1u au point z, en fonction de la valeur de u au point x. Ainsi, dans les variables d’espace, nous choisissons d’´eliminer la variable y. Comme, par analogie avec l’analyse de Fourier, il faut ´eliminer conjointement une variable duale, on a le choix entre θ et w. Le choix est indiff´erent. Nous appliquons formellement le th´eor`eme de la phase stationnaire de param`etre (x, z, θ) dans les variables (y, w). Alors le point critique (yc, wc) est solution de
∂yφ1(yc, θ) = wc, ∂wφ2(z, wc) = yc.
Identifions les points de C1 et de C2. Le point courant deC1 est (y, ∂yφ1(y, θ); ∂θφ1(y, θ), θ). Pour y = yc, on obtient (yc, wc; ∂θφ1(yc, θ), θ). De mˆeme, le point courant de C2associ´ee `a la phase φ2est (z, ∂zφ2(z, w); ∂wφ2(z, w), w). Pour w = wc, on obtient le point (z, ∂zφ2(z, wc); yc, wc). La valeur critique de la phase est φ1(yc, θ) + φ2(z, wc)− yc.wc− xθ, et yc et wc ne d´ependent que de z et de θ. On note alors
˜
φ(z, θ) = φ1(yc, θ) + φ2(z, wc)− yc.wc. Il en d´ecoule que
∂θφ(z, θ) = ∂˜ θφ1(z, θ) + ∂θyc[∂yφ1(yc, θ)− wc] + ∂θwc[∂wφ2(z, wc)− yc] = ∂θφ1(yc, θ). De mˆeme ∂zφ(z, θ) = ∂˜ zφ2(z, wc). Les deux points deC1 et deC2 sont respectivement
(yc, wc; ∂θφ(z, θ), θ) et (z, ∂˜ zφ(z, θ); y˜ c, wc).
On reconnaˆı t ainsi le point de T∗(X × Z) ´egal `a ((∂θφ(z, θ), θ); (z, ∂˜ zφ(z, θ))). Il est alors˜ ´el´ement de la relation canonique C1◦ C2.
La condition de transversalit´e est ´equivalente `a la non d´eg´en´er´escence du point critique. Le calcul de phase stationnaire conduit `a un symbole, dont l’ordre est la somme des ordres, et qui est le produit des symboles. Nous avons ainsi esquiss´e la preuve du th´eor`eme 9.2, qui est le th´eor`eme 4.2.2 de [47], repris dans le th´eor`eme 11.12 de [42].