Déterminant relatif et la fonction Xi Gilles CARRON 15 mars 2006

Déterminant relatif et la fonction Xi

Gilles CARRON 15 mars 2006

Résumé

Nous obtenons un analogue de la formule de Weyl (ou plutôt sa ver- sion intégrée) pour les domaines non-bornés d’une variété riemannienne complète. Cet asymptotique concerne la fonction de décalage spectral de M. Krein. On donne aussi des formules reliant cette fonction et la ζ- régularisation du déterminant de quelques opérateurs.

Mots-clés : fonction de décalage spectral, opérateur de Dirichlet-to-Neumann, déterminant relatif, opérateur de Gauss-Bonnet, états résonnants d’énergie nulle.

Abstract

We obtain a analogue of the Weyl’s law (more precisely its integrated version) for unbounded domain of a complete Riemannian manifold. This asymptotic is for the spectral shift function of M. Krein. We also give a formula relating this function and theζ-regularisation of the determinant of some operator.

Keys-words : spectral shift function, Dirichlet-to-Neumann operator, relative déterminant, Gauss-Bonnet operator, zero energy resonnance.

Mathematics Subjet Classification (2000) : 58J50, 58J32, 58J20, 47A40.

Table des matières

1 Introduction. 2

2 Scattering sur les variétés non-compactes. 7 2.1 Les laplaciens généralisés. . . 7 2.2 Une hypothèse spectrale. . . 8 2.3 Des exemples. . . 9 2.4 Liens avec le déterminant de l’opérateur "Dirichlet-to-Neumann". 9 2.5 Existence des opérateurs d’ondes. . . 14

3 Déterminant et la fonction Xi. 14

3.1 La fonction de décalage spectral. . . 15

3.2 Lien avec le déterminant de l’opérateur de Dirichlet-to-Neumann. 16 4 Déterminant relatif et formule à la Burghelea-Friedlander-Kappeler. 19 4.1 Déterminant relatif. . . 19

4.2 Dans notre cadre. . . 20

4.3 Asymptotique pour le déterminant relatif. . . 22

4.4 Cas du scattering avec obstacle. . . 24

4.5 Cas de deux opérateurs isométriques à l’infini. . . 25

5 Asymptotique pour la fonction Xi. 26 6 Scattering supersymétrique : le cas des formes différentielles. 31 6.1 L’opérateur de Gauss-Bonnet. . . 31

6.2 Les conditions aux bords. . . 31

6.3 Existence des opérateurs d’ondes. . . 32

6.4 Les opérateurs Dirichlet-vers-Relatif et Dirichlet-vers-absolu . . . 33

6.5 Scattering supersymétrique . . . 34

6.6 L’indice de Witten. . . 35

6.7 Dans notre cadre. . . 35

6.8 Scattering super-symétrique par un obstacle. . . 38

6.9 Liens avec les formes harmoniques L². . . 38

7 Bibliographie. 42

1 Introduction.

L’objectif de cet article est d’étudier les opérateurs de type laplacien sur les variétés riemanniennes complètes non-compactes, et particulièrement certaines de leurs propriétés spectrales. Une partie de notre étude est motivée par le très bel article de F. Gesztesy et B. Simon. Dans [G-S 2], les auteurs étudient la fonction Xi, dite de décalage spectral, du couple

(H, H0) = −d²/dt²+V

, −d²/dt²+V

0

, surL²(IR, dt)

oùV : IR −→IRest une fonction bornée inférieurement et H0 est l’opérateur

−d²/dt²+V avec les conditions de Dirichlet en 0 ∈IR. Ainsi H est une per- turbation de rang1 de H0 et selon la théorie de M. Krein, il y a une unique fonctionξ∈L¹(IR, dλ/(1 +λ)²)telle queξ(λ) = 0 siλ <<0 et telle que, pour tout réel positift, on a

Tr e^−tH−e^−tH0

=− Z +∞

−∞

ξ(λ, H, H0)te^−tλdλ.

De plus grâce au théorème 1.1 de [G-S 2], on a la formule ξ(λ) =− lim

ε→0⁺

1

π ArgG(λ+iε,0,0), p.p. λ≥0.

Où on a noté G(z, x, y), z ∈ C, x, y^| ∈ IR le noyau de Green de l’opérateur (H−z)⁻¹.

Notre objectif est de faire de même sur les variétés riemanniennes. Soit donc (Mⁿ, g)une variété riemannienne complète, soit∆ =d^∗dle laplacien associé à la métrique. Dans cette introduction, on se contentera de décrire le cas de cet opérateur, mais notre étude est valable pour tout opérateur de type laplacien raisonnable : les opérateurs de Schrödinger du type∆+V, oùV est une fonction bornée inférieurement, le laplacien de Hodge-deRham agissant sur les formes différentielles, etc. SoitΣune hypersurface compacte lisse deM qui sépareM

M−Σ =M₋tM₊;

on peut alors définir l’opérateur autoadjoint non-borné surL²(M) qui corres- pond au laplacien, on note encore cet opérateur∆, et on peut aussi construire un autre opérateur auto-adjoint qui correspond au laplacien pour les conditions de Dirichlet surΣ, on le note∆0. Notre premier résultat est le suivant : Théorème. 1.1 Soitν un entier tel queν >(n−1)/2, alors pourz∈ C−^| IR₊, les opérateurs

(∆−z)^−ν−(∆₀−z)^−ν sont à trace.

Ce théorème assure que les opérateurs d’ondes W^±=s− lim

t→∓∞e^it∆e^−it∆0P0

existent et sont complets ; où on a noté P₀ le projecteur spectral de ∆₀ cor- respondant au spectre absolument continu. Cependant, ceci est très abstrait ici, puisqu’il se peut bien que les opérateurs ∆ et ∆0 n’aient pas de spectre absolument continu !

De tels résultats, concernant plutôt la différence des opérateurs de la chaleur e^−t∆−e^−t∆0, ont été montrés par U. Bunke, [B], ceci avec l’hypothèse supplé- mentaire que la variété soit à courbure bornée ; notre étude montre que ce n’est pas nécéssaire même pour le laplacien sur les formes différentielles.

Encore ici, le principal outil est la fonction Xi, de décalage spectral de M.

Krein. La théorie de M. Krein nous apprend qu’il existe une unique fonction ξ(λ,∆,∆0)∈L¹

IR+, dλ (1 +λ)^ν+1

tel que pour toutz∈ C^| −IR+

Tr (∆−z)^−ν−(∆₀−z)^−ν

=−ν Z ∞

0

ξ(λ,∆,∆₀) dλ (λ−z)^ν+1.

De plus selon M. Birman et M. Krein, presque partout sur le spectre absolument continue de∆0, la fonction−2πξcoincide à un entier près avec la phase de la ma- trice de scattering. De façon similaire au théorème 1.1 de [G-S 2], nous obtenons une description de la fonction Xi en fonction de l’opérateur de Green(∆−z)⁻¹. Ceci se fait par l’intermédiaire de l’opérateur de Dirichlet-to-Neumann : Définition 1.2 Soit z ∈ C^| −IR+, alors l’opérateur de Dirichlet to Neumann N(z) : C^∞(Σ)−→C^∞(Σ) est défini de la façon suivante : sif ∈C^∞(Σ) alors il y a une unique fonctionf˜∈L²(M)telle que

(∆−z) ˜f = 0 sur M −Σ f˜=f le long deΣ

La fonctionf˜est alors continue sur M et sa dérivée présente un saut le long de Σ, alors N(z)f est précisément ce saut :

N(z)f = ∂

∂n⁺

f˜|M₊+ ∂

∂n⁻ f˜|M−

, oùn⁺ etn⁻ sont les normales unitaires extérieures le long de Σ.

De façon similaire au cas des variétés compactes, l’opérateur de Dirichlet-to- Neumann est un opérateur pseudodifférentiel d’ordre1 elliptique inversible. Et son noyau de Schwartz est le noyau de Schwartz de(∆−z)⁻¹, c’est à dire, que si on noteG(z, x, y)ce noyau, alors on a

N(z)⁻¹f(x) = Z

Σ

G(z, x, y)f(y)dy.

Ceci permet de définir le déterminant régularisé de l’opérateur de Dirichlet-to- Neumann. Suivant [R-S], on définit la fonction zeta

ζ(s) = TrN(z)^−s,

c’est une fonction holomorphe sur l’ouvert {s ∈ C,^| <s > n−1}. De plus, cette fonction admet un prolongement méromorphe à C^| tout entier et elle est holomorphe en0. On définit alors

detN(z) =e^{−dsd|s=0ζ(s)}. Nous obtiendrons alors le résultat suivant

Théorème. 1.3 Pour presque toutλ≥0, on a l’égalité ξ(λ,∆,∆₀) = lim

ε→0⁺

1

π Arg detN(λ+iε).

Ce théorème peut être vu comme une généralisation du théorème 1.1 de [G-S 2].

En effet, dans ce cas l’opérateur de Dirichlet-to-Neumann est simplement l’opé- rateur de multiplication par1/G(z,0,0).

Une autre partie de notre travail est motivée par un article de W. Müller ; dans [Mu 2], l’auteur donne des conditions pour que le déterminant relatif de deux opérateurs autoadjoints soit bien défini ; et il donne de nombreux exemples.

Dans un cadre euclidien, ces déterminants relatifs avaient été étudiées par V.

Bruneau [Br]. Dans son papier W. Müller remarque que grâce aux résultats de U. Bunke, on peut définir le déterminant relatif des opérateurs(∆−z,∆₀−z).

Nous obtenons ici le résultat suivant :

Théorème. 1.4 Il y a un polynôme à coefficients réelsP de degré inférieur à (n−1)/2 tel que pour toutz∈ C^| −IR+

det (∆−z,∆0−z) =e^P(z)detN(z).

De plus, lorsqueM est de dimension2, ce polynôme est nul.

Dans le cas des variétés compactes de dimension 1 ou 2, ce résultat est du à S.Levit, U. Smilansky ([L-S]), R. Forman ([F]) et à D. Burghelea, L. Friedlander, T. Kappeler ([B-F-K]) ; récemment, A. Hassel et S Zelditch ont obtenue une telle formule dans le plan euclien. Dans ces travaux, il est montré que ce polynôme est nul. L’addition de ces deux derniers théorèmes montrent que nous avons obtenu le résultat suivant : pour presque toutλ≥0, on a l’égalité

ξ(λ,∆,∆₀) = lim

ε→0⁺

1

π Arg det (∆−λ−iε,∆₀−λ−iε).

Ce qui est à posteriori un heureux résultat puisque la fonction de décalage spectral est définie à partir d’un déterminant de Fredholm reliant∆ et∆0.

Nos résultats permettent aussi d’étudier le cas où on considère l’opérateur laplacien au dehors d’un obstacle avec les conditions de Dirichlet sur le bord.

Nos résultats sont alors les suivants :

Théorème. 1.5 Soit(Mⁿ, g) une variété riemannienne complète et O un do- maine compact de M à bord lisse. Et soit ∆_M−O l’opérateur auto-adjoint de L²(M− O)qui correspond au laplacien pour les conditions de Dirichlet sur∂O.

Alors siν est un entier,ν > n/2, alors pour toutz∈ C^| −IR+, les opérateurs (∆−z)^−ν−(∆_M−O−z)^−ν

sont à trace. De plus siN(z)est l’opérateur de Dirichlet-to-Neumann de∂O ⊂ M etNO est la fonction de comptage des valeurs propres du laplacien surOavec les conditions de Dirichlet sur ∂O. Alors pour presque tout λ≥0, la fonction de décalage spectral du couple(∆,∆_M−O)vérifie

ξ(λ,L,L_Ω) = lim

ε→0⁺

1

π Argdet N(λ+iε)−N_O(λ).

A notre connaissance, cette dernière égalité n’était pas connue y-compris dans le cadre euclidien. Nous pouvons ici donner une formule asymptotique pour la fonction Xi du couple(∆,∆M−O):

Théorème. 1.6 LorsqueΛ tend vers l’infini, on a Z Λ

0

ξ(λ,∆,∆_M−O)dλ∼ − volO (4π)^n/2

Λ^n/2+1 Γ(n/2 + 2).

La fonction de décalage spectral doit être pensée comme une version régularisée de la fonction de comptage des valeurs propres ; c’est donc à l’asymptotique de Weyl qu’il faudrait s’attendre :

−ξ(λ,∆,∆M−O)' volO (4π)^n/2

λ^n/2 Γ(n/2 + 1).

Cet asymptotique de Weyl a été obtenue dans dans de nombreux cadres géo- métriques : le cadre euclidien ([Bu], [J-K], [M-R], [CdV], [Gu], [P-P], [Me], [R], [C1], [C2],[P3] ) ; pour les variétés à bouts cylindriques ([C-Z], [P1]), pour les surfaces hyperboliques de géométrie finie ([Mu 1], [P2], [G-Z]). Cependant, ce type d’asymptotique est sûrement faux en général, notre résultat montre que sa version integrée est toujours vrai.

La dernière partie de notre article est consacrée au cas du laplacien de Hodge- deRham sur les formes différentielles. Nos résultats sont des généralisations de ceux de N. Borisov, W. Müller et R. Schrader ([B-M-S]). Soit(Mⁿ, g)une variété riemannienne complète, on note d l’opérateur de différentiation extérieure et δ son adjoint formel. Suivant Chernoff [Ch], on sait que l’opérateur (d+δ) est essentiellement auto-adjoint surC₀^∞(ΛT^∗M) ⊂L²(ΛT^∗M); on note ∆ = (d+δ)²=dδ+δdson carré, c’est l’opérateur auto-adjoint associé au laplacien de Hodge-deRham. SiOest un domaine compact à bord lisse, on considère sur M− O, l’opérateur (d+δ)pour les conditions absolues au bord

D((d+δ)Abs) ={α∈L²(ΛT^∗M),(d+δ)α∈L², et intnα= 0}, oùn : Σ−→TΩest le champ normal unitaire extérieur à M− O. On notera

∆Abs le carré de cet opérateur. Les théorèmes de Hodge-deRham et de P. E.

Conner assurent que lorsqueM est compact, les noyaux de ces laplaciens sont reliés aux groupes de cohomologie réelle deM etM−O, on a les isomorphismes :

Ker ∆∩L²(Λ^pT^∗M)'H^p(M,IR) Ker ∆Abs∩L²(Λ^pT^∗(M− O))'H^p(M − O,IR).

Notonsτl’endomorphisme deΛ^pT^∗M qui est(−1)^pId.Alors, grâce au théorème de MacKean-Singer, on a

Tr τ e^−t∆−e^−t∆Abs

=χ(M)−χ(M− O) =χ(O, ∂O).

Un de nos résultat est que cette identité est encore valable sur les variétés non- compactes :

Théorème. 1.7 Pour toutt >0, l’opérateure^−t∆−e^−t∆Abs est à trace, de plus on a

Trτ e^−t∆−e^−t∆Abs

=χ(O, ∂O).

Ce théorème a été obtenu par N. Borisov, W. Müller et R. Schrader lorsque la variété est asymptotiquement euclidienne ([B-M-S]. De plus dans ce cadre euclidien, il est montré que les espaces

Ker ∆∩L²(Λ^pT^∗M)etKer ∆Abs∩L²(Λ^pT^∗(MO)) sont de dimensions finies, et que sin >2, on a l’égalité :

Trτ e^−t∆−e^−t∆Abs

= χ(O, ∂O)

=

n

X

p=0

(−1)^pdim Ker ∆∩L²(Λ^pT^∗M)

−

n

X

p=0

(−1)^pdim Ker ∆Abs∩L²(Λ^pT^∗(M− O)) Dans [C], nous avons donné des conditions qui assurent que cette égalité est vraie. Pour finir, nous étudierons le cas deIR²où l’obstacle est le disque euclidien IDde rayon1. Le théorème de N. Borisov, W. Müller et R. Schrader montre que

Trτ

e^−t∆IR2 −e^{−t∆IR2−IDAbs}

= 1 =χ(ID, ∂ID).

Cependant les noyauxL² des opérateurs∆, ∆Abs sont nuls. Ainsi, on s’attend à ce que l’allure deTr τ

e^−t∆IR2 −e^{−t∆IR2−IDAbs}

, lorsquet tend vers l’infini, soit dictée par les états résonnants d’énergie nulle. Nous préciserons la contribution des quatres états résonnants d’énergie nulle de∆Abs.

Remerciements : Je tiens à remercier L. Guillopé et L. Hillairet qui ont gentillement et patiemment répondu à mes questions sur la théorie de scattering.

Je remercie aussi Y. Colin de Verdière de m’avoir suggéré le théorème 1.4. Une amélioration de ce théorème m’a été suggéré par un rapporteur, je le remercie pour son aide.

2 Scattering sur les variétés non-compactes.

L’objet de cette partie est d’établir des résultats relatifs à la théorie du scattering pour les laplaciens généralisés sur les variétés riemanniennes non- compactes. On va commencer par décrire le cadre dans lequel nos résultats sont valides :

2.1 Les laplaciens généralisés.

Soit (Mⁿ, g) une variété riemanienne complète et soit V −→ M un fibré hermitien de rangl au dessus deM.

L : C₀^∞(M, V)−→C₀^∞(M, V)

est un opérateur différentiel d’ordre2symétrique dont le symbole principal est la métrique ; i.e.L est un laplacien généralisé, et en coordonnées cet opérateur s’écrit

L=−X

i,j

g^i,j ∂

∂xi∂xj

IdV_x+X

i

Ai

∂

∂xi

+B.

Selon P. Gilkey, [Gi], il existe une connexion orthogonale surV,

∇^L : C₀^∞(M, V)−→C₀^∞(M, T^∗M⊗V)

etE∈C^∞(Sym(V)), un champ d’endomorphisme symétrique deV, tel que

L= (∇^L)^∗∇^L+E. (2.1)

2.2 Une hypothèse spectrale.

Nous faisons l’hypothèse que L : C₀^∞(M, V) −→ C₀^∞(M, V) est essentiel- lement auto-adjoint sur L²(M, V). D’après Chernoff ([Ch]), c’est aussi le cas lorsque L vérifie la propriété de propagation à vitesse finie : les solutions de l’équation

∂²

∂t²u+Lu= 0 vérifient

support{u(t, .)} ⊂ {x∈M,dist(x,support{u(0, .)})≤ |t|} (2.2) Alors un tel opérateur a une unique extension auto-adjointe à L²(M, V). On note cet opérateur auto-adjointL. Le domaine deL est

D(L) ={u∈L²(M, V), Lu∈L²(M, V)}.

Nous faisons aussi l’hypothèse que L est borné inférieurement : il y a une constanteΛtelle que

Λ Z

M

|ϕ|²≤ Z

M

< Lϕ, ϕ >=

Z

M

|∇^Lϕ|²+< Eϕ, ϕ > , ∀ϕ∈C₀^∞(M, V).

Pratiquement, nous ferons l’hypothèse que cet opérateur est positif i.e.

0≤ Z

M

< Lϕ, ϕ > , ∀ϕ∈C₀^∞(M, V).

Quitte à ajouter à l’opérateurLl’opérateur−ΛId, nous pouvons toujours nous ramener à ce cas là.

Ceci est par exemple assurer si le potentiel E de la formule 2.1 est borné inférieurement.

De par nos hypothèses, le spectre de L est inclus dans IR₊. Ainsi pour z∈ C^| −[0,∞[,(L −z)⁻¹est un opérateur borné deL²(M, V).

2.3 Des exemples.

De tels opérateurs sont très fréquent :

– Le laplacien sur les fonctions∆ : C₀^∞(M)−→C₀^∞(M).

– SiV est un fonction réelle bornée inférieurement alors l’opérateur de Schrö- dingerL= ∆ +V est de ce type.

– Si V = M × C^| est le fibré trivial, on peut changer la métrique de ce fibré par un poid,e^ρ, où ρest une fonction lisse sur M, la connexion est l’opérateurdρ =e^−ρ/2de^ρ/2; et son adjoint estd^∗_ρ =e^−ρ/2d^∗e^ρ/2 et donc l’opérateur estLf = ∆f−< dρ.df >+e^−ρ/2∆e^ρ/2est de ce type.

– SiLest le carré d’un opérateur différentiel symétrique d’ordre1,L=D², alorsLest de ce type. De plus, on sait queDlui-même est essentiellement auto-adjoint surC₀^∞(M, V)⊂L²(M, V)([Ch]). Par exemple, c’est le cas du laplacien de Hodge-deRham agissant sur les formes différentielles.

2.4 Liens avec le déterminant de l’opérateur "Dirichlet- to-Neumann".

Un des objectif de ce papier est d’obtenir une formule analogue à celle de D.

Burghelea, L. Friedlander et T. Kappeler. Dans [B-F-K], les auteurs obtiennent notamment la formule suivante : siSest une surface riemannienne compacte et siΣest une courbe plongée lisse dansS alors on a

det (∆ +λ) = det (∆Σ+λ) detR(λ),∀λ∈ C−]^| − ∞,0[.

où∆est le laplacien associé à la métrique surS,∆Σest l’opérateur laplacien sur S−Σpour les conditions de Dirichlet surΣ, etR(λ)est l’opérateur de Dirichlet- to-Neumann, c’est un opérateur pseudo-différentiel sur Σet il est défini de la façon suivante : sif ∈C^∞(Σ), alors le problème de Dirichlet suivant admet une unique solution

(∆ +λ) ˜f = 0 surS−Σ f˜=f le long deΣ et on a

R(λ)f =− ∂

∂n⁺ f˜+ ∂

∂n⁻ f˜

,

oùn^± sont les normales intérieures à M_± le long de Σ. Les déterminants sont des déterminants régularisés. En fait, les auteurs obtiennent un résultat plus général qui améliorait un théorème de R. Forman [F].

Dans cette partie,(M, g)est une variété riemannienne complète de dimension net L : C₀^∞(M, V)−→C₀^∞(M, V)est un opérateur de type laplacien comme précédemment. On note∇^L : C₀^∞(M, V)−→C₀^∞(M, T^∗M ⊗V)la connexion associée à L, c’est à dire que L−(∇^L)^∗∇^L est un opérateur d’ordre 0. Et on considèreΣ⊂M une hypersurface compacte lisse, par commodité on suppose que Σ sépare M i.e. M −Σ = M+tM₋. Si z ∈ C^| −IR+, on peut définir l’opérateur de Dirichlet-to-Neumann N(z) : C^∞(Σ, V) −→ C^∞(Σ, V) de la façon suivante :

sif ∈C^∞(Σ, V), alors le problème de Dirichlet (L−z) ˜f = 0 surM −Σ

f˜=f le long deΣ

a une unique solutionf˜∈C^∞(M−Σ, V)∩L²(M, V). Cette solution s’obtient de la façon suivante : sifˆ∈C₀^∞(M, V)est une extension quelconque def alors on a

f˜= ˆf−(L0−z)⁻¹(L−z) ˆf .

OùL0 est l’opérateur associé à Lavec les conditions de Dirichlet sur Σ. C’est l’extension de Friedrichs de la forme quadratique

σ7→

Z

M

< Lσ, σ >=

Z

M

|∇^Lσ|²+< Eσ, σ > , définie sur le complèté deC₀^∞(M−Σ, V)pour la norme

σ7→

q

kσk²_L2+< Lσ, σ >_L2 .

De plus cette solution est continue surM et lisse sur M+ et M−; sa dérivée normale présente un saut le long de Σ et N(z)f est précisément ce saut ; si n^± : Σ−→T M est le champ normal unitaire àΣentrant dansM_± , alors

N(z)f =−

∇^L_n+( ˜f|_M+) +∇^L_n−( ˜f|_M−) . On a alors le

Théorème. 2.1 Si z ∈ C^| −IR+, alors l’opérateur de Dirichlet-to-Neumann N(z)est un opérateur pseudodifférentiel d’ordre1elliptique inversible. Son sym- bole principal est scalaire :

σ(N(z))(x, ξ) = 2p

gx(ξ, ξ) IdV_x, (x, ξ)∈T^∗M.

De plus,z7→ N(z)est une fonction holomorphe de z à valeurs dans les opéra- teurs pseudodifférentiels, et _dz^dν_νN(z)est un opérateur pseudodifférentiel d’ordre 1−2ν.

Preuve .– Ce théorème est bien connu dans le cas compact, il repose sur le fait que si(G(z, x, y), x, y∈M)est le noyau de Schwartz de l’opérateur (L − z)⁻¹ alorsN(z)⁻¹ a pour noyau de Schwartz(G(z, x, y), x, y∈Σ).C’est à dire G(z, x, y)∈Hom(Vy, Vx) =Vx⊗V_y^∗et on a les identités suivantes

(L −z)⁻¹f(x) = Z

M

G(z, x, y)f(y)dy, x∈M, f ∈L²(M, V) N(z)⁻¹f(x) =

Z

Σ

G(z, x, y)f(y)dy, x∈Σ, f∈C^∞(Σ, V).

Ceci est encore vrai dans notre cadre et ceci repose sur la formule de Green.

Soitf ∈C^∞(Σ, V), on note δΣ⊗f la distribution : ϕ∈C₀^∞(M, V)7→

Z

Σ

< ϕ, f >, alors la distribution

(L −z)⁻¹(δΣ⊗f) est donnée par

ϕ∈C₀^∞(M, V)7→

Z

y∈Σ

Z

x∈M

< ϕ(x), G(z, x, y)f(y)> dxdy=< ϕ, u >_L2 . Oùu∈L²(M, V)est défini paru(x) =R

ΣG(z, x, y)f(y)dy, ainsi on a(L−z)u= δΣ⊗f au sens des distributions, en particulier(L−z)u= 0surM −Σ. Or la formule de Green montre que pourϕ∈C₀^∞(M, V)on a

<(L−z)ϕ, u >¯ L² = (L−z)u(ϕ)

= Z

M₊

< Lϕ, u >−< ϕ, Lu >+ Z

M−

< Lϕ, u >−< ϕ, Lu >

= Z

Σ

<∇^L_n+ϕ, u >−< ϕ,∇^L_n+u >+<∇^L_n−ϕ, u >−< ϕ,∇^L_n−u > . Maisϕest lisse, on a donc∇^L_n+ϕ+∇^L_n−ϕ= 0le long deΣet

(L−z)u=δΣ⊗(N(z)u|Σ), et finalement

N(z)(u|Σ) =f.

Ce qui montre l’assertion relative au noyau de Schwartz de l’opérateurN(z)⁻¹. Comme l’opérateur(L −z)⁻¹ vérifie les conditions de transmission, l’opérateur N(z)⁻¹ est un opérateur pseudodifférentiel d’ordre −1 et donc N(z) est un opérateur pseudodifférentiel d’ordre1. L’holomorphie de l’opérateurN(z) par rapport au paramètrez en découle aussitôt. Comme l’opérateur _dz^dν_νN(z)⁻¹ est un opérateur dont le noyau de Schwartz est (ν −1)!G^ν(z, x, y); oùG^ν(z, x, y) est le noyau de Schwartz de l’opérateur(L −z)^−ν, on en déduit que _dz^dν_νN(z)⁻¹ est un opérateur pseudodifférentiel d’ordre 1−2ν, l’assertion sur _dz^dν_νN(z)en

découle immédiatement. Q.E.D.

On va maintenant relier le déterminant de l’opérateur de Dirichlet-to-Neumann à la trace de l’opérateur(L −z)^−ν−(L₀−z)^−ν. Rappelons comment est défini le déterminant de l’opérateurN(z). PuisqueN(z)est un opérateur pseudodif- férentiel elliptique d’ordre 1 inversible, pour s ∈ C,^| <s > n−1, l’opérateur N(z)^−sest un opérateur à trace surL²(Σ, V). La fonctionζ(s) = Tr N(z)^−sest bien définie et c’est une fonction holomorphe sur l’ouvert{s∈ C,^| <s > n−1}.

De plus, Cette fonction admet un prolongement méromorphe à C^| et elle est holomorphe en0. On définit alors

det N(z) =e^{−dsd|s=0ζ(s)}.

Ici, pourν > ⁿ⁻¹₂ , on a d^ν

dz^ν log detN(z) = Tr

d^ν−1 dz^ν−1

d dzN(z)

N(z)⁻¹

. (2.3)

En effet siν > ⁿ⁻¹₂ , alors _dz^dν−1ν−1

d dzN(z)

N(z)⁻¹

est un opérateur pseudodif- férentiel d’ordre−2ν, il est donc à trace surL²(Σ, V). De plus suivant [B-F-K], on a

d

dzlog detN(z) =Fp_s=0

s7→Tr d

dzN(z)

N(z)^−s−1

,

où pourhune fonction méromorphe sur C, on a noté Fp^| _s=0hle terme constant dans le développement de Laurent de h en 0. En dérivant (ν −1) fois cette expression, on obtient le résultat 2.3. Notre résultat est ici le suivant :

Théorème. 2.2 Soit ν un entier tel que ν > ⁿ⁻¹₂ et z ∈ C^| −IR+, alors l’opérateur(L −z)^−ν−(L0−z)^−ν est à trace, de plus

− d^ν

dz^ν log detN(z) = (ν−1)! Tr (L −z)^−ν−(L0−z)^−ν .

Preuve .– Soit G₀(z, x, y) le noyau de Schwartz de l’opérateur (L₀−z)⁻¹. Six∈Σet y∈M, on note δG₀(z, x, y) =∇^L_n+G₀(z, x, y) +∇^L_n−G₀(z, x, y), où la dérivation porte surx∈ M+ dans le premier terme et sur x∈M₋ dans le second. Sif est une section de V définie sur un voisinage de Σ,C¹ surM+ et C¹ surM₋ alors on définitδf(x) =∇^L_n+ f

M₊

+∇^L_n− f M−

Grâce à la formule de Green, nous avons l’identité suivante

G(z, x, y)−G0(z, x, y) = Z

Σ

G(z, x, t)δtG0(z, t, y)dt.

En dérivant ceci(ν−1)fois et grâce à la formule de Leibniz, on en déduit que le noyau de Schwartz de l’opérateur(L −z)^−ν−(L0−z)^−ν est

X

p+q=ν−1

Z

Σ

G^p+1(z, x, t)δtG^q+1₀ (z, t, y)dt,

où on a notéG^q+1₀ (z, t, y)le noyau de Schwartz de l’opérateur(L₀−z)^−1−q. On introduit alors pourp∈IN− {0}les opérateurs

A_p : C^∞(Σ, V)−→L²(M, V)et Bp : C₀^∞(M, V)−→L²(Σ, V),

dont les noyaux de Schwartz sont respectivementG^p etδG^p₀; c’est à dire que Apf(x) =

Z

Σ

G^p(z, x, y)f(y)dy, x∈M Bpg(x) =

Z

M

δxG^p₀(z, x, y)g(y)dy, x∈Σ.

On a donc l’identité

(L −z)^−ν−(L0−z)^−ν = X

p+q=ν−1

Ap+1◦Bq+1. (2.4) Nous allons montré que chacun des opérateurs A_p ◦B_q est à trace dès que p+q >(n−1)/2 + 1.

A cet fin, nous introduisons les espaces de Banach suivant : siH₁etH₂sont des espaces de Hilbert alors S_p(H₁, H₂) est l’espace des applications linéaires A : H1−→H2tel que√

A^∗A^pest un opérateur à trace ; ce qui équivaut à ce que

√

AA^∗psoit un opérateur à trace. De plus siA∈ Sα(H1, H2)etB∈ Sβ(H2, H1) avec _α¹+¹_β ≥1alorsABetBAsont des opérateurs à trace etTrAB= TrBA.

Soitp∈IN− {0}, l’opérateur A^∗_pA_p a pour noyau de Schwartz Z

M

G^p(¯z, x, t)G^p(z, t, y)dt,

c’est donc un opérateur pseudodifférentiel d’ordre1−4psurΣ. Il est donc dans Sα(L²(Σ, V), L²(Σ, V))pour α > _4p−1ⁿ⁻¹ ; ainsi on a

A_p∈ Sα(L²(Σ, V), L²(M, V)), pourα >2n−1 4p−1. Et siq∈IN− {0}, l’opérateurB_qB_q^∗ a pour noyau de Schwartz

δxδy

Z

M

G^q₀(z, x, t)G^q₀(¯z, t, y)dt,

c’est donc un opérateur pseudodifférentiel d’ordre3−4qsurΣ. Il est donc dans Sβ(L²(Σ, V), L²(Σ, V))pourβ > _4p−3ⁿ⁻¹ ; ainsi on a

B_q ∈ Sβ(L²(M, V), L²(Σ, V)), pour β >2n−1 4q−3.

Et donc l’opérateurA_pB_q est à trace surL²(M, V)si ^4p−1_n−1 +^4q−3_n−1 >2 c’est à dire sip+q >(n−1)/2 + 1.

On déduit donc de l’identité 2.4 que l’opérateur(L −z)^−ν−(L₀−z)^−ν est à trace siν est un entier tel queν > ⁿ⁻¹₂ .

De plus par cyclicité de la trace, on en déduit que Tr (L −z)^−ν−(L₀−z)^−ν

= X

p+q=ν−1

TrB_q+1◦A_p+1.

Le second membre est la trace d’un opérateur surL²(Σ, V) dont le noyau de Schwartz est

X

p+q=ν−1

Z

M

δxG^q+1₀ (z, x, t)G^p+1(z, t, y)dt.

C’est donc le noyau de l’opérateur 1

(ν−1)!

d^ν−1 dz^ν−1

Z

M

δ_xG₀(z, x, t)G(z, t, y)dt

. (2.5)

Or l’opérateur _dz^dN(z)

N(z)⁻¹ a précisément pour noyau de Schwartz

− Z

M

δ_xG₀(z, x, t)G(z, t, y)dt (2.6) Ceci se montre comme dans le cas des variétés compactes : si on fixe u ∈ C^∞(Σ, V), on noteu˜ la solution du problème de Dirichlet

(L−z)˜u= 0 surM−Σ

˜

u=u le long deΣ

On a alorsd˜u/dz= (L0−z)⁻¹u˜et la solution du problème de Dirichlet précédent avec pour valeur au bordN(z)f estu(x) =˜ R

ΣG(z, x, y)f(y)dt.Le théorème est maintenant une conséquence des formules (2.3), (2.5) et (2.6). Q.E.D.

2.5 Existence des opérateurs d’ondes.

De ce théorème, nous pouvons en déduire le résultat suivant : Corollaire 2.3 Les opérateurs d’ondes

W^± =s− lim

t→∓∞e^itLe^−itL0P₀

existent et sont complets. Où on a noté P0 le projecteur spectral de L0 sur l’espace correspondant à son spectre absolument continu.

Ce qui montre que l’on peut faire de la théorie de la diffusion sur toutes les variétés riemanniennes complètes. Bien-sûr, il est impossible d’obtenir en toutes généralités des renseignements précis concernant la nature de spectre : est-il ab- solument continu ? Y-a-t-il des valeurs propres dans le spectre continu ? Néan- moins, nous espérons donner ici quelques résultats intéressants.

3 Déterminant et la fonction Xi.

Dans cette partie, nous allons donné un lien entre le déterminant de l’opé- rateur de Dirichlet-to-Neumann et la fonction de décalage spectral introduite par M. Krein. Nous commençons par rappeler les résultats de la théorie de M.

Krein, que nous exposons de façon à ce qu’ils s’appliquent à notre cadre. Nous renvoyons le lecteur au survey très complet de M. Birman, D. Yafaev [B-Y] et aux articles originaux [K1], [K2], [BK].

3.1 La fonction de décalage spectral.

Soit A, A₀ deux opérateurs auto-adjoints sur un espace de Hilbert H. On les supposent positifs. On suppose de plus qu’il y a un ν ∈ IN− {0} tel que l’opérateurV = (A+ 1)^−ν−(A₀+ 1)^−ν est un opérateur à trace. On peut alors introduire la fonction

∆(z) = det IdH+V((A0+ 1)^−ν−z)⁻¹

, z∈ C^| −[0,1].

Où le déterminant est le déterminant de Fredholm d’un opérateur de la forme

"identité plus opérateur à trace". Alors la fonction ∆est holomorphe et on a lim

=z→+∞∆(z) = 1,

pourz ∈ C, z^| 6∈IR₊, ceci permet de définir les fonctionsArg∆(z) et log ∆(z).

On a alors

Proposition 3.1 La limite lim

ε→0⁺

1

π Arg∆(λ+iε) = ˜ξ(λ) existe pour presque toutλ∈IR.

Remarquons que commeV etA₀ sont auto-adjoint, on a∆(z) = ∆(¯z), ainsi on a aussi

ξ(λ) = lim˜

ε→0⁺

1 2π

log ∆(λ+iε) log ∆(λ−iε).

Définition 3.2 La fonction de décalage spectral du couple (A, A₀) est la fonc- tion

ξ(λ, A, A₀) =−ξ˜ (1 +λ)^−ν . M. Krein a montré le théorème suivant

Théorème. 3.3 La fonction de décalage spectral vérifie Z ∞

0

|ξ(λ)| dλ

(1 +λ)^ν+1 <∞ et de plus

Tr (A+ 1)^−ν−(A0+ 1)^−ν

=− Z ∞

0

ξ(λ, A, A0) νdλ (1 +λ)^ν+1. Et si on introduit

G={g : IR−→ C, g^| ∈L¹, Z

IR

(1 +|p|)|ˆg(p)|dp <∞}

alors si f : IR₊ −→ C^| est telle que la fonction (y 7→ f(y^−ν1 −1)) ∈ G alors l’opérateurf(A)−f(A₀)est à trace et on a

Tr (f(A)−f(A₀)) = Z ∞

0

ξ(λ, A, A₀)f⁰(λ)dλ.

De plus, selon le travail de M. Birman, M. Krein, la fonction de décalage spectral est relié à l’opérateur de scattering. De par les hypothèses faites et le principe d’invariance de T. Kato, on sait que les opérateurs d’ondes

W^±(A, A0) =s− lim

t→∓∞e^itAe^−itA0P0,

existent et sont complets. Où on a noté P0 le projecteur spectral de A0 sur l’espace correspondant à son spectre absolument continu. Alors l’opérateur de scattering

S(A, A0) = (W⁻)^∗W⁺

est un opérateur unitaire deImP0, et il commute avec A0; ainsi dans la dé- composition spectrale deA0|Im P₀

ImP0= Z ⊕

H(λ)dµ(λ)

A0= Z

Sp_ac(A₀)

λId_H(λ)dEλ, on peut écrire

S(A, A0) = Z

Sp_ac(A0)

S(λ, A, A0)dEλ,

oùS(λ, A, A0)est un opérateur unitaire deH(λ). Cet opérateur est en fait de la formeidentité plus opérateur à trace. On peut donc définir son déterminant de Fredholm, le résultat de M. Birman et M. Krein est le suivant :

Théorème. 3.4 Pour presque toutλ∈Sp_ac(A0), on a l’égalité detF r S(λ, A, A0) =e−2iπξ(λ,A,A0).

3.2 Lien avec le déterminant de l’opérateur de Dirichlet- to-Neumann.

Notre but est de montrer le résultat suivant :

Théorème. 3.5 Soit(Mⁿ, g)une variété riemannienne complète et L : C₀^∞(M, V)−→C₀^∞(M, V)

un laplacien généralisé comme précédemment ; on note encore L l’opérateur auto-adjoint non-borné qui lui correspond surL²(M, V). Soit Σ⊂M une hy- persurface compacte lisse deM, on noteL0l’opérateur non-borné surL²(M, V) correspondant à l’opérateurLavec les conditions de Dirichlet surΣ, alors pour presque toutλ≥0, on a l’égalité

lim

ε→0⁺

1

π Arg det N(λ+iε) =ξ(λ,L,L0).

Preuve .– Fixons ν un entier strictement supérieur à (n−1)/2, on introduit alors la fonction

Φ(z) = ∆((1 +z)^−ν) = det h

(Id_L2(M,V)+V (L0+ 1)^−ν−(1 +z)^−ν−1i , où

V = (L+ 1)^−ν−(L0+ 1)^−ν. Cette fonction est définie pourz dans l’ouvert de C^| suivant

Ω ={z∈ C,^| (1 +z)^ν 6∈[1,∞[}=C^| − ∪^ν−1_j=0 −1 +ω^j[1,∞[

,

oùω = exp(2iπ/ν). Remarquons que Ω est un ouvert simplement connexe et que d’après la théorie de M. Krein, on a pour presque toutλ≥0:

lim

ε→0⁺

1

π Arg Φ(λ+iε) =ξ(λ,L,L0).

Nous allons exprimer la fonction Φen fonction du déterminant de l’opérateur de Dirichlet-to-Neumann. Pour cela, nous commençons par dériver la fonction Φ

Φ⁰(z)

Φ(z) =−ν(1 +z)^−ν−1 ∆⁰

∆ 1

(1 +z)^ν

. Or, on sait que

∆⁰

∆(ζ) = Tr ((L0+ 1)^−ν−ζ)⁻¹−((L+ 1)^−ν−ζ)⁻¹

= Tr (L0+ 1)^ν(1−ζ(L0+ 1)^ν)⁻¹−(L+ 1)^ν(1−ζ(L+ 1)^ν)⁻¹

= 1

ζ²Tr

1

(L+ 1)^ν−ζ⁻¹ − 1 (L0+ 1)^ν−ζ⁻¹

D’où on obtient la formule : Φ⁰(z)

Φ(z) =−ν(1 +z)^ν−1Tr

1

(L+ 1)^ν−(1 +z)^ν − 1

(L0+ 1)^ν−(1 +z)^ν

. (3.7) On utilise maintenant la décomposition en éléments simples de la fraction

1

X^ν−a^ν = 1 νa^ν−1

ν−1

X

j=0

ω^j(1−ν)

X−ω^ja . (3.8)

Et on arrive à la formule Φ⁰(z)

Φ(z) =−Tr





ν−1

X

j=0

ω^j(1−ν)

1

(L+ 1)−(1 +z)ω^j − 1

(L0+ 1)−(1 +z)ω^j



. On voudrait maintenant différencier cette expression(ν−1)fois. Nous n’avons pas le droit de dériver sous la trace dans cette dernière formule ; cependant on a

le droit de dériver l’expression (3.7) et alors la différentiation de la décomposition en éléments simples (3.8) permet d’obtenir l’identité

d^ν−1 dz^ν−1

Φ⁰(z)

Φ(z) =−(ν−1)! Tr





ν−1

X

j=0

1

((L+ 1)−(1 +z)ω^j)^ν − 1

((L0+ 1)−(1 +z)ω^j)^ν



. Or d’après notre théorème 2.2 , ceci vaut exactement

d^ν dz^ν

ν−1

X

j=0

log detN (1 +z)ω^j−1 . C’est à dire, on a l’identité

d^ν

dz^ν log Φ(z) = d^ν dz^ν

ν−1

X

j=0

log detN((1 +z)ω^j−1).

Par connexité deΩ, on en déduit qu’il existe un polynômeP de degré inférieur àν−1, tel que :

log Φ(z) = log





ν−1

Y

j=0

detN((1 +z)ω^j−1)



+P(z+ 1).

MaintenantP doit vérifier l’identitéP(zω) =P(z)puisque les autres termes de cette identité sont des fonctions de(1 +z)^ν. AinsiP est un polynôme enz^ν de degré inférieur àν−1, c’est donc un polynôme constant. De plus, les identités

Φ(¯z) = ¯Φ(z), et det N((1 + ¯z)ω^j−1) = detN((1 +z)ω^−j−1) assurent queP est une constante réelle. Et donc pour une certaine constante réellec, on a la formule

log Φ(z) = log





ν−1

Y

j=0

detN((1 +z)ω^j−1)



+c.

Comme pour presque toutλ≥0, la limite lim

ε→0⁺

1 2πlog

Φ(λ+iε) Φ(λ−iε)

existe et vautξ(λ,L,L0), on a de même pour la limite

lim

ε→0⁺

1 2πlog





ν−1

Y

j=0

det N((1 +λ+iε)ω^j−1) det N((1 +λ−iε)ω^j−1)



.

Or sij6= 0, le nombre complexe−1 + (1 +λ)ω^j n’est pas dans le spectre deL0, ainsi on a

ε→0limdetN((1 +λ+iε)ω^j−1) = det N((1 +λ)ω^j−1).

Ainsi il reste à la limite lim

ε→0⁺

1 2πlog

detN(λ+iε) detN(λ−iε)

=ξ(λ,L,L₀).

Q.E.D.

4 Déterminant relatif et formule à la Burghelea- Friedlander-Kappeler.

Notre but est ici de relier le déterminant reelatif des opérateurs L et L0

en fonction du déterminant de l’opérateur de Dirichlet-to-Neumann. Comme l’on fait dans le cas des variétés compactes R. Forman et D. Burghelea, L.

Friedlander et T. Kappeler. Une telle formule a récemment été obtenue pour le laplacien surIR² par A. Hassell et S. Zelditch [H-Z]. Nous commençons par rappeler les hypothèses qui permettent, selon W. Müller, [Mu 2], de définir un déterminant relatif.

4.1 Déterminant relatif.

SoitHun espace de Hilbert séparable etA, A0deux opérateurs autoadjoints positifs surH. On suppose :

– Si e^−tA et e^−tA0 sont les semi-groupes de la chaleur associés à A et A0, alors pour toutt >0, l’opérateure^−tA−e^−tA0 est à trace.

– Lorsquet→0⁺, il y a un développement asymptotique de la forme Tr e^−tA−e^−tA0

∼

∞

X

j=0 k(j)

X

k=0

aj,kt^αj(logt)^k,

où{α_j}_jest une suite croissante tendant vers l’infini. De plus, on suppose quea_j,k= 0siα_j = 0et k≥1.

Alors pour tout nombre complexe z de partie réelle strictement négative, on peut définir un déterminant relatif

det (A−z, A0−z).

Ce déterminant est obtenu à partir de la fonction zeta : ζ(s, z) =

Z ∞ 0

Tr e^−tA−e^−tA0

e^tzt^s−1 dt Γ(s).

Ces hypothèses assurent que la fonctions7→ζ(s, z)existe lorsque la partie réelle des est assez grande et qu’elle admet un prolongement méromorphe à C. De^| plus, cette fonction se trouve être holomorphe au voisinage de0, on pose alors

det (A−z, A₀−z) =e^{−∂s∂|s=0ζ(s,z)}.

Ces déterminants ont été définis et étudiés par W. Müller. Dans [Mu 2], l’auteur donnent de nombreux exemples où de tels déterminants apparaissent. Dans un cadre euclidien, ces déterminants relatifs avaient déjà été définis et étudiés par V. Bruneau [Br]. On a alors

Proposition 4.1 La fonction z 7→det (A−z, A0−z) est une fonction holo- morphe sur{z∈ C,^| <z <0}.

4.2 Dans notre cadre.

On suppose toujours que(Mⁿ, g)est une variété riemannienne complète et L : C₀^∞(M, V)−→C₀^∞(M, V)

un laplacien généralisé comme précédemment mais on suppose de plus qu’il véri- fie la propriété de propagation à vitesse finie (2.2) ; on note encoreLl’opérateur auto-adjoint non-borné qui lui correspond surL²(M, V). SoitΣ⊂M une hy- persurface compacte lisse deM, on noteL0l’opérateur non-borné surL²(M, V) correspondant à l’opérateurL avec les conditions de Dirichlet surΣ. Grâce au théorème 3.3, on sait que pour toutt >0, l’opérateure^−tL−e^−tL0 est à trace ; et que

Tr e^−tL−e^−tL0

=−t Z ∞

0

e^−tλξ(λ,L,L₀)dλ.

La seconde hypothèse est vérifiée grâce à un résultat de U. Bunke : dans [B], l’auteur montre que siΩest un voisinage de l’infini ne rencontrant pas Σalors il y a une constante positiveCtelle que lorsque t→0⁺ :

Tr 1Ω e^−tL−e^−tL0 1Ω

=O(e^−Ct).

Ceci est obtenu à partir de la propriété de propagation à vitesse finie et de la formule de Duhamel. Alors grâce au fait que les noyaux de Schwartz des opérateurse^−tL et e^−tL0 admettent des asymptotiques lorsquet →0⁺, qui ne dépendent que de la géométrie locale ; on en déduit que lorsquet → 0⁺ on a l’asymptotique

Tr e^−tL−e^−tL0

∼

∞

X

j=−(n−1)

ajt^j/2. (4.9)

On a mêmea_−(n−1)=lvol∂O/(4π)^(n−1)/2,oùlest la dimension des fibres deV Ceci montre que le déterminant relatifdet (L −z,L0−z)est bien défini. Notre résultat est le suivant

Théorème. 4.2 Il y a un polynôme à coefficients réels,P, de degré inférieur à

n−1 2 tel que

det (L −z,L0−z) =e^P(z)det N(z),

OùN(z)est l’opérateur de Dirichlet-to-Neumann défini dans la deuxième partie.

Preuve .– Ceci découle des résultats précédents. En effet, si ν est un entier ν >(n−1)/2alors on a

ζ(s, z) =− Z ∞

0

s ξ(λ) (λ−z)^s+1dλ.

Ce qui est bien défini si<s > ν. Selon 3.3, nous savons que lorsque<s >3ν ou lorsques=ν alors ceci vaut précisément la trace de l’opérateur

(L −z)^−s−(L0−z)^−s. On peut dériver ceci, et si on dériveν fois on obtient

∂^ν

∂z^νζ(s, z) =− Z ∞

0

s(s+ 1)...(s+ν) ξ(λ)

(λ−z)^s+ν+1dλ, <s > ν.

Or cette intégrale est maintenant absolument uniformément convergente pours de partie réelle positive ou nulle. Et on a donc

d^ν

dz^νlog det (L −z,L0−z) = −∂^ν

∂z^ν

∂

∂s|_s=0+ζ(s, z)

= (ν−1)!

Z ∞ 0

ν ξ(λ) (λ−z)^ν+1dλ

= −(ν−1)! Tr (L −z)^−ν−(L0−z)^−ν . On conclut alors grâce au théorème (2.2) que

d^ν

dz^νdet (L −z,L0−z) = d^ν

dz^ν log detN(z).

Le fait queP soit à coefficients réels découlent des identités suivantes : det (L −z,L0−z) = det (L −¯z,L0−z)¯

detN(z) = detN(¯z).

Q.E.D.

Ceci, nous permet d’affirmer que l’on a le résultat suivant

Corollaire 4.3 La fonction de décalage spectral du couple (L,L0) et le déter- minant relatif vérifient que pour presque toutλ≥0,

ξ(λ,L,L0) = lim

ε→0⁺

1

π Arg det (L −λ−iε,L0−λ−iε).

4.3 Asymptotique pour le déterminant relatif.

Notre but est ici de montrer comment nous pouvons utiliser les résultats de ([B-F-K]) afin d’estimer le polynôme apparaissant dans le théorème (4.2).

Comme dans les articles [B-F-K] et [H-Z], nous commençons par montrer que le déterminant relatif admet un développement asymptotique lorsque|z| tend vers+∞

Proposition 4.4 Si L : C₀^∞(M, V) −→ C₀^∞(M, V) un laplacien généralisé vérifiant la propriété de propagation à vitesse finie, alors lorsque µ→+∞, le logarithme du déterminant relatif admet le développement asymptotique suivant :

log det (L+µ,L0+µ)'

+∞

X

j=−(dim M−1)

πjµ^−j/2.

De plus les coefficientsπj apparaissant dans cette formule ne dépendent que du germe deL près deΣ

Preuve .– On utilise encore le résultat suivant de U. Bunke ([B]) : siΩ est un voisinage de l’infini ne rencontrant pasΣalors il y a une constante positiveC telle que

Tr 1Ω e^−tL−e^−tL0 1Ω

≤e^−Ct. Ceci permet d’écrire la fonction zeta comme une somme

ζ(s,−µ) =ζ_M−Ω(s,−µ) +ζΩ(s,−µ), avec

ζΩ(s,−µ) = Z ∞

0

Tr 1Ω e^−tL−e^−tL0 1Ω

e^−tµt^s−1 dt Γ(s).

L’estimée de U. Bunke assure que la fonction s 7→ζΩ(s,−µ) est une fonction entière sur C. De plus on peut majorer sa dérivée en^| 0 grâce à la formule de Cauchy :

d

dsζΩ(0,−µ)

= Z

|s|=1/2

ζΩ(s,−µ) ds 2iπs²

≤C Z

|s|=1/2

Z ∞ 0

e^−Cte^−tµt^<s−1dt|ds|

Maintenant, il est facile de majorer cette intégrale Z ∞

0

e^−Cte^−tµt^<s−1dt≤ C µ(<s+1)/2e⁻

√

Cµ; On a donc lorsqueµ→+∞,

d

dsζ_Ω(0,−µ)

≤Ce⁻

√

Cµ.

Ceci montre que la dérivée en zéro de la fonctionζ(s,−µ)−ζ_M−Ω(s,−µ)vérifie la même estimée. Or les travaux de ([B-F-K]) montre que lorsque µ → +∞,

la dérivée en zéro de la fonction s 7→ ζ_M−Ω(s,−µ) admet un dévelopement asymptotique

−d

dsζ_M−Ω(0,−µ)'

+∞

X

j=−(dim M−1)

πjµ^−j/2.

De plus les coefficientsπ_j apparaissant dans cette formule ne dépendent que du

germe deLprès deΣ. Q.E.D.

Le déterminant de l’opérateur de Dirichlet-to-Neumann admet lui aussi un tel développement asymptotique, les coefficients du polynôme apparaissant dans le théorème (4.2) sont alors déterminés par ces développements asymptotiques.

Corollaire 4.5 Les coefficients du polynôme apparaissant dans le théorème (4.2) ne dépendent que du germe de l’opérateur près deΣ.

Grâce au calcul fait par Burghelea-Friedlander-Kappeler nous pouvons en dé- duire la généralisation d’un résultat de [B-F-K] pour les surfaces compactes et de [H-Z] pour le plan euclidien.

Corollaire 4.6 Si (M, g) est une surface complète et Σ une courbe compacte plongée dansM, alors pour le laplacien associé à la métrique on a :

det (∆−z,∆0−z) = detN(z).

Il est maintenant intèressant de calculer ce polynôme dans certains cas afin de savoir s’il est toujours nul :

Proposition 4.7 Supposons que sur un voisinage de l’hypersurfaceΣ, l’opéra- teurL soit un produit

L=−∂²

∂r² +A.

Et que les métriques deM et deV respectent cette géométrie, alors

– si la dimension deM est paire, le polynôme apparaissant dans le théorème (4.2) est nul.

– Si la dimension deM est impaire, ce polynôme n’est pas nul.

Preuve.– Grâce, au corollaire (4.5), il suffit de calculer ce polynôme lorsque la variété est un produit riemannienM = IR×Σ,V est le tiré en arrière d’un fibré hermitien surΣetA : C^∞(Σ, V)−→C^∞(Σ, V)est un laplacien généralisé surΣ.

Alors il est facile de calculer la trace de l’opérateure^−tL−e^−tL0, puisque les noyaux de ces opérateurs de la chaleur sont le produit des noyaux corespondant surIR(ouIR− {0}) et surΣ. Mais le noyau de la chaleur surIRest

p(t, x, y) = 1

√4πte^|x−y|

2 4t

et surIR− {0} pour les conditions de Dirichlet en0il est p0(t, x, y) = 1

√4πt

e^|x−y|

2

4t −e^|x+y|

2 4t 1xy>0

;

on obtient donc

Tr e^−tL−e^−tL0

=1

2Tre^−tA. Et donc, on aζ(s,−µ) = ¹₂ζ_A(s,−µ)et donc

det (L+µ,L₀+µ) = 1

2det (A+µ).

Puis diagonalisant l’opérateurAet en séparant les variables, il est facile de calculer explicitement l’opérateur de Dirichlet-to-Neumann :

N(−µ) = 2p A+µ.

Ainsi on a

log detN(−µ) =1

2log det (A+µ) + log 2,ζA(0,−µ).

La valeur en0de la fonctionζs’exprime grâce au développement asymptotique Tr e^−tA∼

∞

X

j=0

ajt^{−(n−1)/2+j}, t→0 +.

On a mêmea0=lvol Σ/(4π)^(n−1)/2,oùlest la dimension des fibres deV. Il est bien connu queζA(0,−µ)s’annule siΣest de dimension impaire, c’est à dire si M est de dimension paire. Puis si cette dimension est paire, doncn= 2p+ 1 est impaire, on a

ζA(0,−µ) =

p

X

j=0

(−1)^p−j (p−j)!ajµ^p−j

qui est bien un polynôme non nul cara0est non nul. Q.E.D.

Ceci montre plutôt que la normalisation choisie ici et dans les autres réfé- rences pour l’opérateur de Dirichlet-to-Neumann n’est pas la bonne, il faudrait diviser cet opérateur par deux. Il serait intéressant de calculer les premiers termes du développement asymptotique des déterminants régularisés pour sa- voir si le polynôme est toujours nul en petite dimension, lorsque l’on normalise convenablement l’opérateur de Dirichlet-to-Neumann.

4.4 Cas du scattering avec obstacle.

Soit O ⊂ M un compact à bord lisse de M, on note Σ le bord de O et Ω =M − O. AlorsL₀ est la somme de deux opérateurs :

L0=LO⊕ LΩ.

OùL_O (resp.LΩ) est l’opérateur associé àLsurO(resp.Ω) avec les conditions de Dirichlet sur le bord. PuisqueOest compact, l’opérateur e^−tLO est un opé- rateur à trace et on peut bien définir le déterminant relatif de(L −z,LΩ−z) et on aura