Etude du Spectre Pour Certains Noyaux sur un Arbre.
FERDAOUSKELLIL(*) - GUYROUSSEAU(**)
ABSTRACT- We study in this paper the spectrum of some kernels acting on a locally finite tree, in particular those associated to an anisotropic random walk on the tree with jumps of length 0, 1 or 2. Such a kernel is a functionRonSSwhereS is the set of vertices of the tree, it acts on`r(S). We always assume the kernelRto be invariant under the action of a groupLof automorphisms almost transitive on S. This work generalizes results of A. FigaÁ Talamanca and T. Steger who deal with homogeneous trees and a fixed groupL, simply transitive onS; it shows the diversity of the spectrum depending on the invariance group.
REÂSUMEÂ- L'objectif de cet article est l'eÂtude du spectre de certains noyaux agissant sur un arbre localement fini, en particulier ceux associeÂs aÁ une marche aleÂatoire sur l'arbre aÁ sauts de longueur 0, 1 ou 2. Un tel noyau est une fonctionRsurSS ouÁSdeÂsigne l'ensemble des sommets de l'arbre; il agit sur`r(S). Nous suppo- serons toujours le noyauRinvariant par un groupeLd'automorphismes presque transitif sur l'arbre. Ce travail geÂneÂralise des reÂsultats de A. FigaÁ Talamanca and T. Steger qui eÂtudient le cas des arbres homogeÁnes et d'un groupeLfixeÂ, simplement transitif surS; il fait ressortir la diversite du spectre selon la nature du groupe d'invariance.
Introduction.
A. FigaÁ-Talamanca, T. Steger ([St] ou [Ft-S]) et K. Aomoto [A] ont les premiers eÂtudie la reÂsolvante d'un noyau anisotrope sur un arbre. Les reÂ- sultats de [Ft-S] sur le spectre sont obtenus pour un noyau symeÂtrique sur
(*) Indirizzo dell'A.: Faculte des sciences de Monastir. DeÂpartement de MatheÂmatiques, 5000 Monastir, Tunisie.
E-mail: kellilferdaous@yahoo.fr
(**) Indirizzo dell'A.: Institut Elie Cartan. Unite mixte de Recherche 7502.
Nancy-UniversiteÂ, CNRS, INRIA. B.P (239), 54506 Vandoeuvre LeÁs Nancy, France.
E-mail: rousseau@iecn.u-nancy.fr
un arbre homogeÁne, invariant par un groupe particulier simplement tran- sitif sur les sommets. Nous continuons cette eÂtude pour un arbre localement fini plus geÂneÂral, et faisons en particulier apparaitre des pheÂnomeÁnes nouveaux lieÂs aux diffeÂrentes possibiliteÂs pour le groupe d'invariance du noyau consideÂreÂ.
On se donne un arbre localement fini X, et la deÂcomposition de son ensembleSde sommets en deux partiesS0etS00selon la parite de la dis- tance. Pours2Son noteS(s;n) la spheÁre de centreset de rayonnformeÂe des sommets aÁ distancendes.
On consideÁre un sous groupeLde Aut (X) qui stabiliseS0etS00et qui est transitif surS0. Alors tout sommet deS0a un nombre fixeq1 de voisins.
On dit que l'arbre estsemi-homogeÁne(resp.homogeÁne) si tout sommet de S00a un nombre fixe`1 de voisins (resp. et siq`).
Unnoyaucomplexe sur l'arbre (ou surS0) est une applicationRdeSS (ou S0S0) dans C. La formule Rf(s)P
t2SR(s;t)f(t) permet de faire opeÂrer ce noyau sur certaines classes de fonctions surS(ouS0).
Le noyau R est suppose invariant par L; i.e. R(l(s);l(t))R(s;t), 8s;t2Set8l2L. SiRest invariant par un groupeLsimplement transitif, (cf. [Ft-S]) on peut identifierRaÁ une fonction surLqui opeÁre par convolution.
Pour eÂtudier le spectre d'un tel noyau on suppose soitR(s;t)0 pour d(s;t)61 (noyau aÁ sauts de longueur 1) soitR(s;t)0 pourd(s;t)60 ou 2 (noyau aÁ sauts de longueur 0 ou 2); ce dernier cas nous permet d'eÂtudier le carreÂR2(s;t)P
u R(s;u)R(u;t) d'un noyau du type preÂceÂdent.
Pour montrer que certains complexes sont hors du spectre, on utilise une geÂneÂralisation du theÂoreÁme de Haagerup prouveÂe en [K-R.1] sous une condition technique (U) surLtoujours veÂrifieÂe siLest discret. Plus preÂ- ciseÂment dans le cas ouÁ L est ferme dans Aut (X) la condition (U) est eÂquivalente aÁ l'unimodularite deL, (cf. [B.K; 3.1]).
Pour un tel noyau, le spectre formel (sans condition de convergence) n'a pas grande signification. En effet on montre au debut du premier para- graphe comment construire des fonctionsz-harmoniquessurSaÁ partir de n'importe quelle fonctionharmonique. On geÂneÂralise ainsi un reÂsultat de J.
M. Cohen et F. Colonna [C-C].
On s'inteÂresse dans la suite du paragraphe 1 au spectre`r;(1r2) d'un noyauRsurSaÁ sauts de longueur 1 invariant par un groupeLtransitif surS0. On suppose connexe le compleÂmentaire du spectre`r deR, ce qui permet d'affirmer que l'expression geÂneÂrique de la reÂsolvante (deÂtermineÂe en [K-R.2]) est valable partout en dehors du spectre. Si 0 est hors du spectre
`rdeR, on montre alors en 1.7 queLstabilise un ensemble d'areÃtes dites
speÂciales(tel que tout sommet deSsoit dans une et une seule areÃte speÂ- ciale), l'arbre est semi-homogeÁne et le noyauRest fortement anisotrope : jR(s;t1)jr>Pn
i2jR(s;ti)jr si s2S;S(s;1) ft1; ;tng et fs;t1g speÂciale.
Sous la condition (U) on a en fait eÂquivalence et l'arbre est alors forceÂment homogeÁne. On geÂneÂralise ainsi des reÂsultats de A. FigaÁ Talamanca et Tim Steger [Ft-S] qui traitent le cas d'un noyauRsymeÂtrique et d'un groupe d'invarianceLparticulier.
Au second paragraphe on eÂtudie les meÃmes questions pour un noyauR0 surS0aÁ sauts de longueur 0 ou 2, et avec un groupe d'invarianceL(transitif surS0) tel que le fixateur de tout sommets2S00est doublement transitif sur l'ensemble de ses voisins. Sous les meÃmes conditions (U) et de connexite du compleÂmentaire du spectre, on obtient au theÂoreÁme 2.6 une condition neÂ- cessaire et suffisante pour queg0(g060) veÂrifiantR0g0(s;s)0 soit en de- hors du spectre `r de R0. On explique aussi en 2.13 un proceÂde de deÂ- termination geÂneÂrale du spectre`2deR0.
SoitRun noyau aÁ valeurs toutes reÂelles ou toutes imaginaires pures, aÁ sauts de longueur 1 et invariant par le meÃme groupe Lqu'aÁ l'alineÂa preÂ- ceÂdent. Alors la restrictionR0deR2aÁS0veÂrifie les conditions preÂceÂdentes (pourr2) et on en deÂduit des preÂcisions sur le spectre`2de ce noyau; en particulier 0 est toujours dans le spectre`2et meÃme le spectre`r;1r2 sous l'hypotheÁse de connexite du compleÂmentaire du spectre`r.
1. Etude du spectre pour certains noyaux surS.
1.1. Un premier reÂsultat consiste aÁ geÂneÂraliser les travaux de J. M.
Cohen et F. Colonna [C-C] qui concernent les arbres homogeÁnes avec un noyau isotrope aÁ sauts de longueur 1:
Soit R un noyau aÁ sauts de longueur 1 sur SS, on dit qu'une fonction f sur S est harmonique (resp. z-harmonique pour z2C) si Df (R I)f 0 (resp. siRf zf).
Pour s0 fixe dans S et vm aÁ distance m de so, on note [s0v0;v1;v2; :::;vm] la geÂodeÂsique joignant s0 aÁ vm. Pour m2, on note R(vm 1)P
u R(vm 1;u) ouÁ la somme porte sur les u tels que d(vm 1;u)1;u6vm 2; on suppose R(vm 1) jamais nul (par exemple R(s;t)>0 sid(s;t)1). Pour z2C, on deÂfinit par reÂcurrence la suite
hk(vm)
k (ouÁ hk(vm) ne deÂpend que de k;z et vm 1) par:
hm(vm)1;hm 1(vm)0;hm 2(vm) 1 z 2
R(vm 1;vm 2)R(vm 1) 1
et
hk(vm) z 2R(vm 1;vm 2)hk(vm 2)hk(vm 1)
R(vm 1)
1;0km 3:
On pose alorsHzf(vm)zmkmP
k0hk(vm)f(vk), pourm0. Par un simple calcul on veÂrifie que:
RHzf(s)zd(s0;s)1Df(s)zHzf(s);8s2S:
En particulier f est harmonique si et seulement siHzf est z-harmo- nique. L'opeÂrateurHzest inversible, son inverse est donne par:
Hz1g(vm)kmX
k0
uk(vm)z kg(vk); 8m0
ouÁum(vm)1;um 1(vm)0;um 2(vm) hm 2(vm) et pour 0km 3, uk(vm)uk(vm 1) R(vm 1;vm 2)uk(vm 2)R(vm 1) 1.
C e reÂsultat concerne ce que l'on peut appeler le spectre formel deR, puisque l'on n'impose aucune condition de convergence aÁfouHzf. Il n'a pas d'inteÂreÃt pour ce qui va nous preÂocuper maintenant c'est aÁ dire l'eÂtude du spectre`2deR. En effet lorsquefest dans`2(S); Hzfn'est presque jamais dans`2(S).
NeÂanmoins pourz 1;(H 1f)(vm)(H 11f)(vm)( 1)mf(vm); ainsi H 1est un opeÂrateur`2(ou plus geÂneÂralement`r) involutif et on veÂrifie fa- cilement qu'il transforme une fonction propre deRpour la valeur propregen une autre fonction propre pour la valeur propre g.
1.2. On consideÁre dans ce paragraphe un groupeLd'automorphismes de l'arbre transitif sur S0 et un noyau R aÁ sauts de longueur 1 (plus preÂciseÂment R(s;t)60,d(s;t)1). On suppose de plus la condition suivante:
9M0= 8u2S; X
s2S
jR(s;u)j M:
On montre alors [K-R.2] (voir aussi [A]), que RdeÂfinit pourr1 un opeÂrateur lineÂaire borne sur`r(S) et que pourg2C;jgj>kRkcvr l'opeÂra- teurRg (g R) 1est deÂfini, plus preÂciseÂment cet opeÂrateur est donne par le noyau suivant:
Rg(s;s) 1
2wg(s)pours2S,
Rg(s;t) 1
2wg(s)jg(xn s;xn 1) jg(x1;x0t) si d(s;t)n1 et si [t;s][x0t;x1 ;xns] est la geÂodeÂsique detaÁs;
ouÁwg(s) est une fonction complexe surSetjg(s;t) une fonction complexe surf(s;t)2SS = d(s;t)1g.
Ces fonctions veÂrifient en outre les relations suivantes:
(1) 8t2S; g2wg(t) P
u=d(u;t)1jg(t;u)R(u;t):
(1 bis) 8t2S; g2wg(t) P
u=d(u;t)1
wg(t)
wg(u)jg(u;t)R(t;u):
(2) 8s;t2S=d(s;t)1 ; jg(s;t) 1 jg(t;s)2wg(t) R(s;t): (3) Rg(s;t)( 1)d(s;t)1R g(s;t):
Autrement dit les fonctionswgetjgsont impaires eng.
1.3. En supposant de plus la condition:
(Cr) Le compleÂmentaire du spectre `r de R est connexe (pour un r;1r2), les relations de 1.2 s'eÂtendent par prolongement analytique surCprive du spectre`rdeR. Les fonctionsRg(s;t) sont holomorphes en g; ainsi les fonctions wg(s) 1
2Rg(s;s) et, pour d(s;t)1;jg(s;t)
2wg(s)Rg(s;t) sont meÂromorphes avec un poÃle en g si et seulement si Rg(s;s)0.
Si 0 n'est pas dans le spectre`r deR, on a d'apreÁs 1.2 (3)R0(s;s)0;
donc, pour touts2S;wg(s) a un poÃle eng0.
PROPOSITION1.4. Sous la condition(Cr)de1.3,soients; t2Stels que d(s; t)1et que wg(s)etwg(t)aient un poÃle eng0, n'appartenant pas au spectre`rdeR. Alors:
1) oujg(s;t)etjg(t;s)ont tous les deux un poÃle engg0
oujg(s;t)etjg(t;s)tendent tous les deux vers 0 quand gtend vers g0.
2) Dans le cas d'un poÃle on a l'eÂquivalence suivante:
jg(s;t) 2wg(s)
R(t;s) et jg(t;s) 2wg(t) R(s;t) : 3) Dans le cas d'un zeÂro, on a l'eÂquivalence suivante:
jg(s;t)R(s;t)
2wg(t) et jg(t;s)R(t;s) 2wg(s):
4) Si u2S veÂrifie d(s;u)2;d(t;u)1et wg(u)a un poÃle eng0, alorsjg(s;t)etjg(t;u)ne peuvent tous les deux avoir un poÃle eng0.
5) Sous les hypotheÁses de4),sijg(s;t)tend vers0et jg(t;u)a un poÃle alorsjg(s;t)jg(t;u)tend vers R(s;t)
R(u;t) quandgtend versg0.
6) Sous les hypotheÁses de4),sijg(s;t)a un poÃle etjg(t;u)tend vers0, alorsjg(s;t)jg(t;u)est eÂquivalent aÁ R(t;u)
R(t;s) wg(s)
wg(u)quandgtend versg0. 7) Si wg(v) a un poÃle en g0, pour tout v, alors g00 et 8s2S;jg(s;t)a un poÃle pour un et un seul voisin t de s.
DEÂMONSTRATION. D'apreÁs les formules (1), (1 bis) et (2) de 1.2, il existe e 1tel que:
jg(s;t) wg(s)
R(t;s) 1e
1R(s;t)R(t;s) wg(s)wg(t) s
" #
;
jg(t;s) wg(t)
R(s;t) 1e
1R(s;t)R(t;s) wg(s)wg(t)
" s #
:
Le comportement de ces fonctions engg0ne deÂpend que dee, et on en deÂduit facilement les reÂsultats 1), 2) et 3).
4) Supposons qu'il y ait deux poÃles, alors:
Rg(s;u) 1
2wg(s)jg(s;t)jg(t;u) jg(t;u) R(t;s) c'est contradictoire avec le fait queRg(s;u) est borneÂe.
5) et 6) se prouvent simplement aÁ partir de 2) et 3).
7) D'apreÁs 1.2.1,g2wg(s) P
t2S(s;1)jg(s;t)R(t;s).
Commewg(s) a un poÃle, la fonctionjg(s;t) a un poÃle pour au moins un t2S(s;1) et en fait un seul d'apreÁs 4), notons let0.
D'apreÁs 1.2.2, 2wg(s)R(t0;s)
jg(t0;s) 1 jg(s;t0) . Donc:
gR(t0;s)hjg(t0;s) 1 jg(s;t0)i
X
t
jg(s;t)R(t;s)
R(t0;s)jg(t0;s) 1X
t6t0
jg(s;t)R(t;s)
et le membre de droite tend vers 0 quandgtend versg0, doncg00: p
REMARQUE 1.5. 1) Si R2 est symeÂtrique reÂel (sur S0 ou S00) alors le spectre deR2agissant sur`2(S0) ou`2(S00) est reÂel (borneÂ). D'apreÁs [K-R.2;
7.2] le spectre`2deRest borne et contenu dans la reÂunion des axes reÂel et imaginaire. Ainsi la condition (C2) de 1.3 est veÂrifieÂe.
2) Supposons queRest aÁ valeurs reÂelles ou imaginaires pures et que le groupeLveÂrifie la condition suivante, (cf. [K-R.2; 5]):
(M)8s;t2S0=d(s;t)2, il existel2Lfixant le milieu de [s;t] tel quel(s)t, alors le noyauR2est reÂel symeÂtrique surS0car sis2S00ett;t02S(s;1) on a R(t;s)R(t0;s) etR(s;t)R(s;t0) doncR2(t;t0)R2(t0;t).
De plus 0 est dans le spectre`2deR(et meÃme le spectre`rsi la condition (Cr) est veÂrifieÂe): sinon, on a vu en 1.3 quewg(s) a un poÃle eng0 ; 8s2S;
d'apreÁs 1.4.7, pour s2S00, il existet2S(s;1) tel que jg(s;t) a un poÃle en g0; il en est de meÃme de jg(s;t0) 8t02S(s;1) d'apreÁs (M) et aussi de jg(t0;s) d'apreÁs 1.4.1; ce qui contredit le reÂsultat 1.4.4.
1.6. Calcul du noyau de Green en 0:(0 suppose hors du spectre`r).
D'apreÁs ce qui preÂceÂde tout sommets2Sa un unique sommet voisins0 tel quejg(s;s0) ait un poÃle en 0, alorsjg(s0;s) a aussi un poÃle et donc (s0)0s.
On dit que l'areÃtefs;s0gestspeÂciale.
On choisits02S0, on notes1s00ets2; ;sq1les autres voisins des0. Les voisins desisontsji; 1j`i1. On suppose encores1i (si)0, donc s11s0ets1i 6s0pour 2iq1.
Sis;t2Savecd(s;t)n, on note [t;s](x0t; ;xns) et alors : Rg(s;t) 1
2wg(s)jg(xn;xn 1) jg(x1;x0):
D'apreÁs 1.4.4 dans le produit desjg(xi;xi 1) deux poÃles ne peuvent se suivre. On peut donc consideÂrer queRgest le produit des quantiteÂs suivantes:
1) ou 1
2wg(s)qui tend vers zeÂro ou 1
2wg(s)jg(s;xn 1) qui tend vers une constante carjg(s;xn 1) a un poÃle;
2) puis des facteurs de la forme:
oujg(xi;xi 1) qui tend vers zeÂro
oujg(xi;xi 1)jg(xi 1;xi 2) qui tend vers une constante non nulle carjg(xi;xi 1) tend vers zeÂro etjg(xi 1;xi 2) a un poÃle.
Ainsi la limite deRg(s;t) est nulle sauf sin2p1;jg(x2p1;x2p) a un poÃle,jg(x2j;x2j 1) tend vers zeÂro et jg(x2j 1;x2j 2) a un poÃle8j;1jp.
Autrement dit les areÃtes (x2j 1;x2j 2) sont speÂciales8j;1jp1 et les autres non.
Dans ce cas d'apreÁs 1.4.5, on obtient aÁ la limite:
R0(s;t)( 1)p1 R(x2p;s)
Yp
k1
R(x2k;x2k 1) R(x2k 2;x2k 1):
PROPOSITION1.7. On suppose veÂrifieÂe la condition(Cr)et que0n'est pas dans le spectre`r(1r <1)deR, alors:
1) Le groupe Llaisse invariant l'ensemble d'areÃtes speÂciales, en particulier X est semi-homogeÁne etLest transitif sur S0et S00.
2) Fixons une areÃte speÂcialefs0;s00gavec s0dans S0et on note:
S(s0;1) fs001 s00; ;s00q1g, S(s00;1) fs01 s0; ;s0`1g et pour s;t 2 S=d(s;t) 1:
R(s;t)p0isit2S0;s2S00etfs;tg L-conjugueÂe aÁfs00i;s0g R(s;t)p00i sit2S00;s2S0etfs;tg L-conjugueÂe aÁfs0i;s00g.
On a alors:
jp001jr>X`1
i2
jp00ijr et jp01jr>Xq1
i2
jp0ijr:
DEÂMONSTRATION. 1) D'apreÁs 1.6 des areÃtes speÂciales sont bien deÂfinies intrinseÂquement parR, leur ensemble est donc stable parLet la transi- tivite deLsurS00deÂcoule de celle surS0; en particulier l'arbre est semi- homogeÁne.
2) Cela reÂsulte des calculs de [K-R.1; 3.5]. p REMARQUE 1.8. Si LveÂrifie la condition 1.7.1 et la condition (U) de [B.K] ou [K-R.1] suivante:
(U) Il existe un sous-ensembleL2 deL, tel que l'applicationl7 !ls0 induise des bijections deL2surS(s0;2) et deL21surS(s0;2),
on peut montrer que l'arbre est neÂcessairement homogeÁne; alors on a vu en [K-R.1; 3.6] que le noyauR0donne par l'expression de 1.6 deÂfinit un opeÂ- rateur`rsi et seulement si les deux conditions finales de 1.7.2 sont veÂrifieÂes.
Sous ces hypotheÁses surL, il y a donc eÂquivalence entre ces deux conditions de 1.7.2 et la non appartenance de 0 au spectre`rdeR.
2. Etude du spectre pour certains noyaux surS0.
2.1. On consideÁre dans tout ce paragraphe un noyau reÂelR0aÁ sauts de longueur 0 ou 2 sur la partie S0 de l'ensemble des sommets d'un arbre localement fini, on impose en fait que:
8s;t2S0; d(s;t)2)R0(s;t)60:
On suppose de plusR0invariant par un groupeLtransitif surS0et sa- tisfaisant aÁ la condition suivante, (cf. [K.R.2; 6]):
(M0) 8s2S00, le fixateur Ls des dans Lest doublement transitif sur S(s;1).
D'apreÁs [K-R.2; 6] le noyauR0est symeÂtrique, son spectre`2 est donc reÂel borneÂ. En particulier le compleÂmentaire de ce spectre est connexe.
Les reÂsultats qui suivent sont encore valables pour le spectre
`r;(1r<1) sous la condition suivante:
(C0r) Le compleÂmentaire du spectre`rdeR0est connexe.
2.2. Sous ces conditions et pourg2C;jgj>kR0kcvr;(r1), on a donne en [K-R.2;6] l'expression de l'opeÂrateur (g R0) 1R0g:
R0g(s;s) 1
2ag(s) et R0g(s;t) 1
2ag(s)hg(xn s;xn 1) hg(x1;x0t), si d(s;t)2n; n1 et si la geÂodeÂsique joignanttaÁsformeÂe d'eÂlements de S0 s'eÂcrit [t;s]0([t;s]\S0)(x0t;x1 ;xns); ouÁ ag(s) est une fonction complexe sur S0 et hg(s;t) une fonction complexe sur f(s;t)2S0S0=d(s;t)2g.
Ces expressions se prolongent analytiquement en g sur C prive du spectre `r de R0. Les fonctions R0g(s;t) sont holomorphes en g; ainsi les fonctions ag(s) 1
2R0g(s;s) et pour d(s;t)2;hg(s;t)2ag(s)R0g(s;t) sont meÂromorphes avec un poÃle engseulement siR0g(s;s)0.
On rappelle qu'en [K-R.2] on a montre que les fonctions ag(s) ne deÂ- pendent pas deset quehg(s;t)hg(t;s) ne deÂpendent que deu2[s;t]\S00. On a choisi s02S0 et note S(s0;1) fs1; ;sq1g et S(s0;2)
fsi;j = 1iq1; 1j`ig avec d(si;si;j)1 et d(s0;si;j)2. On pose alors:
a(g)ag(s)8s2S0ethi(g)hg(si;j;s0)hg(s0;si;j), de plusb00R0(s0;s0) etb0iR0(s0;si;j)R0(si;j;s0).
On a alors obtenu les relations suivantes:
(1) g2a(g)b00q1P
i1`ihi(g)b0i: (2) hi1(g) hi(g)2a(g)
b0i (`i 1)(hi(g) 1):
(3) hi(g) 2a(g)(`i 1)b0i
[2a(g) (`i 1)b0i]24`ib0i2 q
2`ib0i .
PROPOSITION2.3. Soitg02Cnon dans le spectre`rdeR. On suppose queR0g0(s0; s0)0 i:e: a(g)a un poÃle eng0. Alors
1) ouhi(g)a un poÃle eng0 et alorshi(g) 2a(g)
`ib0i .
ouhi(g)tend vers 0 quandgtend versg0et alorshi(g) b0i 2a(g). 2) Pour i6j;hi(g) et hj(g) ne peuvent simutaneÂment avoir des poÃles ethi(g)hj(g)tend vers 0 ou une constante.
3) Il existe i0(unique) tel quehi0(g)ait un poÃle.
4) g0b00(`i0 1)b0i0.
N.B: Dans la suite on numeÂrote de facËon quei01.
DEÂMONSTRATION. 1) D'apreÁs 2.2 (3) on a:
hi(g) 2a(g)(`i 1)b0i 2`ib0i 1
14`i b0i 2a(g) (`i 1)b0i
2
2 s 4
3 5:
Selon le signe on obtient bien les reÂsultats annonceÂs.
2) R0g(si;k;sj;m) 1
2a(g)hg(si;k;s0)hg(s0;sj;m)hi(g)hj(g)
2a(g) . Si hi(g) et hj(g) ont un poÃle, R0g(si;k;sj;m) 2a(g)
`i`jb0ib0j. Ceci contredit le fait que R0g est borneÂe.
3) On a d'apreÁs 2.2 (1) g2a(g)b00P
i `ihi(g)b0i. C omme a(g) a un poÃle eng0, il en est de meÃme de l'un deshi(g). L'unicite deÂcoule de 2).
4) De 2.2 (2) on tire 2a(g)hi1(g)b0i `ihi(g)b0i(`i 1)b0i donc gb00(`i0 1)b0i0hi01(g)b0i0P
i6i0
`ihi(g)b0i. Les derniers termes tendent vers 0 quandgtend versg0, doncg0b00(`i0 1)b0i0: p
2.4. Calcul du noyau de Green.
On se place eng0non dans le spectre`rdeR0et tel queR0g0(s0;s0)0. Le noyau de Green est deÂtermine par la fonction de Greeng0g0(s)R0g0(s;s0).
On vient de voir qu'il existe une classe de sommets ``speÂciaux'' dansS00, chaque sommets02S0a un et un seul voisin speÂcial noteÂs1.
On calcule facilementg0g0aÁ partir de 2.3 (cf. 1.6):
± g0g0(s) est nul sis2S0etd(s;s0) est multiple de 4.
± Sid(s;s0)4n2, on note (x0s0;x1; ;x4n2s) la geÂodeÂsique des0aÁs, alorsg0g0(s) est nul sauf si les sommets (x4k1)0knsont speÂciaux;
dans ce cas pour 0kn 1, on choisitlk2Ltel quelk(x4k2)s0et alorslk(x4k3)sjk avec 2jk q1 et l'on a:
g0g0(s) 1
`1b01 Y
n 1
k0
b0jk
`1b01
! :
LEMME2.5. On suppose qu'il existe une classe de sommets speÂciaux dans S00, stable parLet telle que tout sommet s02S0a un et un seul voisin speÂcial s1. On deÂfinit une fonction g0g0sur S0par les formules ci-dessus et alors:
X
s2S(s0;4n2)
jg0g0(s)jr `1
j`1b01jr X
j2
`1`j b0j
`1b01
" r#n
: En particulier g0g0 2`r(S0)()`r1 1jb01jr>P
j2`jjb0jjr.
DEÂMONSTRATION. C'est la meÃme deÂmonstration que celle de [K-R.1; 3.5]
en tenant compte de ce que pours2S0il y a`1(resp.`j) sommetst2S(s;2) tels que le milieu de [s; t] soit speÂcial (resp. non speÂcial «de typej»). p
THEÂOREÁME2.6. On suppose1r2. Soitg02C:
1) Sig02=spr(R0)et R0g0(s0;s0)0; il existe un (unique) voisin s1de s0tel que
g0b00(`1 1)b01 et `r1 1jb01jr>X
j2
`jjb0jjr et le noyau R0g0(s;s0)est donne par les formules de2.4.
2) ReÂciproquement, si`r1 1jb01jr>P
j2`jjb0jjret si le groupeLd'in- variance veÂrifie la condition(U)de1.8,alorsg0b00(`1 1)b012=spr(R0) et R0g0(s0;s0)0.
REMARQUE. Pour`i1; 8ietb000, on retrouve une partie des reÂ- sultats du § 1 (pour l'arbre forme des sommets deS0); la condition d'inva- riance du noyau est alors exactement celle de [Ft-S].
DEÂMONSTRATION. Cela reÂsulte des reÂsultats preÂceÂdents et de raisonne- ments exactement analogues aÁ ceux de 1.7 et 1.8. Il faut juste noter que, comme1r2; `ijb0ijr`ri 1jb0ijret donc l'ineÂgaliteÂ`ri 1jb0ijr>P
j6i`jjb0jjrne peut avoir lieu que pour un seuli(1iq1) que l'on notei1. p 2.7. On se propose maintenant de deÂterminer des conditions sous lesquelles un complexe g n'est pas dans spr(R0); s'il existe i tel que
`ri 1jb0ijr>P
j6i`jjb0jjron supposeg6g0b00(`i 1)b0i.
D'apreÁs ce qui preÂceÂde pourg2=spr(R0) etg6g0, il existe des nombres complexesa60;(hi(g))1iq1tels queR0gest le noyauH0(s;t) invariant par L, tel que
H0(s;t) 1
2ahin hi1 sid(s;t)2net pour [s;t]0(xn s; ;x0t) quand lj2L veÂrifie lj(xj 1)s0 alors le milieu de [lj(xj 1);lj(xj)] est sij (1ijq1).
On peut noter que forceÂment leshi sont les meÃmes pour lesicorres- pondant aÁ une orbite du fixateurL0des0dansfs1; ;sq1g.
LEMME2.8. Pour un noyau Hsur S0S0, invariant parL, on deÂfinit la norme droite de classe r;kHkdrde Hpar:
kHkrdr X
s2S0
jH(s;s0)jr:
On peut calculer la norme droite du noyauH0abstraitement deÂfini par les formules ci-dessus:
kH0krdr 1 2a
r 1 q1P
i1
`ijhijr 1`ijhijr
1
si cette expression est positive, kH0krdr 1sinon.
DEÂMONSTRATION. On voit facilement sur la deÂfinition ci-dessus deH0que:
kH0krdr 1 2a
rX1
n0
X`i1 `injhi1jr jhinjr
h i
A j2ajr
ouÁ la seconde somme porte sur les (i1; ;in)2 f1; ;q1gn tels que im6im1 pour 1m<n.
On refait le meÃme raisonnement que T. Steger dans [St] ou [Ft.S] sur l'expression abstraite de A, on montre que Aest fini si et seulement si P
q1 i1
`ijhijr
1`ijhijr<1 et queA 1 q1P
i1
`ijhijr 1`ijhijr
1
. p
LEMME2.9. On suppose que1r2et que le groupeLd'invariance satisfait aÁ la condition(U)de1.8alors le noyau H0de2.7est un opeÂrateur borne sur`r(S0)si et seulement siq1P
i1
`ijhijr 1`ijhijr<1.
DEÂMONSTRATION. SiH0est un opeÂrateur borneÂ`r; H0ds0 2`r(S0) or kH0ds0krr kH0krdr par deÂfinition donc d'apreÁs le lemme 2.8 on a bien P
q1 i1
`ijhijr 1`ijhijr<1.
ReÂciproquement supposons que cette condition est veÂrifieÂe. Pour z2C=jzj<1, on deÂfinit (avec les notations de 2.8):
fz(s)zd(s;s0)jH0(s;s0)jr etF(z)X
s2S0
fz(s) 1 2a
r 1 Xq1
i1
z2`ijhijr 1z2`ijhijr
! 1 : Mais par hypotheÁseF(z) n'a pas de poÃle dansfz2C= jzj 1g, le rayon de convergence de la seÂrie deÂfinissantF(z) est strictement plus grand que 1:
Ainsi P
s2S(s0;2n)jH0(s;s0)jrdeÂcroit en exponentielle enn. L'hypotheÁse du theÂoreÁme 2.3 [K-R.1] est donc veÂrifieÂe etH0 est un opeÂrateur borne sur
`r(S0). p
LEMME 2.10. Le noyau H0 abstraitement deÂfini en2.7 est un inverse formel deg R0si et seulement si:
g2ab00Xq1
i1
`ihib0iet 2a
b0i `ihihi1(`i 1), pour tout i; (1iq1).
DEÂMONSTRATION. Cela reÂsulte des eÂquations obtenues dans [K-R.2;6], car dans le cas preÂsent (1) et (1)bis eÂquivalent aÁ la premieÁre relation et (2)
et (2 bis) aÁ la seconde. p
REMARQUE 2.11. Supposons que pour 1i6jq1; `i`j et b0ib0j, alors si hi6hj; hihj est entieÁrement deÂtermine par la seconde eÂquation de 2.10: on ahihj 1
`idonc`ijhijr`jjhjjr`2i rqui est supeÂrieur aÁ 1 sir2. Le deÂbut des calculs de 2.8 montre alors quekH0krdr 1. Ainsi d'apreÁs 2.8, 2.9 et 2.10 siH0est un opeÂrateur borne inverse deg R0et si, pouri6j;(`i;b0i)(`j;b0j) alorshihj.
PROPOSITION2.12. On suppose queLveÂrifie la condition(U)de1.8et que1r2. Alors le compleÂmentaire du spectre`rdeR0eÂventuellement prive deg0b00(`1 1)b01(si`r1 1jb01jr>P
j61`jjb0jjr) est l'image par l'ap- plication g a;(hi) 2ab00q1P
i1`ihib0i de l'ensemble des a;(h)i 2Cq2 veÂrifiant:
a) `ihihi1(`i 1)2a
b0i, pour touti;1iq1.
b) q1P
i1
`ijhijr 1`ijhijr<1.
DEÂMONSTRATION. Cela reÂsulte aussitoÃt de 2.7, 2.9 et 2.10. p COROLLAIRE 2.13. Sous les conditions de 2.12 et pour r2, un g12R (g16g0) est hors du spectre `2 deR0, si et seulement si il existe e(ei)1iq12 f1gq1eta0 2Rtels queg1g(a0)pour:
g(a)2ab00Xq1
i1
2a(`i 1)b0iei
[2a (`i 1)b0i]24`ib0i2 q
2 avec les conditions:
i) dg da
ja0>0:
ii) Si (`i;b0i)(`j;b0j) alorseiej.
DEÂMONSTRATION. Par unicite de l'inverse deg R0et commeR0est reÂel, sigest reÂel, l'inverse deg R0est aÁ coefficients reÂels et doncaet les hi(g) sont reÂels. L'expression degeÂquivaut au a) ci-dessus ([K-R.2; 6]). On a vu que ii) reÂsulte de a) et b) (Remarque 2.11), il reste donc aÁ voir que, modulo ii), i) est eÂquivalent aÁb).
Pourg reÂel, positif, grand, alors a est reÂel positif et les hi sont reÂels positifs et petits donc leseisont tous eÂgaux aÁ 1. On va consideÂrer un nombre ganalogue aÁget notera; hi (1iq1) les nombres correspondants.
Posonsg0gR0gds0 2`r(S0); on a:
ghg0gjg0gi hgg0gjg0gi hR0g0gds0jg0gi
hR0g0gjg0gi g0g(s0) hg0gjR0g0gi g0g(s0)
hg0gjgg0g ds0i g0g(s0)ghg0gjg0gi g0g(s0)g0g(s0):
Pourg6gon obtienthg0gjg0gi g0g(s0) g0g(s0)
g g a a g g 1
2aa.
Par comparaison avec 2.8 (geÂneÂralise de facËon aÁ calculer hg0gjg0gi), on obtient
1
2g g
a a1 Xq1
i1
`ihihi 1`ihihi :
Cette expression se geÂneÂralise par prolongement analytique pour des nombres complexes hors du spectre. On obtient tous les signes possi- bles pour les ei en tournant autour des nombres complexes 1
2(`i 1)b0i
p 1
b0i
`i
p [si (`i;b0i)(`j;b0j) on doit tourner autour du meÃme nombre complexe, on garde donceiej; si (`i;b0i)6(`j;b0j) on veÂrifie que les nombres complexes en question sont diffeÂrents]. A la limite pour g reÂel hors du spectre et pour e veÂrifiant ii) on obtient:
1 2
dg
da1 Xq1
i1
`ijhij2
1`ijhij2, d'ouÁ le reÂsultat. p REMARQUE 2.14. 1) Le corollaire 2.13 rameÁne la deÂtermination du spectre `2 aÁ l'eÂtude des variations des fonctions reÂellesg(a) pour les dif- feÂrents signes desei. Cette eÂtude n'est pas bien difficile mais il n'y a pas de reÂsultat treÁs marquant sans hypotheÁse plus preÂcise sur les`ietb0i.
2) Pour`i1;8ietb000, on retrouve les reÂsultats de A. FigaÁ-Tala- manca et T. Steger pour l'arbre forme des sommets deS0.
2.15. Application aÁ des noyaux sur S.
On consideÁre un noyau R aÁ valeurs toutes reÂelles ou toutes ima- ginaires pures aÁ sauts de longueur 1 sur S (plus preÂciseÂment R(s;t)60()d(s;t)1), invariant par un groupe L transitif sur S0 et veÂrifiant la condition (M0) de 2.1. On pose R0R2jS0 et on reprend les notations preÂceÂdentes (voir aussi [K-R.2; 7]. On a:
b0iR(s0;si)R(si;s0)60 etb00q1P
i1R(s0;si)R(si;s0)q1P
i1b0i.
Supposons que le groupe L satisfait aÁ la conditon (U) et que
`1b012>q1P
i2`ib0i2, alors d'apreÁs 2.6 g0b00(`1 1)b01 n'est pas dans le spectre`2deR0etR0g0(s0;s0)0. Alorsa(g2) a un poÃle eng pg0et on a des estimations deshieng pg0:
h1 2a
`1b01ethib0i
2a pour 2iq1.
En utilisant [K-R.2; 7.2]pg0n'est pas dans le spectre`2deRsig060.
Les relations de [K-R.2; 7.5] se prolongent analytiquement aÁ tout le com- pleÂmentaire du spectre `2 de R et on peut les utiliser pour estimer le comportement des fonctionswetjgenpg0. On obtient les eÂquivalences suivantes quandg2tend versg0.
i) donnewg(s1) g
2`1,wg(si)g
2pour 2iq1 et wg(s0)a g. ii) donnejg(s0;s1) 2a
gR(s1;s0)etjg(s0;si)R(s0;si) g 60 pour 2iq1
et iii) donnejg(s1;s0) g
`1R(s0;s1)etjg(si;s0)gR(si;s0) pour 2iq1. 2a
En particulier enpg0, les fonctionswg(s) pours2S00n'ont pas de poÃle, tandis que pours2S0;wg(s) a un poÃle. De plus tout sommet s2S0 a un voisins1(unique sig060) dansS00tel quejg(s;s1) a un poÃle tandis que pour s2S0;s22S(s;1); jg(s2;s) n'a jamais de poÃle. On peut en fait calculer explicitementR g
p0 (s;t) 8s;t2S, sig060.
On notera la diffeÂrence de comportement avec ce que l'on a observe au
§ 1. En particulier sig00;0 est dans le spectre`2deRmais pas dans celui deR0R2jS0.
REFERENCES
[A] K. AOMOTO,Spectral theory on a free group and algebraic curves, J. Fac.
Sci., Univ. Tokyo,31(1984), pp. 297-317.
[B.K] F. BOUAZIZ-KELLIL, RepreÂsentations spheÂriques des groupes agissant transitivement sur un arbre semi-homogeÁne, Bull. Soc. Math. France,116 (1988), pp. 255-278.
[C-C] J. M. COHEN- F. COLONNA,Eigenfunctions of the laplacien on homoge- neous tree, Contemp. Math.,206(1997), pp. 121-124.
[Ft-S] A. FIGAÁ-TALAMANCA - T. STEGER, Harmonic analysis for anisotropic random walks on homogeneous trees, Memoirs of AMS,531(1994).
[K-R.1] F. KELLIL- G. ROUSSEAU,GeÂneÂralisation d'un theÂoreÁme de Haagerup, Studia Math.,168(3) (2005), pp. 217-227.
[K-R.2] F. KELLIL - G. ROUSSEAU, Transformation de Poisson sur un arbre localement fini, Ann. Math. Blaise Pascal,12(2005), pp. 91-116.
[St] T. STEGER, Harmonic analysis for an anisotropic random walk on a homogeneous tree, Thesis, Washington Univ., St. Louis, 1985.
Manoscritto pervenuto in redazione il 20 luglio 2006.