Opérateurs invariants sur certains immeubles affines de rang 2

(1)

ANNALES

DE LA FACULTÉ DES SCIENCES

Mathématiques

FERDAOUSKELLIL, GUYROUSSEAU

Opérateurs invariants sur certains immeubles affines de rang 2

Tome XVI, n^o3 (2007), p. 591-610.

<http://afst.cedram.org/item?id=AFST_2007_6_16_3_591_0>

L’accès aux articles de la revue « Annales de la faculté des sciences de Toulouse Mathématiques » (http://afst.cedram.org/), implique l’ac- cord avec les conditions générales d’utilisation (http://afst.cedram.org/

legal/). Toute reproduction en tout ou partie cet article sous quelque forme que ce soit pour tout usage autre que l’utilisation à fin strictement person- nelle du copiste est constitutive d’une infraction pénale. Toute copie ou im- pression de ce fichier doit contenir la présente mention de copyright.

cedram

Article mis en ligne dans le cadre du

(2)

pp. 591–610

Op´ erateurs invariants sur certains immeubles aﬃnes de rang 2

⁽^∗⁾

Ferdaous Kellil⁽¹⁾, Guy Rousseau⁽²⁾

R^´ESUM ´E.— On considère un immeuble ∆ de typeA2 ou B2, différents sous-ensemblesSde l’ensembleSdes sommets de ∆ et différents groupes Gd’automorphismes de ∆, très fortement transitifs sur ∆. On montre que l’algèbre des opérateursG-invariants agissant sur l’espace des fonctions surS est souvent non commutative (contrairement aux résultats classiques). Dans certains cas on décrit sa structure et on détermine ses fonctions radiales propres. On en déduit que la conjecture d’Helgason n’est pas toujours vérifiée dans ce cadre.

ABSTRACT.— We consider a building ∆ of typeA2orB2, different sub- setsSof the setSof vertices in ∆ and different automorphism groupsG, very strongly transitive on ∆. We prove that the algebra ofG-invariant operators acting on the space of functions onSis often not commutative (contrarily to the classical results). In some cases we describe its structure, determine its radial eigunfunctions and deduce that the Helgason conjecture is not verified in this context.

Introduction

Si G est un groupe réductif sur un corps local non archimédien et U en est un«bon»sous-groupe compact ouvert alors l’algèbre de convolution H(G, U), des fonctions complexes bi-U-invariantes à support compact sur G est commutative, comme l’a montré Ichiro Satake [S 63]. Les fonctions U-invariantes surG, qui sont fonctions propres deH(G, U) ont été l’objet de nombreux travaux d’analyse harmonique, en particulier celles qui sont bi-U-invariantes sont les fonctions sphériques zonales [S 63], [McD 71].

(∗) Re¸cu le 12 septembre 2005, accept´e le 14 septembre 2006.

(1) Département de Mathématiques, Faculté des sciences de Monastir, 5000 Monastir, Tunisie.

kellilferdaous@yahoo.fr

(2) Institut Elie Cartan, UMR 7502, Nancy-Universit´e, CNRS, INRIA, 54506 Vandoeuvre-les-Nancy, France.

Guy.Rousseau@iecn.u-nancy.fr

(3)

Mais G/U s’identifie à une partie S de l’ensemble S des sommets de l’immeuble de Bruhat-Tits ∆ deG. Les fonctionsU-invariantes surGsont des fonctions surSetH(G, U) opère sur ces fonctions. On va donc se placer dans un cadre plus abstrait.

Soit ∆ un immeuble épais localement fini et S un sous ensemble de l’ensembleSde ses sommets. On suppose qu’il existe un groupeGd’automorphismes de ∆ qui stabilise S et agit «très fortement transitivement» sur

∆. Un opérateur K est une fonction «localement finie» sur S× S. Ces opérateurs forment une algèbre qui agit sur l’espace des fonctions surS (cf.

1.1). On s’intéresse à l’algèbre O des opérateurs G-invariants,i.e.vérifiant K(gu, gv) =K(u, v), ∀g∈G, ∀u, v ∈ S.Si on suppose Gtransitif sur S alors un tel opérateur s’identifie à une fonction à support fini surG/Ksoù Ksest le fixateur dansGd’un sommetsdeS.

Ce point de vue a été adopté dans plusieurs articles antérieurs [C 01], [CM 94], [CW 04], [GL 99], [MZ 00] et [MZ 02]. Mais ici on va étudier, apparemment pour la première fois, le cas où l’algèbre O d’opérateurs est non commutative. Plus précisément on considère un immeuble affine ∆ de type A2 ou B2, différents ensembles S de sommets et différents groupes G très fortement transitifs sur ∆. On va étudier la commutativité deO, et pour certains cas, élucider précisément sa structure et déterminer ses fonctions radiales propres.

Au premier paragraphe on prend ∆ de type A2 et on étudie l’algèbre Oi des opérateurs sur l’ensemble Si des sommets de type i invariants par un groupeG(très fortement transitif) stabilisantSi, puis l’algèbreO1,2des opérateurs surS1∪ S2, invariants parG, stabilisantS1∪ S2 et transitif sur S1∪ S2. On détermine entièrement la structure de ces deux algèbres.

Au second paragraphe, on détermine la dimension de l’ensemble des fonctions propres pourOi puis pourO1,2qui sont de plus radiales, c’est-à- dire invariantes par le sous-groupe Ks fixateur d’un sommets de S. Cela nous permet de montrer que la transformation de Poisson qui à une mesure additive finie sur la frontière de ∆ associe une fonction propre de Oi (ou O1,2) ne peut pas toujours être bijective : la conjecture d’Helgason n’est pas vérifiée dans ce cas.

Au troisi`eme paragraphe, on se place dans le cas o`u ∆ est de typeB2

et le groupeGstabilise les types. On détermine entièrement la structure de l’algèbreO0,2des opérateurs surS0∪ S2puis de l’algèbreO1des opérateurs surS1 invariants par un tel groupe.

(4)

Au dernier paragraphe, on compare les r´esultats obtenus avec les r´esultats classiques de Satake. On montre en particulier en quoiKsn’est pas toujours un«bon» sous-groupe.

1. Op´erateurs sur un immeuble de type A2

1.1. Notations

Considérons un immeuble épais ∆ de typeA2,et d’ordreq, comme défini par exemple dans [MZ 00 ], voir aussi [R 89]. On note S l’ensemble de ses sommets etC l’ensemble de ses chambres. Désignons par τ :S →Z/3Z la fonction type. Pouri∈Z/3Z, on noteSi l’ensemble des sommets de type i. Chaque chambre contient un et un seul sommet de chaque type. Un appartement de ∆ peut s’identifier àR²pavé par des triangles équilatéraux qui sont les chambres de cet appartement. Une cloison est une arête d’une chambre, son type est le type du sommet opposé; elle est contenue dansq+1 chambres (la valenceq ne dépend pas du type). Une galerie de longueurn est une suite C0, C1, ..., Cn de chambres telles queCi∩Ci−1 contienne une cloison, son type est la suite des types de cesncloisons.

Soit A un appartement, x un sommet de A et C une chambre de Acontenantx, il existe un unique système de coordonnées sur l’appartement Atel quex=x0,0, S ∩C={x0,0, x1,0, x0,1}et sii=τ(x0,0) alorsτ(x1,0) = i+1 etτ(x0,1) =i−1. Alors les sommets deAsont indexés parZ², τ(xj,k)≡ i+j−k(modulo3) et{xj,k / j, k∈[0,+∞[}est le quartierQx,C (sector) deAde sommetxcontenantC.

Pour j, k ∈ N, on note Vj,k(x) l’ensemble des points xj,k associés aux différents choix de A et C tels que x∈C ⊂A. L’ensemble S est réunion disjointe desVj,k(x).

Un groupeGd’automorphismes de ∆ est dit«très fortement transitif» si le sous groupe G0 de G formé des éléments conservant les types agit transitivement sur les paires (A, C) oùCest une chambre de l’appartement A. Alors, pourx∈ S, lesVj,k(x) sont les orbites dansS du groupeG0xdes

´

el´ements deG0 ﬁxantx.

Un opérateurK est une fonction surS × S. On ne considérera que des fonctions localement finiesi.e.telles que pour toutu∈ S,{v∈ S/K(u, v)= 0} est fini. Le produit des opérateurs K, K est donné parK∗K(s, t) =

u

K(s, u)K(u, t). Un tel op´erateur agit sur les fonctions par (K∗f)(s) =

(5)

u

K(s, u)f(u). On s’intéresse aux opérateurs (localement finis) invariants par différents groupes très fortement transitifs.

On définit des opérateurs K_j,kⁱ sur S × S (pour i∈ Z/3Z et j, k ∈N) par :

K_j,kⁱ (u, v) =

1 si τ(u) =i et v∈Vj,k(u)

0 sinon

Le terme dominantde l’op´erateur

C_j,kⁱ K_j,kⁱ (non nul mais avec des constantes C_j,kⁱ presque toutes nulles) est

j+k=N

C_j,kⁱ K_j,kⁱ où N = max{j+ k / C_j,kⁱ = 0}estle degré total de l’opérateur.

On considère un groupeGtrès fortement transitif et conservant les types, on montre facilement que l’algèbre O des opérateurs G−invariants admet comme base lesK_j,kⁱ (i∈Z/3Zetj, k∈N). On peut définir cette algèbreO même en l’absence d’un tel groupeG.

Proposition 1.1. — 1)K_j,kⁱ K_m,n^l = 0sil≡i+j−k modulo(3).

2) Pourl ≡i+j−k (modulo 3), le terme dominant de K_j,kⁱ K_m,n^l est K_j+m,k+nⁱ .

3) L’algèbreOest engendrée par les opérateursK_0,0ⁱ , K_0,1ⁱ etK_1,0ⁱ pour i∈Z/3Z. Elle n’est pas commutative.

D´emonstration. — La premi`ere assertion est claire. En particulier on a K_1,0⁰ K_1,0² = 0 et K_1,0² K_1,0⁰ = 0. Par ailleurs, on remarque que, lorsque le produit est non nul, le terme dominant dansK_j,kⁱ K0,1^l (resp. K_j,kⁱ K1,0^l ) est K_j,k+1ⁱ (resp. K_j+1,kⁱ ). Par un raisonnement par r´ecurrence on obtient alors 2) et 3).

Les opérateursL1=K_1,0⁰ +K_1,0¹ +K_1,0² etL2=K_0,1⁰ +K_0,1¹ +K_0,1² sont (à une constante multiplicative près) les opérateurs de Laplace considérés par Mantero et Zappa [MZ 00], ils commutent donc entre eux. SiGest un groupe très fortement transitif, transitif surS et permutant circulairement les types, l’algèbre Ocirc des opérateurs G−invariants est engendr´ee par L1 et L2; c’est une algèbre (commutative) de polynômes , elle est égale à C[L1, L2], cf.[MZ 00 ].

SiT est un opérateur et sii, j∈Z/3Z, on définit l’opérateuri|T|j par :

i|T|j(u, v) =

T(u, v) si τ(u) =i et τ(v) =j

0 sinon

(6)

En particulieri|L1|j=K_1,0ⁱ sij=i+1 (0 sinon) eti|L2|j =K_0,1ⁱ sij =i−1 (0 sinon).

1.2. Op´erateurs sur Si

Les opérateurs surSisont considérés comme des opérateurs surSnuls en dehors deSi×Si. On considère l’algèbreOi des opérateurs surSi invariants par un groupe G très fortement transitif et stabilisant Si; c’est la sous- algèbre de O de base les K_j,kⁱ pour j ≡ k (modulo 3). On peut définir cette algèbreOimême en l’absence d’un tel groupeG. On vérifie facilement grâce à la proposition 1.1, qu’elle est engendrée par K0,0ⁱ (identité surSi), K_1,1ⁱ , K_3,0ⁱ etK_0,3ⁱ . NotonsXi= i|L1L2|i, Yi= i|L³₁|i etZi = i|L³₂|i.

Théorème 1.2. — L’algèbreOides opérateurs invariants surSiest une algèbre commutative :Oi=C[Xi, Yi, Zi]avec pour seule relationX_i³=YiZi. De plus une base de Oi est constituée desX_i^mY_iⁿ etX_i^mZ_iⁿ pourm, n∈N.

D´emonstration. — Comme un sommet de typei a 1 +q+q² voisins de typei+ 1 (oui−1)(cf.[MZ 00], on voit facilement que

i|L1L2|i=K_1,1ⁱ + (1 +q+q²)K_0,0ⁱ .

i|L³₁|i =K_3,0ⁱ + (2q+ 1)K_1,1ⁱ + (q+ 1)(1 +q+q²)K_0,0ⁱ .

i|L³2|i =K_0,3ⁱ + (2q+ 1)K_1,1ⁱ + (q+ 1)(1 +q+q²)K_0,0ⁱ .

Comme les op´erateurs L1 et L2 commutent il en est de mˆeme pour Xi, Yi

et Zi et on a X_i³ = YiZi. De plus le terme dominant dans X_i^mY_i^p est K_m+3p,mⁱ , ainsi les opérateurs Xi et Yi sont des variables algébriquement indépendantes et on a les résultats énoncés.

1.3. Op´erateurs sur S1∪ S2

On considère des opérateurs surS1∪ S2, donc nuls en dehors de (S1∪ S2)². On note O1,2 l’algèbre de ces opérateurs qui sont invariants par un groupe Gtrès fortement transitif, stabilisant S1∪ S2 (doncS0) et transitif surS1∪ S2.

L’algèbre des opérateurs surS1∪S2invariants parG0est la sous algèbre de O de base les K_j,k¹ , avec j ≡k ou j ≡k+ 1(modulo 3) et K_l,m² , avec l≡moul≡m−1(modulo3). MaisGest engendré parG0 et un élément σ qui stabilise un triplet x ∈ C ⊂ A (où xest de type 0) et qui échange les sommets de type 1 et 2 de C. Alorsσ transforme K_j,k¹ en K_k,j² . Donc

(7)

l’algèbre O1,2admet pour base lesK_j,k¹ +K_k,j² pourj≡kouj≡k+ 1. On peut ainsi définir cette algèbre même en l’absence du groupeG.

On noteX=X1+X2 , Y =Y1+Z2 etZ=Z1+Y2.

La sous-algèbre C[X, Y, Z] de O1,2 est formée d’opérateurs conservant les types. Elle est isomorphe (par restriction) à C[X1, Y1, Z1] = O1 ou C[X2, Y2, Z2] =O2.

On d´eﬁnitL=K_1,0¹ +K_0,1² etM = (q+ 1)L+K_0,2¹ +K_2,0² . On a : L= 1|L1|2+ 2|L2|1 etM = 2|L²1|1+ 1|L²2|2.

Théorème 1.3. —O1,2 est une algèbre non commutative engendrée par LetM. On aO1,2=C[X, Y, Z]⊕LC[X, Y, Z]⊕(⊕p0CM Y^p). La structure multiplicative est donnée par les relations :

L²=X;LM=Y;M L=Z;M²=L⁴=X² XL=LX;Y L=LZ;ZL=M X =LY et

XM=LY;Y M =M Z =LX²;ZM =M Y.

Démonstration. — Les derni`eres relations sont faciles à vérifier, en particulier X, Y et Z s’expriment en fonction de L et M. D’après la proposition 1.1 on détermine les termes dominants des monômes suivants en L, M, X, Y, Z :

K_n,n+3p¹ +K_n+3p,n² pourXⁿY^p,K_n+3p,n¹ +K_n,n+3p² pour XⁿZ^p K_0,3p+2¹ +K_3p+2,0² pourM Y^p, K_n+1,n+3p¹ +K_n+3p,n+1² pour LXⁿY^p et Kn+3p+1,n¹ +Kn,n+3p+1² pourLXⁿZ^p.

Ainsi ces monômes forment une base deO1,2et le théorème est démontré.

2. Fonctions propres radiales pour Oi etO1,2

2.1. Noyau de Poisson et r´esultats de Mantero et Zappa

On considère tous les quartiers de tous les appartements de l’immeuble et la relation d’équivalence sur ces quartiers définie parQ∼Q ⇔ Q∩Qcontient un sous-quartier. L’ensemble quotient Ω est la frontière de l’immeuble cf.[MZ 00].

(8)

Notons H(Ω) l’espace des fonctions localement constantes sur Ω, son espace dual H(Ω) est l’ensemble des mesures additives ﬁnies sur Ω, (cf.

[MZ 00]).

On choisit un sommetx0, une chambreCet un appartementAtels que x0 ∈C ⊂A. On noteω la classe d’´equivalence du quartier Qx₀,C associ´e.

Le sous-groupe des éléments de G qui fixent (point par point) un sous- quartier (quelconque) de Qx₀,C est noté Gω. Si α = (a1, a2, a3) ∈ (C^∗)³ vérifiea1a2a3= 1, Mantero et Zappa construisent (par des rétractions) une fonctionPα^x⁰(−, ω) sur S telle quePα^x⁰(xm,n, ω) =a^m1 a⁻₃ⁿ et telle que Pα^x⁰

est invariante parGω. Cette fonction est propre pourL1 etL2 : L1Pα^x⁰ = γ1(α)P_α^x⁰ , L2P_α^x⁰ = γ2(α)P_α^x⁰ avec γ1(α) = a1+qa2+q²a3 et γ2(α) = a⁻₃¹+qa⁻₂¹+q²a⁻₁¹ et tout couple (γ1, γ2)∈C² est ainsi obtenu, [MZ 00].

On va considérer ici des fonctions propres pour certains opérateurs qui sont de plus invariantes par le sous-groupeKs deGfixateur d’un sommet s(et non plus parGω). Ces fonctions sont précisément celles qui sont constantes sur les ensemblesVj,k(s), on peut aussi les qualifier des−radiales;

ceci permet de les définir même en l’absence d’un groupeGtrès fortement transitif.

2.2. Fonctions propres radiales pour Oi

On noteFsⁱ(xi, yi, zi) l’ensemble des fonctionsKs−invariantes surSi, qui sont propres pourOi : plus précisémentXif =xif, Yif =yif etZif =zif pour (xi, yi, zi)∈C³ vérifiantx³_i =yizi.

Remarque 2.1. — 1) Soit f une fonction sur S invariante par Ks et propre de L1 (respectivement de L2) pour la valeur propre γ1 (resp. γ2).

Alorsf_|_S

i est propre pourXi, Yi et Zi pour les valeurs propres respectives γ1γ2, γ₁³, γ₂³; (carXi= i|L1L2|i, Yi= i|L³1|i, Zi= i|L³2|i).

2)On veut trouver les conditions surγ1, γ2pour quef_|_Si ∈ Fsⁱ(xi, yi, zi).

Cela revient `a r´esoudrexi=γ1γ2, yi=γ₁³, zi =γ₂³.

Pouryi = 0 ouzi = 0; en r´esolvant yi =γ1³ on a 3 choix pourγ1 et 3 choix pourγ2en résolvant zi=γ³₂. Et commexi=γ1γ2on a alors 3 choix pourγ1, γ2vérifiant les trois équations en même temps et qui correspondent

`

a (γ1, γ2) ou (ζγ1, ζγ2) ou encore (ζγ1, ζγ2), (avecζ= ⁻₂¹+i^√₂³).

Pouryi= 0 etzi= 0 on a xi= 0 etγ1=γ2= 0.

(9)

Proposition 2.2. — 1)dimFsⁱ(xi, yi, zi)1 si s∈ Si. 2)dimFsⁱ(xi, yi, zi)2 si s∈ Sj, j=i.

Démonstration. — Soit f^s ∈ Fsⁱ(xi, yi, zi) alors f^s est constante sur Vj,k(s). Notons f^s(u) = f_j,k^s si u ∈ Vj,k(s). Par un raisonnement par récurrence sur n =j+k et en utilisant les équationsXif^s(u) = xif^s(u), Yif^s(u) =yif^s(u) etZif^s(u) =zif^s(u), on montre que lesf_j,k^s se déterminent d’une fa¸con linéaire en fonction de :





f_0,0^s si s∈ Si

f_0,1^s et f_2,0^s si s∈ Si+1

f_1,0^s et f_0,2^s si s∈ Si−1

Proposition 2.3. — 1)dimFsⁱ(xi, yi, zi)1 sis∈ Si ous∈ Sj, j= i et(yi= 0 ouzi= 0).

2)dimFsⁱ(xi, yi, zi)2 sis∈ Sj, j=i et (xi=yi=zi= 0).

Démonstration. — D’apr`es la remarque ci-dessus et les résultats rappelés dans la sous-section 2.1, il existeαtel queP_α^ssoit propre pourXi, Yi, Zi, L1

etL2 avec les valeurs propresxi, yi, zi, γ1 etγ2 (si on ﬁxeωcomme en 2.1).

Notons Pi = P_α^s(., ω)|S_i et f_i^s(t) =

Ks

Pi(kt, ω)dk. Ainsi la fonction f_i^s est propre pourXi, Yi, Zi avec les mˆemes valeurs propres, elle est de plus Ks−invariante. Notonsj =τ(s).

1) Sij=i , P_α^s(s, ω) = 1 doncf_i^s(s) = 1= 0. AinsidimFsⁱ(xi, yi, zi)1.

2) Supposons quej =i et (pour ﬁxer les id´ees)i = 1. Notonss1 ∈ S1

un sommet à distance 1 des et s₁ un sommet deS1 tel que le type de la galerie minimale tendue de s à s₁ soit (j,1). On suppose s1 et s₁ dans le même quartier de sommets.

Supposonsj = 2. On a2|L2|1=K_0,1² , 2|L²1|1=K_2,0² + (q+ 1)2|L2|1 et P_α^s(s, ω) = 1. Par suite f₁^s(s1) =_1+q+q^γ² 2 etf₁^s(s₁) =^γ_q²¹2⁻(1+q+q^(q+1)γ²²).

Sij= 0 les résultats sont les mêmes en échangeantγ1 et γ2.

Pouryi = 0 ouzi = 0, d’apr`es la remarque ci-dessusγ1 ouγ2n’est pas nul, doncf₁^sn’est pas nul et la dimension est donc bien sup´erieure ou ´egale

` a 1.

(10)

3) Supposons toujoursj =i= 1 etj = 2. Si γ2 ∈C^∗ (resp. γ1 ∈C^∗), on note g0,γ2 = _γ¹

2P1 (resp. gγ1,0 = _γ¹2 1

P1) où P1 est définie comme ci- dessus pour γ1 = 0 et γ2 (resp. γ2 = 0 et γ1). En moyennant parKs on obtient des fonctionsf0,γ2 etfγ1,0telles quef0,γ2(s1) = _1+q+q¹ 2, f0,γ2(s₁) =

−(q+1)

q²(1+q+q²), fγ₁,0(s1) = 0 et fγ₁,0(s₁) = _q2(1+q+q¹ ²). D’apr`es la d´emonstration de la proposition 2.2 une fonctionKs−invariante propre pourX1, Y1

et Z1 est déterminée de fa¸con polynômiale en fonction de ses valeurs ens1

ets₁ et des valeurs propresx1, y1etz1. En passant à la limite pourγ2→0 et γ1 → 0 on obtient deux fonctions f0,∗ et f_∗,0 Ks−invariantes, propres pour X1, Y1 et Z1 et linéairement indépendantes. La dimension est donc bien supérieure ou égale à 2.

Le casj= 0 se traite de la mˆeme mani`ere.

Th´eor`eme 2.4. — 1) dimFsⁱ(xi, yi, zi) = 1 si s ∈ Si ou s ∈ Sj, j = i et(yi= 0 ouzi= 0).

2)dimFsⁱ(xi, yi, zi) = 2 sis∈ Sj, j=i et(xi=yi=zi= 0).

D´emonstration. — En utilisant la proposition 2.2 et la proposition 2.3, on obtient le r´esultat sis∈ Si ou sis∈ Sj, j=i et (xi=yi=zi= 0).

Soits∈Sj, j=iet (pour ﬁxer les id´ees)i= 1.

Supposons j = 2. Avec les notations de la proposition 2.2, pour u ∈ V0,1(s), v∈V2,0(s) etw∈V1,2(s), on a :

(1) X1f^s(u) =x1f_0,1^s = (q+ 1)q³f_1,2^s + (q+ 1)q²f_2,0^s + (1 + 2q+ 2q²)f_0,1^s . (2) Y1f^s(u) =y1f_0,1^s = (q+1)q⁵f_3,1^s +q⁴f_2,0^s +(2q+1)x1f_0,1^s −q(1+q+q²)f_0,1^s . (3) Z1f^s(u) =z1f0,1^s =q⁶f0,4^s + (q+ 1)q³(3q+ 1)f1,2^s + (2q+ 1)(q+ 1)q²f2,0^s +

+(q+ 1)(1 + 2q+ 3q²)f_0,1^s .

(4) X1f^s(v) =x1f_2,0^s = (q+1)q³f_3,1^s +(q+1)q²f_1,2^s +(2q+1)qf_2,0^s +(1+q)f_0,1^s . (5) Z1f^s(v) =z1f_2,0^s = (q+ 1)q⁵f_2,3^s + (q+ 1)(2q+ 1)q³f_3,1^s + 3q³(q+ 1)f_1,2^s +

+3q²(q+ 1)f_2,0^s + (1 + 3q+ 3q²)f_0,1^s .

(6) X1f^s(w) =x1f_1,2^s =q³f_0,4^s +q⁴f_2,3^s +q³f_3,1^s +q(3q+ 1)f_1,2^s +qf_2,0^s +f_0,1^s . Par un simple calcul on obtient :

(1) f_0,1^s [y1−(q+ 1)x1] =x1q²f_2,0^s

(11)

(à l’équation (2) ajouterqfois l’équation (1) pour obtenirq²(4).)

(2) f_0,1^s [(q+1)z1−(2q²+2q+1)x1]+q²f_2,0^s [z1−(q+1)x1] = (q+1)q³x1f_1,2^s . (car (q+1).(3)−q³(q+1).(6)+q².(5)−q²(q+1).(4) donne (1+2q+2q²).(1)).

On voit alors que si :

1) x1= 0 et commex1=y1z1, y1= 0 etz1= 0. Alorsf_2,0^s se d´etermine d’une fa¸con unique en fonction def_0,1^s . On applique la proposition 2.2 et on obtient dimFs¹(x1, y1, z1)1.

2) x1= 0, y1= 0 alorsf0,1^s = 0 et dimFs¹(0, y1,0)1.

3) x1= 0, z1= 0 alorsf_2,0^s =−^q+1_q2 f_0,1^s et dimFs¹(0,0, z1)1.

On applique alors la proposition 2.3, on obtient le r´esultat.

Le casj = 0 s’obtient par un raisonnement analogue.

2.3. Fonctions propres radiales pour O1,2

Pours∈ S, on veut déterminer les fonctions invariantes parKspropres pour les opérateurs deO1,2opérant surS1∪ S2.

Remarque 2.5. — 1) Si f est propre pour L et M alors elle est propre pour les op´erateurs de O1,2. D’autre part comme L⁴ = M², pour qu’une fonction invariante parKssoit propre pourLetM pour respectivement les valeurs propresλet µil faut queλ⁴=µ².

2) Pourf une fonction surS, invariante parKset propre pourL1(resp.

L2) pour les valeurs propresγ1(resp. γ2), notonsf_|_S1 =f1 etf_|_S2 =f2. On a alors :

L(f_|_S1) =γ2f_|_S2 =γ2f2 , L(f_|_S2) =γ1f_|_S1 =γ1f1

M(f_|_S1) =γ²₁f_|_S2 =γ₁²f2 , M(f_|_S2) =γ₂²f_|_S1 =γ²₂f1.

On veut d´eterminer les conditions sur γ1, γ2 (γ1, γ2 = 0) pour que

√γ1f1+6√

γ2f2o`u6=±1 soit propre pourLet M. On a : L(√

γ1f1+6√

γ2f2) =γ2√

γ1f2+6γ1√

γ2f1=6√ γ2√

γ1[√

γ1f1+6√ γ2f2].

M(√

γ1f1+6√

γ2f2) =γ₁²√

γ1f2+6γ²₂√ γ2f1 . La fonction√

γ1f1+6√

γ2f2 est donc propre pourL, elle l’est pourM (avec valeur propre ^γ√²²^√γ1^γ²) si et seulement si √^γγ²³1 =γ₁²√

γ1 doncγ₂³=γ₁³, c’est `a dire γ2√

γ2=ηγ1√

γ1 o`uη=±1.

(12)

Notonsλ=6√ γ2√

γ1 valeur propre pourLet µ=6^γ²²√^√γ^γ₁² =6√γ^γ₂³²√γ₁ =

γ₂³

λ valeur propre pourM. On a en particulierγ₁³=γ₂³=λµ.

Pourλ, µdonn´es, on a six choix pour√

γ1tel queγ₁³=λµ. Pour chaque choix de √

γ1 on a un choix de 6√

γ2 tel que λ = 6√ γ1√

γ2. On v´eriﬁe facilement que pour6√

γ2= √^λγ₁ etγ1 tel queγ₁³=λµon a bienγ₂³=λµ.

On a alors six fonctions possibles. Cependant parmi ces choix il y a ceux qui à un signe près donnent la même chose. Plus précisément si on note

0

√γ1une racine sixième deγ₁³on obtient à un signe près trois fonctions qui correspondent à :

0

√γ1f1+ λ

0

√γ1

f2 , ζ₀√

γ1f1+ζ λ

0

√γ1

f2 et ζ₀√

γ1f1+ζ λ

0

√γ1

f2.

NotonsFs(λ, µ) l’ensemble des fonctions surS1∪S2, Ks-invariantes et qui sont propres pour L et M pour respectivement les valeurs propres λ et µ.

Proposition 2.6. — Pourλ etµ= 0 1)dimFs(λ, µ)1 sis∈ S1 ous∈ S2. 2)dimFs(λ, µ)2 sis∈ S0.

D´emonstration. —fs ∈ Fs(λ, µ) alors fs est constante surVj,k(s). No- tons alors :

fs(x) =

f_s,j,k¹ si τ(x) = 1 et x∈Vj,k(s) f_s,j,k² si τ(x) = 2 et x∈Vj,k(s)

Pour λ et µ = 0, en ´ecrivant les équations Lfs(x) = λfs(x) et M fs(x) = µfs(x) pour x ∈Vj,k(s) et en faisant un raisonnement par récurrence sur n=j+k, lesf_s,j,k¹ , f_s,j,k² se déterminent d’une fa¸con linéaire en fonction de fs,0,0¹ (resp. fs,0,0² ) sis∈ S1(resp. s∈ S2) et en fonction defs,1,0¹ et defs,0,1²

sis∈ S0. Ainsi pourλet µ= 0,on obtient le r´esultat.

Proposition 2.7. — Pourλ etµ= 0 1) dimFs(λ, µ)1 sis∈ S1 ous∈ S2. 2) dimFs(λ, µ)2 sis∈ S0.

D´emonstration. — 1) Pour s = s1 ∈ S1 ou s = s2 ∈ S2, d’apr`es la remarque 2.5.2 et la sous-section 2.1 ci-dessus il existe αtel que si on note P_α^s(−, ω)|_S1=P1et P_α^s(−, ω)|_S2 =P2 on a :

(13)

LP1=γ2P2 , LP2=γ1P1 , M P1=γ₁²P2 et M P2=γ₂²P1

et par suite pourγ1 et γ2= 0 (c’est `a direλet µ= 0) on obtient une fonctiongη,1(resp. gη,2) pours∈ S1(resp. s∈ S2) propre pourLetM (avec λetµcomme valeurs propres) et invariante par le ﬁxateur d’un secteur :

gη,1= 1

√γ1

[√

γ1P1+6√

γ2P2] (resp. gη,2= 1 6√

γ2

[√

γ1P1+6√ γ2P2]).

En moyennant par le groupe compactKs, on obtient une fonction invariante par Ks, fη,1(resp. fη,2) lorsque s ∈ S1 (resp. s ∈ S2). De plus comme fη,1(s1) = 1= 0 (resp. fη,2(s2) = 1= 0) on obtient pourλetµ= 0, dim Fs(λ, µ)1 si s∈ S1 (resp. s∈ S2).

2) Pour s = s0 ∈ S0, consid´erons pour γ1 = 0 et γ2 = 0, gη,0 =

√γ11γ1[√

γ1P1+6√

γ2P2] et notonss1∈ S1, s2∈ S2 deux sommets contenus dans une même chambre que s0. On a Pα^s(s, ω) = 1 , L1Pα^s = γ1Pα^s et L2Pα^s = γ2Pα^s. En moyennant les fonctions gη,0 par Ks, on obtient deux fonctionsf1,0, f₋1,0 invariantes parKs et propres pourLetM vérifiant :

f1,0(s1) = 1

1 +q+q² , f1,0(s2) = 1 1 +q+q² f₋1,0(s1) = 1

1 +q+q² , f₋1,0(s2) = −1 1 +q+q².

Et commef1,0 etf₋1,0 sont non nulles et lin´eairement ind´ependantes on a alors dimFs(λ, µ)2 sis∈ S0.

Th´eor`eme 2.8. — 1)dimFs(λ, µ) = 1sis∈ S1 ous∈ S2. 2)dimFs(λ, µ) = 2 sis∈ S0.

Démonstration. — Pour λetµ= 0 il suffit d’appliquer les propositions 2.6 et 2.7. Par ailleurs d’après la proposition 2.6 une fonction invariante par Ks et propre pour L et M est déterminée d’une fa¸con polynômiale en fonction des valeurs propres λ, µ et de sa valeur en s (sis ∈ S1 ou si s∈ S2) ou de ses valeurs ens1, s2tels qued(s, s1) =d(s, s2) = 1 (sis∈ S0).

Par prolongement par continuit´e lorsqu’on fait tendreλ, µvers 0 le r´esultat ci-dessus reste alors valable.

2.4. Transformation de Poisson

Pour s ∈ S, on définit la transformation de Poisson Pα^s associée à α∈(C^∗)³(cf.2.1) : elle transformeµ∈H(Ω) en

Pα^sµ(x) =

Ω

Pα^s(x, ω)dµ(ω), x∈ S.

(14)

Dans le cas où l’ensemble des fonctions propres deOiou deO1,2qui sont invariantes par le fixateur Ks d’un sommet fixé dans S est de dimension deux, la transformation de PoissonPα^s ne peut être bijective.

En eﬀet sif =Pα^sµest invariante parKs, on af(x) =

Ω

Pα^s(x, ω)dµ(ω) et, pour toutk∈Ks, on a :

f(kx) =f(x) =

Ω

P_α^s(kx, ω)dµ(ω) =

Ω

P_α^s(x, k⁻¹ω)dµ(ω) =

=

Ω

P_α^s(x, ω)dµk(ω), o`uµk = (k⁻¹)^∗µ.

SiPα^sest injective alorsµ= (k⁻¹)^∗µ,∀k∈Ks: la mesureµest invariante par Ks. Mais comme G est très fortement transitif et s est un sommet spécial, le groupeKsest transitif sur Ω, et donc il n’y a qu’une seule mesure Ks-invariante sur Ω à une constante près. L’image dePα^s est de dimension 1 et dans le cas qui nous interessePα^s ne peut être surjective.

3. Op´erateurs sur un immeuble de type B2

Soit ∆ un immeuble de typeB2,, comme défini par exemple dans [MZ 02 ]. On peut reprendre les définitions du premier alinea de 1.1. Les chambres sont maintenant des triangles rectangles isocèles et, par convention, l’hypothénuse a pour type 1, les deux autres côtés ont pour type 0 et 2. La valence qi d’une cloison dépend de son type i; on note p= q0, q =q1 et r=q2.

3.1. Op´erateurs sur S0∪S2

SoitA un appartement,xun sommet deSi∩A, i∈ {0,2} etC une chambre deAcontenantx, il existe un unique syst`eme de coordonn´ees sur l’appartement A tel que x = x0,0, S ∩C = {x0,0, x¹

2,0, x_0,¹

2}, τ(x¹

2,0) = 2−i et τ(x_0,¹

2) = 1. Alors {xj,k / j, k∈ [0,+∞[} est le quartierQx,C de A de sommet x contenant C. On note Vj,k(x) l’ensemble des points xj,k

associés aux différents choix de A et C tels que x ∈ C ⊂ A. L’ensemble S (resp. Si , S2−i) est réunion disjointe des Vj,k(x) avec (2j,2k) ∈ N² (resp. (j, k) ∈ N² , (j − ¹₂, k) ∈ N²). En fait, si G est un groupe très fortement transitif lesVj,k(x) sont les orbites du fixateurGx dexdansG.