L’indice equivariant des operateurs transversalement elliptiques

L’indice equivariant des operateurs transversalement elliptiques

Nicole Berline

, Michele Vergne

1

Ecole Polytechnique et UA 169 du CNRS, Centre de Mathematiques, F-91128 Palaiseau Cedex, France; e-mail: berline@orphee.polytechnique.fr

2

E.N.S. et UA 762 du CNRS, DMI, Ecole Normale Superieure, 45 rue d’Ulm, F-75005 Paris, France; e-mail: vergne@dmi.ens.fr

Oblatum 24-VII-1995

to Reinhold Remmert

Resume. Dans cet article, nous montrons que l’indice cohomologique (construit dans [11]) d’un symbole transversalement elliptique satisfait certaines proprietes fonctorielles. Nous calculons d’autre part l’indice cohomologique pour certains symboles transversalement elliptiques particuliers. En reprenant les arguments donnes par Atiyah dans [1], on en deduit que l’indice cohomologique du sym- bole d’un operateur transversalement elliptique P est egal a l’indice analytique de P.

1 Introduction

Soit G un groupe de Lie compact operant sur une variete dierentiable com- pacte M . Soient E ^± des bres G-equivariants sur M et soient (M; E ^± ) les espaces de sections C ^∞ de E ^± . Soit

P : (M; E ⁺ ) → (M; E ⁻ )

un operateur pseudo-dierentiel commutant a l’action de G. Supposons M et E ^± munis de metriques G-invariantes et soit P ^∗ l’adjoint de P. Si P est un operateur elliptique, le noyau Ker (P) de P et le noyau Ker (P ^∗ ) de P ^∗ sont des espaces de dimension nie stables sous l’action de G. L’indice equivariant de P est la representation virtuelle Ker (P) – Ker (P ^∗ ) de G. On note index (P)(s) la valeur de son caractere au point s ∈ G, c’est-a-dire

index(P)(s) = Tr _Ker P (s) − Tr _Ker P

(s) :

La fonction analytique sur G ainsi denie s’exprime en fonction du symbole

principal de l’operateur P. Soit M (s) la variete des point xes de s sur M .

La valeur de la fonction index(P) au point s ∈ G est obtenue en integrant

une classe de cohomologie s a support compact (dependant de ) sur la

variete T ^∗ M (s). C’est la formule des points xes d’Atiyah–Segal–Singer [2].

Rappelons la brievement. Le symbole , etant inversible en dehors de la section nulle de T ^∗ M , determine par recollement un bre virtuel F() trivial a l’inni sur une compactication de T ^∗ M . Le caractere de Chern ch(F()) est une forme a support compact sur T ^∗ M . Soit e l’element neutre de G. On a

index(P)(e) = dim(Ker (P)) − dim(Ker (P ^∗ )) = R

T

M

ch(F()) ˆ A (T ^∗ M ) ; et d’autres formules analogues donnant la valeur de index(P)(s) en s ∈ G par une integrale sur T ^∗ M (s). Ici ˆ A(T ^∗ M ) est le ˆ A-genre de la variete T ^∗ M et provient d’une forme sur M .

Considerons le cas d’un operateur G-transversalement elliptique. Son symbole principal est inversible sur l’espace T _G ^∗ M des vecteurs cotangents transverses aux orbites de G. Alors chaque representation irreductible de G intervient avec multiplicite nie dans Ker P et la representation de G dans Ker P est une representation tracable de G. Dans ce cas, l’indice de P est la fonction generalisee sur G denie par

index(P) = Tr Ker P − Tr Ker P

:

D’apres les resultats d’Atiyah [1], l’indice de P ne depend que de la classe du symbole de P dans K G (T _G ^∗ M ). Remarquons que T _G ^∗ M est un ferme de T ^∗ M , mais n’est pas en general une sous-variete si les orbites de G dans M n’ont pas toutes la mˆeme dimension.

L’indice de P etant une fonction generalisee, sa valeur en un point par- ticulier s de G n’a pas de sens en general. On peut construire facilement des exemples d’operateurs transversalement elliptiques d’indices non nuls sur une G-variete M telle que G agisse librement sur M . En eet, on en obtient en remontant horizontalement un operateur elliptique sur la variete quotient G \ M . Dans ce cas l’indice de P est une fonction generalisee sur G de support l’identite e du groupe G. C’est une derivee (dont l’ordre peut ˆetre arbitrairement grand) de la masse de Dirac en e.

Nous montrons dans cet article qu’ on peut calculer l’indice de P en fonc- tion du symbole de P en integrant au sens generalise une classe de co- homologie equivariante (dependant de ) de la variete T ^∗ M . Rappelons le type de formule proposee dans [15]. Soit g l’algebre de Lie de G. Une forme equivariante sur T ^∗ M est une application (X ) (X ∈ g) de g dans l’espace des formes dierentielles sur T ^∗ M . Dans [11], nous avons associe a une forme equivariante (X ) (fermee pour la dierentielle equivariante d

) denie si X ∈ g est assez petit et rapidement decroissante en g-moyenne: si est une fonction test sur g de support assez voisin de 0, alors la forme dierentielle R

g

(X )(X )dX sur T ^∗ M est a decroissance rapide. On montre ici l’egalite R

g

index(P)(exp X )(X )dX = R

T

M

R

g

(X )(X )dX

!

:

Nous ecrirons cette egalite comme une egalite de fonctions generalisees sur un voisinage de 0 dans g:

index(P)(exp X ) = R

T

M

(X ) :

De mˆeme, si s est un element quelconque de G, on note G(s) le centralisa- teur de s dans G et on associe a une forme G(s)-equivariante fermee _s (Y ) sur T ^∗ M (s) telle que l’on ait l’egalite suivante de fonctions generalisees. Pour Y variant au voisinage de 0 dans g(s), on a

index(P)(s exp Y ) = R

T

M(s)

s (Y ) :

Nos deux sources d’inspiration pour la construction de la forme s sont d’une part bien evidemment le theoreme d’Atiyah–Segal–Singer pour les operateurs elliptiques et d’autre part le paradigme pour la theorie de la quan- tication geometrique: il est convenu d’associer a la variete symplectique T ^∗ M l’espace de Hilbert L ² (M ). Soit ! ^M la 1-forme canonique de T ^∗ M et soit f : T ^∗ M → g ^∗ l’application moment. Pour X ∈ g, on a f(X )(x; ) = (; (X M ) x ) ou X _M est le champ de vecteurs sur M associe a l’action de G. Soit = − d! ^M la forme symplectique de T ^∗ M et soit (X ) = f(X )+ la forme symplectique equivariante de T ^∗ M . Dans ce cas, il est naturel d’essayer la formule suivante pour le caractere de la representation de G dans L ² (M ),

Tr _L

(M) (exp X ) = (2i) ^{− dim M} R

T

M

e ^{i(X )} (J (M )(X )) ⁻¹ : (1) Ici J (M )(X ) est une forme equivariante fermee sur M , inversible lorsque X ∈ g est susamment petit. La valeur (J (M )(0)) ⁻¹ est egale a ˆ A(T ^∗ M ) a des fac- teurs de normalisation par (2i) pres.

Lorsque M est homogene sous l’action de G, la representation reguliere de G dans L ² (M ) est tracable et sa trace satisfait a l’egalite (1), qui a un sens comme une egalite de fonctions generalisees sur un voisinage de 0 dans g. Ce cas tres simple est explicite dans [9]. Considerons le cas ou M = G, muni de l’action de G par translations a gauche. Dans ce cas J (M ) = 1. Au premier membre de la formule (1), on a la masse de Dirac en 0 ∈ g. Le deuxieme membre de la formule s’ecrit comme une integrale sur G × g ^∗ :

(2i) ^{− dim G} R

T

G

e ^{i(X )} = (2) ^{− dim G} R

G

R

f ∈

e ^{i(f; X )} df

! dg

et cette integrale est bien la masse de Dirac au point 0 de g.

Pour cette raison et sans doute d’autres, il est important dans les formules

d’indice d’operateurs transversalement elliptiques de tenir compte de la forme

e ^{i(X )} = e ^{− i(d}

^!

^{)(X )} sur T ^∗ M . L’exemple precedent montre que, mˆeme si

la classe de cette forme est egale a 1 dans le complexe de cohomologie

equivariante sans conditions de croissance, son integrale au sens generalise

n’est pas nulle.

Ces considerations simples dictent le choix suivant de . Pour simplier l’exposition, supposons que P soit un operateur dierentiel de sorte que son symbole principal (x; ) : E ⁺ x → E ⁻ x est homogene d’ordre m = 1 sur T _x ^∗ M . Notons p : T ^∗ M → M la projection. Soient 3

des connexions G-invariantes sur les bres E ^± . Considerons le superbre p ^∗ E = p ^∗ E ⁺ ⊕ p ^∗ E ⁻ sur T ^∗ M . On associe a la superconnexion

A () =

p ^∗ 3

i ^∗ i p ^∗ 3

sur p ^∗ E.

Le theoreme principal de cet article est le theoreme 20 qui donne une formule integrale pour l’indice equivariant de P en fonction du caractere de Chern de la superconnexion A (). En particulier, le theoreme 20 montre que, au voisinage de 0 ∈ g, on a l’egalite de fonctions generalisees:

index(P)(exp X ) = (2i) ^{− dim M} R

T

M

e ^{i(X )} ch(A())(X )(J (M )(X )) ⁻¹ : (2) Comme nous venons de le montrer, cette formule est veriee dans deux cas extrˆemes:

(1) Le groupe G est reduit a l’identite et l’operateur P est elliptique.

En eet (a part des normalisations dierentes pour les facteurs 2i), le car- actere de Chern ch(A()) coincide avec ch(F()) (voir par exemple [10]).

De plus, pour tout X ∈ g, la forme dierentielle ch(A())(X ) est rapidement decroissante sur T ^∗ M et on peut remplacer la forme e ^{i(X )} par 1.

(2) La variete M est homogene et l’operateur P est nul.

Notons que, s’il est rassurant de montrer que la formule (2) est veriee pour ces deux cas extrˆemes, il n’est pas necessaire de demontrer ces cas particuliers prealablement a l’etude generale. D’ailleurs (comme il est montre dans [1]) mˆeme dans l’etude d’operateurs elliptiques, les operateurs transver- salement elliptiques obtenus par relevement horizontal d’operateurs elliptiques s’introduisent naturellement. Ainsi l’axiome de produit bre (B3) de [3] est une consequence naturelle des axiomes de produit externe et d’action libre enonces dans la section 2.

Indiquons pourquoi la formule (2) a un sens. Soit F(X ) la courbure equivariante de A(). Alors F(X ) est une forme sur T ^∗ M a valeurs endo- morphismes de E ⁺ ⊕ E ⁻ . Le terme de degre exterieur 0 de F(X ) au point (x; ) ∈ T ^∗ M est l’endomorphisme

−

(x; ) ^∗ (x; ) + ⁺ (X )(x) 0

0 (x; )(x; ) ^∗ + ⁻ (X )(x)

; ou ^± (X ) sont les moments equivariant des connexions 3 ^± sur les bres E ^± → M . On voit donc que la forme

ch(A())(X )(x; ) = Str(e ^{F(X )} )

est rapidement decroissante sur l’espace (T _G ^∗ M ) x = { ; (; X M ) = 0 pour tout X ∈ g} . En eet, dans ces directions, (x; ) ^∗ (x; ), etant un operateur stricte- ment positif et homogene en , devient tres grand lorsque tend vers l’inni.

Dans le deuxieme membre de la formule (2), le facteur e ^{i(X )} = e ^{i(; X}

⁾ e ⁱ ; integre contre une fonction test (X ), permet d’obtenir une decroissance rapide dans les autres directions. Le deuxieme membre de la formule (2) determine ainsi un germe de fonction generalisee sur G pres de g = 1. De mˆeme, on construit par une integrale sur T ^∗ M (s) un germe de fonction generalisee sur G en s. On demontre dans [11] qu’eectivement ces germes, donnes en dierents points s ∈ G par des formules sur les dierentes varietes T ^∗ M (s), s’unissent pour denir une fonction generalisee index ^{G; M} _c () sur G, qu’on appelle in- dice cohomologique de . Dans le present article, nous montrons l’egalite index(P) = index ^{G; M} c (). Pour cela, nous suivons Atiyah [1] pas a pas. En eet, Atiyah donne dans [1] un algorithme pour calculer index(P), analogue a celui (considere par Grothendieck pour le theoreme de Riemann–Roch et par Atiyah–Singer pour les operateurs elliptiques) qui consiste a plonger M dans un espace vectoriel V . Le cas transversalement elliptique est plus com- plique que le cas elliptique du fait que, si G est un groupe de Lie compact agissant lineairement sur V , il ne semble pas facile de donner un systeme de generateurs pour K G (T _G ^∗ V ). Par contre, grˆace a une methode de relevement hor- izontal d’operateurs elliptiques sur divers bres principaux, on peut se ramener a l’action de S ¹ = { e ⁱ } sur C = R ² . Il existe alors un operateur A sur la sphere S ₂ dont l’indice analytique est la serie − P _∞

k=1 e ^ik (nous en donnons une construction explicite dans l’appendice 2). Il y a donc deux points a prou- ver pour l’indice cohomologique: la reciprocite de Frobenius pour le relevement horizontal d’operateurs (c’est ce que nous verions dans le paragraphe 3.4 consacre aux actions libres) et l’egalite avec l’indice analytique pour l’operateur A.

Les resultats de cet article ont ete annonces dans [15] et [10].

2 Rappel des proprietes fonctorielles de l’indice analytique

Dans cette section, nous rappelons la denition et quelques proprietes de l’indice analytique des operateurs transversalement elliptiques demontrees par Atiyah dans [1].

2.1 K-theorie et symboles

Soit V un espace topologique localement compact muni d’une action d’un groupe de Lie compact G. Soient E ^± deux bres vectoriels complexes G- equivariants sur V. Soit E ⁺ −→ E ⁻ un morphisme de bres G-equivariants.

Par denition, l’ensemble caracteristique Car() de E ⁺ −→ E ⁻ est l’ensemble

des points y ∈ V pour lesquels y : E ⁺ y → E ⁻ y n’est pas inversible. Si Car()

est compact, on dira que est un morphisme elliptique. Si est un morphisme

de bres G-equivariants et si est elliptique, alors denit un element []

de K _G ( V ). Plus generalement soit un morphisme deni seulement en dehors d’un compact K de V . On suppose qu’il est inversible sur son ensemble de denition V − K. Alors denit une classe [] dans K _G (V). Par denition, si est une fonction G-invariante sur V a valeurs reelles identiquement egale a 0 sur un voisinage de K et egale a 1 en dehors d’un compact K ⁰ de V, alors est un morphisme deni sur V et [] = [].

Choisissons une structure hermitienne G-invariante sur E ^± . Il sera utile d’associer a : E ⁺ → E ⁻ l’endomorphisme impair du super bre E = E ⁺ ⊕ E ⁻ deni, pour y ∈ V, par

v()(y) =

0 ^∗ _y y 0

: (3)

Alors

v()(y) ² =

^∗ _{y y} 0 0 y ^∗ _y

est un operateur hermitien positif sur la bre E y et l’ensemble Car() est le complementaire de l’ensemble des points y ∈ V tels que v()(y) ² soit strictement positif.

Soit L un bre equivariant hermitien sur V. Soit E ⁻ = E ⁺ = L. Soit : E ⁺ → E ⁻ un morphisme elliptique de bres equivariants tel que = ^∗ . Alors la classe denie par dans K G (V) est nulle.

Si V est un point, alors K G (point) est l’anneau R(G) des representations virtuelles de G.

Rappelons la denition du produit externe (voir [1], page 21): soient V i , i = 1; 2, deux espaces localement compacts munis d’une action de G. Soient E ^± i

des bres G-equivariants sur V i munis de structures hermitiennes G-invariantes et soient E ⁺ i

−→ E ⁻ i des morphismes G-equivariants.

On considere le morphisme G-equivariant

_{1 2} : E ⁺ ₁ ⊗ E ⁺ ₂ ⊕ E ⁻ ₁ ⊗ E ⁻ ₂ → E ⁻ ₁ ⊗ E ⁺ ₂ ⊕ E ⁺ ₁ ⊗ E ⁻ ₂ deni par

_{1 2} =

₁ ⊗ I − I ⊗ ₂ ^∗ I ⊗ ₂ ^∗ ₁ ⊗ I

: (4)

Soient E i = E ⁺ i ⊕ E ⁻ i . Le super-bre sur lequel v( 1 ₂ ) agit est le produit tensoriel de superbres E 1 ⊗ E 2 :

( E 1 ⊗ E 2 ) ⁺ = E ⁺ ₁ ⊗ E ⁺ ₂ ⊕ E ⁻ ₁ ⊗ E ⁻ ₂ ; ( E 1 ⊗ E 2 ) ⁻ = E ⁻ ₁ ⊗ E ⁺ ₂ ⊕ E ⁺ ₁ ⊗ E ⁻ ₂ : De plus

v( _{1 2} ) ² = v( ₁ ) ² ⊗ I + I ⊗ v( ₂ ) ² : (5) On voit que l’ensemble Car( 1 ₂ ) ⊂ V 1 ×V 2 est egal a Car( 1 )×Car( 2 ).

On obtient ainsi une application

K G (V 1 ) ⊗ K G (V 2 ) → K G (V 1 × V 2 ) :

En particulier, lorsque V 1 est un point et V 2 = V , on obtient une structure de R(G)-module sur K _G ( V ).

Soit M une variete dierentiable munie d’une action de G. On note T ^∗ M le bre cotangent a M . Un point de T ^∗ M sera note (x; ), avec x ∈ M et ∈ T _x ^∗ M . On note p la projection T ^∗ M → M .

Soit g l’algebre de Lie de G. Pour X dans g, on note X _M le champ de vecteurs sur M deni par

X _M (x) = d

dt exp( − tX ) · x | t=0 (6) pour x ∈ M .

On note f ^M;G : T ^∗ M → g ^∗ l’application moment:

h f ^{M; G} (x; ); X i = h ; X _M (x)i : (7) Si G et M sont xes, on notera f ^{M; G} simplement parfois par f. On pose

T _G ^∗ M = (f ^{M; G} ) ⁻¹ (0) :

Le sous-ensemble (T _G ^∗ M ) x de T _x ^∗ M est donc l’orthogonal a l’espace tangent en x a l’orbite G · x. La dimension de (T _G ^∗ M ) x est egale a la codimension de G · x et depend de x.

Soient E ^± deux bres sur M . Pour abreger, on appellera un morphisme de bres : p ^∗ E ⁺ → p ^∗ E ⁻ un symbole. Si (x; ) ∈ T ^∗ M , alors (x; ) est une application lineaire de E ⁺ x dans E ⁻ x .

Denition 1 Soit M une G-variete. Un symbole : p ^∗ E ⁺ → p ^∗ E ⁻ est dit G-transversalement elliptique si

(1) E ⁺ et E ⁻ sont des bres vectoriels G-equivariants et un morphisme de bres G-equivariants.

(2) La restriction de a T _G ^∗ M est inversible en dehors d’un compact.

La restriction de a T _G ^∗ M denit donc un element [] de K _G (T _G ^∗ M ). Re- marquons que nous n’imposons aucune condition d’homogeneite sur le symbole . Nous supposons par contre que est deni sur tout T ^∗ M et est C ^∞ . Une des raisons de prendre une classe aussi large de representants des elements de K _G (T _G ^∗ M ) est qu’elle est evidemment stable par produit externe. Il est cepen- dant utile de faire la remarque suivante.

Remarque 2 Supposons M compacte. Munissons M d’une metrique

G-invariante. Soit m un nombre reel. On dira qu’un symbole est presque

homogene d’ordre m si (x; t) = t ^m (x; ) pour tout x ∈ M; t = 1 et ∈ T _x ^∗ M

de norme k k = 1. Soit S (M ) = {(x; ); k k = 1} le sous-bre en spheres de

T ^∗ M . Considerons alors le sous-ensemble compact S (T _G ^∗ M ) = T _G ^∗ M ∩ S (M )

de T _G ^∗ M . On peut representer tout element de K G (T _G ^∗ M ) de la maniere suiv-

ante. On considere deux bres vectoriels G-equivariants E ⁺ et E ⁻ sur M .

Soit a : p ^∗ E ⁺ | S(M) → p ^∗ E ⁻ | S(M) un morphisme de bres G-equivariants deni

seulement au-dessus de S (M ) et tel que sa restriction a S (T _G ^∗ M ) soit inversible.

Soit # : R → R une fonction C ^∞ telle que #(t) = 0 pour t 5 ¹ ₂ et #(t) = 1 pour t = 1. Soit m un nombre reel. Posons _m (x; ) = #( k k ) k k ^m a(x; = k k ).

Alors _m est un symbole G-transversalement elliptique presque homogene d’ordre m. La classe de _m est independante de l’ordre m choisi. Elle ne depend que de la restriction de a a S(T _G ^∗ M ) et plus precisement que de la classe d’homotopie stable de a | S(T

M) parmi les morphismes G-equivariants inversibles.

Denition 3 Soit U une G-variete localement compacte. Un symbole : p ^∗ E ⁺ → p ^∗ E ⁻ est dit trivial a l’inni s’il existe un espace vectoriel com- plexe V muni d’une representation de G tel que, en dehors d’un sous-ensemble compact G-invariant K de U , les bres E ^± soient tous deux egaux au bre G-equivariant (U − K) × V muni de l’action diagonale de G et (x; )

= Id _V pour x ∈ U − K et ∈ T _x ^∗ U.

Lemme 4 (Lemma 3.6 [1]). Soit U une G-variete localement compacte. Tout element de K G (T _G ^∗ U ) peut ˆetre represente par un symbole G-transversalement elliptique qui est trivial a l’inni.

Soit j ^M : U → M un G-dieomorphisme de U sur un ouvert d’une G- variete compacte M . D’apres le lemme 4 ci-dessus, on peut construire une application j _∗ ^M : K G (T _G ^∗ U ) → K G (T _G ^∗ M ).

Nous aurons besoin de quelques symboles particuliers.

2.1.1 Le symbole de Bott

Soit V = R. On note (x; ) (x ∈ R ; ∈ R) un point de T ^∗ V . On considere E ^± = V ×C. Un morphisme elliptique : p ^∗ E ⁺ → p ^∗ E ⁻ est donc simplement une application : T ^∗ R → C inversible en dehors d’un compact de T ^∗ R. Soit

b : p ^∗ E ⁺ → p ^∗ E ⁻ le morphisme deni par l’application

b(x; ) = x + i :

Comme x et sont reels, b(x; ) est inversible sauf si (x; ) = (0; 0). L’element b denit donc un element de K(T ^∗ V ). On explicitera dans la section 4.1 l’element j _∗ [b] de K(T ^∗ S ¹ ) obtenu par le plongement j de R dans S ¹ = R ∪ {point}. Ici le groupe G = { e } est trivial.

2.1.2 Le symbole d’Atiyah

Soit V = C muni de l’action de G = { e ⁱ ; ∈ R} denie par e ⁱ · z = e ⁱ z.

On identie V a V ^∗ en denissant h ; v i = Re(v). On identie donc T ^∗ V a V ⊕ V . L’espace T _G ^∗ V est alors deni par

T _G ^∗ V = {(z; ); z ∈ C; ∈ C ; Im(z) = 0} :

On a donc

(T _G ^∗ V ) ₀ = V ; tandis que si z - 0, on a

(T _G ^∗ V ) z = R z :

Soient E ^± = V × C les bres G-equivariants sur V munis des actions de G denies par

e ⁱ · (z; v + ) = (e ⁱ z; v ₊ ) pour (z; v + ) ∈ E ⁺ ; e ⁱ · (z; v ₋ ) = (e ⁱ z; e ⁱ v ₋ ) pour (z; v ₋ ) ∈ E ⁻ :

Un morphisme G-equivariant : p ^∗ E ⁺ → p ^∗ E ⁻ est une application : T ^∗ V → C telle que (e ⁱ z; e ⁱ ) = e ⁱ (z; ).

Considerons le morphisme G-equivariant m : p ^∗ E ⁺ → p ^∗ E ⁻ deni par l’application

m(z; ) = z − i :

Le symbole m(z; ) est inversible, sauf si z = i. D’apres la description de T _G ^∗ V , la restriction de m a T _G ^∗ V est inversible sauf au point (0, 0). L’element m represente donc un element de K G (T _G ^∗ V ) que nous appellerons le symbole d’Atiyah. Nous expliciterons dans la section 6 un element de K G (T _G ^∗ (P 1 (C))) representant j _∗ [m] pour l’application naturelle G-equivariante j : C → P ₁ (C).

2.2 Denition de l’indice analytique

Si E est un bre (dierentiable) sur M , on note (M; E ) l’espace des sections C ^∞ du bre E.

Soit M une G-variete compacte. Soient E ^± deux bres G-equivariants sur M . Soit P : (M; E ⁺ ) → (M; E ⁻ ) un operateur pseudodierentiel d’ordre m.

Le symbole principal (P) de P est un morphisme p ^∗ E ⁺ → p ^∗ E ⁻ deni sur T ^∗ M \0 et homogene de degre m. L’operateur P est dit G-transversalement elliptique si P commute a l’action de G et si (P)(x; ) est inversible pour tout (x; ) ∈ T _G ^∗ M tel que -0.

Le symbole principal (P) d’un operateur G-transversalement elliptique denit un element [(P)] de K G (T _G ^∗ M ). L’element [(P)] ne depend que de la restriction de (P) a S (T _G ^∗ M ). Par le procede decrit dans la remarque 2, on peut representer [(P)] par un symbole G-transversalement elliptique presque homogene d’ordre arbitraire. (Ceci correspond a multiplier P par une puissance arbitraire du Laplacien, operation que ne change pas l’indice de P.)

Rappelons la denition de l’indice analytique de P. Notons C ^−∞ (G)

l’espace des fonctions generalisees sur G et C ^−∞ (G) ^G l’espace des fonc-

tions generalisees G-invariantes. L’espace C ^∞ (G) s’injecte naturellement dans

C ^−∞ (G). On utilisera souvent la notation (g) pour designer une fonction

generalisee sur G, bien que la valeur de la fonction en un point xe g

de G n’ait pas (en general) de sens. Par denition un element de C ^−∞ (G)

denit une forme lineaire sur l’espace des densites C ^∞ sur G. Si dg est une

mesure de Haar sur G et ∈ C ^∞ (G), on note R

G (g)(g)dg la valeur de sur la densite (g)dg. On voit que, si (g) est une fonction generalisee sur G, alors (g)dg est une distribution. Nous preferons utiliser ici la notion de fonc- tion generalisee car de mˆeme que la trace d’une representation de dimension nie de G est une fonction G-invariante sur G, la trace d’une representation tracable de G est une fonction generalisee G-invariante.

Notons Ker P le noyau de P. Pour ∈ R, soit (Ker P) le sous-espace de Ker P sur lequel le Casimir de G opere scalairement par multiplication par . Ce sous-espace est de dimension nie et est nul sauf si appartient a un sous ensemble discret I de R. La serie g 7→ P

∈ I Tr (Ker P)

g denit une fonction generalisee G-invariante sur G (Theorem 2.6 [1]). Nous la notons Tr(g; Ker P).

Munissons M d’une metrique G-invariante et munissons les bres E ^± de structure hermitiennes G-invariantes. L’adjoint P ^∗ de P est un operateur pseudo-dierentiel G-transversalement elliptique.

Denition 5 L’indice G-equivariant de P est la fonction generalisee sur G denie par

index ^G (P)(g) := Tr(g; Ker P) − Tr(g; Ker P ^∗ ) :

Proposition 6 (Theorem 2:6 [1]). L’indice G-equivariant de P ne depend que de [(P)] ∈ K G (T _G ^∗ M ).

Comme tout element de K G (T _G ^∗ M ) peut ˆetre represente comme le sym- bole principal d’un operateur pseudo-dierentiel P d’ordre m; on peut denir l’application

index ^{G; M} a : K G (T G ^∗ M ) → C ^−∞ (G) ^G

en posant index ^{G; M} _a ([(P)]) = index ^G (P). On dit que index ^{G; M} _a ([]) est l’indice analytique de [] ∈ K _G (T _G ^∗ M ):

L’application index ^{G; M} _a : K _G (T _G ^∗ M ) → C ^−∞ (G) ^G est un homomorphisme de R(G)-modules.

Soit H un groupe operant sur M et commutant a l’action de G, alors l’espace T _G ^∗ M est un G × H -espace topologique. Si [] ∈ K G × H (T _G ^∗ M ) on peut associer a [] une representation virtuelle a trace de G × H . En eet on peut choisir comme representant de [] le symbole d’un operateur P qui est G-transversalement elliptique et qui commute a l’action de H . Alors Ker (P) − Ker (P ^∗ ) est une representation virtuelle a trace de G × H . On note index ^{G × H} (P) ∈ C ^−∞ (G × H) ^{G × H} la trace de cette representation. On denit index ^{G; H; M} a ([]) = index ^{G × H} (P). On denit ainsi un homomorphisme de R(G × H )-module

index ^{G; H; M} a : K G × H (T G ^∗ M ) → C ^−∞ (G × H ) ^{G × H} :

Il est facile de voir ([1], remarque p. 17) qu’en fait index ^{G; H; M} a ∈ C ^∞ (H; C ^−∞ (G)). Donc le front d’onde de la fonction generalisee index ^{G; H; M} a ([]) sur G × H est contenu dans T _H ^∗ (G × H) = (G × H)×(g ^∗ ×{0}).

Ainsi, elle se restreint a G et

index ^{G; H; M} a ([])| G = index ^{G; M} a ([]) : (8)

D’autre part, considerons l’injection r : T _G ^∗ _{× H} M → T _G ^∗ M . Par restriction a T _G ^∗ _{× H} M d’un symbole G-transversalement elliptique et H-equivariant, on obtient un symbole G × H-transversalement elliptique.

Pour [] ∈ K _{G × H} (T _G ^∗ M ), on a donc

index ^{G; H; M} a ([]) = index ^G a ^{× H; M} (r ^∗ []) : (9)

2.3 Axiomes de l’indice

Nous suivrons dans notre demonstration un plan analogue a celui d’Atiyah–

Singer I [3]. Nous introduisons donc un systeme d’axiomes pour les fonctions indices.

Nous supposons donne pour tous groupes de Lie compacts G et H et toute G × H-variete compacte M un R(G × H )-homomorphisme

i ^{G; H; M} : K _{G × H} (T _G ^∗ M ) → C ^−∞ (G × H) ^{G × H} :

On suppose que, pour tout [] ∈ K G × H (T _G ^∗ M ), le front d’onde de la fonction generalisee i ^{G; H; M} ([]) est contenu dans T _H ^∗ (G × H).

On suppose d’autre part que l’application i ^{G; H; M} est invariante par dieomorphisme: Si f : M ₁ → M ₂ est un G × H -dieomorphisme, alors l’appli- cation composee

K _{G × H} (T _G ^∗ M ₂ ) −→ ^f

K _{G × H} (T _G ^∗ M ₁ ) ⁱ

−→

C ^−∞ (G × H) ^{G × H} est egale a i ^{G; H; M}

.

On suppose enn que la famille d’homomorphismes i ^{G; H; M} est fonctorielle par rapport aux homomorphismes de groupes H ⁰ → H au sens suivant: d’apres la condition de front d’onde, si [] ∈ K _{G × H} (T _G ^∗ M ), la fonction generalisee i ^{G; H; M} ([]) se restreint a G × H ⁰ et

i ^{G; H; M} ([])| G × H

= i ^{G; H}

^{; M} ([]) : (10) Il est clair que l’indice analytique est invariant par dieomorphismes et fonctoriel par rapport aux homomorphismes de groupe.

Pour H = { e }, on note i ^{G; M} au lieu de i ^{G; H; M} . Considerons l’injection r : T _G ^∗ _{× H} M → T _G ^∗ M . Par restriction, on obtient une application

r ^∗ : K G × H (T _G ^∗ M ) → K G × H (T _G ^∗ _{× H} M ) : On suppose que

i ^{G; H; M} = i ^{G × H; M} r ^∗ : (11)

Autrement dit, l’application i ^{G; H; M} est entierement determinee par i ^{G × H; M} .

Cependant, pour formuler certains des axiomes qui suivent, on a besoin

de savoir que, pour des symboles [] ayant des proprietes d’ellipticite plus

fortes, la fonction generalisee i ^{G; H; M} ([]) est C ^∞ dans certaines directions. Par

exemple, si G = { e }, les symboles ∈ K G × H (T _G ^∗ M ) = K H (T ^∗ M ) sont des

symboles elliptiques et H -equivariants et on impose que i ^{{ e } ; H; M} ([]) est C ^∞ . On dira d’une telle famille de donnees i = (i ^{G; H; M} ), invariante par dieomor- phismes, fonctorielle en H et veriant (11), que i est une fonction indice.

Enoncons quelques proprietes fonctorielles souhaitees pour une telle donnee.

2.3.1 Excision

Soit U une variete localement compacte sur laquelle le groupe de Lie compact G opere. Soit j ^M : U → M un G-homeomorphisme de U sur un ouvert d’une G-variete compacte M . D’apres le lemme 4, on peut construire une application j ^M _∗ : K _G (T _G ^∗ U) → K _G (T _G ^∗ M ) et une application composee:

K G (T _G ^∗ U) ^j

∗M

−→ K G (T _G ^∗ M ) ⁱ

−→

C ^−∞ (G) ^G :

Denition 7 On dit que la fonction indice i = (i ^{G; M} ) satisfait l’axiome d’excision si la condition suivante est satisfaite. Soit U une G-variete lo- calement compacte. Soit j ^M

(pour i = 1; 2) un G-homeomorphisme de U sur un ouvert d’une G-variete compacte M i . Soit j ^M _∗

: K G (T _G ^∗ U ) → K G (T _G ^∗ M i ) l’application deduite de j ^M

en K-theorie. Alors on a l’egalite

i ^{G; M}

j ^M _∗

= i ^{G; M}

j ^M _∗

:

Denition 8 Si U est une G-variete localement compacte qui admet un plonge- ment G-equivariant j ^M comme ouvert d’une G-variete compacte M et si i = (i ^{G; M} ) est une fonction indice veriant l’axiome d’excision, on denit pour [] ∈ K G (T _G ^∗ U )

i ^{G; U} ([]) = i ^{G; M} ( j _∗ ^M []) :

Remarque 9 L’axiome d’excision permet en particulier de denir i ^G;V : K _G (T _G ^∗ V ) → C ^−∞ (G) ^G lorsque V est un espace vectoriel muni d’une represen- tation lineaire de G.

2.3.2 Produit externe

Soient G ₁ ; G ₂ deux groupes de Lie compacts. Soit M ₁ une variete compacte munie d’une action de G ₁ × G ₂ . L’espace T _G ^∗

1

M ₁ est alors muni d’une action de G ₁ × G ₂ . Soit M ₂ une variete compacte munie d’une action de G ₂ .

On note f ^G

^{; M}

: T ^∗ M ₁ → g ^∗ _i l’application moment relative a l’action de G _i dans T ^∗ M ₁ et f ^G

^{; M}

: T ^∗ M ₂ → g ^∗ ₂ l’application moment relative a l’action de G ₂ dans T ^∗ M ₂ . L’application moment totale f _tot : T ^∗ M ₁ × T ^∗ M ₂ → g ^∗ ₁ ⊕ g ^∗ ₂ pour l’action de G ₁ × G ₂ sur M ₁ × M ₂ est donnee pour (x i ; i ) ∈ T ^∗ M i par

f _tot ((x ₁ ; ₁ ); (x ₂ ; ₂ )) = f ^G

^{; M}

(x ₁ ; ₁ ) ⊕ (f ^G

^{; M}

(x ₁ ; ₁ ) + f ^G

^{; M}

(x ₂ ; ₂ )) : Remarquons que, pour tout (x ₁ ; x ₂ ) ∈ M ₁ × M ₂ , la suite d’applications lineaires

0 → (T _G ^∗

2

M ₂ ) x

→ (T _G ^∗

1

× G

(M ₁ × M ₂ )) _(x

; x

) → (T _G ^∗

1

M ₁ ) x

(12)

(ou la premiere application est induite par l’injection (x ₂ ; ₂ ) 7→ ((0; 0); (x ₂ ; ₂ )) et la deuxieme application est l’application ((x ₁ ; ₁ ); (x ₂ ; ₂ )) 7→ (x ₁ ; ₁ )) est une suite exacte.

Soient E ^± ₁ deux bres G ₁ × G ₂ -equivariants sur M ₁ et soient E ^± ₂ deux bres G ₂ -equivariants sur M ₂ . Soit ₁ : p ^∗ ₁ E ₁ ⁺ → p ₁ ^∗ E ⁻ ₁ un morphisme de bres G ₁ × G ₂ -equivariants sur T ^∗ M ₁ . On suppose que ₁ est G ₁ -transversalement elliptique. Soit ₂ : p ^∗ ₂ E ⁺ ₂ → p ^∗ ₂ E ⁻ ₂ un morphisme de bres G ₂ -equivariants sur T ^∗ M ₂ . On voit alors grˆace a (12) que le produit externe de symboles _{1 2} est un symbole G ₁ × G ₂ -transversalement elliptique pour l’action de G ₁ × G ₂ sur M ₁ × M ₂ . Ceci denit une application

K _G

_{× G}

(T _G ^∗

1

M ₁ ) ⊗ K _G

(T _G ^∗

2

M ₂ ) → K _G

_{× G}

(T _G ^∗

1

× G

(M ₁ × M ₂ )) : Comme le front d’onde de i ^G

^{× G}

^{; M}

([ 1 ]) est contenu dans T _G ^∗

2

(G 1 × G ₂ ), le produit i ^G

^{× G}

^{; M}

([ 1 ])(g 1 ; g ₂ )i ^G

^{; M}

([ 2 ])(g 2 ) est bien deni comme fonction generalisee.

Denition 10 On dira que la fonction indice i = (i ^{G; H; M} ) verie l’axiome de produit externe si; pour toute G ₁ × G ₂ -variete M ₁ ; toute G ₂ -variete M ₂ ; tout [ ₁ ] ∈ K _G

_{× G}

(T _G ^∗

1

M ₁ ) et tout [ ₂ ] ∈ K _G

(T _G ^∗

2

M ₂ );

i ^G

^{× G}

^{; M}

^{× M}

([ 1 ] [ 2 ])(g 1 ; g ₂ ) = i ^G

^{× G}

^{; M}

([ 1 ])(g 1 ; g ₂ )i ^G

^{; M}

([ 2 ])(g 2 ) :

2.3.3 Action libre

Soient H et G deux groupes de Lie compacts. Soit P une variete compacte munie d’une action de G × H . On ecrira l’action de G a gauche et l’action de H a droite. On suppose que H agit librement sur P. L’espace M = P=H des H -orbites est donc muni d’une action de G. On note q : P → M l’application quotient. Remarquons que T _H ^∗ P s’identie naturellement a q ^∗ T ^∗ M . On a donc

(T _H ^∗ P)=H ∼ T ^∗ M : Plus generalement

(T _G ^∗ _{× H} P)=H ∼ T _G ^∗ M : Cet isomorphisme induit un isomorphisme

q ^∗ : K _G (T _G ^∗ M ) → K _{G × H} (T _G ^∗ _{× H} P) :

Soit [] ∈ K G (T _G ^∗ M ). Soit : p ^∗ E ⁺ → p ^∗ E ⁻ un symbole G-trans- versalement elliptique representant []. Soit ∈ R(H ) une representation de H dans un espace vectoriel complexe de dimension nie V . Soit V = P × H V

le bre G-equivariant sur M correspondant. On pose

= ⊗ I

: p ^∗ (E ⁺ ⊗ V ) → p ^∗ (E ⁻ ⊗ V ) :

C’est encore un symbole G-transversalement elliptique relativement a l’action de G sur M . L’indice i ^{G; M} ([ ]) est une fonction generalisee sur G. L’indice i ^{G × H; P} (q ^∗ ([]) est une fonction generalisee sur G × H.

Soit H ˆ l’ensemble des classes d’isomorphismes des representations irreductibles de dimension nie de H . Si ∈ H ˆ , on note ^∗ la representation duale.

Denition 11 On dira que la fonction indice i = i ^{G; M} verie l’axiome d’action libre si; pour toute variete compacte P munie d’une action de G a gauche et d’une action libre de H a droite commutant a G et pour tout element [] ∈ K G (T _G ^∗ (P=H )); on a l’egalite de fonctions generalisees: pour g ∈ G et h ∈ H

i ^{G × H; P} (q ^∗ [])(g; h) = P

∈ H ˆ

Tr (h)(i ^{G; M} ([

])(g)) :

La serie dans le membre de droite est convergente dans l’espace des fonc- tions generalisees sur G × H, car le terme i ^{G; M} ([

])(g) est le coecient de Fourier du caractere de la representation de H dans la fonction generalisee i ^{G × H; P} (q ^∗ [])(g; h):

2.4 Un theoreme d’unicite

Rappelons quelques proprietes fonctorielles de l’indice analytique demontrees par Atiyah [1].

Theoreme 12 [1] La famille index ^{G; H; M} _a d’indices analytiques est une fonction indice veriant les axiomes d’excision, de produit externe et d’action libre.

Plus precisement la propriete d’excision est le theoreme 3.7 de [1]. La propriete de produit externe est le theoreme 3.5 de [1]. La propriete de l’indice analytique vis-a-vis des actions libres est le theoreme 3.1 de [1].

Rappelons l’indice analytique de quelques symboles particuliers.

Soit V un espace vectoriel muni d’une representation lineaire de G. Comme la famille d’indices analytiques index ^{G; M} _a verie l’axiome d’excision, on peut denir index ^{G; V} _a ([]) pour [] ∈ K _G (T _G ^∗ (V )) d’apres la remarque 9.

Considerons V = R et le symbole de Bott [b] (deni en 2.1.1). Ici le groupe G = { e } est trivial. L’indice analytique de b est donc un entier relatif.

Proposition 13 (page 525; [3]) index ^{ _a ^{e } ;}

([b]) = 1

Soit V = C. Soit G = S ¹ . L’indice analytique du symbole d’Atiyah [m] deni en 2.1.2 est calcule par la Proposition 6.2 de [1].

Theoreme 14 On a

index ^S _a

^;

([m])(e ⁱ ) = − P ^∞

k=1

e ^ik :

Ce theoreme decoule de la description de K G (T _G ^∗ C) donnee dans le chapitre

5 de [1]. Nous en donnerons une demonstration directe dans l’appendice 2.

Dans [1], Atiyah donne un algorithme pour calculer l’indice analytique d’un element de K _G (T _G ^∗ M ): Il resulte de l’algorithme donne par Atiyah que l’on a le theoreme suivant.

Theoreme 15 [1] Soit i = (i ^{G; H; M} ) une fonction indice qui verie les axiomes d’excision, de produit externe et d’action libre. Supposons de plus que; si b est le symbole de Bott deni en 2:1:1;

i ^{{ e } ;}

([b]) = 1

et que; si m est le symbole d’Atiyah deni dans 2:1:2;

i ^S

^;

([m])(e ⁱ ) = − P ^∞

k=1

e ^ik :

Alors la fonction indice i ^{G; H; M} coincide avec l’indice analytique index ^{G; H; M} _a . Dans ce theoreme, les elements i ^{{ e } ;}

([b]) et i ^S

^;

([m]) sont denis par la denition 8.

3 Proprietes fonctorielles de l’indice cohomologique

Nous demontrons maintenant des proprietes fonctorielles de l’indice coho- mologique index ^{G; H; M} _c deni dans [11].

3.1 Enonce de la formule de l’indice equivariant des operateurs transversalement elliptiques

Rappelons tout d’abord brievement la denition de index ^{G; M} _c ([]) pour [] ∈ K G (T _G ^∗ M ) lorsque M est une variete compacte munie d’une action d’un groupe de Lie compact G. L’indice cohomologique est deni a l’aide de la cohomologie equivariante de la variete T ^∗ M .

Soit V une variete dierentiable. Une forme dierentielle G-equivariante sur V est une application G-equivariante : g → A(V) denie sur l’algebre de Lie g, a valeurs dans l’espace A ( V ) des formes dierentielles sur V . On note A ^∞ G (g ; V ) = C ^∞ (g ; A ( V )) ^G l’espace des formes dierentielles G-equivariantes. Ici X designe soit un point de g, soit la fonction X 7→ X . On notera donc parfois une application : g → F de g dans un espace F par la notation (X ). On considerera aussi des formes dierentielles (X ) qui sont denies seulement pour X appartenant a un ouvert G-invariant W ⊂ g. On note A ^∞ G (W; V) = C ^∞ (W; A(V)) ^G l’ensemble de ces formes. La dierentielle G- equivariante d

: A ^∞ G (W; V) → A ^∞ _G (W; V) est denie, pour ∈ A ^∞ G (W; V) et X ∈ W , par

(d

)(X ) = d((X )) − –(X

)((X )) ;

ou –(X

) est la contraction par le champ de vecteurs X

. On note aussi d X

l’operateur d − –(X

) agissant sur les formes dierentielles. Une forme G-

equivariante fermee est une forme G-equivariante telle que d

= 0.

Si V est une variete compacte orientee, l’integrale R

V

(X ) denit une fonction C ^∞ et G-invariante sur g (par denition, l’integrale d’une forme dierentielle inhomogene sur une variete de dimension k est l’integrale de son terme exterieur de degre k). Si V est non compacte, on peut parfois denir R

V

(X ) comme une fonction generalisee sur g: si est une fonction test sur g, on considere la forme dierentielle R

g

(X )(X )dX sur V. Si elle est integrable sur V, on posera

R

g

R

V

(X )(X )dX = R

V

R

g

(X )(X )dX

! :

On dira que R

V

(X ) est l’integrale de au sens generalise.

Si s ∈ G, on note G(s) le centralisateur de s ∈ G et V(s) la sous-variete de V xee par s. On note g(s) l’algebre de Lie de G(s).

Un bouquet de formes dierentielles equivariantes sur V est une famille ( s ) s ∈ G indexee par les elements s de G telle que, pour s ∈ G, la forme s est une forme dierentielle G(s)-equivariante fermee sur V(s) satisfaisant des conditions d’invariance et de compatibilite denies dans [13], [12] (voir aussi [16]). Rappelons la denition du bouquet bch(E ; A) de caracteres de Chern d’un superbre G-equivariant E = E ⁺ ⊕ E ⁻ → V muni d’une su- perconnexion G-invariante A. Soit s ∈ G. On note s

l’action de s sur E.

Si x ∈ V(s), l’action de s

preserve la bre E x de E. Soit F

(X ) la cour- bure equivariante de la superconnexion A (voir chapitre 7, [6]). Par denition, bch( E ; A ) = (ch s ( E ; A )) s ∈ G , ou ch s ( E ; A ) est la forme G(s)-equivariante sur V (s) denie, pour X ∈ g(s), par

ch s (E ; A)(X ) = Str(s

e ^F

^{(X )|}

) : (13) Soit M une G-variete compacte. Soit : p ^∗ E ⁺ → p ^∗ E ⁻ un symbole G- transversalement elliptique sur M . On introduit une metrique G-invariante g ^M sur T ^∗ M . On note (x; ) un point de T ^∗ M . On note k k x ou seulement k k la norme de l’element (x; ) pour la metrique g ^M . On introduit des structures her- mitiennes G-invariantes h

sur E ^± . On associe a l’endomorphisme impair du superbre p ^∗ E = p ^∗ E ⁺ ⊕ p ^∗ E ⁻

v()(x; ) =

0 (x; ) ^∗ (x; ) 0

: (14)

L’operateur

v()(x; ) ² =

(x; ) ^∗ (x; ) 0 0 (x; )(x; ) ^∗

est un operateur hermitien semi-deni positif et est strictement positif si (x; )

∈ T _G ^∗ M et k k assez grand. Le ferme T _G ^∗ M de la variete T ^∗ M est deni par

l’equation f = 0, ou f : T ^∗ M → g ^∗ est l’application moment. La restriction

de f a chaque bre est lineaire en .

On introduit la notion de symbole G-transversalement bon sur la variete T ^∗ M .

Denition 16 Soit M une G-variete compacte. On dit qu’un symbole G- transversalement elliptique : p ^∗ E ⁺ → p ^∗ E ⁻ est G-transversalement bon si

(1) Le symbole (x; ) ainsi que toutes ses derivees @ ^k _x @ ^l sont a croissance au plus polynomiales en .

(2) Il existe r ¿ 0; c ¿ 0 et a ¿ 0 tels que v() ² (x; ) = c k k ² I

pour tout (x; ) ∈ T ^∗ M tels que k f(x; )k 5 a k k et k k = r.

L’inegalite v() ² (x; ) = c k k ² I

est une inegalite d’operateurs hermitiens.

La denition de symbole G-transversalement bon est independante du choix de la metrique g ^M sur T ^∗ M .

Remarque 17 Il est clair que, si (x; ) est un symbole G-transversalement elliptique et presque homogene d’ordre 1 en ; alors est G-transversalement bon. Comme nous l’avons signale dans la remarque 2; tout element de K G (T _G ^∗ M ) peut ˆetre represente par un symbole presque homogene d’ordre 1. Toutefois la classe des symboles presque homogenes d’ordre 1 n’est pas stable par produit externe. Nous demandons aux symboles transversalement bons de satisfaire a une condition de croissance moins forte que la condition d’homogeneite d’ordre 1; mais susante pour denir l’indice cohomologique.

Nous montrerons a la proposition 23 que le produit externe de symboles G-transversalement bons est encore G-transversalement bon.

Denition 18 Si v() ² (x; ) verie l’inegalite (2) de la denition 16 ci-dessus pour tout (x; ) ∈ T ^∗ M tel que k k = r; on dira que est un bon symbole elliptique G-equivariant.

Soit ! ^M la l-forme canonique de T ^∗ M . Alors, si V est un vecteur tangent au point (x; ) de T ^∗ M ,

(! ^M _{(x; )} ; V ) = (; p _∗ V ) :

Par denition, la forme symplectique de T ^∗ M est la 2-forme fermee ^M = − d! ^M . L’orientation de T ^∗ M est l’orientation determinee par cette structure symplectique.

Choisissons des connexions G-invariantes 3

sur les bres E ^± . On asso- cie a un symbole la superconnexion sur le superbre p ^∗ E = p ^∗ E ⁺ ⊕ p ^∗ E ⁻ :

A() = iv() + p ^∗ 3 ; c’est-a-dire,

A() = p ^∗ 3

i ^∗ i p ^∗ 3

!

(15)

et la superconnexion

A ^!

() = iv() + p ^∗ 3 − i! ^M I p

(16) qui s’ecrit aussi

A ^!

() =

p ^∗ 3

− i! ^M i ^∗ i p ^∗ 3

− i! ^M

: (17)

On construit alors les bouquets de caracteres de Chern du superbre p ^∗ E muni des superconnexions A() et A ^!

(). Dans la suite on notera simplement bch(p ^∗ E ; A()) = bch(A()) et bch(p ^∗ E ; A ^!

)() = bch(A ^!

()). On a la relation

ch s ( A ^!

())(Y ) = e ^{− id}

^!

^|

ch s ( A ())(Y ) pour Y ∈ g(s).

On note N(M; M (s)) le bre normal a M (s) dans M . Soit 3 ^M une connexion G-invariante sur TM. Alors 3 ^M determine des connexions G(s)- invariantes 3 0 sur TM (s) et 3 1 sur N(M; M(s)). Soit R ₀ (X ); R 1 (X ) les courbures equivariantes de 3 0 et 3 1 . On denit la forme G(s)-equivariante J (M (s); 3 ^M ) sur M (s) par

J (M (s); 3 ^M )(X ) = det

e ^R

^{(X )=2} − e ^{− R}

^{(X )=2} R ₀ (X )

(18) pour X ∈ g(s). Pour X dans un petit voisinage de 0 dans g(s); J (M (s); 3 ^M )(X ) est inversible. Si 3 ^M est xee, on ecrira J (M (s); 3 ^M ) simplement J(M (s)).

Notons encore s la transformation de N (M; M (s)) determinee par s.

Alors, en tout point x ∈ M (s), la transformation s est une transformation de (N(M; M (s))) x qui n’a pas de vecteurs xes autres que 0. On denit, pour X ∈ g(s):

D s (N(M; M (s)); 3 ^M )(X ) = det(1 − se ^R

^{(X )} ) : (19) Lorsque 3 ^M est xee, on ecrit la forme equivariante D _s (N(M; M (s)); 3 ^M ) simplement D _s (N(M; M(s))).

La forme dierentielle ch s (A())(Y )D s (N(M; M (s))(Y )) ⁻¹ J (M (s))(Y ) ⁻¹ est une forme G(s)-equivariante fermee sur T ^∗ M (s):

Theoreme 19 (Section 5:2 [11]) Soit un symbole G-transversalement bon.

Il existe une fonction generalisee G-invariante sur G et une seule; notee index ^{G; M} _c (); veriant la formule integrale (au sens generalise) suivante. Soit s ∈ G. Pour tout Y ∈ g(s) susament petit;

index ^{G; M} _c ()(se ^Y ) = R

T

M(s)

(2i) ^{− dim M(s)} e ^{− id}

^!

ch s (A())(Y ) D _s (N(M; M (s)))(Y )J (M (s))(Y ) :

(20)

La fonction index ^{G; M} c () ne depend que de la classe de dans K G (T _G ^∗ M ).

Explicitons le sens de ce theoreme. Si U _s (0) est un voisinage susamment petit de 0 dans g(s), la sous-variete s exp U _s (0) est transverse aux G-orbites et la fonction generalisee G-invariante index ^{G; M} _c () se restreint a s exp U _s (0).

Ceci donne un sens au membre de gauche de la formule. D’autre part, il est prouve dans [11] que le membre de droite peut s’integrer au sens generalise contre une fonction test (Y ) sur U s (0).

Comme tout element [] ∈ K G (T _G ^∗ M ) admet un representant par un symbole G-transversalement bon , on peut ainsi denir l’application

index ^{G; M} _c : K G (T _G ^∗ M ) → C ^−∞ (G) ^G

en posant index ^{G; M} _c ([]) = index ^{G; M} _c ( 1 ), pour un symbole G-transversalement bon ₁ representant []. On dit que la fonction generalisee index ^{G; M} c ([]) est l’indice cohomologique de [].

Soit V un espace vectoriel complexe muni d’une representation de G.

On note encore l’element correspondant de R(G). Notons [V ] le bre trivial M × V muni de l’action diagonale de G. Si : p ^∗ E ⁺ → p ^∗ E ⁻ est un morphisme G-transversalement bon, alors ⊗ I _V : p ^∗ ( E ⁺ ⊗ [V ]) → p ^∗ ( E ⁻ ⊗ [V ]) est un morphisme G-transversalement bon representant []. On le note . On voit immediatement que ch s (A( ))(Y ) = Tr (s exp Y ) ch s (A())(Y ).

Donc on a, pour tout s ∈ G et tout Y ∈ g(s) susamment petit, index ^{G; M} _c ( [])(s exp Y ) = Tr (s exp Y ) index ^{G; M} _c ([])(s exp Y ) : On a donc l’egalite de fonctions generalisees sur G:

index ^{G; M} _c ( [])(g) = Tr (g)(index ^{G; M} _c ([])(g)) : Autrement dit index ^{G; M} c est un R(G)-homomorphisme.

Reprenons les notations de la section 2.3. Soit H un groupe de Lie compact commutant a l’action de G. Soit [] ∈ K G × H (T _G ^∗ M ). On peut choisir des bres G × H -equivariants sur M et un representant : p ^∗ E ⁺ → p ^∗ E ⁻ de [] qui soit un morphisme de bres G × H -equivariants sur T ^∗ M et qui soit G-transversalement bon. Comme est G-transversalement bon, il est a fortiori G × H-transversalement bon. On pose

index ^{G; H; M} _c ([]) = index ^G _c ^{× H; M} (r ^∗ []) :

Il est facile de voir (remarque 39, section 5.3 de [11]) que le front d’onde de index ^{G; H; M} _c ([]) est contenu dans T _H ^∗ (G × H ).

L’invariance par G-dieomorphismes de la fonction index ^{G; H; M} _c est evidente.

Par consequent la famille de R(G × H)-homomorphismes i = (index ^{G; H; M} _c ) est une fonction indice au sens de la section 2.3.

Le but de cet article est de demontrer l’egalite de l’indice cohomologique et de l’indice analytique.

Theoreme 20 Pour toute G-variete compacte M; on a l’egalite:

index ^{G; M} a = index ^{G; M} c :

Soit P un operateur pseudo-dierentiel G-transversalement elliptique. Soit un symbole G-transversalement bon representant [(P)]. Soit s ∈ G. Le theoreme 20 signie que l’indice de P est donne au voisinage de s ∈ G par la formule suivante (egalite de fonctions generalisees): si Y varie dans un voisinage susamment petit de 0 dans g(s), alors:

index ^G (P)(s exp Y ) = R

T

M(s)

(2i) ^{− dim M(s)} e ^{− id}

^!

ch s (A())(Y ) D _s ( N (M; M(s)))(Y )J (M (s))(Y ) :

(21) Concretement, il faut trouver un representant de la classe de K-theorie [(P)] qui soit un symbole G-transversalement bon. Si P est un operateur dierentiel (d’ordre au moins 1), alors (P)(x; ) est une fonction C ^∞ sur T ^∗ M et, (P)(x; ) etant homogene d’ordre m = 1; il sut de choisir = (P). Si P est un operateur pseudo-dierentiel d’ordre m, le symbole (P) de P est deni en dehors de la section nulle. Il est deni en particulier pour k k = 1. On choisit une fonction # : R → R qui soit C ^∞ , telle que #(t) = 0 pour t 5 ¹ ₂ et #(t) = 1 pour t = 1. On denit (par exemple) (x; ) =

#(k k)k k (P)(x; = k k).

Si est un bon symbole elliptique, pour tout Y ∈ g(s), la forme dierentielle ch s (A())(Y ) est rapidement decroissante sur T ^∗ M (s) (ceci est demontre dans [10], [11]) et l’integrale (20) est convergente en chaque point Y (et non pas seulement en moyenne). De plus comme e ^{− id}

^!

est congru a 1 en cohomolo- gie, on peut supprimer ce terme dans la formule (20). On a donc, pour un bon symbole elliptique G-equivariant:

index ^{G; M} _c ([])(se ^Y ) = R

T

M(s)

(2i) ^{− dim M(s)} ch s (A())(Y )

D _s ( N (M; M(s)))(Y )J (M (s))(Y ) : (22) Si est le symbole de l’operateur de Dirac, cette egalite est la formule de l’indice equivariant de l’operateur de Dirac donnee dans [8].

Si P est un operateur elliptique, on peut choisir un representant de [(P)]

qui soit un bon symbole elliptique. L’egalite ci-dessus pour index ^G (P)(s exp Y ) se deduit facilement de la formule d’Atiyah–Segal–Singer, modulo la formule de localisation [7].

Introduisons quelques notations supplementaires. On note h

= h

⊕ h

et 3

= 3

⊕ 3

. On note I(s; ; 3

; h

; 3 ^M ) la forme G(s)-equivariante fermee sur T ^∗ M (s) denie, pour Y dans un voisinage U s (0) de 0 dans g(s), par

I(s; ; 3

; h

; 3 ^M )(Y ) = ch s ( A ())(Y )

D s (N(M; M(s)))(Y ) J(M (s))(Y ) :

Si 3

; h

; 3 ^M sont xees, on note I (s; ; 3

; h

; 3 ^M )(Y ) simplement par I (s; )(Y ). On notera aussi

I ^!

(s; )(Y ) = e ^{− id}

^!

^|

I (s; )(Y )

pour Y ∈ U s (0).