Bornes alg´ ebriques sur le groupe des automorphismes

Si L ⊂ GL(m, R) est un groupe lin´eaire, on d´efinit le rang r´eel de L comme la plus grande dimension d’un sous-groupe de L constitu´e de transforma- tions simultan´_{ement diagonalisables sur R. On note ce rang rg(L). On peut} aussi introduire le rang alg´ebrique de L, not´e rgalg_{(L) comme la plus grande}

dimension de la clˆoture de Zariski d’un sous-groupe de L constitu´e de trans- formations simultan´_{ement diagonalisables sur R. L’in´egalit´e rg(L) ≤ rg}alg(L) est toujours vraie, et elle peut ˆetre stricte : il d´ecoule par exemple du r´esultat principal de [PR72], que si Γ est un r´eseau d’un groupe simple non compact L de rang r´eel r > 0, alors rg(Γ) = 0 tandis que rgalg(Γ) = r.

Si L est un groupe de Lie connexe, et si l d´esigne son alg`ebre de Lie, on note l0 = l, et pour tout k ∈ N∗, lk = [l, lk−1]. Le groupe est dit nilpotent si

lk = {0} pour un certain entier k, et le plus petit entier k pour lequel lk est

trivial s’appelle le degr´e de nilpotence de L, not´e n(L). Si L est un groupe de Lie quelconque (pas n´ecessairement nilpotent, ni connexe), on note n(L) le degr´e de nilpotence maximal d’un sous-groupe de Lie connexe nilpotent de L.

Du th´eor`eme 4.9, on tire le corollaire suivant.

Corollaire 4.10. [BFM09, Th´eor`eme 1.3] Soit (M,C) une g´eom´etrie de Cartan model´ee sur l’espace X = G/P . Soit H un sous-groupe de Lie de Aut M , tel que le noyau du morhisme Ad : H → GL(h) soit moyennable. On suppose la vari´et´e M compacte. Alors :

1. rgalg_{(Ad H) ≤ rg(Ad P ).}

Rappelons que Ad P d´esigne l’image de P par la repr´esentation adjointe de G, Adg : G → GL(g). C’est donc un sous groupe de GL(g) (et pas de

GL(p)).

L’´enonc´e du corollaire ne fait plus du tout r´ef´erence `a une mesure finie invariante. En revanche, il ne s’applique qu’aux vari´et´es compactes. Pour des actions d’un groupe de Lie H simple, connexe, pr´eservant une G-structure sur une vari´et´e compacte M , R. Zimmer a obtenu dans [Zim87b] la majoration rg(H) ≤ rg(G). L’int´erˆet du corollaire 4.10 est qu’il s’applique aussi `a des actions de groupes qui ne sont pas simples. Par exemple, nous listons en section 4.5.3 quelques applications du corollaire pour des actions de groupes dont la composante neutre est soit ab´elienne, soit nilpotente.

4.5.2

Un r´esultat de rigidit´e

Dans [Da88], G. D’Ambra et M. Gromov ´enoncent un principe g´en´eral, selon lequel les structures g´eom´etriques rigides admettant un gros groupe d’automorphismes doivent ˆetre suffisamment rares et sp´eciales pour ˆetre classifi´ees. Les th´eor`emes 2.8, ou 2.11 en sont des illustrations. Il existe de nombreuses autres situations pour lesquelles ce principe est v´erifi´e. Par exemple, si pour l’action d’un groupe H sur une g´eom´etrie de Cartan com- pacte (M,C), les bornes donn´ees par le corollaire 4.10 sont atteintes, que peut-on dire de la g´eom´etrie (M,C)? Pour le cas des structures conformes pseudo-riemanniennes, nous pouvons r´esumer la situation dans l’´enonc´e sui- vant, obtenu `a partir des travaux [BFM09] et [FrM10].

Th´eor`eme 4.11. [BFM09, Th´eor`eme 1.5], [FrM10, Th´eor`emes 1.1 et 1.2] Soit (M, g) une vari´et´e pseudo-riemannienne de signature (p, q), avec p+q ≥ 3 et p ≤ q. On suppose qu’un groupe de Lie connexe H agit sur M par transformations conformes. On a les majorations suivantes sur le rang et l’indice de nilpotence de H :

• rg(Ad H) ≤ p + 1. • n(H) ≤ 2p + 1.

Si l’une de ces bornes est atteinte, alors la vari´et´e M est conform´ement ´

equivalente `a un quotient Γ\ gEinp,q, pour un certain groupe discret Γ ⊂ ˜O(p + 1, q + 1).

La borne sur le rang d´ecoule directement du corollaire 4.10 puisque les structures pseudo-riemanniennes conformes de signature (p, q) sont des g´eom´e- tries de Cartan model´ees sur Einp,q = P O(p + 1, q + 1)/P . Ici le rang de

Ad P est celui de P O(p + 1, q + 1), `a savoir p + 1. En revanche la borne sur le degr´e de nilpotence am´eliore celle pr´edite par le corollaire 4.10, qui ´etait n(H) ≤ 2p + 2.

Lorsque la signature est riemannienne, le r´esultat d´ecoule trivialement du th´eor`eme 2.8. Si H est un groupe simple de rang p+1 agissant sur une vari´et´e de signature (p, q), le th´eor`eme est couvert par l’article [BN02] compl´et´e par [FrZ05]. En fait, le th´eor`eme 1.5 de [BFM09] d´emontre un r´esultat de rigidit´e plus g´en´eral, valable pour toutes les g´eom´etries paraboliques (dont les structures conformes font partie). Par ailleurs, dans le cas d’une action isom´etrique d’un groupe H sur une vari´et´e pseudo-riemannienne compacte de signature (p, q), le corollaire 4.10 fournit les majorations rg(Ad H) ≤ p et n(H) ≤ 2p. Ainsi, les bornes du th´eor`eme 4.11 ne sont jamais atteintes pour une action isom´etrique, et le th´eor`eme fournit un exemple suppl´ementaire o`u l’existence d’un ph´enom`ene conforme essentiel contraint beaucoup la g´eom´e- trie.

Id´ee de preuve. — La preuve s’effectue en deux ´etapes. La premi`ere consiste `a combiner les hypoth`eses alg´ebriques sur le groupe H, et le th´eor`eme 4.9 pour obtenir des informations g´eom´etriques sur l’action de H. Reprenons les notations du th´eor`eme 4.9, ainsi que celles de sa preuve. L’id´ee est que si H poss`ede des sous-groupes moyennables S suffisamment gros par rapport au groupe G = P O(p + 1, q + 1), alors pour tout x dans l’ensemble Λ, l’espace hˆxne pourra pas ˆetre transverse `a p, et l’action va admettre des stabilisateurs

de points non triviaux, dont la dynamique locale pourra ˆetre exploit´ee pour annuler la courbure conforme.

Nous pr´esentons bri`evement les arguments lorsque le groupe H satisfait l’hypoth`ese rg(Ad H) = p + 1. Cette hypoth`ese implique l’existence d’un groupe ab´elien connexe AH ⊂ H tel que Ad AH ⊂ GL(h) soit diagonalisable

sur R et de dimension p+1. Si l’on applique le th´eor`eme 4.9 pour S = AH, on

h´erite d’un point x ∈ M , d’une alg`ebre de Lie s∗<sub>xˆ</sub> ⊂ ad p qui laisse invariante hˆx et contient une sous-alg`ebre ab´elienne, diagonalisable sur R, de dimension

p + 1. Comme le rang de P O(p + 1, q + 1) est p + 1, s∗_xˆ contient ad a, o`u a est une sous-alg`ebre de Cartan de o(p + 1, q + 1) contenue dans p. En particulier, comme Ad AH agit trivialement sur aH, ad a agit trivialement

sur αxˆ(aH). Or le centralisateur de a dans o(p + 1, q + 1) est une sous-alg`ebre

a⊕ m ⊂ p, o`u m est l’alg`ebre de Lie d’un groupe compact. Nous obtenons donc αxˆ(aH) ⊂ a ⊕ m, ce qui a la cons´equence g´eom´etrique suivante : il existe

un ´el´ement h ∈ H qui fixe le point x, et dont l’action sur un voisinage U de x est conjugu´ee de mani`ere lisse `a celle d’une contraction lin´eaire x 7→ λ.A, avec 0 < λ < 1 et A ∈ O(n). Pour tout y ∈ U , le tenseur de Weyl satisfait

la relation d’´equivariance

Dyhk(Wy(u, v, w)) = Whk_(y)(D_yhk(u), D_yhk(v), D_yhk(w)).

Ceci conduit, par le mˆeme argument que celui expos´e en section 3.3.2, `a W = 0 sur U . L’analyse ´etant valable sur tout ferm´e invariant par H, on obtient que l’ensemble des points o`u la courbure conforme s’annule est non vide, ferm´e et ouvert dans M . La vari´et´e (M, g) est donc conform´ement plate, et M est une (P O(p + 1, q + 1), Einp,q)-structure. On utilise alors les outils standard pour l’´etude des (G, X)-structures (application d´eveloppante, morphisme d’holonomie) pour conclure que notre (P O(p + 1, q + 1), Einp,q)- structure est compl`ete.