Automorphismes et admissibilité dans les groupes de Coxeter et les monoïdes d'Artin-Tits

HAL Id: tel-00136943

https://tel.archives-ouvertes.fr/tel-00136943

Submitted on 16 Mar 2007

HAL is a multi-disciplinary open access

archive for the deposit and dissemination of sci-entific research documents, whether they are pub-lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

Automorphismes et admissibilité dans les groupes de

Coxeter et les monoïdes d’Artin-Tits

Anatole Castella

To cite this version:

Anatole Castella. Automorphismes et admissibilité dans les groupes de Coxeter et les monoïdes d’Artin-Tits. Mathématiques [math]. Université Paris Sud - Paris XI, 2006. Français. �tel-00136943�

N➦ d’ordre : 2782

UNIVERSIT´

E PARIS-SUD

FACULT´

E DES SCIENCES D’ORSAY

TH`

ESE

Pr´esent´ee pour obtenir

LE GRADE DE DOCTEUR EN SCIENCES DE L’UNIVERSIT´E PARIS XI

Sp´ecialit´e : Math´ematiques

par

Anatole CASTELLA

AUTOMORPHISMES ET ADMISSIBILIT´

E DANS LES GROUPES

DE COXETER ET LES MONO¨IDES D’ARTIN-TITS

Soutenue le 13 d´ecembre 2006 devant la commission d’examen constitu´ee de : M. Patrick DEHORNOY (Pr´esident du jury)

M. Jean-Yves H´EE (Directeur de th`ese) M. Jean MICHEL

M. Luis PARIS (Rapporteur) M. Fr´ed´eric PAULIN

Membre de la commission absent le jour de la soutenance : M. Bernhard M ¨UHLHERR (Rapporteur)

iii

Remerciements

L’exercice des remerciements n’est pas facile, peut-ˆetre le pratiquons-nous trop rarement. Essayons.

Je tiens en premier lieu `a remercier mon directeur de th`ese Jean-Yves H´ee. Il est `a l’origine de mon int´erˆet pour les sujets trait´es dans ce m´emoire, et m’a bien sˆur consid´erablement aid´e dans l’´elaboration de ce dernier. Il a toujours ´et´e avec moi d’une grande disponibilit´e et d’une remarquable bienveillance (sans c´eder sur la rigueur math´ematique), tout en me laissant une grande autonomie.

Outre mon directeur de th`ese, je dois de vifs remerciements aux membres du GDR Tresses qui m’ont chaleureusement accueilli, invit´e `a pr´esenter mes travaux, et avec qui j’ai pu avoir de profitables discussions, en particulier `a Fran¸cois Digne, Jean Michel, Luis Paris, Ivan Marin, Eddy Godelle et Patrick Dehornoy.

C’est un honneur pour moi que Patrick Dehornoy, Jean Michel, Bernhard M¨uhlherr, Luis Paris et Fr´ed´eric Paulin aient accept´e de faire partie de mon jury. Je remercie encore Bernard M¨uhlherr et Luis Paris pour avoir bien voulu ˆetre les rapporteurs de ma th`ese.

Un grand merci `a mes parents pour tout, et `a mes grands-parents pour leur soutien inconditionnel (malgr´e les groupes de ”Coquecigrue”!). Je pense ´egalement `a mes fr`eres, mes belles-sœurs et aux petits nouveaux de l’ann´ee : Valentine et Rapha¨el.

Je souhaite aussi saluer Evelyne et Patrick et les remercier de leur gentillesse et de tout ce qu’ils ont fait pour moi.

Je ne serais rien non plus sans mes amis, ceux de Monastir, de Loudun ou de Tours, que j’ai trop d´elaiss´es depuis mon arriv´ee `a Paris, et ceux qui m’ont permis de m’acclimater dans cette ville du nord : C´edric, Nico (1 et 2), Freud, J-B, Kiki, C´eline (il y en a aussi plusieurs), David, Marc, Seb, Anne-C´e, Lapin, Olivier, Aur´elien, Anne, Bertrand, Herv´e, Hakim, Claire, Rapha¨elle, Gih`ene, Yann, Laurence et Jean, Thomas et P´en´elope ...

Sommaire

Introduction. 1

I Sur les automorphismes et la rigidit´e des groupes de Coxeter `a angles

droits. 11

1 Pr´eliminaires. 13

1.1 G´en´eralit´es sur les groupes et sur les groupes de Coxeter. . . 13

1.2 Le cas `a angles droits. . . 14

2 Outils. 17 2.1 Ensembles `a relation. . . 17

2.2 Cellules et noyaux. . . 18

2.3 Th´eor`eme principal. . . 20

3 Sur la rigidit´e des groupes de Coxeter `a angles droits. 23 3.1 Les groupes de Coxeter `a angles droits sont rigides. . . 23

3.2 Sur la rigidit´e forte. . . 24

4 Le groupe Aut([S], [S]c). 27 4.1 Les sous-groupes Aut(Γ) et K(Γ). D´evissage de Aut([S], [S]c). . . 27

4.2 Les sous-groupes D(Γ) et K◦(Γ). D´evissage de K(Γ). . . 28

4.3 Etude du groupe K´ ◦(Γ). . . 29

— Les sous-groupes K_Y◦(Γ), Y ⊆ S, de K◦(Γ). . . 29

— Parties d’´epaisseur nulle. . . 31

— Profondeur et d´ecomposition en parties d’´epaisseur nulle. . . 33

4.4 Conclusion. . . 34

— Cas des groupes de Coxeter `a angles droits de rang fini. . . 35

5 Exemples. 37

vi Sommaire

II Sous-mono¨ıdes admissibles des mono¨ıdes d’Artin-Tits. 41

6 Pr´eliminaires. 43

6.1 G´en´eralit´es sur les mono¨ıdes. . . 43

6.2 Mono¨ıdes et groupes d’Artin-Tits. . . 44

7 Partitions admissibles. 47 7.1 D´efinitions. . . 47

7.2 Partitions admissibles et groupes de Coxeter. . . 48

7.3 Exemples. . . 50

8 Morphismes admissibles entre mono¨ıdes d’Artin-Tits. 51 8.1 Morphismes qui respectent les ppcm. . . 51

8.2 Partitions admissibles et mono¨ıdes d’Artin-Tits. . . 52

8.3 Les morphismes admissibles dans la litt´erature. . . 54

— Morphismes admissibles et automorphismes du graphe. . . 54

— Morphismes admissibles et LCM-homomorphismes. . . 55

— Morphismes admissibles et ´eclatement d’un graphe de Coxeter. . . 56

8.4 Quelques propri´et´es des morphismes admissibles. . . 58

— Respect de la combinatoire des mono¨ıdes d’Artin-Tits. . . 58

— Compos´e de morphismes admissibles. . . 60

— Interpr´etations g´eom´etriques. . . 61

9 Classification. 63 9.1 Partitions admissibles et r´eductibilit´e. . . 63

— Partition d’un graphe sph´erique en composantes connexes. . . 63

— Trace d’une partition admissible sur les composantes connexes. . . 64

9.2 Classification des 2-partitions admissibles des graphes sph´eriques. . . 66

— 2-partitions admissibles des graphes An, Bn et Dn. . . 66

— 2-partitions admissibles des graphes E6, E7 et E8. . . 67

— 2-partitions admissibles des graphes F4, H3, H4 (et I2(m)). . . 68

9.3 Pliages. . . 68

III Sur la repr´esentation de Krammer-Paris. 71 10 Pr´eliminaires. 73 10.1 Syst`emes de racines standard. . . 73

vii 10.3 Morphismes de Krammer. . . 74

11 Repr´esentation de Krammer-Paris. 77

11.1 D´efinition. . . 77 11.2 Sur la fid´elit´e de la repr´esentation de Krammer-Paris. . . 79 11.3 Action d’un groupe d’automorphismes du graphe. . . 80

Introduction.

Ce texte est une contribution `a l’´etude des groupes de Coxeter et des groupes d’Artin-Tits. Les premiers ont ´et´e introduits par H.S.M. Coxeter [Cox35], pour l’´etude des groupes finis de r´eflexions r´eelles, et les seconds sont apparus dans un article d’E. Artin [Art25], dans le cas particulier du groupe des tresses. Dans les deux cas, les d´efinitions g´en´erales ont ´et´e donn´ees par J. Tits, dans [Tit61] pour les premiers et dans [Tit66] pour les seconds.

Nous abordons et ´etudions ces groupes de fa¸con combinatoire. Les principaux r´esultats obtenus ici concernent les diff´erents syst`emes de Coxeter (resp. d’Artin-Tits) que l’on peut trouver dans un mˆeme groupe de Coxeter (resp. d’Artin-Tits) : nous nous int´eressons, dans un premier temps, aux syst`emes de Coxeter admis par un groupe de Coxeter dans son entier, puis, dans un second temps, `a des sous-groupes d’un groupe de Coxeter (resp. d’Artin-Tits) qui sont eux-mˆemes des groupes de Coxeter (resp. d’Artin-Tits).

Ce travail se d´ecompose en trois parties, les deux derni`eres ´etant ind´ependantes de la premi`ere.

Dans la premi`ere partie, nous poursuivons les ´etudes de [Tit88, M¨uh98, Rad01, Hos03] sur le probl`eme d’isomorphie des groupes de Coxeter `a angles droits, qui consiste `a d´eterminer les diff´erents syst`emes de Coxeter qu’admet un groupe de Coxeter fix´e. Nous compl´etons la description du groupe des automorphismes d’un groupe de Coxeter `a angles droits de [Tit88, M¨uh98], en ´etudiant le second des deux sous-groupes qui apparaissent dans la d´ecomposition en produit semi-direct ´etablie dans [Tit88] (le premier est d´ecrit dans [M¨uh98]). Notre ´etude nous fournit une nouvelle preuve du fait que les groupes de Coxeter `a angles droits sont rigides [Rad01, Hos03], c’est-`a-dire que chacun admet un unique syst`eme de Coxeter (`a isomorphisme pr`es). Les r´esultats de cette premi`ere partie ont ´et´e publi´es au Journal of Algebra 301 (2006), pages 642-669.

Dans la deuxi`eme partie, nous introduisons la notion de sous-mono¨ıde (resp. sous-groupe) admissible d’un mono¨ıde (resp. groupe) d’Artin-Tits. La terminologie choisie vient du fait que ces sous-mono¨ıdes (resp. sous-groupes) sont induits par une partition admissible du graphe de Coxeter, au sens de B. M¨uhlherr [M¨uh93]. Nous montrons qu’un sous-mono¨ıde (resp. sous-groupe) admissible d’un mono¨ıde d’Artin-Tits (resp. d’un groupe d’Artin-Tits de type sph´erique) est un mono¨ıde (resp. groupe) d’Artin-Tits. Cette construction g´en´eralise et unifie diff´erentes situations d´ej`a consid´er´ees dans la litt´erature, notamment la situation des sous-mono¨ıdes (resp. sous-groupes) des points fixes d’un mono¨ıde d’Artin-Tits (resp. d’un groupe d’Artin-Tits de type sph´erique) sous l’action d’un groupe d’automorphismes du graphe, ´etudi´ee dans [DP99, Mic99, Cri00, BDM02], et la notion de LCM-homomorphisme d´efinie dans [Cri99, God02]. Nous achevons la classification des partitions admissibles des graphes de Coxeter sph´eriques, commenc´ee dans [M¨uh94] ; elle nous fournit, par exemple, la classification des LCM-homomorphismes de [Cri99].

2 Introduction. Dans la troisi`eme partie, nous consid´erons le mono¨ıde B+ et le groupe d’Artin-Tits B associ´es `a un graphe de Coxeter Γ simplement lac´e et sans triangle, et nous ´etudions la repr´esentation lin´eaire de B construite par L. Paris dans [Par02]. Nous nous int´eressons plus pr´ecis´ement `a la repr´esentation du sous-mono¨ıde des points fixes (B+)Gde B+ sous l’action d’un groupe G d’automorphismes de Γ induite par cette repr´esentation. Le sous-mono¨ıde (B+<sub>)</sub>G <sub>stabilise le sous-espace des points fixes de l’espace de la repr´esentation sous l’action</sub> de G. Nous montrons que, si le groupe G est fini, la repr´esentation de (B+)G dans le sous-espace ainsi obtenue est fid`ele ; lorsque le sous-mono¨ıde est de type sph´erique, cela implique que la repr´esentation du sous-groupe des points fixes BG _{de B sous l’action de G dans le} sous-espace est fid`ele.

Voici les d´efinitions pr´ecises des groupes de Coxeter et des mono¨ıdes et groupes d’Artin-Tits, suivies d’un r´esum´e plus d´etaill´e, partie par partie, des r´esultats de cette th`ese.

Une matrice de Coxeter est une matrice sym´etrique Γ = (mi,j)i,j∈I `a coefficients dans N>1∪ {∞}, telle que mi,j = 1 si et seulement si i = j. On identifie une telle matrice Γ et son graphe de Coxeter, qui est le graphe d’ensemble de sommets I et dans lequel deux sommets i et j sont reli´es par une arˆete ´etiquet´ee mi,j si mi,j > 3 (on omet usuellement l’´etiquette lorsque mi,j = 3).

On ne suppose pas l’ensemble I fini, puisque nombre des r´esultats classiques sur les groupes de Coxeter et les mono¨ıdes et groupes d’Artin-Tits, et des r´esultats pr´esent´es ici, ne font pas intervenir cette hypoth`ese ; nous l’ajouterons explicitement, si n´ecessaire.

Le groupe de Coxeter WΓ, le groupe d’Artin-Tits BΓ et le mono¨ıde d’Artin-Tits BΓ+ associ´es `a Γ sont donn´es par les pr´esentations :

WΓ = < si, i ∈ I | s2i = 1, sisjsi· · · | {z } mi,j = sjsisj· · · | {z } mi,j , si mi,j 6= ∞ >, BΓ = < si, i ∈ I | sisjsi· · · | {z } mi,j = sjsisj· · · | {z } mi,j , si mi,j 6= ∞ >, B_Γ+ = < si, i ∈ I | sisjsi· · · | {z } mi,j = sjsisj· · · | {z } mi,j , si mi,j 6= ∞ >+,

o`u les deux premi`eres pr´esentations sont des pr´esentations de groupe, et la troisi`eme est une pr´esentation de mono¨ıde. Nous notons de la mˆeme fa¸con les g´en´erateurs de B<sub>Γ</sub>+ et de BΓ, ce qui ne pose pas de probl`eme puisque, d’apr`es [Par02], le morphisme canonique de B<sub>Γ</sub>+ dans BΓ est injectif et nous permet donc d’identifier B<sub>Γ</sub>+ au sous-mono¨ıde de BΓ engendr´e par les si, i ∈ I (le r´esultat de [Par02] est donn´e pour I fini, mais cela implique le r´esultat g´en´eral). On pose SΓ = {si | i ∈ I}, SΓ = {si | i ∈ I} et l’on dit que le couple (WΓ, SΓ) (resp. (BΓ, SΓ), resp. (B+Γ, SΓ)) est le syst`eme de Coxeter (resp. le syst`eme d’Artin-Tits, resp. le syst`eme d’Artin-Tits positif) de type Γ. Un tel syst`eme d´etermine son type, `a isomorphisme pr`es, car, d’apr`es [Bou68, Ch. V, n➦ 4.3], le coefficient mi,j de la matrice Γ est exactement l’ordre du produit sisj dans le groupe WΓ. En particulier, pour i, j ∈ I, i 6= j, on a si 6= sj (et donc si 6= sj).

On note Aut(Γ) le groupe des automorphismes de Γ, c’est-`a-dire des permutations σ de I telles que, pour tous i, j ∈ I, m<sub>σ(i),σ(j)</sub> = mi,j. Vu les pr´esentations donn´ees ci-dessus, le groupe Aut(Γ) s’identifie — en associant `a chaque permutation de I la permutation de SΓ (resp. de SΓ) correspondante — `a un sous-groupe du groupe Aut(WΓ) (resp. Aut(BΓ), resp. Aut(B_Γ+)) des automorphismes de WΓ (resp. de BΓ, resp. de BΓ+).

3 Par exemple, si Γ est le graphe An = s1 s2 s3 . . . sn, alors, `a isomorphisme pr`es, WΓ est le groupe sym´etrique Sym_n+1 (et si est la transposition (i, i + 1)) et BΓ est le groupe des tresses `a n + 1 brins (et si est le croisement du brin i + 1 au-dessus du brin i).

—

La premi`ere partie de cette th`ese est consacr´ee `a l’´etude du probl`eme d’isomorphie (expli-cit´e dans l’encadr´e ci-dessous) des groupes de Coxeter `a angles droits : on dit qu’une matrice de Coxeter Γ et le groupe de Coxeter associ´e WΓ sont `a angles droits si Γ est `a coefficients dans {1, 2, ∞}.

Probl`eme d’isomorphie. Soit Γ une matrice de Coxeter. 1. D´eterminer le groupe Aut(WΓ) des automorphismes de WΓ.

2. D´ecrire les matrices de Coxeter Γ′ pour lesquelles le groupe WΓ′ est

isomorphe `a WΓ.

On dit que Γ et WΓ sont rigides si WΓ′ ≈ W_Γ implique Γ′ ≈ Γ. Cette propri´et´e n’est

pas toujours satisfaite : les groupes de Coxeter associ´es aux deux graphes de Coxeter non isomorphes suivants (o`u n > 1) :

s2(2n+1)s et s 2n+1_s s,

sont isomorphes au groupe di´edral d’ordre 4(2n + 1) (la partie g´en´eratrice consid´er´ee s’en-voyant sur un ensemble constitu´e, dans le premier cas, de deux r´eflexions dont les axes forment un angle de _2(2n+1)π , et, dans le second cas, de −Id et de deux r´eflexions dont les axes forment un angle de _2n+1π ).

Soient Γ = (mi,j)i,j∈I une matrice de Coxeter `a angles droits et (W, S) = (WΓ, SΓ) le syst`eme de Coxeter de type Γ.

`

A notre connaissance, les premi`eres ´etudes du groupe Aut(W ) sont les articles (parus simultan´ement) [Jam88, Tit88]. Dans [Jam88], L. James a d´etermin´e Aut(W ) dans le cas du graphe lin´eaire fini Γ = s∞ s∞ s . . . s. Au d´ebut de [Tit88], J. Tits a ´etabli, de fa¸con g´en´erale, la d´ecomposition suivante :

Aut(W ) = ker(πAut) ⋊ Aut(W, FS), o`u

• ker(πAut) est le noyau du morphisme πAut : Aut(W ) → Aut(Wab) induit par la projec-tion canonique de W sur son ab´elianis´e Wab,

• Aut(W, FS) est le groupe constitu´e des automorphismes de W qui stabilisent la r´eunion FS des sous-groupes S-sph´eriques de W , c’est-`a-dire des sous-groupes finis de W de la forme hsi | i ∈ Ji, o`u J ⊆ I.

J. Tits a commenc´e l’´etude de ces deux groupes dans la suite de [Tit88] ; il a d´etermin´e le groupe Aut(W, FS) dans quelques exemples, et fourni des indications pour en faire une ´etude syst´ematique. Dans [M¨uh98], B. M¨uhlherr a donn´e une pr´esentation par g´en´erateurs et relations du groupe ker(πAut) (il le note Spe(W )), dans le cas o`u I est fini.

D.G. Radcliffe [Rad99] et T. Hosaka [Hos03] ont montr´e que, si l’on ne consid`ere que des matrices de Coxeter de taille finie, alors les groupes de Coxeter `a angles droits sont rigides. Ils utilisent pour cela des m´ethodes de d´enombrement qui ne s’appliquent pas aux matrices de Coxeter de taille infinie.

4 Introduction. Le but de cette partie est de d´ecrire le groupe Aut(W, FS). Notre ´etude nous permet en particulier de montrer, en toute g´en´eralit´e (sans l’hypoth`ese de finitude de I), que le groupe W est rigide. Apr`es la premi`ere diffusion de ces r´esultats, D. G. Radcliffe nous a signal´e que le r´esultat de rigidit´e est en fait cons´equence du th´eor`eme [Rad01, 5.23] de sa th`ese, dont nous n’avions alors pas connaissance. Nous esp´erons que notre approche du probl`eme n’est pas rendue superflue par celle de [Rad01] ; signalons, pour justifier cet espoir, que notre d´emonstration semble plus simple que celle de [Rad01, 5.23], puisqu’elle ne repose essentiellement que sur des r´esultats de [Tit88] et sur des raisonnements combinatoires.

Dans le premier chapitre, nous rappelons les propri´et´es g´en´erales des groupes de Coxeter n´ecessaires `a notre ´etude, et les r´esultats principaux ´etablis par J. Tits dans [Tit88]. Ceux-ci impliquent que, si Γ est une matrice de Coxeter `a angles droits, alors les seules matrices de Coxeter Γ′ telles que WΓ ≈ WΓ′ sont `a angles droits et de mˆeme dimension (finie ou

infinie) que Γ ; de plus, pour de telles matrices Γ′, il existe un isomorphisme du F2-espace vectoriel [S] des parties finies de S sur l’espace vectoriel [S′] des parties finies de S′ = SΓ′, qui

envoie l’ensemble [S]c des parties finies et commutatives de S sur l’ensemble [S′]c des parties finies et commutatives de S′. Ils permettent aussi d’identifier le groupe Aut(W, FS) (via πAut) au groupe Aut(Wab, F ) constitu´e des automorphismes de Wab qui stabilisent l’image F de l’ensemble F des ´el´ements d’ordre fini de W , ou encore au groupe Aut([S], [S]c) des automorphismes de [S] qui stabilisent [S]c (cf. sections 1.1 `a 1.2).

Dans le chapitre 2, nous introduisons les outils et pr´esentons les premiers r´esultats n´e-cessaires `a notre ´etude. La terminologie employ´ee — motiv´ee par la situation de l’ensemble S = SΓ muni de la relation de commutation dans S — et le r´esultat principal sont les sui-vants (nous suivons ici, en partie, les id´ees de [Tit88], notamment pour les propri´et´es et le rˆole des cellules) :

D´efinitions (2.1.1, 2.1.4, 2.2.1 et 2.2.4). Nous appelons ensemble `a relation tout couple (E, R) o`u E est un ensemble et R une relation binaire sym´etrique et r´eflexive sur E. Si (E, R) et (E′, R′) sont deux ensembles `a relation, nous appelons isomorphisme d’ensembles `

a relation de (E, R) sur (E′, R′) toute bijection σ de E sur E′ telle que (σ × σ)(R) = R′. Soit (E, R) un ensemble `a relation. Nous notons P(E) (resp. [E]) le F2-espace vectoriel des parties (resp. des parties finies) de E (cf. section 1.1). Nous notons Pc(E) (resp. [E]c) l’ensemble des parties (resp. des parties finies) de E constitu´ees d’´el´ements deux `a deux en relation R.

Soit C : P(E) → P(E), X 7→ {y ∈ E | ∀x ∈ X, yRx}. Nous appelons noyaux les classes d’´equivalence de la relation C({x}) = C({y}) sur E. Si N est un noyau, on appelle cellule de N la partie Cel(N ) = C2_{({x}), x ∈ N (ind´ependante du choix de x ∈ N ). Nous} notons N = N (E, R) l’ensemble des noyaux et C = C(E, R) l’ensemble des cellules. On munit l’ensemble N (resp. C) de la relation binaire sym´etrique et r´eflexive RP donn´ee par XRPY ⇔ X ∪ Y ∈ Pc(E).

Th´eor`eme (2.3.6). Soient (E, R) et (E′, R′) deux ensembles `a relation et soit ϕ un isomor-phisme de [E] sur [E′] envoyant [E]c sur [E′]c.

1. L’isomorphisme ϕ induit un isomorphisme d’ensembles `a relation qui respecte le car-dinal ϕN :  (N , RP) −→ (N∼ ′, R′P) N 7−→ N′ , o`u ϕ([Cel(N )]) = [Cel(N ′_)].

5 2. Les ensembles `a relation (E, R) et (E′, R′) sont isomorphes.

Le chapitre 3 est consacr´e `a l’´etude de la rigidit´e (section 3.1) et d’une notion plus fine de rigidit´e (section 3.2) des groupes de Coxeter `a angles droits. Lorsque WΓ ≈ WΓ′, on

est assur´e, grˆace aux r´esultats du chapitre 1 rappel´es ci-dessus, du fait que la matrice Γ′ est `a angles droits et de l’existence d’un isomorphisme de [S] sur [S′] qui envoie [S]c sur [S′]c. On obtient donc, comme corollaire du Th´eor`eme 2.3.6 et de fa¸con ind´ependante de [Rad99, Hos03, Rad01], le r´esultat suivant :

Th´eor`eme (3.1.2). Les groupes de Coxeter `a angles droits sont rigides.

Dans le chapitre 4, nous d´ecrivons le groupe Aut(W, FS), que l’on choisit d’expliciter en termes d’alg`ebre lin´eaire sur F2, en profitant de son identification au groupe Aut([S], [S]c) rappel´ee ci-dessus. Soit R = RΓ la relation de commutation dans S. Posons N = N (S, R) et C = C(S, R).

Le th´eor`eme 2.3.6 fournit le morphisme θ : ϕ 7→ ϕN, de Aut([S], [S]c) dans le groupe Aut(N , RP, Card) des automorphismes de l’ensemble `a relation (N , RP) qui respectent le cardinal ; on note K(Γ) le noyau de θ. Dans la section 4.1, on construit une section de θ `

a valeurs dans le groupe Aut(Γ), on dispose donc d’un sous-groupe G de Aut(Γ) tel que Aut([S], [S]c) = K(Γ) ⋊ G (cf. Proposition 4.1.3).

Dans la section 4.2, on montre que le groupe K(Γ) est exactement le groupe des automor-phismes de [S] qui stabilisent chaque sous-espace [T ], pour T ∈ C (cf. proposition 4.2.1). Il se d´ecompose lui-mˆeme en le produit semi-direct K(Γ) = K◦(Γ) ⋊ D(Γ) (cf. proposition 4.2.5), o`u D(Γ) est le groupe des automorphismes de [S] qui stabilisent chaque sous-espace [N ], pour N ∈ N — comme N est une partition de S, on a [S] = ⊕N ∈N[N ] et D(Γ) ≈QN ∈N Aut([N ]) — et o`u K◦(Γ) est le sous-groupe de K(Γ) suivant (cf. notation 4.2.4), o`u, pour s ∈ S, on note N (s) le noyau de s et on pose (C2({s}))◦ = C2({s}) \ N (s) :

K◦(Γ) = {ϕ ∈ K(Γ) | ∀ s ∈ S, ϕ({s}) ∈ {s} + [(C2({s}))◦]}.

On ´etudie le groupe K◦(Γ) dans la section 4.3. Pour Y ⊆ S, on note K_Y◦(Γ) le sous-groupe de K◦(Γ) constitu´e des ´el´ements de K◦(Γ) qui laissent fixe chaque singleton {s}, pour s 6∈ Y (cf. notation 4.3.3). On renvoie `a la d´efinition 4.3.17 pour la notion ”d’´epaisseur”, dans N∪{∞}, de Y . Lorsque Y est d’´epaisseur nulle, le groupe K◦

Y(Γ) est un 2-groupe ´el´ementaire simple `a d´ecrire (cf. formules (E1) ou (E2), page 33). Lorsque Y est d’´epaisseur finie e, on dispose d’une partition de Y en parties Y0, Y1, . . . , Ye d’´epaisseur nulle (cf. d´efinition 4.3.15) et du r´esultat suivant :

Th´eor`eme (4.3.18). Soit Y ⊆ S d’´epaisseur finie e. Alors :

K_Y◦(Γ) = K_Y◦₀(Γ) ⋊ (K_Y◦₁(Γ) ⋊ (· · · ⋊ (K_Y◦_e−1(Γ) ⋊ K_Y◦_e(Γ)) · · · )).

Ce r´esultat s’applique au groupe K◦(Γ) = K_S◦(Γ) si S est d’´epaisseur finie (c’est en par-ticulier le cas si S est fini). Dans la section 4.4, nous interpr´etons l’´etude effectu´ee en termes matriciels, dans le cas o`u S est fini ; nous exhibons alors une partie g´en´eratrice (en g´en´e-ral non minimale) de Aut([S], [S]c), consitu´ee d’automorphismes de Γ et d’automorphismes involutifs.

Dans le chapitre 5, nous illustrons notre propos par quelques exemples qui compl`etent ceux trait´es dans [Jam88] et dans [Tit88].

6 Introduction. Le but de la deuxi`eme partie est de d´efinir et d’´etudier les mono¨ıdes (resp. sous-groupes) admissibles d’un mono¨ıde (resp. groupe) d’Artin-Tits. Ils sont l’analogue, pour les mono¨ıdes et groupes d’Artin-Tits, des sous-groupes des groupes de Coxeter d´efinis et ´etudi´es par B. M¨uhlherr, dans [M¨uh93], `a partir de la notion de partition admissible d’un graphe de Coxeter.

Dans le chapitre 6, nous introduisons les notations g´en´erales et les propri´et´es des mono¨ıdes et des groupes d’Artin-Tits utilis´ees dans le reste de la partie.

Le chapitre 7 est consacr´e au rappel de la notion de partition admissible d’un graphe de Coxeter et des r´esultats principaux de [M¨uh93]. La situation est la suivante : consid´erons une matrice de Coxeter Γ = (mi,j)i,j∈I et une partition ˜I de I constitu´ee de parties sph´eriques, et formons le sous-groupe ˜W = hrα | α ∈ ˜Ii de W = WΓ, o`u chaque rα est l’unique ´el´ement de longueur maximale dans le sous-groupe fini Wα = hsi | i ∈ αi de W . Les rα sont des ´el´ements d’ordre 2, et il semble naturel de chercher `a voir si le couple ( ˜W , {rα| α ∈ ˜I}) est un syst`eme de Coxeter. S’il l’est, son type est la matrice ˜Γ = (|rαrβ|)_{α,β∈ ˜I} form´ee des ordres des produits rαrβ.

Par exemple, si ˜I = {α, β} a deux ´el´ements, alors ˜W = hrα, rβi est un groupe di´edral d’ordre 2|rαrβ|, donc le couple ( ˜W , {rα, rβ}) est un syst`eme de Coxeter de type I2(|rαrβ|). Par contre, dans le cas de la partition de A5 suivante :

A5= ❝❡ 1 s 2 ❝ 3 ❝ 4 ❝ 5 , avec α = {1}, β = {2} et γ = {3, 4, 5}, le graphe de Coxeter de ˜Γ = (|rαrβ|)_{α,β∈ ˜I} est le graphe affine eG2= ❝❡

α s β ₆ ❝ γ , donc le couple ( ˜W , {rα, rβ, rγ}) n’est pas un syst`eme de Coxeter (puisque ˜Γ est non sph´erique alors que ˜W est fini).

Consid´erons la longueur ℓ dans W , par rapport `a l’ensemble {si | i ∈ I}. On a, pour tout ´el´ement w ∈ W et tout i ∈ I, ℓ(wsi) = ℓ(w) ± 1. La condition d’admissibilit´e d’une partition ˜I de I constitu´ee de parties sph´eriques, est la condition qui sp´ecifie que, pour tout (w, α) ∈ ˜W × ˜I, on a soit ℓ(wsi) = ℓ(w) − 1 pour tout i ∈ α, soit ℓ(wsi) = ℓ(w) + 1 pour tout i ∈ α. Le r´esultat [M¨uh93, 1.1] affirme que, si ˜I une partition admissible de Γ, alors le couple ( ˜W , {rα| α ∈ ˜I}) est un syst`eme de Coxeter (de type ˜Γ).

L’objet du chapitre 8 est d’´etudier l’analogue de cette situation pour le mono¨ıde d’Artin-Tits B+ = B_Γ+ et pour le groupe d’Artin-Tits B = BΓ. Le morphisme π : B+ → W , donn´e par si7→ si, admet une section ensembliste canonique dont l’image est not´ee B_red+ , ensemble des ´el´ements simples de B+. Si ˜I est une partition de I constitu´ee de parties sph´eriques, nous notons, pour chaque α ∈ ˜I, ∆α le relev´e de rα dans B_red+ , et ˜B+ (resp. ˜B) le sous-mono¨ıde de B+ (resp. le sous-groupe de B) engendr´e par les ∆α, α ∈ ˜I. Nous obtenons des caract´erisations de l’admissibilit´e d’une partition de Γ en termes d’´el´ements simples dans B+ (Propositions 8.2.2 et 8.2.3), et les deux r´esultats suivants :

Th´eor`eme (8.2.4). Soient Γ = (mi,j)i,j∈I une matrice de Coxeter et ˜I une partition ad-missible de Γ. Alors le couple ( ˜B+, {∆α | α ∈ ˜I}) est un syst`eme d’Artin-Tits positif de type ˜Γ.

Corollaire (8.2.5). Soient Γ = (mi,j)i,j∈I une matrice de Coxeter sph´erique et ˜I une par-tition admissible de Γ. Alors le couple ( ˜B, {∆α | α ∈ ˜I}) est un syst`eme d’Artin-Tits de type ˜Γ.

7 Nous n’avons obtenu la conclusion de 8.2.5 que pour les groupes d’Artin-Tits de type sph´erique. Il est `a noter que les travaux de J. Crisp [Cri00] et d’E. Godelle [God02] four-nissent, grˆace `a des constructions topologiques fond´ees sur les complexes de Deligne (modifi´es) associ´es aux syst`emes d’Artin-Tits consid´er´es, une g´en´eralisation de notre corollaire 8.2.5 `a plusieurs cas non sph´eriques (via le lien entre leurs travaux et notre situation expliqu´e en section 8.3).

Nous appelons sous-mono¨ıde admissible de B+ tout sous-mono¨ıde ˜B+ de B+ d´efini par une partition admissible ˜J d’une partie J de I, et nous d´efinissons les sous-groupes admissibles de B de la mˆeme mani`ere. Dans la section 8.3, nous montrons comment cette construction g´en´eralise et unifie diff´erentes situations :

• la situation du sous-mono¨ıde (resp. sous-groupe) des points fixes d’un mono¨ıde d’Artin-Tits (resp. d’un groupe d’Artin-d’Artin-Tits de type sph´erique) sous l’action d’un groupe d’au-tomorphismes du graphe, ´etudi´ee dans [DP99, Mic99, Cri00, BDM02],

• la situation des images des LCM-homomorphismes de [Cri99, God02],

• la situation des images des morphismes entre mono¨ıdes d’Artin-Tits issu d’un ´eclate-ment d’un graphe de Coxeter de [CP01, Par02].

Dans la section 8.4, nous ´etablissons quelques propri´et´es des sous-mono¨ıdes admissibles. Nous montrons notamment le r´esultat suivant, qui g´en´eralise les r´esultats [Cri99, 2.2], [Cri00, 15] et [God02, 2.6], et qui implique, par exemple, que la forme normale dans un sous-mono¨ıde admissible ˜B+ _{d’un ´el´ement de ˜B}+ _{co¨ıncide avec sa forme normale dans B}+ _{(notons que} dans [Cri99, 2.2] et dans [God02, 2.6], seule l’inclusion ˜B+_red⊆ ˜B+_{∩ B}+

red est d´emontr´ee) : Proposition (8.4.1). Soit ˜B+ _{un sous-mono¨ıde admissible d’un mono¨ıde d’Artin-Tits B}+_. Alors les ´el´ements simples de ˜B+ sont exactement les ´el´ements de ˜B+ qui sont simples dans B+. Autrement dit, ˜B_red+ = ˜B+∩ B_red+ .

Le chapitre 9 est consacr´e `a la classification des partitions admissibles dont la matrice ˜Γ est sans coefficient infini. Grˆace aux r´esultats [M¨uh93, 1.2] et [M¨uh94, 2.5.5] (rappel´es dans le chapitre 7), cela revient `a classifier les partitions admissibles `a deux ´el´ements des graphes sph´eriques.

Dans la section 9.1, nous rappelons les r´esultats [M¨uh94, 2.5.3 et 2.5.4] qui permettent de se ramener au cas irr´eductible ; nous les red´emontrons en raisonnant sur les ´el´ements simples des mono¨ıdes d’Artin-Tits et traitons ainsi, en plus du cas des coefficients finis de [M¨uh94, 2.5.3 et 2.5.4], le cas des coefficients infinis. Nous examinons, en section 9.2, la liste des partitions admissibles `a deux ´el´ements des graphes de Coxeter sph´eriques et irr´eductibles, dress´ee dans [M¨uh94, Table E] ; B. M¨uhlherr a prouv´e que cette liste est exhaustive pour les s´eries infinies An, Bnet Dn[M¨uh94, section 2.5], et nous v´erifions qu’il en est de mˆeme pour les types exceptionnels. Nous prouvons par exemple le r´esultat suivant :

Proposition (9.2.2). Les seules partitions admissibles `a deux ´el´ements {α, β} des graphes E6, E7 et E8 sont les partitions suivantes :

o`u ❞ |rαrβ| = 8, ❞ ❞ t t t ❞ |rαrβ| = 12, ❞ ❞ t t t ❅ ❅ _❞ |rαrβ| = 18, ❞ ❞ t t t t ❅ ❅ _❞ |rαrβ| = 30. ❞ ❞ ❞ t t t t ❅ ❅

8 Introduction. La classification que l’on obtient ainsi se traduit, grˆace aux liens ´etablis dans la section 8.3, en la classification des LCM-homomorphismes de Crisp [Cri99]. Nous la d´etaillons dans la section 9.3 ; ceci nous am`ene `a proposer une g´en´eralisation (et simplification) de la notion de pliage d’un graphe de Coxeter d´efinie dans [Cri99, 4.1].

—

Dans la troisi`eme et derni`ere partie, nous nous int´eressons `a la repr´esentation lin´eaire (fid`ele) des mono¨ıdes d’Artin-Tits de type simplement lac´e et sans triangle construite dans [Par02]. La construction de [Par02] fait suite aux constructions analogues de D. Krammer [Kra02] pour le type An, de A. M. Cohen et D. B. Wales [CW02] pour les types An, Dn, et En, et de F. Digne [Dig03] pour tous les types sph´eriques cristallographiques (i.e. les types An, Bn, Dn, En, F4 et G2 = I2(6)). Nous l’appelons repr´esentation de Krammer-Paris dans ce qui suit.

On dit qu’une matrice de Coxeter Γ = (mi,j)i,j∈I est simplement lac´ee si elle est `a coefficients dans {1, 2, 3}, et qu’elle est sans triangle s’il n’existe pas trois ´el´ements deux `a deux distincts i, j, k ∈ I tels que les coefficients mi,j, mj,k et mk,i soient sup´erieurs ou ´egaux `

a 3.

Dans le chapitre 10, nous introduisons diff´erentes notions n´ecessaires `a la d´efinition et `a l’´etude de la repr´esentation de Krammer-Paris.

Nous rappelons tout d’abord la d´efinition du syst`eme de racines standard associ´e `a un syst`eme de Coxeter (cf. [Deo82]), sur laquelle repose la construction de la repr´esentation de Krammer-Paris. Nous pr´esentons ensuite, dans les sections 10.2 et 10.3, des notions relatives au mono¨ıde des relations binaires sur un ensemble, et les notions de morphismes de Krammer et d’´el´ement de Krammer, d´evelopp´ees par J.-Y. H´ee, dans [H´ee04], pour analyser les preuves de fid´elit´e des repr´esentations consid´er´ees dans [Kra02, CW02, Dig03, Par02].

Soit L : B+ → B_red+ l’application qui envoie 1 sur 1 et qui associe `a un ´el´ement non trivial de B+ <sub>le premier terme de sa forme normale (`a gauche). Si ϕ : B</sub>+ _{→ M est un} morphisme de mono¨ıdes, on dit que ϕ est un morphisme de Krammer si, pour tous a, b ∈ B+, ϕ(a) = ϕ(b) implique L(a) = L(b). Si M = EEest le mono¨ıde des applications d’un ensemble E dans lui-mˆeme, on dit qu’un ´el´ement e de E est un ´el´ement de Krammer pour ϕ si (ϕ(a))(e) = (ϕ(b))(e) implique L(a) = L(b) (et ϕ est alors un morphisme de Krammer). Un morphisme de Krammer `a valeurs dans un mono¨ıde simplifiable (par exemple un groupe) est injectif.

Nous commen¸cons l’´etude de la repr´esentation de Krammer-Paris dans le chapitre 11. Nous en rappelons la d´efinition pr´ecise dans la section 11.1, et interpr´etons la preuve de la fid´elit´e donn´ee dans [Par02], avec la terminologie introduite ci-dessus, dans la section 11.2. L’espace HΓ de cette repr´esentation admet une base (eα)α∈Φ+ index´ee par l’ensemble

Φ+ des racines positives du syst`eme de racines standard Φ associ´e `a Γ. La repr´esentation de Krammer-Paris ψ : B_Γ+ → GL(HΓ), b 7→ ψb, induit un morphisme ρ : B+_Γ → Bin(Φ+), b 7→ Rb, `a valeurs dans le mono¨ıde des relations binaires sur l’ensemble Φ+. On associe `a chaque relation binaire R sur Φ+ une application fR de l’ensemble P(Φ+) des parties de Φ+ dans lui-mˆeme, donn´ee par fR(X) = {α ∈ Φ+| il existe β ∈ Φ+ tel que αRβ}. La preuve de la fid´elit´e de la repr´esentation ψ donn´ee dans [Par02] revient essentiellement `a montrer que l’ensemble Φ+ est un ´el´ement de Krammer pour le morphisme B+ → P(Φ+₎P(Φ+₎

, b 7→ fRb,

c’est-`a-dire que, si deux ´el´ements a et b de B+_Γ sont tels que fRa(Φ

+_{) = f} Rb(Φ

9 cas si ψa= ψb), alors L(a) = L(b). Le morphisme ψ est donc un morphisme de Krammer `a valeurs dans un groupe, donc est injectif.

Nous utilisons cette interpr´etation pour obtenir le r´esultat principal de la section 11.3. Si G est un sous-groupe de Aut(Γ), alors le sous-espace (HΓ)G des points fixes de HΓ sous G (o`u G agit sur HΓ par permutation de la base (eα)α∈Φ+) est stabilis´e par le sous-mono¨ıde

(B_Γ+)G _{des points fixes de B}+

Γ sous G (Proposition 11.3.3), et nous ´etablissons le r´esultat suivant :

Th´eor`eme (11.3.4). Si G est fini, alors la repr´esentation ψG : (B<sub>Γ</sub>+)G → GL((HΓ)G) est fid`ele.

Ce r´esultat g´en´eralise le r´esultat analogue d´emontr´e par F. Digne dans [Dig03], pour les automorphismes d’ordre 2 des graphes A2n−1 (n > 2) et E6 et les automorphismes d’ordre 3 du graphe D4. La preuve que nous donnons de 11.3.4 est nouvelle et g´en´erale, en ceci qu’elle ´evite tout raisonnement cas par cas.

Premi`

ere partie

Sur les automorphismes et la

rigidit´

e des groupes de Coxeter `

a

angles droits.

Chapitre 1

Pr´

eliminaires.

Dans ce premier chapitre, nous exposons les propri´et´es g´en´erales des groupes de Coxeter n´ecessaires `a notre ´etude (section 1.1) et nous rappelons les r´esultats de [Tit88] sur les groupes de Coxeter `a angles droits (section 1.2).

1.1

G´

en´

eralit´

es sur les groupes et sur les groupes de Coxeter.

Nous disons qu’un groupe (fini ou infini) est un 2-groupe ´el´ementaire si tous ses ´el´ements non triviaux sont d’ordre 2. Bien sˆur, les notions de 2-groupe ´el´ementaire et de F2-espace vectoriel (o`u F2 est le corps `a deux ´el´ements) — ainsi que les notions de morphisme corres-pondantes — co¨ıncident et on ne les distinguera donc pas. On pourra par exemple parler de base d’un 2-groupe ´el´ementaire, sans faire explicitement r´ef´erence `a sa structure de F2-espace vectoriel.

L’ab´elianis´e d’un groupe engendr´e par des ´el´ements d’ordre 2 est un 2-groupe ´el´ementaire. Soit E un ensemble. On note P(E) (resp. [E]) l’ensemble des parties (resp. des parties finies) de E et E(E) l’ensemble des singletons de E. Muni de l’op´eration de diff´erence sym´e-trique X + Y = (X ∪ Y ) \ (X ∩ Y ), P(E) est un 2-groupe ´el´ementaire (d’´el´ement neutre ∅) et [E] en est le sous-espace vectoriel de base E(E).

Un groupe de Coxeter est un groupe W admettant une partie g´en´eratrice S form´ee d’´el´e-ments d’ordre 2 telle que, si l’on note, pour s, t ∈ S, ms,t l’ordre du produit st dans W , le groupe W soit donn´e par la pr´esentation :

W = < S | (st)ms,t _{= 1, si s, t ∈ S avec m}

s,t6= ∞ > .

On dit alors que le couple (W, S) est un syst`eme de Coxeter, de type la matrice Γ<sub>(W,S)</sub> = (ms,t)s,t∈S et de rang le cardinal (fini ou infini) de S. Nous disons aussi, dans cette partie, que (W, S) (resp. Γ(W,S)) est un syst`eme de Coxeter (resp. un type) admis par W . Nous disons encore que l’ensemble S est un ensemble de Coxeter pour W et nous notons S(W ) l’ensemble des ensembles de Coxeter pour W .

Cette approche est diff´erente de celle de l’introduction, o`u l’on part d’une matrice de Coxeter Γ = (mi,j)i,j∈I, pour construire le groupe WΓ, dans lequel il n’est pas assur´e, a priori, que le produit sisj est exactement d’ordre mi,j. Le r´esultat [Bou68, Ch. V, n➦ 4.3] montre que c’est en fait toujours le cas, et les deux approches sont donc ´equivalentes, `a un isomorphisme de matrices de Coxeter pr`es — o`u l’on appelle isomorphisme (de matrices)

14 Chapitre 1. Pr´eliminaires. de (ms,t)s,t∈S sur (m′s′_,t′)_s′_,t′_∈S′ toute bijection α : S

∼

−→ S′ _{telle que, pour tous s, t ∈ S,} ms,t = m′_α(s),α(t).

D´efinition 1.1.1. On note S⋆ _{le mono¨ıde des mots sur S (i.e. le mono¨ıde libre engendr´e} par S) et, pour w ∈ W , S⋆(w) l’ensemble des ´el´ements de S⋆ repr´esentant w dans W . Les ´el´ements de longueur minimale de S⋆(w) sont dit r´eduits et leur longueur commune, not´ee ℓS(w), est appel´ee la longueur de w (par rapport `a S).

D’apr`es [Bou68, Ch. IV, n➦ 1.8, Proposition 7], l’ensemble des ´el´ements de S apparaissant dans un mot r´eduit de S⋆(w) ne d´epend que de w ; on appelle cet ensemble le S-support de w et on le note SuppS(w).

Soit X ⊆ S. On note WX le sous-groupe de W engendr´e par X. D’apr`es [Bou68, Ch. IV, n➦ 1.8, Corollaire 1], ce sous-groupe est constitu´e des ´el´ements de W dont le S-support est inclus dans X. On en d´eduit que le couple (WX, X) est un syst`eme de Coxeter de type (ms,t)s,t∈X, que, pour X, Y ⊆ S, on a WX ⊆ WY ⇐⇒ X ⊆ Y , et que, si (Xi)i∈I est une famille de parties de S, alors WT

i∈IXi =

T

i∈IWXi (cf. [Bou68, Ch. IV, n➦ 1.8, Th´eor`eme 2]).

D´efinition 1.1.2. Les sous-groupes WX, X ⊆ S, sont appel´es sous-groupes S-paraboliques standard et on dit que X et WX sont S-sph´eriques lorsque WX est fini.

Nous utiliserons plus loin le r´esultat suivant sur les sous-groupes finis d’un groupe de Coxeter (cf. [Tit88, Proposition 1], ou [Bou68, Exercice 2d, page 130]) :

Proposition 1.1.3. Soit (W, S) un syst`eme de Coxeter. Tout sous-groupe fini de W est, `a conjugaison pr`es, inclus dans un sous-groupe S-sph´erique.

Nous notons Pc(S) (resp. [S]c) l’ensemble des parties commutatives (resp. des parties commutatives et finies) de S. Les ´el´ements de [S]c sont des parties S-sph´eriques et, plus g´en´eralement, pour tout X ∈ Pc(S), le sous-groupe S-parabolique standard WX est un 2-groupe ´el´ementaire de base X.

Notons Aut(Γ) le groupe des automorphismes de la matrice Γ (i.e. le groupe des per-mutations de S qui respectent les coefficients ms,t). Vu la pr´esentation de W , tout ´el´ement de Aut(Γ) se prolonge en un automorphisme de W , et le groupe Aut(Γ) s’identifie ainsi au sous-groupe Aut(W, S) de Aut(W ) constitu´e des automorphismes de W qui stabilisent S. Remarques 1.1.4. Soit σ une permutation de S.

a. L’application X 7→ σ(X) = {σ(x) | x ∈ X} est un ´el´ement de Aut([S]) qui respecte le cardinal et d´etermine enti`erement σ. On la note encore σ.

b. Si σ ∈ Aut(Γ), alors σ stabilise [S]c et d´efinit donc un ´el´ement de Aut([S], [S]c) (qui respecte le cardinal). Le groupe Aut(Γ) s’identifie ainsi `a un sous-groupe de Aut([S], [S]c).

1.2

Le cas `

a angles droits.

D´efinition 1.2.1 (angles droits). Soit (W, S) un syst`eme de Coxeter de type Γ. On dit que (W, S) et Γ sont `a angles droits si Γ est `a coefficients dans {1, 2, ∞}.

Soit (W, S) un syst`eme de Coxeter `a angles droits de type Γ.

Dans ce cas, l’ensemble [S]c des parties commutatives finies de S est exactement l’en-semble des parties S-sph´eriques. Les sous-groupes S-sph´eriques sont donc des 2-groupes

1.2. Le cas `a angles droits. 15 ´el´ementaires et, d’apr`es la proposition 1.1.3, tous les sous-groupes finis de W sont alors des 2-groupes ´el´ementaires. En particulier, pour tous S′ ∈ S(W ) et s′, t′ ∈ S′, s′ 6= t′, si le produit s′t′ est d’ordre fini, alors il est d’ordre 2. Tous les syst`emes de Coxeter admis par W sont donc `a angles droits.

La proposition suivante, qui apparaˆıt dans la d´emonstration du corollaire 1 de [Tit88], montre en particulier que tous les ´el´ements de S(W ) ont mˆeme cardinal, `a savoir la dimension du 2-groupe ´el´ementaire Wab sur F2.

Proposition 1.2.2. Notons π : W → Wab, w 7→ w, le morphisme canonique de W sur son ab´elianis´e.

1. L’application E(S) → Wab, {s} 7→ s se prolonge en un isomorphisme πS de [S] sur Wab_.

2. De plus, πS envoie [S]c sur F , o`u F d´esigne l’ensemble des ´el´ements d’ordre fini de W . D´emonstration. D’apr`es la propri´et´e universelle du syst`eme de Coxeter (W, S), il existe un (unique) morphisme de groupes de W dans [S], envoyant s sur {s}. Comme [S] est ab´elien, ce morphisme passe au quotient en le morphisme ρS : Wab → [S], donn´e par s 7→ {s}. Comme ρS envoie la famille g´en´eratrice (s)s∈S du F2-espace vectoriel Wab sur la base ({s})s∈S du F2-espace vectoriel [S], ρS est un isomorphisme, d’o`u le premier point, avec πS= (ρS)−1.

Montrons que πS([S]c) = F . Soit X ∈ [S]c. Alors πS(X) = Q_s∈Xs appartient `a F , puisque l’´el´ement Q<sub>s∈X</sub>s de W est d’ordre 1 ou 2 (donc appartient `a F ). On a donc πS([S]c) ⊆ F . R´eciproquement, soit w ∈ F . D’apr`es la proposition 1.1.3, il existe une partie S-sph´erique X (de S) telle que w soit conjugu´e `a un ´el´ement de WX. Comme (W, S) est `

a angles droits, on a X ∈ [S]c et w est donc conjugu´e `a un ´el´ement Qs∈Y s, pour un cer-tain Y ⊆ X. On a alors Y ∈ [S]c et w = Qs∈Y s = πS(Y ). On a donc F ⊆ πS([S]c) et le r´esultat.

Remarques 1.2.3. Soient S, S′ ∈ S(W ).

a. L’application (πS′)−1◦ π_S est un isomorphisme de [S] sur [S′] envoyant [S]_c sur [S′]_c.

b. L’isomorphisme πS nous permet d’identifier les groupes Aut([S]) et Aut(Wab) d’une part, et les groupes Aut([S], [S]c) et Aut(Wab, F ) d’autre part.

c. Revenons sur la remarque 1.1.4b. On suppose ici que Γ = Γ_(W,S) est `a angles droits ; on montre alors facilement que le groupe Aut(Γ) s’identifie pr´ecis´ement au sous-groupe de Aut([S], [S]c) constitu´e des ´el´ements de Aut([S], [S]c) qui respectent le cardinal. Commentaires 1.2.4. Identifions Aut([S], [S]c) et Aut(Wab, F ) grˆace `a πS.

a. Pour montrer que la suite :

{1} ֒→ ker(πAut) ֒→ Aut(W ) πAut

−→ Aut(Wab, F ) → {1}

est exacte et scind´ee, J. Tits a d´efini la section de πAut qui, `a tout ϕ ∈ Aut(Wab, F ) = Aut([S], [S]c), associe l’automorphisme de W donn´e sur S par s 7→Qt∈ϕ({s})t.

b. Via cette section, on montre que Aut([S], [S]c) s’identifie au sous-groupe Aut(W, FS) de Aut(W ) constitu´e des automorphismes de W qui stabilisent l’ensemble FS des ´el´e-ments de S-support S-sph´erique, i.e. la r´eunion des sous-groupes S-sph´eriques de W . On a donc Aut(W ) = ker(πAut) ⋊ Aut(W, FS).

c. Via cette section, le sous-groupe de Aut([S], [S]c) identifi´e `a Aut(Γ) comme en re-marque 1.1.4b (ou 1.2.3c) s’envoie bien sur le sous-groupe Aut(W, S) de Aut(W ).

Chapitre 2

Outils.

Dans ce chapitre, nous introduisons et ´etudions les outils combinatoires que nous utilise-rons jusqu’`a la fin de cette premi`ere partie.

Dans la section 2.1, nous d´efinissons la notion d’ensemble `a relation, qui nous permet de traiter, avec la mˆeme terminologie, le cas d’un ensemble de Coxeter S pour un groupe de Coxeter `a angles droits, muni de la relation binaire de commutation dans S, et le cas d’un ensemble de parties commutatives de S, muni de la relation binaire qui sp´ecifie que deux parties commutatives sont de r´eunion commutative. Les cellules et les noyaux, d´efinis dans la section 2.2, sont les sous-ensembles de S qui sont pr´eserv´es (dans un sens pr´ecis´e plus loin) par les isomorphismes que nous consid´erons dans la section 2.3. Les r´esultats de la section 2.3 sont les r´esultats sur lesquels s’appuient les ´etudes des deux chapitres suivants.

2.1

Ensembles `

a relation.

D´efinition 2.1.1 (ensembles `a relation). Nous appelons ensemble `a relation tout couple (E, R) o`u E est un ensemble et R une relation binaire sym´etrique et r´eflexive sur E. Au-trement dit, R est une partie de E × E telle que, pour tous x, y ∈ E, (x, x) ∈ R, et (x, y) ∈ R ⇐⇒ (y, x) ∈ R. On note xRy pour (x, y) ∈ R.

Soient (E, R) et (E′, R′) deux ensembles `a relation. Un isomorphisme (d’ensembles `a relation) de (E, R) sur (E′, R′) est une bijection σ : E ∼

−→ E′ telle que (σ × σ)(R) = R′. S’il en existe un, on dit que les ensembles `a relation (E, R) et (E′, R′) sont isomorphes. En particulier, si (E, R) = (E′, R′), on parle d’automorphismes de (E, R) et on note Aut(E, R) le groupe qu’ils constituent.

Notation 2.1.2 (relation associ´ee `a Γ). Soit (W, S) un syst`eme de Coxeter de type Γ = (ms,t)s,t∈S. On munit S de la relation binaire sym´etrique et r´eflexive de commutation dans S, not´ee RΓ= {(s, t) ∈ S × S | ms,t = 1 ou 2}.

Remarques 2.1.3. Soit W un groupe de Coxeter `a angles droits.

a. Pour S ∈ S(W ) et Γ = Γ_(W,S), la relation RΓ d´etermine enti`erement Γ puisque, pour tous s 6= t ∈ S, on a les ´equivalences suivantes : ms,t = 2 ⇔ sRΓt, et ms,t = ∞ ⇔ (s, t) 6∈ RΓ.

b. On voit alors que, pour S, S′ ∈ S(W ) et Γ = Γ(W,S), Γ′ = Γ(W,S′₎, les notions

d’iso-morphisme de matrices de Γ sur Γ′ et d’isomorphisme d’ensembles `a relation de (S, RΓ) sur (S′, RΓ′) co¨ıncident. En particulier, on a Aut(Γ) = Aut(S, R_Γ).

18 Chapitre 2. Outils. D´efinition 2.1.4 (commutants, parties commutatives). Soit (E, R) un ensemble `a relation. Consid´erons l’application

C = C(E,R): 

P(E) −→ P(E)

X 7−→ {y ∈ E | ∀x ∈ X, yRx} . Pour simplifier, nous notons C(x) l’image C({x}) du singleton {x} de E.

Par analogie avec ce qui se passe pour la relation (S, RΓ) associ´ee `a une matrice de Coxeter Γ, nous disons que :

• pour x, y ∈ E, x et y commutent lorsque xRy (i.e x ∈ C(y)),

• pour X ⊆ E, l’image C(X) est le commutant de X (dans E) et X est commutative si les ´el´ements de X commutent deux `a deux (c’est-`a-dire si X ⊆ C(X)),

et nous notons Pc(E) (resp. [E]c) l’ensemble des parties commutatives (resp. des parties commutatives et finies) de E.

Propri´et´es 2.1.5. Consid´erons l’application C = C(E,R) de 2.1.4. a. C est d´ecroissante (et donc C2 _{est croissante) pour l’inclusion,} b. pour tout X ∈ P(E), X ⊆ C2(X),

c. on d´eduit des assertions a et b que C3 _{= C,}

d. pour tout X ∈ P(E), X est commutative ⇐⇒ C2_{(X) est commutative,} e. pour tout X ∈ P(E), C(X) =T_x∈XC(x).

Notation 2.1.6. Soit (E, R) un ensemble `a relation. Nous notons RP la relation binaire sur P(E) donn´ee par XRPY ⇔ ∀(x, y) ∈ X × Y, xRy.

On v´erifie que RP est sym´etrique (car R l’est) et que, pour X ∈ P(E), on a XRPX si et seulement si X est commutative.

Remarques 2.1.7. Ensembles `a relation constitu´es de parties commutatives de E.

a. Soit X ⊆ Pc(E). On note encore RP la relation RP ∩ X2 induite par RP sur X . C’est une relation sym´etrique et r´eflexive, et le couple (X , RP) est donc un ensemble `

a relation.

b. Pour X, Y ∈ Pc(E), on a XRPY ⇔ (X ∪ Y ) ∈ Pc(E) ⇔ (X + Y ) ∈ Pc(E).

Dans ce qui suit, nous serons amen´es `a consid´erer diff´erents ensembles de parties com-mutatives d’un ensemble `a relation (E, R) (cf. d´efinitions 2.2.1 et 2.2.4). Cependant nous noterons RP, sans plus de pr´ecision, les diff´erentes relations associ´ees `a ces diff´erents en-sembles de parties commutatives ; cela ne provoquera pas de difficult´e majeure puisque la relation XRPY signifiera, dans chaque cas, que la r´eunion X ∪Y (ou la diff´erence sym´etrique X + Y ) est encore commutative.

2.2

Cellules et noyaux.

Soit (E, R) un ensemble `a relation et soit C = C_(E,R).

D´efinition 2.2.1 (cellules). Nous appelons cellules (de (E, R)) les images par C2 _des sin-gletons de E et nous notons C(E, R) l’ensemble qu’elles constituent. Nous disons plus pr´eci-s´ement que la cellule C2(x) est la cellule de x et que x d´efinit la cellule C2(x).

2.2. Cellules et noyaux. 19 Commentaires 2.2.2. Soit X ∈ Pc(E). On montre que C2(X) est l’intersection des parties commutatives maximales de E contenant X. En particulier, pour x ∈ E, la cellule C2_(x) est l’intersection des parties commutatives maximales de E contenant x. C’est sous cette deuxi`eme forme que la notion de cellule d’un ´el´ement a ´et´e introduite par J. Tits dans la partie finale de [Tit88] (C2(x) y est not´e T (x)). Lorsque S est infini, la d´efinition que l’on donne ici a l’avantage d’´eviter d’avoir `a utiliser le lemme de Zorn (pour l’existence des parties commutatives maximales).

Propri´et´es 2.2.3. Propri´et´es des cellules.

a. Pour tout x ∈ E, on a x ∈ C2(x) (cf. propri´et´e 2.1.5b).

b. Les cellules sont des parties commutatives de E (cf. propri´et´e 2.1.5d).

c. Comme C3 _{= C (propri´et´e 2.1.5c), les cellules sont des points fixes de C}2 _{et on a donc} en particulier, pour toute cellule T , x ∈ T =⇒ C2(x) ⊆ T .

D´efinition 2.2.4 (noyaux). Notons ≡ la relation d’´equivalence sur E donn´ee par y ≡ z ⇐⇒ C(y) = C(z) (ou encore y ≡ z ⇐⇒ C2(y) = C2(z), puisque C3 = C). Nous appelons noyaux (de (E, R)) les classes d’´equivalence de E pour ≡ et nous notons N (E, R) l’ensemble qu’ils constituent. Pour x ∈ E, on note N (x) le noyau (la classe) de x dans E.

Notation 2.2.5. Soit T ∈ C(E, R). L’ensemble {x ∈ E | C2(x) = T } est un noyau de (E, R) ; on l’appelle le noyau de T et on le note N oy(T ) (autrement dit, N oy(T ) = N (x) pour tout x ∈ E tel que T = C2(x)).

Soit N ∈ N (E, R). On appelle cellule de N , et on note Cel(N ), la cellule commune aux ´el´ements de N (autrement dit, Cel(N ) = C2_{(x) pour tout x ∈ N ).}

Propri´et´es 2.2.6. Lien entre cellules et noyaux.

a. Soit N un noyau. On a N ⊆ Cel(N ) (cf. propri´et´e 2.2.3a). En particulier, les noyaux sont des parties commutatives (i.e. N (E, R) ⊆ Pc(E)).

b. Toute cellule est la r´eunion (disjointe) des noyaux qu’elle rencontre.

c. Les applications Cel : N (E, R) → C(E, R) et N oy : C(E, R) → N (E, R) sont des bijections inverses l’une de l’autre.

Notons que, les cellules et les noyaux ´etant des parties commutatives de E, on peut munir chacun des ensembles C(E, R) et N (E, R) d’une structure d’ensemble `a relation, avec la relation RP d´efinie en notation 2.1.6 (cf. remarque 2.1.7a). Nous avons alors la proposition suivante :

Proposition 2.2.7. Les bijections Cel et N oy d´ecrites ci-dessus sont des isomorphismes d’ensembles `a relation inverses l’un de l’autre.

D´emonstration. Il s’agit de voir que, pour N, P ∈ N (E, R), on a l’´equivalence N RPP ⇔ Cel(N )RPCel(P ). Comme on a les inclusions N ⊆ Cel(N ) et P ⊆ Cel(P ), l’implication Cel(N )RPCel(P ) ⇒ N RPP est ´evidente.

R´eciproquement, supposons N RPP . Posons Cel(N ) = C2(x) et Cel(P ) = C2(y), pour x ∈ N et y ∈ P . On a xRy, c’est-`a-dire x ∈ C(y), donc C2<sub>(y) ⊆ C(x), et on veut montrer</sub> que, pour tout x′ ∈ Cel(N ) = C2<sub>(x) et tout y</sub>′ <sub>∈ Cel(P ) = C</sub>2<sub>(y), on a x</sub>′<sub>Ry</sub>′<sub>. Comme</sub> y′ ∈ C2(y) ⊆ C(x), on a C2(x) ⊆ C(y′), et comme x′ ∈ C2(x), on a x′ ∈ C(y′), c’est-`a-dire x′Ry′, d’o`u le r´esultat.

Donnons `a pr´esent une propri´et´e importante des noyaux, qui nous servira `a la fois pour montrer la rigidit´e des groupes de Coxeter `a angles droits (cf. section 2.3, th´eor`eme 2.3.6) et pour ´etudier le groupe Aut([S], [S]c) (cf. section 4.1, proposition 4.1.3).

20 Chapitre 2. Outils. Lemme 2.2.8. Pour N, P ∈ N (E, R), on a : N RPP ⇐⇒ ∃ (x, y) ∈ N × P, xRy.

D´emonstration. Le sens direct ´etant ´evident (par d´efinition de RP), montrons la r´eciproque. Soient x ∈ N , y ∈ P , tels que xRy, et soient x′ ∈ N , y′ ∈ P . On a C(x) = C(x′) et C(y) = C(y′) par d´efinition de N et P , et x ∈ C(y) par hypoth`ese sur x et y. On a alors x ∈ C(y′), ou encore y′ ∈ C(x) (puisque R est sym´etrique), d’o`u y′ ∈ C(x′), c’est-`a-dire x′Ry′. On a donc le r´esultat.

Proposition 2.2.9. Soient (E, R) et (E′, R′) deux ensembles `a relation. Supposons qu’il existe un isomorphisme d’ensembles `a relation ψ respectant le cardinal, de (N (E, R), RP) sur (N (E′, R′), R′_P).

Alors toute bijection σ de E sur E′ d´efinie, noyau par noyau, par n’importe quelle bijec-tion de N ∈ N (E, R) sur ψ(N ) ∈ N (E′, R′), est un isomorphisme d’ensembles `a relation de (E, R) sur (E′, R′). En particulier, les ensembles `a relation (E, R) et (E′, R′) sont iso-morphes.

D´emonstration. Remarquons que la construction est possible (grˆace `a l’axiome du choix) car N (E, R) (resp. N (E′, R′)) est une partition de E (resp. E′) et car, pour tout N ∈ N , les noyaux N et ψ(N ) ont mˆeme cardinal par hypoth`ese.

Soient x, y ∈ E. Notons N (resp. P ) le noyau de x (resp. y). Grˆace au lemme 2.2.8 et au fait que ψ est un isomorphisme d’ensembles `a relation, on a les ´equivalences suivantes : xRy ⇔ N RPP ⇔ ψ(N )R′<sub>P</sub>ψ(P ) ⇔ σ(x)R′σ(y). La bijection σ est donc un isomorphisme d’ensembles `a relation.

2.3

Th´

eor`

eme principal.

Soient (E, R) et (E′, R′) deux ensembles `a relation. Posons, pour simplifier, C = C_(E,R), C = C(E, R), N = N (E, R) et C′ = C_(E′_,R′₎, C′ = C(E′, R′), N′ = N (E′, R′).

Supposons qu’il existe un isomorphisme F2-lin´eaire ϕ de [E] sur [E′] envoyant [E]c sur [E′]c.

Lemme 2.3.1. Soient X, Y ∈ [E]c. Alors ϕ(X), ϕ(Y ) ∈ [E′]c et on a : X ∪ Y est commutative ⇐⇒ ϕ(X) ∪ ϕ(Y ) est commutative.

D´emonstration. On suppose X, Y ∈ [E]c et ϕ([E]c) = [E′]c, donc ϕ(X), ϕ(Y ) ∈ [E′]c. De plus, on a X ∪ Y ∈ [E]c ⇔ X + Y ∈ [E]c et ϕ(X) ∪ ϕ(Y ) ∈ [E′]c ⇔ ϕ(X) + ϕ(Y ) ∈ [E′]c (cf. remarque 2.1.7b). Enfin, comme ϕ est un isomorphisme lin´eaire envoyant [E]c sur [E′]c, on a X + Y ∈ [E]c ⇔ ϕ(X) + ϕ(Y ) ∈ [E′]c et on en d´eduit le r´esultat.

Notation 2.3.2. Si T est une cellule d’un ensemble `a relation (E, R), nous posons T◦ = T \ N oy(T ) = {x ∈ E | C2(x) T } et nous notons VT l’espace vectoriel quotient [T ]/[T◦]. Proposition 2.3.3. Conservons les notations introduites ci-dessus.

1. Soit x ∈ E. Il existe x′ ∈ ϕ({x}) tel que x ∈ ϕ−1_({x′_{}) et, pour tout tel x}′_{, on a} ϕ([C2_{(x)]) = [C}′2_(x′_)].

2. Soit T ∈ C et soit T′ l’unique ´el´ement de C′ tel que ϕ([T ]) = [T′]. Alors ϕ([T◦]) = [T′◦] et ϕ induit donc un isomorphisme ¯ϕT : VT

∼

2.3. Th´eor`eme principal. 21 D´emonstration. Montrons la premi`ere assertion. L’existence de x′ ∈ ϕ({x}) tel que x ∈ ϕ−1({x′}) r´esulte des ´egalit´es

{x} = ϕ−1(ϕ({x})) = ϕ−1( X x′_∈ϕ({x})

{x′}) = X x′_∈ϕ({x})

ϕ−1({x′})

et du fait que l’on aP_x′_∈ϕ({x})ϕ−1({x′}) ⊆

S

x′_∈ϕ({x})ϕ−1({x′}).

Pour montrer l’inclusion ϕ([C2(x)]) ⊆ [C′2(x′)], il suffit de montrer que, pour tout y ∈ C2(x), on a ϕ({y}) ⊆ C′2(x′), c’est-`a-dire que, pour tout y′ ∈ C′(x′), la partie {y′} ∪ ϕ({y}) est commutative. Soient donc y ∈ C2<sub>(x) et y</sub>′ <sub>∈ C</sub>′<sub>(x</sub>′<sub>). Les ´el´ements x</sub>′ <sub>et y</sub>′ <sub>commutent</sub> (i.e. {x′} ∪ {y′<sub>} est commutative), donc, par le lemme pr´ec´edent, ϕ</sub>−1<sub>({x</sub>′<sub>}) ∪ ϕ</sub>−1<sub>({y</sub>′<sub>}) est</sub> une partie commutative, qui de plus contient x (par hypoth`ese sur x′). On en d´eduit que l’on a ϕ−1({y′}) ⊆ C(x), donc que ϕ−1({y′}) ∪ {y} est commutative (puisque y ∈ C2_{(x)), et} donc (grˆace au lemme pr´ec´edent) que {y′} ∪ ϕ({y}) est ´egalement commutative. Puisque les rˆoles jou´es par (ϕ, x) et (ϕ−1, x′) sont sym´etriques, on obtient de la mˆeme fa¸con l’inclusion ϕ−1([C′2(x′)]) ⊆ [C2_{(x)] et donc ϕ([C}2_{(x)]) = [C}′2_(x′_)].

Montrons la seconde assertion. D’apr`es le premier point, pour T ∈ C, il existe T′ ∈ C′ tel que ϕ([T ]) = [T′], et un tel T′ est n´ecessairement unique puisque si X1 et X2 sont deux ensembles tels que [X1] = [X2], alors on a clairement X1 = X2.

Soit y ∈ T◦. D’apr`es le premier point, ϕ envoie le sous-espace strict [C2(y)] de [T ] sur un sous-espace strict de [T′] de la forme [U′], pour U′ ∈ C′<sub>; en particulier, U</sub>′ <sub>T</sub>′<sub>, i.e.</sub> U′ ⊆ T′◦. On a donc ϕ({y}) ∈ [U′] ⊆ [T′◦], ce qui montre l’inclusion ϕ([T◦]) ⊆ [T′◦]. L’autre inclusion se d´emontre de la mˆeme fa¸con, `a partir de ϕ−1_{, et on a donc ϕ([T}◦_{]) = [T}′◦_{]. La} fin de l’assertion s’en d´eduit imm´ediatement.

Notation 2.3.4. On d´eduit de la proposition pr´ec´edente que l’isomorphisme lin´eaire ϕ : [E] ∼

−→ [E′_{] envoie de fa¸con bijective (en respectant l’inclusion et la dimension) l’ensemble} des sous-espaces de [E] de la forme [T ], o`u T ∈ C, sur l’ensemble des sous-espaces de [E′] de la forme [T′], o`u T′ ∈ C′. L’isomorphisme ϕ induit donc une bijection ϕC de C sur C′ donn´ee par : ϕC:  C ∼ −→ C′ T 7−→ T′ , o`u ϕ([T ]) = [T′].

Proposition 2.3.5. La bijection ϕC est un isomorphisme d’ensembles `a relation de (C, RP) sur (C′, R′_P).

D´emonstration. Soient T, U ∈ C et soient T′ = ϕC(T ), U′ = ϕC(U ) ∈ C′. Il s’agit de montrer que l’on a T RPU ⇔ T′R′PU′. Supposons T′R′PU′, i.e. T′∪ U′ commutative, et soit (t, u) ∈ T ×U . La partie ϕ({t})∪ϕ({u}) de E′ est incluse dans T′∪U′ _{donc est commutative.} D’apr`es le lemme 2.3.1, on a donc tRu. Comme ceci est vrai pour tout (t, u) ∈ T × U , on a T RPU . L’autre implication se d´emontre de la mˆeme fa¸con, en utilisant ϕ−1.

Th´eor`eme 2.3.6. Soient (E, R) et (E′, R′) deux ensembles `a relation et soit ϕ un isomor-phisme de [E] sur [E′] envoyant [E]c sur [E′]c.

1. L’isomorphisme ϕ induit un isomorphisme d’ensembles `a relation qui respecte le car-dinal ϕN :  (N , RP) −→ (N∼ ′, R′<sub>P</sub>) N 7−→ N′ , o`u ϕ([Cel(N )]) = [Cel(N ′_)].

22 Chapitre 2. Outils. D´emonstration. Le fait que l’application ϕN d´efinie en 1 soit un isomorphisme d’ensembles `

a relation r´esulte des propositions 2.2.7 et 2.3.5, puisque l’on a ϕN = N oy ◦ ϕC◦ Cel avec les isomorphismes Cel : (N , RP) −→ (C, R∼ P), ϕC : (C, RP) −→ (C∼ ′, R′P) et N oy : (C′, R′P)

∼

−→ (N′, R′_P).

Montrons que ϕN respecte le cardinal. Soient N ∈ N et N′ = ϕN(N ) ∈ N′. Posons T = Cel(N ) et T′ = Cel(N′). On a ϕ([T ]) = [T′]. D’apr`es la seconde assertion de la proposition 2.3.3, les espaces vectoriels VT et VT′ sont isomorphes (via ¯ϕ_T) et ont donc

mˆeme dimension. Or T est la r´eunion disjointe de N et de T◦, donc [T ] = [N ] ⊕ [T◦] et les espaces vectoriels [N ] et VT = [T ]/[T◦] sont isomorphes. De mˆeme, les espaces vectoriels [N′] et VT′ sont isomorphes et on a le r´esultat puisque l’espace vectoriel [N ] (resp. [N′]), qui

admet pour base l’ensemble des singletons de N (resp. de N′), est de dimension Card(N ) (resp. Card(N′)).

Chapitre 3

Sur la rigidit´

e des groupes de

Coxeter `

a angles droits.

Dans ce chapitre, nous examinons deux notions de rigidit´e appliqu´ees aux groupes de coxeter `a angles droits.

Dans la section 3.1.2, nous montrons que les groupes de Coxeter `a angles droits sont rigides (au sens d´efini dans l’introduction de cette th`ese). Dans la section 3.2, nous ´etudions une notion plus fine de rigidit´e, la rigidit´e forte, qui consiste `a d´eterminer si deux ensembles de Coxeter pour un groupe de Coxeter W sont conjugu´es dans W .

3.1

Les groupes de Coxeter `

a angles droits sont rigides.

Rappelons la notion de rigidit´e d’un groupe de Coxeter :

D´efinition 3.1.1 (rigidit´e). Soit W un groupe de Coxeter. On dit que W est rigide lorsque, pour tous S, S′ ∈ S(W ), il existe un automorphisme de W envoyant S sur S′_{, i.e. lorsque les} matrices Γ_(W,S) et Γ_(W,S′₎ sont isomorphes.

La conjonction de la seconde assertion du th´eor`eme 2.3.6 et de la remarque 1.2.3a nous fournit le r´esultat :

Th´eor`eme 3.1.2. Les groupes de Coxeter `a angles droits sont rigides.

D´emonstration. Soit W un groupe de Coxeter `a angles droits et soient S, S′∈ S(W ). Notons Γ et Γ′ <sub>les types respectifs des syst`emes (W, S) et (W, S</sub>′_{) ; ce sont des matrices de Coxeter} `

a angles droits (cf. section 1.2). Consid´erons les relations de commutation RΓ et RΓ′ dans S

et S′ respectivement (cf. notation 2.1.2).

D’apr`es la proposition 1.2.2, il existe un isomorphisme de [S] sur [S′] envoyant [S]c sur [S′]c (par exemple l’isomorphisme (πS′)−1◦ π_S de la remarque 1.2.3a). On en d´eduit, grˆace

au th´eor`eme 2.3.6, que les ensembles `a relation (S, RΓ) et (S′, RΓ′) sont isomorphes. Comme

les matrices Γ et Γ′ sont `a angles droits, cela revient `a dire que les matrices Γ et Γ′ sont isomorphes (cf. remarque 2.1.3b). On a donc le r´esultat.

24 Chapitre 3. Sur la rigidit´e des groupes de Coxeter `a angles droits.

3.2

Sur la rigidit´

e forte.

D´efinition 3.2.1 (rigidit´e forte). Soit W un groupe de Coxeter. On dit que W est fortement rigide lorsque, pour tous S, S′ ∈ S(W ), il existe w ∈ W tel que wSw−1 = S′ (c’est-`a-dire lorsqu’il existe un automorphisme int´erieur de W envoyant S sur S′).

Notons Int(W ) le groupe des automorphismes int´erieurs de W . Soient S ∈ S(W ) et Γ = Γ_(W,S); identifions Aut(Γ) au sous-groupe Aut(W, S) de Aut(W ) (cf. section 1.1). On v´erifie facilement que l’on a la caract´erisation :

W est fortement rigide ⇐⇒ W est rigide et Aut(W ) = Int(W ) · Aut(Γ). Remarques 3.2.2. Soit (W, S) un syst`eme de Coxeter `a angles droits de type Γ.

a. On a Aut(W ) = ker(πAut) ⋊ Aut(W, FS), et les inclusions Int(W ) ⊆ ker(πAut) et Aut(Γ) ≈ Aut(W, S) ⊆ Aut(W, FS) ≈ Aut([S], [S]c) (cf. commentaires 1.2.4b et 1.2.4c). b. On d´eduit du th´eor`eme 3.1.2 et de l’assertion pr´ec´edente la caract´erisation suivante :

W est fortement rigide ⇐⇒ ker(πAut) = Int(W ) et Aut([S], [S]c) = Aut(Γ).

Commentaires 3.2.3. Soit (W, S) un syst`eme de Coxeter `a angles droits de type Γ. Iden-tifions Aut([S], [S]c) au sous-groupe Aut(W, FS) de Aut(W ).

a. Notons WS l’ensemble des conjugu´es des ´el´ements de S dans W . Le corollaire 1 de [Tit88] montre en particulier que l’on a ker(πAut) ⊆ Aut(W,WS) (sous-groupe des automorphismes de W qui stabilisentW_{S). De plus, on v´erifie que l’on a Aut(W, F}

S) ∩ Aut(W,WS) = Aut(Γ). On en d´eduit la caract´erisation Aut([S], [S]c) = Aut(Γ) ⇔ Aut(W ) = Aut(W,WS).

b. Lorsque W est de rang fini, on peut, par des consid´erations simples sur Γ (ou sur son graphe), d´eterminer si W est fortement rigide ou non. En effet, on a :

1. ker(πAut) = Int(W ) ⇔ ∀s ∈ S, ∀t, u ∈ S\C(s), ∃ t0= t, t1, . . . , tn= u ∈ S\C(s) tels que ti−1et ti commutent, pour 1 6 i 6 n (cf. [M¨uh98], corollaire du th´eor`eme principal),

2. Aut([S], [S]c) = Aut(Γ) ⇔ ∀s ∈ S, C2(s) = {s} (cf. [BM05, Th´eor`eme 5.1], appliqu´e aux groupes de Coxeter `a angles droits et de rang fini, et les commentaires 2.2.2 et 3.2.3a).

Cette caract´erisation est ´egalement donn´ee dans [BMMN02], th´eor`eme 4.10.

c. Si W est de rang infini, la condition b1 est n´ecessaire pour avoir ker(πAut) = Int(W ), mais n’est pas suffisante (cf. [Tit88, proposition 5 et remarque finale de la partie 3]). Par contre, la proposition 3.2.7 ci-dessous montre que la caract´erisation b2 est encore valable. C’est un r´esultat qui d´ecoule ´egalement de l’´etude du groupe Aut([S], [S]c) que nous effectuons dans la partie suivante (cf. remarque 4.4.1c ci-dessous).

Notation 3.2.4. Soient s ∈ S et t ∈ C2(s), t 6= s. Nous notons αs,t l’endomorphisme F2-lin´eaire de [S] donn´e par αs,t({x}) = {x} si x ∈ S \ {s}, et αs,t({s}) = {s, t}.

Propri´et´es 3.2.5. Soit αs,t comme ci-dessus :

3.2. Sur la rigidit´e forte. 25 b. on a plus pr´ecis´ement αs,t∈ Aut([S], [S]c).

En effet, pour X ∈ [S]c, on a soit αs,t(X) = X ∈ [S]c si s 6∈ X, soit αs,t(X) = X + {t} si s ∈ X, auquel cas t ∈ C2_{(s) ⊆ C}2_{(X) ⊆ C(X) (la derni`ere inclusion est v´erifi´ee car,} X ´etant commutative, on a X ⊆ C(X)) et donc X + {t} ∈ [S]c; ceci montre l’inclusion αs,t([S]c) ⊆ [S]c, et comme αs,t est involutif, on a le r´esultat.

Commentaires 3.2.6. La matrice de αs,tdans la base des singletons de [S] est une matrice de transvection ´el´ementaire. L’automorphisme αs,t, vu comme ´el´ement de Aut(W ), envoie s sur st et fixe les autres ´el´ements de S. Il apparaˆıt sous une forme plus g´en´erale dans [BM05, Lemme 6.1].

Proposition 3.2.7. Soit (W, S) un syst`eme de Coxeter `a angles droits de type Γ = Γ_(W,S). On a

Aut([S], [S]c) = Aut(Γ) ⇐⇒ ∀s ∈ S, C2(s) = {s}.

D´emonstration. Supposons que, pour tout s ∈ S, C2(s) = {s}. La proposition 2.3.3 nous montre alors que les sous-espaces de [S] de la forme [{s}] = {∅, {s}}, o`u s ∈ S, sont permut´es entre eux par les ´el´ements de Aut([S], [S]c). Comme ces ´el´ements sont des automorphismes de [S], ils fixent ∅ (´el´ement neutre de [S]) et permutent donc entre eux les singletons de S. On en d´eduit que Aut([S], [S]c) ⊆ Aut(Γ) (cf. remarque 1.2.3c).

R´eciproquement, supposons qu’une cellule C2_{(s) contienne un ´el´ement t 6= s, et} consid´e-rons l’endomorphisme αs,t de [S] d´efini comme ci-dessus. C’est un ´el´ement de Aut([S], [S]c), d’apr`es la remarque 3.2.5b, qui n’appartient pas `a Aut(Γ), puisqu’il ne respecte pas le car-dinal. On a donc Aut(Γ) Aut([S], [S]c) et le r´esultat.

Chapitre 4

Le groupe Aut([S], [S]

c

).

Soient W un groupe de Coxeter `a angles droits, S ∈ S(W ) et Γ = Γ_(W,S).

Dans ce chapitre, nous ´etudions le groupe Aut(W, FS). Rappelons qu’il s’identifie `a Aut(Wab, F ) et `a Aut([S], [S]c), comme en remarque 1.2.3b et commentaires 1.2.4b. C’est pr´ecis´ement ce groupe Aut([S], [S]c) que nous d´ecrivons dans ce qui suit.

Les r´esultats de la section 2.3, appliqu´es au cas particulier o`u S = S′, nous fournissent deux premi`eres d´ecompositions en produits semi-directs, d´etaill´ees en sections 4.1 et 4.2. La section 4.3 est consacr´ee `a l’´etude du sous-groupe K◦(Γ) qui apparaˆıt dans la seconde d´ecomposition. Nous collectons les r´esultats obtenus dans la section 4.4, et les appliquons au cas particulier du rang fini.

Pour all´eger les ´enonc´es, nous posons R = RΓ, C = C(S,R), C = C(S, R) et N = N (S, R).

4.1

Les sous-groupes Aut(Γ) et K(Γ). D´

evissage de Aut([S], [S]

).

Nous notons Aut(N , RP, Card) le groupe des automorphismes de l’ensemble `a relation (N , RP) qui respectent le cardinal. Le th´eor`eme 2.3.6 nous montre en particulier que tout ϕ ∈ Aut([S], [S]c) induit un ´el´ement ϕN de Aut(N , RP, Card), donn´e, pour N ∈ N , par N 7→ N′(∈ N ), o`u ϕ([Cel(N )]) = [Cel(N′)].

Notation 4.1.1 (le groupe K(Γ)). Notons θ l’application

Aut([S], [S]c) → Aut(N , RP, Card), ϕ 7→ ϕN.

On v´erifie facilement que θ est un morphisme de groupes. Nous notons K(Γ) son noyau. Rappelons que l’on a Aut(Γ) = Aut(S, R) (cf. remarque 2.1.3b) et que le groupe Aut(Γ) s’identifie, via σ 7−→ (X 7→ σ(X)), au sous-groupe de Aut([S], [S]c) constitu´e des ´el´ements de Aut([S], [S]c) qui respectent le cardinal (cf. remarque 1.2.3c). Pour σ ∈ Aut(Γ), on note encore σ l’´element de Aut([S], [S]c) donn´e par X 7→ σ(X).

Soit σ ∈ Aut(Γ). On v´erifie que, pour tout X ∈ [S], on a σ([X]) = [σ(X)] et C(σ(X)) = σ(C(X)). L’automorphisme σ permute donc les noyaux (de mˆeme cardinal) de (S, R) et l’on voit que l’´el´ement θ(σ) = σN de Aut(N , RP, Card) est simplement donn´e par N 7→ σ(N ). Notation 4.1.2. Soit Ω l’ensemble des classes d’´equivalence de la relation d’´equivalence Card(N ) = Card(P ) sur N . Pour ω ∈ Ω, fixons une fois pour toutes un repr´esentant Nω de