1.3 Quelques rappels sur les groupes de réflexions
1.3.5 Groupes de réflexions complexes VS groupes de Coxeter
On termine cette section de rappels sur les groupes de réflexions en étudiant le lien entre groupes de ré- flexions réelles (c’est-à-dire groupe de Coxeter) et groupes de réflexions complexes. Le résultat principal est la proposition 1.69. Il repose sur les lemmes 1.67 et 1.68 (voir aussi [SER, 13.2]).
Définition 1.66 Représentation réelle. Soient G un groupe fini et V un CG-module. On dit que la représentation V est une représentation réelle s’il existe un RG-module V′ tel que V CG-mod.
≃ C ⊗RV′.
Lemme 1.67 Forme bilinéaire invariante. Soient G un groupe fini et V une représentation de dimension finie de G sur C de dimension finie de caractère χ. On a les équivalences
(i) Il existe une forme bilinéaire G-invariante non dégénérée sur V si et seulement si χ est à valeurs réelles ; (ii) La représentation V est une représentation réelle si et seulement s’il existe une forme bilinéaire symétrique
G-invariante non dégénérée sur V.
Preuve. Démontrons l’équivalence (i). On note χ le conjugué de χ : c’est le caractère de la représentation V∗.
Le caractère χ est à valeurs réelles si et seulement si χ = χ. Une représentation est caractérisée par son caractère (voir [SER, 2.3 corollaire 2]) donc χ = χ si et seulement si V G-mod
≃ V∗. Par définition, on a V G-mod≃ V∗ si et
seulement s’il existe f ∈ HomCG(V, V∗) bijective.
Soit f ∈ HomCG(V, V∗) bijective. L’application B : (v, w) 7→ f (v)(w) est une forme bilinéaire G-invariante.
La bijectivité de f assure la non-dégénérescence de B. En effet, si v 6= 0 alors f(v) 6= 0 et donc il existe w ∈ V tel que f(v)(w) 6= 0 ; de même, si w 6= 0, il existe ϕ ∈ V∗ tel que ϕ(w) 6= 0. Or il existe v tel que ϕ = f(v) et
donc f(v)(w) = ϕ(w) 6= 0.
Réciproquement, soit B une forme bilinéaire non dégénérée G-invariante. L’application f définie par f :
(
V −→ V∗
v 7−→ (w 7→ B(v, w)) .
est un isomorphisme de CG-modules. On obtient ainsi l’équivalence souhaitée. Passons à l’équivalence (ii). Soit V′ un RG-module tel que C ⊗ V′ G-mod.
≃ V. Montrons qu’il existe sur V′ un
produit scalaire G-invariant. Pour cela, considérons un produit scalaire b sur V′. La forme bilinéaire b′ définie
par b′(v, w) = 1 |G| P g∈G b(g−1v, g−1w) pour tout v, w ∈ V
est une forme bilinéaire symétrique G-invariante. De plus, pour v ∈ V′, l’élément b′(v, v) ∈ R est une somme
de termes positifs donc b′(v, v) > 0 et b′(v, v) = 0 implique successivement b(v, v) = 0 et v = 0. Ainsi b′ est un
produit scalaire G-invariant. Considérons alors l’application
b′′:
(
(C ⊗ V′) × (C ⊗ V′) −→ C
Elle est bien définie. On vérifie qu’elle est bilinéaire symétrique non dégénérée et G-invariante.
Réciproquement, supposons qu’il existe une forme bilinéaire symétrique non dégénérée et G-invariante b. Commençons par montrer qu’il existe un produit scalaire hermitien G-invariant B (on suppose que la semi- linéarité a lieu en la seconde variable). On considère un produit scalaire hermitien B′ sur V. On a alors
(v, w) 7−→ B(v, w) = 1 |G|
P
g∈G
B′(g−1v, g−1w)
est une forme sesquilinéaire hermitienne G-invariante. De plus, pour v ∈ V, l’élément B(v, v) est une somme de réels positifs donc B(v, v) > 0 et B(v, v) = 0 implique successivement B′(v, v) = 0 et v = 0. Ainsi B est un
produit scalaire hermitien G-invariant.
Soit w ∈ W. Comme B est un produit scalaire hermitien, B est non dégénérée. On peut donc représenter la forme linéaire v 7→ b(w, v) avec B. De façon précise, il existe un unique ϕ(w) ∈ V tel que
∀ v ∈ V, b(w, v) = B(ϕ(w), v).
L’unicité de ϕ(w) assure la semi-linéarité de ϕ. De plus, ϕ est bijective puisque b et B ne sont pas dégénérées. Enfin, comme b et B sont G-invariantes, ϕ commute avec tous les éléments de G. En effet,
∀ (v, w) ∈ V2, B(ϕ(gw), v) = b(gw, v) = b(w, g−1v) = B(ϕ(w), g−1v) = B(gϕ(w), v) ,
ce qui donne bien ϕ(gw) = gϕ(w) pour tout w ∈ V puisque B est non dégénérée. On en déduit alors que ϕ2 est
linéaire bijective et commute avec tous les éléments de G. Ainsi, ϕ2 est un G-isomorphisme de V. Par ailleurs,
pour v, w ∈ V, on a
B(ϕ2(w), v) = b(ϕ(w), v) = b(v, ϕ(w)) = B(ϕ(v), ϕ(w)),
et donc B(ϕ2(w), v) = B(ϕ(v), ϕ(w)) = B(ϕ(w), ϕ(v)) = B(ϕ2(v), w) = B(w, ϕ2(v)) .
L’endomorphisme ϕ2est donc hermitien. De plus, comme B(ϕ2(v), v) = B(ϕ(v), ϕ(v)) > 0, on en déduit que ϕ2
est hermitien positif. Enfin, comme ϕ2 est bijectif, ϕ2est hermitien défini positif.
Par ailleurs, il existe un unique endomorphisme ψ hermitien défini positif tel que ϕ2= ψ2. On pose σ = ϕψ−1
L’endomorphisme ψ est un polynôme en ϕ2 et ψ−1 est un polynôme en ψ. Ainsi ψ−1 et ϕ commutent. On
en déduit que σ2 = id. L’endomorphisme R-linéaire σ est donc une symétrie de V et on peut décomposer
V = V+ ⊕ V− en les sous-espaces (réels) propres de σ associés respectivement aux valeurs propres 1 et −1.
Comme σ est semi-linéaire, on a iV+ = V− et iV− = V+. Ainsi V = V+⊕ iV+. Par ailleurs, G commute à
ϕ et donc à ψ−1. Les éléments de G commutent donc avec σ. On en déduit que les sous-espaces propres de σ
c’est-à-dire V+ et V− = iV+ sont stables par G. On a alors V = C ⊗ V+ ce qui achève la démonstration.
Lemme 1.68 Forme bilinéaire invariante et représentation irréductible : indicateur de Frobenius-Schur. Soient G un groupe fini, V une représentation irréductible de G sur C de caractère χ et b une forme bilinéaire G- invariante sur V. Alors b est nulle ou non dégénérée. On suppose que b est non dégénérée. Toute forme bilinéaire G-invariante sur V est proportionnelle à b. De plus, b est symétrique ou antisymétrique.
Par ailleurs, on a 1 |G| P g∈G χ(g2) = 0 si χ 6= χ 1 si χ = χ et ρ réel −1 si χ = χ et ρ non réel On dit que |G|−1P g∈G
χ(g2) est l’indicateur de Schur de V.
Preuve. Comme b est G-invariante, les ensembles
Vo= {v ∈ V, ∀ w ∈ V, b(v, w) = 0} et oV = {w ∈ V, ∀ v ∈ V, b(v, w) = 0}
sont des sous-G-modules de V donc sont nuls ou V c’est-à-dire b = 0 ou b non dégénérée. Soit b′ une forme bilinéaire G-invariante. On note Υ(b) et Υ(b′) les CG-morphismes
Υ(b) : ( V −→ V∗ v 7−→ (w 7→ b(v, w)) et Υ(b ′) : ( V −→ V∗ v 7−→ (w 7→ b′(v, w)) .
Comme b est non dégénérée, Υ(b) est bijectif. Ainsi (Υ(b))−1◦ Υ(b′) : V → V est un morphisme de CG-modules.
Comme V est irréductible, le lemme de Schur (voir [SER, 2.2 proposition 4]) assure que (Υ(b))−1◦ Υ(b′) = αid
avec α ∈ C. On en déduit alors que b′= αb.
On considère la forme bilinéaire G-invariante b′: (v, w) 7→ b(w, v). D’après ce qui précède,
∃ α ∈ C, ∀ (v, w) ∈ V2, b(w, v) = b′(v, w) = αb(v, w) = αb′(w, v) = α2b(w, v) .
On note S2(V) (resp. S2(V∗)) la composante homogène de degré 2 de l’algèbre symétrique de V (resp. V∗) et
Λ2(V) (resp. Λ2(V∗)) la composante homogène de degré 2 de l’algèbre extérieure de V (resp. V∗). Pour g ∈ G,
on note (λ1, . . . , λr) les valeurs propres de g agissant sur V. On a alors
χ(g2) = Pr i=1 λi2= P i6j λiλj−P i<j λiλj = χS2(V)(g) − χAlt2(V)(g) . On en déduit que C = 1 |G| P g∈G χ(g2) = hχ S2(V), 1i − hχAlt2(V), 1i = hχS2(V∗), 1i − hχAlt2(V∗), 1i .
On note Bil(V) l’espace vectoriel des formes bilinéaires sur V. Les propriétés démontrées ci-dessus donnent hχBil(V), 1i ∈ {0, 1}. Comme hχS2(V∗), 1i, hχAlt2(V∗), 1i et hχBil(V), 1i sont des entiers naturels et que
hχS2(V∗), 1i + hχAlt2(V∗), 1i = hχBil(V), 1i
On a C ∈ {0, 1, −1}. Le lemme 1.67 donne la distinction des cas.
En utilisant l’indicateur de Schur, on obtient alors la proposition bien connue suivante qui caractérise les groupes de Coxeter parmi les groupes de réflexions complexes.
Proposition 1.69 Groupe de Coxeter et groupe de réflexions complexes. Soit (G, V) un groupe de réflexions complexes irréductible. Alors G est un groupe de Coxeter si et seulement si l’un des degrés de G est 2.
Preuve. Si G est un groupe de Coxeter, le lemme 1.67 montre qu’il existe une forme bilinéaire symétrique non dégénérée G-invariante sur V. C’est en particulier un élément non nul de S2(V∗)G. Comme G est irréductible,
tous les degrés de G sont strictement plus grands que 1 (sinon V a un hyperplan stable par G donnée par le noyau d’un élément de S1(V∗)G= (V∗)G). On en déduit que, si aucun des degrés n’est 2 alors tous les polynômes
invariants non nuls sont de degrés strictement plus grands que 2, ce qui est absurde. Donc l’un des degrés est 2. Si l’un des degré est 2 alors (S2(V∗))G 6= 0. Ainsi il existe une forme bilinéaire b symétrique G-invariante
non nulle sur V. Le lemme 1.68 montre que b est non dégénérée. Le lemme 1.67 assure que la représentation est réelle et donc G est un groupe de Coxeter.
Algèbre des invariants relatifs
Ce chapitre présente mon travail de thèse sur les groupes de réflexions complexes. Le résultat central est la proposition 2.20 : étant donné (G, V) un groupe de réflexions complexes, M une représentation de G de dimension finie et χ un caractère linéaire de G, on peut, sous certaines conditions (hypothèse 2.16 ou 2.17), construire une structure d’algèbre extérieure sur (T−1S(V∗) ⊗ Λ(M∗))χ (où T est une partie multiplicative de
S(V∗) convenablement choisie). La section 2.2 donne alors quelques conséquences de cette structure, notamment
en lien avec la régularité d’un entier. Par ailleurs, l’étude de la structure de (T−1S(V∗) ⊗ Λ(M∗))χ pousse à
définir différents types d’hyperplans (en lien avec la représentation M et le caractère linéaire χ) ; les sections 2.3, 2.4 et 2.5 sont dédiées à l’étude de ces types d’hyperplans pour les groupes Sn, G(d, 1, r), G(de, e, 2) et G24.
2.1
Algèbre extérieure
Dans cette section et la suivante, on fixe un groupe de réflexions complexes (G, V), un CG-module M de dimension r et χ un caractère linéaire de G. On note detM(resp. detM∗) le déterminant de la représentation M
(resp. M∗).
Les articles [O-S], [SHE], [LEH1] et [BEC] étudient la composante χ-isotypique de l’algèbre S(V∗) ⊗ Λ(M∗)
sur laquelle G agit de façon diagonale. Sous des conditions portant sur les restrictions aux différents GH des
représentations M et χ, on obtient une structure de (S(V∗)⊗Λ(M∗))χde S(V∗)G-algèbre extérieure. Ici, l’idée est
de transférer les hypothèses nécessaires sur M et χ par des conditions sur l’anneau de base : on remplace S(V∗)
par un anneau plus gros (un anneau de fractions de S(V∗)) dans lequel on s’autorise à inverser certaines formes
linéaires associées aux hyperplans de G. Les conditions porteront alors sur le choix des mauvais hyperplans qu’il va falloir inverser. Les résultats des articles [O-S], [SHE], [LEH1] et [BEC] s’obtiennent alors comme cas particuliers de la proposition 2.20 (voir la remarque 2.21). Dans [H-S], on trouve une première étude de la situation en caractéristique non nulle.
Notation 2.1 Soit M ⊂ H une partie G-stable, on note B = H r M et T ⊂ S(V∗) la partie multiplicative
correspondante à M (voir le lemme 1.48). On pose alors Ω = T−1S(V∗) ⊗ Λ(M∗) et Ωp= T−1S(V∗) ⊗ Λp(M∗)
pour tout p ∈ [[ 0 , r ]]. On a alors
Ωχ = Lr p=0
(Ωp)χ.
L’idée de la démonstration est de mettre dans la partie M les hyperplans qui vont poser problème. On commence donc, dans la sous-section 2.1.1, par définir des « types d’hyperplans » qui vont permettre de diffé- rentier les hyperplans de H . Dans la sous-section 2.1.2, on construit la structure d’algèbre Ωχ. Enfin, dans la
sous-section 2.1.3, on détermine cette structure d’algèbre.