1.2 Actions d’un groupe fini sur un ensemble fini

(1)

101 - Groupe op´ erant sur un ensemble.

Exemples et Applications.

Version solide

1 G´ en´ eralit´ es sur les actions de groupes

1.1 D´ efinitions et ´ enonc´ es g´ en´ eraux

Définition 1.1. SoitGun groupe etX un ensemble. Une action (à gauche) deGsurX est la donnée d’un morphisme de groupesρ:G→S(X), où S(X) désigne le groupe des bijections (permutations) de l’ensemble X.

Remarque 1.2. Cette définition équivaut à la donnée d’une application G×X →X notée (g, x)7→g·x, vérifiant

— pour toutx∈X, 1·x=x.

— pour toutg, g⁰∈Getx∈X, (gg⁰)·x=g·(g⁰·x).

Exemples :

— Le groupeGagit sur lui-mˆeme par translation :g·x=gx; par conjugaison :g·x=gxg⁻¹.

— SiHest un sous-groupe deG,Gagit naturellement sur l’ensembleX :=G/Hdes classes

`

a gauche deH dansGviag·(g⁰H) := (gg⁰)H.

— Pour tout ensembleX, le groupeS(X) agit naturellement surX, viaσ·x:=σ(x).

— SiKest un corps etV unK-espace vectoriel, GL(V)⊂S(V) agit surV.

— Le groupe SOn(R) agit sur la sph`ere unit´eSⁿ⁻¹⊂Rⁿ.

On dispose d’une relation d’équivalence naturellement associée à une action de groupe : si x, x⁰ ∈X, on dit quexetx⁰ sont équivalents s’il existeg∈Gtel quex⁰=g·x.

D´efinition 1.3. SoitX un ensemble muni d’une action d’un groupeG.

1. les orbites pour cette action sont les classes d’´equivalence associ´ees. Pour tout x∈ X, on note O(x) l’orbite dexsous G. On note X/Gl’ensemble des orbites.

2. pour tout x∈X,G_x:={g∈G:g·x=x} est un sous-groupe deGappel´e stabilisateur.

3. pour tout g∈G, on noteFix_X(g) :={x∈X :g·x=x}, appel´e le fixateur de g.

4. l’action est dite fidèle (resp. libre) si le morphisme ρest injectif (resp. si tous les stabi- lisateurs sont réduits à{1}).

5. soit n≥1. On dit que l’action estn-transitive si pour tout (x₁, . . . x_n, y₁, . . . , y_n)∈X²ⁿ tels quex_i6=x_j ety_i 6=y_j pour touti6=j, il existe g∈Gtel queg·x_i=y_i pour touti.

6. on note X^G:={x∈X:∀g∈G, g·x=x} l’ensemble des points fixes deGdansX. Exemples :

— l’action par translation deGsur lui-mˆeme est libre, donc fid`ele, et elle est transitive.

— l’action par conjugaison deGsur lui-mˆeme est fid`ele ssi le centre deGest trivial. Cette action est libre (resp. transitive) ssiG={1}. Les orbites sont les classes de conjugaison.

— l’action deS(X) surX est fid`ele et transitive.

— l’action de GL(V) surV est fid`ele. Elle est transitive si et seulement siV ={0}. Sinon, cette action a exactement deux orbites :{0} etV \ {0}.

— l’action de SOn(R) surSⁿ⁻¹est fid`ele et transitive.

Proposition 1.4. Soit X un ensemble muni d’une action d’un groupe G. Alors pour tout x∈X etg∈G,G_g·x=gG_xg⁻¹ et on a une bijectionG/G_x−^∼→ O(x).

Exemple : On a une bijection naturelle SOn(R)/SO_n−1(R) −^∼→ Sⁿ⁻¹, qui est en fait un hom´eomorphisme.

1.2 Actions d’un groupe fini sur un ensemble fini

Proposition 1.5. SoitX un ensemble fini muni d’une action d’un groupe fini G.

1. (´equation aux classes) |X|=P

ω∈X/G|ω|=P

O(x)∈X/G

|G|

|Gx|. 2. (formule de Burnside)|X/G|=_|G|¹ P

g∈G|FixX(g)|.

Remarque 1.6. L’égalité 2 dit que le nombre moyen de points fixes d’un élément deGest le nombre d’orbites. Ainsi une permutation aléatoire deS_n a-t-elle en moyenne un point fixe.

Exemple :Si Gagit sur lui-mˆeme par conjugaison, on obtient la relation

|G|=|Z(G)|+ X

g∈CG\Z(G)

|G|

|ZG(g)|,

o`uCG⊂Gest un ensemble de repr´esentants des classes de conjugaison,ZG(g) est le centrali- sateur deget Z(G) est le centre deG.

Une application classique de l’´equation aux classes (pour l’action des inversibles d’un corps par conjugaison) :

Théorème 1.7(*). (Wedderburn) Une algèbre à division finie est un corps.

2 Applications ` a la th´ eorie des groupes

2.1 Groupe sym´ etrique

Proposition 2.1. (Cayley)

SoitGun groupe fini. Il existen∈Ntel queGsoit un sous-groupe de Sn. En utilisant l’action deSn surX ={1, . . . , n}, on montre :

Théorème 2.2. Tout permutation de S_n s’écrit de fa¸con unique (à l’ordre près) comme produit de cycles à supports disjoints.

SoitKun corps, on définit l’action deS_nsur laK-algèbreK[X₁, . . . , X_n] parσ·X_i:=X_σ(i). Un polynômePest dit symétrique (resp. antisymétrique) si pour toutσ∈S_n,σ·P =P(resp.

σ·P =(σ)P). On noteσ1, . . . , σn ∈K[X1, . . . , Xn] les polynômes symétriques élémentaires, et ∆(X1, . . . , Xn) :=Q

1≤i<j≤n(Xi−Xj).

Th´eor`eme 2.3(**). SoitP ∈K[X1, . . . , Xn].

— SiP est sym´etrique, il existe un unique Q∈K[X1, . . . , Xn] tel queP=Q(σ1, . . . , σn).

— SiP est antisym´etrique, alors il existe R∈K[X1, . . . , Xn] sym´etrique tel queP = ∆Q.

1

(2)

2.2 Structure des groupes finis

Lemme 2.4(*). SoitGun groupe de cardinalpⁿ (unp-groupe), o`upest un nombre premier, agissant sur un ensemble finiX. Alors|X^G| ≡ |X|(mod p).

Th´eor`eme 2.5 (*). (Cauchy) SoitG un groupe fini etpun nombre premier divisant|G|.

AlorsGcontient un ´el´ement d’ordrep.

Proposition 2.6(*). SoitGun p-groupe, o`upest un nombre premier.

Alors le centre deGest non trivial. En particulier, le groupe Gest nilpotent.

Proposition 2.7(*). SoitGun groupe fini etple plus petit nombre premier divisant|G|.

Alors tout sous-groupe deGd’indice pest distingu´e.

2.3 Repr´ esentations lin´ eaires d’un groupe

Définition 2.8. SoitGun groupe fini. Une représentation (linéaire) de Gest un morphisme de groupesρ:G→GL(V), où V est unC-espace vectoriel de dimension finie.

En particulier, une repr´esentation d’un groupeGest une action (lin´eaire) deG surV, i.e.

un morphismeρ⁰:G→S(V).

D´efinition 2.9. Soit(V, ρ)une repr´esentation d’un groupe fini G.

— Si (V⁰, ρ⁰) est une autre représentation de G, un morphisme de représentation ϕ : (V, ρ) → (V⁰, ρ⁰) est une application linéaire ϕ : V → V⁰ telle que pour tout g ∈ G, ρ⁰(g)◦ϕ=ϕ◦ρ(g).

— Une sous-repr´esentation de (V, ρ) est un sous-espace vectoriel W deV stable par ρ(g), pour toutg∈G.

— La représentation (V, ρ) est dite irréductible si elle n’admet pas de sous-représentation non triviale.

— Le caractère de la représentation (V, ρ)est la fonction χ_V :G→Cdéfinie parχ_V(g) :=

tr(ρ(g)).

Théorème 2.10. 1. Deux représentations de même caractère sont isomorphes.

2. (Maschke) Toute représentation de G est somme directe de sous-représentations irréductibles.

On dispose également d’un produit scalaire canonique sur l’espace des caractères, et de relations d’orthogonalité pour les caractères de représentations irréductibles. Cela permet de construire la table des caractères irréductibles d’un groupe.

Exemples :

— (*) Tables de caract`eres des groupes cycliques.

— (**) Table de caractères deS₄, en lien avec les isométries du tétraèdre.

— (**) Tables de caract`eres du groupe di´edral et du groupe des quaternions (d’ordre 8).

2.4 Sous-groupes compacts maximaux de GL

_n

( R )

SoitV unR-espace vectoriel. En utilisant le fait qu’une action d’un sous-groupe compact de GL(V) stabilisant un convexe compact non videK ⊂V a toujours un point fixe dansK, on montre :

Th´eor`eme 2.11 (**). SoitGun sous-groupe compact de GL_n(R).

Alors il existe une forme quadratiqueqd´efinie positive surRⁿ telle que G⊂ O(q).

Autrement dit, tout sous-groupe compact maximal deGLn(R)est conjugu´e `aOn(R).

3 Applications ` a la g´ eom´ etrie

3.1 G´ eom´ etrie affine

D´efinition 3.1. SoitKun corps. Un espace affine surKest un ensembleE muni d’une action libre et transitive du groupe additif d’unK-espace vectorielE.

Si on note GA(E) le groupe des transformations affines de E, l’action de GA(E) sur E est transitive.

3.2 G´ eom´ etrie euclidienne

Définition 3.2. SoitE un espace affine euclidien de dimensionn. Un polyèdre convexeP deE est dit régulier si le groupe des isométries dePagit transitivement sur les suites(F0, . . . , F_n−1), oùFi est une face deP de dimension i, avec Fi ⊂Fi+1, pour touti.

Th´eor`eme 3.3. SoitE un espace affine euclidien de dimension 3.

— (*) Le groupe des isométries (resp. directes) du tétraèdre est isomorphe àS4(resp.A4).

— (**) Celui du cube ou de l’octa`edre est isomorphe `aS4×Z/2Z(resp. S4).

— (***) Celui du dodécaèdre ou de l’icosaèdre est isomorphe àA5×Z/2Z(resp.A5) Réciproquement, en utilisant l’action de SO3(R) et de ses sous-groupes sur la sphère unité, on dispose de la classification des sous-groupes finis de SO3(R) :

Th´eor`eme 3.4(**). SoitG⊂SO3(R)un sous-groupe fini.

AlorsGest isomorphe `aZ/nZ,Dn,A4,S4 ouA5. Etudions maintenant les groupes de pavages :´

Définition 3.5. Soit E un espace affine euclidien. Un pavage de E est un couple (P, G), où P ⊂ E est compact connexe d’intérieur non vide etG⊂Isom⁺(E)est un sous-groupe tel que

1. E =S

g∈Gg(P).

2. pour tousg, h∈G,g(P)∩h(P)6=∅ =⇒ g=h.

Proposition 3.6 (**). A conjugaison pr`` es dans le groupe affine de E, il y a exactement cinq tels sous-groupes G. Si on remplace Isom⁺(E) par Isom(E), on trouve 17 sous-groupes convenables.

Etudions maintenant les angles et les rotations.´

Définition 3.7. SoitP un plan euclidien. Le groupe SO(P) agit librement et transitivement sur la sphère unité. Soient u, v ∈ P de norme 1. La mesure de l’angle (u, v) est l’unique θ∈R/2πZ tel queRθu=v.

2

(3)

3.3 G´ eom´ etrie hyperbolique

On noteH:={z ∈C: Im(z)>0}. On dispose d’une action transitive de PSL2(R) sur H par homographies, via la formule

a b c d

·z:=^az+b_cz+d; on en d´eduitH ∼= SL2(R)/SO2(R).

On s’int´eresse en particulier `a l’action de PSL2(Z) surH.

Définition 3.8. On dit qu’une partieDdeH est un domaine fondamental pour cette action siD rencontre toutes les orbites de PSL2(Z) et deux points de D dans une même orbite sont sur la frontière de D.

Th´eor`eme 3.9(**). L’action dePSL2(Z)surHadmet pour domaine fondamental l’ensemble D:={z∈C:|z| ≥1 et|Re(z)| ≤ ¹₂}.

Corollaire 3.10(**). SL₂(Z)est engendr´e parT :=

1 1 0 1

etS :=

0 −1

1 0

.

4 Applications ` a l’alg` ebre lin´ eaire

4.1 Bases

SoitK un corps etV unK-espace vectoriel de dimension finie n. On dipose d’une action naturelle de GL(V) sur l’ensembleB_V des bases deV. Cette action est libre et transitive.

Définition 4.1. Si K = R et V est euclidien, le sous-groupe SO(V) ⊂ GL(V) agit sur les bases orthonormées deV selon deux orbites, appelées orientations de V.

4.2 Actions par translation

On peut faire agir GL_n(K) sur Mat_n(K) par translation `a gauche : Proposition 4.2(*). SoientA, B∈Mat_n(K).

AlorsAetB sont dans la mˆeme orbite si et seulement si A etB ont mˆeme noyau.

Si on considère l’action par translation à droite, donnée parP·A:=AP⁻¹, on a : Proposition 4.3(*). SoientA, B∈Mat_n(K).

AlorsAetB sont dans la mˆeme orbite si et seulement si A etB ont mˆeme image.

4.3 Matrices semblables, matrices ´ equivalentes

On considère l’action de GL_n(K)×GL_p(K) sur Mat_n,p(K) donnée par (P, Q)·M :=P M Q⁻¹ (équivalence des matrices), et l’action de GL_n(K) sur Mat_n(K) donnée parP·M :=P M P⁻¹ (similitude des matrices).

Théorème 4.4 (**). Soit K un corps. Alors les classes d’équivalence de matrices dans Mat_n,p(K) sont données par le rang : pour tout M ∈ Mat_n,p(K), il existe un unique 0≤r≤min(n, p)tel queM est équivalente à la matrice

Ir 0r,p−r

0_n−r,r 0_n−r,p−r

.

Remarque 4.5. Cet énoncé est essentiellement équivalent à l’algorithme du pivot de Gauss pour la résolution des systèmes linéaires.

Théorème 4.6. SoitK un corps. Alors les classes de similitudes de matrices dansMat_n(K) sont données par les invariants de similitude : pour toutM ∈Mat_n(K), il existe des polynômes unitaires (uniques) P₁, . . . , P_r ∈ K[X] tels que P_i|P_i+1 pour tout i et M soit semblable à diag(C(P1), . . . , C(Pr))(où C(P)désigne la matrice compagnon deP).

Remarque 4.7. De même, la classification des formes quadratiques sur un corps K peut s’interpréter comme la description des orbites pour l’action de GLn(K) sur les matrices symétriques Sym_n(K) définie parA·M :=AM^tA.

Exemples :

— SiK =C, l’action de GL_n(C) sur Sym_n(C) a exactementn+ 1 orbites donn´ees par le rang 0≤r≤n.

— (Sylvester) SiK=R, l’action de GLn(R) sur Sym_n(R) a exactement ^(n+1)(n+2)₂ orbites donn´ees par la signature (p, q)∈N² avecp+q≤n.

4.4 D´ ecomposition de Bruhat et action sur les drapeaux

Si K est un corps, GLn(K) agit transitivement sur l’ensemble D des drapeaux de Kⁿ. Théorème 4.8 (**). (Bruhat) Soit K un corps. Notons T (resp. U) le sous-groupe de GLn(K)formé des matrices triangulaires supérieures (resp. unipotentes supérieures). Alors

GL_n(K) = G

σ∈Sn

U P_σT .

D´ecrivons les orbites de l’action de GLn(K) sur les paires de drapeaux :

Corollaire 4.9(**). On a une bijection canonique(D×D)/GLn(K)−^∼→Sn. En particulier, cette action a exactement n! orbites.

5 Applications en combinatoire

5.1 Colliers de perles

On cherche à dénombrer les colliers à 9 perles dont 4 bleues, 3 blanches et 2 rouges. En utilisant une action du groupe diédralD9, on trouve qu’il y a exactement 76 tels colliers (*).

5.2 Coloriage de poly` edres

On dénombre les coloriages des faces d’un polyèdre avec ncouleurs (à rotation près).

Th´eor`eme 5.1 (**). Soit X un ensemble fini muni d’une action d’un groupe fini G. Soit C ={1, . . . , n} l’ensemble des couleurs. Un coloriage de X (avec au plus n couleurs) est un

´

el´ement deC^X.

Alors le nombre de coloriages de X (modulo G) est exactement N = _|G|¹ P

σ∈Gn^λ(σ), o`u λ(σ) est le nombre de cycles deσvu comme permutation de X.

Exemple :(**) Il y a exactement N = ⁿ⁶⁺³ⁿ⁴⁺¹²ⁿ₂₄ ³⁺⁸ⁿ² coloriages des faces du cubes avec (au plus)ncouleurs (`a rotation pr`es). En particulier, pourn= 3 couleurs, on trouveN = 57 coloriages.

3