Groupes, anneaux, modules et représentations

(1)

Groupes, anneaux, modules et repr´esentations

David Renard Centre de Math´ ematiques

Laurent Schwartz Ecole Polytechnique ´

7 aoˆ ut 2020

(2)

(3)

Table des mati` eres

I Groupes et actions de groupes 3

I.1 Un exemple fondamental et quelques d´efinitions . . . 3

I.2 Exemples de groupes et d’actions de groupes . . . 7

I.3 Intersection de sous-groupes. Sous-groupe engendr´e par une partie . . . 9

I.4 Le groupe sym´etrique . . . 9

I.5 Exercices . . . 12

II Représentations linéaires des groupes finis 15 II.1 Représentations . . . 15

II.1.1 Unitarisabilit´e . . . 15

II.1.2 Sous-représentations, représentations irréductibles . . . 17

II.1.3 Op´erateurs d’entrelacement. Lemme de Schur . . . 18

II.2 Op´erations sur les repr´esentations . . . 19

II.2.1 Sommes directes (ou coproduits) et produits directs . . . 19

II.2.2 Produits tensoriels . . . 22

II.2.3 Repr´esentation contragr´ediente . . . 23

II.2.4 Pull-back . . . 24

II.3 Coefficients matriciels et relations de Schur . . . 24

II.3.1 Une application du lemme de Schur . . . 24

II.3.2 Coefficients matriciels . . . 24

II.4 L’alg`ebre de convolution F(G) . . . 25

II.5 Transformation de Fourier . . . 28

II.6 Th´eor`eme de Peter-Weyl . . . 31

II.7 L’alg`ebre des fonctions centrales . . . 32

II.8 Application à la décomposition des représentations . . . 36

II.9 Exercices . . . 38

II.10 Repr´esentations induites . . . 43

II.10.1 Construction des repr´esentations induites . . . 43

II.10.2 R´eciprocit´e de Frobenius . . . 44

II.10.3 Caract`eres des repr´esentations induites . . . 46

II.11 Exercices . . . 46

III Modules sur un anneau 49 III.1 D´efinitions et exemples . . . 49

III.2 Op´erations sur les modules . . . 51

III.2.1 Sous-modules . . . 51

III.2.2 Intersection de sous-modules . . . 52

III.2.3 Sous-module engendr´e par une partie . . . 52

III.2.4 Somme de sous-modules . . . 52

III.2.5 Modules quotient . . . 52

III.2.6 Produits . . . 53

III.2.7 Sommes directes . . . 53

III.2.8 Sommes directes internes . . . 53

III.3 Th´eor`emes d’isomorphisme . . . 54

III.4 Suites exactes . . . 55

(4)

III.5 Id´eal annulateur. Torsion . . . 56

III.6 Familles g´en´eratrices, familles libres, bases . . . 57

III.6.1 Modules libres . . . 58

III.6.2 Propri´et´e universelle des modules libres . . . 58

III.6.3 Modules projectifs . . . 59

III.6.4 Modules cycliques . . . 60

III.7 Produits tensoriels . . . 60

III.7.1 Produits tensoriels sur un anneau commutatif . . . 60

III.7.2 Restriction/Extension des scalaires . . . 62

III.7.3 Produits tensoriels sur un anneau non commutatif . . . 63

IV Interlude culturel 65 V Modules noeth´eriens, artiniens 67 V.1 Conditions de finitude . . . 67

V.2 Modules ind´ecomposables . . . 69

V.3 Module simple. Suites de Jordan-H¨older . . . 72

V.3.1 Suites de composition et théorème de Jordan-Hölder . . . 74

VI Modules de type fini sur un anneau principal 77 VI.1 Anneau principaux . . . 77

VI.2 D´ecomposition des modules de type fini I . . . 79

VI.3 D´ecomposition des modules de type fini II . . . 80

VI.3.1 Application I : classification des groupes ab´eliens de type fini . . . 85

VI.3.2 Application II : r´eduction des endomorphismes . . . 85

VII Représentations des algèbres semi-simples 87 VII.1 Forme trace et radical d’unek-algèbre de dimension finie . . . 87

VII.2 Alg`ebres semi-simples . . . 88

VII.3 Application à la théorie des représentations . . . 90

VIII Problèmes corrigés 93 VIII.1 Groupes abéliens finis . . . 93

VIII.2 Paires de Gelfand et fonctions sph´eriques . . . 95

VIII.3 Repr´esentations du groupe di´edral . . . 101

VIII.4 Repr´esentations d’une extension centrale d’un groupe ab´elien . . . 104

IX Sujets d’examen 107

Bibliographie 119

(5)

Introduction

Ce texte constitue lesupport pédagogique d’un enseignement d’algèbre du programme d’appro- fondissement/ Master 1 de l’ École Polytechnique. Il s’agit d’un cours d’algèbre générale (MAT556). La spécificité de ce cours, qui ne prétend à aucune originalité, est d’adapter le contenu au contenant et au contexte. Le contenant : neuf séances de quatre heures de cours/travaux dirigés. Le contexte : on l’illustre en citant un texte d’un panneau du Musée de l’X.

Comment enseigner les sciences ? L’alliance entre théorie et applications est au cœur de l’identité spécifique de l’ École Polytechnique.

Si la pluridisciplinarité est cultivée par un socle de connaissances théoriques transcendant les frontières disciplinaires, elle doit aussi s’appliquer à des domaines particuliers pour produire des innovations tech- nologiques ou conceptuelles.

La création de l’ École en 1794 s’accompagne ainsi de l’enjeu de concevoir une méthode d’éducation qui allie savoir et savoir faire

Je m’étonne que lesavoir-être ne soit pas mentionné, sans doute un oubli... Pour ne pas me mettre une pression excessive, je vais traduire cela par le fait de devoir choisir, parmi la multitude d’options possibles que recouvre le termealgèbre générale, un programme cohérent, où d’une part on introduit un certain nombre de notions et de concept fondamentaux (dont l’utilité va bien au delà du contenu de ce cours) et d’autre part, on les développe suffisamment pour arriver à des résultats significatifs, en

´

etablissant quelques théorèmes emblématiques.

Il n’est en effet pas question dans un volume de cours aussi contraint de faire un exposé systématique des bases de l’algèbre : groupes et actions de groupes, anneaux, corps, modules, théorie des représentations, algèbre homologique... il existe pour cela des traités respectables [4], [3]. On adopte plutôt une voie transverse, en se donnant quelques buts précis et en s’arrêtant en chemin lorsque le paysage est joli. Les pré-requis sont classiques : l’algèbre linéaire (sur le corps de réels et celui des complexes), le minimum d’algèbre bilinéaire et sesquilinéaire.

Le cours se divise en deux parties, d’esprit assez distinct. Dans la première, on étudie la la théorie des représentations des groupes finis (dans des espaces vectoriels sur le corps des nombres complexe). On a donc une théorie bien circonscrite, dont les premiers résultats sont très faciles à obtenir : la démonstration du lemme de Schur et du théorème de Maschke ne prennent que quelques lignes. De là, la théorie se déroule sans grande difficulté. Ce cadre assez restreint permet toutefois d’aborder de nombreuses notions fondamentales. Certaines de ces notions (des constructions universelles comme les sommes ou produits directs, le produit tensoriel, l’induction) seront revues dans un contexte plus large, dans la deuxième partie. Nous articulons notre exposé autour de la notion de transformation de Fourier, et ce pour plusieurs raisons. La première, pédagogique, est de frapper l’esprit des étudiants avec une terminologie surprenante dans le contexte de la théorie des groupes, la théorie de Fourier étant traditionnellement enseignée comme une partie de l’analyse (séries de Fourier, transformation de FourierL²surR). On insiste ici sur le fait que la notion importante est celle de groupe (du cercle unité du plan complexe, ou bien deR), qui permet de définir la transformation de Fourier et la convolution de fonctions dans un cadre général. Dans le cas des groupes finis, les difficultés analytiques sont absentes. La deuxième raison est de présenter les résultats de manière concise et conceptuelle : la transformation de Fourier réalise un isomorphisme isométrique (tout le travail consiste à définir les espaces entre lesquels cette transformation de Fourier est définie). La troisième raison enfin est que cette formulation se prête bien à la généralisation aux groupes compacts, abordée dans un autre cours (MAT563). Une section est consacré à l’induction de représentations et à la réciprocité de Frobenius. En termes modernes, l’induction est un foncteur, adjoint à droite de celui de

(6)

restriction.

La deuxième partie du cours est consacrée à la théorie des modules sur un anneau. Pour ne pas se perdre dans trop de généralités, on se fixe ici comme objectif les théorèmes de structure des modules de type fini sur les anneaux principaux, et les applications frappantes que l’on en tire immédiatement (classification des groupes abéliens finis, réduction des endomorphisme d’un espace vectoriel de dimension finie). Plutôt que de suivre la voie habituelle passant par l’étude des matrices équivalentes à coefficient dans l’anneau (voir [3]), on adopte une approche basée la décomposition d’un module par le théorème de Krull-Schmidt. Ce résultat décrit un module, seulement soumis à des hypothèses assez faibles de finitude, comme somme directe de modules de base, dits indécomposables. En général, on ne dispose pas d’une bonne description des modules indécomposables, ce qui limite la portée du théorème, mais pour les modules de type fini sur un anneau principal, on obtient quelque chose de très explicite. Conceptuellement, ceci permet d’établir un lien avec la première partie, que l’on approfondit en introduisant aussi les notions de module simple et semi-simple, et le théorème de Jordan-Hölder sur les suites de composition. Dans un petit chapitre sur les algèbres semi-simples, on applique ces outils à la théorie des représentations des groupes finis via l’algèbre du groupe, ce qui permet de retrouver certains résultats de la première partie comme sous-produit de la théorie générale des modules. En chemin, on développe une partie significative de cette théorie générale (noethérianité, modules libres, projectifs, produits tensoriels, etc) qui fait partie de la culture de base en mathématique.

Il nous semble aussi que ce cours est le lieu propice à l’introduction du vocabulaire et de certains concepts de la théorie des catégories, de manière informelle. Par exemple, nous montrons que l’isomorphisme de réciprocité de Frobenius (qui comme nous l’avons mentionné ci-dessus est un énoncé d’adjonction de foncteurs) estnaturel. Dans le même esprit, les sommes directes, produits directs et produits tensoriels sont présentés comme solutions de problèmes universels.

Ce texte fait de larges emprunts à quelques sources qu’il convient de mentionner. L’exposé de la théorie des représentations des groupes finis via la transformation de Fourier est inspirée de [2]. La partie sur les anneaux et modules est reprise en grande partie du cours donnée les années précédentes par Anna Cadoret, qui elle-même cite comme source un cours de Pierre Baumann [1] à l’Université de Strasbourg, auquel j’ai aussi fait quelques emprunts directs.

(7)

Chapitre I

Groupes et actions de groupes

H. Weyl

Un principe directeur des mathématiques modernes tient en cette le¸con : lorsque vous avez affaire à une entitéS munie d’une certaine structure, essayez de déterminer son groupe d’automorphismes, le groupe des transformations de ses éléments qui préservent les relations structurales.

Vous pouvez espérer gagner une profonde compréhension de la constitution deS de cette manière.Hermann Weyl¹.

Le but de ce chapitre est de rappeler les définitions et les résultats de base de la théorie des groupes, supposés déjà plus ou moins connus du lecteur, en profitant pour introduire la terminologie et les notations employées par la suite.

I.1 Un exemple fondamental et quelques d´ efinitions

SoitX un ensemble. Notons Aut(X) l’ensemble des bijections deX dans lui-mˆeme. Cet ensemble est muni de la loi de composition des applications : (I.1.1) µ: Aut(X)×Aut(X)→Aut(X), (φ, ψ)7→φ◦ψ.

La loi de composition est associative, c’est-`a-dire que quels que soientφ1,φ2 etφ3 dans Aut(X), (I.1.2) µ(µ(φ1, φ2), φ3) =µ(φ1, µ(φ2, φ3)),

ou plus simplement (φ1◦φ2)◦φ3=φ1◦(φ2◦φ3).

D’autre part, cette loi admet un élément neutre, l’identité deX, notée IdX : (I.1.3) (∀φ∈Aut(X)), IdX◦φ=φ◦IdX=φ.

Enfin, tout élément φ de Aut(X) admet un inverse, c’est-à-dire un élément de Aut(X), noté φ⁻¹, vérifiant

(I.1.4) φ◦φ⁻¹=φ⁻¹◦φ= IdX.

Le lecteur instruit reconnaˆıt là le fait que Aut(X) est muni d’une structure de groupe. Pour les autres, nous rappelons la définition d’un groupe ci-dessous, qui consiste à prendre comme axiomes ces propriétés de Aut(X), deµet de IdX.

1. Traduit librement d’une traduction de l’allemand en anglais... j’espère que le sens général se sera conservé.

(8)

Remarquons que nous disposons aussi d’une application canonique

(I.1.5) a: Aut(X)×X −→X, (φ, x)7→φ(x).

L’applicationavérifie les propriétés suivantes : quels que soientφ₁, φ₂ dans Aut(X) etxdansX, (I.1.6) a(µ(φ₁, φ₂), x) =a(φ₁, a(φ₂, x)),

et de plus

(I.1.7) a(IdX, x) =x.

Autrement dit l’application adéfinit une action du groupe Aut(X) surX. Donnons maintenant les définitions générales.

Définition I.1.1. Un groupe est un ensembleG, muni d’une loi (I.1.8) µ:G×G→G, (g, h)7→gh:=µ(g, h), appelée produit du groupe, et vérifiant :

(i) (associativit´e) quels que soientg, h, k dansG,

µ(µ(g, h), k) =µ(g, µ(h, k)), (ou encore, (gh)k=g(hk) ),

(ii) (élément neutre) il existe un élément e =eG de G, appelé l’élément neutre, tel que pour tout g∈G,µ(g, e) =µ(e, g) =g (ou encorege=eg=g),

(iii) (inverse) quelque soitg∈G, il existe un élément deG, notég⁻¹, tel queµ(g, g⁻¹) =µ(g⁻¹, g) =e (ou encoregg⁻¹=g⁻¹g=e).

Remarque I.1.2. On déduit facilement de ces axiomes l’unicité de l’élément neutre et de l’inverse d’un

´

el´ement donn´e.

Définition I.1.3. SoitGun groupe, etX un ensemble. Une action (à gauche) deGsurX est la donnée d’une application

(I.1.9) a:G×X→X, (g, x)7→g·x

v´erifiant :

(I.1.10) (∀g, h∈G),(∀x∈X), a(µ(g, h), x) =a(g, a(h, x)).

(ou plus simplement (gh)·x=g·(h·x)), et,

(I.1.11) (∀x∈X), a(e, x) =e·x=x.

Remarque I.1.4. On peut exprimer les propriétés des applicationsµetaci-dessus sans faire référence aux éléments deGet deX, et sans utiliser de quantificateurs universels, simplement par des diagrammes commutatifs :

G×G×G ^µ×Id^G //

Id_G×µ

G×G

µ

G×G _µ //G

(9)

exprime l’associativit´e de la loiµ, et :

G×G×X ^µ×Id^X //

Id_G×a

G×X

a

G×X _a //X

est une traduction du fait queaest une action. Nous laissons en exercice au lecteur le soin de traduire en terme de diagrammes commutatifs les propriétés de l’élément neutre.

Définition I.1.5. Un sous-ensembleH d’un groupeGest un sous-groupe s’il contient l’élément neutre eet est stable par produits et passage aux inverses.

D´efinition I.1.6. On appelleG-ensemble un ensembleX muni d’une action deG. UnG-morphisme du G-ensembleX vers le G-ensembleY est une application f :X →Y compatible avec les actions deG, c’est-`a-dire

f(g·x) =g·f(x), (x∈X),(g∈G).

On peut penser aux G-ensembles X, Y, comme à des ensembles munis de symétries, et aux G-morphismes comme à des applications préservant ces symétries. Si f est un G-morphisme entre les G-ensemblesX etY, on dit aussi quef estG-équivariant.

Un morphisme de groupes est une application d’un groupe vers un autre qui pr´eserve la structure de groupe :

D´efinition I.1.7. Soient Get H deux groupes. Une application def : G→H est un morphisme de groupes si quels que soientg, hdansG,

f(gh) =f(g)f(h).

Dans ce cas, l’ensemble des g ∈ G tels que f(g) = e_H est appel´e noyau du morphisme f. C’est un sous-groupe de G. On le note kerf. L’image du morphisme f est un sous-groupe de H que l’on note Imf.

Remarque I.1.8. La donnée d’une action a d’un groupe G sur un ensemble X est équivalente à la donnée d’un morphisme de groupes

A: G→Aut(X).

On passe dea`aA et r´eciproquement par

A(g)(x) =a(g, x), (x∈X),(g∈G).

On obtient de nombreux exemples de groupes et d’actions de groupes à partir de l’exemple fondamental (X,Aut(X)) ci-dessus, et en supposant que l’ensembleX est muni d’une structure supplémentaire, clairement spécifiée par le contexte. On redéfinit alors Aut(X) comme l’ensemble des bijections deX dans lui-même qui préservent, ainsi que leurs inverses, la structure deX, si celle-ci est clairement indiquée par le contexte. Sinon, on peut toujours préciser : Aut_Ens(.) pour la structure d’ensemble, Aut_Gr(.) pour celle de groupe, etc. Les applicationsµ et adéfinies comme en (I.1.1) et (I.1.5) vérifient encore (I.1.2), (I.1.3), (I.1.4), (I.1.6), (I.1.7). Lorsque X est muni d’une certaine structure, on supposera, souvent de manière implicite, qu’une action d’un groupeGsurX préserve cette structure. Remarquons aussi que si l’on part d’un ensemble X muni d’une certaine structure et de son groupe d’automorphismes Aut1(X), et que l’on rajoute une structure supplémentaire, l’ensemble des éléments de Aut2(X) préservant de plus

(10)

cette nouvelle structure est un sous-groupe Aut2(X) de Aut1(X). Ces consid´erations un peu abstraites seront illustr´ees par des exemples dans la section suivante.

Une autre manière d’obtenir des exemples de groupes à partir d’une action d’un groupe G sur un ensembleX est de considérer, pour toute partieY deX

Fix_G(Y) ={g∈G|(∀y∈Y), g·y=y}, StabG(Y) ={g∈G|(∀y∈Y), g·y∈Y, g⁻¹·y∈Y},

On vérifie facilement que l’on obtient ainsi des sous-groupes du groupe G, appelé respectivement le fixateur et le stabilisateur dans G de Y. Il est intéressant de remarquer que tout sous-groupe d’un groupeGpeut s’obtenir ainsi.

Remarque I.1.9. La conditiong⁻¹·y∈Y dans la définition du stabilisateur est superflue si l’ensemble Y est fini, mais indispensable en général pour assurer que Stab_G(Y) est un sous-groupe deG.

Définition I.1.10. SoitGun groupe agissant sur un ensembleX. On appelle orbite d’un pointxdeX sous l’action deGl’ensemble des points de la formeg·x, gdécrivant le groupeG. NotonsG·xl’orbite d’un pointxdeX. On dit que l’action deGsurX est transitive s’il n’y a qu’une seule orbite, et qu’elle est fidèle si le morphisme

A: G→Aut(X)

défini par l’action est injectif. On dit que l’action est libre si tout élément différent de l’élément neutre agit sans point fixe. Une action libre est fidèle.

Proposition I.1.11. SoitGun groupe agissant sur un ensemble X. La relation binaire x∼y si G·x=G·y

est une relation d’´equivalence surX. Les orbites de l’action deGforment donc une partition de l’ensemble X.

Nous laissons la v´erification de ce fait au lecteur.

On noteG\Xl’ensemble des orbites de l’action deGsurX. On appelle système de représentants des orbites deGdansX un ensemble{xi} d’éléments deX tel que

{xi} →G\X, xi7→G·xi

soit une bijection.

Exemple I.1.12. Soit G soit un groupe. Le groupe Aut(G) est l’ensemble des automorphismes de groupes deGdans lui-mˆeme. Le groupeGagit sur lui-mˆeme par

a:G×G→G, (g, h)7→ghg⁻¹.

On parle de l’action deGsur lui-même par conjugaison, oud’action adjointe. Le morphisme de groupes G→Aut(G) associé à apar la remarque I.1.8 est noté Ad :

Ad(g)∈Aut(G), Ad(g)(h) =ghg⁻¹.

Les orbites deG dans lui-mˆeme pour cette action s’appellent classes de conjugaison. Un groupe est ab´elien si et seulement si ses classes de conjugaison sont des singletons.

Exemple I.1.13. SoitGun groupe et soit X l’ensemble de ses sous-groupes. Alors Gagit surX par conjugaison : siH est un sous-groupe deG,

g·H={ghg⁻¹|h∈H}.

Si FixG({H}) = G, ou de manière équivalente, si l’orbite deH sousG est réduite à {H}, alors on dit que le sous-groupeH est distingué, dansG.

(11)

Exemple I.1.14. Le groupeGagit sur lui-mˆeme par translation `a gauche l:G×G→G, (g, h)7→gh.

Cette action ne préserve pas la structure de groupe deG. NotonsBij(G), pour le distinguer de Aut(G), le groupe des bijections de l’ensembleGdans lui même. Le morphisme de groupes G→Bij(G) associé

`

al par la remarque I.1.8 est not´eL. On aL(g)(h) =gh.

On a aussi une action deGsur lui-mˆeme par translation `a droite r:G×G→G, (g, h)7→hg⁻¹.

Le morphisme associé est notéR. Remarquons le passage à l’inverse qui permet de replacer les éléments deGdans le bon ordre :

R(g₁g₂)(h) =h(g₁g₂)⁻¹= (hg⁻¹₂ )g₁⁻¹=R(g₁)(R(g₂)(h))

= (R(g1)◦R(g2))(h).

Ces actions sont transitives.

Exemple I.1.15. Soit H un sous-groupe de G. Alors H agit sur G par translation à gauche, par restriction de l’action de l’exemple précédent. Les orbites s’appellent les classes à droite. On note Hg l’orbite deg∈Get H\Gl’ensemble des classes à droite.

Bien sûr, H agit aussi surGpar translation à droite, les orbites s’appellent les classes à gauche, on notegH l’orbite de g∈GetG/H l’ensemble des classes à gauche.

Proposition I.1.16. Soit G un groupe agissant sur un ensemble X. Alors, pour tout x ∈ X, si l’on noteG^x=FixG({x}), l’application

G/G^x→G·x, gG^x7→g·x est bijective.

Démonstration. Cette application est bien définie, car sih∈G^x, (gh)·x=g·x. Elle est surjective par définition de l’orbite, et injective par définition deG^x.

Corollaire I.1.17 (Formule des classes). SoitGun groupe fini agissant sur un ensemble X fini et soit {xi} un syst`eme de repr´esentants des orbites deGdansX. Alors

|X|= X

O∈G\X

|O|=X

i

|G|

|G^xⁱ|

Remarque I.1.18. Soit G un groupe agissant sur un ensemble X, l’action ´etant libre et transitive.

Alors il découle facilement des définitions que tout choix d’un point de base x∈X donne une bijection X 'G. On dit alors que X est un espace homogène principal sur G. Par exemple, si Gest un espace vectoriel sur un corpsk, un espace homogène principal surGest un espace affine.

L’action d’un groupe G sur un ensemble X muni d’une certaine structure, est un moyen puissant d’obtenir des informations sur la structure du groupeG, ou sur celle de l’espaceX, selon la nature du problème considéré.

I.2 Exemples de groupes et d’actions de groupes

Exemple I.2.1. Le groupe des bijections (on dit aussi permutations dans ce contexte) de l’ensemble {1, . . . , n} est not´eSn.

(12)

Exemple I.2.2. SoitV un espace vectoriel sur un corpsk. L’ensemble des applications linéaires bijectives deV dans lui-même est souvent notéGL(V) plutôt que Aut(V). On appelle ce groupe le groupe général linéaire.

Une action d’un groupeGdans un espace vectorielV qui préserve la structure d’espace vectoriel (on parle aussi d’action linéaire) est donc équivalent à la donnée d’un morphisme de groupes :

A:G→GL(V).

De telles actions apparaissent dans de nombreux contextes en mathématiques (leur étude est l’objet de ce cours), et l’importance de ce concept justifie une terminologie spécifique. On dit que l’espace vectoriel V, muni d’une action linéaire d’un groupeG, est unereprésentationdu groupe G. LorsqueV =kⁿ, on utilise la notationGL_n(k) pourGL(V).

Exemple I.2.3. Soit G un groupe agissant sur un ensemble X, et soit F(X) l’espace vectoriel des fonctions surX à valeurs complexes. AlorsF(X) est lui aussi muni d’une action linéaire deG, donnée par

(g·f)(x) =f(g⁻¹·x), (g∈G),(f ∈ F(X)),(x∈X).

Cette nouvelle action, d’une certaine manière, contient autant d’information que l’ancienne, mais présente l’avantage de pouvoir être étudiée par les techniques d’algèbre linéaire. C’est pourquoi ce cours s’attache plus particulièrement à l’étude des actions linéaires des groupes, c’est-à-dire, de leurs représentations.

Exemple I.2.4. SoitV un espace vectoriel de dimension finie surC, muni d’une structure hilbertienne, c’est-à-dire d’un produit produit hermitien défini positif. Le sous-groupe deGL(V) préservant ce produit hermitien est noté U(V) et est appelé groupe unitaire. Lorsque V = Cⁿ, muni du produit hermitien canonique, on le note U(n). Une action d’un groupe GdansV préservant la structure hilbertienne est

´

equivalente `a la donn´ee d’un morphisme de groupes : A:G→U(V).

On dit alors que la repr´esentation deGdansV est unitaire.

Exemple I.2.5. SoitV un espace vectoriel surRmuni d’un produit scalaire. Le sous-groupe deGL(V) préservant ce produit scalaire est notéO(V) et est appelé groupe orthogonal. LorsqueV =Rⁿ, muni du produit scalaire canonique, on le noteO(n).

Si p+q=n, munissonsRⁿ de la forme bilin´eaire sym´etrique :

(x, y)_p,q =x₁y₁+x₂y₂+· · ·+x_py_p−x_p+1y_p+1− · · ·x_ny_n,

oùx= (x1, . . . xn),y= (y1, . . . , yn) sont des vecteurs deRⁿ. Cette forme est non dégénérée, de signature (p, q). Le sous-groupe deGLn(R) préservant la forme (. , .)p,qest notéO(p, q). Si l’on noteJpqla matrice diagonale formée de 1 puis de−1 avec pour multiplicités respectivespet q, on a

O(p, q) ={A∈GLn(R)|AJpqtA=Jpq}.

Le groupeO(3,1) joue un rôle important comme groupe de symétrie en électromagnétisme et en théorie de la relativité. Il s’appelle le groupe de Lorentz.

Exemple I.2.6. Si V est un espace vectoriel de dimension finie sur le corps k, on note SL(V) le sous-groupe de GL(V) des éléments de déterminant 1. Ce groupe s’appelle le groupe spécial linéaire.

Remarquons que

det :GL(V)→k^∗

est un morphisme de groupes, et doncSL(V) est son noyau. L’intersection d’un sous-groupeH deGL(V) avecSL(V) sera not´eeSH. En reprenant les exemples ci-dessus, on obtientSU(V),SO(V),SO(p, q)...

Exemple I.2.7. Considérons l’action naturelle deO(2) dansR², et soitY ⊂R²un polygone régulier à ncotés (n≤3), centré en 0. Le sous-groupe deO(2) laissant invariantY est le groupe diédralDn. Son ordre est 2n. Son intersection avecSO(2) est isomorphe à Z/nZ.

(13)

Exemple I.2.8. Sikest un corps, et siK est une extension dek(c’est-à-dire un autre corps contenant k), alors le groupe des automorphismes du corpsK fixant tout élément dekest noté Autk(K). Lorsque l’extension K/k possède certaines propriétés (plus explicitement, être séparable et normale) le groupe Aut_k(K) s’appelle le groupe de Galois de l’extension K/k. On le note aussi Gal(K/k). Si P est un polynôme à coefficients dansk, Aut_k(K) agit sur l’ensemble des racines deP dansK.

Exemple I.2.9. SiX est un espace métrique, ou plus généralement topologique, Aut(X) est l’ensemble des homéomorphismes de X dans lui-même. Si a est une action d’un groupe G sur X, on demande que les applications a(g, .) : X → X soient continues. Dans le cas où X est une variété différentiable, Aut(X) est l’ensemble des difféomorphismes deX dans lui-même. Les actions surX sont alors supposées différentiables.

I.3 Intersection de sous-groupes. Sous-groupe engendr´ e par une partie

SoitGun groupe et (Hi)_i∈I une famille de sous-groupe deG. Il est clair que l’intersection ensembliste H =T

i∈IHi est un sous-groupe de G, car elle est stable par multiplication et passage à l’inverse, et contient l’élément neutre.

D´efinition I.3.1. SoitX une partie d’un groupeG. Le sous-groupe deGengendr´e parX est l’intersection de tous les sous-groupe deGcontenantX. C’est donc le plus petit sous-groupe deGcontenantX. On le notehXi.

Cette définition à l’avantage de ne pas utiliser la notation d’appartenance ensembliste ∈, mais de manière concrète, on voit facilement que

hXi= ( _r

Y

i=1

g_iⁿⁱ, gi∈X, ni∈Z )

c’est-à-dire que les éléments de hXi sont les produits finis de puissances (pouvant être négatives)) d’éléments deX.

I.4 Le groupe sym´ etrique

Nous rappelons rapidement dans cette section les notations et les principaux r´esultats concernant le groupe sym´etriqueSn, le groupe des permutations de l’ensemble {1, . . . , n}.

Nous adoptons les notations usuelles pour les ´el´ements de S_n. Ainsi, par exemple σ=

1 2 3 4 5

4 2 5 1 3

est la bijection de l’ensemble{1,2,3,4,5} envoyant 1 sur 4, 2 sur 2, 3 sur 5, 4 sur 1 et 5 sur 3.

Ceci permet d’effectuer facilement les calculs de produits, si l’on n’oublie pas que dans une composition de fonctionsf◦g, c’est la fonctiongqui agit avant f :

1 2 3 4 5

3 4 2 5 1

1 2 3 4 5

4 2 5 1 3

=

1 2 3 4 5

5 4 1 3 2

Soitσ∈S_n et k∈ {1, . . . , n}. On appelle par abus de langage orbite dek sousσl’orbite deksous l’action du sous-groupehσideS_n (hσiest le sous-groupe engendr´e parσ).

Voyons maintenant certaines permutations particulières. Si i et j sont deux éléments différents de {1, . . . , n}, on appelletranspositionde iet dej la permutation de Sn (notée τij) qui échange iet j et laisse tous les autres éléments fixes.

(14)

On appelle cycle une permutation dont toutes les orbites sauf au plus une sont des singletons. On appelle longueur du cycle le cardinal de cette orbite particulière, la longueur de l’identité étant 1. Ainsi une transposition est un cycle de longueur 2.

On appellepermutation circulairedeSn une permutation n’ayant qu’une seule orbite. Les permutations circulaires sont donc les cycles de longueurn.

On peut aussi noter les permutations selon leur d´ecomposition en cycles, par exemple, σ=

1 2 3 4 5 6 7 8 9

7 4 6 9 2 5 8 1 3

, est aussi not´ee

σ= (178)(249365).

De mˆeme, on note aussi (i, j) la transpositionτij.

Remarquons qu’il n’y a pas d’unicit´e d’une telle ´ecriture :

σ= (178)(249365) = (817)(365249)∈S9,

mais, en dehors de ces ambigu¨ıtés évidentes, la décomposition en cycles est essentiellement déterminée.

On omet généralement les cycles de longueur 1 (les points fixes) d’une telle écriture : σ= (178)(2)(4536)(9) = (178)(4536).

Remarquons que dans cette dernière écriture, il n’est plus apparent queσsoit un élément deS9. La décomposition de{1, . . . , n}en orbites sousσest évidente dans une écriture en cycles deσ.

Th´eor`eme I.4.1. Les transpositions τi,i+1,i= 1, . . . n−1, engendrentSn.

Démonstration. (Esquisse). Par récurrence surn, on montre queS_n est engendré par les transpositions.

On montre ensuite qu’une transposition quelconque est produit de transpositions de la formeτ_i,i+1. Ecrivons une permutationσcomme produit de transpositions. Bien sˆur, il n’y a pas unicit´e de cette

´

ecriture, ni même unicité du nombre de transpositions intervenant dans cette écriture. En revanche, la parité de ce nombre de transpositions est déterminée parσ, comme l’affirme le théorème suivant : Théorème I.4.2. Soitσ∈S_n. Il y a égalité entre les nombres suivants :

(i) (−1)^T o`uT est le nombre de transpositions dans une ´ecriture deσcomme produit de transpositions.

(ii) (−1)^D,D=n−m o`u mest le nombre d’orbites deσdans {1, . . . , n}.

(iii) (−1)^S o`u S est le cardinal de l’ensemble des couples (i, j) ∈ {1, . . . , n}² tels que i < j et σ(i)> σ(j).

(iv)Q

i<j

σ(i)−σ(j) i−j .

On appelle ce nombre la signature deσet on le note sgn(σ). Sisgn(σ) = 1, on dit queσ estpaire, etimpaire sisgn(σ) =−1

Démonstration. l’égalité entre (iii) et (iv) est évidente car tous les facteurs (i−j), au signe près, apparaissent une et une seule fois au numérateur et au dénominateur. La valeur absolue de (iv) est donc 1, et son signe est donné par le nombre de couples (i, j) tels quei < j etσ(i)> σ(j).

Montrons l’égalité entre (i) et (ii), ce qui montre au passage que (i) est bien défini, c’est-à-dire ne dépend pas de l’écriture de σ en un produit de transpositions. Notons(σ) la quantité définie en (ii).

On montre d’abord que siτ=τij est une transposition(στ) =−(σ), en distinguant deux cas : - siietjsont dans la mˆeme orbite sousσ, alors les orbites sousστsont les mˆemes que celles sousσ, sauf l’orbite contenantietj qui se scinde en deux.

- si iet j ne sont pas sont dans la mˆeme orbite sousσ, alors les orbites sousστ sont les mˆemes que celles sousσ, sauf celles contenantiet j qui n’en forment plus qu’une.

On raisonne alors par r´ecurrence sur le nombre de transpositions dans une ´ecriture de σ comme produit de celles-ci. Ceci montre au passage que la signature d’un cycle de longueurk est (−1)^k−1.

(15)

Montrons maintenant que (i) = (iv). On a, quels que soientσ, τ ∈Sn, Y

i<j

στ(i)−στ(j) i−j =Y

i<j

στ(i)−στ(j) τ(i)−τ(j)

Y

i<j

τ(i)−τ(j) i−j

=Y

i<j

σ(i)−σ(j) i−j

Y

i<j

τ(i)−τ(j) i−j

par un changement de variables dans le premier produit. Si l’on note⁰(σ) la quantité définie en (iv), on a donc⁰(στ) =⁰(σ)⁰(τ). On conclut alors encore par récurrence sur le nombre de transpositions dans une

´

ecriture deσcomme produit de celles-ci, en remarquant que⁰(τ) =−1 si τ est une transposition.

Corollaire I.4.3. L’application

Sn→ {±1}, σ7→sgn(σ) est un morphisme de groupes.

Le noyau du morphisme sgn, c’est-à-dire l’ensemble des permutations paires, est appelé le groupe alterné, et notéAn.

Exercice I.4.4. Montrer que le groupe alternéA_n est engendré par les 3-cycles. Montrer que sin≥5, tous les 3-cycles sont conjugués dansA_n .

Le but de l’exercice est maintenant de montrer que An,n≥5, estsimple, c’est-à-dire qu’il n’admet pas de sous-groupe distingué autre que lui-même et le sous-groupe trivial.

Soit H un sous-groupe distingué de An, non trivial. La question précédente montre qu’il s’agit de voir queH contient un 3-cycle. Soitσ∈H, σ6= Id tel que le nombre de points fixes deσsoit maximal.

On distingue deux cas :

- σ contient un cycle de longueur au moins égale à 3. A conjugaison près, on peut supposer que σ= (123...).... Siσest un 3-cycle, c’est gagné, sinon, il existei, j /∈ {1,2,3}tels queiet j ne soient pas fixés parσ. En effet, la seule autre possibilité,σde la forme (123j) est exclue car c’est une permutation impaire. Posons τ = (1ij) et formons γ=τ στ⁻¹σ⁻¹. Montrer queγ est dans H, non trivial, et a plus de points fixes queσ. Conclure.

-σest un produit de transpositions disjointes. A conjugaison près,σ= (12)(34).... Posonsτ= (345), etγ=τ στ⁻¹σ⁻¹. Conclure comme dans le cas précédent.

Nous allons décrire les classes de conjugaison dans le groupe symétrique S_n. Rappelons qu’une partitionde l’entier nest une collection d’entiers ≥1 (avec répétitions){n₁, . . . , n_k} tel que

n=n₁+· · ·+n_k.

On note souvent une partition en ordonnant lesn_idans l’ordre d´ecroissant : λ= (n1, . . . , nk)

avecn1≥n2 ≥ · · · ≥nk, n=n1+· · ·+nk. Une autre notation souvent utilis´ee pour une partition est d’indiquer, pour chaque entier 1,2, . . .la multiplicit´e avec lequel celui-ci intervient dans la partition par un exposant (en omettant les entiers n’intervenant pas) . Par exemple, la notation

λ= (1²,2²,4¹) d´esigne la partition

10 = 4 + 2 + 2 + 1 + 1.

A chaque élément σ∈Sn, on associe une partition dendonnée par les longueurs des cycles dans la décomposition en cycles deσ. Par exemple,σ= (178)(2)(4536)(9) donne la partition 9 = 4 + 3 + 1 + 1.

Théorème I.4.5. Deux permutations σet τ deSn sont conjuguées si et seulement si les partitions de ndonnées par leur décomposition en cycles sont les mêmes.

La d´emonstration est laiss´ee en exercice.

Exercice I.4.6. Calculer le cardinal de la classe de conjugaison de Sn correspondant `a la partition λ= (λ^α₁¹, . . . , λ^α_r^r) den.

(16)

I.5 Exercices

Exercice I.5.1. Produit semi-direct

— 1.Le point de vue interne.SoientGun groupe et H et N deux sous-groupes deGv´erifiant : (a)N est distingu´e dansG,

(b)H etN engendrentG,H∩N ={e}.

Montrer que tout élément g ∈ G se décompose de manière unique sous la forme g = nh, n ∈ N, h∈H. En déduire que l’on a une bijection

N×H →G, (n, h)7→nh.

Montrer que la loi de groupe surN×H induite de celle deGpar transport de structure est (n, h)(n⁰, h⁰) = (n(hn⁰h⁻¹), hh⁰).

— 2. Le point de vue externe. Soient H et N deux groupes, et supposons que H agisse sur N par automorphismes de groupe, c’est-`a-dire que l’on dispose d’un morphisme de groupes

φ:H →Aut(N), et l’on poseh·n=φ(h)(n). On d´efinit surN×H le produit

(n, h)(n⁰, h⁰) = (n(h·n⁰), hh⁰).

Montrer que N×H muni de ce produit est un groupe, que l’on appelle le produit semi-direct deN et H, et que l’on noteNoH. Vérifier que les partiesN × {eH} et {eN} ×H sont deux sous-groupes de NoH, respectivement isomorphes àN etH. On identifie ainsiN etH à deux sous-groupes deNoH. Montrer qu’ils vérifient les hypothèses du 1.

— 3. Extensions. Une suite exacte de groupes est une suite de groupesG_i, et de morphismes φ_i : G_i→G_i+1,

· · ·G_i−1^φ−→ⁱ⁻¹Gi φi

−→Gi+1 φ_i+1

−→Gi+2 φ_i+2

−→ · · ·

telle que pour touti, kerφ_i+1= Imφ_i. Une suite exacte courte est une suite exacte de la forme {e} →N −→^φ G−→^ψ H→ {e}.

Le morphismeφest injectif, etψest surjectif.

Supposons que soit donn´ee une suite exacte courte comme ci-dessus. Unesectionde cette suite exacte est un morphisme de groupess: H→Gtel que ψ◦s= IdH.

Montrer quesest injective. Montrer queφ(N) ets(H) sont deux sous-groupes v´erifiant les hypoth`eses du 1. Faire le lien avec le point de vue externe.

— 4.Exemples.Montrer que le groupe diédralDnest isomorphe au produit semi-directZ/nZoZ/2Z. Déterminer les classes de conjugaison de Dn. Montrer que le groupe E(2) des isométries affines du plan est le produit semi-directR²oO(2). Chercher dans la littérature ou sur internet la définition du groupe de Poincaré.

Exercice I.5.2. SoitGun groupe fini, opérant sur un ensemble S. AlorsGopère naturellement sur le produit cartésienSⁿ=S×. . .×S pour chaque entiernpar

g·(s₁, . . . , s_n) = (g·s₁, . . . , g·s_n).

DéfinissonsS⁽ⁿ⁾⊂Sⁿ comme l’ensemble des n-uplets d’élément distincts deS : S⁽ⁿ⁾={(s1, . . . sn)∈Sⁿ|i6=j⇒si6=sj}.

Alors G op`ere sur S⁽ⁿ⁾. On dit que l’action de G sur S est n-transitive si l’action de G sur S⁽ⁿ⁾ est transitive.

Montrer que l’action deAn sur{1,2, . . . , n}estn−2-transitive.

(17)

Exercice I.5.3. Soit G un groupe. Une présentation du groupe G est la donnée d’un ensemble G = {gi, i∈I}d’éléments deGengendrantG, et d’un ensembleRde relations, une relation étant une égalité de la forme :

(I.5.1) h₁h₂. . . h_n =e, h_j∈ G ∪ G⁻¹, j = 1, . . . , n.

de telle sorte que la propriété universelle suivante soit vérifiée : pour tout groupe G⁰ admettant un système de générateursG⁰={g_i⁰, i∈I} (c’est le mêmeI) vérifiant les relations

h⁰₁h⁰₂. . . h⁰_n =e, h⁰_j ∈ G⁰∪ G⁰⁻¹, j= 1, . . . , n

d`es queh1h2. . . hn=eest dansR, avech⁰_j=g⁰_isihj =gieth⁰_j = (g⁰_i)⁻¹sihj=g_i⁻¹, il existe un unique morphisme de groupesφ: G→G⁰ tel queφ(gi) =g⁰_i pour touti∈I.

— 1. Montrer que G ={1}, R={m1 = 0} est une pr´esentation deZ/mZ (notation additive de la loi de groupe).

— 2. Soit G et G⁰ deux groupes admettant respectivement les pr´esentations (G,R) et (G⁰,R⁰) et supposons qu’il existe une bijectiong7→g⁰deGdansG⁰qui identifie les relations deRet deR⁰. Montrer queGetG⁰ sont isomorphes.

— 3. Soit Fun corps. Considérons les éléments suivants deSL(2,F) : t(y) =

y 0 0 y⁻¹

, y∈F^×, n(z) = 1 z

0 1

, z∈F, w=

0 1

−1 0

. Posons

G={t(y), y∈F^×, n(z), z∈F, w}, et soitRl’ensemble des relations suivantes :

t(y₁)t(y₂) =t(y₁y₂) n(z₁)n(z₂) =n(z₁+z₂) t(y)n(z)t(y)⁻¹=n(y²z) wt(y)w⁻¹=t(y⁻¹)

n(z)wn(z⁻¹)w⁻¹n(z) =t(z)w, (z6= 0).

Montrer que (G,R) est une pr´esentation deSL(2,F).

Indication. Constater que

a b c d

=n(a/c)t(−c⁻¹)wn(d/c) sic6= 0,

a b 0 d

=t(a)n(b/a).

(18)

(19)

Chapitre II

Repr´ esentations lin´ eaires des groupes finis

G. Frobenius

...Organization is of the utmost importance for military affairs, as it is ... for other disciplines where the gathering process of practical knowledge exceeds the strength of any individual. In mathematics, however, organizing talent plays a most subordinate role. Here weight is carried only by the individual. The slightest idea of a Riemann or a Weierstrass is worth more than all organisational endeavours. To be sure, such endeavours have pushed to take centre stage in recent years, but they are exclusively pursued by people who have nothing, or nothing more, to offer in scientific matters. There is no royal road to mathematics. G. Frobenius

Dans ce chapitre, les espaces vectoriels sont définis sur le corps des nombres complexes. Rappelons que siV est un espace vectoriel,GL(V) désigne le groupe des isomorphismes linéaires deV dans lui-même.

Si V est de plus un espace de Hilbert pour le produit hermitien (.|.)V,U(V) désigne le sous-groupe de GL(V) des applications linéairesupréservant le produit hermitien, c’est-à-dire

(u(v)|u(w))V = (v|w)V, (v, w∈V).

II.1 Repr´ esentations

II.1.1 Unitarisabilit´ e

Définition II.1.1. Unereprésentation(ρ, V) du groupeGest la donnée d’un espace vectorielV, appelé espace de la représentation, et d’un morphisme de groupes

ρ:G→GL(V).

SiV est un espace de Hilbert pour le produit hermitien (.|.)V, la représentation (ρ, V) est diteunitaire siρest à valeurs dansU(V), c’est-à dire si pour toutg∈G, pour tousv, w∈V,

(ρ(g)·v|ρ(g)·w)V = (v|w)V.

La dimension de la repr´esentation (ρ, V) est la dimension de V. On la notedρ.

(20)

La représentation trivialede Gest celle oùV =Cet toutg ∈Gagit comme l’identité de C. On la noteTrivG.

L’espace vectoriel{0}est aussi un espace de représentation pour tout groupeG(de manière unique, puisqueGL({0}) est le groupe à un élément). Nous l’appelleronsreprésentation nulle deG.

Remarque II.1.2. Nous avons définilareprésentation triviale d’un groupeG. Elle est irréductible et de dimension un. On parle aussid’unereprésentation triviale dans un espaceV (de dimension quelconque) lorsque tout élément de Gagit par l’identité deV.

Théorème II.1.3. Soit (ρ, V) une représentation de dimension finie de G d’un groupe fini. On peut munirV d’un produit hermitien (.|.)V qui rend la représentation (ρ, V)unitaire.

D´emonstration. MunissonsV d’un produit hermitien (.|.)₀quelconque. D´efinissons un nouveau produit hermitien (.|.)₁ par

(v, w)1= 1

|G|

X

g∈G

(ρ(g)·v|ρ(g)·w)0, (v, w∈V).

Ce nouveau produit vérifie les propriétés de sesquilinéarité requises et est positif, comme on peut le voir immédiatement. Il est défini car si

(v|v)1= 1

|G|

X

g∈G

(ρ(g)·v|ρ(g)·v)₀= 0

alors tous les termes de la somme ´etant positifs, ils sont nuls. Pourg=e, ceci donne (v|v)0= 0, et donc v= 0.

V´erifions que ce nouveau produit hermitien est invariant parρ. Pour touth∈H : (ρ(h)·v|ρ(h)·w)1= 1

|G|

X

g∈G

(ρ(g)·ρ(h)·v|ρ(g)·ρ(h)·w)0

= 1

|G|

X

g∈G

(ρ(gh)·v|ρ(gh)·w)₀= 1

|G|

X

g∈G

(ρ(g)·v|ρ(g)·w)₀= (v|w)₁ Le point crucial du calcul est donc juste un changement de variable dans la somme.

Remarquons que l’hypothèse de la dimension finie ne sert qu’à s’assurer queV est bien un espace de Hilbert. Si l’on suppose au départ que (V,(.|.)0) est un espace de Hilbert de dimension infinie, le même procédé de moyenne donne un nouveau produit hermitien (.|.)1invariant parG. Il est facile de voir que la topologie définie par ce nouveau produit hermitien est la même que l’ancienne (les normes induites sont équivalentes), et donc queV est encore un espace de Hilbert pour (.|.)1.

Remarque II.1.4. Lorsque l’on étudie des groupes plus généraux que les groupes finis, il faut remplacer les arguments basés sur ce procédé de moyenne par quelque chose de plus général, à savoir l’existence de mesure de Haar sur les groupes (topologiques localement compacts). Nous ne définissons pas la notion de mesure de Haar, mais nous remarquons simplement que l’on peut munir l’ensemble finiGde samesure de comptage normaliséeµG. Plus explicitement, pour toute fonctionf surG

Z

G

f(g)dµG(g) = 1

|G|

X

g∈G

f(g).

La propri´et´e fondamentale de cette mesure est que quels que soientx, ydansG, Z

G

(l(x)r(y)·f)(g)dµG(g) = Z

G

f(x⁻¹gy)dµG(g) = Z

G

f(g)dµG(g), c’est-à-dire queµ_G est invariante par translation à gauche et à droite.

Dans la suite de ce chapitre, les groupes finis sont toujours munis de leurs mesures de comptage normalis´ee.

(21)

II.1.2 Sous-repr´ esentations, repr´ esentations irr´ eductibles

Soit (ρ, V) une représentation du groupe G. Un sous-espaceW deV est dit invariant parρsi pour toutg∈G,ρ(g)·W ⊂W. On peut alors parler de la restriction de ρà W, que l’on note (ρ_|W, W). Une telle représentation restreinte à un sous-espace invariant s’appelle unesous-représentationdeG.

Définition II.1.5. Une représentation (ρ, V) du groupe G est dite irréductible si elle est non nulle n’admet aucun sous-espace autre que{0} etV invariant parρ.

Proposition II.1.6. Une repr´esentation irr´eductible d’un groupe fini est de dimension finie.

Démonstration. Soit (ρ, V) une représentation irréductible du groupe fini G. Soit v ∈ V, non nul, et soit W le sous-espace engendré par les vecteurs de la formeρ(g)·v, g∈G. Ce sous-espace est donc de dimension finie, et il est immédiat de vérifier qu’il est invariant parρ. On a donc V =W et V est de dimension finie.

Soit (ρ, V) une repr´esentation du groupeGet supposons que l’espace V soit somme directe de sous- espacesW_i (non nuls),i= 1, . . . , r:

V = M

i=1,...,r

Wi

et que ces espacesWi soient invariants parρ. On dit alors que la représentation (ρ, V) se décompose en somme directe des représentations (ρ_|W_i, Wi) et l’on écrit

(ρ, V) = M

i=1,...,r

(ρ_|W_i, W_i).

L’étude de la représentation (ρ, V) se ramène alors à celle des (ρ_|W_i, W_i). Il parait raisonnable d’espérer pouvoir décomposer toute représentation en somme directe de représentations, jusqu’à ce que toutes celles-ci soient irréductibles. Ceci n’est pourtant pas totalement évident, le problème étant le suivant : si (ρ, V) est une représentation qui n’est pas irréductible, alors il existe un sous-espaceW invariant par ρ. Pour pouvoir décomposer (ρ, V), il faudrait pouvoir exhiber un supplémentaire de W dans V qui soit lui aussi invariant par ρ. Le théorème ci-dessous affirme que pour les représentations d’un groupe fini, ceci est toujours possible. Pour des représentations plus générales, ce n’est pas le cas. Il est donc utile d’introduire la terminologiereprésentation indécomposablepour une représentation qui ne peut pas s’écrire comme somme directe non triviale. Une représentation irréductible est toujours indécomposable, l’inverse n’étant pas vrai en général (mais l’est pour les représentations des groupes finis).

Théorème II.1.7. SoientG un groupe fini et (ρ, V) une représentation de dimension finie deG. Soit W un sous-espace deV invariant parρ. AlorsW admet un supplémentaire invariant W⁰, de sorte que l’on peut décomposer(ρ, V)en somme directe de (ρ_|W, W)et (ρ_|W0, W⁰).

Démonstration. D’après le théorème II.1.3, on peut munirV d’un produit hermitien invariant (.|.)V. Il est alors immédiat de voir que l’orthogonal W^⊥ deW dans V pour ce produit hermitien est invariant parρ. Ceci fournit une décomposition

V =W ⊕W^⊥ en somme directe de sous-espaces invariants.

Corollaire II.1.8. Toute représentation de dimension finie (ρ, V) d’un groupe finiG se décompose en somme directe de représentations irréductibles.

Démonstration. Ceci est facile à établir par récurrence sur la dimension de la représentation. Remarquons que le fait que le groupe soit fini permet de montrer l’existence d’un supplémentaire stable, et le fait que la représentation soit de dimension finie permet la récurrence.

(22)

Définition II.1.9. Une représentation est dite complètement réductible, si elle peut s’écrire comme somme directe de représentations irréductibles. Elle est dite ou semi-simplesi toute sous-représentation admet un supplémentaire qui est aussi une sous-représentation.

Le théorème affirme que que toute représentation de dimension finie d’un groupe fini est semi-simple et le corollaire qu’elle est complètement réductible. Ceci permet de réduire dans une certaine mesure l’étude des représentations de dimension finie du groupeGà celle des représentations irréductibles.

On peut montrer que la semi-simplicité et la complète réductibilité sont en fait des propriétés

´

equivalentes dans un contexte tout-à-fait général (voir le lemme V.3.7).

II.1.3 Op´ erateurs d’entrelacement. Lemme de Schur

Définition II.1.10. Soient (ρ, V) et (τ, W) deux représentations du groupeG. Un opérateur d’entrela- cementT : V →W est une application linéaire deV dansW vérifiant

T(ρ(g)·v) =τ(g)·T(v), (g∈G),(v∈V)

Autrement dit, un opérateur d’entrelacement est unG-morphisme linéaire (cf. Définition I.1.6). On dit aussi queT estG-équivariant.

On note HomG(V, W) ou parfois HomG(ρ, τ) l’ensemble des op´erateurs d’entrelacement entre (ρ, V) et (τ, W). Il est clair que c’est un sous-espace vectoriel de l’espace des applications lin´eaires deV vers W. On note aussi EndG(V) = HomG(V, V).

Il devient maintenant possible de définir la notion dereprésentations équivalentes, ouisomorphes.

Définition II.1.11. Soient (ρ, V) et (τ, W) deux représentations du groupeG. Elles sont équivalentes (ou isomorphes) s’il existe un opérateur d’entrelacement inversibleT : V →W.

Si T est un tel opérateur d’entrelacement inversible,T⁻¹est bien sûr aussi un opérateur d’entrelacement et

τ(g) =T◦ρ(g)◦T⁻¹, (g∈G)

L’équivalence dans le sens défini ci-dessus est une relation d’équivalence sur l’ensemble des représentations du groupeG. Dans la pratique, comme souvent en mathématique, on a tendance à confondre équivalence et égalité, c’est-à-dire à confondre une représentation et sa classe d’équivalence, ou dans le sens contraire, une classe d’équivalence et l’un de ses représentants. Il s’agit là d’abus de langage la plupart du temps inoffensifs.

Définition II.1.12. SoitGun groupe fini. Le dual deG, notéG, est l’ensemble des classes d’´b equivalence de représentations irréductibles deG.

Lemme II.1.13. (i) Soient (ρ, V) et (τ, W) deux repr´esentations d’un groupe G et T : V → W un op´erateur d’entrelacement. Alors kerT est un sous-espace de V invariant par ρ, et ImT est un sous- espace de W invariant parτ.

(ii) Soit (ρ, V) une représentation du groupe G, et T un opérateur d’entrelacement de (ρ, V) avec elle-même. Alors tout sous-espace propre deT est invariant parρ.

D´emonstration. (i) Siv∈kerT, alors, pour toutg∈G,

T(ρ(g)·v) =τ(g)·T(v) = 0

doncρ(g)·v∈kerT. Siw∈ImT, il existev∈V tel que T(v) =w, et pour toutg∈G, τ(g)·w=τ(g)·T(v) =T(ρ(g)·v)

(23)

doncτ(g)·w∈ImT.

(ii) Soitλune valeur propre deT, etVλ le sous-espace propre correspondant. Alors pour toutg∈G, pour toutv∈Vλ,

T(ρ(g)·v) =ρ(g)·T(v) =λρ(g)·v et doncρ(g)·v∈Vλ.

Le résultat qui suit est à la base de la théorie, on le promeut donc de son statut historique de lemme

`

a celui de théorème, pour service rendu (à la science).

Théorème II.1.14(Lemme de Schur). SoitT un opérateur d’entrelacement entre deux représentations irréductibles(ρ₁, V₁) et(ρ₂, V₂)d’un groupeG. Alors

- si (ρ1, V1) et(ρ2, V2)ne sont pas ´equivalentes, T = 0,

- si(ρ1, V1)et(ρ2, V2)sont équivalentes et de dimension finie,HomG(V1, V2)est de dimension1. De manière équivalente, HomG(V1, V1)est l’ensemble des multiples scalaires de l’identité deV1.

Démonstration. Ceci découle facilement du lemme précédent. En effet, si (ρ₁, V₁) et (ρ₂, V₂) ne sont pas

´

equivalentes,T n’est pas inversible. S’il n’est pas injectif, son noyau est non trivial. Mais (ρ₁, V₁) étant irréductible, ceci donne kerT =V₁, et doncT = 0. De même, s’il n’est pas surjectif, son image ImT est un sous-espace invariant deV₂, et doncV₂étant irréductible, ImT ={0}, doncT = 0.

Pour le second point, soitT ∈HomG(V1, V1), considérons une valeur propreλdeT, et soitVλle sous- espace deV1 correspondant (c’est ici qu’intervient l’hypothèse de dimension finie, il faut pouvoir assurer l’existence d’un sous-espace propre non trivial). Il est non nul par hypothèse, et donc par irréductibilité de (ρ₁, V₁), c’estV₁ tout entier. Ceci montre queT =λId_V₁. L’équivalence entre les deux formulations du second point vient du fait que si S : V₁ →V₂ est un opérateur d’entrelacement inversible réalisant l’équivalence entre (ρ₁, V₁) et (ρ₂, V₂), il est clair que

Hom_G(V₁, V₁)→Hom_G(V₁, V₂) T 7→S◦T

est un isomorphisme lin´eaire d’inverse donn´e parT 7→S⁻¹◦T.

Remarque II.1.15. Soit (ρ, V) une représentation irréductible d’un groupeG. La démonstration ci- dessus montre que même si V n’est pas de dimension finie, End_G(V) = Hom_G(V, V) est une C-algèbre dont tous les éléments non nuls sont inversibles. On dit que End_G(V) est unealgèbre à division (surC).

On peut montrer que la seule algèbre à division de dimension finie surC(à isomorphisme près) estC, et l’on retrouve alors que dim(End_G(V)) = 1 siV est de dimension finie. En revanche, il existe des algèbres

`

a division de dimension infinie sur C(par exemple, le corps des fractions rationnelles `a une variable `a coefficients complexesC(X)).

II.2 Op´ erations sur les repr´ esentations

Dans ce qui suit, on ne fait pas d’hypothèses surG, qui est un groupe quelconque. Les représentations de ce groupe ne sont pas non plus supposées de dimension finie.

II.2.1 Sommes directes (ou coproduits) et produits directs

Nous avons vu dans la section II.1.2 comment une représentation (ρ, V) d’un groupeGpouvait parfois se décomposer en somme directe de sous-représentations (point de vue interne). Voyons maintenant comment former la somme directe de deux représentations de Gn’ayant a priori rien à voir l’une avec l’autre (point de vue externe). Soient donc (ρ1, V1) et (ρ2, V2) deux représentations de G. La somme directe deV1et V2est un espace vectorielV, muni de deuxG-morphismes

ι1:V1→V, ι2:V2→V,

(24)

vérifiant la propriété universelle suivante : pour toute représentation (τ, W) de G et toute paire deG- morphismesf1: V1→W,f2: V2→W, il existe un uniqueG-morphismef : V →W tel quef1=f◦ι1

etf₂=f ◦ι₂. On note V =V₁⊕V₂.

(II.2.1) V =V1⊕V2

f

V₁

ι₁ 66

f₁

((

V₂

ι₂

hh

f₂

vvW

Cette d´efinition, un peu abstraite, appelle plusieurs remarques :

— Il y a unicité de la somme directe,à unique isomorphisme près. En effet, soit (V, ι1, ι2) et (V⁰, ι⁰₁, ι⁰₂) deux sommes directes deV1etV2. La propriété universelle deV appliquée àW =V⁰ etf1=iι1,f2=iι2

donne un uniqueG-morphismef :V →V⁰ tel queι⁰₁ =f◦ι1 etι⁰₂=f ◦ι2. En renversant les rˆoles de V etV⁰, on obtient de mˆeme un uniqueG-morphismef⁰:V⁰→V tel que ι1=f⁰◦ι⁰₁ etι2=f⁰◦ι⁰₂.

Considérons maintenantf⁰◦f : V →V. Il vérifief⁰◦f◦ι1=f⁰◦ι⁰₁=ι1etf⁰◦f◦ι2=f⁰◦ι⁰₂=i2. Or un autre G-morphisme deV dansV satisfait aux mêmes propriétés, il s’agit de l’identité deV. La condition d’unicité de la propriété universelle de V appliquée à W =V etf1=ι1,f2 =ι2 nous donne alorsf⁰◦f = IdV. En renversant les rôles deV etV⁰, on obtient de mêmef◦f⁰ = IdV⁰. Ceci montre que V etV⁰ sont isomorphes, et que l’isomorphisme entre eux est déterminé de manière unique, ce qui permet d’identifier ces deux objes de manière non ambigüe. et justifie l’abus de langage courant consistant à parler dela somme directe deV1 etV2.

— La somme directe existe : on prend le produit ensembliste usuelV1×V2 de V1 et V2, muni de la structure d’espace vectoriel produit et des injections

ι1: V1→V1×V2, v17→(v1,0) ι2: V2→V1×V2, v17→(0, v2).

L’actionρdeGsurV1×V2´etant donn´e par

ρ(g)·(v1, v2) = (ρ1(g)·v1, ρ2(g)·v2).

On vérifie aisément que cette construction donne bien un objet vérifiant la propriété universelle voulue.

Remarque II.2.1. La terminologiesomme directe est utilisée pour cette propriété universelle dans des catégories d’espaces vectoriels ou de modules sur un anneau. Ce n’est pas le cas dans d’autres catégories, comme celle des ensembles, comme le montre l’exercice ci-dessous. Le terme correct est celui de coproduit(la notion de produit est définie dans le paragraphe suivant, et le préfixe co signifie que l’on passe d’une notion à l’autre en inversant le sens des flèches dans les énoncés).

Exercice II.2.2. Le but de cet exercice est de mettre en évidence ce qu’est le coproduit dans la catégorie des ensembles. Le coproduit de deux ensembles X et Y est un ensemble V muni de deux applications ensemblistes ιX : X →V et ιY : Y →V vérifiant la propriété universelle suivante pour tout ensemble Z et toutes applicationsf1: X →Z,f2: Y →Z, il existe une unique applicationf : V →Z telle que f1=f◦ιX etf2=f◦ιY. On noteV =X`

Y.

Montrer l’existence et l’unicit´e du coproduit de deux ensembles.

Le produit ensembliste usuelV =V1×V2 muni de la structure vectorielle produit, de la structure de repr´esentation deGdonn´ee ci-dessus et des projections canoniques :p1:V1×V2→V1,p2:V1×V2→V2

vérifie aussi une propriété universelle, à savoir que pour toute représentation (τ, W) deGet toute paire de G-morphismes f1 : W →V1, f2 : W →V2, il existe un unique G-morphismef : W → V tel que