Partitions aléatoires et théorie asymptotique des groupes symétriques, des algèbres d'Hecke et des groupes de Chevalley finis

HAL Id: tel-00587770

https://pastel.archives-ouvertes.fr/tel-00587770

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci-entific research documents, whether they are pub-lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

Partitions aléatoires et théorie asymptotique des

groupes symétriques, des algèbres d’Hecke et des

groupes de Chevalley finis

Pierre-Loïc Méliot

To cite this version:

Pierre-Loïc Méliot. Partitions aléatoires et théorie asymptotique des groupes symétriques, des algèbres d’Hecke et des groupes de Chevalley finis. Mathématiques générales [math.GM]. Université Paris-Est, 2010. Français. �NNT : 2010PEST1033�. �tel-00587770�

Thèse de doctorat

pour l’obtention du grade de

Docteur de l’Université Paris-Est

Spécialité Mathématiques

au titre de l’École Doctorale de Mathématiques et des Sciences et Techniques de l’Information et de la Communication.

Présentée et soutenue publiquement par

Pierre-Loïc Méliot

le vendredi 17 décembre 2010.

Partitions aléatoires et théorie asymptotique des

groupes symétriques, des algèbres d’Hecke et

des groupes de Chevalley finis

Philippe Biane,

et devant le jury composé par

Rapporteurs : Alexei Borodin, Cédric Lecouvey, Examinateurs : Philippe Bougerol,

Ashkan Nikeghbali, Jean-Yves Thibon, Directeur : Philippe Biane.

Kit meanwhile had begun to frequent the Applied Mechanics Institute. Since Prandtl’s recent dis-covery of the boundary layer, things over there had been hopping, with intense inquiry into matters of lift and drag, powered flight poised like a new-feathered bird at the edge of history. Kit had not thought much about aerodynamics since his brainless sojourn in the Vibe embrace, when in the course of golfing parties out on Long Island he had become acquainted with the brambled guttie, a gutta-percha ball systematically roughened away from the perfectly spherical by molding little knobs all over the surface area. What he could not help noticing then, even though he was not all that crazy for the game, so inordinately populated by the likes of Scarsdale Vibe, was a particular mystery of flight—the undeniable lift of heart in seeing a struck ball—a tee shot especially—suddenly go into a steep ascent, an exhilarated denial of gravity you didn’t have to be a golfer to appreciate. There being enough otherworldliness out on the links already. Finding himself more and more drawn to the microcosm on the other side of the Bürgerstraße, Kit soon understood that the brambling of the golf-ball surface had been a way to keep the boundary layer from detaching and falling apart into turbulence which would tend to drag the ball down, denying it its destiny in the sky. When he mentioned this in conversations at the saloons along the Brauweg frequented by engineering and physics students, some immediately suggested implications for the Earth, a brambled spheroid on the grand scale, in its passage through the Æther, being lifted not in the third dimension but on a euphoric world-line through Minkowski’s “four-dimensional physics.”

“What happened to vectorism?” Yashmeen teased.

“There are vectors,” Kit replied, “and vectors. Over in Dr. Prandtl’s shop, they’re all straightfor-ward lift and drift, velocity and so forth. You can draw pictures, of good old three-dimensional space if you like, or on the Complex plane, if Zhukovsky’s Transformation is your glass of tea. Flights of arrows, teardrops. In Geheimrat Klein’s shop, we were more used to expressing vectors without pictures, purely as an array of coefficients, no relation to anything physical, not even space itself, and writing them in any number of dimensions—according to Spectral Theory, up to infinity.”

“And beyond,” added Günther, nodding earnestly.

In Hilbert’s class one day, she raised her hand. He twinkled at her to go ahead. “Herr Geheimrat—” “’Herr Professor’ is good enough.”

“The nontrivial zeroes of the ζ-function...” “Ah.”

She was trembling. She had not had much sleep. Hilbert had seen that sort of thing before, and rather a good deal of it since the turn of the century—since his own much-noted talk at the Sor-bonne, he supposed, in which he had listed the outstanding problems in mathematics which would be addressed in the coming century, among them that of the zeroes of the ζ-function.

“Might they be correlated with eigenvalues of some Hermitian operator yet to be determined?” The twinkle, as some reported later, modulated to a steady pulsation. “An intriguing suggestion, Fräulein Halfcourt.” Usually he addressed her as “my child.” “Let us consider why this should be so.” He peered, as if she were an apparition he was trying to see more clearly. “Apart from eigenvalues, by their nature, being zeroes of some equation,” he prompted gently.

“There is also this... spine of reality.” Afterward she would remember she actually said “Rückgrat

von Wirklichkeit.” “Though the members of a Hermitian may be complex, the eigenvalues are real. The entries on the main diagonal are real. The ζ-function zeroes which lie along Real part =1_/2, are symmetrical about the real axis, and so...” She hesitated. She had seen it, for the moment, so clearly. “Let us apply some thought,” said Hilbert. “We will talk about this further.” But she was to leave Göttingen shortly after this, and they would never have the chance to confer. As years passed, she would grow dim for Hilbert, her words those of an inner sprite too playful to frame a formal propo-sition, or to qualify as a fully habilitated Muse. And the idea itself would evolve into the celebrated Hilbert-Pólya Conjecture.

Remerciements

Mes premiers remerciements sont bien sûr adressés à mon directeur de thèse, Philippe Biane, qui m’a proposé il y a trois ans de travailler sur ce sujet. Il m’a laissé une liberté totale dans mes travaux, tout en prodiguant de précieux conseils. Le meilleur qu’il ait pu me donner fut sans doute de regarder des exemples de petite taille, et de faire des calculs explicites dans ces cas ; à peu près tous les résultats de cette thèse ont été découverts à partir du moment où j’ai suivi ce simple précepte. Au-delà de l’aspect mathématique, j’ai eu un grand plaisir à travailler sous la direction d’une personne si agréable et joyeuse.

À l’autre bout de la frise chronologique, je remercie Alexei Borodin et Cédric Lecouvey qui ont accepté le rôle de rapporteur et qui ont pris la peine de lire ce mémoire et de m’aider à le corriger et à l’améliorer. Je remercie également Philippe Bougerol, Ashkan Nikeghbali et Jean-Yves Thibon, qui ont accepté de se joindre aux rapporteurs pour constituer mon jury de thèse, et de se déplacer pour assister à ma soutenance.

Au cours de ma thèse, l’équipe de combinatoire algébrique de Marne-La-Vallée m’a con-stamment soutenu, et les séminaires du vendredi matin m’ont beaucoup appris. Les discus-sions qui s’y déroulent n’ont rien à envier à l’avalanche scientifico-baroque décrite dans le passage de [Pyn06] cité ci-contre ; et de nombreuses idées me sont venues aux cours de ces échanges. Je remercie donc tout particulièrement Florent Hivert, Alain Lascoux, Jean-Christophe Novelli, Jean-Yves Thibon, Nicolas Thiéry, et tous les autres participants de cette formidable assemblée. Je remercie également tous les thésards de l’équipe, qui ont grande-ment contribué à faire de ma thèse un mogrande-ment agréable : Adrien Boussicault, Jean-Paul Bultel, Hayat Cheballah, Valentin Féray, Samuele Giraudo, Viviane Pons et Marc Sage. Un remercie-ment particulier doit être adressé à Valentin, avec qui j’ai coécrit mon premier article ([FM10]). C’est lui qui m’a suggéré l’utilisation des observables de diagrammes pour l’étude asympto-tique des diagrammes de Young, et qui m’a montré l’importance de l’algèbre des permutations partielles ; et ma thèse aurait sans doute été bien moins fructueuse sans ces suggestions.

Une partie de ma thèse qui n’est quasiment pas évoquée dans ce mémoire est l’écriture de programmes permettant de tirer au hasard des partitions selon les mesures de Plancherel et leurs diverses déformations, et de faire des calculs dans diverses algèbres combinatoires. Dans ce cadre, j’ai profité pleinement de l’émergence et du développement du système de calcul formel sage ; j’en remercie donc les développeurs, et plus particulièrement Florent Hivert et Nicolas Thiéry, qui m’ont aidé à corriger certains de mes programmes.

Durant ces trois années, j’ai eu plusieurs fois la possibilité de voyager pour assister à des conférences et rencontrer d’autres chercheurs : c’est une autre partie de la thèse n’est pas relatée ici, et ce fut pourtant l’une des plus agréables, puisque j’ai eu la chance de dé-couvrir (dans cet ordre) Montréal, Cargese, Zürich, San Francisco, Bielefeld, et en chacun

de ces lieux des personnalités étonnantes et des mathématiques rafraichissantes (ou récipro-quement). Je remercie ainsi Kürsat Aker, Gérard Ben Arous, Marek Bozejko, Maciej Dołega, Ashkan Nikeghbali, Eric Nordenstam, Piotr ´Sniady et Anatoli Vershik pour les discussions que j’ai eues avec eux lors de ces voyages. Je remercie également infiniment Sylvie Cach et Line Fonfrede pour leur aide efficace dans l’organisation de ces voyages. J’ai également pu participer à quelques conférences ou séminaires tenus à Paris même ; concernant ceux-ci, je remercie Florent Benaych-Georges, qui m’a laissé exposer les résultats d’Okounkov ([Oko00]) à l’Institut Henri Poincaré, et Paul Bourgade, avec qui j’ai eu d’intéressantes discussions.

Finalement, mes derniers remerciements sont adressés à mes parents et à mes amis, pour leur soutien indéfectible. La plupart des idées mathématiques ne surviennent pas au cours de calculs apocalyptiques ; au contraire, elles émergent le plus souvent lorsque le mathématicien est au repos, et fait toute autre chose. Ainsi, les résultats présentés dans ce mémoire ont probablement vu le jour au cours de la main de poker suivante

P 9_♦2_♠ K_♥K_♣ PL Cl A_♦A_♣ 9_♥9_♠7_♦ 3_♣ 9_♣

ou bien au détour d’un chemin corse, à moins que ce ne fut en écoutant pour la onzième fois l’histoire du cosaque. Les héros de ces aventures se reconnaîtront sans doute, et ils méritent ces derniers remerciements.

Avant-propos

Si G est un groupe fini et si V est une représentation linéaire complexe et de dimension finie de G, la théorie de Schur permet de décomposer de manière unique V en somme directe de modules irréductibles. Ainsi,

V≃CG

M

λ∈Gb nλVλ,

où bGest l’ensemble (fini) des classes d’isomorphismes de CG-modules simples, et où les nλ sont des entiers positifs ou nuls. Ce résultat bien connu peut être réinterprété de manière probabiliste : toute représentation (réductible et non réduite à 0) V de G fournit une mesure de probabilité sur bG— la mesure de Plancherel de V, voir la définition3.2— définie par

P_V[λ∈G] =b nλ dim Vλ dim V .

Considérons alors une famille croissante de groupes finis(Gn)n∈N, et une famille « naturelle » de représentations (Vn)n∈N de ces groupes — par exemple, on peut prendre Vn = CGn. La théorie asymptotique de ces représentations est l’ensemble des résultats qui permettent de répondre aux questions suivantes :

1. A-t-on des résultats de convergence pour les variables aléatoires λ ∈ Gbn tirées suivant les mesures PVn? Par exemple, si g est un élément d’un groupe Gn et si λ est tiré au

hasard suivant la mesure PVN>n, que dire de la variable aléatoire

χλ(g),

où χλ _{est le caractère irréductible associé à la classe d’isomorphismes de CG}

N-modules simples λ ?

2. Plus généralement, sans fixer de famille de représentations(Vn)n∈N, comment exprimer simplement un caractère irréductible χλ_{(g) avec λ ∈ Gb}

N et N grand, et g fixé dans un groupe Gn6N? Quels sont les liens entre les représentations des « grands » groupes GN, Ntendant vers l’infini, et les représentations de la limite inductive G∞ =limn→∞Gn? 3. Les centres Z(CG_n)des algèbres des groupes Gnont-ils des propriétés communes ? En

particulier, les classes de conjugaison vérifient-elles des relations « génériques », c’est-à-dire indépendantes de la taille n du groupe ?

À partir des années 60, et suite au développement de l’analyse harmonique abstraite sur les groupes infinis et aux articles précurseurs [FH59] et [Tho64], une théorie asymptotique des représentations a été démontrée pour la famille des groupes symétriques (Sn)n∈N. Les éléments de cSnsont les partitions de taille n (voir le chapitre1), c’est-à-dire les suites décrois-santes d’entiers λ= (λ1>· · · >λr)telles que

par conséquent, toute représentation de Sn fournit un modèle de partition aléatoire, i.e., une mesure de probabilité sur l’ensemble des partitions de taille n. Les travaux de Kerov et Vershik ([KV77, KV81, Ker93a]) ont montré que sous les mesures de Plancherel des représentations régulières des groupes Sn, les partitions d’entiers étaient concentrées gaussiennement autour d’une « forme limite » (théorèmes3.3et3.4).

Les motivations de la théorie asymptotique des représentations sont multiples, et au cours des deux dernières décennies, des liens ont été établis entre cette théorie et la théorie des ma-trices aléatoires (cf. [BOO00,Oko00]), le problème d’Ulam des plus longs sous-mots croissants dans un mot aléatoire ([BDJ99,BDJ00,Joh01]), les probabilités libres (voir [Bia98]), les pavages et les surfaces aléatoires (voir [OR03]), et même la théorie de Gromov-Witten ([Oko03b]) et les équations aux dérivées partielles hydrodynamiques ([Ker93b,Ker99]). Retenons trois motiva-tions essentielles :

1. La mesure de Plancherel d’un G-module est évidemment importante pour l’analyse harmonique abstraite sur le groupe G. Ainsi, en connaître les propriétés apporte un point de vue nouveau (probabiliste) sur la théorie des représentations de G. Par exemple, dans le cas du groupe symétrique, ce nouveau paradigme a poussé Ivanov, Kerov et Olshanski à construire l’algèbre des permutations partielles ([IK99,IO02]), que l’on peut aussi interpréter comme algèbre d’observables des partitions d’entiers (cf. les chapitres

2et 12), et qui apporte une explication simple à de nombreux résultats sur la structure

des (centres des) algèbres des groupes symétriques. Dans ce mémoire, outre le groupe symétrique, nous serons amené à étudier les groupes de Lie classiques sur les corps finis ; leur théorie des représentations est nettement plus complexe (voir le chapitre 6),

et on peut espérer que l’approche probabiliste simplifie sa compréhension, ou du moins apporte de nouvelles idées dans ce domaine (voir par exemple les résultats du chapitre

12, et le paragraphe13.4).

2. Les mesures de Plancherel des représentations des groupes classiques ont souvent des interprétations combinatoires. En particulier, en utilisant l’algorithme RSK (cf. §3.1), Lo-gan, Shepp, Kerov et Vershik ([LS77, KV77]) ont ramené le problème des plus longs sous-mots croissants dans une permutation aléatoire à l’étude asymptotique des me-sures de Plancherel des représentations régulières des groupes symétriques, et ainsi résolu le problème d’Ulam. On peut donc espérer résoudre des problèmes purement combinatoires à l’aide de la théorie asymptotique des représentations ; par exemple, les résultats que nous avons obtenus sur les q-mesures de Plancherel peuvent être énoncés en termes de statistiques des permutations aléatoires distribuées suivant un potentiel proportionnel à leur indice majeur (corollaires8.6et8.8).

3. Les méthodes employées et les résultats obtenus en théorie asymptotique des repré-sentations sont à rapprocher des méthodes et des résultats de la théorie des matrices aléatoires. Ces similarités seront évoquées en détail dans les chapitres 4 et 5; il est

très difficile d’établir un lien direct entre ces deux sujets (la meilleure tentative est pro-bablement l’article d’Okounkov [Oko00]), mais on retrouve les mêmes lois limites, les mêmes processus ponctuels déterminantaux, les mêmes processus gaussiens, etc. de part et d’autre. Ainsi, les modèles de partitions aléatoires issus de la théorie (asymptotique) des représentations doivent être envisagés comme des analogues discrets des modèles de matrices aléatoires, et une avancée dans l’un des domaines peut donner de nouvelles idées pour résoudre les problèmes de l’autre.

Au cours de cette thèse, nous avons établi des résultats analogues aux résultats asympto-tiques classiques pour les mesures de Plancherel des représentations régulières des groupes symétriques, mais pour d’autres familles de groupes finis, et pour d’autres familles de re-présentations des groupes symétriques. Compte tenu de la classification des groupes finis simples, les familles intéressantes qui viennent immédiatement après la famille (Sn)n∈N sont les familles de groupes de Chevalley classiques

(GL(n, Fq))n∈N, (U(n, Fq2))_n∈N, (Sp(2n, Fq))n∈N, (O(n, Fq))n∈N, etc.

Ainsi, nous nous sommes essentiellement penchés sur le cas des groupes finis de matrices GL(n, Fq), et nous avons étudié des familles de représentations de ces groupes qu’on peut voir comme q-déformations des représentations régulières Sn y CSn (chapitre 6 à 8). Plus précisément, nous avons établi des résultats de concentration gaussienne pour les q-mesures de Plancherel (théorèmes 8.5, 8.7 et 8.15), qui sont les mesures de probabilité associées aux représentations

GL(n, Fq) yC[F(n, Fq)],

où_F(n, Fq) =GL(n, Fq)/B(n, Fq)désigne la variété des drapeaux complets de taille n sur le corps Fq(voir [FM10,Mé10b]). En réalité, on retrouve ces phénomènes de concentration gaus-sienne dans un contexte beaucoup plus général, à savoir celui des modules sur un groupe de Chevalley fini obtenus par induction parabolique à partir d’un caractère cuspidal d’un sous-groupe de Lévi rationnel (chapitre 9). On a en particulier établi un résultat de concentration gaussienne pour l’analogue en type B du cas précédemment exposé (théorèmes 9.7 et 9.8), c’est-à-dire pour les représentations

Sp(2n, Fq) yC[FB(n, Fq)],

où FB(n, Fq) = Sp(2n, Fq)/BSp(2n, Fq) désigne la variété des drapeaux totalement aniso-tropes complets de taille n sur le corps Fq (dans un espace symplectique de dimension 2n).

Incidemment, cette théorie asymptotique des représentations des groupes de Chevalley finis peut être réinterprétée en termes de représentations des groupes symétriques, ou plus précisément en termes de représentations des algèbres d’Hecke des groupes symétriques (et des autres groupes de Coxeter classiques). C’est ce point de vue qui nous a permis d’adap-ter les arguments de Kerov et Vershik, et d’établir nos résultats de concentration gaussienne. Ainsi, les modèles algébriques présentés ci-dessus constituent de nouveau des modèles de partitions aléatoires. Les partitions d’entiers sont des objets sont de nature géométrique pla-naire, et elles peuvent être étudiées à l’aide d’une algèbre d’observables modelée sur l’algèbre des fonctions symétriques ([IO02] ; chapitre2). Cette algèbre O est l’analogue pour l’ensemble

Y de toutes les partitions d’entiers de l’algèbre des fonctions rationnelles pour une variété algébrique ; ainsi, ses éléments sont les fonctions « polynomiales » des partitions. Elle permet de traiter avec le même formalisme :

- les représentations régulières des groupes symétriques (chapitre3),

- les représentations des groupes GL(n, Fq)sur les modules C[F(n, Fq)](chapitre8), - les représentations de Schur-Weyl des groupes symétriques sur des produits tensoriels

(chapitre10),

Concernant les représentations de Schur-Weyl, nous sommes parvenus à préciser les résultats de P. Biane ([Bia01a]), et nous avons montré que le théorème central limite de Kerov était également valable dans ce contexte (cf. [Mé10c] et le chapitre10), à une translation près le long

de l’axe des abscisses. Ce résultat de concentration gaussienne des formes des diagrammes de Young est aussi valable pour les mesures de Gelfand des groupes symétriques (cf. [Mé10a] et le chapitre11), et possède ainsi un caractère universel.

Nous avons mentionné ci-dessus que l’outil principal de notre étude asymptotique était l’algèbre O des observables, dont les espérances jouent un rôle similaire pour les partitions aléatoires au rôle joué par les moments pour des variables aléatoires réelles. Or, l’algèbre O se révèle être isomorphe à une sous-algèbre commutative de l’algèbre d’Ivanov-Kerov des per-mutations partielles, que l’on peut voir comme une limite projective des algèbres des groupes symétriques. Cette algèbre permet de démontrer des identités génériques dans les algèbres des groupes symétriques, c’est-à-dire des identités indépendantes de la taille n du groupe symétrique. Nous avons tenté de généraliser cette construction au cas d’autres algèbres, no-tamment les algèbres d’Hecke Hq(Sn) et les algèbres des groupes linéaires finis GL(n, Fq); en particulier, nous avons démontré l’analogue pour les centres des algèbres d’Hecke d’un théorème de Farahat et Higman (cf. [Mé10d]). Toutes ces constructions rentrent dans le cadre extrêmement général et quelque peu bourbakiste des fibrés de groupes par des semi-treillis. Dans ce même contexte, on peut formaliser des problèmes combinatoires sur les per-mutations, par exemple le problème des nombres de Hurwitz.

∗ ∗ ∗

La première partie de ce mémoire rappelle les résultats connus en théorie asymptotique des représentations pour les groupes symétriques. Nous avons pris la liberté de rédiger un exposé complet de cette théorie1_{; ainsi, le lecteur pourra comprendre l’origine des outils}

employés pour l’étude asymptotique des algèbres d’Hecke et des groupes linéaires finis, et il aura une idée de l’étendue des résultats qu’on peut espérer obtenir dans ce nouveau cadre. Les chapitres 1 à 5 ne contiennent donc aucun résultat nouveau, mais leur lecture rendra

nettement plus naturels les raisonnements des chapitres ultérieurs.

La seconde partie du mémoire est consacrée à la théorie asymptotique des représenta-tions des groupes de Chevalley finis sur leurs variétés de drapeaux. La combinatoire des représentations de ces groupes est hautement non triviale (notamment pour un lecteur proba-biliste) ; nous rappelons donc cette théorie dans le chapitre6, et nous y traitons en détail le cas

des groupes GL(n, Fq). Les chapitres7 à9 sont consacrés au coeur du problème, c’est-à-dire l’étude asymptotique des q-mesures de Plancherel ; en particulier, on y démontre les résultats asymptotiques8.5,8.7,8.15,9.7et9.8, qui sont les analogues des résultats de Kerov et Vershik pour le groupe symétrique.

Dans la troisième partie, nous adaptons les outils utilisés pour l’étude des mesures de Plancherel et des q-mesures de Plancherel au cas des mesures de Schur-Weyl et des mesures de Gelfand. Ainsi, le chapitre10est consacré aux mesures de Schur-Weyl, qui en fonction des

valeurs de leurs paramètres exhibent trois régimes asymptotiques distincts ; nous démontrons en particulier les théorèmes 10.15 et 10.22. Dans le chapitre 11, nous étudions une autre

fa-mille de représentations des groupes symétriques, les modèles de Gelfand ; leurs propriétés combinatoires sont liées à l’énumération des racines carrées dans les groupes symétriques.

Enfin, la dernière partie est consacrée aux généralisations de la construction d’Ivanov-Kerov ([IK99]) et du théorème de Farahat et Higman ([FH59]). Dans le chapitre 12, on

dé-montre un analogue de ce théorème pour les éléments de Geck-Rouquier dans les centres des algèbres d’Iwahori-Hecke de type A ([Mé10d]). Dans le chapitre 13, on montre que les

constructions à la Ivanov-Kerov rentrent dans le cadre des fibrés de semi-groupes, et on ap-plique ces notions au problème des nombres de Hurwitz. Il est vraisemblable qu’un théorème de type Farahat-Higman soit valable dans le contexte des centres des algèbres des groupes GL(n, Fq); on explique cette conjecture à la fin du chapitre 13. Le schéma qui suit résume le plan que nous venons de dresser, et indique les prérequis logiques à la lecture de chaque chapitre.

Chapitre 1. Permutations, partitions, représentations du groupe symétrique.

Chapitre 2. Observables de diagrammes.

Chapitre 3. Mesure de Plancherel.

Chapitre 4. Groupe symétrique infini, processus ponctuels déterminantaux.

Chapitre 5. Matrices et permutations aléatoires.

Chapitre 6. Groupe linéaire fini.

Chapitre 7. Algèbres d’Hecke.

Chapitre 8. q-mesure de Plancherel.

Chapitre 9. Mesures d’induction parabolique.

Chapitre 10. Mesures

de Schur-Weyl. Chapitre 11. Mesuresde Gelfand.

Chapitre 12. Algèbre d’Hecke-Ivanov-Kerov. Chapitre 13. Fibrés de semi-groupes

Foreword

If G is a finite group and V is a finite-dimensional complex linear representation of G, the Schur theory allows to decompose V in a unique way as a direct sum of irreducible modules. Hence,

V_≃CG

M

λ∈Gb

nλVλ,

where bG is the set of isomorphism classes of simple CG-modules, and the nλ’s are non-negative integers. This well-known result can be restated with a probabilistic point of view: any (reducible and non-zero) representation V of G yields a probability measure on bG— the so-called Plancherel measure of V, see Definition3.2 — that is defined by

P_V[λ_∈G] =b nλ dim Vλ dim V .

Then, let us consider an increasing family of groups(Gn)n∈N, and a “natural” family of rep-resentations of these groups(Vn)n∈N — for instance, one can take Vn=CGn. The asymptotic

theory of these representations is the set of results related to the following questions:

1. Does one observe convergence phenomena for the random variables λ _∈ Gbn picked according to the measures PVn? For instance, if g is in some group Gnand λ is chosen

randomly according to the distribution PVN>n, how does the random variable

χλ(g)

behave, where χλ _{is the irreducible character associated to the isomorphism class of} simple CGN-modules λ?

2. More generally and without fixing a family of representations(Vn)n∈N, can one exprime in a simple way the irreducible character value χλ_{(g), with g fixed in some group G}

n, and λ _∈ GbN with N > n? Can one relate the representations of the “big” groups GN where N goes to infinity, and the representations of the inductive limit G∞ =lim

−→n→∞Gn?

3. Do the centers Z(CG_n)of the group algebras of the Gn’s share some properties? In par-ticular, do the conjugacy classes satisfy some “generic” identities, that is to say, identities that do not depend on the size n of the group?

From the 60s, and following the development of abstract harmonic analysis on infinite groups and the precursor papers [FH59] and [Tho64], an asymptotic representation theory has been proved for the family of symmetric groups(Sn)n∈N. The elements of cSnare the partitions of size n (see Chapter1), that is to say, the non-increasing sequences of integers λ= (λ1>· · · >

λr)such that

consequently, any representation of Snyields a model of random partition, i.e., a probability measure on the set of partitions of size n. Kerov and Vershik ([KV77, KV81, Ker93a]) have shown that under the Plancherel measures of the regular representations of the groups Sn, the partitions exhibit a gaussian concentration around a “limit shape” (Theorems3.3and3.4).

The motivations of asymptotic representation theory are numerous, and during the two last decades, connections have been established between this theory and random matrix the-ory (cf. [BOO00, Oko00]), Ulam’s problem of longest increasing subsequences in random words ([BDJ99,BDJ00,Joh01]), free probability (see [Bia98]), random tilings and random sur-faces (see [OR03]), and even Gromov-Witten theory ([Oko03b]) and hydrodynamic partial differential equations ([Ker93b,Ker99]). Let us put emphasis on three essential motivations:

1. The Plancherel measure of a G-module is obviously important in the setting of abstract harmonic analysis on the group G. Thus, a good knowledge of its properties provides a new (probabilistic) point of view on the representation theory of G. For example, in the case of the symmetric group, this new paradigm lead Ivanov, Kerov and Olshanski to construct the algebra of partial permutations ([IK99,IO02]), that can also be interpreted as an algebra of observables of integer partitions (cf. Chapters 2 and 12), and that

provides simple explanations to numerous results on the structure of the (centers of the) algebras of the symmetric groups. In this thesis, in addition to the symmetric group, we shall study the classical Lie groups over finite fields; their representation theory is substantially more complex (see Chapter 6), and one can hope that the probabilist

approach will simplify its understanding, or at least bring new ideas in this domain (see for instance the results of Chapter12, and Paragraph13.4).

2. The Plancherel measures of the representations of the classical groups often have com-binatorial interpretations. In paticular, by using the RSK algorithm (cf. §3.1), Logan, Shepp, Kerov and Vershik ([LS77,KV77]) have reduced the problem of longest increas-ing subsequences in a random permutation to the asymptotic study of the Plancherel measures of the regular representations of the symmetric groups, thus solving Ulam’s problem. So, one can hope to solve pure combinatorial problems thanks to asymptotic representation theory; for instance, the results that we have obtained for the q-Plancherel measures can be stated in terms of statistics of random permutations distributed accord-ing to a potential proportional to their major index (Corollaries8.6 and8.8).

3. The methods and the results of asymptotic representation theory should be related to those of random matrix theory. These similarities will be explained in detail in Chapters

4and5; it is very difficult to establish a direct link between these two subjects (the best

attempt is probably Okounkov’s article [Oko00]), but one observes the same limiting distributions, the same determinantal point proceses, the same gaussian processes, etc. on both sides. Hence, the models of random partitions stemming from (asymptotic) rep-resentation theory should be thought of as discrete analogues of the models of random matrices, and a breakthrough in one domain should bring new ideas in order to solve problems on the other side.

∗ ∗ ∗

During this thesis, we have established results that are analog to the classical asymptotic results regarding the Plancherel measures of the regular representations of the symmetric

groups, but for other families of finite groups, and for other families of representations of the symmetric groups. According to the classification of finite simple groups, the next interesting examples after the family(Sn)n∈N are the families of Chevalley groups of classical type:

(GL(n, Fq))n∈N, (U(n, Fq2))_n∈N, (Sp(2n, Fq))n∈N, (O(n, Fq))n∈N, etc.

We have focused mainly on the case of groups of matrices GL(n, Fq), and we have studied families of representations of these groups that can be seen as q-deformations of the (left) regular representations SnyCSn(Chapters6to8). More precisely, we have established the gaussian concentration of the q-Plancherel measures (Theorems8.5, 8.7and8.15), which are the probability measures related to the representations

GL(n, Fq) yC[F(n, Fq)],

where F(n, Fq) = GL(n, Fq)/B(n, Fq)is the variety of complete flags of size n over the finite field Fq (see [FM10, Mé10b]). In fact, these phenomena of gaussian concentration occur in a much broader context, namely, for modules over finite Chevalley groups that are obtained by parabolic induction from a cuspidal character of a rational Levi subgroup (Chapter 9). For

instance, we have shown that gaussian concentration holds for the analogues in type B of the q-Plancherel measures (Theorems9.7and9.8), i.e., for the representations

Sp(2n, Fq) yC[FB(n, Fq)],

whereFB(n, Fq) =Sp(2n, Fq)/BSp(2n, Fq)is the variety of totally anisotropic complete flags of size n over Fq(in a symplectic vector space of dimension 2n).

Incidentally, this asymptotic representation theory for finite Chevalley groups can be re-stated for the representations of the symmetric groups, or more precisely, for the representa-tions of the Hecke algebras of the symmetric groups (and the other classical Coxeter groups). We have adopted this point of view in order to adapt the arguments of Kerov and Vershik, and to prove our results of gaussian concentration. Hence, the aforementioned algebraic models become again models of random partitions. The integer partitions are objects of planar geo-metric nature, and they can be studied thanks to an algebra of observables that is built on the model of the algebra of symmetric functions ([IO02]; Chapter2). This algebra is the analog for

the set Y of all integer partitions of the algebra of rational functions on an algebraic manifold; hence, its elements are the “polynomial” functions of partitions. It enables to treat with the same formalism:

- the regular representations of the symmetric groups (Chapter3),

- the representations of the groups GL(n, Fq)on the modules C[F(n, Fq)](Chapter8), - the Schur-Weyl representations of symmetric groups on tensor products (Chapter10),

- and the Gelfand models of symmetric groups (Chapter11).

Regarding the Schur-Weyl representations, we were able to precise the results of P. Biane ([Bia01a]), and we have shown that Kerov’s central limit theorem holds also in this setting (cf. [Mé10c] and Chapter 10), up to a translation along the x-axis. This result of gaussian

concentration of the shapes of the Young diagrams holds also for the Gelfand measures of the symmetric groups (cf. [Mé10a] and Chapter11), so it has a character of universality.

As mentioned previously, the main tool of our asymptotic study is the algebra O of ob-servables, whose expectations play a similar role for random partitions as the moments for

real random variables. It turns out that O is isomorphic to a subalgebra of the Ivanov-Kerov algebra of partial permutations, that can be seen as a projective limit of the group algebras of the symmetric groups. This algebra can be used to show generic identities in the symmetric group algebras, that is to say, identities that are independent of the size n of the symmetric group. We have tried to generalize this construction to the case of other algebras, e.g. the Hecke algebras Hq(Sn)and the group algebras of the finite linear groups GL(n, Fq); in par-ticular, we have shown an analogue of a theorem of Farahat and Higman for the centers of the Hecke algebras (cf. [Mé10d]). All these constructions can be understood in the extremely general and Bourbaki-like setting of semilattice bundles over semigroups. In the same con-text, one can formalize combinatoric problems on permutations, for instance the problem of Hurwitz numbers.

∗ ∗ ∗

In the first part of this thesis, we recall the results that are known in asymptotic represen-tation theory of symmetric groups. We have chosen to write a complete survey1_{of this theory,}

so that the reader can understand the origin of the tools used in the asymptotic representation theory of Hecke algebras and finite linear groups. He should also have a clear idea of the kind of results that one can hope to establish in this new setting. Hence, Chapters 1 to 5 do not

contain any new result, but they are intented to make the arguments of the ulterior chapters much more natural.

The second part of this thesis is devoted to the asymptotic theory of the representations of the finite Chevalley groups on their flag varieties. The combinatoric properties of the representations of these groups are highly non trivial (especially for a probabilist reader), so we recall this theory in Chapter 6, and we treat in detail the case of the groups GL(n, Fq). Chapters7to9are devoted to the heart of the problem, that is to say the asymptotic study of

the q-Plancherel measures; in particular, we prove the asymptotic results8.5,8.7,8.15,9.7and

9.8, which are the analogues of the results of Kerov and Vershik for the symmetric groups. In the third part, we adapt the tools used for the study of the Plancherel and q-Plancherel measures to the case of Schur-Weyl and Gelfand measures. Thus, Chapter 10 is devoted to

Schur-Weyl measures, which according to the values of their parameters exhibit three dis-tinct asymptotic behaviours; we prove notably Theorems10.15 and 10.22. In Chapter11, we

study another family of representations of the symmetric groups, the Gelfand models; their combinatorics are related to the enumeration of square roots in the symmetric groups.

Finally, the last part of this thesis presents some generalizations of the construction of Ivanov and Kerov ([IK99]) and of Farahat-Higman’s theorem ([FH59]). In Chapter 12, we

show an analogue of this theorem for Geck-Rouquier elements in the centers of the Iwahori-Hecke algebras of type A ([Mé10d]). In Chapter13, we see that the constructions à la Ivanov-Kerov belong to the realm of bundles over semigroups, and we apply these notions to the problem of Hurwitz numbers. It is likely that a Farahat-Higman theorem holds in the context of the centers of the algebras of the groups GL(n, Fq); we explain this conjecture at the end of Chapter13. The scheme hereafter summarizes the plane we have just exposed, and it indicates

the logical prerequisites to the reading of each chapter.

Chapter 1. Permutations, partitions, representations of the symmetric group.

Chapter 2. Observables of diagrams.

Chapter 3. Plancherel measure.

Chapter 4. Infinite symmetric group, determinantal point processes.

Chapter 5. Random matrices and ramdom permutations.

Chapter 6. Finite linear group.

Chapter 7. Hecke algebras.

Chapter 8. q-Plancherel measure.

Chapter 9. Measures of parabolic induction.

Chapter 10. Schur-Weyl measures. Chapter 11. Gelfand measures.

Chapter 12. Hecke--Ivanov-Kerov algebra. Chapter 13. Bundles over semigroups

Table des matières

Avant-propos v

I Représentations des groupes symétriques et mesure de Plancherel 1

1 Permutations, partitions et représentations du groupe symétrique 5

1.1 Groupe symétrique et classes de conjugaison . . . 5

1.2 Partitions et fonctions symétriques . . . 6

1.3 Tableaux et représentations des groupes symétriques . . . 8

1.4 Isomorphisme de Frobenius-Schur et combinatoire des caractères. . . 10

1.5 Théorème de Farahat-Higman et éléments de Jucys-Murphy. . . 14

2 Combinatoire des observables de diagrammes 18 2.1 Coordonnées entrelacées et coordonnées de Frobenius . . . 19

2.2 Moments d’un diagramme et graduations sur l’algèbre d’observables . . . 20

2.3 Permutations partielles et caractères centraux . . . 22

2.4 Cumulants libres et asymptotique des caractères. . . 25

2.5 Correspondance de Markov-Krein et topologie des diagrammes continus . . . . 29

3 Asymptotique de la mesure de Plancherel sur les partitions 33 3.1 Problème d’Ulam et correspondance RSK . . . 33

3.2 Mesures et processus de Plancherel . . . 35

3.3 Loi des grands nombres . . . 37

3.4 Théorème central limite . . . 39

4 Groupe symétrique infini et processus ponctuels déterminantaux 44 4.1 Représentations du groupe symétrique infini . . . 44

4.2 Processus ponctuels déterminantaux et mesures de Schur . . . 52

5 Permutations aléatoires et matrices aléatoires 60 5.1 Théorie asymptotique des matrices aléatoires hermitiennes . . . 61

5.2 Équivalence de Baik-Deift-Johansson : l’approche déterminantale . . . 67

5.3 Équivalence de Baik-Deift-Johansson : l’approche géométrique . . . 68

II Asymptotique des mesures de Plancherel des algèbres d’Hecke 75 6 Combinatoire des groupes linéaires finis 78 6.1 Réduction de Jordan-Frobenius et classes de conjugaison . . . 78

6.3 Caractères de Deligne-Lusztig et caractères irréductibles . . . 85

6.4 Asymptotique des mesures de Plancherel des groupes linéaires finis . . . 89

7 Algèbres d’Iwahori-Hecke et q-mesure de Plancherel 91 7.1 q-mesures et q-processus de Plancherel . . . 91

7.2 Algèbre d’Iwahori-Hecke d’un groupe de Chevalley. . . 98

7.3 Caractères des algèbres d’Hecke de type A . . . 103

8 Asymptotique de la q-mesure de Plancherel 107 8.1 Quantification de l’algèbre des observables . . . 108

8.2 Loi des grands nombres pour les premières parts . . . 112

8.3 Théorème central limite pour les premières parts . . . 115

8.4 Concentration gaussienne des q-caractères . . . 124

9 Asymptotique des mesures d’induction parabolique 129 9.1 Variété de drapeaux symplectique et algèbre d’Hecke de type B . . . 130

9.2 Résultats asymptotiques pour la B-q-mesure de Plancherel . . . 137

9.3 Caractères des algèbres d’Hecke de type B et répartitions des parts . . . 147

9.4 Groupes quantiques, algèbres d’Ariki-Koike et dualité de Schur-Weyl . . . 152

9.5 Mesures d’induction parabolique et algèbres d’Hecke généralisées . . . 162

III Asymptotique des mesures de Schur-Weyl et des mesures de Gelfand 167 10 Asymptotique des mesures de Schur-Weyl 171 10.1 Mesures de Schur-Weyl . . . 172

10.2 Asymptotique pour α>1/2. . . 174

10.3 Asymptotique pour α<1/2. . . 190

11 Asymptotique des mesures de Gelfand 199 11.1 Modèles de Gelfand des groupes symétriques . . . 200

11.2 Décompte des involutions et des racines carrées dans le groupe symétrique . . . 201

11.3 Asymptotique des caractères centraux et des formes des diagrammes . . . 204

IV Identités génériques dans les algèbres de groupes 219 12 Algèbres d’Ivanov-Kerov et d’Hecke-Ivanov-Kerov 223 12.1 Permutations partielles et permutations composées . . . 224

12.2 Bases du centre d’une algèbre d’Hecke de type A . . . 232

12.3 Normes génériques et construction d’une algèbre d’Hecke-Ivanov-Kerov . . . . 234

13 Fibrés de semi-groupes et limites projectives 240 13.1 Fibration d’un semi-groupe par un semi-treillis . . . 241

13.2 Chaînes et construction de limites projectives. . . 244

13.3 Permutations scindées et nombres de Hurwitz . . . 246

13.4 Conjectures sur les produits de classes de conjugaison dans Z(CGL(n, Fq)) . . . 259

Conclusion et perspectives 267

Table des figures

1.1 Diagramme de Young de la partition(5, 4, 2) . . . 6

1.2 Premiers niveaux du graphe de Young. . . 11

1.3 Diagramme de Young de la partition gauche(5, 4, 2)\ (3, 2, 1) . . . 14

1.4 Action de l’élément de Jucys-Murphy Jn sur un module de Specht Vλ . . . 16

2.1 Fonction s_7→λ(s)associée à un diagramme de Young . . . 19

2.2 Coordonnées de Frobenius d’un diagramme de Young . . . 20

2.3 Renormalisation ωt _{d’un diagramme continu ω . . . 22}

2.4 Partition non croisée . . . 28

3.1 Algorithme RSK. . . 34

3.2 Diagramme de Young aléatoire tiré suivant la mesure de Plancherel . . . 37

3.3 Déviation renormalisée d’un diagramme de Young aléatoire . . . 40

4.1 Compactifications du graphe de Young . . . 48

4.2 Distribution de Young adaptée à un point du simplexe de Thoma. . . 50

4.3 Codage d’un tableau par l’évolution d’un système de particules. . . 54

4.4 Partition plane, diagramme tridimensionnel et pavage par des losanges . . . 59

5.1 Cartes obtenues par recollement des côtés d’un hexagone . . . 63

5.2 Cartes obtenues par recollement des côtés de deux carrés . . . 64

5.3 Revêtement de Jucys-Murphy associé à une équation τ . . . 71

7.1 Degrés génériques et q-probabilités de transition. . . 95

7.2 Relations de tresse entre les générateurs si du groupe symétrique Sn . . . 100

7.3 Tables des caractères des algèbres d’Hecke Hq(Sn)pour n64 . . . 104

8.1 Diagramme aléatoire tiré suivant une q-mesure de Plancherel . . . 107

8.2 Fonction test fi pour la déviation de la mesure Xλ . . . 123

9.1 Bidiagramme de Young de la bipartition Λ= ((4, 3, 1),(5, 2)) . . . 134

9.2 Degrés génériques et q-probabilités de transition en type B. . . 135

9.3 Bidiagramme aléatoire tiré suivant une B-q-mesure de Plancherel . . . 136

9.4 Tables des caractères des algèbres d’Hecke Hq(Wn)pour n62 . . . 148

10.1 Algorithme du jeu de taquin et tableau semi-standard associé à un mot . . . 173

10.2 Diagramme de Young aléatoire tiré suivant une mesure de Schur-Weyl . . . 174

10.3 Formes limites pour les mesures de Schur-Weyl de paramètre α=1/2 . . . 176

10.4 Déformations de la mesure de Wigner . . . 177

10.6 Formes limites pour les mesures de Schur-Weyl de paramètre α<1/2, I . . . . 196

10.7 Formes limites pour les mesures de Schur-Weyl de paramètre α<1/2, II . . . . 198

11.1 Asymptotiques comparées des mesures de Plancherel et de Gelfand . . . 199

11.2 Produits de k-cycles de degré de Kerov 2k à supports disjoints ou identiques . . 206

13.1 Aspect local d’un revêtement ramifié de la sphère . . . 247

13.2 Lien entre constellations et revêtements ramifiés donné par la monodromie . . . 248

13.3 Transitivité du sous-groupe engendré par des permutations σ_∈S . . . 253

Première partie

Représentations des groupes

symétriques et asymptotique

Cette première partie offre un panorama de la théorie des représentations du groupe sy-métrique, et nous insisterons en particulier sur les résultats de nature asymptotique. Ainsi, nous évoquerons tour à tour :

- la combinatoire du groupe symétrique et de ses représentations, et le lien avec les fonc-tions symétriques donné par l’isomorphisme de Frobenius-Schur (§1.4) ;

- les éléments de Jucys-Murphy, et les propriétés profondes des algèbres des groupes symétriques qui se déduisent de leur étude (§1.5) ;

- le problème d’Ulam et l’asymptotique de la mesure de Plancherel sur les partitions (chapitre3) ;

- la théorie des représentations du groupe symétrique infini (§4.1), et l’interprétation des mesures de probabilité sur les partitions comme processus ponctuels déterminantaux (§4.2) ;

- l’analogie entre mesures sur les partitions et modèles matriciels, et en particulier l’équi-valence de Baik-Deift-Johansson (chapitre5).

Bien qu’aucun résultat nouveau ne soit démontré ici, nous avons jugé essentiel de consacrer une partie entière du mémoire à ces rappels. En effet, les résultats que nous avons obtenus pour les algèbres d’Hecke et les groupes GL(n, Fq)sont tous inspirés des résultats jusqu’alors connus pour le groupe symétrique ; et les outils que nous employerons dans les autres parties de ce mémoire sont tous issus de cette théorie. En particulier, nous présenterons dans le chapitre2:

- les observables de diagrammes, qui sont des outils indispensables pour l’étude asymp-totique de mesures sur les partitions ;

- les permutations partielles, dont des généralisations serviront à établir des identités génériques dans les algèbres d’Hecke.

Mentionnons également le rôle important joué par l’algèbre des fonctions symétriques, cf. le paragraphe1.2.

Au cours de cette thèse, nous avons établi des généralisations des théorèmes1.7,3.3et3.4; le lecteur est invité à lire les sections consacrées à ces résultats, et à consulter à sa convenance les autres sections de cette partie.

1. Dans le premier chapitre, on présente les bases de la théorie des représentations du groupe symétrique et de la théorie des fonctions symétriques. Nos principales sources sont bien sûr [Mac95, chapitre 1], et aussi [JK81] ; [Zel81] pour l’étude de l’anneau de Grothendieck des représentations des groupes symétriques ; et [FH59, OV04] pour l’étude des éléments de Jucys-Murphy.

2. Le second chapitre présente l’algèbre des observables de diagramme, et on y décrit les relations entre les diverses bases de cette algèbre, en suivant essentiellement [IO02] et [Bia03a].

3. Le chapitre 3 présente la mesure de Plancherel, en partant du problème classique des

plus longues sous-suites croissantes d’une permutation. On expose la loi des grands nombres de Logan-Shepp-Kerov-Vershik et le théorème central limite de Kerov ; nos principales sources sont les articles originaux [LS77,KV77,Ker93a], et de nouveau [IO02] pour la preuve complète et rigoureuse de ces résultats asymptotiques.

4. Le chapitre4explique le lien entre systèmes de mesures de probabilité sur les partitions,

représentations du groupe symétrique infini et processus ponctuels déterminantaux. Les mesures les plus générales que l’on sait décrire par des systèmes de particules à corré-lations déterminantales sont les mesures de Schur ; on expose brièvement leur théorie et leur usage, sachant que les mesures de Plancherel des algèbres d’Hecke Hq(Sn) et des groupes linéaires finis GL(n, Fq)rentrent dans ce cadre, cf. la seconde partie du mé-moire. On s’inspire de [Oko97a, KOV04] pour la théorie des représentations de S∞, et

de [Oko03a,Oko03b] pour la théorie des mesures de Schur.

5. Enfin, le cinquième chapitre expose la correspondance de Baik-Deift-Johansson, c’est-à-dire l’équivalence asymptotique entre la mesure du Gaussian Unitary Ensemble (GUE) sur les valeurs propres des matrices hermitiennes, et la mesure de Plancherel sur les partitions, voir [BDJ99,BDJ00,BOO00,Oko00]. Ce chapitre est présent à titre purement culturel, et nous ne sommes pas parvenus à généraliser les résultats qui y sont évoqués. Les derniers rappels qui seront nécessaires concernent la théorie des représentations des groupes linéaires finis GL(n, Fq); ces rappels sont reportés au chapitre6.

La lecture des chapitres 4et5 est sans doute facultative, et comme mentionné

précédem-ment, aucun résultat nouveau n’y est présenté. Nous avons néanmoins jugé utile de compléter notre panorama par ces chapitres, car ils mettent en exergue le lien entre partitions aléatoires et matrices aléatoires. Comme nous l’avons expliqué dans l’introduction générale, les mêmes outils sont employés de part et d’autre, et les résultats qu’on obtient sont extrêmement sem-blables ; ainsi, le lien avec la théorie des matrices aléatoires est l’une des motivations prin-cipales de la théorie asymptotique des représentations. Dans cette correspondance (que l’on complète ici par la correspondance RSK),

matrices hermitiennes gaussiennes ↔ mesures de Plancherel ↔ permutations aléatoires matrices symétriques gaussiennes ↔ mesures de Gelfand ↔ involutions aléatoires matrices de covariance _↔ mesures de Schur-Weyl _↔ mots aléatoires

et l’on conjecture un lien semblable entre les β-ensembles et les β-mesures de Plancherel (voir le paragraphe11.3). Malheureusement, il semble qu’il n’y ait pas d’équivalent matriciel naturel des q-mesures de Plancherel (chapitres8 et9) ; un résultat dû à Borodin laisse penser

qu’un tel « modèle matriciel » serait plutôt donné par la taille des blocs de Jordan de matrices choisies aléatoirement dans un groupe de Chevalley fini, cf. la fin de la section8.3.

Chapitre 1

Permutations, partitions et

représentations du groupe symétrique

1.1 Groupe symétrique et classes de conjugaison

Le groupe symétrique d’ordre n est le groupe des permutations de[[1, n]], la loi de groupe étant la composition des applications. Ce groupe fini sera noté Sn, et il contient

n!=1_×2_{× · · · ×}n

éléments. Une permutation peut être donnée par son mot — c’est-à-dire la suite de ses valeurs — ou par sa décomposition en cycles à supports disjoints. Ainsi, la permutation σ∈S8 dont

le mot est 38254761 admet pour décomposition en cycles σ= (1, 3, 2, 8)(4, 5)(6, 7),

et cette décomposition est unique à permutation des cycles près. Le type d’une permutation est la suite ordonnée des tailles des orbites de la permutation ; ainsi, σ = 38254761 a pour type t(σ) = (4, 2, 2). D’autre part, deux permutations σ1 et σ2 de même taille n sont dites

conjuguées s’il existe une permutation τ ∈Sn telle que σ2 =τ◦σ1◦τ−1.

Proposition 1.1 (Classes de conjugaison du groupe symétrique). Deux permutations de Sn sont conjuguées si et seulement si elles ont même type. Ainsi, les classes de conjugaison de Sn sont paramétrées par les partitions de taille n, c’est-à-dire les suites décroissantes d’entiers positifs λ = (λ1 >λ2>· · · >λr)telles que|λ| =∑ri=1λi =n.

En effet, si τ est une permutation et si c= (a1, a2, . . . , am)est un cycle, alors le conjugué τcτ−1 est le cycle

cτ _{= (τ(a}

1), τ(a2), . . . , τ(am)).

De plus, tout cycle de longueur m est obtenu de la sorte en choisissant convenablement τ. D’autre part, la conjugaison par τ est un morphisme de groupes Sn → Sn. Par suite, si σ est le produit de cycles disjoints de longueurs respectives l1, . . . , lr, alors les conjugués de σ sont toutes les permutations qui sont des produits de cycles disjoints de longueurs l1, . . . , lr. Et à réindexation des cycles près, on peut supposer l1 > l2 > · · · > lr, donc les classes de conjugaison de Snsont bien indexées par les partitions de taille n.

Chapitre 1. Permutations, partitions et représentations du groupe symétrique.

1.2 Partitions et fonctions symétriques

Nous noterons Yn l’ensemble des partitions de l’entier n, et Y = Fn∈NYn l’ensemble de toutes les partitions. La longueur d’une partition est son nombre de partsℓ(λ); son poids ou sa taille est la somme de ses parts_|λ|. Nous aurons également besoin de la quantité

b(λ) =

ℓ(λ)

∑

i=1

(i−1)λi,

qui intervient dans de nombreuses formules pour les algèbres d’Hecke et les groupes linéaires finis. Par exemple, si λ = (5, 4, 2), alors |λ| = 11, ℓ(λ) = 3 et b(λ) = 8. Une partition sera souvent représentée par son diagramme de Young (on parle aussi de diagramme de Ferrers) : c’est le tableau à r lignes avec λ1cases sur la première ligne, λ2cases sur la seconde ligne, etc.

Par exemple, le diagramme de la partition(5, 4, 2)est :

Figure 1.1 – Diagramme de Young de la partition(5, 4, 2) (dessiné à la française, c’est-à-dire du bas vers le haut).

La partition conjuguée de λ est la partition de même taille λ′ _{obtenue en échangeant}

les lignes et les colonnes du diagramme ; par exemple, (5, 4, 2)′ _{= (3, 3, 2, 2, 1). D’autre part,}

le contenu d’une case (x, y) du diagramme est la différence c(x, y) = x−y, et le contenu d’un diagramme est la somme c(λ) des contenus des cases. On voit aisément que c(λ) = b(λ′_{)−b(λ)pour tout diagramme :}

c(5, 4, 2) = −2−1 −1 0 1 2 0 1 2 3 4 = 2 2 1 1 1 1 − 1 1 2 3 1 2 3 4 = b(5, 4, 2)′_{−b(5, 4, 2)}

Enfin, une partition λ pourra être écrite multiplicativement sous la forme λ=1m1₂m2 _{· · · s}ms_,

où mk = mk(λ)est le nombre de parts égale à k dans λ. Cette écriture permet de déterminer la taille de la classe de conjugaison associée à λ dans Sn : en effet, le centralisateur d’une permutation de type λ a pour cardinal

zλ =

∏

mk! kmk,

et la classe de conjugaison Cλa donc pour cardinal cλ= n!/zλ.

En dehors du contexte précédemment évoqué, la classe combinatoire des partitions d’en-tiers intervient classiquement dans la théorie des fonctions symétriques. Rappelons qu’un polynôme en m variables p(x1, . . . , xm)est dit symétrique si

1.2. Partitions et fonctions symétriques.

pour toute permutation σ ∈ Sm. L’ensemble ΛR(m) des polynômes symétriques en m va-riables et à coefficients dans un anneau commutatif R est un anneau gradué par le de-gré. De plus, la spécialisation xm+1 = 0 fournit un morphisme d’anneaux gradués surjectif

Λ_R(m+1) → Λ_R(m), d’où une famille dirigée d’anneaux gradués (Λ_R(m))m_∈N. On appelle

fonction symétrique un élément de la limite projective (dans la catégorie des anneaux gra-dués) :

Λ_R = lim ←− m→∞

Λ_R(m).

Un tel objet peut être spécialisé en n’importe quel alphabet fini X =_{x1, x2, . . . , xm}, et aussi en des alphabets infinis dénombrables. En faisant agir le groupe symétrique Smsur les monômes, on voit que les polynômes

mλ(x1, . . . , xm) =

∑

(xi1)λ1(xi2)λ2· · · (xir)λr

avec λ partition de longueur inférieure à m forment une R-base de ΛR(m). La limite projective ôte la restrictionℓ(λ) 6m, donc ΛRadmet une base(mλ)λ_∈Y indexée par les partitions — on

dit que les mλ(x)sont les fonctions monomiales. Ce résultat implique en particulier l’identité Λ_R = Λ_Z⊗ZRpour tout anneau commutatif R ; la plupart des raisonnements de fonctions symétriques pourront donc être effectués dans Λ=Λ_Z.

Depuis Newton, on connaît des bases algébriques de l’algèbre Λ (ou ΛQ), à savoir, les

fonctions élémentaires, les fonctions homogènes et les fonctions sommes de puissances : en(x) =m1n(x) =

∑

∑

∑

Exemple. Développées sur l’alphabet X = {a, b, c}, les fonctions symétriques e3, h3 et p3

s’écrivent :

e3(X) =abc ; p3(X) =a3+b3+c3 ;

h3(X) =a3+b3+c3+a2b+a2c+b2a+b2c+c2a+c2b+abc.

On renvoie à [Mac95, §1.2] pour une démonstration complète de la proposition suivante : Proposition 1.2 (Bases algébriques des fonctions symétriques). L’anneau des fonctions symé-triques est librement engendré par les fonctions élémentaires ou les fonctions homogènes :

Λ=Z[e₁, e₂, . . . , e_n, . . .] =Z[h₁, h₂, . . . , h_n, . . .].

Il en va de même pour les sommes de puissances si l’on étend l’anneau de base au corps des nombres rationnels : ΛQ =Q[p1, p2, . . . , pn, . . .].

Une preuve agréable consiste à introduire les séries génératrices :

E(t) = ∞

∑

∑

∑

Chapitre 1. Permutations, partitions et représentations du groupe symétrique.

Dans ce qui suit, si λ ∈ Y, on notera e_{λ =} e_λ1e_{λ2· · ·}e_λr, et de même pour h_λ et p_λ. Les familles (eλ)λ∈Y, (h_λ)_λ∈Y et (p_λ)_λ∈Y forment des bases linéaires de ΛQ, et toutes ces bases sont homogènes :

∀λ, deg mλ =deg eλ=deg hλ =deg pλ =|λ|. Un produit scalaire sur l’anneau Λ est défini parpλ

  pµ

=zλδλµ— c’est le produit de Hall. D’autre part, on peut définir un coproduit m∗ _{en posant}

m∗_{(pn) = pn⊗1+1⊗pn,}

et en imposant que m∗ _{: Λ →} Λ_⊗Λsoit un morphisme d’anneaux. Alors, on peut montrer que (Λ, m, m∗_{,h· | ·i) est une algèbre de Hopf}1_{; l’unité est le plongement ε : Z → Λ, la}

counité est l’application

ε∗ : f ∈ Λ_7→ f(0, 0, . . . , 0, . . .)_∈Z,

et l’antipode est définie par S(eλ) = hλ et S(hλ) = eλ. De plus, l’algèbre de Hopf Λ est autoadjointe, c’est-à-dire que vis-à-vis du produit scalaireh· | ·i, le coproduit est l’application duale du produit, la counité est l’application duale de l’unité, et l’antipode est autoadjointe. Cette structure additionnelle jouera un rôle important dans l’isomorphisme de Frobenius-Schur, cf. le paragraphe §1.4 — on renvoie d’autre part à [Car06] pour un exposé général de la théorie des algèbres de Hopf.

1.3 Tableaux et représentations des groupes symétriques

Si G est un groupe (fini), on rappelle qu’une représentation (linéaire, complexe, de di-mension finie) de G est la donnée d’un morphisme de groupes ρ : G →GL(V), où V est un espace vectoriel complexe (de dimension finie). Alternativement, une représentation de G est la donnée d’un CG-module V, où CG désigne l’algèbre du groupe G, c’est-à-dire l’espace des combinaisons linéaires formelles

f =

_∑

f(g)g

d’éléments du groupe. On peut aussi voir CG comme l’algèbre des fonctions complexes sur le groupe, avec pour multiplication le produit de convolution des fonctions :

f1∗f2(g) =

∑

hk=g

f1(h)f2(k) =

∑

h∈G

f1(h)f2(h−1g).

Toute représentation d’un groupe fini G se scinde de manière unique en somme directe de représentations irréductibles (c’est-à-dire des CG-modules simples), et les classes d’iso-morphismes de CG-modules simples forment un ensemble bG fini. D’autre part, une repré-sentation (ρ, V) d’un groupe fini G est déterminée à isomorphisme près par son caractère ςV : g 7→ tr ρ(g), et les caractères irréductibles forment une base orthonormale de la sous-algèbre(CG)Gde CG constituée des fonctions centrales

(CG)G= f _{| ∀}g, h, f(gh) = f(hg) =f _{| ∀}g, h, f(hgh−1_{) = f(g) ,}

1. Les sommes de puissances ne forment pas une Z-base de Λ, mais en utilisant les relations de Newton, on peut montrer queh· | ·i et m∗ _{sont correctement définis sur Z (et pas seulement sur Q). En particulier, la base}

1.3. Tableaux et représentations des groupes symétriques.

le produit scalaire sur CG étant défini par

hf1| f2i = _{card G}1

∑

g∈G

f1(g)f2(g).

Notons qu’alternativement, on peut voir (CG)G comme le centre de l’algèbre CG. Tous ces points sont exposés en détail dans [JL93] ou [Ser77]. Nous aurons essentiellement besoin de l’orthonormalité de la base des caractères irréductibles, qui implique en particulier le point suivant : le nombre de caractères irréductibles d’un groupe fini G est toujours égal au nombre de classes de conjugaison de G. Un autre fait qui mérite d’être précisé ici est la décomposition de la représentation régulière (gauche) en somme de modules irréductibles. Ainsi, pour tout groupe fini G, chaque CG-module irréductible V intervient dim V fois dans CG :

CG_≃CG M

(ρ,V)_∈Gb

(dim V)V.

Ce résultat peut être vu comme une conséquence du théorème de Wedderburn : en tant qu’al-gèbre semi-simple sur un corps algébriquement clos, CG est une somme directe d’alqu’al-gèbres de matrices, et la décomposition en blocs de CG est

CG_≃ M

(ρ,V)_∈Gb

End(V).

Un isomorphisme est donné par la transformée de Fourier abstraite, qui à f = ∑_g∈G f(g)g associe bf= M (ρ,V)∈Gb 

∑

Cette transformée est même une isométrie d’espaces L2 _{non commutatifs, voir la section3.2.}

Ceci motivera l’introduction de la mesure de Plancherel d’un groupe fini, qui est la duale de la mesure de Haar.

Détaillons maintenant cette théorie générale dans le cas particulier où G est le groupe symétrique d’ordre n. D’après ce qui précède, les représentations irréductibles de Snsont en même nombre que les classes de conjugaison de Sn, et il existe donc une indexation de ces représentations par les partitions λ _∈ Y_n. Une description explicite des modules simples Vλ est due à A. Young, et elle repose sur la combinatoire des tableaux. Si λ est une partition de taille n, on appelle tableau standard de forme λ une numérotation des cases du diagramme λpar les entiers de[[1, n]], les entrées étant strictement croissantes selon les lignes et selon les colonnes. Par exemple,

2 5 1 3 4

est un tableau standard de forme(3, 2). D’autre part, pour toute partition λ, notons ∆λ(x)le polynôme en n variables défini par :

∆_λ(x) = ℓ(λ)

∏

∏

∏