Universit´e libre de Bruxelles Facult´e des sciences
D´epartement de Math´ematiques
Codes et tableaux de permutations :
construction, ´ enum´ eration et automorphismes
1 2 3 4 5 1 3 4 5 2 1 4 5 2 3 2 1 4 3 5 2 3 5 1 4 2 5 1 4 3 3 1 5 4 2 3 2 1 5 4 3 5 4 2 1 4 1 2 5 3 4 3 1 2 5 4 5 3 1 2 5 1 3 2 4 5 2 4 1 3 5 4 2 3 1
Mathieu Bogaerts
Th`ese pr´esent´ee en vue de l’obtention du grade de docteur en sciences
Promoteur : Anne Delandtsheer Juin 2009
Table des mati` eres
1 Introduction 7
2 D´efinitions - Pr´eliminaires 13
2.1 Groupes de permutations . . . 13
2.2 Distance sur Sym(n) . . . 15
2.3 Distance de Hamming . . . 16
2.4 Transpositions . . . 19
3 Isom´etries 21 3.1 Introduction . . . 21
3.2 Caract´erisation de Iso(Sym(n)) . . . 21
3.3 Une autre pr´esentation deIso(Sym(n)) . . . 28
3.4 Propri´et´es du groupe des isom´etriesIso(Sym(n)) . . . 29
4 Tableaux de permutations 31 4.1 D´efinitions . . . 31
4.2 Tableaux isom´etriques . . . 32
4.3 Autres ensembles remarquables de l’espace m´etrique (Sym(n), dddn) . . . . 32
4.4 Carr´es latins . . . 36
4.5 Taille maximale d’un code de permutations . . . 36
4.6 Tableau dont les ´el´ements forment un groupe . . . 38
4.7 Maximalit´e . . . 38
5 Sch´ema d’association sur Sym(n) 41 5.1 Sch´ema d’association . . . 41
5.2 Sch´ema de conjugaison . . . 43
5.3 Caract`eres complexes irr´eductibles de Sym(n) . . . 43
5.4 Application de la borne LP `a un probl`eme de recouvrement . . . 45
6 Action du groupe des isom´etries 47 6.1 Action du groupeIso(Sym(n)) sur les ´el´ements deSym(n) . . . 47
6.2 Action d’une isom´etrie sur les objets ´equivalents `a un PA donn´e . . . 48
6.2.1 Action sur un tableau . . . 48
6.2.2 Action sur un GRSP . . . 50
6.2.3 (n, λ)-packing doublement r´esoluble . . . 52
6.2.4 Repr´esentation en tableau orthogonal . . . 53
6.3 Action sur d’autres supports . . . 55
7 Application des codes de permutations `a la transmission de donn´ees 57 7.1 Th´eorie des codes . . . 57
7.2 Codes de permutations et communications par cˆable ´electrique . . . 57
7.3 D´ecodage d’un code de permutations . . . 61
7.4 Interaction avec d’autres codes . . . 61
8 Bornes pour la taille d’un PA de taille maximale 63
8.1 Introduction . . . 63
8.2 Bornes sup´erieures pourµ(n, d) . . . 63
8.2.1 Bornes sup´erieures li´ees aux anticodes . . . 63
8.2.2 Bornes sup´erieures obtenues par le sch´ema de conjugaison . . . 69
8.2.3 Bornes sup´erieures obtenues `a l’aide de PA particuliers . . . 70
8.3 Bornes inf´erieures pourµ(n, d) . . . 72
8.3.1 Recherche de clique . . . 73
8.3.2 Polynˆomes de permutation . . . 75
8.3.3 DIM et DPM . . . 76
8.4 Tableaux r´ecapitulatifs des minorants et majorants deµ(n, d) . . . 78
9 Construction de PA non isom´etriques 81 9.1 Introduction . . . 81
9.2 Domaine de recherche et arbre de recherche . . . 81
9.3 Algorithme de recherche BACKTRACK . . . 84
9.4 Estimation de la taille de l’arbre de recherche . . . 85
9.5 Recherche avec rejet d’objets isomorphes . . . 86
9.5.1 Recherche avec rejet d’isomorphisme par liste d’objets enregistr´es . 86 9.5.2 G´en´eration ordonn´ee . . . 87
9.5.3 Augmentation canonique faible . . . 88
9.5.4 Augmentation canonique . . . 90
10 Invariants 93 10.1 Introduction . . . 93
10.2 D´efinitions . . . 93
10.3 Parit´es des ´el´ements d’un PA . . . 93
10.4 Polynˆome ´enum´erateur des distances et polynˆome ´enum´erateur des types 94 10.5 Graphe color´e des types et vecteurs de types internes . . . 97
10.6 Paire d’ensembles{ΣΓ,∆Γ} . . . 99
10.7 Graphe associ´e au GRSP . . . 101
10.8 Occurrences des symboles dans le tableau . . . 102
10.9 Voisinage d’une permutation et voisinage d’un tableau . . . 103
10.10Stabilisateur au sein du groupe des isom´etries . . . 104
10.11Formes canoniques d’un code de permutations . . . 105
11 Classification des tableaux de permutations 109 11.1 Introduction . . . 109
11.2 Maximalit´e, propri´et´es de Γ li´ees `aSym(n)\Γ . . . 109
11.2.1 Tableaux maximaux . . . 109
11.2.2 Tableaux quasi maximaux . . . 111
11.2.3 Empilement de sph`eres . . . 113
11.3 Propri´et´es li´ees aux relations entre ´el´ements de Γ . . . 113
11.4 Propri´et´es li´ees aux occurrences d’un PA . . . 114
11.4.1 Ensembles de permutations strictementλ-transitifs . . . 115
11.4.2 Tableauxr-s´eparables . . . 116
11.4.3 S´eparation d’un PA s´eparable . . . 121
11.4.4 Classification des codes ´equilibr´es . . . 122
12 Etude des PA par leur stabilisateur dans le groupe des isom´etries 123 12.1 Classification des codes Γ(n, n;n) . . . 123
12.2 Code de permutations avec sym´etrie n´egative . . . 124
12.2.1 Codes de permutations inversibles et quasi-inversibles . . . 125
12.2.2 Code de permutations dont les ´el´ements forment un groupe . . . . 126
12.3 Tableaux de permutations sans sym´etrie n´egative . . . 128
12.3.1 Tableaux de permutations `a stabilisateur d’ordre impair . . . 128
12.3.2 Tableaux de permutations rigides . . . 129
12.4 Propri´et´es li´ees `a l’action du stabilisateur . . . 130
12.4.1 Stabilisateur dont l’action est transitive sur Γ . . . 130
12.4.2 Tableaux de permutations homog`enes . . . 131
13 Conclusions 133 Glossaire 135 R´ef´erences 137 A Pr´esentation des tableaux construits 143 A.1 Tableauxd−´equidistants maximaux . . . 143
A.1.1 Tableaux 4−´equidistants maximaux surSym(5) . . . 143
A.1.2 Tableaux 5-´equidistants maximaux sur Sym(6) . . . 144
A.2 Tableaux homog`enes . . . 147
A.3 Empilements de sph`eres de rayon 2 . . . 149
A.4 Tableaux quasi maximaux de mani`ere homog`ene . . . 150
A.4.1 Tableaux Γ(5,4) quasi maximaux de mani`ere homog`ene . . . 150
A.5 Tableaux ´equilibr´es . . . 152
A.5.1 Tableaux 2−´equilibr´es de distance 4 surSym(5) . . . 152
A.5.2 Tableau 3−´equilibr´e de distance 4 sur Sym(5) . . . 152
A.5.3 Tableauxr−s´eparables de distance 6sur Sym(7) . . . 153
A.6 Tableaux maximaux . . . 158
A.6.1 Tableaux maximaux Γ(4,3) . . . 158
A.6.2 Tableaux maximaux Γ(5,4) . . . 159
A.7 Tableaux maximaux Γ(6,5; 18) . . . 182
B Programmes magma 185 B.1 Isom´etries . . . 185
B.2 Estimation de la taille de l’arbre de recherche . . . 185
B.3 Propri´et´es d’un code de permutations . . . 187
B.4 Invariants . . . 187
B.5 G´en´eration par liste d’objets enregistr´es . . . 189
B.6 Repr´esentants canoniques . . . 190
B.7 G´en´eration ordonn´ee . . . 191
B.8 G´en´eration par augmentation canonique . . . 192
B.8.1 Parent canonique . . . 192
B.8.2 Augmentation canonique faible . . . 192 B.8.3 Augmentation canonique pour obtenir les codes maximaux . . . . 193 B.8.4 Augmentation canonique pour obtenir les codes r-´equilibr´es . . . . 194
Remerciements
Tout d’abord, je tiens `a exprimer ma profonde reconnaissance envers ma promotrice Anne Delandtsheer pour sa grande disponibilit´e, ses pr´ecieux conseils et son soutien constant. Du d´ebut `a la fin de cette th`ese, elle a guid´e mes pas avec patience, assurance et conviction. En tant que chef de service, elle a fait preuve d’un grande compr´ehension vis-`a-vis des assistants lors des multiples coups durs qu’a travers´e le service.
Je tiens ´egalement `a remercier W. Myrvold (University of Victoria, Canada), M.
Wild (Stellenbosch University, Afrique du Sud), P. Kaski (University of Helsinki, Fin- lande) dont les conseils m’ont permis de sortir des impasses. Merci `a D. Leemans m’avoir initi´e `a Magma, sans lui cette th`ese ne serait pas ce qu’elle est.
Merci aux membres du service de math´ematiques de Sciences Appliqu´ees pour avoir rendu ces ann´ees agr´eables et enrichissantes : M. Strasberg et M. Tolley qui m’ont tant appris ; Jean-Claude, Jean-Luc, Myline et Philippe qui ont blanchi le tableau de formules math´ematiques pendant les pauses caf´e. Merci ´egalement `a Corinne de m’avoir pouss´e dans la voie de la recherche.
Je remercie ´egalement ceux qui ont particip´e `a ma vie de doctorant `a la mansarde : Virginie, Mathieu, Mehdi, Christophe, et tous ceux qui y sont pass´e. Merci `a mes amis, compagnons de mes ´evasions ; qu’elles soient dans les airs, en montagne, en musique ou dans des mondes imaginaires, elles m’ont donn´e le courage de revenir au front. Merci `a tous ceux qui ont partag´e avec moi l’id´eal de fraternit´e ´etudiante, vous avez enrichi ma vie d’universitaire. Je salue ´egalement les ´etudiants de la Facult´e de Sciences Appliqu´ees avec qui j’ai pris beaucoup de plaisir `a enseigner.
Je remercie tout particuli`erement mes parents Marie et Michel, ma soeur C´ecile et mon fr`ere Damien, pour le soutien qu’ils m’ont apport´e.
Enfin, je dois toute ma gratitude `a Marilda, qui m’a support´e au jour le jour, en m’apportant toute sa tendresse et son amour. Faisant preuve d’une grande patience, elle a multipli´e les efforts sans compter pour me redonner le sourire. Elle a su, en ayant par- fois davantage confiance en moi que je ne l’avais moi-mˆeme, m’´epauler dans cette ´epreuve.
En m´emoire de mon grand p`ere Pierre, qui fˆut le premier `a me transmettre le plaisir des math´ematiques.
1 Introduction
Le sujet de cette th`ese est l’´etude des codes de permutations. Le cadre g´en´eral de ce sujet est la th´eorie des codes, dont une des applications est la transmission fiable d’informations. Dans une communication affect´ee par des interf´erences, les donn´ees en- voy´ees par l’´emetteur ne parviennent pas telles quelles au r´ecepteur. Afin de d´etecter et de corriger un maximum d’erreurs, c’est-`a-dire de modifications entre le message envoy´e et le message re¸cu, il est n´ecessaire d’organiser les donn´ees, de les coder. La th´eorie des codes a pour but d’´elaborer et d’´etudier ces m´ethodes d’encodages et de d´ecodage. Selon le cadre dans lequel se place la communication (cˆable, r´eseau sans fil, . . .), on choisit un code adapt´e `a la nature des perturbations affectant la communication.
Un code de taille sest un ensemble de s mots de longueur n, qui sont des n−uples d’´el´ements d’un ensemble fini appel´e alphabet. La distance de Hamming entre deux mots est le nombre de composantes des deuxn−uples dont les valeurs sont diff´erentes. On parle de code de distancedsi la distance de Hamming entre deux mots distincts quelconques du code est au moins ´egale `ad. Si le message re¸cu contient des mots qui n’appartiennent pas au code, le r´ecepteur d´etecte qu’il y a eu des erreurs dans la transmission, et tente de localiser ces erreurs. Les codes de distance dpermettent de corriger les mots affect´es par au plus⌊d−12 ⌋ erreurs.
Les codes que nous ´etudions dans ce travail sont les codes de permutations, c’est-`a- dire les codes dont les mots sont des n−uples d’un alphabet `a n lettres, chaque lettre apparaissant exactement une fois dans chaque mot. Les mots d’un tel code Γ sont donc des permutations des n lettres de l’aphabet, de sorte que nous pouvons identifer Γ avec un sous-ensemble de Sym(n). La distance de Hamming dddnentre deux permuta- tionsφ, ψ∈Sym(n) est alors le nombre de lettres ktelles que φ(k)6=ψ(k).
En 1974, Blake a propos´e l’utilisation de codes de permutations pour la transmission de donn´ees `a travers un r´eseau d’alimentation ´electrique `a l’aide d’un encodage bas´e sur les fr´equences modul´ees. Cette application, dont nous exposons les d´etails au chapitre 7, motive l’´etude de ces codes et en particulier la recherche de codes de grande taille pour n fix´e et d suffisamment grand pour que la d´etection et la correction d’erreurs soient efficaces.
Un des buts principaux de cette th`ese est l’´etude, pour un nombrende lettres fix´e et une distancedfix´ee, de la taille maximaleµ(n, d) d’un code de permutations de distance dsurSym(n) ; ainsi que la construction de codes de grande taille, et plus particuli`erement celle de codes maximaux, c’est-`a-dire non strictement contenus dans un code de mˆeme distance. Nous nous attachons surtout `a les classer, `a un isomorphisme pr`es. Ceci nous m`ene naturellement `a l’´etude du groupe d’isom´etries de Sym(n), puis `a la construction et l’´enum´eration `a une isom´etrie pr`es de codes de permutations jouissant de certaines propri´et´es de r´egularit´e, comme par exemple une distance constante entre les mots.
La distance de Hammingdddnmunit Sym(n) d’une structure d’espace m´etrique. Cette
distance est bi-invariante, c’est-`a-dire que pour toutes permutationsα, φ, ψ ∈Sym(n) : dddn(φ, ψ) =dddn(φα, ψα) =dddn(αφ, αψ)
Il s’ensuit que les groupes suivants sont des sous-groupes du groupeIso(Sym(n)) des isom´etries de (Sym(n), dddn) :
– le groupe G des multiplications `a gauche : gα(φ) :=αφ – le groupe D des multiplications `a droite :dα(φ) :=φα – le groupe S engendr´e par l’inversion :s(φ) =φ−1
Th´eor`eme Pour tout n ≥ 3, Iso(Sym(n)) est le produit semi-direct (G × D)⋊S de G × D par S, ou encore le produit en couronne (wreath product) deSym(n) par S ≈Z2. Apr`es avoir d´emontr´e ce r´esultat et l’avoir pr´esent´e `a la conf´erence Algebraic Com- binatorics and Applications `a Thurnau en 2005, nous avons d´ecouvert que H. Farahat avait ´egalement d´emontr´e ce r´esultat en 1960. Nous montrons au chapitre 3 que ce mˆeme groupe est le groupe des isom´etries de tout espace m´etrique sur Sym(n) muni d’une distance bi-invariante distinguant les transpositions (en ce sens que toute permutation
`
a mˆeme distance de l’identit´e qu’une transposition est elle-mˆeme une transposition).
Ce r´esultat s’applique donc, entre autres, `a la distance de Cayley dddC (pour laquelle dddC(φ, ψ) =n−le nombre de cycles deφψ−1).
Un code de permutations Γ de distance det de taillessurSym(n) est associ´e `a une classe d’´equivalence de tableaux IΓ(n, d;s) `a ncolonnes et s lignes, appel´es tableaux de permutations. Soit Γ un code de permutations distance d et de taille s sur Sym(n). Si on num´erote ses permutations de 1 `a s, de sorte que Γ = {φ1, . . . , φs}, alors on peut pr´esenter le s−uple (φ1, . . . , φs) sous la forme d’un tableau IΓ de slignes et n colonnes (Tij) en d´efinissantTij =φi(j). Un tel tableau IΓ est un dess! tableaux de permutations associ´es au code Γ selon la num´erotation choisie des permutations du code. On caract´erise
´egalement les tableaux de permutations de la mani`ere suivante : IΓ est un tableau de permutations de type IΓ(n, d;s) si et seulement si IΓ est un tableau `a n colonnes et s lignes tel que
– chaque case du tableau contient exactement un symbole de [n] ={1, . . . , n}, – chacun des nsymboles apparaˆıt exactement une fois par ligne,
– toute paire de lignes distinctes du tableau co¨ıncident en au plusn−dcolonnes.
Deux tableaux de permutations sont ´equivalents s’ils sont ´egaux `a une permutation des lignes pr`es. Les isom´etries de (Sym(n), dddn) agissent sur un tableau de permutations en permutant les colonnes et les symboles du tableau. La g´en´eration des codes de permu- tations `a isom´etries pr`es ´equivaut donc `a la classification des tableaux de permutations `a permutation des lignes, colonnes et symboles pr`es. Pourd=n, les tableaux de permuta- tions maximaux sont exactements les carr´es latins d’ordren. Les classes d’´equivalence de carr´es latins d’ordre n`a permutation des lignes, colonnes et symboles pr`es (c’est-`a-dire
`
a isotopie pr`es) ont ´et´e largement ´etudi´ees (Euler, Cayley, McMahon,. . .) et sont `a ce jour connues pourn≤11 (McKay, Meynert et Myrvold, 2006, McKay et Wanless, 2005).
Notre ´etude apparaˆıt donc comme une extension naturelle de ce sujet.
En 2001, Colbourn, Kløve et Ling ont associ´e de mani`ere canonique `a tout tableau de permutations IΓ(n, d;s) deux objets combinatoires appel´esGeneralised Room Square Pa- cking(GRSP) et (n, λ)-packing doublement r´esoluble(o`uλ=n−d). Nous pr´esentons ces visions alternatives des tableaux de permutations et nous ´etudions l’action des isom´etries sur ces structures combinatoires de mani`ere `a faire apparaˆıtre des propri´et´es du groupe des isom´etries.
Les codes de permutations forment une famille particuli`ere de sous-ensembles de (Sym(n), dddn). Nous pr´esentons au chapitre 4 un panorama des autres familles de sous- ensembles de cet espace m´etrique et leurs liens avec les codes de permutations. Cette ap- proche nous permettra d’´elargir notre classification `a d’autres familles de sous-ensembles de (Sym(n), dddn).
La notion duale de code de permutations est celle d’anticode, c’est-`a-dire un sous- ensemble deSym(n) dont les paires d’´el´ements distincts sont `a distance au plus ´egale `a dl’un de l’autre. En notantν(n, d) la taille maximale d’un anticode de distanced, Deza et Frankl ont prouv´e en 1977 que
µ(n, d+ 1)≤ n!
ν(n, d).
Nous apportons `a ce sujet une vision simplifi´ee par la connaissance du groupe des isom´etries. Nous prouvons le th´eor`eme suivant, qui amm´eliore un autre r´esultat de Deza et Frankl de 1977.
Th´eor`eme Soit dun nombre pair. Si pour tout i∈[3d2 + 1],
d
X
k=0
M in(k,d2−1)
X
l=0
n−(d+id2) l
d+id2 k−l
<
d 2
X
l=0
Dl n
l
o`u Dk (nombre de d´erangements de k objets) est l’entier le plus proche de k!e, alors
ν(n, d) =
d 2
X
l=0
Dl n
l
Un sch´ema d’association `amclasses est un ensemble finiXmuni dem+1 relations bi- naires symm´etriquesR0, R1, . . . Rm surX telles que pour toutx, y∈X, (x, y)∈Ripour une valeur de i, aveci= 0 si et seulement six=y, et pour tout couple (x, y)∈Rk , le nombrepkij d’´el´ementsz∈Xtels que (x, z)∈Riet (y, z)∈Rj ne d´epend que dei, jetk.
Delsarte a prouv´e en 1973 que si Y est un sous-ensemble d’un sch´ema d’association (X, R0, . . . , Rm) tel que tout couple d’´el´ements distincts de Y appartient `a ∪k∈ERk o`u E est un sous-ensemble strict de [m], alors le cardinal de Y est major´e par une borne (appel´ee ”borne LP”), obtenue par programmation lin´eaire.
Les isom´etries de l’espace m´etrique (Sym(n), dddn) sont des automorphismes du sch´ema d’association deSym(n) dont les relations sont d´efinies `a l’aide des classes de conjugaison
par (φ, ψ) ∈ Ri si φψ−1 appartient `a la classe de conjugaison Ci. Ce sch´ema d’associa- tion nous permet d’´etablir de nouveaux majorants de la taille maximale µ(n, d) pour 11≤n≤13 par programmation lin´eaire.
Nouvelle borne sup. Ancienne borne sup.
µ(11,5) 362880 712800
µ(11,6) 138600 273402
µ(11,7) 32874 55440
µ(12,6) 1766160 3926242
µ(12,7) 361396 665280
µ(13,6) 21621600 29511947
µ(13,7) 4163390 8648640
µ(13,8) 879493 1235520
Nous exposons ces r´esultats au chapitre 8, en les comparant aux bornes obtenues par Deza et Frankl, ainsi qu’aux r´esultats parus durant les derniers mois de notre recherche.
Dans le but d’obtenir les repr´esentants des orbites des codes de permutations sous l’action du groupe des isom´etries, nous d´eveloppons des algorithmes de g´en´eration avec rejet d’objets isomorphes. Notre objectif principal est d’obtenir, `a une isom´etrie pr`es, la liste des codes de permutations maximaux de distance d sur Sym(n), c’est-`a-dire non strictement contenus dans un code de mˆeme distance.
Afin de distinguer les codes de permutations non isom´etriques sans avoir recours au groupe des isom´etries, il s’av`ere n´ecessaire d’utiliser des invariants. L’efficacit´e des diff´erents invariants que nous avons construits est discut´ee au chapitre 10. Nous mon- trons entre autres que les invariants issus de la th´eorie des codes, comme par exemple le polynˆome ´enum´erateur des distances, se r´ev`elent inefficaces en regard des invariants utili- sant la structure de groupe li´ee aux permutations. Parmi ces invariants, deux se r´ev`elent
`
a la fois rapides `a calculer et efficaces pour distinguer des codes non isom´etriques. Le premier, le polynˆome ´enum´erateur des types, compte pour chaque classe de conjugaison de Sym(n) le nombre de paires d’´el´ements du code dont le quotient appartient `a cette classe de conjugaison. Le second invariant, que nous appelons matrice des occurrences, compte le nombre d’occurrences de chaque symbole dans les colonnes d’un tableau as- soci´e au code de permutations.
Nous avons engendr´e, `a une isom´etrie pr`es, tous les 61 codes de permutations de distance 3 surSym(4) et tous les 9445 codes de permutations de distance 4 surSym(5).
En particulier, nous prouvons qu’il existe exactement 139 codes maximaux de distance 4 surSym(5) non isom´etriques deux `a deux et nous les d´ecrivons explicitement `a l’annexe A.6.2. Nous avons ´egalement ´etudi´e des familles de codes jouissant de certaines propri´et´es de r´egularit´e combinatoire, comme d´etaill´e ci-dessous.
Une classe particuli`ere de codes de permutations de distance dest form´ee des codes d-´equidistants, c’est-`a-dire dont la distance de Hamming entre deux mots distincts quel- conques est exactementd. En modifiant notre algorithme de g´en´eration avec rejet d’objets
isomorphes, nous prouvons qu’il y a exactement, `a isom´etrie pr`es, 21 codes de permu- tations 5−´equidistants maximaux surSym(6) et 37213 codes 6−´equidistants maximaux surSym(7).
Une autre classe de codes de permutations est form´ee des codes r-´equilibr´es, c’est-`a- dire dont la matrice des occurrences a toutes ses entr´ees ´egales `a une constante r. Une construction adapt´ee nous permet de g´en´erer les liste des repr´esentants, `a isom´etrie pr`es, des 218 codes 2-´equilibr´es de distance 3 sur Sym(5) et des 2799 codes 2-´equilibr´es de distance 5 sur Sym(6).
Un empilement de sph`eres (sphere packing) de rayon r surSym(n) est un ensemble de permutations de Sym(n) tel que les boules de rayon r centr´ees en ces permutations sont disjointes deux `a deux. Tout empilement de sph`eres de rayon r sur Sym(n) est un code de permutation de distance 2r et nous avons construit, `a isom´etrie pr`es, les 15 empilements de sph`eres maximaux de rayon 2 surSym(5).
L’´etude d’une famille d’objets math´ematiques pousse naturellement `a consid´erer en particulier les ´eventuelles sym´etries de ces objets. Nous donnons les propri´et´es de certains invariants pour les codes non rigides, c’est-`a-dire dont le stabilisateur dans le groupe des isom´etries n’est pas r´eduit au groupe trivial. Nous mettons en ´evidence des familles de codes de permutations en fonction des isom´etries qui les conservent, g´en´eralisant par l`a la caract´erisation des carr´es latins sur base du groupe d’isotopie.
En annexe, nous donnons explicitement les listes de repr´esentants des orbites de codes de permutations que nous avons g´en´er´ees : les codes de permutations maximaux, les codes 2-´equilibr´es, les codes ´equidistants et les empilements de sph`eres. Nous d´etaillons
´egalement le code des programmes Magma que nous avons d´evelopp´es.
2 D´ efinitions - Pr´ eliminaires
2.1 Groupes de permutations
Notations 2.1.1 Soienti≤ndeux naturels, nous utiliserons les notations courantes : [i, n] :={i, . . . , n}
[n] := [1, n]
SoitX l’ensemble[n]. Nous notonsSym(n), ou Sym(X)si une confusion est possible, le groupe des permutations des n´el´ements (points) de X.Le produit de deux permutations α, β ∈Sym(n) sera not´e β◦α, ou simplement βα, et doit se traduire par ”effectuer α puis β”. Cette convention sera aussi valable pour la composition d’isom´etries.
La permutation identit´e de Sym(n) sera not´ee1 .
Le signe d’une permutation φ∈ Sym(n) sera not´e ε(φ). Si φ est paire (resp. impaire), alors ε(φ) = 1 (resp. ε(φ) = −1). Nous noterons Alt(n) le groupe altern´e des permuta- tions paires deSym(n).
D´efinition 2.1.2 Soitα∈Sym(n), le support deα est l’ensemble des points non fix´es par α, c’est-`a-dire l’ensemble
supp(α) ={i∈[n]|α(i)6=i} L’ensemble des point fixes (fixed points set) deα est : f ix(α) ={i∈[n]|α(i) =i} Exemple 2.1.3 Pour α= (1,3,5)∈Sym(6) on a :
f ix(α) ={2,4,6} supp(α) ={1,3,5}
Rappelons bri`evement que pour tout groupe G, la r´epartition de G en classes de conjugaison est d´efinie par les conjugaisons par les ´el´ements de G. Nous verrons que dans le cas de Sym(n), vu comme espace m´etrique, les conjugaisons auront un rˆole central, se r´ev`elant ˆetre des isom´etries (voir 3.2.1).
Notations 2.1.4 Siφ, αsont deux ´el´ements d’un groupeG, le conjugu´e deφparα est φα=αφα−1. Dans Sym(n), nous noterons uβ la conjugaison par la permutation β :
uβ :Sym(n)→Sym(n) :φ7→φβ
Nous noterons p(n) le nombre de classes de conjugaisons de Sym(n). Le type d’une permutation φ ∈ Sym(n) est le n-uple (b1, b2, . . . , bn) o`u bi est le nombre de cycles de longueur i deφ,o`u i∈[n].
L’ordre o(φ) d’une permutation est le plus petit naturelk non nul tel que φk =1.
Classe deSym(5) Type C0 (5,0,0,0,0) C1 (3,1,0,0,0) C2 (2,0,1,0,0) C3 (1,2,0,0,0) C4 (1,0,0,1,0) C5 (0,1,1,0,0) C6 (0,0,0,0,1)
Classe deSym(6) Type C0 (6,0,0,0,0,0) C1 (4,1,0,0,0,0) C2 (3,0,1,0,0,0) C3 (2,2,0,0,0,0) C4 (2,0,0,1,0,0) C5 (1,1,1,0,0,0) C6 (1,0,0,0,1,0) C7 (0,3,0,0,0,0) C8 (0,1,0,1,0,0) C9 (0,0,2,0,0,0) C10 (0,0,0,0,0,1)
Tab.1 – Les classes de conjugaison de Sym(5) et Sym(6) et les types correspondants Chaque classe de conjugaison deSym(n) est caract´eris´ee par le type des ´el´ements qui la composent. En cons´equence, pour toute permutation φ ∈ Sym(n), φ et φ−1 appar- tiennent `a la mˆeme classe de conjugaison. Tous les ´el´ements d’une classe de conjugaison ont mˆeme ordre. Siφ∈Sym(n) est une permutation de type (b1, b2, . . . , bn) alors
|f ix(φ)|=b1,
n
X
i=1
ibi =n
Le nombrep(n) de classes de conjugaison vaut le nombre de types, c’est-`a-dire le nombre de n-uples (b1, b2, . . . , bn) diff´erents tels que
n
X
i=1
ibi = n. D’autre part, le nombre de permutations dans une classe de conjugaison, c’est-`a-dire d’un type (b1, . . . , bn) fix´e, est donn´e par la formule de Cauchy :
n!
(b1!)(b2!)(b3!). . .(bn!)(1b1)(2b2)(3b3). . .(nbn)
On d´efinit l’ordre lexicographique standard sur les types deSym(n) par : (b1, b2, . . . , bn)<(b′1, b′2, . . . , b′n)⇔bj > b′j etbi =b′i ∀i∈[j−1].
Ceci induit un ordre sur les classes de conjugaison de Sym(n) : Ci < Cj si le type des
´el´ements de la classe Ci est inf´erieur au type des ´el´ements de la classe Cj. Nous pren- drons comme convention d’indicer les classes de conjugaison de Sym(n) de 0 `a p(n)−1 en respectant l’ordre induit par les types correspondants. Les classes de conjugaison de Sym(5) etSym(6) ainsi que les types correspondants sont repris dans le tableau 1.
De mˆeme, on munit l’ensemble des permutations de Sym(n) de l’ordre lexicogra- phique usuel : φ < ψ si et seulement s’il existej∈[n] tel queφ(j)< ψ(j) etφ(i) =ψ(i) pour touti∈[j−1].
2.2 Distance sur Sym(n)
Soit E un ensemble non vide, une distance surE est une fonction d:E×E → IR+ telle que pour toutx, y∈E :
1. d(x, y) = 0⇔x=y 2. d(x, y) =d(y, x)
3. d(x, y)≤d(x, z) +d(y, z) pour toutz∈E
Le couple (E,d) est appel´e espace m´etrique. Dans le cadre de ce travail, l’ensemble E sera le groupeSym(n) et nous noterons (Sym(n),d) l’espace m´etrique surSym(n) muni de la distance d.
Supposons l’ensemble des permutations deSym(n) muni une distanced. On dit que la distancedestinvariante `a gauche (resp. `a droite) si pour toutes permutationsα, β, γ∈ Sym(n),d(α, β) =d(γα, γβ) (resp.d(α, β) =d(αγ, βγ)). En particulier, sidest une dis- tance invariante `a gauche (resp. `a droite), alors pour toutes permutationsα, β∈Sym(n), d(α, β) = d(1, α−1β) = d(1, β−1α) (resp. d(α, β) = d(1, βα−1) = d(1, α−1β)). Une dis- tance qui est invariante `a droite et `a gauche est dite bi-invariante.
Une distance d est inversible si pour toutes permutations α, β ∈Sym(n), d(α, β) = d(α−1, β−1). On montre facilement qu’une distance bi-invariante est inversible.
D´efinition 2.2.1 Un poidswsur un groupeGest une fonctionw:G→IR+satisfaisant les conditions suivantes pour tout α, β∈Sym(n) :
1. w(α) = 0⇔α=1 2. w(αβ)≤w(α) +w(β)
A toute distance d invariante `a droite, on peut associer une fonction de poids w sur Sym(n) par :
w(φ) =d(1, φ) On v´erifie en effet :
1. w(α) = 0⇔d(1, α) = 0⇔α=1
2. w(αβ) = d(1, αβ) = d(β−1, α) ≤d(β−1,1) +d(1, α) =d(1, β) +d(1, α) = w(α) + w(β)
R´eciproquement, tout poids sur Sym(n) permet de d´efinir une distanced invariante
`
a droite par d(α, β) =w(αβ−1). Un raisonnement similaire permet d’associer un poids
`
a toute distance invariante `a gauche et, r´eciproquement, d’associer `a tout poids w une distance invariante `a gauche pard(α, β) :=w(β−1α). Sidest une distance bi-invariante, les poids associ´es par invariance `a gauche et `a droite co¨ıncident. De plus, le poids w associ´e `a d est constant sur chacune des classes de conjugaison.
Il existe de nombreuses distances bi-invariantes. Par exemple, la distance de Cayley est bi-invariante. Celle-ci est d´efinie surSym(n) par :
dddC(φ, ψ) =n− le nombre de cycles de φψ−1
Une construction de distance bi-invariante est donn´ee par G. Cohen et M. Deza [26] : soit u une fonction de Sym(n) dans IR+ telle que u est constante sur chaque classe de conjugaison de Sym(n) et u(φ) = 0 si et seulement si φ = 1. La fonction f d´efinie parf(φ, ψ) =u(φψ−1) est bi-invariante et induit une distance bi-invariante par clˆoture triangulaire :
fT(φ, ψ) = min
E
X
i
f(γi, γi+1),
o`u E = ∪m∈IN0Em et Em est l’ensemble des m-uples (γ1, . . . , γm) tels que γ1 = φ et γm =ψ.
On v´erifie facilement que si d1 et d2 sont des distances bi-invariantes, alors pour tout a, b > 0, la fonction d3 := ad1 + bd2 est une distance bi-invariante . Les dis- tances bi-invariantes appartiennent `a un cˆone de l’ensemble des applications deSym(n)× Sym(n) → IR. Dans ce cˆone, on distingue les distances extrˆemes , c’est-`a-dire les dis- tancesdtelles que sid=ad1+bd2, alorsd1=k1detd2 =k2d(M. Barnabei et G. Cohen, [8]).
Pour plus de renseignements sur les distances d´efinies sur un groupe fini, et en par- ticulier la notion de distance bi-invariante, nous renvoyons le lecteur au remarquable survey r´ealis´e par M. Deza et T. Huang [34].
Notations 2.2.2 A moins qu’une ambigu¨ıt´e soit possible, nous noteronsτi,j la transpo- sition (i, j) deSym(n) (aveci < j).
D´efinition 2.2.3 Soit d une distance bi-invariante sur Sym(n) et w le poids qui lui est associ´e. Notons x la distance de 1 `a n’importe quelle transposition τi,j, c’est-`a-dire x = w(τi,j). Nous dirons que d est distingue les transpositions si d(φ, ψ) = x si et seulement si φψ−1 est une transposition. Dans le cas o`u il existe une permutation α qui n’est pas une transposition et telle qued(1, α) =x, on dira que la distancedne distingue pas les transpositions.
Nous motivons le choix des termes ”ne distingue pas les transpositions” par le fait qu’une telle distance ne fait pas la diff´erence entre les transpositions et certaines autres permutations. Les distances de Hamming et de Cayley distinguent les transpositions, et les isom´etries correspondant `a ces deux distances sont les mˆemes, comme nous le d´etaillerons au chapitre 3. En fait, les distances bi-invariantes ne distinguant pas les transpositions sont celles pour lesquelles il se pourrait que les isom´etries soient diff´erentes des isom´etries de la distance de Hamming.
2.3 Distance de Hamming
D´efinition 2.3.1 Soientαetβdeux permutations de l’ensemble[n]. On appelledistance de Hamming entre α et β, et on notedddn(α, β) l’entier
{a∈[n]|(αβ−1)(a)6=a} La distance de Hamming entre α et β est le nombre de points dont l’image par α diff`ere de l’image par β. C’est aussi le nombre de points non fix´es (ou d´erang´es) par αβ−1. En terme de support et de fixateur, ceci s’exprime par :
dddn(α, β) =|supp(αβ−1)|=n− |f ix(αβ−1)|
Puisque αβ−1 ne peut avoir exactement n−1 points fixes, la distance entre deux permutations ne vaut jamais 1.
Proposition 2.3.2 La fonction dddn:Sym(n)×Sym(n) → [n]\{1} est une distance bi- invariante.
D´emonstration
Nous commencerons par montrer que cette fonction est bi-invariante. Pour tout α, β, φ ∈ Sym(n), le nombre de points fixes de αβ−1 est ´egal au nombre de points fixes deφα(φβ)−1=φ(αβ−1)φ−1, car c’est le conjugu´e deαβ−1 parφdansSym(n). De ceci r´esulte l’invariance `a gauche dedddn:dddn(α, β) =dddn(φα, φβ).
D’autre part, le nombre de points fixes de αφ(βφ)−1 est ´egal au nombre de points fixes de αβ−1 carαφ(βφ)−1=αφφ−1β−1=αβ−1. On en d´eduit l’invariance `a droite de dddn.
V´erifions `a pr´esent quedddnest une distance : 1. dddn(α, β) = 0⇔α=β.
Pour toute permutation α∈Sym(n),dddn(α, α) = 0 car tous les points de [n] sont fix´es par α α−1. Si dddn(α, β) = 0, cela signifie que le nombre de points fix´es par αβ−1 est n. Ceci implique que αβ−1 est la permutation identit´e1, et donc α=β.
2. ∀α, β∈Sym(n) :dddn(α, β)≥0.
Siβ 6=α,αβ−1 est une permutation diff´erente de l’identit´e. Or toute permutation diff´erente de l’identit´e a au moins deux points non fix´es. On a d`es lors :∀α, β ∈ Sym(n), α6=β :dddn(α, β)≥2.
3. dddn(α, β) =dddn(β, α) ∀α, β ∈Sym(n).
Cette propri´et´e est ´evidente d`es lors quef ix(αβ−1) =f ix(βα−1).
4. ∀α, β, γ∈Sym(n) :dddn(α, β)≤dddn(α, γ) +dddn(γ, β).
Soientα etβ ∈Sym(n), pour toutγ ∈Sym(n), on a, en vertu de la bi-invariance dedddn:
dddn(α, β) = dddn(αγ−1, βγ−1) dddn(α, γ) = dddn(αγ−1,1) dddn(γ, β) = dddn(1, βγ−1)
En posantθ=αγ−1 etφ= (βγ−1)−1, l’in´egalit´e `a d´emontrer s’´ecrit : dddn(θ, φ−1)≤dddn(1, θ) +dddn(1, φ−1)
ou encore, grˆace `a la bi-invariance dedddn:
dddn(1, θφ)≤dddn(1, θ) +dddn(1, φ)
C’est-`a-dire que le nombre de points d´erang´es parθφest plus petit que la somme des nombres de points d´erang´es par θ et parφ. Comme le nombre de points d´erang´es est ´egal au cardinal du support, il suffit donc de montrer que
|supp(φθ)| ≤ |supp(φ)|+|supp(θ)| Ceci est imm´ediat puisque
supp(φθ)⊆supp(φ)∪supp(θ)
De plus, la distance de Hamming distingue les transpositions : soit φ, ψ ∈ Sym(n), dddn(φ, ψ) = 2 si et seulement si φψ−1 est une transposition. Nous noterons (Sym(n), dddn) l’espace m´etrique sur les permutationsSym(n) muni de la distance de Hamming.
Exprimons les notions usuelles d’un espace m´etrique dans notre cadre :
D´efinition 2.3.3 La sph`ereSn(φ, d) de centreφ∈Sym(n) et de rayondest l’ensemble des permutations `a distanced deφ :
Sn(φ, d) :={ψ∈Sym(n)|dddn(φ, ψ) =d}
La boule Bn(φ, d) de centre φ ∈ Sym(n) et de rayon d est form´ee des permutations `a distance inf´erieure ou ´egale `a dde φ:
Bn(φ, d) :={ψ∈Sym(n)|dddn(φ, ψ)≤d}
Nous montrerons au chapitre 3 que toutes les sph`eres de (Sym(n), dddn) de mˆeme rayon sont isom´etriques deux `a deux. Il en va de mˆeme pour les boules de mˆeme rayon. La sph`ere Sn(1, k) est form´ee des permutations `a distance k de 1. Il s’agit des permutations dont le support compte exactementk points. Le cardinal de cette sph`ere est donn´e par
n k
Dk,
o`uDk est le nombre de d´erangements de k points, c’est-`a-dire le nombre de permu- tations de k points sans point fixe. La suite (Dk)k∈IN apparaˆıt dans l’encyclop´edie en ligne des suites enti`eres initi´ee par Neil Sloane, avec la r´ef´erence A000116 (voir [72]). La premi`ere trace connue de r´esultats sur les d´erangements est attribu´ee `a Montmort (1713, [66]), qui d´emontre la formule suivante :
Dk =
k
X
j=0
(−1)jk!
j!
Les relations de r´ecurrence suivantes sont attribu´ees `a L.Euler [41] : Dk= (k−1)(Dk−1+Dk−2)
Dk=kDk−1+ (−1)k
De plus, le nombre de d´erangements de kobjets est aussi donn´e par : Dk=
k!
e
,
o`ueest la base du logarithme n´ep´erien et⌊x⌉ est l’entier le plus proche dex.
Comme la distancedddnprend un nombre fini de valeurs, la boule de rayon dcentr´ee en φ est l’union des sph`eres de mˆeme centre et de rayon entier compris entre 0 et d.
Remarquons que les boules que nous consid´erons sont des boules ferm´ees. Le cardinal de la boule Bn(1, d) est la somme des cardinaux des sph`eres dont le rayon est inf´erieur ou
´egal `ad. Si on noteVn(d) le cardinal d’une sph`ere de rayond, alors Vn(d) = 1 +
d
X
k=2
n k
Dk
Exemple 2.3.4 DansSym(5), la bouleB5(φ,3)de rayon 3 centr´ee enφest isom´etrique
`
a boule B5(1,3) de rayon 3 centr´ee en 1. Cette boule B5(1,3) est form´ee des permuta- tions dont le support est de cardinal inf´erieur ou ´egal `a 3.
On obtient aussi B5(1,3) comme union des sph`eres centr´ees en 1 de rayon 0,2 et 3.
Ces sph`eres sont form´ees des classes de conjugaison C0, C1 et C3, soit, respectivement, de la permutation 1, des 10 transpositions et des 20 tricycles de Sym(5).
B5(1,3) ={1} ∪S5(1,2)∪S5(1,3) V5(3) = 31
2.4 Transpositions
Proposition 2.4.1 Soitφ∈Sym(n), avecdddn(1, φ) =d etτi,j une transposition.
Il y a exactement 5 cas possibles :
1. dddn(φ, τi,j) =d+ 2⇔ φ(i) =i et φ(j) =j 2. dddn(φ, τi,j) =d+ 1⇔
soitφ(i) =i et φ(j)6=j soitφ(j) =j et φ(i)6=i 3. dddn(φ, τi,j) =d⇔ φ(i)∈ {/ i, j} et φ(j)∈ {/ i, j} 4. dddn(φ, τi,j) =d−1 ⇔
soitφ(i) =j et φ(j)6=i soitφ(j) =i et φ(i)6=j 5. dddn(φ, τi,j) =d−2 ⇔ φ(i) =j et φ(j) =i
D´emonstration
Sidddn(1, φ) =d, l’in´egalit´e triangulaire nous assure que : d−2≤dddn(φ, τi,j)≤d+ 2.
C’est l’image des ´el´ementsietj qui va cr´eer la diff´erence de distance entre les paires de
permutations.
Sidddn(φ, τi,j) =d+ 2, la transpositionτi,j a deux images communes en moins avec φ qu’avec1. Autrement dit, parmi les n−dpoints fix´es par φ(φ´etant `a distancedde1), il y en an−d−2 qui sont aussi fix´es parτi,j. Les deux points restants ne sont pas fix´es parτi,j, il s’agit donc n´ecessairement dei etj.
Sidddn(φ, τi,j) =d+ 1, τi,j a une image commune en moins avec φ qu’avec1. Parmi lesn−dpoints fix´es par φ, il y en a un qui n’est pas fix´e parτi,j. Il s’agit n´ecessairement soit de i, soit de j.
Les cas o`udddn(φ, τi,j) =d−1 ou d−2 peuvent ˆetre vus comme des sym´etriques des deux cas d´ecrits ci-dessus. Cette fois, φa plus d’images communes avecτi,j qu’avec1.
Dans le cas o`udddn(φ, τi,j) =d−1 lesn−dpoints fix´es par φsont aussi fix´es par τi,j, et un des dpoints non fix´es deφ a la mˆeme image que sous l’action deτi,j. D`es lors on a soit φ(i) =τi,j(i), soit φ(j) =τi,j(j), c’est-`a-direφ(i) =j ou φ(j) =i
Sidddn(φ, τi,j) =d−2, lesn−dpoints fixes de φsont aussi des points fixes de τi,j et deux des d points restants ont mˆeme image sous l’action de la permutation φ et de la transposition τi,j. Les points ietj sont donc ´echang´es parφ.
Reste le cas o`u φ est `a mˆeme distance de τi,j que de 1, dont on peut obtenir les cons´equences sur les images de i et j en ´eliminant les autres possibilit´es d´ecrites ci- dessus.
3 Isom´ etries
3.1 Introduction
Comme introduit dans la section pr´ec´edente (voir 2.3.2), (Sym(n), dddn) est un espace m´etrique. Ce chapitre est consacr´e `a l’´etude du groupe des isom´etries de cet espace.
Notations 3.1.1 Soit d une distance bi-invariante sur l’ensemble des permutations de Sym(n). Une isom´etriede l’espace m´etrique (Sym(n),d)est une bijectiont:Sym(n)→ Sym(n) qui conserve les distances, c’est-`a-dire que
∀α, β∈Sym(n), d(α, β) =d(t(α),t(β))
Les isom´etries de (Sym(n),d) forment un groupe, que nous noterons Isod(Sym(n)).
L’isom´etrie neutre de ce groupe sera not´ee e.
Pour l’espace m´etrique(Sym(n), dddn)muni de la distance de Hamming, nous noterons Iso(Sym(n))le groupe des isom´etries.
3.2 Caract´erisation de Iso(Sym(n))
Proposition 3.2.1 Soitdune distance bi-invariante ,Isod(Sym(n)le groupe des isom´etries de l’espace (Sym(n),d). Pour toute permutation β∈Sym(n), les applications suivantes sont des isom´etries,
s:Sym(n)→Sym(n) :α →α−1 ( inversion)
dβ:Sym(n)→Sym(n) :α→αβ ( multiplication `a droite parβ) gβ:Sym(n)→Sym(n) :α→βα( multiplication `a gauche par β) uβ:Sym(n)→Sym(n) :α→βαβ−1 ( conjugaison par β)
D´emonstration
A l’aide des propri´et´es d’une distance bi-invariante, on v´erifie que pour toutes per- mutations µ, ν, β∈Sym(n) :
d(s(µ),s(ν)) =d(µ−1, ν−1) =d(µ−1ν,1) =d(µ, ν) d(dβ(µ),dβ(ν)) =d(µβ, νβ) =d(µββ−1, ν) =d(µ, ν) d(gβ(µ),gβ(ν)) =d(βµ, βν) =d(β−1βµ, ν) =d(µ, ν)
Toute conjugaisonuβ est ´egale `a la compos´ee d’isom´etries : uβ =gβdβ−1, c’est donc une
isom´etrie.
Pour tout ensemble Θ ⊂ Sym(n), nous noterons tΘ l’ensemble image de Θ par l’isom´etrie t. Avec ces notations, l’image de la sph`ere Sn(φ, d) de centre φ et de rayon dpardφ−1 estdφ−1Sn(φ, d) =Sn(1, d). Les sph`eres de mˆeme rayon de l’espace m´etrique (Sym(n), dddn) ont donc toutes le mˆeme cardinal. Ceci reste valable dans tout espace muni d’une distance invariante `a gauche ou `a droite.
La proposition suivante donne les interactions des isom´etries entre elles.
Proposition 3.2.2 Pour toutα, β ∈Sym(n), 1. gα dβ =dβ gα
2. gα gβ =gαβ 3. dα dβ =dβα 4. s s=e
5. s (gα dβ) =gβ−1 dα−1 s D´emonstration
1. Pour toute permutationγ ∈Sym(n) on v´erifie facilement :
(gα dβ)(γ) =gα(γβ) =αγβ =dβ(αγ) = (dβ gα)(γ) 2. Siγ appartient `a Sym(n), alors :
(gα gβ)(γ) =gα(βγ) =αβγ =gαβ(γ)
3. Et par un raisonnement analogue : (dα dβ)(γ) =dα(γβ) =γβα=dβα(γ).
4. C’est une cons´equence imm´ediate de la d´efinition de s. Pour toute permutation γ ∈Sym(n), (s s)(γ) =s(γ−1) =γ.
5. Soit γ∈Sym(n), on obtient :
(s (gα dβ))(γ) =s(αγβ) =β−1γ−1α−1 = (gβ−1 dα−1)(γ−1) = (gβ−1 dα−1 s)(γ).
Les isom´etries d´efinies en 3.2.1 engendrent des sous-groupes du groupe des isom´etries Isod(Sym(n)).
Notations 3.2.3 Soit d une distance bi-invariante sur Sym(n), les ensembles suivants sont des sous-groupes deIsod(Sym(n)) :
– Le groupe G, form´e des multiplications `a gauche – Le groupe D, form´e des multiplications `a droite – Le groupe S,engendr´e par l’inversions
– Le groupe U, engendr´e par les conjugaisons
Notons que pour toute permutationα∈Sym(n), la conjugaisonuα est une isom´etrie dont 1 est un point fixe :uα(1) =α1α−1 =1. De mˆeme, s(1) =1. Le groupe<U,S >
engendr´e par les conjugaisons et l’inversion s fixe la permutation 1. De plus, ce sous- groupe d’Isod(Sym(n)) conserve les classes de conjugaisons.
Lemme 3.2.4 Pourn≥3, les sous-groupes d’Isod(Sym(n))d´efinis ci-dessus satisfont : 1. <G,D>=G × D
2. s∈/(G × D) 3. <U,S >=U × S
D´emonstration
La propri´et´e (1) est obtenue par application de (3.2.2(1)) : toute compos´ee d’isom´etries de G et D peut ˆetre ´ecrite en regroupant les multiplications `a gauche d’une part et les multiplications `a droite d’autre part. Comme la compos´ee de multiplications `a gauche (resp. `a droite) est une multiplication `a gauche (resp. `a droite), en vertu de (3.2.2(2)) (resp. (3.2.2(3))), tout ´el´ement de < G,D > peut s’´ecrire gφdψ. La preuve de l’unicit´e de cette ´ecriture est directe d`es lors que l’intersection deG etDest r´eduite `a l’isom´etrie neutre.
Prouvons cette affirmation en raisonnant par l’absurde. Si une isom´etrie non neutre appartient `a la fois `a G et `a D, elle peut s’´ecrire gα = dβ. L’image de 1 par ces deux applications doit co¨ıncider, on en d´eduit l’´egalit´eα =β. On a alors, pour toute permu- tation φ∈ Sym(n), l’´egalit´eαφ=φα, ce qui n’est possible que si α =1. Ceci entre en contradiction avec l’hypoth`ese que l’isom´etrie consid´er´ee est non neutre.
La preuve de la propri´et´e (2) peut aussi ˆetre obtenue par un raisonnement par l’ab- surde. Supposons l’existence de deux permutations α, β ∈ Sym(n) telles que gαdβ =s.
Cette condition doit en particulier ˆetre v´erifi´ee pour la permutation 1, ce qui impose αβ=1, c’est-`a-dire β=α−1. Notre condition peut maintenant s’´ecrire : uα=s.
Rappelons que les transpositions sont des points fixes des. La permutationαsatisfait en particulier la relation ατi,jα−1 = τi,j pour toute transposition τi,j. La permutation α doit donc commuter avec toutes les transpositions de Sym(n). Comme les transposi- tions engendrent le groupeSym(n), la permutationαcommute avec tous les ´el´ements de Sym(n). Or la seule permutation poss´edant cette propri´et´e est la permutation identit´e.
Ceci impliques=e, ce qui, pourn≥3, est une contradiction.
La propri´et´e (3) d´ecoule imm´ediatement de la propri´et´e (2) et de la commutativit´e entre les conjugaisons et l’inversion. En effet, pour tout α ∈Sym(n), uαs =gαdα−1s =
sdα−1gα=suα.
Sur base de la premi`ere partie de cette proposition, on obtient aussi les d´ecompositions G × D=G × U =U × D
Proposition 3.2.5 Consid´erons le groupeG=<S,G,D>engendr´e par les multiplica- tions `a droite,`a gauche et l’inversion, et agissant sur l’espace (Sym(n), dddn) avec n≥3.
G= (G × D)⋊S
Tout ´el´ement tdeG peut s’´ecrire sous une des deux formes canoniquessuivantes, et ce de mani`ere unique :
– Soit t∈(G × D), et t=gα dβ – Soit t∈(G × D)s, ett=gα dβ s avec α, β∈Sym(n)
D´emonstration En vertu de la propri´et´e (5) de la proposition (3.2.2), s(G × D) =
(G × D)s. Il s’ensuit que <G,D > est un sous-groupe normal d’indice 2 du groupe G.
Par le lemme (3.2.4),<G,D>=G × D, ce qui conclut la d´emonstration.
D´efinition 3.2.6 Nous appellerons isom´etriepositiveune isom´etriet∈ G×Det isom´etrie n´egative une isom´etrie t∈(G × D)s.
Proposition 3.2.7 Le groupeIsod(Sym(n))est transitif sur (Sym(n),d).
D´emonstration
Le groupe G form´e des multiplications `a gauche, `a droite, l’inversion et les compos´ees de ces op´erations est un sous-groupe de Iso(Sym(n)). OrG est transitif sur Sym(n) : pour tout couple de permutations (α, β), il existe une isom´etrie appartenant `aGtelle que t(α) =β. L’isom´etriet=gα−1dβ convient. D`es lors que le sous-groupeGdeIso(Sym(n)) est transitif surSym(n), le groupe Iso(Sym(n)) l’est aussi.
Remarque
Les propositions que nous venons d’´enoncer sont valables dans tout espace m´etrique (Sym(n),d) o`ud est une distance bi-invariante etn≥3. C’est en particulier le cas pour la distance de Hammingdddn.
Rappelons qu’une distance d une distance bi-invariante sur Sym(n) distingue les transpositions si d(1, φ) = d(1, τ1,2) si et seulement si φ est une transposition. Nous allons montrer que le groupe des isom´etries Isod(Sym(n)) est exactement le groupe (G × D)⋊S.
Th´eor`eme 3.2.8 Soitdune distance bi-invariante distinguant les transpositions. L’ordre du groupe Isod(Sym(n)) vaut 2(n!)2. Le groupe Isod(Sym(n)) est ´egal au groupe G = (G × D)⋊S.
D´emonstration
Pour calculer l’ordre du groupe Isod(Sym(n)), nous utiliserons la formule :
|Isod(Sym(n))|=|αIsod(Sym(n))|.|Isod(Sym(n))α|,
dans laquelle αIsod(Sym(n)) est l’orbite de l’´el´ement α sous l’action de Isod(Sym(n)) et Isod(Sym(n))α est le stabilisateur deαdansIsod(Sym(n)). En fixant successivement les permutations 1, τ1,2, . . . , τ1,n et le tricycle (1,2,3), puis en montrant que le fixateur de ces permutations est le groupe trivial, nous obtiendrons l’ordre du groupeIsod(Sym(n)).
En vertu de 3.2.7, le groupeIsod(Sym(n)) est transitif, donc l’orbite de1estSym(n) tout entier.
|Isod(Sym(n))|=n!|Isod(Sym(n))1|
Isod(Sym(n))1 est le groupe des isom´etries qui fixent1. Ce groupe poss`ede un sous- groupe : le groupe SU engendr´e par les conjugaisons et l’inversion s. En vertu de la proposition 3.2.1, ces transformations sont des isom´etries, et elles fixent bien1.
Isod(Sym(n))1 stabilise l’ensemble des transpositions. Posons x = d(1, τ12), l’en- semble Sx(1) des permutations `a distance x de 1 doit ˆetre conserv´e par tout ´el´ement
de Isod(Sym(n))1. Or par d´efinition d’une distance distinguant les transpositions, l’en- sembleSx(1) est form´e uniquement des transpositions.
D’autre part, le sous-groupe U des conjugaisons agit transitivement sur l’ensemble des transpositions. Soient les transpositions τi,j et τk,l ∈ Sym(n) (avec les notations explicit´ees en 2.2.2). Si les symboles i, j, k, l sont distincts deux `a deux, il est possible d’envoyer τi,j surτk,l `a l’aide d’une conjugaison par τi,kτj,l :
(τi,kτj,l)τi,j (τi,kτj,l)−1 =τk,l
Si deux symboles sont ´egaux (j = k), on peut envoyer τi,j sur τj,l par conjugaison parτi,l :
τi,lτi,jτi,l=τj,l
D`es lors, l’orbite de la permutation (1,2) dans le groupe Isod(Sym(n))1 est l’ensemble des n2
transpositions.
Donc |Iso(Sym(n))|=n! n2
|Iso(Sym(n))1, τ1,2|.
Consid´erons alors l’ensembleSx(τ1,2) des permutations `a distancexdeτ1,2. Trois cas se pr´esentent alors, permettant de caract´eriser les ´el´ements ψ∈Sx(τ1,2) :
SoitSx(1)∩Sx(ψ) =Sx(1), et ψ=1.
Soit|Sx(1)∩Sx(ψ)|= 2, la permutationψ est une bitransposition.
Soit |Sx(1)∩Sx(ψ)|= 3, la permutation ψest un tricyle dont le support contient le support deτ1,2.
NotonsE3 l’ensemble des tricyles caract´eris´es par le dernier de ces trois cas : E3 ={(1,2, k) :k∈[3, n]} ∪ {(2,1, k) :k∈[3, n]}
On consid`ere alors l’ensemble E2 := Sx(1)∩(∪φ∈E3Sx(φ)) = ∪φ∈E3Sx(1)∩Sx(φ).
Comme la distanced distingue les transpositions, cette union d’intersections de sph`eres peut ˆetre d´ecrite univoquement comme l’ensemble des transpositions
E2 =Sx(1)∩(∪τi,jdτi,jE3) ={(1, k) :k∈[2, n]} ∪ {(2, k) :k∈[3, n]}
Toute isom´etrie fixant 1 etτ1,2 stabilise l’ensembleE2\{τ1,2}des 2(n−2) transposi- tions dont le support a un point en commun avec celui deτ1,2,.
Prenons une permutation appartenant `a cet ensemble : τ1,3. Son orbite sous l’action de Isod(Sym(n))1, τ1,2 est exactement l’ensemble des 2n−2 transpositions E2\{τ1,2}. Pour toute permutationφ∈E2\{τ1,2}, on v´erifie qu’il existe une conjugaison fixant τ1,2 qui envoieτ1,3 surφ. En effet, pour touti∈[4, n] :
uτ3,i(τ1,3) =τ1,i et uτ3,i(τ1,2) =τ1,2 uτ3,iτ1,2(τ1,3) =τ2,i etuτ3,iτ1,2(τ1,2) =τ1,2 Donc :
|Isod(Sym(n))| = n!
n 2
2(n−2)|Isod(Sym(n))1, τ1,2, τ1,3|
= n!n(n−1)
2 2(n−2)|Isod(Sym(n))1, τ1,2, τ1,3|
= n!n(n−1)(n−2)|Isod(Sym(n))1, τ1,2, τ1,3|
Consid´erons la permutation τ1,4. Son orbite sous l’action du groupe des isom´etries fixant 1, τ1,2 et τ1,3 est form´ee des transpositions dont le support a un point commun avec supp(τ1,2)∩supp(τ1,3), soit les n−3 transpositions {τ1,4, τ1,5, . . . , τ1,n}.
Comme pour τ1,3, les conjugaisons qui permettent d’envoyer τ1,4 sur ces n−3 per- mutations fixent1,τ1,2 etτ1,3.
On peut proc´eder de la sorte pour toutes les transpositions τ1,i . Supposons fix´ees les permutations 1, τ1,2, τ1,3, . . . , τ1,i−1. La permutation τ1,i pourra ˆetre envoy´ee sur la permutation τ1,j (aveci≤j ≤n) par la conjugaison uτi,j.
La conjugaisonuτi,j fixe les permutations{1, τ1,2, τ1,3, . . . , τ1,i−1}, donc l’orbite deτ1,i
sera form´ee desn−itranspositionsτ1,i, . . . , τ1,n.
Fixons les unes apr`es les autres, les n−1 transpositions {τ1,2, τ1,3, . . . , τ1,n}. On aura alors :
|Isod(Sym(n))| = (n!)n(n−1)(n−2)(n−3)|Isod(Sym(n))1, τ1,2, τ1,3, τ1,4|
= n!n!|Isod(Sym(n))1, τ1,2, . . . , τ1,n|
Toute isom´etrie fixant point par point les permutations 1, τ1,2 et τ1,3 stabilise l’en- semble Sx(τ1,2)∩Sx(τ1,3). La distance d distingue les transpositions, les permutations appartenant `a cette intersection sont 1,(1,2,3) et (1,3,2). L’isom´etrie s fixe 1 et les transpositions, et ´echange les deux tricycles. Le cardinal de l’orbite de (1,2,3) sous l’ac- tion deIsod(Sym(n))1, τ1,2, . . . , τ1,n est donc 2.
|Isod(Sym(n))| = (n!)2|Isod(Sym(n))1, τ1,2, . . . , τ1,n| (1)
= 2(n!)2|Isod(Sym(n))1, τ1,2, . . . , τ1,n,(1,2,3)| (2) PosonsB ={1, τ1,2, . . . , τ1,n,(1,2,3)}, nous allons montrer que le fixateur point par point dansIso(Sym(n)) de l’ensemble B est le groupe trivial, c’est-`a-dire queB est une base deIsod(Sym(n)). Pour cela, nous allons montrer que toutes les permutations deSym(n) sont fix´ees par les isom´etries fixant B. Il est d’ores et d´ej`a ´evident que la permutation (1,3,2) est fix´ee.
De mˆeme, nous pouvons montrer que tout tricycle (1,2, k) aveck∈[4, n] est fix´e. En effet,
Sx(τ1,2)∩Sx(τ1,k) ={1,(1,2, k),(1, k,2)}
Dans cet ensemble, la permutation 1 est fix´ee, et on diff´erencie les deux tricycles (1,2, k) et (1, k,2) par :
|Sx((1,2,3))∩Sx((1,2, k))| 6=|Sx((1,2,3))∩Sx((1, k,2))|
En effet |Sx((1,2,3))∩Sx((1,2, k))|= 3 etSx((1,2,3))∩Sx((1, k,2))|= 2.
Ceci prouv´e, les tricycles (1, j, k) j, k∈[3, n] sont fix´es car Sx(τ1,j)∩Sx(τ1,k) ={1,(1, j, k),(1, k, j)}.
Les deux tricycles de cette intersection sont diff´erenci´es l’un de l’autre `a l’aide de la permutation fix´ee (1,2, k) :
|Sx((1,2, k))∩Sx((1, j, k))| 6=|Sx((1,2, k))∩Sx((1, k, j))|
On remarque alors queSx((1, j, k))∩Sx(1) ={τ1,j, τ1,kτj,k}. Les permutationsτ1,j, τ1,k sont fix´ees, doncτj,k aussi. Le mˆeme argument que celui utilis´e pour fixer (1, j, k) permet de fixer tous les tricycles.
Les permutations dont le support poss`ede 0, 2 ou 3 ´el´ements sont `a pr´esent fix´ees.
Supposons que toutes les permutations dont le support compte strictement moins dem
´el´ements sont fix´ees, avecm ≥4. Soit φune permutation dont le support compte exac- tementm points.
S’il existe une permutation ψ∈Sx(φ) telle que |supp(ψ)|=m−2, alors en vertu de 2.4.1 les permutationsφetψco¨ıncident sursupp(ψ) etφ=ψτi,j aveci, j∈[n]\supp(ψ).
Commem ≥4, il existe une permutation θ distincte de ψ appartenant `a Sx(φ) et telle que|supp(θ)|< m. Par hypoth`ese,ψ etθsont fix´ees. La seule permutation appartenant
`
aSx(ψ)∩Sx(θ) dont le support comptem points est celle d´efinie sursupp(ψ)∪supp(θ) et qui co¨ıncide avecψ sur son support, c’est-`a-dire φ.
Si une telle permutation n’existe pas, alors il existe dans Sx(φ) au moins trois permutations ψ,θ et η qui co¨ıncident chacune en m−1 images avec φ. Posons i = supp(ψ)\supp(ψ), j = supp(ψ)\supp(θ) et k = supp(ψ)\supp(θ). Comme m ≥ 4, nous pouvons supposer sans restriction que ni (i, j, k) ni (i, k, j) ne forme un cycle de ψ. La permutation ψ est fix´ee : elle est univoquement d´etermin´ee comme l’unique ´el´ement de Sx(ψ)∩Sx(θ)∩Sx(η).
L’ensemble B est donc une base de Isod(Sym(n)) etIsod(Sym(n)) =S(G × D).
Remarque
Ce th´eor`eme caract´erise le groupe des isom´etries pour toute distance bi-invariante distinguant les transpositions. Il g´en´eralise le r´esultat donn´e par Farahat [42] pour la distance de Hamming en 1960. Dans le cadre de la distance de Hamming, une autre preuve, plus courte, sera pr´esent´ee dans le chapitre 4.
Il n’est pas superflu d’imposer que la distance distingue les transpositions. A titre d’exemple, la distance triviale d´efinie par dT(φ, ψ) = 0 si φ = ψ et dT(φ, ψ) = c sinon (o`u c >0 est une constante), est bi-invariante mais ne distingue pas les transpositions.
Le groupe des isom´etries pour cette distance est isomorphe `aSym(n!). Il existe d’autres
