Hopf group-coalgebras

7, rue René Descartes 67084 Strasbourg Cedex

A    ^` H    ^´

      ^´ 3-   ^´  ^´

par

A  V 

2000 Mathematics Subject Classification :16W30, 16W50, 81R50, 57M27, 55R10, 57R56 Mots clés : algèbres de Hopf, groupes quantiques, variétés de dimension 3, fibrés principaux, topologie quantique

LB

A mes parents

Je remercie chaleureusement mon directeur de th`ese Vladimir Turaev qui a su me faire profiter de sa grande experience en mati`ere de recherche math´ematique. Ses conseils ont toujours ´et´e une aide pr´ecieuse pour moi. J’ai beaucoup appris `a son contact et eu grand plaisir `a travailler avec lui.

Je remercie Christian Blanchet, Benjamin Enriquez, Christian Kassel et Marc Rosso pour avoir accept´e de faire partie de mon jury de th`ese et pour l’int´erˆet qu’ils ont port´e `a mon travail.

Je remercie ´egalement L´eonid Vainerman avec qui j’ai eu de nombreuses discussions enrichis- santes.

Je tiens `a remercier tous ceux qui, `a l’Universit´e, ont particip´e `a rendre ce travail possible et agr´eable. Je pense notamment `a Marco, Alain et V´eronique.

Je remercie enfin mes parents qui m’ont toujours affectueusement soutenu.

Introduction 

C1

Hopf group-coalgebras

1.1. Basic definitions . . . 2

1.2. Modules and comodules . . . 4

1.3. Existence and uniqueness ofπ-integrals . . . 10

1.4. The distinguishedπ-grouplike element . . . 13

1.5. Semisimplicity and cosemisimplicity . . . 18

1.6. Involutory Hopfπ-coalgebras . . . 22

C2 Quasitriangular Hopf group-coalgebras 2.1. Quasitriangular Hopfπ-coalgebras . . . 25

2.2. Existence ofπ-traces . . . 36

2.3. The caseπfinite: an abstract reformulation . . . 39

2.4. Examples . . . 42

C3 Categorical Hopf group-algebras 3.1. Basic facts onπ-categories . . . 45

3.2. Dinatural transformations and coends . . . 51

3.3. Categorical Hopfπ-algebras . . . 55

3.4. Particular cases . . . 59

C4 Hennings-like invariants of group-links and group-manifolds 4.1. Invariants ofπ-links . . . 74

4.2. Invariants ofπ-manifolds . . . 88

4.3. Comparison with the Turaev invariant . . . 97

4.4. Homotopy quantum field theory . . . 106

C5 Kuperberg-like invariants of group-manifolds 5.1. Invariants ofπ-colored Heegaard diagrams . . . 121

5.2. Invariants of pointedπ-manifolds . . . 130

5.3. An example . . . 135



Appendix A 137

Appendix B 143

Bibliography 147

Table of symbols 149

Index 151

D

epuis l’introduction d’un nouvel invariant polynômial des noeuds par Jones [14] en 1984, d’inattendus et spectaculaires liens entre la théorie purement algébrique des groupes quan- tiques et la topologie des noeuds et variétés de dimension 3 se sont révélés.

En 1989, Reshetikhin et Turaev [40] ont construit un invariant des variétés de dimension 3 (en les représentant par chirurgie le long d’entrelacs et en colorant ceux-ci à l’aide de représentations simples d’un groupe quantique), donnant ainsi une justification rigoureuse aux prédictions du physicien Witten [51]. Suivirent divers travaux permettant de calculer ces nouveaux invariants et mettant en évidence qu’ils s’étendent à une théorie topologique quantique des champs (TQFT) en dimension 2+1, voir Kirby et Melvin [20], Lickorish [25, 26, 28], Blanchet, Habegger, Masbaum, Vogel [3, 4], Turaev [47], Kassel, Rosso, Turaev [16].

Durant cette période, d’autres invariants des variétés de dimension 3 furent construits, en par- ticulier ceux de Hennings [12, 13] (définis directement à partir d’une algèbre de Hopf quasitrian- gulaire, c’est à dire sans utiliser ses représentations) et ceux de Kuperberg [21] (qui associe aux diagrammes de Heegaard d’une 3-variété un scalaire défini à partir des constantes de structure d’une algèbre de Hopf involutive).

Récemment, étant donné un groupe discretπ, Turaev [48] a introduit la notion deπ-catégorie modulaire et a montré qu’une telle catégorie permet la construction d’une théorie homotopique quantique des champs (HQFT) en dimension 2+1 et, plus particulièrement, la construction d’in- variants desπ-fibrés principaux sur les 3-variétés. Le casπ= 1 est celui des invariants des 3-va- riétés définis dans [40, 47]. Des exemples deπ-catégories sont les catégories de représentations de structures algébriques appeléesπ-cogèbres de Hopf, également introduites dans [48].

Le but de cette thèse est de développer, à partir d’une π-cogèbre de Hopf quasitriangulaire (resp. involutive), une théorie analogue à celle de Hennings (resp. de Kuperberg) dans le cadre des π-fibrés principaux sur les variétés de dimension 3.

La thèse est composée de deux parties. Dans la première (Chapitres 1 à 3), nous établissons les propriétés algébriques desπ-cogèbres de Hopf nécessaires pour les constructions topologiques faites dans la seconde partie (Chapitres 4 et 5).

Fixons un groupe discretπet rappelons brièvement qu’uneπ-cogèbre de Hopf est une famille H = {H_α}_α∈π d’algèbres (sur un corps ) munie d’une comultiplication ∆ = {∆_α,β : H_αβ → H_α⊗H_β}_α,β∈π, d’une counitéε:H₁→et d’une antipodeS ={S_α :H_α→H_α−1}_α∈πqui vérifient certaines conditions de compatibilité. Le casπ= 1 est celui des algèbres de Hopf (en particulier H₁est une algèbre de Hopf). Comme remarqué par Enriquez [9], quand le groupeπest fini, une π-cogèbre de Hopf peut être vue comme uneprolongation centralede l’algèbre de HopfF(π) des fonctions surπ, c’est à dire une algèbre de HopfA munie d’un morphisme de HopfF(π) → A dont l’image est centrale.

De nombreuses notions de la théorie des algèbres de Hopf peuvent s’étendre auxπ-cogèbres de Hopf. En particulier, uneπ-intégrale(à droite) d’une π-cogèbre de Hopf H ={H_α}_α∈πest une familleλ= (λ_α :H_α →)_α∈π de formes linéaires telles que (λ_α⊗idH_β)∆_α,β = λ_αβ1_βpour tous α, β∈π. Unélémentπ-grouplikede Hest une familleg= (g_α)_α∈π ∈Πα∈πH_α telle queε(g1) =1 et∆_α,β(g_αβ)=g_α⊗g_βpour tousα, β∈π.



Dans le premier chapitre, nous nous intéressons principalement auxπ-cogèbres de HopfH = {H_α}α∈πdetype fini, c’est à dire telles que chaqueH_αsoit de dimension finie. Un des résultats prin- cipaux de ce chapitre est l’existence et l’unicité (à multiplication scalaire près) desπ-intégrales : T^´ ^` 1.13. L’espace desπ-intégrales à droite (resp. à gauche) d’uneπ-cogèbre de Hopf de type fini est de dimension 1.

Pour prouver ce résultat, nous étudions les modules π-gradués rationnels, nous introduisons la notion deπ-comodule de Hopf et généralisons le théorème fondamental des modules de Hopf (affirmant qu’un module de Hopf est isomorphe au module de Hopf trivial associé à son sous- module des coinvariants, voir [24]) auxπ-comodules de Hopf.

Comme pour les algèbres de Hopf, l’unicité des π-intégrales assure que toute π-cogèbre de Hopf H = {H_α}_α∈π de type fini possède un élément π-grouplike, dit distingué, qui mesure le défaut d’une π-intégrale à droite deH à être une π-intégrale à gauche de H. Généralisant [39], nous établissons des relations entre l’élémentπ-grouplike distingué, l’antipode et lesπ-intégrales d’une π-cogèbre de Hopf de type fini (Théorème 1.16). Ces relations ont un rôle capital dans la construction de traces pour les π-cogèbres de Hopf (voir le Chapitre 2) et dans les constructions topologiques du Chapitre 4 (notamment de la théorie homotopique quantique des champs).

Nous montrons qu’une π-cogèbre de Hopf H = {H_α}_α∈π de type fini estsemisimple (c’est à dire chaque H_α est semisimple) si et seulement si H₁ est semisimple. Nous définissons lacose- misimplicitédesπ-comodules et desπ-cogèbres, et nous utilisons lesπ-intégrales afin de donner des critères pour qu’uneπ-cogèbre de Hopf soit cosemisimple (Théorème 1.24). Ces critères nous permettent d’établir certaines propriétés concernant lesπ-cogèbres de Hopf de type fini et involu- tives (voir la Section 1.6) qui sont utilisées dans le Chapitre 5 pour généraliser les invariants de Kuperberg.

Dans le deuxième chapitre, nous étudions lesπ-cogèbres de Hopf quasitriangulaires et ruban- nées. Rappelons (voir [48]) qu’une π-cogèbre de Hopf H = {H_α}_α∈π est dite croisée si elle est munie d’une famille ϕ = {ϕβ : H_α → H_βαβ−1}α,β∈π d’isomorphismes d’algèbres, appeléecroise- ment, qui préserve la comultiplication et la counité et qui définit une action deπ, c’est à dire telle que ϕβϕβ = ϕββ. Uneπ-cogèbre de Hopf quasitriangulaire (resp. rubannée) est uneπ-cogèbre de Hopf croisée H = {H_α}_α∈π munie d’une R-matrice R = {R_α,β ∈ H_α ⊗H_β}_α,β∈π (resp. d’une R-matrice et d’un twist θ = {θ_α ∈ H_α}_α∈π) vérifiant des axiomes qui généralisent ceux donnés dans [7] (resp. [40]) et dans lesquels apparaît le croisementϕ. Le casπ=1 est celui des algèbres de Hopf. Quand π est abélien etϕ est trivial, on retrouve la définition d’une algèbre de Hopf π-colorée quasitriangulaire (resp. rubannée) donnée par Ohtsuki [34].

La notion de trace pour une algèbre de Hopf s’étend aux π-cogèbres de Hopf croisées. Une π-traced’une π-cogèbre de Hopf croisée H = {H_α}α∈π est une famille tr = (tr_α : H_α → )_α∈π de formes linéaires vérifiant tr_α(xy)= tr_α(yx), tr_α−1(S_α(x))= tr_α(x) et tr_βαβ−1(ϕ_β(x))=tr_α(x) pour tousα, β∈πetx,y ∈H_α. Lesπ-cogèbres de Hopf rubannées munies d’une π-trace sont utilisées dans le Chapitre 4 pour généraliser les invariants de Hennings. Le résultat principal du deuxième chapitre est l’existence, sous certaines conditions techniques, deπ-traces. Pour prouver ce réslutat, nous généralisons les principales propriétés des algèbres de Hopf quasitriangulaires et rubannées (voir [8, 15, 38]). En particulier, étant donné une π-cogèbre de Hopf quasitriangulaire H, nous introduisons (à l’aide de laR-matrice et du croisementϕ) leséléments de Drinfeld(généralisés) et nous montrons qu’ils permettent de calculer l’élémentπ-grouplike distingué deH(Théorème 2.7).

Lorsque Hest rubannée, le twist et les éléments de Drinfeld deHpermettent la construction d’un élément π-grouplike G = (G_α)_α∈π qui implémente le carré de l’antipode par conjugaison. Cet élémentπ-grouplike, lesπ-intégrales et leurs relations avec l’élémentπ-grouplike distingué sont à la base de la construction desπ-traces. Par exemple, nous obtenons :

T^´ ^` 2.14. Soit H ={H_α}_α∈πuneπ-cogèbre de Hopf rubannée, de type fini et unimodulaire (c’est à dire l’algèbre de Hopf H1est unimodulaire). Soit(λα)_α∈π uneπ-intégrale à droite de H.

Si H est semisimple ou cosemisimple, alors(x∈H_α→λ_α(G_αx)∈)_α∈πest uneπ-trace de H.

Quand le groupeπest fini, les définitions et résultats principaux concernant lesπ-cogèbres de Hopf quasitriangulaires et rubannées peuvent être réécrits, de manière intrinsèque, dans le langage des prolongations centrales de l’algèbre de Hopf des fonctions surπ.

Les deux premiers chapitres ont fait l’objet d’un article [50].

Dans le troisième chapitre, nous introduisons et étudions lesπ-algèbres de Hopf catégorielles qui jouent un rôle important dans la partie topologique (voir Section 4.3). Uneπ-algèbre de Hopf dans une catégorie tressée est une familleA={A_α}_α∈πd’objets munie de morphismes de structure qui vérifient des axiomes duaux à ceux d’uneπ-cogèbre de Hopf. En utilisant la propriété univer- selle de factorisation des coends, nous construisons explicitement uneπ-algèbre de Hopf catégo- rielle A = {A_α}α∈π dans la composante neutre de chaque π-catégorie rubannée (Théorème 3.5).

Lorsqueπ=1, nous retrouvons les algèbres de Hopf catégorielles de Lyubashenko [30]. Lorsque laπ-catégorie est celle des représentations d’uneπ-cogèbre de Hopf rubannée H = {H_α}α∈π de type fini et unimodulaire, nous relions les intégrales deAetH(ce résultat est un des points clé de la démonstration du Théorème 4.18) :

T^´ ^` 3.8. Lesπ-intégrales catégorielles de A sont en bijection canonique avec lesπ-inté- grales de H.

La deuxième partie de la thèse est consacrée à la généralisation des invariants de Hennings (Chapitre 4) et de Kuperberg (Chapitre 5) à des invariants des fibrés principaux plats sur les variétés de dimension 3. Fixons un groupe discretπ(l’étude des fibrés principaux plats se ramène à celle des fibrés principaux dont la fibre est discrète).

Rappelons qu’Hennings [12, 13] a défini un invariant des noeuds et des 3-variétés en termes d’intégrales sur certaines algèbres de Hopf. Kauffman et Radford [17] ont clarifié les rapports entre cet invariant et les algèbres de Hopf et ont simplifié la construction d’Hennings. Dans le quatrième chapitre, partant d’une π-cogèbre de Hopf rubannée H = {H_α}_α∈π munie d’une π-trace tr = (tr_α)_α∈π, nous donnons une version améliorée de la méthode de Kauffman-Radford pour construire un invariant Inv_{H,tr}(L,g) des paires (L,g), où L est un entrelacs parallélisé et g:π1(S³\L)→πest un morphisme de groupe (Théorème 4.3). Cette construction s’effectue en colorant les segments verticaux d’un diagramme générique de L par π via le morphisme g, en décorant les croisements du diagramme ainsiπ-coloré avec laR-matriceR={R_α,β}α∈π, en concen- trant les éléments algébriques de cette décoration, grâce aux morphismes de structure deH, puis en les évaluant avec laπ-trace tr = (tr_α)_α∈π. La preuve du Théorème 4.3 consiste à montrer que les mouvements de Reidemeister colorés rendent compte de l’équivalence des paires (L,g), puis à vérifier l’invariance par rapport à ces mouvements en utilisant les propriétés desπ-cogèbres de Hopf quasitriangulaires et rubannées et de leursπ-traces établies dans le Chapitre 2 (en particulier les Lemmes 2.4, 2.5 et 2.9).

Nous donnons des exemples de calculs (faits à l’aide deπ-cogèbres de Hopf construites à partir de bicaractères deπ) montrant que l’invariant Inv_{H,tr}est non trivial.

Lorsqu’uneπ-trace tr^λ construite à partir d’une π-intégrale λest utilisée, l’invariant Inv_{H,trλ}

peut être normalisé en un invariantτH(M, ξ) desπ-fibrés principauxξau dessus des 3-variétésM.

Cette construction s’effectue en présentant l’espace de baseMpar chirurgie le long d’un entrelacs parallélisé L, en définissant g : π1(S³ \L) → πà l’aide de la monodromie du π-fibré, puis en normalisant l’invariant Inv_{H,trλ}(L,g).

T^´ ^` 4.12. Si H = {H_α}_α∈πest une π-cogèbre de Hopf rubannée, unimodulaire et de type fini, alorsτHest un invariant desπ-fibrés principaux sur les variétés de dimension3.

Pour prouver ce résultat, nous montrons que les mouvements de Kirby colorés rendent compte de l’équivalence des π-fibrés principaux sur les 3-variétés, puis nous vérifions l’invariance par rapport à ces mouvements grâce aux propriétés desπ-intégrales (en particulier le Théorème 1.16), sachant que nous utilisons uneπ-trace construite à partir d’uneπ-intégrale.

L’invariant τH est non trivial (nous donnons un exemple de calcul pour des^Z/n^Z-fibrés sur certains espaces lenticulaires en utilisant les^Z/n^Z-cogèbres de Hopf décrites dans [34]) et coïn- cide avec celui de Hennings lorsqueπ=1.

Rappelons que Turaev [48] a construit un invariantT_Cdesπ-fibrés principaux sur les 3-variétés à partir d’uneπ-catégorie modulaireC. En général, la catégorie des représentations Rep(H) d’une π-cogèbre de Hopf rubannée, unimodulaire et de type finiHn’est pas modulaire, mais elle permet souvent la construction d’une catégorie CHmodulaire (voir [5]). Dans ce cas, les invariantsτHet T_CH sont en général différents (voir [17] pour le casπ=1). Cependant, nous obtenons :

T^´ ^` 4.18. SiRep(H)est modulaire, les invariantsτHetTRep(H)coïncident.

La technique employée pour montrer ce résultat, esquissée dans [18, 29] pour le casπ= 1, utilise les π-algèbres de Hopf catégorielles étudiées dans le Chapitre 3 (en particulier les Théo- rèmes 3.5 et 3.8) qui permettent de relier l’approche catégorielle de [48] avec celle algébrique développée ici. Plus précisément, la comparaison s’effectue en réécrivant l’invariant de Turaev à l’aide desπ-intégrales d’uneπ-algèbre de Hopf catégorielle de Rep(H) qui est explicitée au moyen des morphismes de structures deH.

Rappelons brièvement qu’une théorie homotopique quantique des champs en dimension 2+1 ayant pour but un espace X peut être vue comme une théorie topologique quantique des champs pour les surfaces et les 3-cobordismes munis d’une classe d’homotopie d’applications vers X.

De même qu’une théorie topologique quantique des champs donne naissance à des invariants des variétés de dimension 3, une théorie homotopique quantique des champs ayant pour but l’espace d’Eilenberg-Mac Lane K(π,1) donne naissance à des invariants des π-fibrés principaux sur les variétés de dimension 3.

T^´ ^` 4.27. Sous les hypothèses du Theorème 4.12, l’invariant τH s’étend à une théorie homotopique quantique des champs en dimension 2+1(pour surfaces connexes) ayant pour but l’espace d’Eilenberg-Mac Lane K(π,1).

Dans [21], Kuperberg a construit, à l’aide d’une algèbre de Hopf involutive, un invariant des 3-variétés en les présentant par des diagrammes de Heegaard. Le résultat principal du cinquième chapitre est la généralisation de cette construction au cadre desπ-fibrés principaux sur les varié- tés de dimension 3. Elle s’effectue en présentant l’espace de base d’unπ-fibré principal sur une 3-variété par un diagramme de Heegaard que l’on colore parπgrâce à la monodromie du fibré et auquel on associe des constantes de structures d’uneπ-cogèbre de Hopf involutive.

T^´ ^` 5.5. Toute π-cogèbre de Hopf H = {H_α}_α∈π qui est involutive, de type fini, et telle quedimH1 0(dans le corps de base), permet la construction d’un invariant KH desπ-fibrés principaux sur les variétés de dimension3.

Pour prouver ce résultat, nous montrons que les mouvements de Reidemeister-Singer colo- rés rendent compte de l’équivalence desπ-fibrés principaux sur les 3-variétés, puis nous vérifions l’invariance par rapport à ces mouvements en utilisant les propriétés desπ-cogèbres de Hopf in- volutives (voir en particulier la Section 1.6 et les Lemmes 5.1 et 5.2).

L’invariant KH est non trivial (nous donnons des exemples de calculs pour des^Z/2^Z-fibrés sur certains espaces lenticulaires en utilisant une^Z/2^Z-cogèbre de Hopf involutive [49] dérivée de l’algèbre de Hopf de Kac-Paljutkin) et coïncide avec celui de Kuperberg lorsqueπ=1.

Cette thèse est organisée de la manière suivante. Le Chapitre 1 est consacré à l’étude des π-cogèbres de Hopf et le Chapitre 2 à celle des π-cogèbres de Hopf quasitriangulaires. Dans le Chapitre 3, nous étudions les π-algèbres de Hopf catégorielles. Le Chapitre 4 est consacré à la généralisation des invariants de Hennings et le Chapitre 5 à celle des invariants de Kuperberg. Dans l’Annexe A, nous étudions les^Z/n^Z-cogèbres de Hopf de [34]. Finalement, dans l’Annexe B, nous calculons la valeur de certains invariants en utilisant la^Z/2^Z-cogèbre de Hopf involutive de [49].

Hopf group-coalgebras

T

he notion of a Hopf group-coalgebra, introduced in [48], generalizes that of a Hopf alge- bra. We will use Hopf group-coalgebras to construct Hennings-like (see Chapter 4) and Kuperberg-like (see Chapter 5) invariants of flat bundles over 3-manifolds. The aim of the present chapter (together with the following) is to lay the algebraic foundations needed for these topolog- ical purposes.

Given a (discrete) groupπ, a Hopfπ-coalgebra is a familyH={H_α}α∈πof algebras (over a field ) endowed with a comultiplication∆ ={∆_α,β :H_αβ → H_α⊗H_β}_α,β∈π, a counitε:H₁→, and an antipodeS ={S_α :H_α →H_α−1}α∈πwhich verify some compatibility conditions. Basic notions of the theory of Hopf algebras can be extended to the setting of Hopfπ-coalgebras. In particular, a (right)π-integral for a Hopfπ-coalgebra H is a family of-forms λ= (λ_α :H_α →)_α∈π such that (λα⊗idH_β)∆α,β=λαβ1_βfor allα, β∈π.

In this chapter, we mainly focus on Hopfπ-coalgebras of finite type, that is Hopfπ-coalgebras H={H_α}α∈πwith eachH_αfinite-dimensional. The first main result is the existence and uniqueness (up to a scalar multiple) of a π-integral for such a Hopf π-coalgebra. To prove this result, we study rationalπ-graded modules, introduce the notion of a Hopfπ-comodule, and generalize the fundamental theorem of Hopf modules (saying that a Hopf module is isomorphic to the trivial module associated to its submodule of coinvariants, see [24]) to Hopfπ-comodules.

As for Hopf algebras, the uniqueness of theπ-integrals assures that any finite type Hopfπ-coal- gebra contains aπ-grouplike element, called distinguished, which measures the defect of a right π-integral to be a leftπ-integral. Generalizing [39], we study the relationships between this ele- ment, the antipode, and theπ-integrals. As a corollary, we give an upper bound for the order of S_α−1S_αwheneverα∈πhas a finite order.

The notions of semisimplicity and cosemisimplicity can be extended to the setting of Hopf π-coalgebras. We show that a finite type Hopf π-coalgebra H = {H_α}_α∈π is semisimple (that is each H_α is semisimple) if and only if H1 is semisimple. We define the cosemisimplicity for π-comodules andπ-coalgebras, and we useπ-integrals to give necessary and sufficient criteria for a Hopfπ-coalgebra to be cosemisimple.

When the ground fieldis of characteristic zero, a Hopfπ-coalgebra H = {H_α}_α∈π which is involutory (that isS_α−1S_α =idH_α for allα∈π) is semisimple and cosemisimple and verifies that dimH_α=dimH₁wheneverH_α0.

This chapter is organized as follows. In Section 1.1, we review the basic definitions and prop- erties of Hopfπ-coalgebras. In Section 1.2, we discuss the notions of a rationalπ-graded module and of a Hopfπ-comodule. In Section 1.3, we use these notions to establish the existence and uniqueness of π-integrals. Section 1.4 is devoted to the study of the distinguished π-grouplike element. In Section 1.5, we discuss the notion of a semisimple (resp. cosemisimple) Hopfπ-coal- gebra. Finally, in Section 1.6, we study involutory Hopfπ-coalgebras.

1

1.1. Basic definitions

Throughout this thesis, we letπbe a discrete group (with neutral element 1) andbe a field (although much of what we do is valid over any commutative ring). We set ^∗ = \ {0}. All algebras are supposed to be over, associative, and unitary. The tensor product⊗=⊗is always assumed to be over. IfUand Vare-spaces,σU,V :U⊗V →V⊗Uwill denote the flip map defined byσU,V(u⊗v)=v⊗ufor allu∈Uandv∈V.

1.1.1. π-coalgebras.We recall the definition of a π-coalgebra, following [48, §11.2]. A π-coalgebra (over) is a family C = {C_α}_α∈π of-spaces endowed with a family∆ = {∆_α,β : C_αβ →C_α⊗C_β}α,β∈πof-linear maps (thecomultiplication) and a-linear mapε:C1 →(the counit) such that

(1.1) ∆is coassociative in the sense that, for anyα, β, γ∈π, (∆_α,β⊗idC_γ)∆_αβ,γ =(idC_α⊗∆_β,γ)∆_α,βγ; (1.2) for allα∈π, (id_Cα ⊗ε)∆_α,1=id_Cα =(ε⊗id_Cα)∆1,α.

Note that (C₁,∆1,1, ε) is a coalgebra in the usual sense of the word.

Sweedler’s notation. We extend the Sweedler notation for a comultiplication in the following way: for anyα, β∈πandc∈C_αβ, we write

∆_α,β(c)=

(c)

c_(1,α)⊗c_(2,β)∈C_α⊗C_β, or shortly, if we leave the summation implicit,∆_α,β(c)=c_(1,α)⊗c_(2,β). The coassociativity axiom (1.1) gives that, for anyα, β, γ∈πandc∈C_αβγ,

c_{(1,αβ)(1,α)}⊗c_{(1,αβ)(2,β)}⊗c_(2,γ)=c_(1,α)⊗c_{(2,βγ)(1,β)}⊗c_{(2,βγ)(2,γ)}.

This element ofC_α⊗C_β⊗C_γ is written asc_(1,α)⊗c_(2,β)⊗c_(3,γ). By iterating the procedure, we define inductivelyc(1,α1)⊗ · · · ⊗c(n,αn)for anyc∈C_α1···αn.

1.1.2. Convolution algebras.LetC=({C_α},∆, ε) be aπ-coalgebra andAbe an algebra with multiplication mand unit element 1_A. For any f ∈Hom(C_α,A) andg∈Hom(C_β,A), we define theirconvolution productby

f ∗g=m(f⊗g)∆α,β ∈Hom(C_αβ,A). Using (1.1) and (1.2), one verifies that the-space

Conv(C,A)=⊕α∈πHom(C_α,A),

endowed with the convolution product ∗and the unit elementε1_A, is aπ-graded algebra, called convolution algebra.

In particular, for A= , theπ-graded algebra Conv(C,) =⊕_α∈πC^∗_αis calleddualtoCand is denoted byC^∗.

1.1.3. Hopfπ-coalgebras.Following [48, §11.2], aHopfπ-coalgebrais aπ-coalgebra H = ({H_α},∆, ε) endowed with a family S = {S_α : H_α → H_α−1}α∈π of-linear maps (theantipode) such that

(1.3) eachH_αis an algebra with multiplicationm_αand unit element 1_α∈H_α;

(1.4) ε:H1→and∆_α,β :H_αβ →H_α⊗H_β(for allα, β∈π) are algebra homomorphisms;

(1.5) for anyα∈π,

m_α(S_α−1 ⊗id_Hα)∆_α−1,α=ε1_α =m_α(id_Hα⊗S_α−1)∆_α,α−1.

We remark that the notion of a Hopfπ-coalgebra is not self-dual and that (H₁,m₁,1₁,∆1,1, ε,S₁) is a (classical) Hopf algebra.

The Hopfπ-coalgebra His said to be offinite typeif, for allα∈ π,H_α is finite-dimensional (over). Note that it does not mean that⊕_α∈πH_αis finite-dimensional (unlessH_α=0 for all but a finite number ofα∈π).

The antipode S = {S_α}_α∈π of H is said to be bijective if each S_α is bijective. Unlike [48,

§11.2], we do not suppose that the antipode of a Hopfπ-coalgebra His bijective. However, we will show that it is bijective wheneverHis of finite type (see Corollary 1.14(a)) or quasitriangular (see Lemma 2.5(c)).

A useful remark is that ifH={H_α}_α∈πis a Hopfπ-coalgebra with antipodeS ={S_α}_α∈π, then Axiom (1.5) says thatS_α is the inverse of idH_α−1 in the convolution algebra Conv(H,H_α−1) for all α∈π.

In the next lemma, generalizing [45, P 4.0.1], we show that the antipode of a Hopfπ-coalgebra is anti-multiplicative and anti-comultiplicative.

L1.1. Let H=({H_α,m_α,1_α},∆, ε,S)be a Hopfπ-coalgebra. Then (a) S_α(ab) =S_α(b)S_α(a)for anyα∈πand a,b∈H_α;

(b) S_α(1_α)=1_α−1 for anyα∈π;

(c) ∆_β−1,α⁻¹S_αβ =σH_α−1,H_β−1(S_α⊗S_β)∆_α,β for anyα, β∈π;

(d) εS1=ε.

Proof. The proof is essentially the same as in the Hopf algebra setting. For example, to show Part (c), fixα, β ∈ πand consider the algebra Conv(H,H_β−1 ⊗H_α−1) with convolution product ∗ and unit elemente = ε1_β−1 ⊗1_α−1. Using Axioms (1.2), (1.4), and (1.5), one easily checks that

∆_β−1,α⁻¹S_αβ∗∆_β−1,α⁻¹ =eand∆_β−1,α⁻¹∗σH_α−1,H_β−1(S_α⊗S_β)∆_α,β =e. Hence we can conclude that

∆_β⁻¹_,α⁻¹S_αβ=σH_α−1,H_β−1(S_α⊗S_β)∆α,β. C 1.2. Let H = {H_α}_α∈π be a Hopfπ-coalgebra. Then{α∈ π|H_α 0}is a subgroup ofπ.

Proof. SetG = {α ∈π|H_α 0}. Firstly 11 0 (sinceε(11) = 1 0) and so 1 ∈G. Then letα, β∈G. Using (1.4),∆_α,β(1_αβ) =1_α⊗1_β 0. Therefore 1_αβ 0 and soαβ∈G. Finally, let α∈G. By Lemma 1.1(b),S_α−1(1_α−1)=1_α 0. Thus 1_α−1 0 and henceα⁻¹∈G.

1.1.3.1. Opposite Hopfπ-coalgebra.LetH = {H_α}_α∈π be a Hopfπ-coalgebra. Suppose that the antipodeS = {S_α}_α∈π ofH is bijective. For any α ∈ π, let H^op_α be the opposite algebra to H_α. ThenH^op = {H_α^op}_α∈π, endowed with the comultiplication and counit ofH and with the antipode S^op={S^op_α =S⁻_α¹₋₁}α∈π, is a Hopfπ-coalgebra, calledopposite to H.

1.1.3.2. Coopposite Hopfπ-coalgebra.LetC=({C_α},∆, ε) be aπ-coalgebra. Set C^cop_α =C_α−1 and ∆^cop_α,β =σC_β−1,C_α−1∆_β⁻¹_,α⁻¹.

ThenC^cop =({C_α^cop},∆^cop, ε) is aπ-coalgebra, calledcoopposite to C. IfHis a Hopfπ-coalgebra whose antipodeS ={S_α}_α∈πis bijective, then the cooppositeπ-coalgebraH^cop, whereH_α^cop =H_α−1

as an algebra, is a Hopfπ-coalgebra with antipodeS^cop={S^cop_α =S⁻_α¹}α∈π.

1.1.3.3. Opposite and coopposite Hopfπ-coalgebra.LetH = ({H_α},∆, ε,S) be a Hopfπ-coal- gebra. Even if the antipode ofHis not bijective, one can always define a Hopfπ-coalgebraoppo- site and coopposite to Hby settingH^op_α^,cop =H_α^op₋₁,∆^op_α,β^,cop = ∆^cop_α,β,ε^op,cop =ε, andS^op_α^,cop =S_α−1.

1.1.3.4. The dual Hopf algebra.LetH=({H_α,m_α,1_α},∆, ε,S) be a finite type Hopfπ-coalgebra.

The π-graded algebra H^∗ = ⊕α∈πH_α^∗ dual toH (see §1.1.2) inherits a structure of a Hopf algebra by setting, for allα∈πand f ∈H^∗_α,

∆(f) =m^∗_α(f)∈(H_α⊗H_α)^∗H_α^∗⊗H^∗_α,

ε(f) = f(1_α), andS(f) = f ◦S_α−1. Note that if H_α 0 for infinitely many α ∈ π, thenH^∗is infinite-dimensional.

1.1.3.5. The case πfinite.Let us first remark that, when πis a finite group, there is a one-to- one correspondence between (isomorphic classes of) π-coalgebras and (isomorphic classes of) π-graded coalgebras. Recall that a coalgebra (C,∆, ε) isπ-gradedifCadmits a decomposition as a direct sum of-spacesC=⊕_α∈πC_αsuch that, for anyα∈π,

∆(C_α)⊆

βγ=α

C_β⊗C_γ and ε(C_α)=0 ifα1.

Let us denote by p_α : C → C_α the canonical projection. Then {C_α}_α∈π is a π-coalgebra with comultiplication {(p_α⊗ p_β)∆|C_αβ}_α,β∈πand counit ε|C1. Conversely, ifC= ({C_α},∆, ε) is aπ-coal- gebra, then ˜C =⊕_α∈πC_αis aπ-graded coalgebra with comultiplication ˜∆and counit ˜εgiven on the summands by

∆|˜ C_α =

βγ=α

∆_β,γ and ε|˜C_α =

ε ifα=1 0 ifα1.

Let nowH=({H_α,m_α,1_α},∆, ε,S) be a Hopfπ-coalgebra, whereπis a finite group. Then the coalgebra ( ˜H,∆,˜ ε˜), defined as above, is a Hopf algebra with multiplication ˜m, unit element ˜1, and antipode ˜S given by

˜

m|H_α⊗H_β =

m_α ifα=β

0 ifαβ, ˜1=

α∈π

1_α, and S˜ =

α∈π

S_α.

WhenHis of finite type andπis finite, the Hopf algebra H^∗(see §1.1.3.4) is simply the dual Hopf algebra ˜H^∗.

Note that ifπis a finite group, then the notion of a Hopfπ-coalgebra coincides with that of a central prolongation of the Hopf algebra of functions onπ(see Section 2.3.1).

R. When πis finite, the structure ofπ-comodules over aπ-coalgebraC = {C_α}α∈π (The- orem 1.4), the existence of π-integrals for a finite type Hopf π-coalgebra H = {H_α}_α∈π (The- orem 1.13) and their relations with the distinguished π-grouplike element (Theorem 1.16) can be deduced from the classical theory of coalgebras and Hopf algebras by using ˜C = ⊕_α∈πC_α or H˜ = ⊕_α∈πH_α (defined as in §1.1.3.5). Nevertheless, for the general case, self-contained proofs must be given.

In general, the results relating to a quasitriangular Hopfπ-coalgebra (see Sect. 2.1-2.2) cannot be deduced from the classical theory of quasitriangular Hopf algebras, even ifπis finite. Indeed, anR-matrix for a Hopfπ-coalgebraH(whose definition involves an action ofπ, see §2.1.2) does not necessarily lead to a usualR-matrix for the Hopf algebra ˜H.

1.2. Modules and comodules

In this section, we introduce and discuss the notions ofπ-comodules, rational π-graded mod- ules, and Hopfπ-comodules. They are used in Section 1.3 to show the existence of integrals.

1.2.1. π-comodules.LetC = ({C_α},∆, ε) be aπ-coalgebra. Arightπ-comodule over Cis a family M = {M_α}α∈π of-spaces endowed with a familyρ = {ρα,β : M_αβ → M_α⊗C_β}α,β∈π of -linear maps (thestructure maps) such that

(1.6) for anyα, β, γ∈π,

(ρα,β⊗idC_γ)ραβ,γ =(idM_α ⊗∆β,γ)ρα,βγ; (1.7) for anyα∈π, (id_Mα ⊗ε)ρ_α,1=id_Mα.

Note thatM₁endowed with the structure mapρ1,1is a (usual) right comodule over the coal- gebraC1.

Ifπis finite and ˜C=⊕_α∈πC_αis theπ-graded coalgebra defined as in §1.1.3.5, then Mleads to aπ-graded right comodule ˜M=⊕_α∈πM_αover ˜Cwith comodule map ˜ρ=

α,β∈πρ_α,β(see [32]).

Aπ-subcomodule of Mis a family N = {N_α}_α∈π, whereN_αis a-subspace ofM_α, such that ρ_α,β(N_αβ)⊂N_α⊗C_βfor allα, β∈π. ThenNis a rightπ-comodule overCwith induced structure maps.

Aπ-comodule morphism between two right π-comodules M and M overC (with structure maps ρ and ρ) is a family f = {f_α : M_α → M_α}_α∈π of -linear maps such that ρ_α,βf_αβ = (f_α⊗id_Cβ)ρ_α,βfor allα, β∈π.

Sweedler’s notation. We extend the notation of Section 1.1.1 by setting, for any α, β ∈ πand m∈M_αβ,

ρα,β(m)=m(0,α)⊗m(1,β)∈M_α⊗C_β. Axiom (1.6) gives that, for anyα, β, γ∈πandm∈M_αβγ,

m_{(0,αβ)(0,α)}⊗m_{(0,αβ)(1,β)}⊗m_(1,γ)=m_(0,α)⊗m_{(1,βγ)(1,β)}⊗m_{(1,βγ)(2,γ)}.

This element ofM_α⊗C_β⊗C_γis written asm_(0,α)⊗m_(1,β)⊗m_(2,γ). By iterating the procedure, we define inductivelym(0,α0)⊗m(1,α1)⊗ · · · ⊗m(n,αn)for anym∈M_{α0α1···αn}.

LetN ={N_α}α∈πbe aπ-subcomodule of a rightπ-comoduleM={M_α}α∈π over aπ-coalgebra C. One easily checks that M/N = {M_α/N_α}α∈πis a rightπ-comodule overC, with structure maps naturally induced from the structure maps ofM. Moreover this is the unique structure of a right π-comodule overConM/Nwhich makes the canonical projection p= {p_α :M_α→M_α/N_α}α∈πa π-comodule morphism.

If f ={f_α:M_α→ M_α}α∈πis aπ-comodule morphism between two rightπ-comodules Mand M, then ker(f)={ker(f_α)}_α∈πis aπ-subcomodule ofM, f(M)={f_α(M_α)}_α∈πis aπ-subcomodule of M, and the canonical isomorphism ¯f = {f¯_α : M_α/ker(f_α) → f_α(M_α)}_α∈π is a π-comodule isomorphism.

E 1.3. LetH= {H_α}_α∈π be a Hopfπ-coalgebra andM ={M_α}_α∈πbe a rightπ-comodule over Hwith structure mapsρ = {ρα,β}α,β∈π. Thecoinvariants of H on Mare the elements of the -space

{m=(m_α)_α∈π ∈ Π

α∈πM_α |ρ_α,β(m_αβ)=m_α⊗1_βfor allα, β∈π}.

For anyα∈π, let M_α^coHbe the image of the (canonical) projection of this set onto M_α. It is easy to verify that M^coH = {M^coH_α }_α∈π is a right π-subcomodule of M, called the π-subcomodule of coinvariants.

1.2.2. Rationalπ-graded modules.Throughout this subsection,C=({C_α},∆, ε) will denote a π-coalgebra and C^∗ = ⊕α∈πC_α^∗ its dual π-graded algebra (see §1.1.2). In this subsection we explore the relationships between rightπ-comodules overCandπ-graded leftC^∗-modules.

Recall that a left module M over a π-graded algebra A = ⊕_α∈πA_α isgraded if M admits a decomposition as a direct sum of-spaces M= ⊕_α∈πM_α such thatA_αM_β ⊂ M_αβ for allα, β∈ π. A submodule NofMisgradedifN = ⊕_α∈π(N∩M_α). The quotient M/Nis then a leftπ-graded A-module by setting (M/N)_α =(M_α+N)/Nfor allα∈π. This is the unique structure of aπ-graded A-module onM/Nwhich makes the canonical projectionM→M/Na gradedA-morphism.

LetM=⊕_α∈πM_αbe aπ-graded leftC^∗-module with actionψ:C^∗⊗M→ M. SetM_α= M_α−1. For anyα, β∈π, define

(1.8) ρ_α,β :M_αβ →Hom(C^∗_β,M_α) by ρ_α,β(m)(f)=ψ(f⊗m). There is a natural embedding

M_α⊗C_β→Hom(C^∗_β,M_α) m⊗c→(f → f(c)m).

Regard this embedding as inclusion, so that M_α⊗C_β ⊂ Hom(C^∗_β,M_α). Theπ-graded leftC^∗- moduleMis said to berationalifρ_α,β(M_αβ)⊂ M_α⊗C_βfor allα, β∈π. In this case, the restriction ofρ_α,β ontoM_α⊗C_βwill also be denoted by

(1.9) ρ_α,β: M_αβ→M_α⊗C_β.

The definition given here generalizes that of a rationalπ-graded left module given in [32] and agrees with it whenπis finite.

The next theorem generalizes [32, T6.3] and [45, T2.1.3].

T 1.4. Let C={C_α}_α∈πbe aπ-coalgebra and C^∗be its dualπ-graded algebra. Then (a) There is a one-to-one correspondence between (isomorphic classes of) rightπ-comodules

over C and (isomorphic classes of) rationalπ-graded left C^∗-modules.

(b) Every graded submodule of a rationalπ-graded left C^∗-module is rational.

(c) Any π-graded left C^∗-module L = ⊕α∈πL_α has a unique maximal rational graded sub- module, noted L^rat, which is equal to the sum of all rational graded submodules of L.

Moreover, ifρ = {ρ_α,β}_α,β∈π is defined as in(1.8), then(L^rat)_γ = ∩

α,β∈π αβ=γ⁻¹

ρ⁻_α,β¹(L_α⊗C_β)for anyγ∈π.

Before proving the theorem, we need two lemmas. LetM={M_α}_α∈πbe a family of-spaces and ρ = {ρ_α,β : M_αβ → M_α⊗C_β}_α,β∈π be a family of-linear maps. Set M = ⊕_α∈πM_α, where M_α= M_α−1. Letψρ :C^∗⊗M→Mbe the-linear map defined on the summands by

C_α^∗⊗M_β ^{idCα∗⊗ρ(αβ)−1-,α} C^∗_α⊗M_αβ⊗C_α

σ_C∗α,Mαβ⊗idCα

- M_αβ⊗C_α^∗⊗C_α

id_M

αβ⊗ ,

- M_αβ⊗ M_αβ, where,denotes the natural pairing betweenC^∗_αandC_α.

L 1.5. (M, ρ) is a right π-comodule over C if and only if(M, ψρ) is a π-graded left C^∗- module.

Proof. Suppose that (M, ρ) is a right π-comodule overC. Firstly, using (1.7), we have that ψρ(ε⊗m)=m_(0,α−1)ε(m(1,1))=mfor anym∈M_α. Secondly, for any f ∈C_α^∗,g∈C_β^∗, andm∈M_γ, we have

ψ_ρ(f g⊗m) = m_(0,(αβγ)−1)f g(m_(1,αβ))

= m_(0,(αβγ)−1)f(m(1,α))g(m(2,β))