Soit F un corps local non-archimédien de caractéristique nulle (i.e. une ex-tension finie d’un corps p-adique). On note O son anneau des entiers et p son idéal maximal. On choisit une uniformisante $ telle que p = $O et la valeur absolue | · |F : F →R+ est normalisée par |$|F = (#O/p)−1, le corps résiduel k = O/p étant bien un corps fini, dont on notera p la caractéristique.
Définition 1.2.1. Un espace topologique est dit localement profini s’il est séparé et si tout point admet une base de voisinages formée par des compacts ouverts. Proposition 1.2.2. Un espace topologique est localement profini si, et seule-ment s’il est séparé, localeseule-ment compact, totaleseule-ment discontinu.
En pratique, on considérera des groupes localement profinis, i.e. des groupes topologiques dont l’espace sous-jacent est un espace localement profini. Il suffit alors de vérifier que l’élément identité du groupe admet une base de voisinages par des sous-groupes ouverts compacts (et cette condition est nécessaire par le théorème de van Dantzig, voir [EH94] 7.7). Les sous-groupes fermés (en particu-lier le centre) et les quotients (par un sous-groupe fermé distingué) d’un groupe localement profini sont des groupes localement profinis.
Le corps F est localement profini ainsi que tous les espaces vectoriels de dimension finie sur F . En particulier, pour n ≥ 1, l’espace des matrices carrées de taille n puis l’ouvert des matrices inversibles GLn(F ) sont localement profi-nis. Ainsi, si G est un groupe algébrique affine défini sur F , on dispose d’une immersion fermée G → GLn qui permet de munir G(F ) de la topologie trace de GLn(F ) et donc d’une structure de groupe localement profini. La topologie ainsi définie ne dépend pas du choix de l’immersion fermée.
On peut maintenant définir la notion de représentation lisse.
Définition 1.2.3. Soit G un groupe localement profini et soit (π, V ) une repré-sentation linéaire de G où V est un C-espace vectoriel. On dit que (π, V ) est lisse si pour tout v ∈ V , il existe un sous-groupe ouvert K ⊂ G (que l’on peut supposer compact) tel que pour tout k ∈ K, π(k)v = v (i.e. v est K-invariant). De façon équivalente, en notant VK l’ensemble des vecteurs de V fixés par K, (π, V ) est lisse si
V =[
K
VK
où K parcourt l’ensemble des sous-groupes compacts ouverts.
Remarque : C’est bien une condition de lissité puisqu’elle revient à voir que, pour tout v ∈ V , la fonction g 7→ π(g)v est localement constante (i.e. continue si l’on munit V de la topologie discrète).
On voit immédiatement que toute sous-représentation (resp. tout quotient) d’une représentation lisse est lisse.
On se donne pour toute la suite de cette section un groupe localement profini G. La catégorie des représentations lisses de G, notée ici Rep(G) est une sous-catégorie pleine de la sous-catégorie des représentations complexes, c’est-à-dire qu’un morphisme entre représentations lisses est simplement une application linéaire qui commute à l’action de G.
Définition 1.2.4. On note Irr(G) l’ensemble des classes d’équivalence (pour les opérateurs d’entrelacement bijectifs) de représentations lisses irréductibles de G.
Si (π, V ) est une représentation lisse de G, on peut, pour chaque sous-groupe compact ouvert K, considérer par restriction (π|K, V ) représentation de K, qui est alors semi-simple (par lissité et par compacité de K) : on dit que V est K-semi-simple.
Lemme 1.2.5. Soient V1, V2 et V3 trois représentations lisses de G. Alors la suite
0 V1 V2 V3 0
est exacte si, et seulement si, pour tout sous-groupe compact ouvert K de G, la suite 0 VK 1 VK 2 VK 3 0 est exacte.
Démonstration. C’est le Lemme 5.2.1 de [DeB].
Définition 1.2.6. Une représentation lisse (π, V ) de G est dite admissible si pour tout sous-groupe compact ouvert K, l’espace VK est de dimension finie.
On a la caractérisation équivalente suivante :
Proposition 1.2.7. Une représentation lisse (π, V ) est admissible si, et seule-ment si pour un sous-groupe compact ouvert K0, on a :
∀ρ ∈ Irr(K0), dim Vρ< +∞ où Vρ désigne la composante ρ-isotypique.
Cette propriété est alors vérifiée pour tout sous-groupe compact ouvert K. En particulier, le Lemme 1.2.5 nous dit que toute sous-représentation (resp. tout quotient) d’une représentation admissible est admissible.
Les groupes localement profinis que l’on étudie (F -points d’un groupe algé-brique affine défini sur F ) possèdent une propriété topologique supplémentaire qui s’avère déterminante : ils sont séparables, à savoir qu’ils admettent une base dénombrable d’ouverts. En particulier, l’élément identité possède une base dé-nombrable de voisinages (par des sous-groupes compacts ouverts si l’on veut). On a alors, pour tout sous-groupe compact ouvert K le fait que l’espace quo-tient G/K est dénombrable ([Ren10], section II.3.2). Cette propriété implique le lemme technique suivant et sa fameuse conséquence.
Lemme 1.2.8. Soit (π, V ) une représentation lisse irréductible de G. Alors dimCV est au plus dénombrable.
Proposition 1.2.9. Lemme de Schur
Soit (π, V ) une représentation lisse irréductible de G. Alors tout opérateur d’entrelacement de (π, V ) avec elle-même est une homothétie.
Démonstration. (de la Proposition, suivant [BH06] p. 21)
Soit φ ∈ (EndG(V )) \ {0}. Alors Ker (φ) et Im (φ) sont des sous-espaces G-invariants de V . L’irréductibilité impose Ker(φ) = {0} et Im(φ) = V , autrement dit, tous les éléments non nuls de EndG(V ) sont inversibles, i.e. EndG(V ) est uneC-algèbre à division.
Soit v0 ∈ V \ {0}, alors par irréductibilité de V , on a V = P
gC g · v0, ainsi un élément φ ∈ EndG(V ) est déterminé uniquement par la valeur φ(v0). L’espace EndG(V ) est donc de dimension dénombrable. Supposons maintenant qu’il existe un φ ∈ EndG(V ) qui ne soit pas une homothétie (i.e. φ /∈C), alors φ est transcendant sur C et engendre un corps C(φ) ⊂ EndG(V ). La famille {(φ − a)−1|a ∈C} est libre, si bien que la dimension de C(φ) est indénombrable, ce qui fournit une contradiction. Finalement EndG(V ) =C.
Donnons tout de suite une conséquence importante du lemme de Schur. Corollaire 1.2.10. Soit (π, V ) une représentation lisse irréductible de G. Alors le centre Z(G) de G agit sur V via un caractère ωπ: Z(G) →C×, dit caractère central.
Démonstration. Le lemme de Schur nous donne directement l’existence d’un morphisme ωπ : Z(G) → C× tel que z · v = ωπ(z)v pour z ∈ Z(G). Si K est un sous-groupe compact ouvert tel que VK 6= 0 alors ωπ est trivial sur le sous-groupe compact ouvert K ∩ Z(G) de Z(G), ainsi ωπ est bien continu.
Il est faux en général que le dual d’une représentation lisse est lisse, c’est pourquoi nous devons définir la notion de dual lisse.
Soit (π, V ) une représentation lisse de G, on a défini au paragraphe 1.1 sa duale (abstraite) (π∗, V∗) et on peut définir le « crochet de dualité » :
V∗× V −→C (v∗, v) 7−→ hv∗, vi
correspondant à l’évaluation de la forme linéaire v∗ en le vecteur v. La repré-sentation π∗ de G est donc donnée par :
hπ∗(g)v∗, vi = hv∗, π(g−1)vi
On prend alors le lissé de cette représentation, i.e. on pose : V∨=[
K
(V∗)K
où K parcourt les sous-groupes compacts ouverts de G. C’est un sous-espace G-stable de V∗, et en notant π∨ la restriction de π∗ à V∨, on obtient la repré-sentation lisse (π∨, V∨) dite contragrédiente ou dual lisse de la représentation de départ. Par ailleurs, on a (V∨)K' (VK)∗.
Proposition 1.2.11. Le foncteur contravariant V 7→ V∨ de la catégorie des représentations lisses dans elle-même est exact.
1. π est admissible si, et seulement si π∨ est admissible, et dans ce cas, l’application canonique V → (V∨)∨ est un isomorphisme de G-modules ; 2. π est irréductible si, et seulement si π∨ est irréductible.
Démonstration. On renvoie au Lemme 5.1.7 et au paragraphe 5.2. de [DeB]. Le dernier point est facile si l’on suppose que π est admissible, mais dans le cas général, il utilise de façon cruciale l’admissibilité des représentations super-cuspidales (et la classification à partir de celles-ci) que nous évoquons plus bas (Proposition 1.3.4).
1.2.1 Mesure de Haar et fonction modulaire
Les groupes localement profinis sont localement compacts, ils admettent donc une mesure de Haar à gauche (positive et non nulle par définition), unique à multiplication par un scalaire près ([Bou63], Chapitre VII §1). Ce résultat peut se démontrer dans le cas spécifique des groupes localement profinis avec une preuve plus simple que celle du cas général (voir [Ren10] II.3.6).
Pour un groupe localement profini G, on notera µG « la » mesure de Haar à gauche (il y a un choix de normalisation à faire) qui nous permet de définir la distribution
φ 7−→ Z
G
φ(g)dµG(g)
où φ est localement constante à support compact, si bien que l’intégrale est en réalité une somme finie.
L’invariance à gauche de la mesure de Haar nous dit que Z G φ(hg)dµG(g) = Z G φ(g)dµG(h−1g) = Z G φ(g)dµG(g).
Étant donné un élément g ∈ G, on peut définir la mesure (translatée à droite par g) r(g) · µG : X 7→ µG(Xg) où X est un borélien de G. Cette mesure n’a pas de raison a priori d’être égale à la mesure µG mais elle est invariante par translations à gauche et positive, donc c’est une mesure de Haar (à gauche) et donc un multiple scalaire de la mesure de départ. Il existe donc un réel strictement positif δG(g) tel que r(g) · µG= δG(g)µG.
On a donc défini la fonction modulaire δG: G →R∗
+dont on voit facilement qu’elle est en fait un morphisme de groupes continu. Si la fonction modulaire est constamment égale à 1 (par exemple si G est abélien, ou à l’opposé si G est égal à son groupe dérivé fermé), on parle de groupe unimodulaire. Dans ce cas, toute mesure de Haar à gauche est aussi une mesure de Haar à droite.
Proposition 1.2.12. — Un groupe compact est unimodulaire.
— Si un groupe est réunion de ses sous-groupes compacts, alors il est uni-modulaire.
— Le groupe des F -points d’un groupe algébrique défini et réductif sur F est unimodulaire.
Démonstration. On utilise la continuité de δG et le fait que le seul sous-groupe compact deR∗
+ est {1}.
Pour le troisième point, on renvoie à [Ren10] V.5.4.
Du point de vue des intégrales, si φ est localement constante à support compact, on a : Z G φ(gh)dµG(g) = Z G φ(g)dµG(gh−1) = δG(h)−1 Z G φ(g)dµG(g).