II. Groupes classiques
10. Groupe unitaire
On récupère, puisque car(K)6=2, la forme sesquilinéaire à partir dehpar la formule b(x,y)=1
4
¡h(x+y)−h(x−y)+1
I(h(x+Iy)−h(x−Iy))¢ .
On définit comme dans le cas symétrique le rang d’une forme sesquilinéaire hermi-tienne, la notion de forme sesquilinéaire hermitienne non dégénérée, d’isométrie, de vec-teurs orthogonaux, de sous-espace totalement isotrope, de plan hyperbolique.
La réduction de Gauss (cf.§ 4.2) décompose une forme hermitienne sous la forme h(x)=α1x¯1x1+ · · · +αrx¯rxr.
avecα1, . . . ,αr∈K×0.
Le théorème de Witt reste valable (avec des modifications dans la démonstration, en particulier dans celle du lemme 5.3) et on peut définir de la même façon l’indice d’une forme hermitienne.
10. Groupe unitaire
10.1. Définition. — On définit legroupe unitaireU(V,h) d’une forme hermitiennehnon dégénérée sur un espace vectoriel V comme le groupe des isométries de (V,h). Si M est la matrice (inversible) dans une base de V de la forme sesquilinéaire hermitiennebassociée, ce groupe est isomorphe au groupe
{U∈GL(V)|U∗MU=M}.
Legroupe spécial unitaireest défini comme d’habitude par SU(V,h) :=U(V,h)∩SL(V).
Exemple 10.1. — 1° SiK=Cetσest la conjugaison complexe, on peut trouverai∈Ctel que ¯aiai= ±αi. Ainsi, pour toute forme hermitiennehnon dégénérée surCn, il existe une base dans laquelle elle s’écrit
h(x)=x¯1x1+ · · · +x¯sxs−x¯s+1xs+1− · · · −x¯nxn.
L’indice est inf(s,n−s). Le groupe unitaire associé est noté Us,n−s(C). Il est isomorphe à
½
U∈GLn(C)¯
¯
¯U∗
µIs 0 0 −In−s
¶ U=
µIs 0 0 −In−s
¶¾ .
On note Un(C) lorsques=n. Les groupes Us,n−s(C) (resp. SUs,n−s(C)) sont desvariétés différentiablesde dimensionn2(resp.n2−1).
2° SiK=Fq2(avecqpuissance de nombre premier impair) etσ(λ)=λq, le morphisme F×q2−→F×q
λ7−→¯λλ=λq+1 est surjectif. En effet, un générateur du groupe cycliqueF×
q2est d’ordreq2−1=(q−1)(q+1) ; il est donc envoyé sur un élément d’ordreq−1, c’est-à-dire un générateur deF×q. Il en ré-sulte que tout élémentαideF×qpeut s’écrire ¯aiai, et donc, pour toute forme hermitienneh
non dégénérée surFn
q2, il existe une base dans laquelle elle s’écrit h(x)=x¯1x1+ · · · +x¯nxn=xq1+1+ · · · +xnq+1. Toutes les formes non dégénérées surFn
q2sont donc équivalentes et iI existe aussi une base dans laquelle la forme s’écrith(x)=x¯1x1−x¯2x2+· · ·+(−1)n+1x¯nxn. L’indice est doncbn/2c. En particulier, tout plan est hyperbolique.
Le groupe unitaire est noté Un(Fq2). Il est isomorphe au groupe {U∈GLn(Fq2)|tU(q)U=In},
où U(q) est la matrice obtenue à partir de U en élevant tous ses coefficients à la puis-sanceq. On a
|Un(Fq2)| =(qn−(−1)n)qn−1(qn−1−(−1)n−1)qn−2· · ·(q2−1)q(q+1).
Exercice 10.2. — Soit M∈GLn(Fq2) une matrice telle quetM=M(q). Montrer qu’il existe une matrice P∈GLn(Fq2) tel que M=tP(q)P.
10.2. La dimension 2. — Comme dans le cas orthogonal, le cas de la dimension 2 peut être décrit par calcul direct. Nous envisageons les deux types de formes qui peuvent inter-venir dans les casK=CouFq2.
En particulier, SU2(C) est un groupe non commutatif. Il est homéomorphe à la sphère unitéS3dans l’espace euclidienR4.
Démonstration. — La matrice U=
. On peut donc se placer dans une base où la forme hermitienne est don-née parh(x1,x2)=x¯1x2+x¯2x1.
Proposition 10.4. — Supposons dim(V) = 2 et V hyperbolique pour la forme hermi-tienne h. AlorsSU(V,h)'SL2(K0).
Exemple 10.5. — On a donc SU1,1(C)'SL2(R) et SU2(Fq2)'SL2(Fq).
10. GROUPE UNITAIRE 93
Démonstration. — Dans une base hyperbolique, la matrice de la forme hermitienneh est M= que l’application U7→U0est bien un morphisme de groupes(26).
10.3. Produit scalaire hermitien. — Dans cette section uniquement, on supposeK=C et on considère une forme hermitiennehdéfinie positive sur unC-espace vectoriel V de dimensionn, c’est-à-dire satisfaisanth(x)Ê0 pour toutx∈V, avec égalité si et seulement six=0. Une telle forme est en particulier non dégénérée ; on l’appelle unproduit scalaire hermitien. On a vu qu’il existe alors une base orthonormale, c’est-à-dire une base dans laquelle la formehs’écrit
h(x)= |x1|2+ · · · + |xn|2.
Dans ce cas, les éléments du groupe U(V,h) jouissent d’une réduction particulièrement simple, similaire à celle des endomorphismes orthogonaux pour un produit scalaire eu-clidien défini positif.
Un endomorphismeude V admet toujours un adjointu∗défini par b(x,u(y))=b(u∗(x),y)
pour tousx,y∈V. En particulier,u∈U(V,h) si et seulement siu∗=u−1.
Dans une base orthonormale, siua pour matrice U, alorsu∗a pour matrice U∗. Plus généralement, on dit qu’un endomorphismeude V estnormalsiu∗u=uu∗. Cette notion inclut les endomorphismes unitaires (u∗=u−1), autoadoints (u∗=u) et antiau-toadjoints (u∗= −u).
Proposition 10.6. — Tout endomorphisme normal pour un produit scalaire hermitien se diagonalise dans une base orthonormale.
Les valeurs propres sont de module 1 pour les endomorphismes unitaires, réelles pour les endomorphismes autoadjoints et imaginaires pures pour les endomorphismes antiau-toadjoints.
26. On peut décrire plus intrinsèquement le morphisme SL2(K0)→SU(V,h) comme suit. On considèreK comme unK0-espace vectoriel de dimension 2. L’espace vectoriel V :=EndK0Kdes endomorphismesK0 -linéaires deKest naturellement unK-espace vectoriel de dimension 2, puisque (Id,σ) en est une base. Si α=a+Ia0etβ=b+Ib0sont dansK, la matrice de l’endomorphismeαId+βσdeKdans la base (1, I) est µa+b (a0−b0)I2
a0+b0 a−b
¶
, dont le déterminant est ¯αα−ββ. C’est donc une forme hermitienne sur V, hyperbolique¯ puisque le vecteur (1, 1) est isotrope.
On dispose d’autre part d’une applicationK-linéaireφ: V=EndK0K→EndK(V) qui envoieu∈V sur l’en-domorphismeφude V donné parv7→u◦v. Comme d´et(φu(v))=d´et(u) d´et(v), on voit queφuest unitaire pour la forme hermitienne d´et si et seulement si d´et(u)=1. L’applicationφinduit donc un morphisme de groupes SL(K)→U(V, d´et). On vérifie ensuite que ce morphisme est à valeurs dans SU(V, d´et) (c’est-à-dire que d´et(φu)=1 si d´et(u)=1) et qu’il est surjectif.
Démonstration de la proposition. — Soitu un endomorphisme normal de V. Soitλune valeur propre (complexe) deuet soit Vλl’espace propre associé. Six∈Vλ, on a
u(u∗(x))=u∗(u(x))=u∗(λx)=λu∗(x), doncu∗(x)∈Vλ. Ainsiu∗(Vλ)⊆Vλ.
Siy ∈Vλ⊥etx∈Vλ, on obtientb(x,u(y))=b(u∗(x),y)=0, doncu(V⊥
λ)⊆Vλ⊥. Une ré-currence sur la dimension de V montre alors que V est somme directe orthogonale des espaces propres deu.
Si l’on dispose d’une seconde forme hermitienneh0, on peut lui associer, puisquehest non dégénérée, un endomorphismeude V qui vérifie
∀x,y∈V b0(x,y)=b(x,u(y)).
On a aussi
b(u(x),y)=b(y,u(x)=b0(y,x)=b0(x,y)=b(x,u(y)),
de sorte que u∗ = u. D’après la proposition, u se diagonalise dans une base h-orthonormale, ce qui signifie que dans cette base, la formeb0a une matrice diagonale
λ1
. .. λn
, avecλ1, . . . ,λn∈R.
La formeh0est définie positive si et seulement si lesλisont tous strictement positifs.
10.4. Propriétés des groupes unitaires. — On énonce sans démonstration quelques pro-priétés des groupes unitaires pour une forme hermitiennehsur unK-espace vectoriel de dimensionnÊ2.
Centre : Le centre de U(Kn,h) est constitué des homothéties de rapportλtel que ¯λλ= 1.
Le centre de SU(Kn,h) est constitué des homothéties de rapport satisfaisant en outreλn=1. PourK=C, c’est donc le groupe des racinesn-ièmes de l’unité. Pour K=Fq2, c’est le groupe des racines pgcd(q+1,n)-ièmes de l’unité.
On notera
PSU(Kn,h) :=SU(Kn,h)/Z(SU(Kn,h)).
Simplicité : Si la forme hermitiennehest d’indiceÊ1, le groupe PSU(Kn,h) est simple (c’est donc le cas pour les groupes PSUs,t(C) avecs,t>0, et PSUn(Fq2) pournÊ2), à l’exception du groupe PSU2(F9)'PSL2(F3) (prop. 10.4).
Si l’indice est nul, donc la forme anisotrope, il n’y a pas de résultat général. Néan-moins PSUn(C) est simple dès quenÊ2 : en fait, comme on le verra dans le § 11, PSU2(C)'SO3(R), qui est simple, et l’énoncé pourn>2 s’en déduit.
On peut définir les groupes unitaires aussi en caractéristique 2. On obtient ainsi une autre série de groupes finis simples, à savoir PSUn(Fq2) pourqpuissance de nombre pre-mier etnÊ3(27).
27. Ces groupes sont aussi notés2An−1(q2).