Groupe orthogonal

8. Groupe orthogonal

On étudie ici quelques propriétés de base du groupe orthogonal. La situation est beau-coup plus compliquée que dans le cas symplectique, vu qu’il peut y avoir beaubeau-coup de formes quadratiques non équivalentes sur un même espace vectoriel.

8.1. La dimension 2. — Si dim(V)=2, à une constante multiplicative près (ce qui ne change pas le groupe orthogonal associé), toute forme quadratique s’écrit

f(x)=x²₁+αx²₂. Il y a deux cas, suivant que−αest un carré ou non dansK.

Cas où−αest un carré.La forme f admet alors des vecteurs isotropes non nuls et V est un plan hyperbolique pourf : il existe une base (e₁,e₂) de V dans laquelle

f(x₁,x₂)=2x₁x₂.

Les droites engendrées pare₁ete₂étant les seules directions isotropes, elles sont ou bien préservées, ou bien échangées par un élément du groupe orthogonal O(V,f). On en déduit que les éléments de O(V,f) sont de la forme R_λ:=

Les transformations S_λ de O(V,f) SO(V,f) sont toutes des réflexions (par rapport à la droite engendrée pare1+λe2). Le groupe SO(V,f) est abélien. Comme

S1R_λS⁻¹₁ =R_λ−1,

le groupe O(V,f) n’est pas abélien, sauf siK=F₃(dans ce cas, c’est {I₂,−I₂, S₁,−S₁}, iso-morphe à (Z/2Z)²).

Exemples 8.1. — 1° LorsqueKest quadratiquement clos, on est toujours dans ce cas.

2° LorsqueK=R, on est dans ce cas uniquement lorsque la signature est (1, 1). On a donc SO(1, 1)'R^×. Dans une base orthogonale, où la forme quadratique est donnée par x²₁−x₂², on vérifie que les isométries directes ont pour matrice



1−β² est celui qui intervient dans les formules de Lorentz en relativité (la vi-tesse de la lumière est ici égale à 1 ; voir exerc. 11.7).

3° LorsqueK=Fq, on est dans ce cas pour la forme〈1,−1〉. Avec les notations de la note 10 et de l’ex. 5.6.3°, on a SO⁺(2,Fq)'F^×_q, cyclique d’ordreq−1. On vérifie que O⁺(2,Fq) est isomorphe au groupe diédral Dq−1(cf.ex. I.1.4.4°).

Cas où−αn’est pas un carré.La forme f est alors anisotrope et on vérifie par un calcul

Exemples 8.2. — 1° LorsqueK=R, on est dans ce cas uniquement lorsque la signature est (2, 0) (forme définie positive) ou (0, 2) (forme définie négative) ; les deux cas donnent le même groupe spécial orthogonal SO(2,R), qui est donc isomorphe au groupe multiplicatif des nombres complexes de module 1 (cf.note 16). On retrouve la description usuelle du groupe des isométries du plan euclidien.

2° LorsqueK=F_q, avec les notations des notes 10 et 16 et de l’ex. 5.6.3°, le corpsF[p

−α] estF_q2, la conjugaison estx7→x^q (cf.9.1), donc N(x)=x^q+1et le groupe SO⁻(2,Fq) est isomorphe au groupe multiplicatif {x∈F^×

q²|x^q+1=1}, cyclique d’ordreq+1 (cf.(22)). De plus, comme S_1,0R_a,cS⁻¹_1,0=R_a,−c=R⁻¹_a,c, on voit que le groupe O⁻(2,F_q) est isomorphe au groupe diédral D_q+1(cf.ex. I.1.4.4°).

8.2. Centre et générateurs. — Rappelons que si D est une droite non isotrope, on dis-pose d’une symétrie orthogonale (réflexion)s_D(de déterminant−1) par rapport à D^⊥. De même, si P est un plan sur lequel la forme quadratique est non dégénérée, on a V=P⊕P^⊥

Démonstration. — Si dim(V)=2, la description explicite de O(V,f) vue au § 8.1 donne le résultat. On suppose donc dim(V)Ê3.

Siu∈O(V,f) commute aux éléments de SO(V,f), on ar_u(P)=ur_Pu⁻¹=r_P pour tout plan hyperbolique P, doncu(P)=P etupréserve les plans sur lesquels la formef est non dégénérée.

Montrons que toute droite D=Kxest intersection de deux plans P et Q de ce type.

16. Le groupe O(V,f) s’interprète en terme du corpsK[p−α]={a+cp−α|a,c∈K}. Six=a+cp−α, son

« conjugué » est ¯x=a−cp−αet le morphisme « norme » N :K[p−α]→Kdéfini par N(x)=xx¯vérifie N(x y)= N(x)N(y). Le groupe SO(V,f) est alors le groupe des éléments deK[p−α] de norme 1 et O(V,f) est engendré par SO(V,f) et la conjugaison. Dans le casK=R, ce corps estC, la conjugaison est la conjugaison complexe et le groupe des éléments de norme 1 est le groupe des complexes de module 1.

17. On a vu que dans ce cas, O(V,f) est abélien de cardinal 4.

8. GROUPE ORTHOGONAL 67

Si D est non isotrope, on a V=D⊕^⊥D^⊥, donc en prenant deux éléments distinctsyetz d’une base orthogonale de D^⊥(ce qui est possible puisque dim(V)Ê3), les plans P=D⊕^⊥Ky et Q=D⊕^⊥Kzconviennent. Si D est isotrope, on inclut D dans un plan hyperbolique P (sur lequelf est non dégénérée) et on complètexen une base (x,y) de P. Puisque V=P⊕^⊥P^⊥ et que dim(V)Ê3, on peut choisirz∈P^⊥non nul. Alors on peut prendre Q=D⊕K(y+z).

Il s’ensuite que siu∈O(V,f) commute à tous les éléments de SO(V,f), il préserve toutes les droites ; c’est donc une homothétie (cf.note 1). Cela termine la preuve.

Le quotient de SO(V,f) par son centre est legroupe projectif orthogonal PSO(V,f) :=SO(V,f)/Z(SO(V,f)).

C’est un sous-groupe de PSL(V) ; il opère donc fidèlement sur l’espace projectifP(V). On définit de la même façon le sous-groupe PO(V,f)≤PGL(V).

Exemples 8.4. — 1° Les groupes O(s,n−s), SO(s,n−s) et PSO(s,n−s) sont desvariétés différentiablesde dimensionn(n−1)/2. Leur nature topologique est différente : pournÊ2, parmi les groupes SO, seul SO(n) est compact, et seul SO(n) est connexe (cf.ex. 8.9.3° ; mais il n’est pas simplement connexe pournÊ2 (rem. 11.5)).

2° Les groupes O(n,C), SO(n,C) et PSO(n,C) sont desvariétés complexesde dimension n(n−1)/2.

Théorème 8.5. — Les réflexions engendrentO(V,f).

Démonstration. — On raisonne par récurrence sur la dimension. Soitu∈O(V,f) et soit x1∈V non isotrope ; on posex2:=u(x1). Puisquef(x1+x2)+f(x1−x2)=4f(x1)6=0, l’un au moins des élémentsx₁−x₂oux₁+x₂est non isotrope :

– six₁−x₂est non isotrope,s_x1−x2(x₁)=x₂, doncs_x1−x2u(x₁)=x₁;

– six₁+x₂est non isotrope,s_x2s_x1+x2(x₁)=s_x2(−x₂)=x₂, doncs_x1+x2s_x2u(x₁)=x₁. Dans les deux cas, on est ramené au cas oùufixe un vecteur non isotropex₁, et on ap-plique l’hypothèse de récurrence dansx₁^⊥.

Remarque 8.6. — Cette démonstration montre que toute isométrie est produit d’au plus 2nréflexions (n=dim(V)). Le théorème de Cartan-Dieudonné affirme qu’il suffit d’au plus nréflexions.

Théorème 8.7. — Sidim(V)Ê3, les renversements engendrentSO(V,f).

Démonstration. — Par le théorème précédent, tout élément de SO(V,f) est produit d’un nombre pair de réflexions. Il suffit donc de montrer qu’un produits_x1s_x2de deux réflexions est un produit de renversements.

Si dim(V)=3, on as_x1s_x2=(−s_x1)(−s_x2) et l’opposé d’une réflexion est un renversement (puisque la dimension de V est impaire), d’où le résultat.

Si dim(V)>3, on peut supposerx₁etx₂non colinéaires (et toujours non isotropes).

Considérons le plan P := 〈x₁,x₂〉. On a dim(P∩P^⊥)É1. Si P∩P^⊥={0}, on prendy∈P^⊥non isotrope etf est non dégénérée sur l’espace vectoriel W := 〈x₁,x₂,y〉. Si dim(P∩P^⊥)=1, on construit encore, comme dans le premier pas de la preuve du théorème de Witt (th.

5.1), un sous-espace W⊇P de dimension 3 sur lequel f est non dégénérée. Alorssx₁sx₂

agit par l’identité sur W^⊥. On est ainsi ramené au cas de la dimension 3 : sur W, l’isomé-triesx₁|Wsx₂|West le produit des renversements−sx₁|Wet−sx₂|W; on obtient alorssx₁sx₂

comme produit de leurs extensions sur V par l’identité sur W^⊥, qui sont encore des ren-versements.

Exercice 8.8. — Montrer que O(n,Q) est dense dans O(n,R) et que SO(n,Q) est dense dans SO(n,R).

8.3. Norme spinorielle et groupe dérivé. — La situation pour le groupe orthogonal est beaucoup plus compliquée que pour le groupe symplectique et nous ne donnerons pas toutes les démonstrations ni tous les détails. Une des raisons en est l’existence d’un mor-phisme

θ: O(V,f)→K^×/K^×2 appelénorme spinorielle,qui vérifie la propriété

θ(s_x)=f(x)∈K^×/K^×2, (21) pour toutx∈V non isotrope. Nous ne démontrerons pas l’existence de ce morphisme⁽¹⁸⁾. Notons cependant que commeK^×/K^×2est abélien, son noyau, noté O⁰(V,f), contient le groupe dérivé D(O(V,f)), et le noyau SO⁰(V,f) :=O⁰(V,f)∩SO(V,f) de sa restriction à SO(V,f) contient D(SO(V,f)).

Exemples 8.9. — 1° LorsqueKest quadratiquement clos,K^×/K^×2est trivial, donc aussiθ. 2° SiK=R, le groupeR^×/R^×2a deux éléments, à savoir les classes de 1 et de−1.

Si f est définie positive, θ prend ses valeurs dans R^×+/R^×2, donc θ est trivial et SO⁰(n,R)=SO(n,R).

Si f est définie négative, toute réflexion a pour image−1 dansR^×/R^×2, doncθest le morphisme déterminant et est trivial sur SO(n,R).

Pour avoir un morphismeθintéressant, il faut donc regarder les groupes O(s,t) avecs ettnon nuls (c’est-à-dire les cas où l’indice estÊ1). Dans le cas de O(1,m), la formef est donnée surR^m+1par

f(x₀, . . . ,x_m)=x₀²−x₁²− · · · −x_m².

Ce groupe agit sur la quadrique affine Q :={x∈R^m+1|f(x)=1}. Or celle-ci a deux com-posantes connexes Q⁺et Q⁻selon quex₀est positif ou négatif. On peut donc définir un morphisme de groupes

θ⁰: O(1,m)−→S_{Q+,Q⁻}'Z/2Z.

Sixn’est pas isotrope, on vérifie queθ⁰(s_x)=Id si et seulement sif(x)<0 (on voit bien ce qui se passe sur un dessin en dimension 2). Cela signifie que le morphismeθ⁰n’est autre que le produit d´et·θ, donc que⁽¹⁹⁾

SO⁰(1,m)={u∈SO(1,m)|u(Q⁺)=Q⁺}, d’indice 2 dans SO(1,m).

18. Comme les réflexions engendrent O(V,f), la relation (21) définit uniquementθ; cependant, il faut vé-rifier que cette définition a un sens, c’est-à-dire que siu∈O(V,f) se décompose enu=sx₁◦ · · · ◦sxr, alors f(x₁)· · ·f(xr)∈K^×/K^×2est indépendant de la décomposition deuchoisie.

19. Le groupe SO⁰(1,m) est le groupe de la géométrie hyperbolique, il agit sur Q⁺, qui est un modèle de l’espace hyperbolique de dimensionm.

8. GROUPE ORTHOGONAL 69

En relativité, on travaille dans l’espace de Minkowski, qui correspond au casm=3. Le groupe SO(1, 3) s’appelle legroupe de Lorentzet le groupe SO⁰(1, 3) des transformations qui préservent le sens du temps, legroupe de Lorentz restreint(cf.exerc. 11.7).

La situation est analogue sis,tÊ2, en un peu plus compliqué, car la quadrique Q dé-finie ci-dessus est maintenant connexe. Il faut regarder à la place les sous-espaces vecto-riels maximaux W⊆R^s+tsur lesquels la formef est définie positive, comme par exemple

〈e₁, . . . ,e_s〉. On voit facilement qu’ils sont tous de dimensionset on vérifie qu’ils forment une « famille connexe » (dans le cass=1, ce sont les droites engendrées par les points de Q, qui sont paramétrées par une de ses composantes connexes). On peut alors défi-nir de manière continue une orientationo_Wsur chacun de ces sous-espaces vectoriels W.

L’image de W par une isométrieuest encore un sous-espace du même type et on obtient SO⁰(s,t)={u∈SO(s,t)|u(o_W)=o_u(W)}.

3° Lorsque (V,f) est un plan hyperbolique, on noter_λla « rotation » de matrice R_λdans une base hyperbolique (e₁,e₂) de V (cf.§ 8.1). On a

r_λ=s_λe1−e2s_e1−e2,

donc θ(r_λ) = f(λe₁−e₂)f(e₁−e₂)=4λ≡ λ dans K^×/K^×2 et le morphisme θ|SO(V,f) : SO(V,f)→K^×/K^×2est surjectif.

Si l’indiceνdef estÊ1, c’est-à-dire qu’il existe un vecteur isotrope non nul, V contient un plan hyperbolique. L’exemple 3° ci-dessus montre que le morphisme

θ|SO(V,f): SO(V,f)→K^×/K^×2

est alors surjectif. En particulier, siνÊ1 et queKn’est pas quadratiquement clos (K^×26=

K^×), on a D(O(V,f))⊆SO⁰(V,f)ÚSO(V,f).

On a en fait un résultat plus précis⁽²⁰⁾.

Théorème 8.10(Eichler). — Soit f une forme quadratique non dégénérée sur un espace vectorielVde dimensionÊ3. Si l’indiceνde f estÊ1, on a

SO⁰(V,f)=D(O(V,f))=D(SO(V,f)) etSO(V,f)/D(SO(V,f))'K^×/K^×2.

Exemples 8.11. — 1° SiK=Ret quef est définie positive ou négative, on peut montrer qu’on a encore D(O(n,R))=D(SO(n,R))=SO(n,R).

Sist>0 ets+tÊ3 (de sorte quef est d’indiceÊ1), le théorème montre que D(SO(s,t)) est d’indice 2 dans SO(s,t).

3° LorsqueK=Fq, le groupeF^×_q/F^×_q²est isomorphe àZ/2Zet l’indice est toujoursÊ1 dès quenÊ3 (ex. 5.6.3°) ; le groupe D(SO(Fⁿ_q,f)) est alors d’indice 2 dans SO(Fⁿ_q,f).

4° SupposonsK=Q. Siν(f)Ê1 etnÊ3, le th. 8.10 donne SO(Qⁿ,f)/D(O(Qⁿ,f))' Q^×/Q^×2qui est un groupe infini (dans lequel tout élément est d’ordre 2).

20.Cf.Dieudonné, J.,La géométrie des groupes classiques,Springer Verlag, 1955, chap. II, § 6.5). Ce n’est plus vrai pour dim(V)=2, puisque SO(V,f) est alors abélien (§ 8.1), mais on a encore SO⁰(V,f)=D(O(V,f)).

Le cas où l’indice est nul est beaucoup moins bien connu. LorsqueK=Q, Meyer a mon-tré qu’une forme quadratiquef d’indice nul surQⁿ, avecnÊ5, est nécessairement définie négative ou définie positive vue comme forme quadratique surRⁿ. Dans ce cas, Kneser a montré que l’image deθ|SO(Qⁿ,f)estQ^×+/Q^×2et que son noyau SO⁰(Qⁿ,f) est encore D(SO(Qⁿ,f)). On n’est donc pas très loin du casνÊ1 : le groupe dérivé D(SO(Qⁿ,f)) est encore d’indice infini dans SO(Qⁿ,f).

La structure des groupes O(Q³,f) et O(Q⁴,f) est beaucoup moins bien connue dans ce cas.

8.4. Centre. — On peut montrer que pour dim(V)Ê3, le centre du groupe D(SO(V,f)) consiste en les homothéties de ce groupe, c’est-à-dire IdVet, éventuellement,−IdV.

On a d’autre part la formule

θ(−IdV)=disc(f).

En effet, dans une base (e₁, . . . ,e_n) de V oùf(x)=Pn

i=1αix_i², on écrit−Id_V=s_e1· · ·s_en, d’où θ(−Id_V)=f(e₁)· · ·f(e_n)=Qn

i=1αi=disc(f).

On en déduit que pour dim(V)Ê3 etνÊ1, le centre de D(SO(V,f))=SO⁰(V,f) est d’ordre 2 si disc(f)=1 et dim(V) pair, trivial sinon.

8.5. Simplicité. — Vu les résultats de la section précédente, le seul groupe qui a des chances d’être simple est le quotient P(D(SO(V,f))) du groupe dérivé D(SO(V,f)) par son centre.

Nous nous contenterons de passer en revue quelques résultats connus, en renvoyant au livre de Dieudonné, J.,La géométrie des groupes classiques,pour les preuves et des dis-cussions plus approfondies.

Casν(f)=0(forme anisotrope).— Il n’y a pas de résultat général, mais certains cas par-ticuliers sont complètement décrits.

LorsqueK=R(où D(SO(n,R))=SO(n,R)), on a – le groupe PSO(4,R) n’est pas simple⁽²¹⁾(th. 11.4) ; – le groupe PSO(n,R) est simple pourn=3 ounÊ5.

LorsqueK=Q, on a :

– le groupe O(Q³,f) admet une suite décroissante de sous-groupes distingués dont l’intersection est {Id} ;

– pournÊ5, le groupe P(D(SO(Qⁿ,f)))=PSO⁰(Qⁿ,f) est simple.

Casν(f)Ê1.— La situation est plus claire :lorsque nÊ3, le groupeP(D(SO(Kⁿ,f)))= PSO⁰(Kⁿ,f)est simple,avec deux exceptions⁽²²⁾.

21. Ce fait fondamental est à l’origine de propriétés spéciales importantes de la topologie et de la géométrie de dimension 4.

22. On a plus précisément :

– sin=3, le groupe D(SO(K³,f)) est isomorphe à PSL(2,K), donc il est simple pourK6=F₃(th. 2.14) ; – si n= 4 et disc(f)6=1 dans K^×/K^×2, le groupe D(SO(K⁴,f))= P(D(SO(K⁴,f))) est isomorphe à

PGL(2,K[p

disc(f)]) (cf.note 16) et il est donc simple (th. 2.14) ;

– sin=4 et disc(f)=1 dansK^×/K^×2, le groupe P(D(SO(K⁴,f))) est isomorphe à PSL(2,K)×PSL(2,K) et il est donc simple pourK6=F3(th. 2.14) ;

– le groupe P(D(SO(Kⁿ,f))) est simple pournÊ5.

Dans le document ALGÈBRE 1 (Page 65-71)