Le groupe orthogonal en dimension 3

Dans tout ce paragraphe, les droites (resp. les plans) seront toujours des droites (resp.

des plans) contenant l’origine, i.e. des droites (resp. des plans) vectorielles (resp. vec-toriels). L’ensemble des applications linéaires R³ → R³ qui sont des isométries forme un groupe (avec comme opération la composition) noté O(R³). Une appli-cation linéairef de R³ dans lui-même est dansO(R³) si et seulement si l’image (f(e1), f(e2), f(e3))de la base canonique(e1, e2, e3)deR³ est une base orthonor-male deR³. SiM_fest la matrice qui représentefdans la base(e₁, e₂, e₃), les vecteurs f(e1), f(e2), f(e3) développés dans la base (e1, e2, e3) forment par définition les colonnes de M_f. Les matrices M représentant les éléments de O(R³) sont donc caractérisées par la relation :

M^tM = ^tM M =I, (6)

Ireprésentant la matrice identité de rang trois. Cette relation implique quedetM=±1.

Définition 4.49.

1. Le groupe O(R³) s’appelle le groupe orthogonal (en dimension 3). Ce groupe s’identifie au groupe des matrices M de rang 3 vérifiant la relation (6). Nous noterons O3(R) ce groupe de matrices. Les matrices M ∈ O3(R) sont dites orthogonales.

2. On noteSO(R³)le sous-groupe de O(R³) formé des isométries qui conservent l’orientation, i.e. dont la matriceM est de déterminant+1. La notationSO3(R) désigne le sous-groupe des matricesM ∈ O3(R)de déterminant 1.

Remarque 4.50. Sif ∈ O(R³)et siM est la matrice représentant l’applica-tionf dans une base orthonormale quelconque (pas nécessairement la base ca-nonique),Mest aussi une matrice orthogonale (vérification immédiate : siM est la matrice qui représentef dans la base canonique, on aM =Q⁻¹M Q, avecQ, M etQ⁻¹orthogonales).

Donnons maintenant quelques exemples classiques d’éléments deO(R³).

Exemples 4.51.

1. Soitfla symétrie orthogonale par rapport à un planP. Alorsf ∈ O(R³)\SO(R³) (i.e.detM_f = −1) ; on dit que f est une réflexion. Dans une base orthonormale convenable (formée de deux vecteurs deP et d’un vecteur orthogonal), la matrice defs’écrit :

⎛

⎝ 1 0 0

0 1 0

0 0 −1

⎞

⎠ (7)

2. Soitf la symétrie orthogonale par rapport à une droiteD. Alorsf ∈SO(R³); on dit quef est un renversement. Dans une base orthonormale convenable, la matrice def s’écrit

3. SoientD une droite orientée (par un vecteur unitaireV1 porté parD), P le plan orthogonal àD. On peut choisir une base orthonormale(V₂, V₃)deP de façon à ce que la base(V₁, V₂, V₃)deR³soit orthonormale directe (i.e.det(V₁, V₂, V₃) = +1).

Soit θun angle (que l’on peut choisir par exemple tel que −π < θ π, cf. la proposition 4.42). On appelle rotation d’angleθet d’axeDl’application linéairef dont la matrice dans la base(V1, V2, V3)s’écrit :

Dans le cas oùθ=π, on retrouve les renversements.

Proposition 4.52. SoitMune matrice (3,3) orthogonale (i.e.telle queM ∈ O3(R)).

Alors :

1. M a toujours une valeur propre réelleλ₁ = ±1. Les valeurs propres (réelles ou complexes) deM sont de module 1.

2. Si M ∈ SO3(R), M a une valeur propreλ1 = 1. Si V1 est un vecteur propre unitaire pourλ₁, l’applicationf de matriceM (dans la base canonique) est une rotation d’axe la droite (orientée)Ddéfinie parV₁. La matrice def est donc de la forme (8) dans une base orthonormale convenable (ayant pour premier vecteur le vecteurV₁).

3. SiM ∈ O3(R)\SO3(R),M a une valeur propreλ₁ =−1. SiV₁est un vecteur propre unitaire pour la valeur propre λ1, l’applicationf définie par la matrice M est la composée d’une rotationf₁ d’axeD, droite orientée définie parV₁, et d’une réflexionspar rapport au planP orthogonal àD. Les applicationssetf₁ commutent, et la matrice defdans une base orthonormale convenable (de premier vecteurV₁) est de la forme :

1. Soit χ(X) ∈ R[X]le polynôme caractéristique deM. Le polynômeχ(X) étant de degré 3, il a une racine réelle λ1. Si λest une valeur propre réelle deM,V un vecteur propre associé, notons encoreV la matrice colonne deV développé dans la base canonique. On a alorsM V =λV d’où^tV ^tM =λ^tV et

V² =^tV.V =^tV ^tM M V =λ^{2 t}V .V =λ²V², d’oùλ² = 1puisqueV = 0.

©Dunod.Laphotocopienonautoriséeestundélit.

4.4 Quelques exemples liés à la géométrie 85

Si maintenantλ₂ ∈Cest une racine non réelle deχ(X),λ₂ est aussi racine (propo-sition 5.4), et on a|λ₁λ₂λ₂|=|det(M)|= 1(cf. la définition 5.35 ; rappelons que le terme constant deχ(X)est égal à−det(M)), d’où|λ₂|² = 1.

2. SupposonsM ∈SO3(R); on a alorsdetM = 1. Soientλ1, λ2 etλ3 les valeurs propres deM avecλ₁ =±1. On aλ₁λ₂λ₃ = detM = 1. Siλ₂ ∈R, on aλ₃ =λ₂ etλ2λ3=λ2λ2 =λ2²= 1, d’oùλ1 = 1.

Si λ₁, λ₂ et λ₃ sont réelles, elles ne peuvent être toutes égales à −1 puisque leur produit vaut 1. La matriceM a donc au moins une valeur propre égale à 1, que l’on noteλ1.

Soit maintenantV₁ un vecteur propre correspondant àλ₁; les points de la droiteD définie parV1sont invariants par l’application linéairef de matriceM; il suffit alors d’appliquer les résultats du paragraphe précédent dans le plan orthogonal àV1. 3. Si M ∈ O3(R)\ SO3(R), on a detM = −1 et le même raisonnement que pour 2. ci-dessus montre qu’il existe une valeur propreλ1 =−1. SiV1 est un vecteur propre correspondant àλ₁ etP le plan orthogonal àV₁, notonssla réflexion définie parP,Ssa matrice dans la base canonique. On voit alors immédiatement que l’on a SM =M S∈SO3(R), et on peut appliquer 2. à la matriceM S.

4.4.5. ^∗Générateurs et centre

Étudions maintenant quelques propriétés algébriques du groupeO(R³).

Proposition 4.53.

1. Le groupeO(R³)est engendré par les réflexions ; plus précisément, tout élément deO(R³)peut s’écrire comme le produit d’au plus trois réflexions ; tout élément deSO(R³)peut s’écrire comme le produit de deux réflexions.

2. Le groupeSO(R³)est engendré par les renversements. Tout élément deSO(R³) peut s’écrire comme le produit de deux renversements.

Démonstration.

1. Soit d’abordf ∈ SO(R³) une rotation d’axeD. Alors f est le produit de deux réflexions par des plans contenantD(on applique la proposition 4.44 dans le planP orthogonal àD).

Soit maintenantf ∈ O(R³)\SO(R³). Soitsune réflexion ; on af s∈SO(R³). Il existe donc deux réflexionss₁ets₂telles quef s=s₁s₂, d’oùf =s₁s₂s.

2. Soitf ∈SO(R³). On peut donc écrire par ce qui précèdef =s1s2oùs1ets2sont des réflexions. Mais l’opposé−sd’une réflexionsest un renversement, comme on le voit par exemple sur la forme matricielle (7). L’applicationf est donc bien le produit de deux renversements, car on af = (−s1)(−s2).

Proposition 4.54. Le centre deO(R³) est {Id,−Id}, Id désignant l’identité. Le centre deSO(R³)est réduit à{Id}.

Commençons par démontrer deux lemmes.

Lemme 4.55. Soit f ∈ GL(Rⁿ) (i.e. f est une aplication linéaire inversible) qui laisse stable toutes les droites vectorielles, alorsf est une homothétie.

Démonstration. Le cas n = 1 est évident. Si n 2, soient V1 etV2 deux vec-teurs indépendants de Rⁿ. On a par hypothèse f(V₁) = λ₁V₁, f(V₂) = λ₂V₂, f(V1+V2) =λ3(V1+V2)avecλi ∈R\ {0}.

On a donc la relation λ3(V1 +V2) = λ1V1 +λ2V2, ce qui implique tout de suite queλ₁ =λ₂ =λ₃ puisqueV₁etV₂ sont linéairement indépendants ; on voit donc en

faisant varierV2quef est bien une homothétie.

Lemme 4.56. Soit r_θ une rotation d’axe une droite (orientée) D et d’angleθ (on suppose−π < θπ). Alors :

• sig∈SO(R³),grθg⁻¹est la rotation d’axeg(D)et d’angleθ;

• sig∈ O(R³)\SO(R³),gr_θg⁻¹est la rotation d’axeg(D)et d’angle−θ.

Démonstration. D’après la proposition 4.53, l’élément g est produit de deux ré-flexions si g ∈ SO(R³) et de trois réflexions si g ∈ O(R³) \SO(R³). Il suffit donc de montrer le lemme dans le cas oùgest une réflexion.

Il est clair que la droite g(D) est fixe sous l’action de ˜r = gr_θg⁻¹. Comme

˜

r ∈ SO(R³) (parce que le déterminant de la matrice associée vaut +1), c’est donc une rotation d’axeg(D); pour caractériser son angle θ˜∈]−π, π], il suffit de déterminer l’angle entre un vecteurV₁ ∈ g(D)^⊥ (g(D)^⊥est le plan orthogonal à la droiteg(D)) et son imageV2= ˜r(V1)qui est aussi dans le plang(D)^⊥.

Rappelons comment on peut définir l’anglee^iθentre deux vecteursW₁etW₂unitaires et non colinéaires deR³. Un angle d’un plan euclidien orienté est caractérisé par son cosinus et son sinus. On choisit un vecteur unitaireW₃orthogonal au plan(W₁, W₂), ce qui oriente ce plan (en définissant une base directe de ce plan comme une base (f₁, f₂)telle que la base(w₃, f₁, f₂)soit une base directe deR³) et permet de parler de l’angleθ=W₁, W₂. On a alors :

cosθ = W₁.W₂

sinθ = det(W₁, W₂, W₃) (10) où W1.W2 est le produit scalaire et (W1, W2, W3) la matrice des Wi développés en colonnes sur la base canonique. En effet, dans la base orthonormale directe (f1, f2, f3) telle que f1 = W3, f2 = W1, la matrice (W3, W1, W2) s’écrit :

⎛

⎝1 0 0 0 1 cosθ 0 0 sinθ

⎞

⎠, matrice de déterminantsinθ. Or ce déterminant est égal à celui de la matrice(W1, W2, W3). Remarquons d’ailleurs que le déterminant de cette matrice est le « produit mixte » des vecteurs unitairesW₁, W₂, W₃. On voit donc que choisir

−W3 au lieu deW3 (ce qui change l’orientation du plan(W1, W2)) changesinθen

−sinθet doncθen−θsi on a supposé−π < θπ(siθ=πon pose aussi−θ=π puisqueθest défini modulo2π et que l’on a supposé que la mesure des angles était dans l’intervalle]−π, π]).

©Dunod.Laphotocopienonautoriséeestundélit.

4.4 Quelques exemples liés à la géométrie 87

Revenons à la preuve du lemme 4.56. SoitP_gle plan invariant par la réflexiong, et pre-nonsV1 ∈Pg∩g(D)^⊥,V2 =grθg⁻¹(V1) = ˜r(V1),V3 =g(W),W étant le vecteur unitaire qui oriente la droiteD. On a par hypothèsedet(V₁, r_θ(V₁), W) = sinθpar (10) et de mêmedet(V1,r(V˜ 1), V3) = sin ˜θ. CommeV1 est invariant par la réflexion gpar hypothèse, on aV₁ =g(V₁),r(V˜ ₁) = g◦r_θ(V₁)etV₃ =g(W)et donc siM_g désigne la matrice de l’endomorphismeg(dans la base canonique deR³), on a :

(V₁,r(V˜ ₁), V₃) =M_g×(V₁, r_θ(V₁), W)

d’oùsin ˜θ = −sinθ (cf. (10)) puisquedetMg = −1, et doncθ˜ = −θ (car on a

évidemmentcosθ= cos ˜θ).

Montrons maintenant la proposition 4.54. SoitZ le centre deO(R³). Il est clair que {Id,−Id} ⊂ Z. Réciproquement soient g ∈ Z, D une droite vectorielle, r_D le renversement défini par la droiteD. Comme g ∈ Z, on a gr_Dg⁻¹ = r_D, et aussi grDg⁻¹ =r_g(D)par le lemme 4.56. On a doncD=g(D)pour toute droiteD, et le lemme 4.55 montre quegest une homothétie ; commegest aussi une isométrie, on a bieng=±Id. Le cas du groupeSO(R³)est analogue et laissé au lecteur (noter que

−Id ∈SO(R³)!). Cela achève la preuve de la proposition 4.54.

Remarque 4.57. Réciproquement, il est immédiat de voir que deux rotations