2 Cas de la dimension 2

(1)

de dimension 3

1 Groupe orthogonal d’un espace vectoriel euclidien

Dans ce paragraphe,E d´esigne un espace vectoriel euclidien de dimensionn∈N^∗. D´efinition 1.1

On appelle application orthogonale (ou isom´etrie vectorielle) de E toute application de E dans E qui conserve le produit scalaire :

∀x, y∈E,hu(x), u(y)i=hx, yi.

Notation 1.2

On noteO(E)l’ensemble des applications orthogonales deE.

Th´eor`eme 1.3

Soituune application deE dansE. Les assertions suivantes sont ´equivalentes : (i) uest orthogonale ;

(ii) uest lin´eaire et conserve la norme :∀x∈E,ku(x)k=kxk;

(iii) uest lin´eaire et transforme toute base orthonormale en une base orthonormale ; (iv) uest lin´eaire et transforme une base orthonormale en une base orthonormale.

Preuve. Soituune application de EdansE.

(i)⇒(ii) Supposonsuorthogonale. Alors pour tousx, y∈E,hu(x), u(y)i=hx, yi. En particulier, pour tout x∈E, on a hu(x), u(x)i=hx, xi, c’est-`a-dire ku(x)k² =kxk², ou encore ku(x)k=kxk.uconserve donc la norme.

Montrons maintenant queuest lin´eaire. Soientx, y∈E,λ∈R.

ku(x+λy)−u(x)−λu(y)k²=hu(x+λy)−u(x)−λu(y), u(x+λy)−u(x)−λu(y)i

=hu(x+λy), u(x+λy)i −2hu(x+λy), u(x)i −2λhu(x+λy), u(y)i+ 2λhu(x), u(y)i+hu(x), u(x)i +λ²hu(y), u(y)i u´etant orthogonale, on a :

hu(x+λy), u(x+λy)i=hx+λy, x+λyi=hx, xi+λhx, yi+λhy, xi+λ²hy, yi=kxk²+ 2λhx, yi+λ²kyk² hu(x+λy), u(x)i=hx+λy, xi=hx, xi+λhx, yi=kxk²+λhx, yi

hu(x+λy), u(y)i=hx+λy, yi=hx, yi+λhy, yi=hx, yi+λkyk²

(2)

hu(x), u(y)i=hx, yi hu(y), u(y)i=hy, yi=kyk² hu(x), u(x)i=hx, xi=kxk² On en d´eduit :

ku(x+λy)−u(x)−λu(y)k²=kxk²+ 2λhx, yi+λ²kyk²−2kxk²−2λhx, yi −2λhx, yi −2λ²kyk² + 2λhx, yi+kxk²+λ²kyk²= 0 Par suite,ku(x+λy)−u(x)−λu(y)k= 0 doncu(x+λy)−u(x)−λu(y) = 0 et doncuest lin´eaire.

(ii)⇒(i) Supposons que uest lin´eaire etuconserve la norme. On rappelle que :

∀x, y∈E,hx, yi= 1 2

kx+yk²− kxk²− kyk² . Soient x, y∈E.

hu(x), u(y)i= 1 2

ku(x) +u(y)k²− ku(x)k²− kyk²

= 1 2

ku(x+y)k²− ku(x)k²− kyk² . Commeuconserve la norme, on en d´eduit :

hu(x), u(y)i= 1 2

kx+yk²− kxk²− kyk²

=hx, yi. uest donc orthogonale.

(i)⇒(iii) On supposeuorthogonale. Soit (e1, . . . , en) une base orthonormale deE :

∀j, k∈J1 ;nK,hej, eki=δj,k. uconserve le produit scalaire donc on en d´eduit :

∀j, k∈J1 ;nK,hu(ej), u(ek)i=δj,k.

(u(e1), . . . , u(en)) est une famille orthonormale donc libre. C’est une famille libre ànéléments dans un espace de dimensionndonc c’est une base deE.

(iii)⇒(i) On suppose queuest lin´eaire et transforme toute base orthonormale deEen une base orthonormale deE. Soit (e1, . . . , en) une base orthonormale deE.

Soient x, y ∈ E. Il existe (x1, . . . , xn)∈ Rⁿ et (y1, . . . yn) ∈Rⁿ tels que x=

n

X

k=1

xkek et y =

n

X

k=1

ykek. En utilisant la lin´earit´e du produit scalaire, on a :

hx, yi=

* _n X

i=1

xiei,

n

X

j=1

yjej

+

=

n

X

i=1 n

X

j=1

xiyjhei, eji=

n

X

i=1 n

X

j=1

xiyjδi,j =

n

X

i=1

xiyi.

Par ailleurs, hu(x), u(y)i=

* u

n

X

i=1

x_ie_i

! , u





n

X

j=1

y_je_j



 +

=

* _n X

i=1

x_iu(e_i),

n

X

j=1

y_ju(e_j) +

=

n

X

i=1 n

X

j=1

x_iy_jhu(ei), u(e_j)i.

utransforme toute base orthonormale deE en une base orthonormale de E donc (u(e1), . . . , u(en)) est une base orthonormale de Eet donc

∀i, j∈J1 ;nK,hu(ei), u(ej)i=δi,j.

(3)

On a alors

hu(x), u(y)i=

n

X

i=1 n

X

j=1

xiyjδi,j=

n

X

i=1

xiyi=hx, yi. uconserve le produit scalaire doncuest orthogonale.

(iii)⇒(iv) Evident.

(iv)⇒(iii) On suppose queuest lin´eaire et transforme une base orthonormale (e₁, . . . , e_n) deE en une base orthonormale (u(e1), . . . , u(en)) deE.

Soit (e⁰₁, . . . , e⁰_n) une autre base orthonormale deE.

∀k∈J1 ;nK,∃(a1k, . . . , ank)∈Rⁿ, e⁰_k=

n

X

i=1

aikei.

Pour toutk∈J1 ;nK, on a

u(e⁰_k) =u

n

X

i=n

aikei

!

=

n

X

i=1

aiku(ei).

Soient j, k∈J1 ;nK.

u(e⁰_j), u(e⁰_k)

=

* _n X

i=1

a_iju(e_i),

n

X

l=1

a_lku(e_l) +

=

n

X

i=1 n

X

l=1

a_ija_lkhu(e_i), u(e_l)i. (u(e₁), . . . , u(e_n)) ´etant une base orthonormale deE, on a

∀i, l∈J1 ;nK,hu(ei), u(el)i=δi,l. On en d´eduit :

u(e⁰_j), u(e⁰_k)

=

n

X

i=1 n

X

l=1

aijalkδi,l=

n

X

i=n

aijaik. (e1, . . . , en) ´etant une base orthonorm´ee deE, on a

∀j, k∈J1 ;nK, e⁰_j, e⁰_k

=

n

X

i=1

aijaik.

(e⁰₁, . . . , e⁰_n) ´etant une base orthonorm´ee deE, on a

∀j, k∈J1 ;nK, e⁰_j, e⁰_k

=δj,k. On déduit des égalités précédentes

u(e⁰_j), u(e⁰_k)

=

n

X

i=n

a_ija_ik=

u(e⁰_j), u(e⁰_k)

=δ_j,k.

(u(e⁰₁), . . . , u(e⁰_n)) est donc une famille orthonormée donc libre, ànéléments dans un espace de dimension n.

C’est donc une base de E.

Corollaire 1.4

(i) Une application orthogonale est bijective ; (ii) Si u∈O(E), alors :∀x, y∈E,hu(x), yi=

x, u⁻¹(y) .

Preuve.

(i) Soituune application orthogonale deE. Soitx∈Ker(u). Alorsu(x) = 0 doncku(x)k= 0.

(4)

Or ku(x)k=kxk donckxk = 0 et doncx= 0. Par suite, Ker(u) ={0} et doncuest injective. E ´etant de dimension finie,uest bijective.

(ii) Soientu∈O(E),x, y∈E. On utilise le fait queuest bijective et conserve le produit scalaire : hu(x), yi=

u(x), u(u⁻¹(y))

=

x, u⁻¹(y) .

D´efinition 1.5

SoitA= (a_ij)∈ M_n(R). On dit queAest une matrice orthogonale si les vecteurs deAforment une base orthonorm´ee deE.

Proposition 1.6

(i) A∈ Mn(R)est une matrice orthogonale si et seulement siA est inversible etA⁻¹=^tA;

(ii) Si P est une matrice de passage d’une base orthonorm´ee deE vers une autre base orthonorm´ee de E, alorsP est une matrice orthogonale.

Preuve.

(i) Soit A= (aij)∈ Mn(R). On suppose queA est orthogonale. Notonsv1, . . . , vn les vecteurs colonnes de A. SoitB = (bij) =^tA. On a donc, pour tousi, j∈J1 ;nK, bij =aji. SoitC= (cij) =AB.

∀i, j∈J1 ;nK, c_ij=

n

X

k=1

a_ikb_kj=

n

X

k=1

a_ika_jk=hvi, v_ji=δ_i,j

doncC=A^tA=I_n. De mˆeme, on montre que^tAA=I_n.A est donc inversible etA⁻¹=^tA.

R´eciproquement, supposons que A est inversible et A⁻¹ = ^tA. On a alors A^tA = In et donc pour tous i, j ∈J1 ;nK,cij =δi,j. Orcij =hvi, vjidonc pour tousi, j∈J1 ;nK, hvi, vji=δi,j. Les vecteurs colonnes de Aforment donc une base orthonormale deE, ce qui prouve que Aest une matrice orthogonale.

(ii) SoitP une matrice de passage d’une base orthonormée deE vers une autre base orthonormée deE. Les vecteurs colonnes deP forment donc une base orthonormée deE.P est donc une matrice orthogonale.

Th´eor`eme 1.7

SoitF un sous-espace vectoriel deE.

(i) Si F est invariant par une application orthogonale u, alorsF^⊥ est invariant paru et u|F∈ O(F)et u|_F⊥∈O(F^⊥);

(ii) R´eciproquement, si v ∈ O(F) et w ∈ O(F^⊥), l’endomorphisme u tel que u|F= v et u|_F^⊥= w appartient `a O(E).

Preuve. SoitF un sous-espace vectoriel de E.

(i) On suppose F invariant par une application orthogonale u, c’est-`a-dire u(F) = F. Montrons qu’alors u(F^⊥) =F^⊥. Soitx∈F^⊥. Soity ∈F. u´etant orthogonale, on a hu(x), yi =

x, u⁻¹(y)

. u(F) =F donc u⁻¹(F) =F (on rapelle queuest bijective car orthogonale).x∈F^⊥etu⁻¹(y)∈F donc

x, u⁻¹(y)

= 0. par suite,hu(x), yi= 0 et doncu(F^⊥)⊂F^⊥.uest bijective donc dim(u(F^⊥)) = dim(F^⊥) et doncu(F^⊥) =F^⊥. (ii) Soient v∈O(F) et w∈O(F^⊥). Il existe un unique endomorphismeudeE tel queu|F=v et u|_F⊥=w (carE=F⊕F^⊥). En effet, six∈E, il existe un unique couple (x1;x2)∈F×F^⊥ tel quex=x1+x2. Alors on au(x) =u(x₁+x₂) =u(x₁) +u(x₂) =v(x₁) +w(x₂). Commev(x₁)∈F carv∈O(F) etw(x₂)∈F^⊥ car w∈O(F^⊥). En utilisant le th´eor`eme dePythagore deux fois, et sachant surv et wconservent la norme,

(5)

on a :

ku(x)k²=kv(x1)k²+kw(x2)k²=kx1k²+kx2k²=kx1+x2k²=kxk².

uconserve donc la norme. Par ailleurs,uest clairement lin´eaire donc u∈O(E).

Proposition 1.8

(O(E),◦)est un groupe.

Preuve.

O(E)6=∅carid_E∈O(E).

O(E)⊂L(E).

Soient u, v∈O(E).v est bijective (comme toute application orthogonale) etv⁻¹∈O(E) :

∀x∈E,

v⁻¹(x) =

v(v⁻¹(x)) =kxk. Alorsu◦v⁻¹conserve la norme :

∀x∈E,

u◦v⁻¹(x) =

v⁻¹(x)

=kxk.

u◦v⁻¹ est linéaire (composée d’applications linéaires) et conserve la norme doncu◦v⁻¹∈O(E). Par suite,

O(E) est un sous-groupe deL(E).

Th´eor`eme 1.9

L’applicationϕ: (O(E),◦)→({−1,+1},×)d´efinie parϕ(u) = det(u)est un morphisme de groupes.

Preuve. Soit u ∈ O(E). Soit B une base orthonormale de E. Soit A la matrice de u dans la base B. A est une matrice orthogonale donc A est inversible etA⁻¹ =^tA. On en d´eduit que det(A⁻¹) = det(^tA). Or det(A⁻¹) = 1

det(A) et det(^tA) = det(A) donc 1

det(A) = det(A), c’est-à-dire det(A)² = 1. Le déterminant d’une application linéaire ne dépend pas de la base choisie donc det(u)²= 1 et doncϕ(u)∈ {−1,+1}.

Soient u, v∈O(E). Alors u◦v∈O(E) et on a :

ϕ(u◦v) = det(u◦v) = det(u)×det(v) =ϕ(u)×ϕ(v).

ϕest donc un morphisme de groupes.

Remarque 1.10

ϕn’est pas bijective. En effet, notonsul’endomorphisme dont la matrice dans la base canonique deR² estA= 1 1

6 7

!

.u /∈O(E)bien quedet(u) = 1.

D´efinition 1.11

(i) Ker(ϕ)est appelé groupe spécial orthogonal de E (ou ensemble des applications orthogonales posi- tives), notéSO(E)ouO⁺(E);

(ii) On appelle ensemble des applications orthogonales négatives, noté O⁻(E) l’ensemble défini par O⁻(E) =O(E)\SO(E).

Proposition 1.12

O⁺(E)est un sous-groupe deO(E).

(6)

Preuve.

O⁺(E)6=∅ caridE∈O⁺(E) etO⁺(E)⊂O(E).

Soit u ∈ O⁺(E). u est orthogonale donc bijective. det(u⁻¹) = 1

det(u) = 1

1 = 1 car u ∈ O⁺(E) donc u⁻¹∈O⁺(E).

Soitv ∈O⁺(E). det(v◦u⁻¹) = det(v)×det(u⁻¹) = 1×1 = 1 doncv◦u⁻¹ ∈O⁺(E). O⁺(E) est donc un

sous-groupe deO(E).

Th´eor`eme 1.13

SoientF et Gdeux sous-espaces vectoriels supplémentaires deE. La symétrie par rapport àF parallèle- ment à Gest une application orthogonale si et seulement siG=F^⊥.

Preuve. SoientF et Gdeux sous-espaces vectoriels supplémentaires de E. Soit sla symétrie par rapport à F parallèlement à G. On rappelle ques:E=F⊕G→E est définie parx=x1+x27→x1−x2.

Soitx∈E. Il existe un unique couple (x₁;x₂)∈F×Gtel que x=x₁+x₂. On a ks(x)k²=kx1−x2k²=kx1k²+kx2k²−2hx1, x2i et

kxk²=kx₁+x₂k²=kx₁k²+kx₂k²+ 2hx₁, x₂i. On en d´eduit

ks(x)k=kxk ⇐⇒ ks(x)k²=kxk² ⇐⇒ hx1, x2i= 0.

s est orthogonale si et seulement si pour toutx∈E, ks(x)k=kxk, c’est-`a-dire si et seulement si pour tout (x₁;x₂)∈F×G, on ahx1, x₂i= 0 (ce qui signifie G=F^⊥).

D´efinition 1.14

On appelle retournement une symétrie orthogonale par rapport à un sous-espace vectoriel de dimension n−2. Sin= 3, un retournement est aussi appelé demi-tour.

Th´eor`eme 1.15

Soientx, y∈Ede même norme,x6=y. Il existe une unique réflexion échangeantxety. C’est la symétrie orthogonale par rapport àH = (R(x−y))^⊥.

Preuve. Soientx, y∈E,x6=y, tels quekxk=kyk. SoitH = (R(x−y))^⊥. Soitsla symétrie orthogonale par rapport àH. Alorss:H⊕H^⊥→Eest définie parx=x₁+x₂7→x₁−x₂.hx+y, x−yi=kxk²− kyk²= 0.

Commex−y∈R(x−y), on en d´eduitx+y∈H. On a alors

s(x) +s(y) =s(x+y) =x+y ets(x)−s(y) =s(x−y) =−x+y.

En additionnant ces deux ´egalit´es, on obtient 2s(x) = 2y doncs(x) =y.

sétant involutive, on a x=s◦s(x) =s(y).séchange doncxety. D’où l’existence.

Soitsune réflexion par rapport à un hyperplanH, échangeantxety. On a alors s(x−y) =s(x)−s(y) =y−x=−(x−y)

donc x−y ∈ H^⊥. H ´etant de dimension n−1, H^⊥ est dimension 1 et donc H^⊥ =R(x−y). Par suite,

H = (R(x−y))^⊥. D’o`u l’unicit´e.

(7)

2 Cas de la dimension 2

Dans tout ce paragraphe,n= 2.

Th´eor`eme 2.1

(i) Les matrices orthogonales sont de la formeRθ= cosθ −sinθ sinθ cosθ

!

ouSθ= cosθ sinθ sinθ −cosθ

!

;

(ii) ∀θ∈R, Rθ∈O⁺(E), Sθ∈O⁻(E);

(iii) ∀θ, θ⁰∈R, R_θθ⁰ =R_θR_θ⁰ et SO(E)est commutatif.

Preuve.

(i) Soit A une matrice de M₂(R). Notons A = a c b d

!

. Les vecteurs colonnes de A forment une base orthonormale deR² donca²+b²= 1,c²+d²= 1 etac+bd= 0.

a²+b²= 1 donc il existe un r´eelθ tel quea= cosθ etb= sinθ.

ac+bd= 0 donc (cosθ)c+ (sinθ)d= 0. Il existe alorsε∈Rtel quec=−εsinθetd=εcosθ.

c²+d² = 1 donc (−εsinθ)²+ (εcosθ)² = 1. Sachant que (sinθ)²+ (cosθ)² = 1, on en d´eduit ε²= 1, puis ε=±1.

On a alorsA= cosθ −εsinθ sinθ εcosθ

!

, avecε=±1.

R´eciproquement, on v´erifie sans peine qu’une matrice de la forme ci-dessus est orthogonale.

Si ε= +1,Aest de la formeR_θ. Si ε=−1,Aest de la formeSθ. (ii) Soientθ, θ⁰∈R.

det(R_θ) = (cosθ)²+ (sinθ)²= 1 doncR_θ∈O⁺(E).

det(Sθ) =−(cosθ)²−(sinθ)²=−1 doncSθ∈O⁻(E).

(iii) Soientθ, θ⁰∈R. RθRθ⁰ = cosθ −sinθ

sinθ cosθ

! cosθ⁰ −sinθ⁰ sinθ⁰ cosθ⁰

!

= cosθcosθ⁰−sinθsinθ⁰ −cosθsinθ⁰−sinθcosθ⁰ sinθcosθ⁰+ cosθsinθ⁰ −sinθsinθ⁰+ cosθcosθ⁰

!

Utilisant les relations trigonom´etriques, on obtient alors

RθRθ⁰ = cos(θ+θ⁰) −sin(θ+θ⁰) sin(θ+θ⁰) cos(θ+θ⁰)

!

=Rθ+θ⁰.

Soient A, B∈ M₂(R). Il existeθ∈Rtel queA=R_θet il existeθ⁰ ∈Rtel queB=R_θ⁰. AB=R_θR_θ⁰ =R_θ+θ⁰ =R_θ⁰_+θ=R_θ⁰R_θ=BA.

O⁺(E) est donc commutatif.

D´efinition 2.2

Les éléments de O⁺(E)sont appelées rotations vectorielles.

(8)

Proposition 2.3

Soit u ∈ O(E). On note Inv(u) l’ensemble des ´el´ements de E invariants par u. On a la classification suivante :

dim(Inv(u)) Nature deu

2 id_E

1 R´eflexion

0 Rotation distincte deid_E Preuve.

Soit u∈ O(E). SoitB une base orthonormale deE. Notons A la matrice deu dans la base B. A est une matrice orthogonale donc il existeθ∈Retε∈ {−1,+1}tel que A= cosθ −εsinθ

sinθ εcosθ

! .

(x, y)∈Inv(u) ⇐⇒ cosθ −εsinθ sinθ εcosθ

! x y

!

= x

y

!

⇐⇒







(cosθ−1)x−(εsinθ)y= 0 (sinθ)x+ (εcosθ−1)y= 0 Le d´eterminant de ce syst`eme est

∆ =

cosθ−1 −εsinθ sinθ εcosθ−1

=ε(cosθ)²−cosθ−εcosθ+1+ε(sinθ)²=ε+1−cosθ−εcosθ= (ε+1)(1−cosθ).

Si ε= 1 et cosθ6= 1, alors ∆6= 0. Aucun vecteur n’est invariant `a part 0 donc dim(Inv(u)) = 0.

det(u) = cos²θ+ sin²θ= 1 doncu∈O⁺(E).uest donc une rotation vectorielle distincte de l’identit´e.

Si ε= 1 et cosθ = 1, alors sinθ = 0 et A= I2 (matrice identit´e de R²). Dans ce cas, dim(Inv(u)) = 2 et u=id_E.

Si ε=−1, alors ∆ = 0. Le syst`eme s’´ecrit alors







−2 sin²θ

2x+ 2 sinθ 2cosθ

2y= 0 2 sinθ

2cosθ

2x−2 cos²θ 2y= 0 Ce syst`eme admet une infinit´e de solutions et x

y

!

∈Vect

( cos^θ₂ sin^θ₂

!)

. On a donc dim(Inv(u)) = 1. Notons D= Vect

( cos^θ₂ sin^θ₂

!)

. On a alors D^⊥ = Vect

( −sin^θ₂ cos^θ₂

!) .

u

−sinθ 2,cosθ

2

= cosθ sinθ sinθ −cosθ

! −sin^θ₂ cos^θ₂

!

= sinθcos^θ₂−cosθsin^θ₂

−sinθsin^θ₂−cosθcos^θ₂

!

= sin^θ₂

−cos^θ₂

!

=− −sin^θ₂ cos^θ₂

!

uest donc la sym´etrie orthogonale par rapport `aD.

Th´eor`eme 2.4

La composée de deux réflexions est une rotation. Réciproquement, toute rotation peut s’écrire comme la composée de deux réflexions, l’une étant arbitrairement choisie.

Preuve. Soientset s⁰ deux r´eflexions.s◦s⁰ ∈O(E) carO(E) est un groupe.

det(s◦s⁰) = det(s)×det(s⁰) = (−1)×(−1) = 1 donc s◦s⁰∈O⁺(E).

R´eciproquement, soientrune rotation etsune r´eflexion. s◦r∈O(E) carO(E) est un groupe.

det(s◦r) = det(s)×det(r) =−1×1 =−1 doncs◦r∈O⁻(E). Soits⁰ =s◦r.s⁰ est une r´eflexion.

(9)

s◦s⁰ = s◦s◦r (on rappelle que s est involutive).r est donc la composée de deux réflexions, s ayant été

choisie arbitrairement.

Th´eor`eme 2.5

Si x et y sont deux vecteurs non nuls de E de mˆeme norme, alors il existe une unique rotation et une unique r´eflexion transformantxeny.

Preuve.

Soientxet ysont deux vecteurs non nuls deE de même norme. Quitte à faire la démonstration avec x kxk et y

kyk, on peut supposerkxk=kyk= 1. Soite2∈E tel que (x, e2) soit une base orthonormale deE. Il existe y1, y2∈Rtels quey=y1x+y2e2. On a 1 =kyk²=y₁²+y²₂. Il existe un uniqueθ∈[0 ; 2π[ tel quey1= cosθ et y2= sinθ. Par suite,y= (cosθ)x+ (sinθ)e2.

Supposons qu’il existeu∈O⁺(E) tel queu(x) =y. SoitAla matrice deudans la base (x, e₂). La premi`ere colonne de la matriceA est impos´ee caru(x) =y = (cosθ)x+ (sinθ)e₂ doncA= cosθ ∗

sinθ ∗

!

. A∈O⁺(E) donc la 2`eme colonne est impos´ee et on aA= cosθ −sinθ

sinθ cosθ

!

. D’o`u l’unicit´e.

De même, s’il existeu∈O⁻(E) tel queu(x) =y, alors As’écrit de manière unique A= cosθ sinθ sinθ −cosθ

! , la première colonne étant imposée par u(x) = y et la deuxième colonne étant imposée par la condition u∈O⁻(E). D’où l’unicité.

On v´erifie sans peine que les endomorphismes ci-dessus conviennent, d’o`u l’existence.

3 Cas de la dimension 3

Dans tout ce paragraphe,n= 3. Soitu∈O(E). On note toujours Inv(u) le sous-espace des vecteurs invariants, c’est-`a-dire Inv(u) = Ker(u−id_E)

Si dim(Inv(u)) = 3, alors tout vecteur est invariant et doncu=idE.

Supposons maintenant dim(Inv(u)) = 2. SoientP = Inv(u) et D=P^⊥.P est invariant parudoncD=P^⊥ est aussi invariant par u et u|D∈ O(D). D étant de dimension 1, on a u|D= ±idD. Or u|D6= id_D sinon u=idE et on aurait dim(Inv(u)) = 3, ce qui est exclu. Par conséquent, u|D=−idD.uest alors la réflexion par rapport à P. Réciproquement, toute réflexion par rapport à un plan P a un sous-espace de vecteurs invariants de dimension 2.

Supposons maintenant dim(Inv(u)) = 1. Soit D = Inv(u) etP =D^⊥. D est invariant parudonc P =D^⊥ est aussi invariant paruet u|P∈O(P). Soit ∆ l’ensemble des vecteurs invariants paru|P. dim(∆) = 0 sinon on auraitD⊕∆⊂Inv(u) et dim(Inv(u))>dim(D⊕∆) = dim(D) + dim(∆)>1, ce qui est exclu. D’apr`es la classification en dimension 2,u|P∈O⁺(P) etu|P6=idP.u|P est donc une rotation autre que l’identit´e.

D´efinition 3.1

Une rotation deE est un endomorphisme deE tel qu’il existe une droiteD v´erifiant : (i) u|D=idD;

(ii) u|_D⊥ est une rotation du planD^⊥.

Siu6=id_E, la droiteD est unique et est appel´ee axe de la rotation.

Soit uune rotation deE.On note D la droite v´erifiant les conditions ci-dessus. Soit e1 un vecteur unitaire

(10)

tel queD =Re1. SoitP =D^⊥. Soit (e2, e3) une base orthonormale deP telle que (e1, e2, e3) soit une base directe deE. La matrice deudans la base (e1, e2, e3) est donn´ee par

A=







1 0 0

0 cosθ −sinθ 0 sinθ cosθ





 .

Supposons maintenant dim(Inv(u)) = 0. Soit xun vecteur non nul de E. Soit x⁰ =u(x). x et x⁰ sont de même norme donc il existe une unique réflexion séchangeantxetx⁰.s(x⁰) =x, c’est-à-dires◦u(x) =x⁰. s est la réflexion par rapport à H = (R(x−x⁰))^⊥. Etudionss◦u.

Si dim(Inv(s◦u)) = 3, alors s◦ u = idE et donc u = s (car s est involutive). Dans ce cas, on aurait dim(Inv(u)) = 2, ce qui est exclu.

Si dim(Inv(s◦u)) = 2, alorss◦uest une réflexions⁰par rapport à un planP.u=s◦s⁰et alorsP∩H⊂Inv(u) et dim(P∩H)>1 (P etH étant deux sous-espaces vectoriels de dimension 2 dans un espace de dimension 3), ce qui contredit dim(Inv(u)) = 0.

Si dim(Inv(s◦u)) = 1, alors s◦uest une rotation rd’axe D non inclus dansH (sinon tout vecteur deD serait invariant parr, et par s◦r=u, ce qui contredit dim(Inv(u)) = 0). On a alorsu=s◦r.

Théorème 3.2 (forme réduite)

Toute application orthogonale u distincte de −idE et telle que Inv(u) = {0} s’écrit de fa¸con unique u = s◦ r = r◦ s, où r est une rotation d’axe D et s la réflexion par rapport au plan P = D^⊥. Réciproquement, sir6=id_E, l’applicationu=r◦s=s◦rdéfinie précédemment vérifieInv(u) ={0}.

Preuve.

Soituune application orthogonale distincte de−idE et telle que Inv(u) ={0}. SoitPule polynôme caracté- ristique deu.P_uest de degré 3 donc admet au moins une racine réelleλ, qui est donc valeur propre deu. Soit xun vecteur propre associé à la valeur propreλ. x6= 0 etu(x) = λx. On a alorsku(x)k=kλxk=|λ| kxk.

Par ailleurs, on a ku(x)k =kxk car u est orthogonale, donc |λ| · kxk =kxk. x6= 0 donckxk 6= 0 et donc

|λ|= 1, c’est-`a-direλ∈ {−1,1}. λ6= 1 sinon on aurait dim(Inv(u))>1, ce qui est exclu. On en d´eduit alors λ=−1.

SoitD =Rx. SoitP =D^⊥. D est invariant par udonc il en est de même pour P et u|P∈O(P).u|P n’est pas une réflexion car cela contredirait dim(Inv(u)) = 0 donc u|_P est une rotation. Il existe donc une base orthonormale (e1, e2, e3) deE, avece1∈Rx=D,e2, e3∈P et un réelθ tels que la matrice deudans cette base est

A=







−1 0 0





 .

Soient B etC les matrices d´efinies de la mani`ere suivante :

B =







1 0 0







etC=







−1 0 0

0 1 0

0 0 1





 .

On a B×C =C×B =A. Soit r l’application orthogonale dont la matrice dans la base (e1, e2, e3) estB. D’après ce qui précède,r est une rotation d’axeD. Soit sl’application orthogonale dont a matrice dans la base (e₁, e₂, e₃) estC.sest la réflexion par rapport à D^⊥ =P. On a ainsi montré queu=r◦s=s◦r. D’où l’existence.

(11)

Il reste `a montrer l’unicit´e :

Supposons que u=r◦s =s◦r, où rest une rotation d’axe D et s la réflexion par rapport à P =D^⊥. Il existe une base orthonormale (e₁, e₂, e₃) de E et un réel θ tels que la matrice der dans la base (e₁, e₂, e₃) soit :







1 0 0





 .

Re₁=Det D^⊥= Vect(e₂, e₃). Alors la matrice desdans la base (e₁, e₂, e₃) est :







−1 0 0

0 1 0

0 0 1





 .

Dans ce cas la matrice deudans la base (e₁, e₂, e₃) est :

A=







1 0 0













−1 0 0

0 1 0

0 0 1







=







−1 0 0





 .

La matrice deu² dans la base (e1, e2, e3) est







−1 0 0













−1 0 0







=







1 0 0

0 cos(2θ) −sin(2θ) 0 sin(2θ) cos(2θ)





 .

u² est donc une rotation vectorielle.

θ6=π (mod 2π) sinon on auraitu=−id_E, ce qui est exclu.

θ6= 0 (mod 2π) sinon on aurait dim(Inv(u)) = 2, ce qui est exclu.

On a donc θ 6= 0 (modπ), c’est-à-dire 2θ 6= 0 (mod 2π). u² est donc une rotation vectorielle distincte de l’identité donc Dest déterminé de manière unique et doncP =D^⊥ aussi.

R´eciproquement, sir6=id_E, alors il existeθ∈R\2πZtel que la matrice deudans la base (e₁, e₂, e₃) soit :







−1 0 0





 .

Soitx= (x₁, x₂, x₃)∈Inv(u). Alors











−x1=x1

(cosθ)x2−(sinθ)x3=x3

(sinθ)x2+ (cosθ)x3=x3

⇐⇒











x1= 0 (cosθ−1)x2−(sinθ)x3= 0 (sinθ)x2+ (cosθ−1)x3= 0

cosθ−1 −sinθ sinθ cosθ−1

= cos²θ−2 cosθ+ sin²θ= 2(1−cosθ)6= 0 carθ6= 0 (mod 2π) donc le syst`eme







(cosθ−1)x2−(sinθ)x3= 0 (sinθ)x2+ (cosθ−1)x3= 0

(12)

admet (0; 0) comme unique solution (syst`eme deCramer).

Finalement, x1=x2=x3 et donc Inv(u) ={0}.

Proposition 3.3

Soit u ∈ O(E). On note Inv(u) l’ensemble des ´el´ements de E invariants par u. On a la classification suivante :

dim(Inv(u)) Nature deu

3 idE

2 réflexion (symétrie orthogonale par rapport à un planP) 1 rotation d’axeD, distincte de l’identité

0 r◦s=s◦r, oùrest une rotation d’axe Det sla réflexion par rapport à D^⊥

Th´eor`eme 3.4

La composée de deux réflexions sP ◦sQ (par rapport aux plans P et Q) est une rotation d’axe P ∩Q siP 6=Qet l’identité sinon. Réciproquement, toute rotationr_D d’axe D et distincte de l’identité s’écrit comme produit de deux réflexionssP et sQ par rapports à des plans P et Q contenantD et dont l’une peut être choisie arbitrairement.

Preuve.

Soient sP etsQ deux r´eflexions par rapport aux plans P etQ. SiP =Q, alors sP◦sQ=sP ◦sP =idE car s_P est involutive. On suppose maintenantP 6=Q. SoitD =P ∩Q. dim(E) = 3 et dim(P) = dim(Q) = 2 doncD 6={0} (sinonE serait de dimension 4 au moins). dim(D)6= 2 sinonP =Q. D est donc une droite vectorielle etD^⊥ est un plan vectoriel.

Réciproquement, soit rD une rotation vectorielle d’axe D. Alors r|D= idD et r|_D⊥ est une rotation plane de D^⊥. Soient P un plan vectoriel contenant D et s_P la réflexion de E par rapport à P. Alors s_P|_D⊥ est une réflexion plane deD^⊥. D’après ce qui a été vu en dimension 2, il existe une unique réflexion planes_D0

r|_D^⊥= (s_P◦s_Q)|_D^⊥ doncr=s_P◦s_Q.

4 Reconnaˆıtre des endomorphismes orthogonaux

4.1 D´ eterminer l’angle d’une rotation

Soituune rotation dans un espace euclidien E de dimension 3. On sait que la matrice de udans une base orthonormale (e1, e2, e3) deE telle que Inv(u) = Vect(e1) est







1 0 0





 .

La trace deune d´epend pas de la base choisie donc tr(u) = 1 + 2 cosθ, ce qui permet d’obtenir cosθ.

(13)

Soitx= (x1;x2;x3)∈E, les coordonnées dexétant exprimées dans la base (e1, e2, e3).

u(x) =







1 0 0











 x1

x₂ x3







=







x1

(cosθ)x₂−(sinθ)x₃ (sinθ)x2+ (cosθ)x3





 .

det(x, u(x), e1) =

x₁ x₁ 1

x2 (cosθ)x2−(sinθ)x3 0 x3 (sinθ)x2+ (cosθ)x3 0

= (sinθ)x²₂+ (sinθ)x²₃= (sinθ)(x²₂+x²₃)

donc det(x, u(x), e₁) est du signe de sinθ, ce qui permet de d´eterminerθ.

4.2 Exemple 1

Reconnaˆıtre l’endomorphismeudeR³ dont la matrice dans la base canonique est

A=1 3







−2 −1 2

2 −2 1

1 2 2





 .

Les vecteurs colonnes de Aforment une famille orthonormale de R³ donc u∈O(R³). pour calculer det(A), nous allons effectuer les opérations élémentaires L₁←L₁+L₂ etL₂←L₂−2L₃ :

det(A) = 1 27

−2 −1 2

2 −2 1

1 2 2

= 1 27

0 3 6

0 −6 −3

1 2 2

= 1 27

3 6

−6 −3

= 1

doncu∈O⁺(R³).uest donc une rotation. L’axe de la rotation estD= Inv(u).

(x, y, z)∈Inv(u) ⇐⇒











−2 3x−1

3y+2 3z=x 2

3x−2 3y+1

3z=y 1

3x+2 3y+2

3z=z

⇐⇒











−5x−y+ 2z= 0 2x−5y+z= 0 x+ 2y−z= 0

Pour résoudre ce système, nous allons effectuer les opérations élémentairesL₁←L₁+ 5L₃etL₂←L₂−2L₃. On obtient :











9y−3z= 0

−9y+ 3z= 0 x+ 2y−z= 0

⇐⇒





 z= 3y x=y doncD= Vect(e⁰₁), avece⁰₁= 1

√11(e1+e2+ 3e3), vecteur unitaire deR³. tr(u) = tr(A) =−2

3−2 3+2

3 =−2

3. Par ailleurs, tr(u) = 1 + 2 cosθdonc 1 + 2 cosθ=−2

3 et donc cosθ=−5 6. Nous allons d´eterminer le signe de sinθen calculant :

det(e₁, u(e₁), e⁰₁) =

1 −²₃ ^√¹

11

0 ²₃ ^√¹

11

0 ¹₃ ^√³

11

= 5

3√ 11 >0

donc sinθ >0 et doncθ= arccos

−5 6

(mod 2π).

u est donc la rotation d’axe D = Vect(e⁰₁), avec e⁰₁ = 1

√

11(e1+e2+ 3e3), et d’angle θ = arccos

−5 6

(mod 2π).

(14)

4.3 Exemple 2

A=−1 9







−8 4 1

4 7 4

1 4 −8





 .

Les vecteurs colonnes deA forment une famille orthonormale deR³ doncu∈O(R³). Pour calculer det(A), nous allons effectuer les opérations élémentaires L₁←L₁+ 8L₃et L₂←L₂−4L₃:

det(u) = det(A) =− 1 729

−8 4 1

4 7 4

1 4 −8

=− 1 729

0 36 −63

0 −9 36

1 4 −8

=− 1 729

36 −63

−9 36

=−81 729

4 −7

−1 4

=−1

donc u∈O⁻(R³). uest soit une réflexion, soit la composée commutative d’une réflexion et d’une rotation dont l’axe est orthogonal au plan de la réflexion.

tA=Adoncu⁻¹=u.uest involutive doncuest une r´eflexion. Nous allons d´eterminer Inv(u) :

(x, y, z)∈Inv(u) ⇐⇒









 8 9x−4

9y−1 9z=x

−4 9x−7

9y−4 9z=y

−1 9x−4

9y+8 9z=z

⇐⇒











−x−4y−z= 0

−4x−16y−4z= 0

−x−4y−z= 0

⇐⇒ x+ 4y+z= 0

donc Inv(u) = Vect(e⁰₁, e⁰₂), avece⁰₁=−4e1+e2ete⁰₂=−e1+e3.uest la r´eflexion par rapport `a Vect(e⁰₁, e⁰₂).

4.4 Exemple 3

A=−1 4







3 1 √

6

1 3 −√

6

−√

6 √

6 2





 .

Les vecteurs colonnes deA forment une famille orthonormale deR³ doncu∈O(R³). Pour calculer det(A), nous allons effectuer les opérations élémentaires L₁←L₁−3L₂et L₃←L₃+√

6L₂ :

det(u) = det(A) =−1 64

3 1 √

6

1 3 −√

6

−√

6 √

6 2

=−1 64

0 −8 4√

6

1 3 −√

6 0 4√

6 −4

= 1 64

−8 4√ 6 4√

6 −4

=−1

donc u∈O⁻(R³). uest soit une réflexion, soit la composée commutative d’une réflexion et d’une rotation dont l’axe est orthogonal au plan de la réflexion. ^tA 6= A donc u n’est pas une réflexion. u s’écrit don s◦r=r◦s, oùsest une réflexion par rapport à un planP et rest la rotation d’axeD=P^⊥. On sait que D={λ∈R³, u(λ) =−λ}.

(x, y, z)∈D ⇐⇒











−3 4x−1

4y−

√6 4 z=−x

−1 4x−3

4y+

√6 4 z=−y

√6 4 x−

√6 4 y−2

4z=−z

⇐⇒











x−y−√ 6z= 0

−x+y+√ 6z= 0

√ 6x−√

6y+ 2z= 0

(15)

Les deux premières équations de ce système sont identiques. En effectuantL3← L3−√

6L1, on obtient le syst`eme suivant :







x−y−√ 6z= 0

z= 0

⇐⇒





 x=y z= 0 doncD= Vect(e⁰₁), avece⁰₁= 1

√2(e₁+e₂). Il reste `a d´eterminer l’angleθde la rotationr.

tr(u) = tr(A) =−3 4−3

4 −2

4 =−2. donc −1 + 2 cosθ=−2 et donc cosθ=−1 2 . Nous allons d´eterminer le signe de sinθen calculant :

det(e1, u(e1), e⁰₁) =

1 −³₄ ^√¹₂ 0 −¹₄ ^√¹

2

0

√ 6

4 0

=−

√6 4√

2 <0

donc sinθ <0 et doncθ=−2π

3 (mod 2π).

u=s◦r=r◦s, o`ur est la rotation d’axe Vect(e⁰₁), avece⁰₁= 1

√2(e1+e2) et d’angleθ=−2π

3 (mod 2π), et sest la r´eflexion par rapport `a (Vect(e⁰₁))^⊥.