CHAPITRE 5
ENDOMORPHISMES AUTO-ADJOINTS ET AUTOMORPHISMES ORTHOGONAUX
Dans ce chapitre,kdésigneRouC. On fixe en outre un espace vectorielEde rang fini surk, muni d’un produit scalaireh,i.
5.1. Endomorphisme auto-adjoint
Définition 5.1. — Soit f : E → E un endomorphisme. On dit qu’un endomor- phismef∗ estadjoint àϕsi pour tout couple(x, y)∈E2 on a
(5.1) hf∗(x), yi=hx, f(y)i.
Il s’avère que tout endomorphisme deV admet un unique endomorphisme adjoint. Si (ei)ni=1 est une base orthonormée deV, alors la matrice de f∗ sous cette base est la conjuguée-transposée de celle def (sous la même base). On dit que l’endomorphisme f est auto-adjoint sif∗=f.
Lemme 5.2. — Soitf :E→E un endomorphisme auto-adjoint deE. Si F est un sous-espace vectoriel deE qui est stable parf, alors F⊥ est aussi stable parf. Démonstration. — Soitxun vecteur dansF⊥. Pour touty∈F on ahx, yi= 0, d’où
∀y∈F, hf(x), yi=hx, f(y)i= 0, d’oùf(x)∈F⊥.
Proposition 5.3. — Soit f un endomorphisme auto-adjoint de E. Alors il existe une base orthonormée de E qui consiste de vecteurs propres de l’endomorphisme f. En outre, toutes les valeurs propres def sont réelles.
Démonstration. — Le résultat est trivial lorsqueEest l’espace vectoriel nul. Dans la suite, on suppose queE est non-nul. Pour toutx∈E, on a
hx, f(x)i=hf(x), xi=hx, f(x)i.
Donchx, f(x)i ∈R.
40CHAPITRE 5. ENDOMORPHISMES AUTO-ADJOINTS ET AUTOMORPHISMES ORTHOGONAUX
SoitSl’ensemble{x∈E : kxk= 1}. On considère la fonction(x∈S)→ hx, f(x)i.
Cette fonction est continue et donc atteint son maximumλmaxà un pointx∈S. Soit y un autre point deS. Pour toutt∈R, on a
hx+ty, f(x+ty)i6λmaxkx+tyk2, d’où
hx, f(x)i+ 2tRehx, f(y)i+t2hy, f(y)i6λmax(kxk2+ 2tRehx, yi+t2kyk2) et donc
2Rehx, f(y)i+thy, f(y)i6λmax(2Rehx, yi+tkyk2).
On obtient donc
Rehx, f(y)i6λmaxRehx, yi.
En remplaçanty par−y, on obtient l’inégalité au sens inverse. Donc Rehf(x), yi= Rehx, f(y)i=λmaxRehx, yi,
où la première égalité provient de l’hypothèse que f est auto-adjoint. Comme y est arbitraire, on obtient f(x) =λmaxx.
Par le lemme précédent, l’espace vectoriel (kx)⊥ est stable par f. De plus, la restriction de f à cet espace vectoriel est encore auto-adjoint. Par récurrence on obtient donc le résultat.
Proposition 5.4. — SoitF un sous-espace vectoriel deE. La projection orthogonale pF :E→F ⊂E est auto-adjoint.
Démonstration. — Soient xety deux éléments deE. On a hx, pF(y)i=hpF(x), pF(y)i=hpF(x), yi.
5.2. Automorphismes orthogonaux
Dans ce paragraphe, on suppose quek=R.
Définition 5.5. — On dit qu’un automorphismef :E→E isorthogonal si
∀(x, y)∈E2, hf(x), f(y)i=hx, yi, ou de façon équivalentf∗=f−1.
Proposition 5.6. — Soit F un sous-espace vectoriel de E. La symétrique orthogo- nalesF est un automorphisme orthogonal.
Démonstration. — L’endomorphismepF étant auto-adjoint,sF l’est aussi. En outre, on as2F = IdE. DoncsF est un automorphisme orthogonal.
5.3. ORTHOGONAL GROUP 41
Proposition 5.7. — Soitf :E →Eun automorphisme orthogonal. SiH = Ker(f− IdE)est un hyperplan, alorsf est la symétrique orthogonale par rapport àH. Démonstration. — Soit x un vecteur de norme 1 qui est orthogonal par rapport à H. Comme f préserve le produit scalaire et f(y) = y pour touty ∈H, on obtient quef(x)est orthogonal àH et est de norme1, d’oùf(x) =−x. Le résultat est donc démontré.
5.3. Orthogonal group
On désigne parGL(E)l’ensemble des automorphismes deE. C’est un groupe. Soit O(E)le sous-ensemble deGL(E)des automorphismes orthogonaux.
Proposition 5.8. — Le sous-ensemble O(E)deGL(E)est un sous-groupe.
Démonstration. — Si f etg sont deux éléments dansO(E), alors on a (g◦f)∗◦(g◦f) = (f∗◦g∗)◦(g◦f) =f∗◦f = IdE.
En outre, sif ∈O(E), alors
f∗∗◦f∗=f◦f∗= IdE.
DoncO(E, φ)est un sous-groupe deGL(E).
Sif est un automorphisme orthogonal, alors
1 = d´et(IdE) = d´et(f∗◦f) = d´et(f)2.
Doncd´et(f) = 1or−1. On désigne parSO(E)le sous-groupe deO(E)des automor- phismes orthogonauxf tels que d´et(f) = 1. SoitO−(E) = O(E)\SO(E).
Proposition 5.9. — L’ensemble O−(E)contient toutes les symétriques par rapport aux hyperplanes.
Démonstration. — Soient H une hyperplane et xun élément deE orthogonal àH. Soiteune base deH. Alors la base desH sous la base{x} ∪eest diag(−1,1, . . . ,1).
Doncd´et(sHx) =−1.
Définition 5.10. — On appelleréflexion toute symétrique orthogonale par rapport à une hyperplane dans E.
Théorème 5.11 (Cartan-Dieudonné). — Tout endomorphisme symétrique f : E → E s’écrit comme la composition d’au plus r réflexions, où r est le rang de E. En particulier, le groupeO(E)est engendré par les réflexions.
42CHAPITRE 5. ENDOMORPHISMES AUTO-ADJOINTS ET AUTOMORPHISMES ORTHOGONAUX
Démonstration. — On raisonne par récurrence surr. Le cas oùr= 0est trivial. Dans la suite on suppose que le résultat est démontré pour les espace vectoriel de dimension
< r.
Premier cas : On suppose qu’il existe un x ∈ E \ {0} tel que f(x) = x. Soit H ={x}⊥. Pour touty∈H on a
hx, f(y)i=hf(x), f(y)i=hx, yi= 0.
Donc H est invariant par f. Par l’hypothèse de récurrence, il existe des réflexions s1, . . . , sn (avecn∈ {0, . . . , r−1}) dansO(H)telles que
f|H =s1◦ · · · ◦sn
Pour touti∈ {1, . . . , n}, soitesi:E→E prolongeantsi et telle queesi(x) =x. On a Ker(sei−IdE) = Ker(si−IdH)⊕kx.
Doncesi (i∈ {1, . . . , n}) sont des réflexions. En outre, on a f =es1◦ · · · ◦esn
commexest invariant paresi et parf.
Second cas :On suppose quef(x)6=xpour toutx∈E\ {0}. Soient x∈E\ {0}, y=x−f(x)etH ={y}⊥. On a
hx+f(x), x−f(x)i=hx, xi − hf(x), f(x)i= 0, d’oùx+f(x)∈H. On obtient donc
sH(f(x)) = 1
2(sH(x+f(x))−sH(y)) = 1
2(x+f(x)−y) =x et
x+f(x) =sH(x+f(x)) =sH(x) +sH(f(x)) =x+sH(x).
On obtient donc quesH exchangexet f(x)et doncsH◦f est tombé dans le premier cas. Il existe donc des réflexionss1, . . . , sn avecn6r−1telles quesHf =s1◦ · · · ◦sn. On obtient doncf =sH◦s1◦ · · · ◦sn.
