Espaces euclidiens
11. Projections orthogonales
11.3. Probl` emes d’approximation
uk = ek−q1(q1|ek)−q2(q2|ek)− · · · −qk−1(qk−1|ek), qk = uk
kukk.
En isolant dans le membre de droite le vecteur ek, on obtient une expression de ce vecteur comme combinaison lin´eaire deq1, . . . , qk−1, uk :
e1 = u1
= q1ku1k, e2 = q1(q1|e2) +u2
= q1(q1|e2) +q2ku2k, e3 = q1(q1|e3) +q2(q2|e3) +u3
= q1(q1|e3) +q2(q2|e3) +q3ku3k, ...
ek = q1(q1|ek) +· · ·+qk−1(qk−1|ek) +uk
= q1(q1|ek) +· · ·+qk−1(qk−1|ek) +qkkukk. La matrice de changement de baseq(IE)es’en d´eduit :
11.5. Corollaire. Soitqla base orthonorm´ee obtenue en appliquant le proc´ed´e de Gram–Schmidt
`
a une base e d’un espace euclidien E. La matrice de changement de base q(IE)e est triangulaire sup´erieure avec des entr´ees diagonales non nulles.
D´emonstration. Les calculs pr´ec´edents montrent que la matriceq(IE)e est
q(IE)e=
ku1k (q1|e2) (q1|e3) · · · (q1|en) 0 ku2k (q2|e3) · · · (q2|en) 0 0 ku3k · · · (q3|en)
... ... ... . .. ...
0 0 0 · · · kunk
.
2
11.3. Probl`emes d’approximation
Les projections orthogonales satisfont la propri´et´e d’approximation suivante :
11.6. Proposition. Soit E un espace euclidien et V ⊂E un sous-espace. Pour tout x∈E, la projection orthogonalep de xsur V est un vecteur deV dont la distance `axest minimale. De plus, pour tout vecteurv∈V autre quep, on a
d(x, v)> d(x, p).
11. PROJECTIONS ORTHOGONALES 77
D´emonstration. Pour montrer la premi`ere partie de l’´enonc´e, il s’agit de prouver : d(x, p)6d(x, y) pour touty ∈V,
ou, de mani`ere ´equivalente,
kx−pk26kx−yk2 pour touty∈V.
On d´ecompose pour cela : (x−y) = (x−p) + (p−y), et on calcule
(x−y|x−y) = (x−p|x−p) + (x−p|p−y) + (p−y|x−p) + (p−y|p−y), c’est-`a-dire
kx−yk2=kx−pk2+(x−p|p−y) + (p−y|x−p)+kp−yk2. Commex−p∈V⊥ et p−y∈V, on a
(x−p|p−y) = (p−y|x−p) = 0, et l’´egalit´e pr´ec´edente entraˆıne
kx−yk2=kx−pk2+kp−yk2>kx−pk2.
On voit d’ailleurs que l’´egalit´ekx−yk=kx−pk(avecy∈V) ne peut ˆetre satisfaite que sikp−yk= 0,
c’est-`a-dire si y=p. 2
Un exemple typique d’application de cette propri´et´e d’approximation concerne les syst`emes d’´ equa-tions lin´eaires : soitA∈Rm×n etb∈Rm. Pour que le syst`eme
A·X =b
admette une solution, il faut et il suffit que b soit dans le sous-espace C(A) ⊂Rm engendr´e par les colonnes deA, puisqu’en d´ecomposant Apar colonnes l’´equation pr´ec´edente s’´ecrit
a∗1x1+· · ·+a∗nxn=b.
Sib6∈ C(A), on peut cependant envisager de trouver une solution approch´ee du syst`emeA·X =ben rempla¸cantb par le vecteur b0 ∈ C(A) qui est le plus proche deb (au sens de la distance euclidienne usuelle surRm, induite par le produit scalaire usuel). Toute solution du syst`eme d’´equations lin´eaires
A·X =b0
o`ub0 est la projection orthogonale deb surC(A) est appel´eesolution approch´ee de A·X =b au sens des moindres carr´es.
Le proc´ed´e de Gram–Schmidt permet de trouver une base orthonorm´ee deC(A), `a l’aide de laquelle la projection orthogonaleb0 est facile `a calculer. Dans le cas o`u les colonnes deA sont lin´eairement ind´ependantes, les calculs peuvent s’organiser de mani`ere particuli`erement simple, et prennent la forme d’une factorisation matricielle :
11.7. Proposition. Pour toute matrice A ∈Rm×n de rangn, il existe une matrice Q∈Rm×n telle queQt·Q=In et une matriceR∈Rn×ntriangulaire sup´erieure dont toutes les entr´ees diagonales sont non nulles telles que
A=Q·R.
De plus, pour tout y∈Rm, le vecteurQ·Qt·y∈Rm est la projection orthogonale dey sur C(A).
La conditionQt·Q= In entraˆıne que Qt =Q−1 si m =n; la matrice Q n’est cependant pas inversible `a droite sim > n.
11. PROJECTIONS ORTHOGONALES 78
D´emonstration. Soit a = (a∗1, . . . , a∗n) la suite des colonnes de A. Comme rangA = n, la suite a est libre ; c’est donc une base de C(A). En appliquant le proc´ed´e de Gram–Schmidt `a la suitea, on obtient une base orthogonale deC(A), que l’on norme pour former une base orthonorm´ee q = (q1, . . . , qn). Le Corollaire 11.5 montre que la matrice de changement de base q(IC(A))a est triangulaire ; on la noteR= (rij)16i,j6n. On a donc
a∗1 = q1r11
a∗2 = q1r12+q2r22
...
a∗n = q1r1n+q2r2n+· · ·+qnrnn et les entr´ees diagonalesriisont non nulles. Si l’on note
Q= q1 · · · qn
∈Rm×n
la matrice dont les colonnes sont q1, . . . , qn, les ´egalit´es ci-dessus montrent que l’on a
a∗1 · · · a∗n
= q1 · · · qn
·
r11 r12 · · · r1n
0 r22 · · · r2n
... ... . .. ... 0 0 · · · rnn
c’est-`a-dire
A=Q·R.
Comme (q1, . . . , qn) est une base orthonorm´ee deC(A) pour le produit scalaire usuel deRm, on a qti·qj=
0 sii6=j 1 sii=j, donc
Qt·Q=
q1t
... qnt
· q1 · · · qn
=
qt1·q1 · · · qt1·qn
... ...
qtn·q1 · · · qnt ·qn
=In.
Par ailleurs, comme (q1, . . . , qn) est une base orthonorm´ee de C(A), la Proposition 11.2 montre que la projection orthogonale surC(A) d’un vecteury∈Rmest donn´ee par
p = q1·(qt1·y) +· · ·+qn·(qtn·y)
= q1 · · · qn
·
q1t
... qtn
·y
= Q·Qt·y.
2 11.8. Corollaire. Soit A ∈ Rm×n une matrice de rang n, et soit A = Q·R la factorisation matricielle obtenue dans la proposition pr´ec´edente. Pour toutb∈Rm, le syst`emeA·X =b admet une et une seule solution exacte (si b ∈ C(A)) ou approch´ee au sens des moindres carr´es (sib 6∈ C(A)), qui est aussi l’unique solution du syst`eme
R·X=Qt·b.
D´emonstration. Soitb0 la projection orthogonale debsurC(A), de sorte queb0 =bsib∈ C(A).
D’apr`es la proposition pr´ec´edente, on ab0 =Q·Qt·b; toute solution (exacte ou approch´ee au sens des moindres carr´es) deA·X=b est donc solution (exacte) de
Q·R·X=Q·Qt·b.
En multipliant les deux membres par la gauche parQt, et en tenant compte de ce que Qt·Q=In, on voit que l’´equation pr´ec´edente est ´equivalente `a
R·X=Qt·b.
11. PROJECTIONS ORTHOGONALES 79
Comme la matriceR est r´eguli`ere, ce syst`eme d’´equations admet une et une seule solution. 2 Lorsque l’on dispose de la factorisationA=Q·R, le corollaire pr´ec´edent donne une mani`ere parti-culi`erement simple de r´esoudre toute ´equationA·X=b(de mani`ere exacte ou approch´ee), puisque la matriceR est triangulaire avec des entr´ees diagonales non nulles. Le syst`emeR·X =Qt·b est donc
´echelonn´e.
Exercices
(11.1) (pr´erequis) SoitE un espace euclidien etV un sous-espace deE. Siv∈E et quepv est la projection dev surV, d´emontrez que, alors,v−pv est la projection dev surV⊥.
(11.2) On consid`ereR3 muni du produit scalaire usuel.
– SoitV ={(x, y, z)∈R3|ax+by+cz= 0}, o`ua, b, csont trois r´eels fix´es. CalculezV⊥. – SoitW = sevh(k, l, m)i, o`u (k, l, m) est un ´el´ement fix´e de R3. CalculezW⊥.
(11.3) SiE est un espace euclidien etV et W des sous-espaces deE, est-il vrai que (V +W)⊥ = V⊥∩W⊥?
(V ∩W)⊥ = V⊥+W⊥? (11.4) On consid`ereR3 muni du produit scalaire usuel.
– En appliquant le proc´ed´e de Gram–Schmidt `a la base
(1,0,0),(1,1,0),(1,1,1)
, trouvez une base orthonorm´ee de R3.
– Mˆeme question en partant de la base
(1,1,0),(2,1,0),(1,1,1)
.
– Trouvez les coordonn´ees d’un ´el´ement quelconque deR3dans les deux bases orthonorm´ees ainsi obtenues.
(11.5) Construire une base orthonorm´ee de
V ={M ∈R2×2|M est sym´etrique}, pour le produit scalaire (·|·) d´efini par (A|B) = tr(A.B).
(11.6) DansC2 [−π, π];R
, on d´efinit un produit scalaire (·|·) par (f|g) =
Z π
−π
f(x)g(x)dx.
Donnez une base orthonorm´ee de V = sevh1,sinx,cosx,sin 5x,cos 10xi.
(11.7) Dans R3 muni du produit scalaire usuel, d´eterminez la projection orthogonale du vecteur (−1,0,8) sur le sous-espace engendr´e par les vecteurs (1,0,1) et (0,1,1).
(11.8) Dans l’espace vectoriel r´eelC [−1,1];R
, avec le produit scalaire (·|·) d´efini par (f|g) =
Z 1
−1
f(x)g(x)dx,
trouvez le polynˆome du premier degr´e P le plus proche de f(x) = ex. L’ayant trouv´e, donnez sa distance `a f(x).
(11.9) Dans l’espace vectoriel r´eelC [0,2π];R
, avec le produit scalaire (·|·) d´efini par (f|g) =
Z 2π 0
f(x)g(x)dx,
trouvez la projection orthogonale de la fonctionf :R→R:x7→xsur le sous-espaceV engendr´e par les fonctions 1, cos et sin.
11. PROJECTIONS ORTHOGONALES 80
(11.10)On consid`ere R[X]62 muni du produit scalaire d´efini dans l’exercice 10.8, ainsi que le sous-espace V d´efini dans ce mˆeme exercice.
– Trouvez une base orthonorm´ee de V⊥.
– Calculez les projections orthogonales du polynˆomeX surV et surV⊥. (Conseil :relire l’exercice 11.1, page 79.)
(11.11)Soientuet v deux vecteurs non nuls fix´es dans un espace euclidienE. Trouvez le vecteur le plus court qui soit de la formeu+vλ(λ∈R) et montrez qu’il est orthogonal `a v.
(11.12) Mettez les matricesAi ∈Rm×n suivantes sous la forme d’un produitQ·Ro`uQ∈Rm×n est telle queQt·Q=In etR∈Rn×n est triangulaire sup´erieure avec toutes ses entr´ees diagonales non nulles.
A1=
√1 −2 3 2√
3
A2=
3 0 4 5
A3=
0 0 1 0 1 1 1 1 1
A4=
1 −1
1 0
0 1
A5=
2 1
1 1
−1 1 0 1.
A6=
3 4
.
(11.13)R´esolvez les syst`emes d’´equations lin´eaires suivants au sens des moindres carr´es.
(i) x−y = 1
x = 0
y = 2
(ii) x+y = 3
x = 1
x−y = −1
(iii) 3x = 2
4x = 11
(iv) 2x+y = −1 x+y = 1
−x+y = 3 y = −1.
(11.14)Trouvez la solution, au sens des moindres carr´es, du syst`eme
x = b1 x = b2
... x = bn.
Calculez ensuite la distance entre le second membre du syst`eme original et celui du syst`eme utilis´e pour calculer la solution au sens des moindres carr´es.
CHAPITRE VI