ESSEC 2012

ESSEC 2012

J.F. COSSUTTA Ex lyc´ee Marcelin BERTHELOT SAINT-MAUR . jean-francois.cossutta@wanadoo.fr

Commen¸cons par quelques remarques et quelques ´evidences avec quelques preuves pour faciliter le passage entre applications lin´eaires et matrices...

R-1 Dans la suite nous noterons < ., . >_n (< ., . >_m) le produit scalaire canonique de M_n,1(R) (resp.

Mm,1(R)) etk.kn (resp. k.km) la norme associ´ee.

R0 SiM est une matrice de Mm,n(R), comme le texte nous le propose on posera : KerM ={X ∈ Mn,1(R)|M X= 0_Mm,1(R)}.

ImM ={Y ∈ Mm,1(R)| ∃X∈ Mn,1(R), Y =M X}={M X;X∈ Mn,1(R)}.

R1 Soit f une application lin´eaire de Mn,1(R) dans Mm,1(R) et M sa matrice relativement `a la base canoniqueBn deMn,1(R) et `a la base canoniqueBm deMm,1(R). Alors :

M ∈ Mm,n(R) ∀X ∈ Mn,1(R), f(X) =M X Kerf = KerM Imf = ImM

f est une application lin´eaire deM_n,1(R) dans M_m,1(R), dimM_n,1(R) =n et dimM_m,1(R) =m. Donc M est une matrice deMm,n(R).

Notons que la matrice d’un ´el´ementX deMn,1(R) dans la base canoniqueBndeMn,1(R) est X ! De mˆeme la matrice d’un ´el´ement Y deMm,1(R) dans la base canoniqueBmdeMm,1(R) estY.

SoitX un ´el´ement de Mn,1(R). La matrice deX dansBn est X donc la matrice def(X) dans la baseBm estM X. Mais la matrice def(X) dansBmest ´egalementf(X). Alorsf(X) =M X.

Kerf ={X ∈ M_n,1(R)|f(X) = 0_Mm,1(R)} donc Kerf ={X ∈ M_n,1(R)|M X= 0_Mm,1(R)}. Ainsi Kerf = KerM. Imf ={f(X) ; X ∈ Mn,1(R)}donc. Imf ={M X; X∈ Mn,1(R)}. Ainsi Imf = ImM.

R1’ Soitf un endomorphisme deMn,1(R) etM sa matrice dans la base canonique Bn deMn,1(R). Alors : M ∈ M_n(R) ∀X∈ M_n,1(R), f(X) =M X Kerf = KerM Imf = ImM

Il suffit de fairem=ndans R1 .

R2 M est une matrice deMm,n(R). On pose∀X∈ Mn,1(R), g(X) =M X. Alors :

•g une application lin´eaire deMn,1(R) dansMm,1(R).

• M est sa matrice relativement `a la base canonique B<sub>n</sub> de M<sub>n,1</sub>(R) et `a la base canonique B_m de M_m,1(R).

•Kerg= KerM et Img= ImM.

•KerM est un sous-espace vectoriel deMn,1(R) et ImM est un sous-espace vectoriel deMm,1(R).

•rgM = dim ImM.

• M ∈ M_m,n(R) donc ∀X ∈ M_n,1(R), g(X) = M X ∈ M_m,1(R). g est une application de M_n,1(R) dans M_m,1(R).

∀λ∈R, ∀X ∈ M_n,1(R), ∀X⁰ ∈ M_n,1(R), g(λ X+X⁰) =M(λ X+X⁰) =λ M X+M X⁰ =λ g(X) +g(X⁰). Alorsg est lin´eaire.

Finalement gest une application lin´eaire deMn,1(R) dansMm,1(R).

• SoitGla matrices de grelativement aux basesBn et Bm. D’apr`es R1 :∀X ∈ Mn,1(R), g(X) =GX. Donc∀X∈ Mn,1(R), M X =g(X) =GX.

PosonsBn= (E1, E2, . . . , En). ∀i∈[[1, n]], M Ei=GEi. Donc pour toutidans [[1, n]], lai^`eme colonne deM est ´egale

`lai<sup>`eme</sup> colonne deG. AinsiM =G.

•M ´etant la matrice degrelativement aux basesBn etBmil r´esulte de R1 que Kerg= KerM et Img= ImM.

•Le cours indique que Kerg est un sous-espace vectoriel deMn,1(R) donc KerM est un sous-espace vectoriel de Mn,1(R).

De mˆeme Img est un sous-espace vectoriel deMm,1(R) donc ImM est un sous-espace vectoriel deMm,1(R).

• rgM = rgg= dim Img= dim ImM. Ainsi rgM = dim ImM.

R3 M etM⁰ sont deux matrices deMm,n(R). M =M⁰ si et seulement si∀X ∈ Mn,1(R), M X =M⁰X.

Posons∀X∈ Mn,1(R), g(X) =M X et g⁰(X) =M⁰X.

M (resp. M⁰) est la matrice deg (resp. g⁰) relativement aux basesBn et Bm. Ainsi : M =M⁰⇐⇒g=g⁰⇐⇒ ∀X ∈ Mn,1(R), g(X) =g⁰(X)⇐⇒ ∀X ∈ Mn,1(R), M X =M⁰X.

R3’ M est une matrice deMm,n(R).

La matriceM est la matrice nulle deM_m,n(R) si et seulement si∀X ∈ M_n,1(R), M X= 0_Mm,1(R). Il suffit de faireM⁰ = 0_Mm,n(R)dans R3 .

R4 Th´eor`eme du rang. M est une matrice deM_m,n(R).

dim KerM+ dim ImM =n ou dim KerM + rgM =n.

Posons∀X∈ Mn,1(R), g(X) =M X.

D’apr`es R2 ,g est une application lin´eaire deMn,1(R) dansMm,1(R) telle que : KerM = Kerg et ImM = Img.

D’apr`es le th´eor`eme du rang du programme ( !) : dimM_n,1(R) = dim Kerg+ rgg.

Alorsn= dim Kerg+ rgg= dim KerM + rgM.

On a aussi n= dim Kerg+ dim Img= dim KerM+ dim ImM. R5 M est une matrice deMm,n(R). rg^tM = rgM . R´esultat gracieusement admis par l’´enonc´e...

R6 F est un sous-espace vectoriel de Mn,1(R). pest la projection orthogonale sur F et P est sa matrice dans la base canonique deMn,1(R).

• ∀X ∈ Mn,1(R), p(X) =P X.

•Kerp= KerP=F^⊥; en particulier∀X∈F^⊥, P X= 0_Mn,1(R).

•Imp= ImP =F.

•Ker p−Id_Mn,1(R)

= Ker(P−In) =F; en particulier∀X ∈F, P X=X.

Rappelons queF = Imp= Ker p−Id_Mn,1(R)

et F^⊥= Kerp.

Notons queP et I_n−P sont les matrices depet p−Id_Mn,1(R) dans la baseB_n. R1’ donne alors les r´esultats des quatre points, non ?

R7 ”Th´eor`eme de meilleure approximation”.

F est un sous-espace vectoriel d’un espace vectoriel euclidienE etxest un ´el´ement de E.

1. Min

z∈Fkx−zk existe.

2. La projection orthogonale dexsurF est l’unique ´el´ement de F qui r´ealise ce minimum.

Ceci est un r´esultat de cours.

R8 M´ethode des moindres carr´es.

Aest un ´el´ement deMm,n(R) etB un ´el´ement de Mm,1(R). On suppose que le rang deAest n . k.kmest la norme deMm,1(R) associ´ee au produit scalaire canonique.

1. ^tAAest inversible.

2. Min

X∈Mn,1(R)kAX−Bkm existe.

3. Il existe un unique ´el´ementX0deMn,1(R) tel quekAX0−Bkm= Min

X∈Mn,1(R)kAX−Bkm. 4. X₀= (^tAA)⁻¹(^tAB) ou^tAAX₀=^tAB.

Ceci est un r´esultat de cours.

Question pr´ eliminaire.

1) Soitpla projection orthogonale surF. P est sa matrice dans la base canonique deMn,1(R).

SoitX un ´el´ement deMn,1(R).

(U1, U2, . . . , Uk) est une base orthonorm´ee deF donc le cours indique quep(X) =

k

X

i=1

< Ui, X >n Ui.

Alors d’apr`es R1’ :P X=p(X) =

k

P

i=1

< U_i, X >_n U_i=

k

P

i=1

(^tU_iX)U_i.

Observons que, pour tout ´el´ement ide [[1, k]],^tUiX est une matrice deM1(R) que l’on assimile `a un r´eel.

Donc, pour tout ´el´ementide [[1, k]], (^tUiX)Ui=Ui(^tUiX). Alors : P X =

k

P

i=1

U_i(^tU_iX) =

k

P

i=1

(U_i^tU_i)X = _k

P

i=1

U_i^tU_i

X.

∀X∈ Mn,1(R), P X=

k

X

i=1

UitUi

!

X. R3 donne alorsP =

k

X

i=1

UitUi.

Ainsi :^tP=^t

k

X

i=1

UitUi

!

=

k

X

i=1

t UitUi

=

k

X

i=1

t(^tUi)^tUi=

k

X

i=1

UitUi=P. Donc^tP =P.

AlorsP est sym´etrique (normal pour la matrice d’une projection orthogonale dans une base orthnorm´ee).

P =

k

X

i=1

U_i^tU_i etP est une matrice sym´etrique.

Partie I - D´ ecomposition spectrale de la matrice

associ´ ee ` a une matrice

de

.

2) (a) Aest une matrice appartenant `aMm,n(R) donc<sup>t</sup>Aest une matrice appartenant `a Mn,m(R).

Alors^tAA est une matrice deMn(R).

tAAest une matrice carr´ee d’ordren`a coefficients r´eels.

SoitX un ´el´ement de KerA. AX= 0_Mm,1(R)donc^tAAX=^tA0_Mm,1(R)= 0_Mn,1(R). AinsiX appartient `a Ker^tAA.

Finalement ∀X ∈KerA, X ∈Ker^tAA. Ainsi :

KerA⊂Ker^tAA.

(b)SoitX un ´el´ement de Ker^tAA.

tAAX= 0_Mn,1(R). AlorskAXk²_m=^t(AX)AX=^tX^tAAX=^tX0_Mn,1(R)= 0. DonckAXk²_m= 0 et :kAXkm= 0.

SiX appartient `a Ker^tAAalorskAXkm= 0.

Soit X un ´el´ement de Ker^tAA. AlorskAXkm = 0. Ceci donneAX = 0_Mm,1(R) et permet de dire que X est dans KerA.

Donc∀X∈Ker^tAA, X ∈KerAet ainsi Ker^tAA⊂KerA. Or (a)a donn´e KerA⊂Ker^tAA. Alors : KerA= Ker^tAA.

D’apr`es R3’ A= 0_Mm,n(R)⇐⇒ ∀X ∈ Mn,1(R), AX = 0_Mm,1(R). DoncA= 0_Mm,n(R)⇐⇒KerA=Mn,1(R).

De mˆeme^tAA= 0_Mn(R)⇐⇒Ker^tAA=Mn,1(R). Or KerA= Ker^tAA. Ainsi : A= 0_Mm,n(R)⇐⇒KerA=Mn,1(R)⇐⇒Ker^tAA=Mn,1(R)⇐⇒^tAA= 0_Mn(R).

A est la matrice nulle de Mm,n(R) si et seulement si ^tAA est la matrice nulle de Mn(R). DoncA et ^tAA sont nulles simultan´ement.

(c)SoitY un ´el´ement de Im^tAA. Il existe un ´el´ementX deMn,1(R) tel queY =^tAAX.

PosonsZ =AX. Z appartient `aMm,1(R) etY =<sup>t</sup>AZ doncY appartient `a Im^tA.

∀Y ∈Im^tAA, Y ∈Im^tAdonc Im^tAA⊂Im^tA.

D`es lors pour montrer que Im^tAA = Im^tA il suffit de montrer que dim Im^tAA = dim Im^tA car Mn,1(R) est de dimension finie.

A est une matrice de M_m,n(R) et ^tAA est une matrice de M_n(R). R4 donne alors dim KerA+ rgA = n et dim Ker^tAA+ rg^tAA=n(th´eor`eme du rang).

Or KerA= Ker^tAAdonc dim KerA= dim Ker^tAA. Ainsi rgA=n−dim KerA=n−dim Ker^tAA= rg^tAA.

Par cons´equent rgA= rg^tAA. Or rg^tA= rgA( R5 ) donc rg^tA= rg^tAA.

Alors dim Im^tA= rg^tA= rg^tAA= dim Im^tAA. Ainsi dim Im^tA= dim Im^tAA.

Ceci ach`eve de monter que :

Im^tA= Im^tAA.

3) (a)^tAA est une matrice deMn(R) et^t(^tAA) =^tA^t(^tA) =^tAA.

Donc^tAAest une matrice sym´etrique d’ordren`a coefficients r´eels. Ainsi :

tAAest diagonalisable.

Soitλune valeur propre de^tAA. λest un r´eel car^tAA est une matrice sym´etrique deMn(R).

SoitX un vecteur propre de^tAA associ´e `a la valeur propreλ.

X est un ´el´ement non nulX deMn,1(R) tel que^tAAX=λ X.

Nous avons vu plus haut quekAXk²_m=^tX^tAAX. AlorskAXk²_m=^tX(λX) =λ^tXX=λkXk²_n. X n’est pas nul donckXk²_n est strictement positif. Alorsλ= kAXk²_m

kXk²_n · Plus de doute,λest un r´eel positif ou nul.

Les valeurs propres de ^tAAsont des r´eels positifs ou nuls.

(b)Soient ietj deux ´el´ements distincts de [[1, p]].

Rappelons que les sous-espaces propres de la matrice sym´etrique^tAAsont deux `a deux orthogonaux.

AinsiEλ_i(^tAA) etEλ_j(^tAA) sont orthogonaux donc Eλ_j(^tAA)⊂

Eλ_i(^tAA)⊥

. D’apr`es R6 : ImP j=Eλ_j(^tAA) et KerPi=

Eλ_i(^tAA)⊥

. Donc ImPj⊂KerPi. Or ∀X ∈ Mn,1(R), P_jX∈ImP_j. Ainsi∀X ∈ Mn,1(R), P_jX∈KerP_i.

Ceci qui donne∀X ∈ M_n,1(R), P_iP_jX = 0_Mn,1(R). Alors R3’ nous autorise `a dire que P_iP_j= 0_Mn(R). Si ietj sont deux ´el´ements distincts de [[1, p]],PiPj = 0_Mn(R).

Rappelons que pour tout ´el´ementide [[1, p]],Pi est la matrice d’une projection doncP_i²=Pi. Alors :

∀(i, j)∈[[1, p]]², P_iP_j =

( P_i sii=j 0_Mn(R) sinon . SoitX un ´el´ement deMn,1(R).

∃! (X₁, X₂, . . . , X_p)∈ E_λ1(^tAA)×E_λ2(^tAA)× · · · ×E_λp(^tAA), X =

p

P

j=1

X_j car M_n,1(R) =

p

M

j=1

E_λj(^tAA) puisque

tAAest diagonalisable.

Soitiun ´el´ement de [[1, p]]. PiX=

p

P

j=1

PiXj. Soitj un ´el´ement de [[1, p]].

Si j=i,X_j=X_i∈E_λi(^tAA) = Ker(P_i−I_n) d’apr`es R6 , doncP_iX_j =P_iX_i=X_i. Supposonsj6=i.

Xj∈Eλ_j(^tAA) = Ker(Pj−In) d’apr`es R6 , doncPjXj=Xj ouXj=PjXj. AlorsP_iX_j=P_iP_jX_j = 0_Mn(R)X_j = 0_Mn,1(R).

Finalement PiXj=

(Xi sij =i

0_Mn,1(R) sij 6=i . Alors PiX =

p

P

j=1

PiXj =Xi et ceci pour toutidans [[1, p]].

Donc

p

X

i=1

Pi

! X=

p

X

i=1

PiX =

p

X

i=1

Xi=X.

Ainsi :∀X∈ M_n,1(R),

p

X

i=1

P_i

!

X =I_nX. R3 donne alors :

In=

p

X

i=1

Pi.

SoitX un ´el´ement deMn,1(R). ∃! (X1, X2, . . . , Xp)∈Eλ₁(^tAA)×Eλ₂(^tAA)× · · · ×Eλ_p(^tAA), X=

p

P

i=1

Xi.

∀i∈[[1, p]], Xi ∈Eλi(^tAA) donc∀i∈[[1, p]], ^tAAXi=λiXi. Rappelons que∀i∈[[1, p]], PiX =Xi. Alors :

p

X

i=1

λ_iP_i

! X =

p

X

i=1

λ_iP_iX=

p

X

i=1

λ_iX_i=

p

X

i=1

tAA X_i =^tAA

p

X

i=1

X_i

!

=^tAAX.

Ainsi :∀X∈ Mn,1(R),

p

X

i=1

λiPi

!

X=^tAAX. R3 donne alors :

tAA=

p

X

i=1

λiPi.

4) (a)^tAA=





1 1 −1

−1 −1 1

1 1 2









1 −1 1

1 −1 1

−1 1 2



=





3 −3 0

−3 3 0

0 0 6



.

Soitλun r´eel etX =



 x y z



un ´el´ement deM3,1(R).

tAAX=λ X⇐⇒

(3x−3y=λ x

−3x+ 3y=λ y 6z=λ z

⇐⇒







3x−3y=λ x λ(x+y) = 0 (λ−6)z= 0 . Version 1

• Supposons queλ6= 0 etλ6= 6.

tAAX=λ X⇐⇒

(3x−3y=λ x x+y= 0 z= 0

⇐⇒

(y=−x

(3 + 3−λ)x= 0 z= 0

⇐⇒x=y=z= 0. λn’est pas valeur propre de ^tAA.

•Siλ= 0 :^tAAX=λ X⇐⇒n3x−3y= 0

z= 0 ⇐⇒ny=x

z= 0. Alors 0 est valeur propre de^tAAet le sous-espace propre associ´e est la droite vectorielle de M3,1(R) engendr´ee par



 1 1 0



.

• Siλ= 6, ^tAAX=λ X⇐⇒

3x−3y= 6x

x+y= 0 ⇐⇒y=−x.

Alors 6 est valeur propre de^tAAet le sous-espace propre associ´e est l’hyperplan (donc le plan) d’´equationx+y= 0 dans la base canonique deM3,1(R).

Notons que







 1

−1 0



,



 0 0 1







 est une base de ce sous-espace propre.

Version 2

Si λ= 6,^tAAX =λ X⇐⇒

3x−3y= 6x

x+y= 0 ⇐⇒y=−x.

Alors 6 est valeur propre de ^tAA et le sous-espace propre associ´e est le plan vectoriel d’´equationx+y = 0 dans la base canonique de M3,1(R).

Comme^tAAest une matrice diagonalisable deM3(R),^tAAposs`ede une seconde valeur propreα, et pas plus. De plus E6(^tAA) etEα(^tAA) sont suppl´ementaires et orthogonaux. E6(^tAA) ´etant l’hyperplan d’´equation x+y= 0 dans la base canonique de M3,1(R) qui est orthonorm´ee,E_α(^tAA) est la droite vectorielle engendr´ee par



 1 1 0



.

Comme^tAA



 1 1 0



=





3 −3 0

−3 3 0

0 0 6







 1 1 0



=



 0 0 0



alorsα= 0. Nous avons ainsi retrouv´e les r´esultats de la version pr´ec´edente.

R´esumons le tout.

tAA={0,6}. E₀(^tAA) = Vect



 1 1 0





etE₆(^tAA) = Vect







 1

−1 0



,



 0 0 1







.

Notons qu’ici p= 2,λ1= 0 etλ2= 6. D´eterminonsP1 etP2. Version 1 Sans ruse !

• PosonsV1=



 1 1 0



etU1= 1

kV1kV1. U1=







√1 2

√1 2

0





.

(V1) est une base deE0(^tAA). Donc (U1) est une base orthonorm´ee deE0(^tAA).

Alors d’apr`esQ1,P1=U1tU1=







√1 2

√1 2

0







√1 2

√1 2 0

=





1/2 1/2 0 1/2 1/2 0

0 0 0



.

La matrice, dans la base canonique deM3,1(R), de la projection orthogonale surE0(^tAA) est

P1=





1/2 1/2 0 1/2 1/2 0

0 0 0



 .

PosonsV2=



 1

−1 0



,V3=



 0 0 1



,U2= 1

kV₂kV2 etU3= 1

kV₃kV3. U2=







√1 2

−^√1

2

0





etU3=



 0 0 1



.

(V2, V3) est une base deE6(^tAA). Mieux c’est une base orthogonale deE6(^tAA).

Alors (U₂, U₃) est une base orthonorm´ee deE₆(^tAA).

AinsiP2=U2tU2+U3tU3=







√1 2

−^√1

2

0







√1 2 −^√1

2 0 +



 0 0 1



( 0 0 1 ) =





1/2 −1/2 0

−1/2 1/2 0

0 0 0



+





0 0 0 0 0 0 0 0 1



.

Finalement P2=





1/2 −1/2 0

−1/2 1/2 0

0 0 1



.

La matrice, dans la base canonique deM3,1(R), de la projection orthogonale surE6(^tAA) est

P2=





1/2 −1/2 0

−1/2 1/2 0

0 0 1



 .

Version 2 Avec ruse ! I3=P1+P2 et^tAA= 0P1+ 6P2. AinsiP2=1 6

tAA etP1=I3−1 6

tAA.

Ceci qui redonne imm´ediatementP₂=





1/2 −1/2 0

−1/2 1/2 0

0 0 1



et P₁=





1/2 1/2 0 1/2 1/2 0

0 0 0



.

La d´ecomposition spectrale de^tAAest : 0





1/2 1/2 0 1/2 1/2 0

0 0 0



+ 6





1/2 −1/2 0

−1/2 1/2 0

0 0 1



.

(b)Rappelons que queA^tA est assimilable `a un r´eel carA^tA∈ M₁(R) puisqueA∈ M_1,n(R).

(^tAA)²−(A^tA)^tAA=^tAA^tAA−(A^tA)^tAA=^tA(A^tA)A−(A^tA)^tAA.

Or A^tA est un r´eel donc (^tAA)²−(A^tA)^tAA= (A^tA)^tAA−(A^tA)^tAA= 0_Mn(R). Ainsi : X²−(A^tA)X est un polynˆome annulateur de^tAA.

Les z´eros du polynˆomesX²−(A^tA)X sont 0 etA^tA. Donc le spectre de^tAAest contenu dans{0, A^tA}.

1^er cas n= 1. Alors^tAAest la matrice deM1(R) ´egale `a (a²₁). Alorsa²₁est la seule valeur propre de ^tAA.

Ici p= 1, λ1=a²₁=A^tAet P1=I1.

Sin= 1, Sp^tAA={a²₁}={A^tA}. La d´ecomposition spectrale de^tAA est^tAA= (A^tA)I₁! 2i`eme cas n >1.

SoitX ∈ Mn,1(R). Notons queAX∈R. Alors :^tAAX= 0_Mn,1(R)⇐⇒(AX)^tA= 0_Mn,1(R).

or ^tA6= 0_Mn,1(R)donc^tAAX= 0_Mn,1(R)⇐⇒AX= 0⇐⇒^t(^tA)X = 0⇐⇒<^tA, X >n= 0⇐⇒X∈

Vect(^tA)⊥

. Ainsi Ker^tAA=

Vect(^tA)⊥

. Comme^tA6= 0_Mn,1(R), dim Vect(^tA) = 1. Alors dim Ker^tAA=n−1.

Commen−1>0, Ker^tAA n’est pas r´eduit `a la matrice nulle deMn,1(R) et ainsi 0 est valeur propre de^tAA.

Le sous-espace propre associ´e est l’hyperplan

Vect(^tA)⊥

. E0(^tAA) =

Vect(^tA)⊥

.

Comme ^tAA est diagonalisable,^tAA a n´ecessairement une autre valeur propre qui ne peut ˆetre que A^tA car Sp^tAA est contenu dans{0, A^tA}.

De plusE0(^tAA) etE_AtA(^tAA) sont suppl´ementaires et orthogonaux car^tAAest une matrice sym´etrique deMn,1(R).

AlorsE_AtA(^tAA)) = E₀(^tAA)⊥

=

Vect(^tA)⊥⊥

= Vect(^tA). E_AtA(^tAA) = Vect(^tA).

Si n>2, Sp^tAA={0, A^tA}. E0(^tAA) =

Vect(^tA)⊥

et EA^tA(^tAA) = Vect(^tA).

Ici p= 2, λ₁= 0 etλ₂=A^tA.

Remarque Notons que :

• ^tAA= (aiaj)(i,j)∈[[1,n]]²

•E0(^tAA)est l’hyperplan deMn,1(R)d’´equationa1x1+a2x2+· · ·+anxn= 0dans la base canonique deMn,1(R).

• A^tA=

n

P

k=1

a²_k et E_AtA(^tAA)est la droite vectorielle deMn,1(R)engendr´ee par







 a1

a2

... an









Version 1 In=P1+P2 et^tAA=λ1P1+λ2P2= (A^tA)P2. DoncP2= 1

A^tA

tAAetP1=In− 1 A^tA

tAA. Notons queP2= 1 A^tA

tAA= 1

n

P

k=1

a²_k

(aiaj).

Version 2 PosonsV2=^tAetU2= 1 k^tAkn

tA.

(V2) est une base deEA^tA(^tAA). (U2) est une base orthnorm´ee deEA^tA(^tAA).

AlorsP2=U2tU2= 1

k^tAkn tA

t

1 k^tAkn

tA

= 1

k^tAk²_n

tA^t(^tA) = 1 k^tAk²_n

tAA= 1

t(^tA)^tA

tAA= 1 A^tA

tAA.

On retrouve ainsiP2= 1 A^tA

tAAetP1=In−P2=In− 1 A^tA

tAA.

Si n>2, la d´ecomposition spectrale de^tAA est ^tAA= 0P1+ (A^tA)P2 avecP2 = 1 A^tA

tAA= 1

n

P

k=1

a²_k

(aiaj) et P₁=I_n−P₂!

Partie II - Pseudo solution d’une ´ equation lin´ eaire.

5) Dans toute la suite conform´ement au texte nous parlerons le plus souvent de l’´equationAX=B alors qu’il serait sans doute pr´ef´erable de parler de l’´equationX ∈ Mn,1(R) et AX=B.

I On suppose ici que l’´equationAX=B admet au moins une solution que nous noteronsX0. SoitX⁰ un ´el´ement de Mn,1(R).

• Supposons queX⁰ est une pseudo solution de l’´equationAX=B.

Alors∀Z ∈ M_n,1(R), kAX⁰−Bk_m6kAZ−Bk_m.

En particulierkAX⁰−Bkm6kAX0−Bkm= 0. AlorskAX⁰−Bkn= 0 doncAX⁰−B= 0_Mm,1(R). AinsiAX⁰=B et X⁰ est solution de l’´equationAX=B.

• Supposons queX⁰ est solution de l’´equationAX=B.

Alors∀Z ∈ Mn,1(R), kAX⁰−Bkm= 06kAZ−Bkm. DoncX⁰ est une pseudo solution de l’´equationAX=B.

Si l’´equation X ∈ Mn,1(R) et AX = B admet au moins une solution, l’ensemble de ses pseudo solutions est l’ensemble de ses solutions.

6) Remarque Notons que les r´esultats de Q6 et Q7 sont presque dans notre cours au niveau de la m´ethode des moindres carr´es. Sauf que dans le th´eor`eme concern´e il y a une hypoth`ese suppl´ementaire :rgA=n. Cette hypoth`ese assurant l’unicit´e d’une pseudo solution (comme nous le verrons dans Q9).

Notons ´egalement que l’on peut obtenir les r´esultats de Q6 et Q7 en utilisant le ”th´eor`eme de meilleure approximation”.

Nous en dirons deux mots `a la fin de Q7.

Commen¸cons par ´etablir un r´esultat que nous utiliserons dans Q6 et dans Q7. Montrons donc que :

∀λ∈R, ∀(X, Y)∈

Mn,1(R)2

, kA(X+λ Y)−Bk²_m− kAX−Bk²_m=λ²kAYk²_m+ 2λ^tY^tA(AX−B) (1).

Soitλun r´eel. Soient X et Y deux ´el´ements quelconques deMn,1(R).

kA(X+λ Y)−Bk²_m=k(AX−B) + (λ AY)k²_m=kAX−Bk²_m+ 2 < AX−B, λ AY >_m+kλ AYk²_m.

kA(X+λ Y)−Bk²_m− kAX−Bk²_m= 2λ < AY , AX−B >m+λ²kAYk²_m= 2λ^t(AY)(AX−B) +λ²kAYk²_m. Ainsi :kA(X+λ Y)−Bk²_m− kAX−Bk²_m=λ²kAYk²_m+ 2λ^tY^tA(AX−B).

∀λ∈R, ∀(X, Y)∈

Mn,1(R)²

, kA(X+λ Y)−Bk²_m− kAX−Bk²_m=λ²kAYk²_m+ 2λ^tY^tA(AX−B) (1).

I Supposons maintenant que X est une pseudo solution de l’´equation.

∀Z∈ Mn,1(R), 06kAX−Bkm6kAZ−Bkm donc∀Z∈ Mn,1(R), kAX−Bk²_m6kAZ−Bk²_m. Ce qui donne encore ∀Z∈ Mn,1(R), kAZ−Bk²_m− kAX−Bk²_m>0.

Ainsi∀λ∈R, ∀Y ∈ Mn,1(R), kA(X+λ Y)−Bk²_m− kAX−Bk²_m>0.

Alors∀λ∈R, ∀Y ∈ Mn,1(R), λ²kAYk²_m+ 2λ^tY^tA(AX−B)>0 d’apr`es (1).

SiX est une pseudo solution de l’´equation :∀λ∈R, ∀Y ∈ Mn,1(R), λ²kAYk²_m+ 2λ^tY ^tA(AX−B)>0.

∀λ∈R, ∀Y ∈ Mn,1(R), λ²kAYk²_m+ 2λ^tY^tA(AX−B)>0.

SoitY un ´el´ement deM_n,1(R). Montrons que^tY^tA(AX−B) = 0 Version 1 ∀λ∈R, λ²kAYk²_m+ 2λ^tY^tA(AX−B)>0.

Donc pour tout r´eel strictement positifλkAYk²_m+ 2^tY ^tA(AX−B)>0 (2).

Et pour tout r´eel strictement n´egatifλkAYk²_m+ 2^tY ^tA(AX−B)60 (3).

En faisant tendre λvers 0 par valeurs sup´erieures dans (2) il vient : 2^tY ^tA(AX−B)>0 ou^tY ^tA(AX−B)>0.

En faisant tendre λvers 0 par valeurs inf´erieures dans (3) il vient : 2^tY^tA(AX−B)60 ou ^tY^tA(AX−B)60.

Alors^tY ^tA(AX−B) = 0.

Version 2 1^er cas AY = 0_Mm,1(R).

Alors^tY ^tA(AX−B) =^t(AY) (AX−B) =^t(0_Mm,1(R))(AX−B) = 0_M1,m(R)×(AX−B) = 0.

2i`eme cas AY 6= 0_Mm,1(R).

AlorskAYk²_m6= 0. Doncλ→λ²kAYk²_m+ 2λ^tY ^tA(AX−B) est un polynˆome du second degr´e `a coefficients r´eels.

De plus ses z´eros dansRsont 0 et−2^tY ^tA(AX−B) kAYk²_m ·

Or ce polynˆome du second degr´e est positif surRdonc il ne peut pas avoir deux racines distinctes dansR.

Ainsi :−2^tY^tA(AX−B)

kAYk²_m = 0. Alors^tY ^tA(AX−B) = 0.

Finalement ^tY^tA(AX−B) = 0 et ceci pour toutY dansMn,1(R).

Donc∀Y ∈ Mn,1(R), < Y,^tA(AX−B)>n= 0. Donc^tA(AX−B)∈

Mn,1(R)⊥

={0_Mn,1(R)}.

Alors^tA(AX−B) = 0_Mn,1(R)ou^tAAX−^tAB= 0_Mn,1(R), et ainsi^tAAX=^tAB.

SiX est une pseudo solution de l’´equationX⁰ ∈ Mn,1(R) etAX⁰=B alors^tAAX=^tAB.

7) SoitX un ´el´ement de Mn,1(R) tel que^tAAX=^tAB.

Montrons que X est une pseudo solution de l’´equationX⁰∈ Mn,1(R) etAX⁰=B.

SoitZ un ´el´ement deMn,1(R). Posons Y =Z−X. AlorsZ =X+Y. En appliquant (1) avecλ= 1 il vient : kAZ−Bk²_m− kAX−Bk²_m=kA(X+Y)−Bk²_m− kAX−Bk²_m= 1²× kAYk²_m+ 2×1×^tY^tA(AX−B).

kAZ−Bk²_m− kAX−Bk²_m=kAYk²_m+ 2^tY^tA(AX−B).

Par hypoth`ese^tAAX=^tABdonc^tA(AX−B) = 0_Mn,1(R)alorskAZ−Bk²_m− kAX−Bk²_m=kAYk²_m.

DonckAZ−Bk²_m− kAX−Bk²_m>0 ce qui donnekAX−Bk²_m6kAZ−Bk²_mpuiskAX−Bkm6kAZ−Bkm. Ainsi∀Z ∈ Mn,1(R), kAX−Bkm6kAZ−Bkm. X est donc une pseudo solution de l’´equation.

Si X est un ´el´ement deMn,1(R) tel que^tAAX=^tAB,X est une pseudo solution de l’´equationX⁰ ∈ Mn,1(R) et AX⁰=B.

Ce r´esultat ajout´e `a celui de Q6 permet de dire que :

siXest un ´el´ement deM_n,1(R),Xest une pseudo solution de l’´equationX⁰ ∈ M_n,1(R) etAX⁰=Bsi et seulement si^tAAX =^tAB.

tABappartient `a Im<sup>t</sup>Aet nous avons vu dansQ2 (c)que Im<sup>t</sup>A= Im<sup>t</sup>AA. Alors <sup>t</sup>AB appartient `a Im^tAA. Ainsi il existe au moins un ´el´ement X0 deMn,1(R) tel que^tAAX0=^tAB. Plus de doute :

l’´equationX∈ Mn,1(R) etAX=B a au moins une pseudo solution.

I Retrouvons tous ces r´esultats (plus rapidement) en utilisant le ”th´eor`eme de meilleure approximation” ( R7 ).

Min

Z∈Mn,1(R)

kAZ−Bk_m existe si et seulement si Min

Y∈ImAkY −Bk_m existe.

Or ImA est un sous-espace vectoriel de l’espace vectoriel euclidien (Mm,1(R), < ., . >m). Alors R7 montre que

YMin∈ImAkY −Bkmexiste et que la projection orthogonaleB⁰deB sur ImAest l’unique ´el´ement de ImAqui r´ealise ce minimum.

Ainsi Min

Z∈Mn,1(R)kAZ−Bkmexiste et les ´el´ements qui r´ealisent ce minimum sont les ´el´ements X deMn,1(R) tels que AX=B⁰.

Alors l’´equationX ∈ Mn,1(R) etAX=B admet des pseudo solutions qui sont les ´el´ements X deMn,1(R) tels que AX=B⁰ (il en existe carB⁰ ∈ImA...).

SoitX un ´el´ement deM_n,1(R). AX appartient `a l’image deA.

AinsiAXest la projection orthogonaleB⁰ deBsur ImAsi et seulement siB−AXouAX−Bappartient `a (ImA)^⊥. AX−B∈(ImA)^⊥⇐⇒ ∀Y ∈ImA, < Y, AX−B >_m= 0⇐⇒ ∀Z∈ M_n,1(R), < AZ, AX−B >_m= 0.

AX−B∈(ImA)^⊥⇐⇒ ∀Z ∈ Mn,1(R),^t(AZ)(AX−B) = 0⇐⇒ ∀Z∈ Mn,1(R),^tZ^tA(AX−B) = 0.

AX−B∈(ImA)^⊥⇐⇒ ∀Z ∈ Mn,1(R), < Z,^tA(AX−B)>n= 0⇐⇒^tA(AX−B)∈(Mn,1(R))^⊥. Or

Mn,1(R)⊥

={0_Mn,1(R)} donc :

AX−B∈(ImA)^⊥⇐⇒^tA(AX−B) = 0_Mn,1(R)⇐⇒^tAAX−^tAB= 0_Mn,1(R)⇐⇒^tAAX=^tAB.

Alors AX =B⁰ si et seulement si ^tAAX =^tAB. DoncX est une pseudo solution de l’´equation si et seulement si

tAAX=^tAB.

Ainsi avons nous retrouv´e l’ensemble des r´esultats de Q6 et Q7.

8) SoitX =



 x y z



un ´el´ement deM3,1(R).

tAAX=^tAB⇐⇒





3 −3 0

−3 3 0

0 0 6







 x y z



=





1 1 −1

−1 −1 1

1 1 2







 2 2 1



⇐⇒

(3x−3y= 3

−3x+ 3y=−3 6z= 6

⇐⇒ny =x−1 z= 1 .

L’ensemble des pseudo solutions de l’´equationX∈ M_3,1(R) etAX=B est









 x x−1

1



;x∈R





 .

Soitxun r´eel. PosonsTx=



 x x−1

1



.

kT_xk²₃=x²+ (x−1)²+ 1²= 2x²−2x+ 2 = 2(x²−x) + 2 = 2

x−1 2

²

−2 1

2 ²

+ 2 = 2

x−1 2

² +3

2· Si xn’est pas ´egal `a 1

2,kTxk²₃= 2

x−1 2

2

+3 2 >3

2 =kT1 2k²₃. Donc∀x∈R, x6=1

2 ⇒ kTxk3>kT1 2k3.

Rappelons que l’ensemble des pseudo solutions de l’´equationX ∈ M3,1(R) etAX=B est









 x x−1

1



;x∈R





 soit encore{T_x;x∈R}.

T1

2 est donc l’unique pseudo solution de l’´equation, de norme minimale. Notons queT1 2 =



 1/2

−1/2 1



.

L’´equationX∈ M3,1(R) etAX=Badmet une pseudo solution de norme minimale et une seule qui est



 1/2

−1/2 1



.

9) SoitX₀ une pseudo solution de l’´equationX ∈ Mn,1(R) et AX=B. ^tAAX₀=^tAB.

SoitX un ´el´ement deM_n,1(R).

X est une pseudo solution de l’´equation si et seulement si^tAAX =^tAB.

tAAX=^tAB⇐⇒^tAAX=^tAAX0⇐⇒^tAA(X−X0) = 0_Mn,1(R)⇐⇒X−X0∈Ker^tAA.

tAAX=^tAB⇐⇒ ∃Y ∈Ker^tAA, X−X₀=Y ⇐⇒ ∃Y ∈Ker^tAA, X =X₀+Y. Rappelons que Ker^tAA= KerA.

Alors^tAAX⇐⇒ ∃Y ∈KerA, X =X0+Y.

Donc l’ensemble des pseudo solutions de l’´equation est{X₀+Y;Y ∈KerA}.

Si X₀ est une pseudo solution de l’´equationX ∈ Mn,1(R) etAX =B, l’ensemble des pseudo solutions de cette

´

equation est{X₀+Y ;Y ∈KerA}.

Plus de doute alors, l’´equation admet une pseudo solution et une seule si et seulement si KerA={0_Mn,1(R)}.

R4 donne dim KerA+ rgA=n. Alors KerA={0_Mn,1(R)} ⇐⇒dim KerA= 0⇐⇒rgA=n.

L’´equationX∈ Mn,1(R) etAX=B admet une pseudo solution et une seule si et seulement si rgA=n.

Remarque Supposons que rgA =n. Nous avons vu dans Q2 (c) que rg^tAA = rg^tA= rgA. Alors rg^tAA =n et ^tAA est une matrice de Mn(R) donc ^tAA est inversible. L’unique pseudo solution de l’´equation X ∈ Mn,1(R) et AX =B est alors (^tAA)^{−1 t}AB

. Nous retrouvons ainsi la totalit´e des r´esultats du th´eor`eme de la m´ethode des moindres carr´es ( R8 ). Nous y reviendrons encore dans Q11 (a).

Partie III - Pseudo solution d’une matrice.

10)Nous allons donner deux ( ?) solutions `a cette question.

Avant de commencer rappelons que KerA= Ker^tAA.

Version 1 Le texte incite `a construire une pseudo solutionS orthogonale `a Ker^tAAnon ? Alors allons y.

SoitX0une pseudo solution de l’´equationX ∈ Mn,1(R) etAX=B.

L’ensemble des pseudo solutions de cette ´equation est {X0+Y ;Y ∈KerA}ou{X0+Y ;Y ∈Ker^tAA}.

SoitX₀⁰ la projection orthogonale deX0sur Ker^tAA ou sur KerA. Alors X0−X₀⁰ appartient `a (Ker<sup>t</sup>AA)<sup>⊥</sup>. Posons donc S=X0−X<sub>0</sub><sup>0</sup>. Notons queS est orthogonal `a Ker^tAA.

De plusS=X0+ (−X₀⁰) et (−X₀⁰) appartient `a KerAdoncS est une pseudo solution de l’´equationAX=B.

Notons alors que l’ensemble des pseudo solutions de l’´equationAX=B est encore{S+Y; Y ∈KerA}.

Soit Z une pseudo solution de l’´equation AX =B distincte de S. Il existe un ´el´ement non nul Y de KerA tel que Z =S+Y.

S ∈(Ker^tAA)^⊥ etY ∈KerA= Ker^tAAdoncS et Y sont orthogonaux.

Le th´eor`eme de Pythagore donne alors :kS+Yk²_n =kSk²_n+kYk²_n. AinsikZk²_n =kS+Yk²_n=kSk²_n+kYk²_n>kSk²_n carkYk²_n>0.

DonckZkn>kSkn et ceci pour toute pseudo solutionZ de l’´equationAX=B distincte deS.

Ceci montre qu’il existe une unique pseudo solution de l’´equation AX =B de norme minimale et que cette pseudo solution estS.

Notons que^tAAS=^tAB (carS est une pseudo solution de l’´equation) et queS est orthogonal `a Ker^tAA.

Montrons que ceci caract´eriseS.

Supposons que S⁰ soit un ´el´ement deMn,1(R) tel que ^tAAS⁰ =^tABet qui soit orthogonal `a Ker^tAA.

Notons queS⁰−S est orthogonal `a Ker<sup>t</sup>AA carS etS<sup>0</sup> sont tous les deux orthogonaux `a Ker^tAA.

tAAS⁰ =^tABdoncS⁰ est une pseudo solution de l’´equation. Ainsi il existeY⁰ dans KerA tel queS⁰=S+Y⁰. AlorsS⁰−S=Y⁰ et ainsiS⁰−S appartient `a KerAdonc `a Ker^tAA.

Finalement S⁰−S∈(Ker^tAA)^⊥∩Ker^tAA={0_Mn,1(R)}. Alors S⁰=S. Ce qui ach`eve de montrer que :

l’´equationX ∈ M_n,1(R) etAX=B admet une unique pseudo solution de norme minimale not´eeSet caract´eris´ee par les deux conditions^tAAS=^tABet S est orthogonal `a Ker^tAA.

Version 2 SoitX₀une pseudo solution de l’´equationX ∈ Mn,1(R) etAX=B.

L’ensemble Hdes pseudo solutions de l’´equation est{X₀+Y;Y ∈KerA} ou{X₀−Y ;Y ∈KerA} (car KerAest un sous-espace vectoriel).

Comme KerAest un sous-espace vectoriel de l’espace vectoriel euclidien (Mn,1(R), < ., . >n), le ”th´eor`eme de meilleure approximation” ( R7 ) montre que Min

Y∈KerAkX0−Yknexiste et que la projection orthogonaleX₀⁰ deX0 sur KerAest l’unique ´el´ement de KerAqui r´ealise ce minimum.

Donc Min

Z∈HkZkn existe et X0−X₀⁰ est l’unique ´el´ement deHqui r´ealise ce minimum.

Posons S = X₀−X₀⁰. Alors S est l’unique pseudo solution de l’´equation AX = B de norme minimale et S est orthogonal `a KerAdonc `a Ker^tAAcarX₀⁰ est la projection orthogonale deX₀sur KerA.

SoitS⁰ un ´el´ement deMn,1(R) tel que ^tAAS⁰ =^tABet qui soit orthogonal `a Ker<sup>t</sup>AAdonc `a KerA.

tAAS⁰ =^tABdoncS⁰ est une pseudo solution de l’´equation AX=B. Ainsi il existeY⁰ appartenant `a KerAtel que S⁰=X0+Y.

AlorsX0= (−Y) +S⁰ avec−Y ∈KerAet S⁰ ∈(KerA)^⊥. Donc−Y est la projection orthogonale deX0 sur KerA donc−Y =X₀⁰.

AlorsS⁰=X0+Y =X0−X₀⁰ =S. Ceci ach`eve de d´emontrer le r´esultat demand´e.

11) (a)Supposons queAest de rangn. Nous avons vu dansQ9que l’´equationX ∈ Mn,1(R) etAX=Badmet une pseudo solution et une seule que nous noterons S. S est n´ecessairement la pseudo solution de l’´equation AX=B de norme minimale !

Nous avons vu dans Q2 (c)que rg^tAA= rgA. Alors rg^tAA=net ^tAAest une matrice de M_n(R) donc^tAAest inversible.

Or ^tAAS=^tABdoncS= (^tAA)^{−1 t}AB .

Si rgA = n, ^tAA est inversible et l’unique pseudo solution (de norme minimale) de l’´equation X ∈ Mn,1(R) et AX=B est (^tAA)^{−1 t}AB

.

Exercice Montrer que sirgA=n:(^tAA)⁻¹=

p

X

i=1

1 λi

Pi et(^tAA)^{−1 t}AB

=

p

X

i=1

1 λi

PitAB.

(b)Supposons que Aest la matrice nulle deMm,n(R). Alors KerA=Mn,1(R). Donc KerA⊥

={0_Mn,1(R)}.

SoitS l’unique pseudo solution de norme minimale de l’´equationX ∈ Mn,1(R) etAX=B.

S est orthogonal `a Ker<sup>t</sup>AAdonc `a KerA. Alors S∈ KerA⊥

doncS= 0_Mn,1(R).

SiA est la matrice nulle deMm,n(R), l’unique pseudo solution de norme minimale de l’´equationX ∈ Mn,1(R) et AX=B est 0_Mn,1(R).