Quelle est la forme de la matrice Vij(λ)Vkj(λ

(1)

Licence 3 Math´ematiques - ULCO, La Mi-Voix, 2011/2012

Analyse Num´erique

Fiche 7- Calculs matriciels.

Exercice 1 Matrices triangulaires ´el´ementaires

Soitn∈Net on d´eﬁnit les matrices suivantes dansRⁿ^×ⁿ :

• Eij matrice avec un 1 dans la position (i, j) et 0 partout ailleurs ;

• Vij(λ) =I+λEij ,λ∈R, i > j;

• L(li) =I+lie^T_i,li∈Rⁿ tel que ses premi`eresicomposantes sont nulles.

1. Quels sont les r´esultats des op´erations suivantes sur la matriceA: B=V_ij(λ)A, C=AV_ij(λ)?

2. Quelle est la forme de la matrice

Vij(λ)Vkj(λ^′), k > i?

3. Repr´esenterL(li) et montrer queL(li)⁻¹=L(−li).

4. D´ecomposerL(li) comme produit de matrices de la formeVkm(λ).

5. CalculerL=

n∏−1 i=1

L(li) et son inverseL⁻¹

6. On suppose leslistock´es dans un tableau bidimensionnelZ etb∈Rⁿ stock´e dans un tableau unidimensionnel B. Donner un algorithme permettant de calculer dans B la solution deLx=b :

(a) en utilisant l’expression deL⁻¹; (b) en r´esolvant le syst`eme triangulaire.

Quelle est la conclusion ?

Exercice 2 Quelques identités pour le calcul d’inverses Démontrer l’identité

(A+U BV)⁻¹=A⁻¹−A⁻¹U(I+BV A⁻¹U)⁻¹BV A⁻¹ en pr´ecisant :

– son domaine de validit´e ;

– les types des matricesA, U, B, V. Quelques cas particuliers :

1. SupposonsB =β scalaire,U =u∈Rⁿ, V =v^T, v ∈Rⁿ. Retrouver la formule de Shermann–Morrison qui permet le calcul de l’inverse d’une matrice qui apparaˆıt comme perturbation de rang 1 d’une matrice dont on connait l’inverse.

2. Soient A∈Rⁿ^×ⁿ r´eguli`ere etu, v∈Rⁿ tels que 1 +v^TA⁻¹u= 0. Montrer que B =

( A+uv^T u v^T 0

)

est r´eguli`ere.

CalculerB⁻¹en remarquant que B=

[ A 0 0 −1

] +

[ u 1

] [ v^T 1 ]

3. Soit

D=

[ P Q R S

]

matrice inversible avecP ∈R^p^×^p, Q∈R^p^×^q, R∈R^q^×^p, S∈R^q^×^q CalculerD⁻¹ en remarquant que

D=

[ P 0 R I

] +

[ Q S−I

] [ 0 I ]

(2)

4. Calcul r´ecursif de l’inverse: on pose An=

[ An−1 v u^T s

]

avecAn−1∈R⁽ⁿ⁻¹⁾^×⁽ⁿ⁻¹⁾u, v∈Rⁿ⁻¹, s∈R

Utiliser la formule précédente pour calculerA⁻_n¹en fonction deA⁻_n₋¹₁. En déduire un algorithme récursif pour le calcul de l’inverse d’une matrice carrée de taillen.

Exercice 3 Quelques propri´et´es des normes matricielles

1. Soit A une matrice d’ordre (m, n). Démontrer les inégalités suivantes pour les normes p, p= 1,2,∞ et la norme de Frobenius :

(a) ∥A∥2≤ ∥A∥F ≤√ n∥A∥2

(b) max|a_ij| ≤ ∥A∥2≤√

mnmax|a_ij| (c) 1

√n∥A∥_∞≤ ∥A∥2≤√

m∥A∥_∞ (d) 1

√m∥A∥1≤ ∥A∥2≤√ n∥A∥1

2. Soient u∈R^m, v∈Rⁿ etE=uv^T. Montrer que

∥E∥F =∥E∥2=∥u∥2∥v∥2

∥E∥_∞=∥u∥_∞∥v∥1

Exercice 4 Montrer que siρ(A)<1 alors

• I−Aest r´eguli`ere ;

• (I−A)⁻¹= lim

k→∞C_k avecC_k =I+A+· · ·+A^k.

Exercice 5 Estimation de l’erreur dans le calcul de l’inverse

SoitAune matrice carr´ee d’ordreninversible etBune approximation deA⁻¹ On poseX =I−ABet on suppose que∥X∥<1. Montrer que

∥A⁻¹−B∥ ≤ ∥BX∥ 1− ∥X∥.

Exercice 6 Projection orthogonale sur un sous-espace vectoriel de Rⁿ Soient

• H =span{v₁,· · ·, v_r}le sous–espace vectoriel deRⁿ engendré par les vecteurs{v_i} supposés indépendants ;

• V =[

v₁ v₂ · · · v_r ]

la matrice de typen×rdont les colonnes sont les composantes desv_i dans la base canoniqueϵ= (e₁,· · ·, e_n).

Pour tout x ∈ Rⁿ on d´esigne par y sa projection orthogonale sur H et par X et Y les matrices colonnnes des composantes dexety dans la baseϵ. On pose

y=

∑r i=1

α_iv_i.

1. Montrer que la matriceG=G(v₁,· · ·, v_r) =V^TV est inversible.

2. Montrer que lesα_ivérifient le système G



 α₁

... αr



=V^TX

3. En d´eduire queY =V G⁻¹V^TX =P XavecP =V G⁻¹V^T (Pest donc la matrice de la projection orthogonale deRⁿ surH).

4. Application : on consid`eren= 3, v1 =e1, v2 =e1+e2+e3. D´eterminer la projection orthogonale sur H = span{v1, v2} dex= 2e1−e2+e3.

5. Quelle est la matrice de la projection orthogonale surH=span{v}? 6. Montrer que, pourx∈Rⁿ

d²(x, H) = detG(x, v1,· · ·, vr) detG(v1,· · · , vr)

(3)

Exercice 7 SoitA∈R^m^×ⁿ de rangr≤p= min(m, n). On considère la décomposition en valeurs singulières de A

U^TAV = diag(σ1,· · ·, σp) o`u lesσ_i sont les valeurs singuli`eres deA

1. Montrer que Im(A) = span{u¹, u²,· · ·, u^r} et Ker(A) = span{v^r+1,· · · , vⁿ}. 2. Montrer que Im(^TA) = span{v¹, u²,· · ·, v^r} et Ker(A^T) = span{u^r+1,· · · , u^m}.

3. D´eterminer les matrices des projections orthogonales sur Im(A), Ker(A), Im(A^T), Ker(A^T) `a l’aide deU et V.

4. Application : calculer la d´ecomposition en valeurs singuli`eres de la matrice

A=



 1 1

2 1

−1 1





et les matrices correspondant aux projections orthogonales de la question pr´ec´edente.

Exercice 8 Pseudo–inverse d’une matrice

D´efinition 1.1 SoitΣune matrice diagonale de type(m×n):

Σ =





 µ1

. .. µr

0 . ..

0

⃝







On appelle pseudo–inverse de Σla matriceΣ^† de type(n×m)d´efinie par

Σ^† =





µ⁻₁¹ 0

. .. ⃝

0 µ⁻_r¹





Définition 1.2 SoitAune matrice de type(m×n)dont la décomposition en valeurs singulières estA=UΣV^∗. On appelle pseudo-inverse de la matriceA la matriceA^† de type(n×m)définie par

A^†=VΣ^†U^∗.

1. Quelle application représente la restriction de Σ^†Σ au sous-espace span{e₁,· · ·, e_r}? 2. Montrer que siAest carrée régulière alorsA^†=A⁻¹.

3. Montrer que

A^† =

∑r i=1

1 µi

v_iu^∗_i.

4. Montrer que

• AA^† est la matrice de la projection orthogonale sur Im(A) ;

• A^†Aest la matrice de la projection orthogonale sur Im(A^∗)

5. Montrer que la restriction `a Im(A^∗) =Ker(A)^⊥ deA^∗Aest une matrice inversible et (A^∗A)⁻¹=

∑r i=1

µ⁻_i²viv^∗_i.

Exercice 9 Montrer que, pourA∈Cⁿ^×^m

1. ∥A∥2=σ₁, la plus grande valeur singuli`ere deA 2. ∥A∥F =√

σ²₁+σ²₂+· · ·+σ²_r o`u lesσ_i sont les valeurs singuli`eres deA.

3. Les valeurs singuli`eres non nulles deAsont les racines carr´es des valeurs propres non nulles deA^∗Aet AA^∗.

(4)

4. pour A∈C^m^×^m,|det(A)|=

∏m i=1

σ_i.

5. SiA=A^∗ alors les valeurs singuli`eres deAsont les valeurs absolues des valeurs propres deA

Exercice 10 Montrer que

1. cond2(A) =µn(A)/µ1(A) avecµn(A) etµ1(A) respectivement la plus grande et la plus petite valeur singuli`ere deA;

2. siAest normale alors

cond₂(A) = max_i|λ_i(A)| mini|λi(A)|; 3. siA∈Rⁿ^×ⁿ est inversible,Q∈Rⁿ^×ⁿ orthogonale alors

cond2(A) = cond2(AQ) = cond2(QA)

Exercice 11 SoitA=

( 1 0 0 10⁻⁶

)

1. Calculer cond2(A), cond1(A) et cond_∞(A) ; 2. R´esoudre :

• Ax=bpour b= ( 1

10⁻⁶ )

• Ay=b+δbpour δb=

( 10⁻⁶ 0

)

et Az=b+ ∆bpour ∆b= ( 0

10⁻⁶ )

3. Pour chacune des trois normes considérées, trouver une majoration théorique de

∥y−x∥

∥x∥ et ∥z−x∥

∥x∥ et comparer avec les valeurs exactes. Quelle conclusion ?

Exercice 12 Conditionnement du probl`eme de l’inversion d’une matrice SoitAune matrice inversible donn´ee.

1. Si (A+δA) est une matrice inversible, d´emontrer

∥(A+δA)⁻¹−A⁻¹∥

∥(A+δA)⁻¹∥ ≤cond(A)∥δA∥

∥A∥ 2. D´emontrer que

∥(A+δA)⁻¹−A⁻¹∥

∥A⁻¹∥ ≤cond(A)∥δA∥

∥A∥ (1 +O(∥A∥))

Exercice 13 Taille des éléments dans l’élimination de Gauss

Notons Ãk la matrice carrée d’ordre (n−k+ 1) formée des éléments a^k_ij, k ≤i, j ≤n de la matrice Ak = (a^k_ij) obtenue come résultat de la (k−1)–ème étape de l’élimination de Gauss. On supposeA=A1 symétrique définie positive.

1. Notant (., .) le produit scalaire euclidien etv^′∈Rⁿ⁻^k le vecteur formé par les (n−k) dernières composantes d’un vecteur v= (vi)ⁿ_i=k∈Rⁿ⁻^k+1 quelconque, établir l’identité

( ˜Akv, v) = ( ˜Ak+1v^′, v^′) + 1 a^k_kk

a^k_kkvk+

∑n i=k+1

a^k_ikvi

2

.

2. Montrer que chaque matrice Ãk est symétrique définie positive.

3. Établir les inégalités suivantes :

0< a^k+1_ii ≤a^k_ii, k+ 1≤i≤n max

k+1≤i≤na^k+1_ii = max

k+1≤i,j≤n

a^k+1_ij ≤ max

k≤i,j≤n

a^k_ij= max

k≤i≤na^k_ii

Exercice 14 Strat´egie de pivotage

(5)

1. Montrer que pour une matrice quelconqueA= (aij) de type (2×2) on a cond2(A) =σ+ (σ²−1)^1/2 avecσ=

∑2

i,j=1|aij|² 2|det(A)|

2. Calculer les conditionnements cond_p(.) pour p= 1,2,∞des matrices exactes obtenues à la première étape de la procédure d’élimination de Gauss pour résoudre le système linéaire

{ 10⁻⁴u₁+u₂= 1 u₁+u₂= 2

selon que l’on commence, ou non, par ´echanger les deux ´equations. Conclusion ?

Exercice 15 Factorisation LU d’une matrice bande

Montrer que la factorisation LU pr´eserve la structure des matrices bande au sens suivant : aij = 0 pour|i−j| ≥p⇒

{ l_ij = 0 pouri−j≥p u_ij = 0 pourj−i≥p

Exercice 16 Factorisation d’une matrice sym´etrique

SoitAune matrice sym´etrique inversible admettant une factorisation LU. Montrer que l’on peut ´ecrireA sous la forme

A=BB˜^T o`u

• B est une matrice triangulaire inf´erieure ;

• B˜ est une matrice où chaque colonne est soit égale à la colonne correspondante deB, soit égale à la colonne correspondante deB changée de signe.

Application num´erique

A=







1 2 1 1

2 3 4 3

1 4 −4 0

1 3 0 0





.

Exercice 17 Quelques factorisations LU

1. SoitA=LU la d´ecomposition LU d’une matriceA∈Rⁿ^×ⁿ avec|l_ij| ≤1. Soienta^T_i et u^T_i les lignesideA et U respectivement. Montrer que

u^T_i =a^T_i −

i−1

∑

j=1

liju^T_j et que

∥U∥∞≤2ⁿ⁻¹∥A∥∞

2. SoitA∈Rⁿ^×ⁿ d´eﬁnie par

aij =





1 sii=j ouj=n

−1 sii > j 0 sinon

Montrer queAa une d´ecomposition LU avec|lij| ≤1 etunn= 2ⁿ⁻¹.

Exercice 18 On suppose A ∈ Rⁿ^×ⁿ inversible. Montrer que si P AΠ = LU est obtenue par la m´ethode de Gauss avec pivotage total, alors

∀i, j= 1,· · ·, n |lij| ≤1

∀i= 1,· · · , n,∀j=i,· · ·, n, |uij| ≤ |uii|

Exercice 19 Soit A ∈ Rⁿ^×ⁿ telle que A^T soit à diagonale strictement dominante. Montrer queA admet une décomposition LU avecL^T à diagonale strictement dominante.

(6)

Exercice 20 Matrices de Householder

1. Soitv un vecteur réel vérifiantv^Tv= 1. Montrer que la matrice de Householder H(v) =I−2vv^T

représente une symétrie par rapport au sous–espace vectoriel formé par les vecteurs orthogonaux aux vecgteurs v. En d´eduire que det(H(v)) =−1.

2. Démontrer que toute matrice orthogonale est le produit de au plusn matrices de Householder. En déduire une interprétation géométrique des matrices orthogonales.

Exercice 21 Algorithme de Gram–Schmidt et Gram–Schmidt modifi´e

Etant donn´´ esnvecteurs lin´eairement ind´ependants deR^m,{a₁,· · ·, a_n}, on veut calculer une base orthonormale pour span{a₁,· · ·, a_n}.

On poseA= [a₁, a₂,· · · , a_n]∈R^m^×ⁿ et on consid`ere la factorisation QR deA,

A=QR, Q= [q₁,· · ·, q_n], r^T_i , i= 1,· · ·, nles lignes deR 1. Montrer que

ImA= span{q₁,· · · , q_n}. 2. Montrer que

q_k = 1 rkk

( a_k−

k−1

∑

i=1

r_ikq_i )

k= 1,· · ·, n

3. En d´eduire un algorithme pour le calcul r´ecursif desqi (algorithme de Gram–Schmidt).

4. Algorithme de Gram–Schmidt modiﬁ´e

L’algorithme précédent est instable numériquement dû à la perte d’orthogonalité dans le calcul desqi. On va reformuler l’algorithme pour le rendre stable.

Pour k= 1,· · ·, n−1, on d´eﬁnitA^(k)∈R^m^×⁽ⁿ⁻^k+1)de la fa¸con suivante : [0, A^(k)] =A−

k−1

∑

i=1

q_ir^T_i =

∑n i=k

q_ir^T_i

et on va d´ecrire l’´etape kde l’algorithme.

(a) Montrer que si on pose

A^(k)= [z, B], z∈R^m, B∈R^m^×⁽ⁿ⁻^k) alors

r_kk=∥z∥2, q_k=z/r_kk. (b) Comment peut–on calculer la lignek deR`a partir deA^(k)? (c) CalculerA^(k+1).

(d) À partir des questions précédentes, décrire l’algorithme qui permet le calcul de la factorisationA=Q1R1, Q1∈R^m^×ⁿorthonormale,R1∈Rⁿ^×ⁿtriangulaire supérieure (Gram–Schmidt modifié). Le calcul deQ1

doit se faire sur place.

(e) Quelle est la complexité de l’algorithme précédent ?

Exercice 22 Rotation de Givens

Soientp, q: 1≤p < q≤n,c, s∈R:c²+s²= 1.

On consid`ere les matrices

G=G_p,q(c, s) =





 1

. .. 1

c · · · −s . .. s · · · c

1 . ..

1







(7)

1. ´Ecrire Gcomme perturb´ee de Ipar des matrices de rang 1.

2. Montrer queGest inversible, calculerG⁻¹, montrer queGest orthogonale.

3. Quelle est l’action deGsurA∈Rⁿ^×ⁿ?

4. SoitA∈Rⁿ^×ⁿ aveca_pj=α, a_qj =β. Peut–on trouverGtelle queA^′=GAv´eriﬁe : a^′_pj = 0 =α^′, a^′_qj= 0 =β^′?

Est–ce que la solution est unique ?

Exercice 23 SoitZ =

( c s

−s c )

avecc²+s²= 1. On d´eﬁnitρpar

ρ=





1 si c= 0

1/2sign(c)s si |s|<|c| 2sign(s)/c si |c| ≤ |s| 1. Comment reconstruire±Z `a partir deρ?

2. SoitQune matrice orthogonale produit denrotations de Givens :Q=J₁· · ·J_n. Comment peut–on stocker de la fa¸con la plus ´economiqueQsous forme factoris´ee ?

3. Modifier l’algorithme de Givens pour réduireAà la forme triangulaire supérieure (QA=R,Qmatrice produit de rotations de Givens) en stockant sur place ( donc dansA) toute l’information nécessaire à reconstruireQ.

4. Écrire l’algorithme qui, à partir des résultats de l’algorithme précédent permet de reconstruireQ.

Exercice 24 Soient x et y deux vecteurs unitaires. Donner un algorithme qui utilise les transformations de Givens pour calculer une matriceQtelle queQx=y.

Exercice 25 M´ethode de Givens Rapide

SoitA∈R^m^×ⁿ. On veut construire une matriceM ∈R^m^×^m telle que

• M A=S triangulaire sup´erieure ;

• M M^T =D=diag(d₁,· · ·, d_m) ,d_i>0

et appliquer cette factorisation deAdans la résolution de systèmes au sens des moindres carrés.

1. Donner la factorisationQRdeAen termes deM, D et S.

2. On consid`ere maintenantm= 2. Soientx= (x1, x2)^T et D=diag(d1, d2) (di>0) donn´es.

(a) On d´eﬁnit

M1=

( β₁ 1 1 α₁

) . Supposonsx₂̸= 0. Calculer M₁xet M₁DM₁^T.

Comment choisirα₁etβ₁ de fa¸con `a ce que la deuxi`eme composante deM₁xsoit nulle et queM₁DM₁^T soit diagonale ?

Pour le choix précédent déterminer γ₁ tel que M1x=

( x₂(1 +γ₁) 0

)

etM1DM₁^T =

( d₂(1 +γ₁) 0 0 d₁(1 +γ₁)

)

(b) Supposonsx₁̸= 0. On d´eﬁnit

M2=

( 1 α2

β2 1 )

.

Choisirα2 etβ2 de fa¸con `a ce que M2x=

( x1(1 +γ2) 0

)

etM2DM₂^T =

( d1(1 +γ2) 0 0 d2(1 +γ2)

)

et d´eterminerγ₂

(c) Montrer que l’on peut toujours choisirM_i(i= 1,2) de fa¸con à ce que le “facteur de croissance” (1 +γ_i) soit inférieur à 2.

3. Soit maintenantm∈Nquelconque. D´eﬁnir les matricesM1(p, q) etM2(p, q) telles que ( mpp mpq

mqp mqq

)

=

( β1 1 1 α1

) ou =

( 1 α2

β2 1 )

(8)

• e^T_qMi(p, q)x= 0 ;

• MiDM_i^T matrice diagonale, avecD=diag(d1,· · · , dn), di >0 Ces matricesM_i sont appel´eesmatrice de Givens rapide.

4. Décrire l’algorithme qui utilise les transformations de Givens rapides pour réduire A ∈ R^m^×ⁿ à la forme triangulaire supérieure (m´ethode de Givens rapide) :

M A=R, M M^T = diag(d₁,· · · , d_m).

Les calculs doivent ˆetre faits sur place.

Quel est le coût de cet algorithme ? Comparer avec le coût de la méthode de Householder pour réduireA à la forme triangulaire supérieure.

5. Application à la résolution d’un système linéaire au sens des moindres carrés.

(a) Comment profiter des résultats fournis par l’algorithme précédent pour résoudre min

x∈Rⁿ∥Ax−b∥2 avecA∈R^m^×ⁿ (m > n), b∈R^m?

(b) Quelles modifications introduire dans l’algorithme de la méthode de Givens rapide pour qu’il résolve le problème de moindres carrés de la question précédente ?

6. Application numérique: résoudre au sens des moindres carrés par la méthode de Givens rapide le système

Ax=b, A=



 1 4 2 5 3 6



, b=



 7 8 9





7. Considérons maintenant le problème de moindres carrés min

x∈Rⁿ∥D(Ax−b)∥2 (1)

avec A ∈ R^m^×ⁿ, b ∈ R^m , D =diag(di) (di > 0). Cela correspond à donner un poids différent à chaque

´

equation du syst`eme.

SoitM une matrice produit de matrices de Givens rapide vérifiant { M A=R triangulaire supérieure

M D⁻²M^T = ˜D= diag( ˜di), d˜i>0 Comment peut–on r´esoudre le probl`eme (1) ?

Quelles adaptations faire à l’algorithme précédent ?