ﬁnretourner Q ← H Q,R=A H ← H − cv pour i=k,...,m faire β v c H ← 1 X //Constructionde H = H ··· H H pour j=1,...,m faire A ← A − cv pour i=k,...,m faire β c ← v A 1 X //Constructionde A pour j=k,...,n faire v ← A //constructionduvecteurv pour i=k+1,...,m

(1)

- p. 1/21

Méthode QR

Polytech’Paris-UPMC

(2)

Introduction Décomposition QR Rappel

Exemple Intéret Le problème

DécompositionQR

Matrices semblables

Conclusion

Introduction

(3)

DécompositionQR

Matrices semblables

Conclusion

- p. 3/21

Décomposition QR

Il existe différents moyens de décomposer une matrice quelconque.

L’une des plus utilisée est la décomposition QR.

Théorème Soit A une matrice quelconque de M_n,m(C).

∃Q ∈ Mm,m une matrice orthogonale,

∃R ∈ Mn,m(C) une matrice triangulaire supérieure telles que A = QR

(4)

DécompositionQR

Matrices semblables

Conclusion

Décomposition QR

On peut utiliser cette décomposition pour résoudre le système linéaire

Ax = b

(5)

DécompositionQR

Matrices semblables

Conclusion

- p. 3/21

Décomposition QR

Ax = b ⇔ QRx = b

(6)

DécompositionQR

Matrices semblables

Conclusion

Décomposition QR

Ax = b ⇔ QRx = b ⇔ Rx = ^tQb

(7)

DécompositionQR

Matrices semblables

Conclusion

- p. 3/21

Décomposition QR

A n’est pas forcement carrée (système surdéterminé).

(8)

DécompositionQR

Matrices semblables

Conclusion

Décomposition QR

A n’est pas forcement carrée (système surdéterminé).

La décomposition n’est pas unique.

(9)

DécompositionQR

Matrices semblables

Conclusion

- p. 4/21

Rappel

Définition (Matrice orthogonales) On appelle matrice

orthogonale une matrice dont les colonnes sont orthonormées.

C’est à dire les matrices O telles que :

tOO = I

Les matrices orthogonales sont les matrices de changement de bases orthogonales.

Si O est orthogonale, det(O) = ±1.

Elles ne changent pas la norme associée au produit scalaire :

∀u ∈ IR^m

kOuk = kuk

Le produit de deux matrices orthogonales est une matrice orthogonale :

t(OO^′)OO^′ = ^tO^′^tOOO^′ = I

(10)

DécompositionQR

Matrices semblables

Conclusion

Exemple

Par exemple :

Matrices de rotation,

A = cosθ − sin(θ) sinθ cos(θ)

!

Matrices de permutation,

A =







0 1 0 0 0 1 1 0 0







Matrices de symétrie.

(11)

DécompositionQR

Matrices semblables

Conclusion

- p. 6/21

Intéret

Comme la décomposition LU, cette décomposition transforme une matrice quelconque en produit de matrices plus simples.

A = QR

(12)

DécompositionQR

Matrices semblables

Conclusion

Intéret

A = QR

Une matrice orthogonale est facile à inverser (^tQ = Q⁻¹).

⇒cela peut être utilisé pour la résolution d’équations linéaires : au lieu de résoudre Ax = b, on résout Rx = ^tQb

(13)

DécompositionQR

Matrices semblables

Conclusion

- p. 6/21

Intéret

A = QR

Cela fonctionne pour les matrices rectangulaires

⇒résolution d’équations linéaires surdéterminés (avec plus d’équations que d’inconnues)

(14)

DécompositionQR

Matrices semblables

Conclusion

Intéret

A = QR

Les matrices orthogonales ont de bonnes propriétés :

(15)

DécompositionQR

Matrices semblables

Conclusion

- p. 6/21

Intéret

A = QR

Les matrices orthogonales ont de bonnes propriétés : le déterminant de A est égale à celui de R;

(16)

DécompositionQR

Matrices semblables

Conclusion

Intéret

A = QR

multiplier par une matrice orthogonale ne change pas la norme (Problème des moindres carrés) ;

(17)

DécompositionQR

Matrices semblables

Conclusion

- p. 6/21

On dispose d’une matrice A que l’on veut décomposer en Q orthogonale et R triangulaire supérieure :

A =











 Q











 R

(21)

DécompositionQR

Matrices semblables

Conclusion

- p. 7/21

Le problème

A =











 Q











 R

Le problème est le même que de trouver H orthogonale telle que :

HA = R car Q = ^tH

(22)

DécompositionQR

Matrices semblables

Conclusion

Le problème

A =











 Q











 R

Le problème est le même que de trouver H orthogonale telle que :

HA = R car Q = ^tH

On procède par étapes comme pour le pivot de GAUSS

(23)

Introduction

DécompositionQR

Étape de la décomposition Symétries

Transformation de HOUSEHOLDER

Comment trouveru

Première itération Itérations suivantes Algorithme

Matrices semblables

Conclusion

Décomposition QR - p. 8/21

Décomposition QR

(24)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

Étape de la décomposition

On procède de la même façon que le pivot de G^AUSS

A =











 a_ij .

(25)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

- p. 9/21

Étape de la décomposition

H1A =











 a²_ij .

(26)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

Étape de la décomposition

H2H1A =











 a³_ij .

(27)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

- p. 9/21

Étape de la décomposition

H_n−1 . . . H2H1A =











 . r_ij

(28)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

Étape de la décomposition

H_n−1 . . . H2H1A =











 . r_ij

Mais les matrices H_i sont des matrices orthogonales, donc H_i⁻¹ = ^tH_i

(29)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

- p. 9/21

Étape de la décomposition

H_n−1 . . . H2H1A =











 . r_ij

Alors :

H_n−1 . . . H1A = R

(30)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

Étape de la décomposition

H_n−1 . . . H2H1A =











 . r_ij

Alors :

A = ^t(H_n−1 . . . H1)R

(31)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

- p. 9/21

Étape de la décomposition

H_n−1 . . . H2H1A =











 . r_ij

Alors :

A = ^t(H_n−1 . . . H1)R Q = ^tH1t

H2 . . .^tH_n−1

(32)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

Symétries

Soit a1, a2,. . ., a_n les vecteurs formés par les colonnes de A.

x y

z a1

a2

a3

(33)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

- p. 10/21

Symétries

La matrice H1 doit envoyer le vecteur a1

sur le premier vecteur de la base canonique :

e1 x

y

z a1

a2

a3

e1

(34)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

Symétries

sur le premier vecteur de la base canonique : e1

Pour cela on utilise la symétrie par le plan qui passe entre ces deux vecteurs.

x y

z a1

e1

(35)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

- p. 10/21

Symétries

x y

z a1

e1

(36)

Introduction

DécompositionQR

A quoi ressemble une matrice de symétrie ?

Définition (Matrice de H^OUSEHOLDER) On appelle matrice de HOUSEHOLDER, une matrice de la forme :

H = I − 2u^tu, où u ∈ IRⁿ avec kuk = 1

Toute matrice de HOUSEHOLDER est symétrique et orthogonale.

La matrice de H^OUSEHOLDER est la matrice de la symétrie par rapport à l’hyperplan perpendiculaire à u.

(39)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

- p. 12/21

x y

z a1

e1 H1a1

v

Soit α = ka1k, et v = a1 − αe1, v est perpendiculaire au plan de symétrie.

On peut choisir u = _kvk¹ v

(43)

Introduction

DécompositionQR

Comment trouveru

Matrices semblables

Conclusion

- p. 13/21

Première itération

Pour une étape,

On pose α = ka1k et v = a − αe1

kvk² = ^t(a − αe1)(a − αe1)

= (^ta − α^te1)(a − αe1)

= ^taa − α^te1a − α^tae1 + α²^te1e1

= 2α² − 2α^tae1

En posant β = α² − α^tae1 = ^kvk₂ ²

H1 = I − 2

kvk² v^tv

= I − 1 βv^tv Alors, on pose A² = H1A

(44)

Itérations suivantes

Pour continuer le processus,

On considère la matrice réduite A˜² qui est obtenue en supprimant la première ligne et la première colonne de A².

Alors, on peut appliquer le même processus pour trouver H2 qui envoie la première colonne de A˜² sur e2

On recommence avec A˜², A³ . . . jusqu’à obtenir R = Aⁿ.

A =











 a_ij .

(45)

- p. 14/21

Itérations suivantes











 I − _β¹

1v1tv1 A =











 a²_ij .

(46)

Itérations suivantes











 I − _β¹

1v1tv1 A =













˜ . A²

(47)

- p. 14/21

Itérations suivantes











 h2

1 0 . . . 0 0

... 0











 I − _β¹

1v1tv1 A =











 a³_ij .

(48)

Itérations suivantes











 . . . h_n−1

1 . ..1











 h2

1 0 . . . 0 0

... 0











 I − _β¹

1v1tv1 A =











 . r_ij

(49)

-p.15/21

A lg o ri th m e

Donn ´ees : A

d ´ebut

H ← I

pour k=1,. . ., n-1 faire

α ← v u u t

m

X

i=k

A²_ik

β ← α² − αA_kk

// construction du vecteur v v_k ← A_kk − α

pour i=k+1,. . ., m faire

v_i ← A_ik

pour j=k,. . ., n faire

// Construction de A^k⁺¹ c ← 1

β

m

X

i=k

v_iA_ij

pour i=k,. . ., m faire

A_ij ← A_ij − cv_i

pour j=1,. . ., m faire

// Construction de H = H_k · · ·H2H1

c ← 1 β

m

X

i=k

v_iH_ij

pour i=k,. . ., m faire

H_ij ← H_ij − cv_i

Q ← ^tH

fin

retourner Q, R = A

(50)

Introduction

DécompositionQR

Matrices semblables Valeurs propres de matrices semblables

Algorithme QR Convergence Résumé

Conclusion

B = P⁻¹AP

En effet,

Si A−→v = λ−→v

BP⁻¹−→v = P⁻¹AP P⁻¹−→v

= P⁻¹A−→v

= λP⁻¹−→v

(54)

Introduction

DécompositionQR

Conclusion

Valeurs propres de matrices semblables

B = P⁻¹AP

En effet,

Si A−→v = λ−→v

BP⁻¹−→v = P⁻¹AP P⁻¹−→v

= P⁻¹A−→v

= λP⁻¹−→v

⇒Si on construit une suite de matrices semblables qui tend vers une matrice triangulaire on obtient toutes les valeurs propres

(55)

Introduction

DécompositionQR

Conclusion

Algorithme QR

Pour construire cette suite on utilise la décomposition QR.

Si A = QR avec Q matrice orthogonale et R matrice triangulaire, alors

A^′ = RQ est semblable à A car

tQAQ = ^tQQRQ

= RQ

= A^′

(56)

Introduction

DécompositionQR

Conclusion

Algorithme QR

tQAQ = ^tQQRQ

= RQ

= A^′

On peut donc construire la suite :







A0 = A

Q_k, R_k tel que A_k = Q_kR_k A_k+1 = R_kQ_k

(57)

Introduction

DécompositionQR

Conclusion

Algorithme QR

tQAQ = ^tQQRQ

= RQ

= A^′

On peut donc construire la suite :







A0 = A

Q_k, R_k tel que A_k = Q_kR_k A_k+1 = R_kQ_k

Cette suite tend vers une matrice triangulaire ayant les mêmes valeurs propres que A

(58)

Introduction

DécompositionQR

Conclusion

Convergence

Théorème Si A est une matrice inversible de valeurs propres réelles différentes, la suite de matrice A_k converge vers une

matrice triangulaire supérieure dont la diagonale est constituée des valeurs propres de A

(59)

Introduction

DécompositionQR

Conclusion

Convergence

Idée de la démonstration

Si A_∞ est triangulaire, ses valeurs propres sont sur sa diagonale (preuve par le polynôme caractéristique).

(60)

Introduction

DécompositionQR

Conclusion

Convergence

La suite A_k est une suite de matrices semblables à A donc A_k a les mêmes valeurs propres que A et par continuité, A_∞ aussi.

(61)

Introduction

DécompositionQR

Conclusion

Convergence

La suite A_k est une suite de matrices semblables à A donc A_k a les mêmes valeurs propres que A et par continuité, A_∞ aussi.

On peut montrer par récurrence que

A_k+1 = (^tQ_k . . .^tQ1)A(Q1 . . . Q_k) et A^k = (Q1 . . . Q_k)(R_k . . . R1)

Cette méthode revient à appliquer l’algorithme de la puissance simultanément sur l’espace IRⁿ, E_λ^⊥_n, E_λn ⊕ E_λn−1

⊥

. . .

(62)

Introduction

DécompositionQR

Conclusion

Résumé

La convergence de la méthode QR est basée sur celle de la méthode de la puissance

(63)

Introduction

DécompositionQR

Conclusion

k+1|

pour les matrices quelconques, forme de HESSENBERG (quasi triangulaire)

pour les matrices symétriques, forme tri-diagonale.

ﬁnretourner Q ← H Q,R=A H ← H − cv pour i=k,...,m faire β v c H ← 1 X //Constructionde H = H ··· H H pour j=1,...,m faire A ← A − cv pour i=k,...,m faire β c ← v A 1 X //Constructionde A pour j=k,...,n faire v ← A //constructionduvecteurv pour i=k+1,...,m

Méthode QR

Polytech’Paris-UPMC

Introduction

Décomposition QR

Décomposition QR

Décomposition QR

Décomposition QR

Décomposition QR

Décomposition QR

Rappel

Exemple

Intéret

Intéret

Intéret

Intéret

Intéret

Intéret

Intéret

Intéret

Intéret

Le problème

Le problème

Le problème

Décomposition QR

Étape de la décomposition

Étape de la décomposition

Étape de la décomposition

Étape de la décomposition

Étape de la décomposition

Étape de la décomposition

Étape de la décomposition

Étape de la décomposition

Symétries

Symétries

Symétries

Symétries

Symétries

+

Transformation de H OUSEHOLDER

Transformation de H OUSEHOLDER

Comment trouver u

Comment trouver u

Comment trouver u

Comment trouver u

Première itération

Itérations suivantes

Itérations suivantes

Itérations suivantes

Itérations suivantes

Itérations suivantes

A lg o ri th m e

Matrices semblables

Valeurs propres de matrices semblables

Valeurs propres de matrices semblables

Valeurs propres de matrices semblables

Valeurs propres de matrices semblables

Algorithme QR

Algorithme QR

Algorithme QR

Convergence

Convergence

Convergence

Convergence

Résumé

Résumé

Résumé

Résumé

Résumé

Résumé

Résumé

Résumé

Résumé

Transformation de H ^OUSEHOLDER

Transformation de H ^OUSEHOLDER