Méthode de la Puissance itérée

(1)

Méthode de la Puissance itérée

Polytech’Paris-UPMC

(2)

Introduction

Un problème de Physique

Le problème

Algorithme de la puissance itérée

Méthode de déflation Méthode de la puissance inverse

Conditions de convergence Conclusion

Introduction

(3)

Un problème de Physique

Considérons un système de deux billes reliées par 3 ressorts

m1 m2

k1 k2 k3

l1 l2 l3

(4)

Un problème de Physique

m1 m2

k1

k2 k3

l1 l2 l3

Position x1(t) x2(t)

Force F1 F2 −F2

F3

Le système doit osciller, mais à quelle fréquence et à quelle amplitude ?

(5)

Un problème de Physique

m1 m2

k1

k2 k3

l1 l2 l3

Position x1(t) x2(t)

Force F1 F2 −F2

F3

Le système doit osciller, mais à quelle fréquence et à quelle amplitude ? D’après les lois de NEWTON

( m1x^′′₁(t) = F1(t) + F2(t) m2x^′′₂(t) = −F2(t) + F3(t)







F1(t) = −k1x1(t)

F2(t) = k2(x2(t) − x1(t)) F3(t) = −k3x2(t)

(6)

Introduction

Un problème de Physique

Le problème

Donc, (

x^′′₁(t) = −^k¹_m⁺₁^k²x1(t) + _m^k²

1x2(t) x^′′₂(t) = _m^k²

2x1(t) − ^k²_m⁺₂^k³F3(t)

Sous forme matricielle :

−

→x ^′′(t) = −A−→x (t) avec A =

k1+k2

m1 −_m^k²₁

−_m^k²₂ ^k²_m⁺₂^k³

!

En cherchant les positions sous la forme x1(t) = C1 cos(ωt) et x2(t) = C2 cos(ωt) on obtient :

A C1

C2

!

= ω² C1

C2

!

Le problème revient donc à chercher C1 6= 0, C2 6= 0 et ω tels que les deux équations ci-dessus soient satisfaites.

Cela revient à chercher les valeurs propres de la matrice A.

(7)

Introduction

Un problème de Physique Le problème

Le problème

Soit une matrice A, répondant à certaines conditions par exemple : A est symétrique, hermitienne

A est diagonalisable

Les valeurs propres de A sont toutes différentes

(8)

Introduction

Le problème

On cherche à obtenir les valeurs propres et les vecteurs propres de A.

(9)

Introduction

Le problème

Méthodes basées sur le polynôme caractéristique

(10)

Introduction

Le problème

Méthodes basées sur le polynôme caractéristique Méthodes basées sur les matrices semblables

(11)

Introduction

Le problème

Méthodes basées sur le polynôme caractéristique Méthodes basées sur les matrices semblables Méthodes itératives

(12)

Introduction

Le problème

Les méthodes itératives sont basées sur une suite de vecteurs (x_k)_k∈IN qui tendent vers un vecteur propre.

(13)

Introduction

Le problème

Les méthodes itératives sont basées sur une suite de vecteurs (x_k)_k∈IN qui tendent vers un vecteur propre.

Comment construire cette suite ?

(14)

Introduction

Principe Principe (suite) Algorithme

Vitesse de Convergence Vitesse de convergence Méthode de déflation Méthode de la puissance inverse

Algorithme de la puissance itérée

(15)

1 2 3 4

−1

−2

−3

−4

1

−1

matrice A = 1,36 0,56 0.14 0.94

!

(16)

1 2 3 4

−1

−2

−3

−4

1

−1

matrice A = 1,36 0,56 0.14 0.94

!

(17)

1 2 3 4

−1

−2

−3

−4

1

−1

matrice A = 1,36 0,56 0.14 0.94

!

dont les vecteurs propres sont : 4

1

!

−1 1

!

(18)

1 2 3 4

−1

−2

−3

−4

1

−1

matrice A = 1,36 0,56 0.14 0.94

!

1

!

de valeur propre 1,5

−1 1

!

(19)

1 2 3 4

−1

−2

−3

−4

1

−1

matrice A = 1,36 0,56 0.14 0.94

!

1

!

−1 1

!

(20)

1 2 3 4

−1

−2

−3

−4

1

−1

matrice A = 1,36 0,56 0.14 0.94

!

1

!

−1 1

!

(21)

1 2 3 4

−1

−2

−3

−4

1

−1

matrice A = 1,36 0,56 0.14 0.94

!

1

!

−1 1

!

(22)

1 2 3 4

−1

−2

−3

−4

1

−1

matrice A = 1,36 0,56 0.14 0.94

!

1

!

−1 1

!

(23)

Principe

Soit la matrice A ∈ M^n,n(IR) dont on cherche les valeurs propres,

supposons que A possède n valeurs propres de modules différents λ1, λ2, . . . , λ_n telles que |λ1| < |λ2| < · · · < |λ_n| et soient −u→1,−→u2, . . . ,−u→_n les vecteurs propres associés

(24)

Principe

Alors, si −x→0 est un vecteur quelconque,

(25)

Principe

−→

x0 = a1−u→1 + a2−u→2 + · · · + a_n−u→_n

(26)

Principe

−→

x0 = a1−u→1 + a2−u→2 + · · · + a_n−u→_n

Supposons que a_n 6= 0,

(27)

Principe

−→

x0 = a1−u→1 + a2−u→2 + · · · + a_n−u→_n

Supposons que a_n 6= 0, on calcule la suite −−→x_k+1 = A−x→_k c’est à dire

(28)

Principe

−→

x0 = a1−u→1 + a2−u→2 + · · · + a_n−u→_n

Supposons que a_n 6= 0, on calcule la suite −−→x_k+1 = A−x→_k c’est à dire −x→_k = A^k−x→0

(29)

Principe

−→

x0 = a1−u→1 + a2−u→2 + · · · + a_n−u→_n

−→

x_k = λ^k₁a1−u→1 + λ^k₂a2−u→2 + · · · + λ^k_na_n−u→_n

(30)

Principe

−→

x0 = a1−u→1 + a2−u→2 + · · · + a_n−u→_n

−→

x_k = λ^k_n

λ1

λn

^k

a1−u→1 + · · · + _λ

n−1

λn

^k

a_n₋1−−−→u_n₋1 + a_n−u→_n

(31)

Principe

−→

x0 = a1−u→1 + a2−u→2 + · · · + a_n−u→_n

−→

x_k = λ^k_n

λ1

λn

^k

a1−u→1 + · · · + _λ

n−1

λn

^k

a_n₋1−−−→u_n₋1 + a_n−u→_n

Or si i 6= n,

λi

λn

^k

→ 0 donc le terme prépondérant devient λ^k_na_n−u→_n

(32)

Principe

−→

x0 = a1−u→1 + a2−u→2 + · · · + a_n−u→_n

−→

x_k = λ^k_n

λ1

λn

^k

a1−u→1 + · · · + _λ

n−1

λn

^k

a_n₋1−−−→u_n₋1 + a_n−u→_n

Or si i 6= n,

λi

λn

^k

→ 0 donc le terme prépondérant devient λ^k_na_n−u→_n

(33)

Introduction

Principe (suite)

Au bout d’un « certain nombre » d’itérations : La plus grande valeur propre est

Le vecteur propre associé est

(34)

Introduction

Principe (suite)

Au bout d’un « certain nombre » d’itérations : La plus grande valeur propre est

Le vecteur propre associé est −u→_n ≃ −x→_k

(35)

Introduction

Principe (suite)

Au bout d’un « certain nombre » d’itérations :

La plus grande valeur propre est |λ_n| ≃ k⁻^x⁻⁻^k+1^→k k⁻^x^→^kk Le vecteur propre associé est −u→_n ≃ −x→_k

(36)

Introduction

Principe (suite)

En pratique :

Si λ_n est grand, il peut y avoir dépassement de capacité

(37)

Introduction

Principe (suite)

En pratique :

⇒On normalise la suite

−

→b_k = −x→_k

k−x→_kk et −−→x_k+1 = A−→b_k

(38)

Introduction

Principe (suite)

En pratique :

⇒On normalise la suite

−

→b_k = −x→_k

k−x→_kk et −−→x_k+1 = A−→b_k

On cherche à obtenir λ_n, pour cela on utilise le produit scalaire :

t−→b_k−−→x_k+1 = ^t−→b_kA−→b_k

≃ λ_n^t−→ b_k−→

b_k

≃ λ_n si les −→

b_k sont normalisés

(39)

Introduction

Algorithme

Donn ´ees : A, −x→0 et ε

d ´ebut

−

→x ← −x→0

λ_anc ← 1; λ ← 0

tant que |λ − λ_anc| > ε ^faire λ_anc ← λ

−

→b ← k^→^→⁻⁻^x^xk

−

→x ← A−→ b λ ← ^t−→

b −→x

retourner λ, b

fin

(40)

Introduction

Algorithme

d ´ebut

−

→x ← −x→0

λ_anc ← 1; λ ← 0

−

→b ← k^→^→⁻⁻^x^xk

−

→x ← A−→ b λ ← ^t−→

b −→x

retourner λ, b

fin

On peut ajouter un test de convergence sur le vecteur pour obtenir un vecteur propre.

(41)

Introduction

Algorithme

d ´ebut

−

→x ← −x→0

λ_anc ← 1; λ ← 0

−

→b ← k^→^→⁻⁻^x^xk

−

→x ← A−→ b λ ← ^t−→

b −→x

retourner λ, b

fin

Ici, on utilise la norme euclidienne k−→x k = √

t−→x −→x pour utiliser une autre norme, il faut changer le calcul de λ :

(42)

Introduction

Algorithme

d ´ebut

−

→x ← −x→0

λ_anc ← 1; λ ← 0

−

→b ← k^→^→⁻⁻^x^xk

−

→x ← A−→ b λ ← ^t−→

b −→x

retourner λ, b

fin

Ici, on utilise la norme euclidienne k−→x k = √

t−→x −→x pour utiliser une autre norme, il faut changer le calcul de λ : λ ←

t−→ b −→x

t−→ b −→

b

(43)

Vitesse de Convergence

−→

x0 = a1−u→1 + a2−u→2 + · · · + a_n−u→_n En normalisant,

−

→b_k = λ^k_n kA^k−→x0k

λ^k₁

λ^k_n a1−u→1 + · · · + λ^k_n−₁

λ^k_n a_n₋1−−−→u_n₋1 + a_n−u→_n

= λ^k_n

kA^k−→x0ka_n−u→_n + λ^k_n kA^k−x→0k

λ^k₁

λ^k_n a1−u→1 + · · · + λ^k_n−₁

λ^k_n a_n−1−−−→u_n−1

Le terme d’erreur le plus important est

λn−1

λn

^k

a_n−−−→u_n−1

(44)

Vitesse de convergence

Par définition, ^|^λⁿ^|

k

k^A^k⁻^x^→⁰k est borné car −→

b_k est de norme 1. Donc il existe C tel que :

−→

b_k − λ^k_n

kA^k−→x0ka_n−u→_n

≤ C

λ^k₁

λ^k_n a1−u→1 + · · · + λ^k_n−₁

λ^k_n a_n−1−−−→u_n−1

≤ C |λ_n−1|^k

|λ_n|^k (ka1−→u1k + ka2−→u2k + ka_n−1−−−→u_n−1k) La convergence dépend donc du rapport entre la plus grande et la deuxième plus grande valeur propre :

|λ_n−1|

|λ_n|

⇒Si les valeurs propres sont très proches, la convergence sera lente

(45)

Introduction

Méthode de déflation Méthode de déflation Méthode de déflation (suite) Utilisation de la méthode Méthode de la puissance inverse

Méthode de déflation

(46)

Méthode de déflation

Comment faire pour trouver la deuxième plus grande valeur propre ?

(47)

Méthode de déflation

Idée : trouver une matrice qui a pour valeurs propres λ1, . . . , λ_n₋1 et 0

(48)

Méthode de déflation

Idée : trouver une matrice qui a pour valeurs propres λ1, . . . , λ_n₋1 et 0 Soient −→u1, . . . ,−u→_n les vecteurs propres de A, ils forment une base de IRⁿ. Il existe alors une base duale −→v1,· · · ,−v→_n telle que

∀i, j ^t−→v_i−→u_j = δ_ij Rappel : δ_ij = 0 si i 6= j, δ_ii = 1

(49)

Méthode de déflation

Alors soit

B = A − λ_n−u→_n^t−v→_n

(50)

Méthode de déflation

Alors soit

B = A − λ_n−u→_n^t−v→_n

∀i ∈ {1,2, . . . , n}

B(−→u_i) = A−→u_i − λ_n−u→_n(^t−v→_n−→u_i)

= λ_i−→u_i − λ_nδ_in−u→_n

=

( 0 si i = n λ_i−→u_i si i 6= n

(51)

Méthode de déflation

Alors soit

B = A − λ_n−u→_n^t−v→_n

∀i ∈ {1,2, . . . , n}

B(−→u_i) = A−→u_i − λ_n−u→_n(^t−v→_n−→u_i)

= λ_i−→u_i − λ_nδ_in−u→_n

=

( 0 si i = n λ_i−→u_i si i 6= n

Donc B a pour valeurs propres λ1, . . . , λ_n−1 et 0 et les mêmes vecteurs propres que A.

(52)

Introduction

Méthode de déflation (suite)

En appliquant la méthode de la puissance itérée à B, on obtient λ_n₋1 et −−−→u_n₋1

(53)

Introduction

Méthode de déflation (suite)

Connaissant λ_n et −u→_n et A, comment trouver le vecteur de la base duale −→v_n ?

(54)

Introduction

Méthode de déflation (suite)

Si A est symétrique,

(55)

Introduction

Méthode de déflation (suite)

Si A est symétrique, les vecteur propres sont orthogonaux donc

−

→v_n = t−u→⁻^un^→ⁿ−u→n.

(56)

Introduction

Méthode de déflation (suite)

−

→v_n = t−u→⁻^un^→ⁿ−u→n.

Sinon, considérons ^tA,

Elle a les mêmes valeurs propres que A.

(57)

Introduction

Méthode de déflation (suite)

−

→v_n = t−u→⁻^un^→ⁿ−u→n.

Soit −→v le vecteur propre associé à λ_n,

t−→v A−→u_i =

(58)

Introduction

Méthode de déflation (suite)

−

→v_n = t−u→⁻^un^→ⁿ−u→n.

t−→v A−→u_i = (^t−→v A) −→u_i

(59)

Introduction

Méthode de déflation (suite)

−

→v_n = t−u→⁻^un^→ⁿ−u→n.

t−→v A−→u_i = (^t−→v A) −→u_i = λ_n^t−→v −→u_i

(60)

Introduction

Méthode de déflation (suite)

−

→v_n = t−u→⁻^un^→ⁿ−u→n.

= ^t−→v (A−→u_i)

(61)

Introduction

Méthode de déflation (suite)

−

→v_n = t−u→⁻^un^→ⁿ−u→n.

= ^t−→v (A−→u_i) = λ_i^t−→v −→u_i

(62)

Introduction

Méthode de déflation (suite)

−

→v_n = t−u→⁻^un^→ⁿ−u→n.

= ^t−→v (A−→u_i) = λ_i^t−→v −→u_i

Donc si i 6= n, ^t−→v −→u_i = 0, la base duale est celle des vecteurs propres de ^tA.

(63)

Introduction

Méthode de déflation (suite)

−

→v_n = t−u→⁻^un^→ⁿ−u→n.

= ^t−→v (A−→u_i) = λ_i^t−→v −→u_i

Donc si i 6= n, ^t−→v −→u_i = 0, la base duale est celle des vecteurs propres de ^tA.

Pour construire la matrice de déflation, il suffit donc de trouver un vecteur propre associé à la plus grande valeur propre de

tA.

(64)

Introduction

Méthode de déflation Méthode de déflation Méthode de déflation (suite) Utilisation de la méthode

Méthode de la puissance inverse

Utilisation de la méthode

La méthode de déflation permet de trouver toutes les valeurs propres de la matrice

Sans les connaître

En obtenant des vecteurs propres Il y a accumulation de l’erreur

La méthode de la puissance donne une approximation de la plus grande valeur propre et du vecteur propre.

La matrice B utilisée n’est pas exactement la bonne.

Il y a dégradation du résultat.

(65)

Introduction

Algorithme de la puissance inverse

Algorithme

Méthode de décalage Exemple d’utilisation Méthode de décalage (fin) Conditions de convergence Conclusion

Méthode de la puissance inverse

(66)

Algorithme de la puissance inverse

Que faire si on recherche la valeur propre de plus petit module ?

(67)

Algorithme de la puissance inverse

Rq : Les valeurs propres de A⁻¹ sont les inverses des valeurs propres de A

(68)

Algorithme de la puissance inverse

Si A est inversible, on applique l’algorithme de la puissance itérée à A⁻¹ :

(69)

Algorithme de la puissance inverse

Si A est inversible, on applique l’algorithme de la puissance itérée à A⁻¹ : On effectue la décomposition P LU de A : P A = LU

(70)

Algorithme de la puissance inverse

soit −→b 0 le vecteur de départ, On construit les suites −→

b _k et λ_k :

(71)

Algorithme de la puissance inverse

b _k et λ_k :

On résout le système LU−→x _k+1 = P−→b _k

(72)

Algorithme de la puissance inverse

b _k et λ_k :

On résout le système LU−→x _k+1 = P−→b _k On pose :

−

→b _k = et λ_k =