Méthodes itératives

Enoncés et corrections : Ana Matos.

Exo7

Méthodes itératives

Exercice 1 Soita∈RetA=





1 a a

a 1 a a a 1





1. Pour qu’elles valeurs dea Aest–elle définie positive ?

2. Pour qu’elles valeurs deala méthode de Gauss–Seidel est–elle convergente ? 3. Ecrire la matriceJde l’itération de Jacobi.

4. Pour qu’elles valeurs deala méthode de Jacobi converge–t–elle ? 5. Ecrire la matriceL1de l’itération de Gauss–Seidel. Calculerρ(L1).

6. Pour quelles valeurs deala méthode de Gauss–Seidel converge–t–elle plus vite que celle de Jacobi ?

[002235]

Exercice 2

SoitAune matrice hermitienne inversible décomposée enA=M−N oùMest inversible. SoitB=I−M⁻¹A la matrice de l’itération :

x_n+1=Bxn+c.

Supposons queM+M^∗−Asoit définie positive.

1. Soitxun vecteur quelconque et on posey=Bx. Montrer l’identité :

(x,Ax)−(y,Ay) = ((x−y),(M+M^∗−A)(x−y)).

2. Supposons queA est définie positive. Soitx6=0 un vecteur propre deB associé à la valeur propreλ, y=Bx=λx. Utiliser l’identité précédente pour montrer que|λ|<1. Que peut–on conclure sur la conver- gence de la méthode ?

3. Supposons maintenant queρ(B)<1. montrer queAest définie positive.

4. SupposonsAdécomposée par points ou par blocs sous la forme

A=D−E−F avecDdéfinie positive.

Montrer que la méthode de relaxation par points ou par blocs pour 0<w<2 converge si et seulement si Aest définie positive.

CorrectionH ^[002236]

Exercice 3

SoitA=I−E−E^∗une matrice carrée d’ordreNoùEest une matrice strictement triangulaire inférieure (ei j=0 pouri6 j). Pour résoudre le systèmeAx=b, on propose la méthode itérative définie par

(I−E)x2k+1 = E^∗x_2k+b (I−E^∗)x_2k+2 = Ex_2k+1+b

1. DéterminerBetcpour que l’on ait :

x_2k+2=Bx_2k+c.

Vérifier queB=M⁻¹NetA=M−NavecM= (I−E)(I−E^∗),N=EE^∗.

2. Montrer queM^∗+N est une matrice définie positive. En déduire une condition nécessaire et suffisante pour la convergence de la méthode.

CorrectionH ^[002237]

Exercice 4

SoientA et Bdeux matrices réelles d’ordre N et a,b deux vecteurs de Rⁿ. On considère les deux itérations suivantes :

x_k+1 = By_k+a

y_k+1 = Ax_k+b k=0,1,· · · (1) avecx₀,y0∈Rⁿdonnés.

1. Déterminer une condition nécessaire et suffisante de convergence des deux suites de vecteurs.

2. Soitz_k= (xk,yk)^T ∈R²ⁿ. Montrer que (1) peut s’écrire z_k+1=Czk+c oùCest une matrice d’ordre 2n. ExpliciterCetc.

3. Montrer queρ²(C) =ρ(AB).

4. On considère maintenant les deux itérations suivantes : x_k+1 = By_k+a

y_k+1 = Ax_k+1+b k=0,1,· · · (2) Donner une condition nécessaire et suffisante de convergence.

Montrer que (2) est équivalent à

z_k+1=Dzk+d oùDest une matrice d’ordre 2N.

Montrer queρ(D) =ρ(AB).

5. Taux de convergence

On appelle taux de convergence asymptotique de la matrice itérativeMle nombre R(M) =−ln(ρ(M))).

On posee^k=x^k−x^∗l’erreur de l’itéré d’ordrek.

(a) Montrer que le nombre d’itérationskpour réduire l’erreur d’un facteurε, i.e., ^ke_ke^k0^kk6εvérifie k> −lnε

R(M). (b) Comparer le taux de convergence des algorithmes (1) et (2).

CorrectionH ^[002238]

Exercice 5

On considère le systèmeAx=bavec

A=













3 1 0 0 0

1 2 1 0 0

0 2 3 1 0

0 0 1 4 3

0 0 0 1 1













(3)

2

1. DécomposerAsous la formeLU et en déduire que (3) admet une solution uniquex^∗.

2. Ecrire l’itération de Gauss–Seidel pour ce système, c’est–à–dire, le système linéaire donnant X_n+1= (xn+1,yn+1,z_n+1,tn+1,u_n+1)en fonction deXn= (xn,yn,zn,tn,un).

3. Pour toutn∈Non posee_n=X_n−x^∗. Montrer qu’il existea∈[0,1[tel que :

∀n∈N ke_n+1k_∞6akenk_∞. En déduire la convergence de la suite.

4. Déterminer la matrice de Gauss–SeidelL1associée àA. CalculerkL1k_∞. En déduire la convergence de (Xn)versx^∗.

5. SoitA∈R^n×nvérifiant la propriété suivante :

|a_{i j}| > ∑j6=i|a_{i j}| i=2,· · ·,n

|a₁₁| > ∑j6=1|a_1j|

et sur chaque ligne deAil existe il existe un terme non nulai jpouri>2 et j<i.

Montrer qu’alors la méthode de Gauss–Seidel converge.

CorrectionH ^[002239]

Retrouver cette fiche et d’autres exercices de maths sur

Correction del’exercice 2N

1. Pour le membre de gauche on obtient

(x,Ax)−(y,Ay) = (x,AM⁻¹Mx) + (M⁻¹Ax,Ax)−(M⁻¹Ax,AM⁻¹Ax) Pour le membre de droite on obtienty=Bx=x−M⁻¹Ax⇒x−y=M⁻¹Axet donc

(x−y,(M+M^∗−A)(x−y)) = (M⁻¹Ax,(M+M^∗−A)M⁻¹Ax) = (M⁻¹Ax,Ax) + (M⁻¹Ax,M^∗M⁻¹Ax)−(M⁻¹Ax,AM⁻¹Ax) Mais

(M⁻¹Ax,M^∗M⁻¹Ax) = (x,(M⁻¹A)^∗M^∗M⁻¹Ax) = (x,AM⁻¹Ax) ce qui fini la démonstration.

2. y=Bx=λx⇒x−y= (1−λ)x. En utilisant l’égalité précédente (x,Ax)−(y,Ay) = (x,Ax)−(λx,A(λx)) = (1− |λ|²)(x,Ax)

(x−y,(M+M^∗−A)(x−y)) = ((1−λ)x,(M+M^∗−A)((1−λ)x)) =|1−λ|²(x,(M+M^∗−A)x) et donc

(1− |λ|²)(x,Ax) =|1−λ|²(x,(M+M^∗−A)x)

λ ne peut pas être=1 car sinony=Bx=x⇔x−M⁻¹Ax=x⇔M⁻¹Ax=0⇔x=0. Doncλ 6=1, M+M^∗−A définie positive,|1−λ|²>0, A définie positive impliquent que 1− |λ|²>0⇔ |λ|<1.

Doncρ(B)<1 et la méthode itérative converge.

3. Démonstration par absurde. Supposons que ce n’est pas vrai :∃x₀6=0 α₀= (x₀,Ax₀)60. Alors la suite xn=Bxn−1=Bⁿx₀tend vers 0 et limαn=lim(xn,Axn) =0

On utilise maintenant la relation de la question 1 avecx=x_n−1ety=Bx_n−1=x_net on obtient αn−1−αn= (xn−1−xn,(M+M^∗−A)(xn−1−xn)>0

sixn−1−xn6=0 (ce qui est vrai car sinonxn−1=xn=Bxn−1etBa une valeur propre=1)

Donc(αn−1−αn)est une suite strictement décroissante convergeant vers 0 avecα0<0. Ceci est impos- sible et doncAest définie positive

4. SoitA=D−E−F la décomposition usuelle deA. CommeAest hermitienne,D=D^∗ etF=E^∗. Pour la méthode de relaxation on aM=D/w−Eet donc

M^∗+M−A=D/w−F+D/w−E−D+E+F=2−w w D

qui est hermitienne. Pour 0<w<2,M^∗+M−Aest définie positive, alors des deux questions précédentes on conclut que la méthode converge ssiAest définie positive.

Correction del’exercice 3N

1. On ax_2k+1= (I−E)⁻¹E^∗x_2k+ (I−E)⁻¹bet donc

x_2k+2= (I−E^∗)⁻¹E(I−E)⁻¹E^∗x_2k+ (I−E^∗)⁻¹E(I−E)⁻¹b+ (I−E^∗)⁻¹b MaisE(I−E)⁻¹= (I−E)⁻¹Eet alors

x_2k+2= (I−E^∗)⁻¹(I−E)⁻¹EE^∗x_2k+ (I−E^∗)⁻¹(I−E)⁻¹(E+I−E)b=M⁻¹Nx_2k+M⁻¹b avec

M= (I−E)(I−E^∗), N=EE^∗, M−N=I−E−E^∗=A

4

2. M^∗+N=I−E−E^∗+2EE^∗et donc

v^∗(M^∗+N)v=kvk²₂−v^∗Ev−v^∗E^∗v+2v^∗EE^∗v=kE^∗vk²₂+ (kvk²₂+kE^∗vk²₂−2Re(v,E^∗v))On a l’in- égalité

−2kvkkE^∗vk6−2|(v,E^∗v)|6−2|Re(v,E^∗v)|

et donc

(kvk₂− kE^∗vk₂)²6kvk²₂+kE^∗vk²₂−2Re(v,E^∗v)⇒ v^∗(M^∗+N)v>kE^∗vk²₂+ (kvk − kE^∗vk₂)²implique que

v^∗(M^∗+N)b=0⇔ kE^∗vk₂=0 etkvk₂=kE^∗vk₂⇔ kvk₂=0

DoncM^∗+Nest définie positive et en appliquant un résultat d’un exercice précédent on conclut que la méthode converge ssiAest définie positive.

Correction del’exercice 4N

1. C’est facile à voir que si (xk)converge versx^∗et(yk)converge versy^∗, alorsx^∗ ety^∗sont solution des systèmes(I−BA)x^∗=Bb+aet(I−AB)y^∗=Aa+b. On a :

x_k+1=B(Axk−1+b) +a=BAx_k−1+Bb+a y_k+1=A(Byk−1+a) +b=ABy_k−1+Aa+b et donc(xk)converge ssiρ(BA)<1 et(yk)converge ssiρ(AB)<1.

2. z_k+1=Cz_k+cavecC=

0 B A 0

,c=

a b

3. Soitλ valeur propre non nulle deCetz= (x,y)^T vecteur propre associé Cz=λz⇔

By=λx

Ax=λy ⇒ABy=λAx=λ²y⇒ λ²est valeur propre deAB.

Soit maintenantα valeur propre deAB⇔ ∃u6=0 : ABu=αu. On poseβ²=αetx=Bu,y=βu C

x y

=

βBu ABu

=

βBu β²u

=β x

y

et doncρ²(C) =ρ(AB) 4. D=

0 B 0 AB

, d=

a Aa+b

. La démonstration deρ(D) =ρ(AB)se fait comme dans la ques- tion précédente.

5. (a) e^k =M^ke⁰⇒ ^ke_ke^k₀^k_k 6kM^kk6ε. Il suffit donc d’avoir kM^kk^1/k6ε^1/k ⇒log(kM^kk^1/k)6 ¹_klogε c’est- à direk> _log(kM^logk^εk^1/k)Mais commeρ(M)6kM^kk^1/k on obtient finalement

k>−logε/R(M) (b) nous avonsρ²(C) =ρ(AB)⇒ρ(C) =p

ρ(AB)etρ(D) =ρ(AB). Doncρ(D)<ρ(C)⇒R(D)>

R(C). Donc on atteint la même réduction d’erreur avec un plus petit nombre d’itérations de la méthode 2)

Correction del’exercice 5N 1.

2. Itération de Gauss-Seidel :(D−E)X_n+1=FXn+bavec

D−E=











 3 1 2

0 2 3

0 0 1 4

0 0 0 1 1













,−F=











 0 1

0 1 0 1

0 3 0













3. en=Xn−X^∗, ,Xn+1= (D−E)⁻¹FXn+ (D−E)⁻¹b, X^∗= (D−E)⁻¹FX^∗+ (D−E)⁻¹b⇒e_n+1= (D−E)⁻¹Fe_n

On obtient alors(D−E)e_n+1= (D−E)⁻¹Fenet si on écrit composante à composante on obtient 3e¹_n+1=−e²_n⇒ |e¹_n+1|6¹₃kenk_∞

e¹_n+1+2e²_n+1=−e³_n⇒ |e²_n+1|6¹₆ke_nk_∞+¹₂ke_nk_∞=²₃ke_nk_∞ 2e²_n+1+3e³_n+1=−e⁴_n⇒ |e³_n+1|6 ²₃²₃ke_nk_∞+¹₃ke_nk_∞=⁷₉ke_nk_∞ e_n+132+4e⁴_n+1=−3e⁵_n⇒ |e⁴_n+1|6¹₄⁷₉ke_nk_∞+³₄ke_nk_∞=³⁴₁₆ke_nk_∞ e⁴_n+1+e⁵_n+1=0⇒ |e⁵_n+1|6 ¹⁷₁₈kenk_∞

et donc

kenk_∞617 18kenk_∞ 4.

(D−E)⁻¹=













1

3 0 0 0 0

−¹₆ ¹₂ 0 0 0

1

9 −¹₃ ¹₃ 0 0

−₃₆¹ ₁₂¹ −₁₂^{1 1}₄ 0

1

36 −₁₂¹ ₁₂¹ −¹₄ 1











 ,

L₁= (D−E)⁻¹F=













0 ¹₃ 0 0 0

0 −¹₆ ¹₂ 0 0

0 ¹₉ −¹₂ ¹₃ 0 0 −₃₆¹ ₁₂¹ −₁₂^{1 3}₄ 0 ₃₆¹ −₁₂¹ ₁₂¹ −³₄













et donckL₁k_∞=max(¹₃,⁴₆,¹⁷₁₈,³²₃₆,³²₃₆) =¹⁷₁₈. On en déduit donc la convergence de(Xn)versX^∗.

6