Analyse Numérique

Analyse Numérique

Problèmes Pratiques

Méthodes itératives

Introduction ^1/2

 Quel est le point commun entre :

 la résolution d'un système linéaire

par Jacobi

 par Gauss-Seidel

 par relaxation

 le calcul des valeurs propres

 par la puissance itérée

 la résolution d'un système non linéaire

 par Newton

 par Quasi-Newton

Introduction ^2/2

 Réponse = Méthodes itératives !

 On construit une suite u

= g(u

) qui converge vers û la solution du problème

 On peut étudier les propriétés "générales" de ces méthodes :

 convergence

 taux de convergence

 accélération de la convergence

 On peut écrire les méthodes itératives sous la forme :

A x = b avec A = M - N et M régulière

M u_k+1 =N u_k + b u_k+1 =M^-1N u_k + M^-1b u_k+1 =M^-1(M-A) u_k + M^-1b

u_k+1 =(I - M^-1A) u_k + M^-1b

 û solution de A x = b vérifie

û =(I - M^-1A) û + M^-1b

Convergence ^1/3

 Erreur à la k

itération :

ek = û - uk

e_k+1 = (I - M^-1A) u_k + M^-1b - (I - M^-1A) û - M^-1b e_k+1 = (I - M^-1A) e_k = (I - M^-1A)^k e₀

e_k = B^k e₀ avec B = (I - M^-1A)

 Ré-écriture de la suite :

u_k+1 = B u_k + c avec c = M^-1b

Convergence ^2/3

 Théorème :

 la suite u_k converge vers û ssi (B) < 1

 démonstration :

 il faut que e_k converge vers 0 quelque soit e₀

Convergence ^3/3

Taux de convergence ^1/8

 En dimension 1 :

 la suite (u_k) converge vers û

 si l'on arrive à trouver  et  tels que :

 alors la convergence est d'ordre , avec une erreur asymptotique 

  



 



 u û

û lim u

k 1 k k

Taux de convergence ^2/8

 En dimension 1 (suite)

 Cas particuliers :

 si =1, la suite a une convergence linéaire

 si =2, la suite a une convergence quadratique

 En général, plus si  est grand, plus la suite converge vite.

  



 



 u û

û lim u

k 1 k k

Taux de convergence ^3/8

 En dimension 1 (suite)

 Ex d'une suite de limite 0 :

convergence linéaire convergence quadratique

  



 



 u û

û lim u

k 1 k k

5 . u 0

lim u

k 1 k^ 

5 . u 0

u

k 1 k^ 

0 k k

k 0 u (0.5 ) u

u   

5 . u 0

lim u ₂

k 1 k^ 

5 . u 0

u

2 k

1 k^ 

0 1 k 2 k

k 0 u (0.5 ) u

u    ^

1 2 3 4 5 6 7 8 9 10 0

0.1 0.2 0.3 0.4 0.5 0.6 0.7 0.8 0.9 1

Taux de convergence ^4/8

 En dimension 1 (suite)

linéaire quadratique

la convergence linéaire

c'est bien...

la convergence quadratique c'est mieux !

Taux de convergence ^5/8

 En dimension n

 taux de convergence = vitesse à laquelle e_k tend vers 0

 on a e_k = B^k e₀ donc

 Définitions :

  : facteur moyen de réduction de l'erreur

0 k

k B . e

e 

k 0

k k B

e

e 

    B^{k 1/ k}

Taux de convergence ^6/8

 Définitions (suite)

 Rk(B) : taux moyen de convergence pour k itérations

 R(B) : taux de convergence asymptotique

 en effet

k / k 1

k( B ) ln B

R  

) B ( ln )

B (

R    lim B^{k 1/ k} ( B )

k  





Taux de convergence ^7/8

 Application

 combien faut-il d'itérations pour réduire l'erreur d'un facteur  ?

 étape 1 : convergence donc pour k assez grand

 puisque on choisit

 ainsi :

 problème : k dépend de R_k(B)

0 B

ln )

B (

R_k   ^{k 1/ k} 

0 k

k B . e

e  B^k  

 k ln B 1

ln )

B (

R_k   ^{k 1/ k}  

) B ( R k ln

k

 



Taux de convergence ^8/8

 Application (suite)

étape 2 : exprimer k en fonction de R(B)

 donc

 ainsi : soit

 conclusion :

) B ( R k ln

k

 



k k

k ( B ) B

) B

(   

 ( B )  B^{k 1/k}

k / k 1

B ln )

B (

ln  

  ^{R( B )}  ^Rk ^{( B )}

) B ( R k ln





Accélération de la convergence ^1/5

 Principe :

 prendre une méthode itérative de convergence linéaire

 construire une nouvelle suite qui converge plus vite.

 Exemple :

 soit une suite (u_k) de convergence linéaire

 supposons que pour k suffisamment grand,

û u

û u

û u

û u

1 k

2 k k

1 k



 











Accélération de la convergence ^2/5

 Exemple (suite)

 Méthode du 

d'Aitken

 la suite

converge plus vite que la suite originale û

u

û u

û u

û u

1 k

2 k k

1 k



 















 

k 1

k 2

k

2 k 1

k k

1 k k

2 k

2 1 k k

2 k

u u

2 u

u u u

u 2 u

u

u u

û u





 

 



 















 

k 1

k 2

k

2 k 1

k k

k u 2u u

u u u

u~  

 









Accélération de la convergence ^3/5

 En dimension n

 uk+1 = B uk + c

 on va chercher à construire une suite qui converge plus vite que u_k

 en général, on prend :

 avec

 Erreur à la k^ème itération :

 avec

u~k





 ⁿ

0 i

i k i

k a u

u~ ⁿ a^{ } 1

0 i

k

i 



 

0 k

n

0 i k i k

k û u~ a B  P ( B )

   







 ^k _i^{k k}

k(t ) a t

P

Accélération de la convergence ^4/5

 En dimension n (suite)

 pour que la nouvelle suite converge rapidement, il faut que :

[Pk(B)] soit le plus petit possible

P_k(1)=1

 le calcul de la nouvelle suite ne soit pas trop lourd !

 plusieurs méthodes d'accélération :

 méthode de Tchebycheff

 méthode de relaxation symétrique

 ...

  1 a

n 0 i

k

i 



Accélération de la convergence ^5/5

 En dimension n (suite)

 Accélération de Tchébycheff

 si B hermitienne, et si ses valeurs propres [-,]

 alors :

converge vers û

 avec





1 n 1

k Bu~ c u~ u~

u~ _   _   _  _

n 1 2

2 n 2

1

1 4

1 2

1 2

 

 







 



 _

Conclusion

 les méthodes itératives sont très courantes

 propriétés des méthodes itératives

 convergence

 taux de convergence

 accélération de la convergence :

en dimension 1 :

méthode d'Aitken (facile et pas "chère")

 en dimension n :

plusieurs méthodes, mais assez lourdes en calcul

 il faut trouver un compromis

(B) < 1