Méthodes itératives de résolution d’un système linéaire

Méthodes itératives de résolution d’un système linéaire

Leçons : 157, 162, 226, 233

SoitA∈GL_n(R), b∈Rⁿ. On étudie le systèmeAx =b.

Définition 1

Si (M,N) ∈ GL_n(R)× Mn(R) est tel que A= M −N, on dit que la méthode itérative associée à(M,N)converge si pour toutu₀ ∈Rⁿ, la suite de premier termeu₀ et définie par∀k∈N,u_k+1=M⁻¹(N u_k+b)converge.

Théorème 2

La méthode itérative associée à(M,N)converge si et seulement siρ(M⁻¹N)<1.

Commençons par montrer un lemme : Lemme 3

SoitA∈ Mn(C)," >0. Alors il existe une norme subordonnée||| · ||| telle que|||A|||¶ ρ(A) +".

Démonstration.Comme A est à coefficients dans C, elle est trigonalisable : on se donne donc P inversible et T = (t_{i j})1¶i,j¶n triangulaire supérieure tels queA=P T P⁻¹.

Notons (e₁, . . . ,e_n)la base canonique de Cⁿ. Pour δ > 0, on pose e⁰₁ = δⁱ⁻¹e_i et D_δ = Diag(1,δ,· · ·,δⁿ⁻¹).

On a donc

∀j∈J1,nK,Te⁰_j =δ^j−1Te_j =δ^j−1

j

X

i=1

t_{i j}e_i=X

i=1

δ^j−it_{i j}e⁰_i,

de sorte que

T_δ:=D_δ⁻¹T D_δ=











t₁₁ δt₁₂ . . . δⁿ⁻¹t_1n ... ... . . . (0) ... δt_n−1n

t_nn









 .

On définit pour x ∈Rⁿ,k x k=k(P D_δ)⁻¹x k_∞, et on note||| · |||la norme subordonnée associée. On vérifie aisément que∀B∈ Mn(R),|||B|||=|||(P D_δ)⁻¹BP D_δ|||_∞.

Or (admis ici), pour tout B = (b_{i j})i,j ∈ Mn(R), on a |||B|||_∞ = sup

1¶i¶n

Pn j=1

|b_{i j}|. En choi- sissant δ >0 tel que pour tout 1¶i ¶n−1,

Pn j=i+1

δ^j−i|t_{i j}|¶", on obtient donc, puisque ρ(A) =sup_1¶i¶n|t_ii|,|||A|||=|||T_δ|||_∞¶ρ(A) +".

Démonstration(du théorème).Soitu∈Rⁿtel queAu=b, c’est à direM u=N u+b. Posons e_k=u_k−uen reprenant les notations du théorème. Alors

e_k+1=M⁻¹(N u_k+b)−M⁻¹N u−M⁻¹b=M⁻¹N(u_k−u) =M⁻¹N e_k.

Ainsi, par une récurrence immédiate, ∀k ∈ N,e_k = (M⁻¹N)^ke₀. Dès lors, deux cas se pré- sentent :

Gabriel L^EPETIT 1 ENS Rennes - Université Rennes 1

• Si ρ(M⁻¹N) < 1, on fixe " = 1−ρ(M⁻¹N)

2 et le lemme nous fournit une norme subordonnée||| · |||telle que|||M⁻¹N|||¶ρ(M⁻¹N) +" <1. Donc pour la normek · k associée, on a pour tout k, ke_k k¶|||M⁻¹N|||^k k e₀ kdonc lim

k→+∞e_k =0 si bien que (u_k)kconverge versu.

• Si ρ(M⁻¹N) ¾ 1, soit λ valeur propre complexe de module supérieur ou égal à 1, et ˜u=u˜₁+i˜u₂ un vecteur propre associé. Comme pour tout k, (M⁻¹N)^ku˜=λ^ku, la˜ méthode itérative ne converge pas pouru₀ =u+u˜₁.

Décrivons maintenant quelques cas particuliers de méthodes itératives :

• Méthode de Jacobi :M =Diag(a₁₁, . . . ,a_nn) =DetN=D−A. On noteJ=D⁻¹(D−A)

• Méthode de Gauss-Seidel : M =D−E où D=Diag(a₁₁, . . . ,a_nn)et E =−A_inf, partie triangulaire inférieure stricte deA.N =−A_sup =F. On noteL1= (D−E)⁻¹F.

• Méthode de relaxation : M = D

ω −E etN =1−ω ω D+F, L_ω=

D ω −E

‹−11−ω ω D+F

‹ . Proposition 4

SiAest une matrice tridiagonale,ρ(L1) = (ρ(J))². La méthode de Gauss-Seidel a donc une vitesse de convergence double de celle de la méthode de Jacobi.

Démonstration.Remarque préliminaire : introduisons pourµ6=0 :

A(µ) =











b₁ µ⁻¹c₂ (0) µa₂ b₂ ...

... ... µ⁻¹c_n (0) µa_n b_n











où A=A(1). AlorsA(µ) =Q(µ)A(1)Q(µ)⁻¹ oùQ(µ) =Diag(µ,µ², . . . ,µⁿ), donc detA(µ) = detA(1).

Les valeurs propres deJ sont les racines du polynôme caractéristique p_J(λ) =det(D⁻¹(E+F)−λI),

ce sont aussi celles deq_J(λ) =det(λD−E−F). De même, les valeurs propres de L1 sont les racines de p_L1(λ) =det((D−E)⁻¹F−λI), et celles deq_L1(λ) =det(λD−λE−F).

Mais selon la remarque préliminaire,

∀λ∈C^∗,q_L1(λ²) =det(λ²D−λ²E−F) =λⁿdet(λD−λE−λ⁻¹F) =λⁿdet(λD−E−F) =λⁿq_J(λ). Donc les valeurs propres non nulles deL1 sont les carrés de valeurs propres non nulles de J, ce qui permet de conclure.

Proposition 5

Le rayon spectral deL_ω est strictement supérieur à |ω−1|. La méthode de relaxation ne peut donc converger que siω∈]0, 2[.

Gabriel L^EPETIT 2 ENS Rennes - Université Rennes 1

Démonstration.La matriceL_ω=D ω −E

‹−11−ω ω D+F

‹

est trigonalisable comme pro- duit de matrices trigonalisables et en notantλ1, . . . ,λnses valeurs propres avec multiplicité, on a

Yn i=1

λi=det(L_ω) = det

1−ω ω D+F

‹

det

D ω−E

‹ = Qn

i=1

1−ω ω a_ii Qn

i=1

a_ii ω

= (1−ω)ⁿ.

Doncρ(L_ω)ⁿ ¾|det(L_ω)|=|1−ω|ⁿ de sorte queρ(L_ω)¾|ω−1|.

Remarque. • Par des techniques similaires, on montre que siA est tridiagonale et J a un spectre réel, la méthode de Jacobi et la méthode de relaxation pour 0 < ω <2 convergent ou divergent simultanément. De plus,ω0 = 1

1+p

1−ρ(J)² est un para- mètre de relaxation tel queρ(L_ω0)est minimal.

• En 15 minutes, on peut difficilement faire tout le développement, la dernière propo- sition est là à titre culturel.

Référence :Philippe C^IARLET(1988).Introduction à l’analyse numérique et à l’optimisa- tion. Masson, p. 102

Gabriel L^EPETIT 3 ENS Rennes - Université Rennes 1