II.
M ´ ETHODES IT ´ ERATIVES DE R ´ ESOLUTION DE SYST ` EMES LIN ´ EAIRES
Analyse Num´ erique Tronc Commun
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 1
Un exemple
On veut r´esoudre le syst`eme lin´eaire suivant :
2x1− x2= 0
−x1+ 2x2= 3
de solutionx1= 1,x2= 2.
On proc`ede, pour cela, parapproximations successives: On se donne une solution initialex1(0)=12,x2(0)=32. 1eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(1)−x2(0)= 0 donc x1(1)=3 4
On d´eterminex2, `a partir de la 2e´equation, par
−x1(0)+ 2x2(1)= 3 donc x2(1)=7 4
Un exemple
On veut r´esoudre le syst`eme lin´eaire suivant :
2x1− x2= 0
−x1+ 2x2= 3
de solutionx1= 1,x2= 2.
On proc`ede, pour cela, parapproximations successives: On se donne une solution initialex1(0)=12,x2(0)= 32.
1eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(1)−x2(0)= 0 donc x1(1)=3 4
On d´eterminex2, `a partir de la 2e´equation, par
−x1(0)+ 2x2(1)= 3 donc x2(1)=7 4
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 2
Un exemple
On veut r´esoudre le syst`eme lin´eaire suivant :
2x1− x2= 0
−x1+ 2x2= 3
de solutionx1= 1,x2= 2.
On proc`ede, pour cela, parapproximations successives: On se donne une solution initialex1(0)=12,x2(0)= 32. 1eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(1)−x2(0)= 0 donc x1(1)=3 4
On d´eterminex2, `a partir de la 2e´equation, par
−x1(0)+ 2x2(1)= 3 donc x2(1)=7 4
Un exemple
On veut r´esoudre le syst`eme lin´eaire suivant :
2x1− x2= 0
−x1+ 2x2= 3
de solutionx1= 1,x2= 2.
On proc`ede, pour cela, parapproximations successives: On se donne une solution initialex1(0)=12,x2(0)= 32. 1eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(1)−x2(0)= 0 donc x1(1)=3 4
On d´eterminex2, `a partir de la 2e´equation, par
−x1(0)+ 2x2(1)= 3 donc x2(1)=7 4
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 2
2eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(2)−x2(1)= 0 donc x1(2)=7 8
On d´eterminex2, `a partir de la 2e´equation, par
−x1(1)+ 2x2(2)= 3 donc x2(2)=15 8
3eit´eration :
2x1(3)−x2(2)= 0 donc x1(3)= 15 16
−x1(2)+ 2x2(3)= 3 donc x2(3)= 31 16
Ainsi, une bonne approximation est obtenue en 3 it´erations. Nous avons ainsi pr´esent´e la m´ethode deJacobi
2eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(2)−x2(1)= 0 donc x1(2)=7 8
On d´eterminex2, `a partir de la 2e´equation, par
−x1(1)+ 2x2(2)= 3 donc x2(2)=15 8
3eit´eration :
2x1(3)−x2(2)= 0 donc x1(3)= 15 16
−x1(2)+ 2x2(3)= 3 donc x2(3)= 31 16
Ainsi, une bonne approximation est obtenue en 3 it´erations. Nous avons ainsi pr´esent´e la m´ethode deJacobi
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 3
2eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(2)−x2(1)= 0 donc x1(2)=7 8
On d´eterminex2, `a partir de la 2e´equation, par
−x1(1)+ 2x2(2)= 3 donc x2(2)=15 8
3eit´eration :
2x1(3)−x2(2)= 0 donc x1(3)= 15 16
−x1(2)+ 2x2(3)= 3 donc x2(3)= 31 16
Ainsi, une bonne approximation est obtenue en 3 it´erations. Nous avons ainsi pr´esent´e la m´ethode deJacobi
2eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(2)−x2(1)= 0 donc x1(2)=7 8
On d´eterminex2, `a partir de la 2e´equation, par
−x1(1)+ 2x2(2)= 3 donc x2(2)=15 8
3eit´eration :
2x1(3)−x2(2)= 0 donc x1(3)= 15 16
−x1(2)+ 2x2(3)= 3 donc x2(3)= 31 16
Ainsi, une bonne approximation est obtenue en 3 it´erations.
Nous avons ainsi pr´esent´e la m´ethode deJacobi
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 3
2eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(2)−x2(1)= 0 donc x1(2)=7 8
On d´eterminex2, `a partir de la 2e´equation, par
−x1(1)+ 2x2(2)= 3 donc x2(2)=15 8
3eit´eration :
2x1(3)−x2(2)= 0 donc x1(3)= 15 16
−x1(2)+ 2x2(3)= 3 donc x2(3)= 31 16
Ainsi, une bonne approximation est obtenue en 3 it´erations.
Une m´ ethode it´ erative g´ en´ erique
Consid´erons le syst`eme lin´eaire
Ax=b o`uAest une matrice carr´ee d’ordren, inversible.
Supposons que l’on puisse ´ecrire
A=M−N o`uMest une matrice inversible,facile `a inverser. L’´equationAx=bs’´ecrit encoreMx=Nx+b.
´Etant donn´ee une solution initialex(0)∈Rn, on calcule sucessivementx(1),x(2), . . . en r´esolvant successivement :
Mx(1)=Nx(0)+b Mx(2)=Nx(1)+b
. . . .
ou encore
Mx(k+1)=Nx(k)+b k= 0,1, . . .
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 4
Une m´ ethode it´ erative g´ en´ erique
Consid´erons le syst`eme lin´eaire
Ax=b o`uAest une matrice carr´ee d’ordren, inversible.
Supposons que l’on puisse ´ecrire
A=M−N o`uMest une matrice inversible,facile `a inverser.
L’´equationAx=bs’´ecrit encoreMx=Nx+b.
´Etant donn´ee une solution initialex(0)∈Rn, on calcule sucessivementx(1),x(2), . . . en r´esolvant successivement :
Mx(1)=Nx(0)+b Mx(2)=Nx(1)+b
. . . .
ou encore
Mx(k+1)=Nx(k)+b k= 0,1, . . .
Une m´ ethode it´ erative g´ en´ erique
Consid´erons le syst`eme lin´eaire
Ax=b o`uAest une matrice carr´ee d’ordren, inversible.
Supposons que l’on puisse ´ecrire
A=M−N o`uMest une matrice inversible,facile `a inverser.
L’´equationAx=bs’´ecrit encoreMx=Nx+b.
´Etant donn´ee une solution initialex(0)∈Rn, on calcule sucessivementx(1),x(2), . . . en r´esolvant successivement :
Mx(1)=Nx(0)+b Mx(2)=Nx(1)+b
. . . .
ou encore
Mx(k+1)=Nx(k)+b k= 0,1, . . .
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 4
Une m´ ethode it´ erative g´ en´ erique
Consid´erons le syst`eme lin´eaire
Ax=b o`uAest une matrice carr´ee d’ordren, inversible.
Supposons que l’on puisse ´ecrire
A=M−N o`uMest une matrice inversible,facile `a inverser.
L’´equationAx=bs’´ecrit encoreMx=Nx+b.
´Etant donn´ee une solution initialex(0)∈Rn, on calcule sucessivementx(1),x(2), . . . en r´esolvant successivement :
Mx(1)=Nx(0)+b Mx(2)=Nx(1)+b
. . . .
ou encore
Mx(k+1)=Nx(k)+b k= 0,1, . . .
Une m´ ethode it´ erative g´ en´ erique
Consid´erons le syst`eme lin´eaire
Ax=b o`uAest une matrice carr´ee d’ordren, inversible.
Supposons que l’on puisse ´ecrire
A=M−N o`uMest une matrice inversible,facile `a inverser.
L’´equationAx=bs’´ecrit encoreMx=Nx+b.
´Etant donn´ee une solution initialex(0)∈Rn, on calcule sucessivementx(1),x(2), . . . en r´esolvant successivement :
Mx(1)=Nx(0)+b Mx(2)=Nx(1)+b
. . . .
ou encore
Mx(k+1)=Nx(k)+b k= 0,1, . . .
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 4
Convergence
Soitx∈Rn; on d´efinit la norme :
kxk:=Xn
i=1
xi212 .
D´efinition
On dit que la m´ethode it´erative
Mx(k+1)=Nx(k)+b converges’il existe un vecteurx∈Rntel que
k→∞lim kx(k)−xk= 0
pour tout vecteur initialx(0)∈Rn.
Remarquons que si on choisit pourx(0)la solution exacte du syst`eme, alors on a Mx(1)=Nx(0)+b=Mx(0)
CommeMest inversible, on aconvergence en 1 it´eration.
Convergence
Soitx∈Rn; on d´efinit la norme :
kxk:=Xn
i=1
xi212 .
D´efinition
On dit que la m´ethode it´erative
Mx(k+1)=Nx(k)+b converges’il existe un vecteurx∈Rntel que
k→∞lim kx(k)−xk= 0
pour tout vecteur initialx(0)∈Rn.
Remarquons que si on choisit pourx(0)la solution exacte du syst`eme, alors on a Mx(1)=Nx(0)+b=Mx(0)
CommeMest inversible, on aconvergence en 1 it´eration.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 5
Convergence
Soitx∈Rn; on d´efinit la norme :
kxk:=Xn
i=1
xi212 .
D´efinition
On dit que la m´ethode it´erative
Mx(k+1)=Nx(k)+b converges’il existe un vecteurx∈Rntel que
k→∞lim kx(k)−xk= 0
pour tout vecteur initialx(0)∈Rn.
Remarquons que si on choisit pourx(0)la solution exacte du syst`eme, alors on a
CommeMest inversible, on aconvergence en 1 it´eration.
Convergence
Soitx∈Rn; on d´efinit la norme :
kxk:=Xn
i=1
xi212 .
D´efinition
On dit que la m´ethode it´erative
Mx(k+1)=Nx(k)+b converges’il existe un vecteurx∈Rntel que
k→∞lim kx(k)−xk= 0
pour tout vecteur initialx(0)∈Rn.
Remarquons que si on choisit pourx(0)la solution exacte du syst`eme, alors on a Mx(1)=Nx(0)+b=Mx(0)
CommeMest inversible, on aconvergence en 1 it´eration.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 5
Crit` ere de convergence
Quelles sont les conditions surMetNpour que la m´ethode it´erative converge ?
D´efinition
On appellerayon spectraldeA(ρ(A)) la plus grande valeur propre en module,i.e. ρ(A) := max{|λi|; λi valeur propre deA, 1≤i≤n}.
Th´eor`eme La m´ethode it´erative
Mx(k+1)=Nx(k)+b converge si et seulement si
ρ(M−1N)<1.
Crit` ere de convergence
Quelles sont les conditions surMetNpour que la m´ethode it´erative converge ?
D´efinition
On appellerayon spectraldeA(ρ(A)) la plus grande valeur propre en module,i.e.
ρ(A) := max{|λi|; λi valeur propre deA, 1≤i≤n}.
Th´eor`eme La m´ethode it´erative
Mx(k+1)=Nx(k)+b converge si et seulement si
ρ(M−1N)<1.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 6
Crit` ere de convergence
Quelles sont les conditions surMetNpour que la m´ethode it´erative converge ?
D´efinition
On appellerayon spectraldeA(ρ(A)) la plus grande valeur propre en module,i.e.
ρ(A) := max{|λi|; λi valeur propre deA, 1≤i≤n}.
Th´eor`eme La m´ethode it´erative
Mx(k+1)=Nx(k)+b converge si et seulement si
ρ(M−1N)<1.
Remarque
Remarque
On peut ´ecrireMx(k)=Nx(k−1)+b
Donc
x(k)=M−1N x(k−1)+M−1b
=. . . .
= (M−1N)kx(0)+
k−1
X
`=0
(M−1N)`M−1b
Ceci explique le crit`ere de convergence de la m´ethode it´erative.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 7
Remarque
Remarque
On peut ´ecrireMx(k)=Nx(k−1)+b Donc
x(k)=M−1N x(k−1)+M−1b
=. . . .
= (M−1N)kx(0)+
k−1
X
`=0
(M−1N)`M−1b
Ceci explique le crit`ere de convergence de la m´ethode it´erative.
Remarque
Remarque
On peut ´ecrireMx(k)=Nx(k−1)+b Donc
x(k)=M−1N x(k−1)+M−1b
=. . . .
= (M−1N)kx(0)+
k−1
X
`=0
(M−1N)`M−1b
Ceci explique le crit`ere de convergence de la m´ethode it´erative.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 7
Quelques m´ ethodes it´ eratives
On ´ecritAsous la formeA=D+L+U: o`u dij=
(
aij sii=j 0 sinon , `ij=
(
aij sii>j 0 sinon , uij=
(
aij sii<j 0 sinon
Exemple :
a11 a12 a13
a21 a22 a23
a31 a32 a33
=
a11 0 0 0 a22 0 0 0 a33
+
0 0 0
a21 0 0 a31 a32 0
+
0 a12 a13
0 0 a23
0 0 0
M´ethode de Jacobi :
ou encore
xi(k+1)= 1 aii
bi−X
j6=i
aijxj(k)
1≤i≤n siaii6= 0
Quelques m´ ethodes it´ eratives
On ´ecritAsous la formeA=D+L+U: o`u dij=
(
aij sii=j 0 sinon , `ij=
(
aij sii>j 0 sinon , uij=
(
aij sii<j 0 sinon Exemple :
a11 a12 a13
a21 a22 a23
a31 a32 a33
=
a11 0 0 0 a22 0 0 0 a33
+
0 0 0
a21 0 0 a31 a32 0
+
0 a12 a13
0 0 a23
0 0 0
M´ethode de Jacobi :
ou encore
xi(k+1)= 1 aii
bi−X
j6=i
aijxj(k)
1≤i≤n siaii6= 0
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 8
Quelques m´ ethodes it´ eratives
On ´ecritAsous la formeA=D+L+U: o`u dij=
(
aij sii=j 0 sinon , `ij=
(
aij sii>j 0 sinon , uij=
(
aij sii<j 0 sinon Exemple :
a11 a12 a13
a21 a22 a23
a31 a32 a33
=
a11 0 0 0 a22 0 0 0 a33
+
0 0 0
a21 0 0 a31 a32 0
+
0 a12 a13
0 0 a23
0 0 0
M´ethode de Jacobi :
D x +L x +U x =b
ou encore
xi(k+1)= 1 aii
bi−X
j6=i
aijxj(k)
1≤i≤n siaii6= 0
Quelques m´ ethodes it´ eratives
On ´ecritAsous la formeA=D+L+U: o`u dij=
(
aij sii=j 0 sinon , `ij=
(
aij sii>j 0 sinon , uij=
(
aij sii<j 0 sinon Exemple :
a11 a12 a13
a21 a22 a23
a31 a32 a33
=
a11 0 0 0 a22 0 0 0 a33
+
0 0 0
a21 0 0 a31 a32 0
+
0 a12 a13
0 0 a23
0 0 0
M´ethode de Jacobi :
D x(k+1)+L x(k)+U x(k)=b
ou encore
xi(k+1)= 1 aii
bi−X
j6=i
aijxj(k)
1≤i≤n siaii6= 0
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 8
Quelques m´ ethodes it´ eratives
On ´ecritAsous la formeA=D+L+U: o`u dij=
(
aij sii=j 0 sinon , `ij=
(
aij sii>j 0 sinon , uij=
(
aij sii<j 0 sinon Exemple :
a11 a12 a13
a21 a22 a23
a31 a32 a33
=
a11 0 0 0 a22 0 0 0 a33
+
0 0 0
a21 0 0 a31 a32 0
+
0 a12 a13
0 0 a23
0 0 0
M´ethode de Jacobi :
D x(k+1)+L x(k)+U x(k)=b ou encore
x(k+1)= 1 b −X
a x(k)
1≤i≤n sia 6= 0
Ainsi
M x(k+1)=N x(k)+b D x(k+1)=−(L+U)x(k)+b
i.e.
M=D, N=−(L+U)
M´ethode de Gauss–Seidel Reprenons le 1erexemple :
2x1− x2= 0
−x1+ 2x2= 3
de solutionx1= 1,x2= 2, avec la solution initialex1(0)= 12,x2(0)= 32.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 9
Ainsi
M x(k+1)=N x(k)+b D x(k+1)=−(L+U)x(k)+b i.e.
M=D, N=−(L+U)
M´ethode de Gauss–Seidel Reprenons le 1erexemple :
2x1− x2= 0
−x1+ 2x2= 3
de solutionx1= 1,x2= 2, avec la solution initialex1(0)= 12,x2(0)= 32.
Ainsi
M x(k+1)=N x(k)+b D x(k+1)=−(L+U)x(k)+b i.e.
M=D, N=−(L+U)
M´ethode de Gauss–Seidel Reprenons le 1erexemple :
2x1− x2= 0
−x1+ 2x2= 3
de solutionx1= 1,x2= 2, avec la solution initialex1(0)= 12,x2(0)= 32.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 9
1eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(1)−x2(0)= 0 doncx1(1)=3 4
On d´eterminex2, `a partir de la 2e´equation, par
−x1(1)+ 2x2(1)= 3 doncx2(1)=15 8
2eit´eration :
2x1(2)−x2(1)= 0 doncx1(2)=15 16
−x1(2)+ 2x2(2)= 3 doncx2(2)=63 32
Nous approchons ainsi la solution exacte en 2 it´erations
1eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(1)−x2(0)= 0 doncx1(1)=3 4
On d´eterminex2, `a partir de la 2e´equation, par
−x1(1)+ 2x2(1)= 3 doncx2(1)=15 8
2eit´eration :
2x1(2)−x2(1)= 0 doncx1(2)=15 16
−x1(2)+ 2x2(2)= 3 doncx2(2)=63 32
Nous approchons ainsi la solution exacte en 2 it´erations
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 10
1eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(1)−x2(0)= 0 doncx1(1)=3 4
On d´eterminex2, `a partir de la 2e´equation, par
−x1(1)+ 2x2(1)= 3 doncx2(1)=15 8
2eit´eration :
2x1(2)−x2(1)= 0 doncx1(2)=15 16
−x1(2)+ 2x2(2)= 3 doncx2(2)=63 32
Nous approchons ainsi la solution exacte en 2 it´erations
1eit´eration :
On d´eterminex1, `a partir de la 1e´equation, par
2x1(1)−x2(0)= 0 doncx1(1)=3 4
On d´eterminex2, `a partir de la 2e´equation, par
−x1(1)+ 2x2(1)= 3 doncx2(1)=15 8
2eit´eration :
2x1(2)−x2(1)= 0 doncx1(2)=15 16
−x1(2)+ 2x2(2)= 3 doncx2(2)=63 32
Nous approchons ainsi la solution exacte en 2 it´erations
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 10
M´ethode de Gauss–Seidel :
D x +L x +U x =b
ou encore xi(k+1)= 1
aii
bi−X
j<i
aijxj(k+1)−X
j>i
aijxj(k)
1≤i≤n siaii6= 0
Ainsi
M=D+L, N=−U
M´ethode de relaxation
pourω >0.
On retrouve ainsi la m´ethode de Gauss-Seidel pourω= 1.
M´ethode de Gauss–Seidel :
D x(k+1)+L x(k+1)+U x(k)=b
ou encore xi(k+1)= 1
aii
bi−X
j<i
aijxj(k+1)−X
j>i
aijxj(k)
1≤i≤n siaii6= 0
Ainsi
M=D+L, N=−U
M´ethode de relaxation
pourω >0.
On retrouve ainsi la m´ethode de Gauss-Seidel pourω= 1.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 11
M´ethode de Gauss–Seidel :
D x(k+1)+L x(k+1)+U x(k)=b ou encore
xi(k+1)= 1 aii
bi−X
j<i
aijxj(k+1)−X
j>i
aijxj(k)
1≤i≤n siaii6= 0
Ainsi
M=D+L, N=−U
M´ethode de relaxation
pourω >0.
On retrouve ainsi la m´ethode de Gauss-Seidel pourω= 1.
M´ethode de Gauss–Seidel :
D x(k+1)+L x(k+1)+U x(k)=b ou encore
xi(k+1)= 1 aii
bi−X
j<i
aijxj(k+1)−X
j>i
aijxj(k)
1≤i≤n siaii6= 0
Ainsi
M=D+L, N=−U
M´ethode de relaxation
pourω >0.
On retrouve ainsi la m´ethode de Gauss-Seidel pourω= 1.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 11
M´ethode de Gauss–Seidel :
D x(k+1)+L x(k+1)+U x(k)=b ou encore
xi(k+1)= 1 aii
bi−X
j<i
aijxj(k+1)−X
j>i
aijxj(k)
1≤i≤n siaii6= 0
Ainsi
M=D+L, N=−U
M´ethode de relaxation 1
ωD+L
x =
1−ω
ω D−U
x +b
pourω >0.
On retrouve ainsi la m´ethode de Gauss-Seidel pourω= 1.
M´ethode de Gauss–Seidel :
D x(k+1)+L x(k+1)+U x(k)=b ou encore
xi(k+1)= 1 aii
bi−X
j<i
aijxj(k+1)−X
j>i
aijxj(k)
1≤i≤n siaii6= 0
Ainsi
M=D+L, N=−U
M´ethode de relaxation 1
ωD+L
x(k+1)= 1−ω
ω D−U
x(k)+b k= 0,1, . . .
pourω >0.
On retrouve ainsi la m´ethode de Gauss-Seidel pourω= 1.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 11
M´ethode de Gauss–Seidel :
D x(k+1)+L x(k+1)+U x(k)=b ou encore
xi(k+1)= 1 aii
bi−X
j<i
aijxj(k+1)−X
j>i
aijxj(k)
1≤i≤n siaii6= 0
Ainsi
M=D+L, N=−U
M´ethode de relaxation 1
ωD+L
x(k+1)= 1−ω
ω D−U
x(k)+b k= 0,1, . . .
pourω >0.
On retrouve ainsi la m´ethode de Gauss-Seidel pourω= 1.
M´ ethode de Richardson
Pour r´esoudre le syst`emeAx=b, on d´efinit la m´ethode suivante : x(k+1)=x(k)+αkr(k)
o`u
r(k)=b−Ax(k)
est le r´esidu `a l’it´erationk, etαkest un coefficient `a choisir.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 12
Matrices sym´ etriques d´ efinies positives
Th´eor`eme
SoitAune matrice sym´etrique d´efinie positive et soitA=M−Nune d´ecomposition deAo`uMest inversible. On suppose que la matriceMT+Nest sym´etrique d´efinie positive. Alors, la m´ethode it´erativeMx(k+1)=Nx(k)+bconverge.
Corollaire
SiAest sym´etrique d´efinie positive, la m´ethode de relaxation avec0< ω <2 converge.
D´emonstration
Pour la m´ethode de relaxation, on a M= 1
ωD+L, N=1−ω
ω D−U.
CommeAest sym´etrique, on aL=UT. La diagonale deMest celle deD. On en d´eduit queMest inversible puisque les ´el´ementsdiisont positifs. Soit
MT+N= 1
ωD+LT+1−ω
ω D−LT=2−ω
ω D.
Cette matrice diagonale est d´efinie positive si et seulement si0< ω <2.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 14
Corollaire
SiAest sym´etrique d´efinie positive, la m´ethode de relaxation avec0< ω <2 converge.
D´emonstration
Pour la m´ethode de relaxation, on a M= 1
ωD+L, N=1−ω
ω D−U.
CommeAest sym´etrique, on aL=UT. La diagonale deMest celle deD.
On en d´eduit queMest inversible puisque les ´el´ementsdiisont positifs. Soit
MT+N= 1
ωD+LT+1−ω
ω D−LT=2−ω
ω D.
Cette matrice diagonale est d´efinie positive si et seulement si0< ω <2.
Corollaire
SiAest sym´etrique d´efinie positive, la m´ethode de relaxation avec0< ω <2 converge.
D´emonstration
Pour la m´ethode de relaxation, on a M= 1
ωD+L, N=1−ω
ω D−U.
CommeAest sym´etrique, on aL=UT. La diagonale deMest celle deD.
On en d´eduit queMest inversible puisque les ´el´ementsdiisont positifs.
Soit
MT+N= 1
ωD+LT+1−ω
ω D−LT=2−ω
ω D.
Cette matrice diagonale est d´efinie positive si et seulement si0< ω <2.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 14
Corollaire
SiAest sym´etrique d´efinie positive, la m´ethode de relaxation avec0< ω <2 converge.
D´emonstration
Pour la m´ethode de relaxation, on a M= 1
ωD+L, N=1−ω
ω D−U.
CommeAest sym´etrique, on aL=UT. La diagonale deMest celle deD.
On en d´eduit queMest inversible puisque les ´el´ementsdiisont positifs.
Soit
MT+N= 1
ωD+LT+1−ω
ω D−LT=2−ω
ω D.
Cette matrice diagonale est d´efinie positive si et seulement si0< ω <2.
Corollaire
SoitAune matrice sym´etrique d´efinie positive telle que2D−Asoit d´efinie positive.
Alors, la m´ethode de Jacobi converge.
En effet, on aMT+N= 2D−A.
Th´eor`eme
On suppose que la matriceAest sym´etrique d´efinie positive et queαk>0est choisi assez petit. Alors la m´ethode de Richardson converge.
D´emonstration
Pour la m´ethode de Richardson, on a M= 1 αk
I, N= 1 αk
I−A.
Donc
MT+N= 2 αk
I−A.
D’o`u le r´esultat.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 15
Corollaire
SoitAune matrice sym´etrique d´efinie positive telle que2D−Asoit d´efinie positive.
Alors, la m´ethode de Jacobi converge.
En effet, on aMT+N= 2D−A.
Th´eor`eme
On suppose que la matriceAest sym´etrique d´efinie positive et queαk>0est choisi assez petit. Alors la m´ethode de Richardson converge.
D´emonstration
Pour la m´ethode de Richardson, on a M= 1 αk
I, N= 1 αk
I−A.
Donc
MT+N= 2 αk
I−A.
D’o`u le r´esultat.
Corollaire
SoitAune matrice sym´etrique d´efinie positive telle que2D−Asoit d´efinie positive.
Alors, la m´ethode de Jacobi converge.
En effet, on aMT+N= 2D−A.
Th´eor`eme
On suppose que la matriceAest sym´etrique d´efinie positive et queαk>0est choisi assez petit. Alors la m´ethode de Richardson converge.
D´emonstration
Pour la m´ethode de Richardson, on a M= 1 αk
I, N= 1 αk
I−A.
Donc
MT+N= 2 αk
I−A.
D’o`u le r´esultat.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 15
Corollaire
SoitAune matrice sym´etrique d´efinie positive telle que2D−Asoit d´efinie positive.
Alors, la m´ethode de Jacobi converge.
En effet, on aMT+N= 2D−A.
Th´eor`eme
On suppose que la matriceAest sym´etrique d´efinie positive et queαk>0est choisi assez petit. Alors la m´ethode de Richardson converge.
D´emonstration
Pour la m´ethode de Richardson, on a M= 1 αk
I, N= 1 αk
I−A.
Donc
MT+N= 2 α I−A.
Matrices ` a diagonale dominante
D´efinition
On dit qu’une matriceAest `adiagonale dominantesi on a X
j6=i
|aij| ≤ |aii| ∀i= 1, . . . ,n.
On dit qu’elle est`a diagonale strictement dominantesi l’in´egalit´e ci-dessus est stricte.
Th´eor`eme
SoitAune matrice `adiagonale strictement dominante; alorsAest inversible. De plus, les m´ethodes de Jacobi et de Gauss-Seidel convergent.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 16
Matrices ` a diagonale dominante
D´efinition
On dit qu’une matriceAest `adiagonale dominantesi on a X
j6=i
|aij| ≤ |aii| ∀i= 1, . . . ,n.
On dit qu’elle est`a diagonale strictement dominantesi l’in´egalit´e ci-dessus est stricte.
Th´eor`eme
SoitAune matrice `adiagonale strictement dominante; alorsAest inversible. De plus, les m´ethodes de Jacobi et de Gauss-Seidel convergent.
D´ emonstration
Montrons queAest inversible :
Soitx∈Rnavecx6= 0etAx= 0.
Soititel que|xi| ≥ |xj|pour toutj= 1, . . . ,n. aiixi=−X
j6=i
aijxj. Donc
|aii||xi|=
X
j6=i
aijxj ≤X
j6=i
|aij| |xj| ≤ |xi|X
j6=i
|aij|.
Puisquex6= 0, on en d´eduit
|aii| ≤X
j6=i
|aij|.
Impossible ! !DoncAest inversible. Montrons la convergence : On poseB=M−1N.
Soitλune valeur propre deBetxvecteur propre associ´e,i.e. Bx=λx, x6= 0.
Puisque l’on s’int´eresse `a la plus grande valeur propre en module, on supposeλ6= 0. On a ainsi
M−1
λN
x= 0.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 17
D´ emonstration
Montrons queAest inversible : Soitx∈Rnavecx6= 0etAx= 0.
Soititel que|xi| ≥ |xj|pour toutj= 1, . . . ,n. aiixi=−X
j6=i
aijxj. Donc
|aii||xi|=
X
j6=i
aijxj ≤X
j6=i
|aij| |xj| ≤ |xi|X
j6=i
|aij|.
Puisquex6= 0, on en d´eduit
|aii| ≤X
j6=i
|aij|.
Impossible ! !DoncAest inversible. Montrons la convergence : On poseB=M−1N.
Soitλune valeur propre deBetxvecteur propre associ´e,i.e. Bx=λx, x6= 0.
Puisque l’on s’int´eresse `a la plus grande valeur propre en module, on supposeλ6= 0. On a ainsi
M−1
λN
x= 0.
D´ emonstration
Montrons queAest inversible : Soitx∈Rnavecx6= 0etAx= 0.
Soititel que|xi| ≥ |xj|pour toutj= 1, . . . ,n.
aiixi=−X
j6=i
aijxj. Donc
|aii||xi|=
X
j6=i
aijxj ≤X
j6=i
|aij| |xj| ≤ |xi|X
j6=i
|aij|.
Puisquex6= 0, on en d´eduit
|aii| ≤X
j6=i
|aij|.
Impossible ! !DoncAest inversible. Montrons la convergence : On poseB=M−1N.
Soitλune valeur propre deBetxvecteur propre associ´e,i.e. Bx=λx, x6= 0.
Puisque l’on s’int´eresse `a la plus grande valeur propre en module, on supposeλ6= 0. On a ainsi
M−1
λN
x= 0.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 17
D´ emonstration
Montrons queAest inversible : Soitx∈Rnavecx6= 0etAx= 0.
Soititel que|xi| ≥ |xj|pour toutj= 1, . . . ,n.
aiixi=−X
j6=i
aijxj. Donc
|aii||xi|=
X
j6=i
aijxj
≤X
j6=i
|aij| |xj| ≤ |xi|X
j6=i
|aij|.
Puisquex6= 0, on en d´eduit
|aii| ≤X
j6=i
|aij|.
Impossible ! !DoncAest inversible. Montrons la convergence : On poseB=M−1N.
Soitλune valeur propre deBetxvecteur propre associ´e,i.e. Bx=λx, x6= 0.
Puisque l’on s’int´eresse `a la plus grande valeur propre en module, on supposeλ6= 0. On a ainsi
M−1
λN
x= 0.
D´ emonstration
Montrons queAest inversible : Soitx∈Rnavecx6= 0etAx= 0.
Soititel que|xi| ≥ |xj|pour toutj= 1, . . . ,n.
aiixi=−X
j6=i
aijxj. Donc
|aii||xi|=
X
j6=i
aijxj
≤X
j6=i
|aij| |xj| ≤ |xi|X
j6=i
|aij|.
Puisquex6= 0, on en d´eduit
|aii| ≤X
j6=i
|aij|.
Impossible ! !DoncAest inversible. Montrons la convergence : On poseB=M−1N.
Soitλune valeur propre deBetxvecteur propre associ´e,i.e. Bx=λx, x6= 0.
Puisque l’on s’int´eresse `a la plus grande valeur propre en module, on supposeλ6= 0. On a ainsi
M−1
λN
x= 0.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 17
D´ emonstration
Montrons queAest inversible : Soitx∈Rnavecx6= 0etAx= 0.
Soititel que|xi| ≥ |xj|pour toutj= 1, . . . ,n.
aiixi=−X
j6=i
aijxj. Donc
|aii||xi|=
X
j6=i
aijxj
≤X
j6=i
|aij| |xj| ≤ |xi|X
j6=i
|aij|.
Puisquex6= 0, on en d´eduit
|aii| ≤X
j6=i
|aij|.
Impossible ! !DoncAest inversible.
Montrons la convergence : On poseB=M−1N.
Soitλune valeur propre deBetxvecteur propre associ´e,i.e. Bx=λx, x6= 0.
Puisque l’on s’int´eresse `a la plus grande valeur propre en module, on supposeλ6= 0. On a ainsi
M−1
λN
x= 0.
D´ emonstration
Montrons queAest inversible : Soitx∈Rnavecx6= 0etAx= 0.
Soititel que|xi| ≥ |xj|pour toutj= 1, . . . ,n.
aiixi=−X
j6=i
aijxj. Donc
|aii||xi|=
X
j6=i
aijxj
≤X
j6=i
|aij| |xj| ≤ |xi|X
j6=i
|aij|.
Puisquex6= 0, on en d´eduit
|aii| ≤X
j6=i
|aij|.
Impossible ! !DoncAest inversible.
Montrons la convergence :
On poseB=M−1N.
Soitλune valeur propre deBetxvecteur propre associ´e,i.e. Bx=λx, x6= 0.
Puisque l’on s’int´eresse `a la plus grande valeur propre en module, on supposeλ6= 0. On a ainsi
M−1
λN
x= 0.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 17
D´ emonstration
Montrons queAest inversible : Soitx∈Rnavecx6= 0etAx= 0.
Soititel que|xi| ≥ |xj|pour toutj= 1, . . . ,n.
aiixi=−X
j6=i
aijxj. Donc
|aii||xi|=
X
j6=i
aijxj
≤X
j6=i
|aij| |xj| ≤ |xi|X
j6=i
|aij|.
Puisquex6= 0, on en d´eduit
|aii| ≤X
j6=i
|aij|.
Impossible ! !DoncAest inversible.
Montrons la convergence : On poseB=M−1N.
Soitλune valeur propre deBetxvecteur propre associ´e,i.e. Bx=λx, x6= 0.
Puisque l’on s’int´eresse `a la plus grande valeur propre en module, on supposeλ6= 0. On a ainsi
M−1
λN
x= 0.
D´ emonstration
Montrons queAest inversible : Soitx∈Rnavecx6= 0etAx= 0.
Soititel que|xi| ≥ |xj|pour toutj= 1, . . . ,n.
aiixi=−X
j6=i
aijxj. Donc
|aii||xi|=
X
j6=i
aijxj
≤X
j6=i
|aij| |xj| ≤ |xi|X
j6=i
|aij|.
Puisquex6= 0, on en d´eduit
|aii| ≤X
j6=i
|aij|.
Impossible ! !DoncAest inversible.
Montrons la convergence : On poseB=M−1N.
Soitλune valeur propre deBetxvecteur propre associ´e,i.e.
Bx=λx, x6= 0.
Puisque l’on s’int´eresse `a la plus grande valeur propre en module, on supposeλ6= 0. On a ainsi
M−1
λN
x= 0.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 17
D´ emonstration
Montrons queAest inversible : Soitx∈Rnavecx6= 0etAx= 0.
Soititel que|xi| ≥ |xj|pour toutj= 1, . . . ,n.
aiixi=−X
j6=i
aijxj. Donc
|aii||xi|=
X
j6=i
aijxj
≤X
j6=i
|aij| |xj| ≤ |xi|X
j6=i
|aij|.
Puisquex6= 0, on en d´eduit
|aii| ≤X
j6=i
|aij|.
Impossible ! !DoncAest inversible.
Montrons la convergence : On poseB=M−1N.
Soitλune valeur propre deBetxvecteur propre associ´e,i.e.
Bx=λx, x6= 0.
Puisque l’on s’int´eresse `a la plus grande valeur propre en module, on supposeλ6= 0.
Pour la m´ethode de Jacobi, cela devient
D+1 λL+1
λU x= 0.
Soit
C=D+1 λL+1
λU.
Supposons, par contradiction, que|λ| ≥1. On a
|cii|=|aii|>X
j6=i
|aij| ≥ 1
|λ| X
j6=i
|aij|=X
j6=i
|cij|.
On en d´eduit queCest `a diagonale strictement dominante, donc inversible. Donc x= 0.
Ceci est une contradiction avec le fait quexest vecteur propre.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 18
Pour la m´ethode de Jacobi, cela devient
D+1 λL+1
λU x= 0.
Soit
C=D+1 λL+1
λU.
Supposons, par contradiction, que|λ| ≥1. On a
|cii|=|aii|>X
j6=i
|aij| ≥ 1
|λ| X
j6=i
|aij|=X
j6=i
|cij|.
On en d´eduit queCest `a diagonale strictement dominante, donc inversible. Donc x= 0.
Ceci est une contradiction avec le fait quexest vecteur propre.
Pour la m´ethode de Jacobi, cela devient
D+1 λL+1
λU x= 0.
Soit
C=D+1 λL+1
λU.
Supposons, par contradiction, que|λ| ≥1. On a
|cii|=|aii|>X
j6=i
|aij| ≥ 1
|λ|
X
j6=i
|aij|=X
j6=i
|cij|.
On en d´eduit queCest `a diagonale strictement dominante, donc inversible. Donc x= 0.
Ceci est une contradiction avec le fait quexest vecteur propre.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 18
Pour la m´ethode de Jacobi, cela devient
D+1 λL+1
λU x= 0.
Soit
C=D+1 λL+1
λU.
Supposons, par contradiction, que|λ| ≥1. On a
|cii|=|aii|>X
j6=i
|aij| ≥ 1
|λ|
X
j6=i
|aij|=X
j6=i
|cij|.
On en d´eduit queCest `a diagonale strictement dominante, donc inversible. Donc x= 0.
Ceci est une contradiction avec le fait quexest vecteur propre.
Pour la m´ethode de Gauss-Seidel, on pose C=D+L+1
λU.
Ici encore, par contradiction, si|λ| ≥1, on d´eduit
|cii|=|aii|>X
j6=i
|aij|
≥X
j<i
|aij|+ 1
|λ| X
j>i
|aij|=X
j6=i
|cij|.
On obtient encore une contradiction.
Analyse Num´erique Syst`emes lin´eaires : M´ethodes it´eratives 19