Les algorithmes de substitution successives





l₁₁x₁ = c₁

l₂₁x₁ + l₂₂x₂ = c₂ l31x1 + l32x2 + l33x3 = c3

, (Système triangulaire inférieur)

(S₂)







u₁₁x₁ + u₁₂x₂ + u₁₃x₃ = c₁ u₂₂x₂ + u₂₃x₃ = c₂ u₃₃x₃ = c₃ .

(Système triangulaire supérieur)

Chacun des deux systèmes se résout facilement par substitutions successives (à condition que les éléments diagonaux soient non nuls),

(S1)







x₁ = _l^c¹

x2 = (c2−l21x1)/l22

x3 = (c3−l31x1−l32x2)/l33

(S2)







x3 = _u^c³

x2 = (c2−u23x3)/u22

x1 = (c1−u12x2−u13x3)/u33

La technique de substitutions successives s’applique de la même manière aux systèmes triangulaires de néquations àninconnues. Nous présentons maintenant ces algorithmes.

2.2 Les algorithmes de substitution successives

Algorithme 4. Les solutions du système triangulaire inférieur LX=C avec

l_{i j}=0 si i<j, l_ii6=0,

sont données par les relations (x₁= _l^c¹

11, xi= _l¹

ci−∑ⁱ_j=1⁻¹li jxj

, i=2,3, . . . ,n.

UNIV.JEANPAULCALVI.COM/1

Algorithme 5. Les solutions du système triangulaire supérieur U X=C avec

u_{i j}=0 si i>j, u_ii6=0,

sont données par les relations (x_n= _u^cⁿ condition que le système est régulier. Cela provient du fait que le déterminant d’une matrice triangulaire est égal au produit des coefficients sur la diagonale de la matrice.

Théorème 6. La résolution d’un système linéaire triangulaire (supérieur ou inférieur) denéquations àn inconnues par la méthode des substitutions successives nécessiten²opérations élémentaires(+,−,×,÷).

Démonstration. Nous traitons seulement le cas d’un système triangulaire inférieur. Le calcul dex₁requiert 1 opération tandis que pourx_i, 2≤i≤n, nous devons effectueri−1 (+ou−) eti(×ou÷) de sorte que le nombre total d’opérationsN_nest donné par

N_n=1+

Nous indiquons maintenant comme réduire n’importe quel système régulière à un système triangulaire supérieur. Nous décrivons le procédé dans le cas de dimension 3 pour lequel nous pouvons visualiser toutes les étapes.

3.1 Description de l’algorithme dans le cas d’un système de3équations à3inconnues. Notion de pivot

Soit à résoudre le système suivant que nous supposons régulier. Le déterminant de la matrice associée est donc supposé non nul.

S⁽⁰⁾

Attention, nous divisons para11. Cela n’est possible que sia11est non nul. Nous arrivons à

S⁽¹⁾

UNIV.JEANPAULCALVI.COM/1

que nous écrivons encore sous la forme

S⁽¹⁾

Attention, nous divisons cette fois para⁽¹⁾₂₂. La conditiona⁽¹⁾₂₂ 6=est nécessaire. Il vient

S⁽²⁾

Ce dernier système est triangulaire supérieur, nous pouvons donc le résoudre rapidement par substi-tutions successives comme expliqué dans la partie précédente. Il reste à examiner si, et comment, nous pouvons modifier la méthode dans le cas où un des nombres par lesquels nous devons diviser s’avère être égal à 0. Supposons par exemple quea11=0. Nous avons alorsa216=0 oua316=0 sinon la première co-lonne de la matrice du système serait nulle et son déterminant vaudrait 0 ce qui est contraire à l’hypothèse.

Supposons pour fixer les idées quea₂₂6=0, nous permutons alors les lignesL⁽⁰⁾₁ etL⁽⁰⁾₂ et commençons la méthode décrite ci-dessus à partir du système



Dans la deuxième étape, si nécessaire, c’est-à-dire sia⁽¹⁾₂₂ =0, nous pouvons permuter les lignesL⁽¹⁾₂ et L⁽¹⁾₃ de telle sorte que nous diviserons à nouveau par un nombre non nul.

Les nombres par lesquels nous effectuons les divisions dans les diverses étapes de l’algorithme s’ap-pellent lespivots de Gauss. Pour que l’algorithme fonctionne, ces nombres doivent être non nuls, et, pour la précision des calculs, il est préférable qu’ils ne soient pas proches de 0, voir 3.4.

E 92 Résoudre le système suivant en utilisant l’algorithme de Gauss.



UNIV.JEANPAULCALVI.COM/1

3.2 Algorithme de Gauss (sans stratégie de pivot)

Nous décrivons maintenant l’algorithme de Gauss ci-dessus dans le cas d’un système ànéquations etn inconnues. L’énoncé ne suppose pas que le système soit régulier. L’algorithme est muni d’une instruction d’arrêt pour le cas où detA=0.

Algorithme 7 (Notation Ligne). Nous considérons le système linéaire de matrice associéeA

L_k:

∑

j=1

a_{k j}x_j=c_k, k=1,2, . . . ,n

1 Pour j=1, . . . ,n−1faire sauf ordre d’arrêt 1.1 Si a_{i j}=0pour touti≥jalors

AR-RÊT. (Aest non inversible.) Sinon soiti_o=inf{i,a_{i j}6=0}, faire

L_j←−L_i₀ L_i₀ ←−L_j

1.2 Pouri>jfaire L_i←−L_i−a_{i j}

a_{j j}L_j.

2 Résoudre le système (triangulaire) formé des (nouvelles) lignesLipar la méthode des sub-stitutions successives.

Algorithme 8 (Notation Coefficient). Nous considérons le système linéaire de matrice associéeA

L_k:

∑

j=1

a_{k j}x_j=c_k, k=1,2, . . . ,n

1 Pour j=1, . . . ,n−1faire sauf ordre d’arrêt

1.1 Si a_{i j}=0pour touti≥jalors AR-RÊT. (Aest non inversible.)

Sinon soitio=inf{i,ai j6=0}, faire

a_jl←−a_i₀_l pour l≥j a_i₀_l←−a_jl pour l≥j

cj←−ci₀

ci₀ ←−cj

1.2 Pouri>jfaire 1.2.1

mi= a_{i j} a_{j j} c_i←−c_i−m_ic_j. 1.2.2 pourk>jfaire

a_ik←−a_ik−m_ia_jk. 2 Résoudre le système (triangulaire)

∑

i=k

a_kix_i=b_k, k=1,2, . . . ,n

E 93 Méthode de Gauss avec stratégie de pivot.Pour que l’algorithme de Gauss fonctionne, nous avons vu que les pivots (les nombres par lesquels nous divisions au moment de l’élimination des inconnues) doivent être non nuls. L’algorithme donné dans le cours choisit le premier pivot possible (il minimise le nombre de tests à effectuer). Pour des raisons qui seront expliquées au 3.4, c’est généralement une bonne idée de choisir comme pivot non le premier nombre non nuls mais celui dont la valeur absolue est la plus grande.

Modifier l’algorithme de Gauss de telle sorte que le j-ème pivot soit choisi comme ci-dessus.

UNIV.JEANPAULCALVI.COM/1

3.3 Coût de l’algorithme de Gauss

Théorème 9. Le nombreN_nd’opérations élémentaires nécessaires pour résoudre un système linéaire àn équations etninconnues (de déterminant non nul) par la méthode de Gauss est asymptotiquement égal à 2n³/3. On écritN_n∼2n³/3et cela signifielim_n_→_∞ ^Nⁿ

2n³/3=1.

Démonstration. Il découle de l’algorithme (version coefficients) que N_n =

où nous utilisons le théorème 6 pour déterminer le coût de 2 . Ensuite nous avons N_n =

qui se démontre aisément par récurrence surn. Nous avons donc N_n=2

3n³+ ? n²+ ? n+ ?,

où les ? désignent des constantes dont la valeur n’importe pas ici. Il suit que N_n

La méthode de Gauss en principe devrait fournir la solution exacte du système. Dans la pratique, il n’en est pas ainsi dès lors que l’ordren du système n’est plus très petit. Comme nous l’avons expliqué au I.2.4, les calculateurs travaillent (généralement) avec un ensemble fini de nombresFet la plupart des opérations sont effectuées avec une erreur très petite mais non nulle et lorsque le nombre d’opérations est grand, il peut arriver que ces petites erreurs cessent de se cumuler raisonnablement (disons, comme leur somme) pour conduire à des résultats inexploitables. Dans l’algorithme de Gauss 8, les erreurs peuvent se produire dans les calculs

m_i= a_{i j} aj j

et a_ik−m_ia_jk.

UNIV.JEANPAULCALVI.COM/1

Les autres erreurs apparaissent au niveau de la résolution du système triangulaire final. Il y a deux raisons au moins qui font désirer un coefficientm_iassez petit. Comme l’ensembleFutilisé par les calculateurs est formé de nombres qui ne sont pas équidistribués mais sont moins dense pour les très grands nombres, sim_i est très grand il sera représenté par un nombre m_i qui pourra être éloigné dem_i. La seconde raison c’est sim_iest très grand tandis que, ce qui est raisonnable au moins dans les première étapes, les coefficients a_iketa_jksont comparable dans le calcul dea_ik−m_ia_jk, l’apport dea_iktendra à être négligé et, dans le pire des cas,a_ik−m_ia_jkdonnera le même résultat que−m_ia_jkce qui revient à supposer que le coefficienta_ik est nul. Par exemple sia_ik=1,a_jk=2 etm_i=10¹⁰alors le calculateur (ici Scilab) effectuant 1−10¹⁰∗2 retournera−2.000D+10. En choisissant comme pivot le coefficient de plus grande valeur absolue sur la ligne, comme dans le code 11 ci-après et comme suggéré à l’exercice 93 nous nous assurons que les multiplicateursmisont dans[−1,1]ce qui permet éviter le phénomène ci-dessus. Cette stratégie ne constitue certainement pas une panacée et n’empêche pas l’algorithme de Gauss de faillir dans certains cas, ne serait-ce que parce que la supposition que les coefficients sont de grandeurs comparables n’est pas généralement vérifiée. Il existe d’autres stratégies de choix. Nous pouvons par exemple chercher le pivot parmi tous les éléments de la matrice carrée restante (ce qui conduira à une permutation de ligne et une permutation de colonne) mais cette technique augmente considérablement le nombre de tests à effectuer.

Certains ont proposé de comme le plus grand des nombres disponibles sur la ligne et sur la colonne.

3.5 Code et commentaires

Dans le code Scilab ci-dessous, l’algorithme est traduit en choisissant comme pivot, le plus grand, en valeur absolue, des nombres disponibles (sur la ligne)

CodeSCILAB11(Algorithme dee Gauss pour la résolution des systèmes linéaires). Dans le code suivant, nous définissons la fonctiongaussqui possède deux argument,Aetbde la forme indiquée ci-dessous.

(a) Aest une matrice carrée de dimensionnetbest un vecteur colonne de dimensionn. L’ordrenest recherché par l’algorithme.

(b) L’algorithme retourne, lorsque c’est possible, une vecteur colonneX=gauss(A,B)de dimensionnvérifiant AX=b(plus exactement une valeur approchée d’un telX).

(c) L’algorithme prévoit deux sorties d’échec. La première dans où les données fournies sont incompatibles, la seconde lorsque la matriceAest non inversible ou lorsque les pivots, même s’ils sont encore non nuls, de-viennent si petits qu’il est possible de suspecter que la matrice soit non inversible et qui, qu’elle le soit ou non, risqueraient de conduire à des résultats imprécis. La barrière, haute est ici fixée à 10⁻⁶.

La construction est commentée plus bas.

UNIV.JEANPAULCALVI.COM/1

1 f u n c t i o n X= g a u s s ( A , b ) 2 [ n ,m] = s i z e (A ) ;

3 [ nb , mb] = s i z e ( b ) ; 4 TS = 0 ;

5 i f ( o r ( [ ~ ( n==m) , ~ (mb= = 1 ) , ~ ( n== nb ) ] ) = = %T ) t h e n 6 TS = 1 ;

7 e l s e

8 L = [A , b ] ;

9 f o r j = [ 1 : n−1 ] ;

10 [M, k ] = max ( a b s ( L ( j : n , j ) ) ) ; 11 i f (M < 1 0 ^ (−6 ) ) t h e n TS = 2 ;

12 e l s e

13 S=L ( k+ j −1 , : ) ;

14 SS=L ( j , : ) ;

15 L ( j , : ) = S ; 16 L ( k+ j−1 , : ) = SS ;

17 f o r i = j + 1 : n ;

18 L ( i , : ) = c l e a n ( L ( i , : )−( L ( i , j ) / L ( j , j ) ) . * L ( j , : ) ) ;

19 end;

20 end;

21 end;

22 end

23 i f TS==1 t h e n X= ’ EXIT 1 ( d i m e n s i o n s ! ) ’ ;

24 e l s e i f TS==2 t h e n X= ’ EXIT 2 ( m a t r i c e non i n v e r s i b l e ou i n s t a b l e ) ’ 25 e l s e

26 X= z e r o s ( n , 1 ) ;

27 X( n ) = L ( n , n + 1 ) / L ( n , n ) ; 28 f o r s =n−1 :−1 : 1 ;

29 X( s ) = ( 1 / L ( s , s ) ) * ( L ( s , n+1)−sum ( L ( s , s : n ) *X( s : n ) ) ) ;

30 end

31 end

32 e n d f u n c t i o n Commentaire.

(a) La variableT Sest utilisée pour gérer les sorties du calcul. LorsqueT Sprend la valeur 1, les don-nées sont incompatibles, c’est l’EXIT 1, tandis-que lorsT Sprend la valeur 2, c’est que tous les coefficients de la ligne sont trop petits.

(b) Les variablesSetSSsont utilisées pour gérer la permutation des lignes.

(c) A la ligne 10,Mest le maximum etkest l’indice de l’élément maximal. Attention, comme nous cherchons dans une matrice de longueur n−j+1, il faut prendre garde de récupérer l’élément correct dans les lignes suivantes, c’est ce qui explique l’emploi de l’indicek+j−1.

(d) L’instructioncleanégale à 0 des nombres très petits.

Avec une matriceA(et un vecteurb correspondant) d’ordre 200 choisis aléatoirement (avec des élé-ments dans[−1,1]) l’algorithme a retourné en une seconde un vecteurXtel queAX=b+eavec tous les coefficients deeplus petits que 10⁻¹³ en valeurs absolue.

L’EXIT 2 se produit par exemple lorsque A est choisie comme lamatrice de Hilbert d’ordre 20.

Nous sommes ici dans le cas où les coefficients des matrices intermédiaires deviennent de grandeurs très divergentes et la condition|m_i| ≤1 n’interdit pas l’apparition du phénomène de fausse annulation décrit au 3.4. Les matrices de Hilbert ont pour coefficienth_{i j}=1/(−i+j−1). Ce sont des matrices (inversibles) qui sont connues pour être numériquement difficiles à traiter. Elles sont souvent utilisées comme matrices de test pour mettre à l’épreuve les algorithmes d’algèbre linéaire.

UNIV.JEANPAULCALVI.COM/1

§ 4. EXERCICES ET PROBLÈMES

94 Calcul de la puissancek-ième d’une matrice.Toutes les matrices considérées dans cet exercice sont d’ordren(i.e. dansM_n(R).

(a) Calculer le nombre d’opérations nécessaires pour calculer le produitABde deux matrices deM_n(R).

(b) Quel sera le nombre d’opérations pour calculerA^k,k≥2, par récurrence à partir deA^k=A·A^k⁻¹? (c) On reprend le calcul deA^k. Pour simplifier, on se limite au cask=7. Calculer le nombre d’opéra-tions si on écritA⁷= (A²)²·A²·A. Comment généraliser cette méthode pourkquelconque ?

95 Impraticabilité de la méthode de Cramer. Calculer (en fonction den) le nombre d’opérations élémentaires (+,−,×,÷) nécessaires pour résoudre un système linéaire denéquations àninconnues en utilisant les formules de Cramer dans lesquelles on calcule les déterminants par la relation de récurrence

detA=

n i=1

∑

(−1)ⁱ⁺ⁿa_indetA_in,

oùA_inest la matrice obtenue en retirant deAlan-ième colonne et lai-ième ligne ?

Combien de temps prendrait la résolution d’un système linéaire à 50 inconnues et 50 équations si on utilisait un ordinateur capable d’effectuer 10⁹opérations à la seconde ?

96 Calcul de l’inverse d’une matrice triangulaire.SoitU une matricen×ntriangulaire supérieure inversible : on a doncu_{i j}=0 pouri>jetu_ii6=0. On cherche un algorithme donnant la matriceU⁻¹.

(a) Montrer que la matriceU⁻¹est aussi triangulaire supérieure.

(b) On notev_{i j} le coefficient deU⁻¹à l’intersection de lai-ième ligne et j-ième colonne. D’après la première question on av_{i j}=0 dès quei>j. On notev⁽^j)le vecteur(v1j,v2j, . . . ,v_{j j})∈R^j. On connaîtra doncU⁻¹dès qu’on connait lesnvecteursv⁽¹⁾∈R¹,v⁽²⁾∈R², . . . ,v⁽ⁿ⁾∈Rⁿ. On note enfinU⁽^j)la matrices formée des j premières lignes et colonnes deU. Montrer quev⁽^j) est solution du système triangulaire U⁽^j)X=e⁽^j)oùe⁽^j)= (0, . . . ,0,1)∈R^j.

équivalent àⁿ₃³ lorsquen→∞.

97 Exemple d’instabilité de la méthode Gauss.On considère le système suivant 2,28101x+1,61514y=2,76255

1,61514x+1,14365y=1,95611.

Résoudre ce système avec l’algorithme de Gauss en travaillant avec des nombres décimaux comportant un maximum de 8 décimales. La solution de ce système estx=9 ety=−11. Que pensez vous de la précision du résultat ?

98 Un exemple.Estimer le temps nécessaire pour résoudre un système de 10³équations avec la méthode de Gauss sur un ordinateur capable d’effectuer 10⁶opérations à la seconde.

99 Matrices triangulaires creuses. On considère un système linéaire à n équations etn inconnues, n≥4, triangulaire supérieur, de la forme

(4.1)











a₁₁x₁ + a₁₂x₂ + a₁₃x₃ = c₁ a₂₂x₂ + a₂₃x₃ + a₂₄x₄ = c₂

. . .

a_iix_i + a_i,i+1x_i+1 + a_i,i+2x_i+2 = c_i . . .

a_n−_2,n−2x_n−2 + a_n−_2,n−1x_n−1 + a_n−_2,nx_n = c_n−2

a_n−_1,n−1x_n−1 + a_n−_1,nxn = c_n−1

annxn = cn

où les coefficientsa_ii,i=1, . . . ,nsont supposés non nuls.

UNIV.JEANPAULCALVI.COM/1

(a) Écrire l’algorithme de résolution par substitutions successives correspondant à ce cas particulier de matrice triangulaire.

(b) Déterminer, en fonction denle nombre d’opérations élémentaires (+,−,×,÷)employées pour la résolution du système (4.1).

(Sol. 13 p. 130.) 100 Aspect matriciel de l’algorithme de Gauss.On considère le système 3×3 suivant dont on suppose qu’il admet une et une seule solution

S⁽⁰⁾

On rappelle que les systèmesS⁽¹⁾ (resp.S⁽²⁾) obtenus après la première (resp. la seconde ) étape de l’al-gorithme sont donnés par

Hypothèse. On a supposé que les termes par lesquels on divise sont non nuls.

(a) On appelleA=A⁽⁰⁾la matrice du systèmeS⁽⁰⁾,A⁽¹⁾la matrice du systèmeS⁽¹⁾etA⁽²⁾la matrice du

UNIV.JEANPAULCALVI.COM/1

(c) En déduire que l’algorithme de Gauss permet, sous réserve que l’hypothèse ci-dessus soit satisfaite, d’obtenir une factorisation deAde la formeA=LRavecLune matrice triangulaire inférieure etRune matrice triangulaire supérieure.

(d) Expliquer comment un obtiendrait on résultat similaire en partant d’une matricen×n,n≥2. (On expliquera en particulier quelles matrices joueraient le rôle deL₁etL₂dans le casnquelconque.)

(Sol. 14 p. 130.)

On supposera les suitesa,betcdonnées de telle sorte queαine s’annule jamais.

(a) Déterminer en fonction den le nombre d’opérations employées par l’algorithme ci-dessus pour obtenir les deux suitesαetβ.

On définit les matricesLetUà partir des suitesα etβ de la manière suivante :

(4.2) L=

Tous les coefficients deLsont donc nuls excepté i) les coefficients diagonaux qui sont égaux à 1 et ii) les coefficients en dessous de la diagonale données parβ. De la même manière, tous les coefficients de Usont nuls excepté i) les termes de la diagonales qui sont donnés parα et ii) les termes au dessus de la diagonales qui sont donnés parc.

(b) On noteA=L·U. Démontrer que

La matriceAest ditematrice tridiagonale. (Tous les coefficients sont nuls excepté sur la diagonale, et juste au dessus et juste au dessous de la diagonale.)

(c) Montrer que résoudre le systèmeAx=d (d’inconnuexoùd est un vecteur quelconque) est équi-valentà résoudre les systèmesLy=d(d’inconnuey)puis U x=y(d’inconnuex).

(d) Montrer que la résolution du systèmeLy=dpar substitutions nécessite 2(n−1)opérations.

(e) Montrer que la résolution du systèmeU x=ypar substitutions nécessite 3n−2 opérations.

(f) En combien d’opérations en tout (en fonction den) peut-on résoudre un systèmeAx=doùAest une matrice tridiagonale ànlignes etncolonnes ?

UNIV.JEANPAULCALVI.COM/1

(sol. 15 p. 131.) 102 Méthode de Cholesky pour les matrices tridiagonales symétriques.On considère une matrice carréeAd’ordrep≥3 à coefficients réels de la forme

(4.3) A=

Tous les coefficients sont nuls excepté sur la diagonale, et juste au dessus et juste au dessous de la diago-nale. On définit ensuite les réelsd_j(j=1, . . . ,p) et f_j(j=1, . . . ,p−1) par les relations

Ici, on suppose que les nombres dont on prend les racines carrées sont positifs.

(a) Étude d’un exemple. (a) Calculer les nombresd_jet f_jlorsquep=3 et

(b) On traite maintenant le cas général où p est quelconque etA est comme dans l’équation (4.3).

(a) Déterminer le nombre d’opérations nécessaires pour calculer tous les nombresd_jet f_j. Les opérations sont+,−,×,÷et√

(c) En déduire une méthode simple pour résoudre les systèmesAX=Cet déterminer le nombre d’opéra-tions utilisées par cette méthode.

103 Méthode de Jordan.On considère le système S⁽⁰⁾

UNIV.JEANPAULCALVI.COM/1

La première étape est identique à celle de la méthode de Gauss et, sous réserve quea₁₁6=0 elle conduit au système

S⁽¹⁾







a₁₁x₁ + a₁₂x₂ + a₁₃x₃ = c₁ 0 + a⁽¹⁾₂₂x₂ + a⁽¹⁾₂₃x₃ = c⁽¹⁾₂ 0 + a⁽¹⁾₃₂x2 + a⁽¹⁾₃₃x3 = c⁽¹⁾₃ .

(a) Rappeler l’expression dea⁽¹⁾₃₂ en fonction des coefficients du systèmeS⁽⁰⁾.

(b) Montrer qu’en effectuant deux opérations sur les lignes et sous réserve quea⁽¹⁾₂₂ 6=0, le systèmeS⁽¹⁾ est équivalent à un systèmeS⁽²⁾de la forme

S⁽²⁾







a₁₁x₁ + 0 + a⁽²⁾₁₃x₃ = c⁽²⁾₁ 0 + a⁽¹⁾₂₂x₂ + a⁽¹⁾₂₃x₃ = c⁽¹⁾₂ 0 + 0 + a⁽²⁾₃₃x₃ = c⁽²⁾₃ .

et donner l’expression dea⁽²⁾₃₃.

(c) Montrer qu’en effectuant à nouveau deux opérations sur les lignes et sous réserve quea⁽²⁾₃₃ 6=0, le systèmeS⁽²⁾est équivalent à un systèmeS⁽³⁾diagonal de la forme

S⁽³⁾







a11x1 + 0 + 0 = c⁽³⁾₁ 0 + a⁽¹⁾₂₂x₂ + 0 = c⁽³⁾₂ 0 + 0 + a⁽²⁾₃₃x₃ = c⁽²⁾₃ .

et donner l’expression dec⁽³⁾₂ .

(d) Quel est l’intérêt de cet algorithme ? Comment le modifier pour traiter le cas où l’une des hypothèses de coefficients6=0 n’est pas vérifiée ?

(e) Écrire un algorithme (en notation ligne) effectuant le travail ci-dessus dans le cas d’un système linéaire denéquations etninconnues.

104 Algorithme de Cholesky.On étudie une méthode de résolution directe des systèmes linéairesAx= blorsque la matriceApeut s’écrire comme le produit d’une matrice triangulaire par sa transposée. Toutes les définitions et propriétés de la transposée qui pourront être utiles sont indiquées dans l’énoncé.

SiAest la matrice dont le coefficient(i,j)esta_{i j}, la matrice transposée deA, notéeT(A), est la matrice dont le coefficient(i,j)esta_ji, autrement dit(T(A))_{i j}=a_ji: on permute donc le rôle des lignes et des colonnes et lai-ème ligne deAdevient lai-ème colonne deT(A). Par exemple,

siA=





1 0 3

6 2 8

−1 −2 4



alorsT(A) =





1 6 −1 0 2 −2

3 8 4



. On pourra librement utiliser les propriétés suivantes : (a) T(A·B) =T(B)·T(A).

(b) det(T(A)) =det(A).

On remarquera en outre que siDest une matrice diagonale alorsT(D) =D. Plus généralementAet T(A)ont toujours la même diagonale.

UNIV.JEANPAULCALVI.COM/1

A) SoitLune matrice triangulaire inférieure c’est-à-dire de la forme







l₁₁ 0 . . . 0

l21 l22

... . .. . .. 0 l_n1 . . . l_nn₋₁ l_nn





 .

Tous les coefficients sont nuls sauf éventuellement les coefficients sur la diagonale eten dessousde la diagonale. Représenter la matriceT(L). De quel type de matrice s’agit-il ? Que vaut le déterminant deL? H : A partir de maintenant, A désigne une matrice de Mn(R)telle que (a) A est inversible et (b) A= L·T(L)où L est une matrice triangulaire inférieure.

QUESTIONS PRÉLIMINAIRES D’ALGÈBRE LINÉAIRE. B) Montrer queT(A) =A.

C) Montrer que, pourk=1, . . . ,n, on al_kk6=0. (On rappelle que le déterminant d’un produit de matrices est égal au produit des déterminants des matrices).

D) Montrer que siDest une matrice diagonale avec uniquement des 1 ou des−1 sur la diagonale alors on a encoreA=L⁰·T(L⁰)avecL⁰=L·D. En déduire que, sous l’hypothèseH, on peut toujours écrire A=L⁰·T(L⁰)avecL⁰= (l_{i j}⁰)une matrice triangulaire inférieure telle quel_kk⁰ >0 pourk=1, . . .n.

E) Montrer que résoudre le systèmeAx=b est équivalent à résoudre les deux systèmesL(y) =bet T(L)x=y. En combien d’opérations(+,−,×,÷)peut-on résoudre ces deux systèmes ?

F) Montrer que

n k=2

∑

(n−k+1)(k−1) =n(n²−1)

6 .

On pourra librement utiliser le fait que∑ⁿ_j=1⁻¹j²=⁽ⁿ⁻¹⁾ⁿ⁽²ⁿ₆ ⁻¹⁾. L’ALGORITHME.

Dans cette partie, toujours sous l’hypothèseH, nous étudions une méthode, dite de Cholesky, pour déter-minerLtelle que

(4.6) A=L·T(L) et l_kk>0, k=1, . . . ,n.

Les colonnes deLseront déterminées par récurrence.

G) Montrer à l’aide de (4.6), que pourj≤ion aa_{i j}=∑_s=1^j l_isl_js. H) En déduire quel₁₁=√a₁₁puisl_i1=^a_lⁱ¹

11 pouri=2, . . . ,n.

I) On suppose que l’on a construit lesk−1 premières colonnes deL. Montrer, à l’aide de (G), que l_kk=q

a_kk−∑^k_s=1⁻¹l²_ks. J) Montrer

l_ik=a_ik−∑^k_s=1⁻¹l_isl_ks

l_kk , i=k+1, . . . ,n.

K) Appliquer la méthode décrite dans les trois question précédentes pour trouver la matriceLdans le cas où





1 0 1

0 1 0

1 0 2



.

Vérifier que pour la matriceLtrouvée, on a bienA=L·T(L).

UNIV.JEANPAULCALVI.COM/1

NOMBRE D’OPÉRATIONS.

On détermine le nombre d’opérations élémentaires+,−,×,÷et aussi la racine carrée√employées par l’algorithme de Cholesky.

L) Déterminer le nombre de racines carrées puis le nombre de divisions employées par l’algorithme de Cholesky.

M) Montrer que le nombre d’additions-soustractions employées par l’algorithme est égal à ⁿ⁽ⁿ²₆⁻¹⁾. Montrer ensuite que le nombre de multiplications employées par l’algorithme est égal àⁿ⁽ⁿ²₆⁻¹⁾.

N) La méthode de Cholesky pour résoudre le systèmeAx=b sous l’hypothèseHconsiste à déter-miner une matriceLpuis à utiliser utiliser la propriété établie ci-dessus (E). Cette méthode est-elle plus performante que la méthode de Gauss ?

(Sol. 16 p. 132.)

UNIV.JEANPAULCALVI.COM/1

§ 5. NOTES ET COMMENTAIRES

Sur le contenu

Ici, je devais m’adresser à un public qui pouvait n’avoir qu’une connaissance minimale d’algèbre linéaire (opérations sur les matrices, calculs de déterminant) sans pouvoir m’appuyer sur aucun for-malisme vectoriel abstrait. Il était hors de question de parler explicitement de factorisation de matrices.

Il en résulte un traitement très élémentaire de l’algo-rithme de Gauss — mais, selon moi, qui le connaît peut bien se dire en possession de la moitié de l’essentiel de la résolution numérique des systèmes

linéaires. J’ai toujours été agacé par une présenta-tion générale de l’algorithme de Gauss dans lequel le lecteur ne peut que se perdre, ou tout au moins s’assommer, dans les jeux d’indices. C’est la raison pour laquelle j’ai décidé d’expliciter l’algorithme dans le cas d’une matrice d’ordre 3, qui permet vi-sualiser toutes les étapes. L’écriture de l’algorithme général va ensuite de soi, comme j’ai pu le vérifier avec mes étudiants.

Sur les exercices

J’ai proposé quelques développements sous forme d’exercices, le plus important du point de vue des applications concerne celui des matrices tridia-gonales.

UNIV.JEANPAULCALVI.COM/1

Analyse matricielle

§ 1. INTRODUCTION ET AVERTISSEMENT

Pour quantifier les erreurs et analyser la convergence des méthodes d’approximation utilisées dans la résolution des systèmes linéaires, il est nécessaire de se munir des outils adéquates pour mesurer la grandeur des matrices et des vecteurs. Il s’agit, en somme, de choisir l’outil qui prendra le rôle que tient la valeur absolue dans l’analyse des fonctions d’une variable. Cet outil prend le nom denorme. Nous l’appliquerons en particulier à la construction de ce que l’on appelle desméthodes itérativesde résolution

Dans le document ANALYSE NUMÉRIQUE (Page 91-147)