Alg` ebre et analyse ´ el´ ementaires II Alg` ebre lin´ eaire
Syst` emes lin´ eaires
Nous allons commencer par indiquer une m´ ethode g´ en´ erale de r´ esolution des syst` emes (d’´ equations) lin´ eaires. Vous avez appris dans le secondaire comment r´ esoudre l’´ equation ax = b o` u x est une variable r´ eelle inconnue et a et b des param` etres r´ eels.
En effet, si a = 0 , on sait qu’il n’y a pas de solution en x si b 6= 0 et que tout valeur r´ eelle est solution si b = 0 . Enfin, si a 6= 0 , il existe une seule solution x = b/a .
Nous allons g´ en´ eraliser ce r´ esultat ` a l’´ equation AX = B o` u nous allons pr´ eciser rapidement ce que repr´ esentent A , X et B . Par ailleurs nous remarquerons que la solution est algorithmique (autrement dit il est facile de la transformer en un programme). C’est pourquoi les syst` emes de calcul peuvent r´ esoudre de tels syst` emes d’´ equation et que les syst` emes de calcul formel peuvent comporter des modules d´ edi´ es
`
a l’alg` ebre lin´ eaire.
1 Syst` emes lin´ eaires. Matrices. D´ efinitions g´ en´ erales. Exemples.
D´ efinition. On appelle syst` eme lin´ eaire (de n ´ equations ` a m inconnues) la donn´ ee d’un tableau (` a n lignes et m colonnes) de n × m coefficients scalaires (not´ e a ij o` u i d´ ecrit {1 . . . n} et j d´ ecrit {1 . . . m}) et d’un second membre de n coefficients scalaires b i (i ∈ {1 . . . n}). R´ esoudre ce syst` eme lin´ eaire c’est trouver m scalaires x j tels que
P m
j=1 a 1j x j = b 1
.. . .. .
P m
j=1 a nj x j = b n ou
a 11 x 1 + . . . + a 1m x m = b 1
.. . .. . .. .
a n1 x 1 + . . . + a nm x m = b n .
On parle de syst` eme lin´ eaire homog` ene lorsque tous les coefficients b i sont nuls ou encore, lorsque le vecteur b = (b 1 , . . . , b n ) est nul.
Introduisons alors la notion de matrice afin de simplifier l’´ ecriture des syst` emes lin´ eaires.
D´ efinition. On appelle matrice (` a n lignes et m colonnes) la donn´ ee d’un tableau de n × m scalaires :
a 11 . . . a 1m
.. . .. . a n1 . . . a nm
.
D´ efinition. Soit A une matrice de n lignes et m colonnes. Soit x i la donn´ ee de m scalaires. Nous les noterons en colonne soit X (ayant m lignes). Le produit de la matrice A par la colonne X (` a droite) est une matrice colonne (ayant n lignes) donn´ ee par les formules :
a 11 . . . a 1m
.. . .. . a n1 . . . a nm
x 1
.. . x m
=
P m
j=1 a 1j x j
.. . P m
j=1 a nj x j
.
Autrement dit on multiplie une matrice par une matrice colonne en multipliant, ligne par ligne, chaque
coefficient par le coefficient respectif de la colonne et en ajoutant tous ces produits.
Remarque. Avec ces notations, le syst` eme lin´ eaire introduit plus haut s’´ ecrit
AX = B
o` u B (resp. X) est la matrice colonne (ayant n lignes) (resp. m lignes) associ´ ee au vecteur b (resp.
(x 1 , . . . , x m )).
Remarque. On pourra aussi associer au syst` eme AX = B la matrice (A|B) form´ ee en rajoutant la colonne B ` a la matrice A . On constatera plus loin que cette notation est bien adapt´ ee ` a l’application de la m´ ethode de Gauss.
Remarque. Expliquons pourquoi ces syst` emes sont appel´ es lin´ eaires. Si le vecteur b du second membre est multipli´ e par un scalaire λ non nul, il est imm´ ediat de constater que x 1 , . . . , x m sera solution du syst` eme avec second membre b si et seulement si λx 1 , . . . , λx m est solution du syst` eme avec second membre λb .
De mˆ eme si le second membre b s’´ ecrit comme une somme de deux vecteurs b 1 et b 2 , si y 1 , . . . , y m est solution du syst` eme avec second membre b et si z 1 , . . . , z m est solution du syst` eme avec second membre b 0 alors z 1 + y 1 , . . . , z n + y n est solution du syst` eme avec second membre b .
Ajoutons que (0, . . . , 0) est toujours solution du syst` eme homog` ene.
Nous dirons que l’expression des solutions est lin´ eaire en fonction du second membre.
Remarque. Introduisons la notion de combinaison lin´ eaire. Si le second membre est de la forme λb +µb 0 (c’est ` a dire (λb 1 + µb 0 1 , . . . , λb n + µb 0 n )) et si y 1 , . . . , y m est solution du syst` eme avec second membre b et si z 1 , . . . , z m est solution du syst` eme avec second membre b 0 , alors λy 1 + µz 1 , . . . , λy n + µz n est solution du syst` eme avec second membre λb + µb 0 .
Donnons quelques exemples.
Exemple. Consid´ erons le syst` eme
1 1 1 1
x 1 x 2
= b 1
b 2
.
Soit encore
x 1 + x 2 = b 1 x 1 + x 2 = b 2 .
On cherche (par exemple) quand le vecteur (b 1 , b 2 ) est combinaison lin´ eaire des vecteurs (1, 1) et (1, 1) ! La r´ eponse est donc tr` es simple : soit b 1 = b 2 et l’on a une infinit´ e de solutions (b 1 − x 2 , x 2 ) o` u x 2 est quelconque car, alors les deux ´ equations (de premier membre identique) sont compatibles ; soit b 1 6= b 2 et il n’y a pas de solution (les deux ´ equations ´ etant incompatibles).
Exemple. Consid´ erons le syst` eme
1 1 1 −1
x 1
x 2
= b 1
b 2
.
Soit encore
x 1 + x 2 = b 1
x 1 − x 2 = b 2
.
On cherche (par exemple) quand le vecteur (b 1 , b 2 ) de R 2 est combinaison lin´ eaire des vecteurs (1, 1) et
(1, −1) .
La r´ esolution de ce syst` eme est simple. On peut ainsi remarquer que la variable x 2 s’exprime sim- plement en fonction de x 1 d’apr` es la seconde ´ equation : x 2 = x 1 − b 2 puis reporter dans la premi` ere
´
equation pour arriver au syst` eme ´ equivalent :
x 2 = x 1 − b 2
x 1 + x 1 − b 2 = b 1
d’o` u x 1 = b
1+b 2
2et x 2 = b
1−b 2
2. Dans ce cas notre syst` eme a exactement une (et une seule) solution.
Nous allons voir que ces deux exemples couvrent toutes les situations possibles pour un syst` eme lin´ eaire : absence de solutions, solution unique, infinit´ e de solutions avec param` etres.
Exprimons la m´ ethode dite du pivot de Gauss dans les deux cas qui pr´ ec` edent. Consid´ erons la variable x 1 . Elle apparaˆıt dans les ´ equations avec les coefficients a i1 . Dans nos deux cas a 11 est non nul. En g´ en´ eral, l’un au moins de ces coefficients est sˆ urement non nul (sinon la variable x 1 n’apparaˆıtrait pas).
Quitte ` a intervertir les ´ equations entre elles, on peut donc supposer que a 11 est non nul. Alors la premi` ere
´
equation permet d’exprimer x 1 en fonction des autres variables et l’on peut reporter cette expression dans les n − 1 autres ´ equations qui ne comporteront plus que m − 1 variables (au plus) x 2 , . . . , x m . La m´ ethode dite ”du pivot de Gauss” consiste alors ` a remarquer que l’on peut r´ eit´ erer l’op´ eration : si dans les m − 1 derni` eres ´ equations, apparaˆıt encore une variable avec un coefficient non nul, on choisit une ligne o` u apparaˆıt cette variable et un tel coefficient pour exprimer cette variable en fonction des autres et on reporte dans les autres ´ equations. Sinon on a termin´ e.
Appliquons cela dans nos deux exemples :
x 1 + x 2 = b 1 x 1 + x 2 = b 2 .
Si l’on exprime x 1 ` a l’aide de la premi` ere ´ equation et que l’on reporte, le syst` eme devient x 1 + x 2 = b 1
b 1 = b 2
.
Pour
x 1 + x 2 = b 1 x 1 − x 2 = b 2
il devient
x 1 + x 2 = b 1
b 1 − 2x 2 = b 2 soit encore
x 1 + x 2 = b 1
−2x 2 = −b 1 + b 2 .
2 R´ esolution de syst` emes lin´ eaires. M´ ethode.
Reprenons le syst` eme
P m
j=1 a 1j x j = b 1
.. . .. . P m
j=1 a nj x j = b n
ou
a 11 x 1 + . . . + a 1m x m = b 1
.. . .. . .. .
a n1 x 1 + . . . + a nm x m = b n
ou AX = B .
D´ efinition. M´ ethode (du pivot) de Gauss. On peut transformer un syst` eme lin´ eaire en un syst` eme lin´ eaire ´ equivalent (c’est-` a-dire ayant les mˆ emes solutions) en
— ´ echangeant deux ´ equations (puisqu’il suffit de les ´ echanger ` a nouveau pour retrouver le syst` eme initial) ;
— multipliant une ´ equation par un scalaire non nul (puisqu’il suffit de multiplier cette ´ equation par son inverse pour retrouver le syst` eme initial) ;
— ajouter ` a une ´ equation un multiple quelconque d’un autre ´ equation (puisqu’il suffit alors de lui retrancher ce mˆ eme multiple pour revenir en arri` ere).
Ces op´ erations sont dites ´ el´ ementaires.
Remarque 2.1. L’´ enonc´ e met en ´ evidence que ces trois op´ erations ´ el´ ementaires sont faciles ` a inverser
`
a l’aide d’op´ erations ´ el´ ementaires (´ echanger deux lignes qui viennent d’ˆ etre ´ echang´ ees permet de revenir
`
a l’ordre initial des ´ equations ; multiplier une ´ equation multipli´ ee par un scalaire non nul par l’inverse de ce scalaire non nul permet de retrouver l’´ equation initiale et, enfin, retrancher ` a l’´ equation ` a laquelle vient d’ˆ etre ajout´ e µ-fois une autre ´ equation µ-fois cette derni` ere permet de revenir ` a l’´ equation intiale)
Et c’est exactement cette remarque qui prouve la justesse de la m´ ethode.
Remarque 2.2. En termes d’algorithme, il est ´ egalement tr` es facile de concevoir trois proc´ edures :
— une proc´ edure prenant en entr´ ee un tableau (n lignes et m colonnes), deux entiers (i, k) distincts (et inf´ erieurs ou ´ egaux ` a n) et donnant en sortie le tableau o` u les lignes i et k ont ´ et´ e ´ echang´ ees (les autres lignes restant inchang´ ees) ;
— une proc´ edure prenant en entr´ ee un tableau (n lignes et m colonnes), un entier i (inf´ erieur ou
´ egal ` a n), un scalaire r´ eel non nul λ et donnant en sortie un tableau o` u la ligne i a ´ et´ e multipli´ ee par λ (les autres lignes restant inchang´ ees) ;
— une proc´ edure prenant en entr´ ee un tableau (n lignes et m colonnes), deux entiers (i, k) distincts (et inf´ erieurs ou ´ egaux ` a n), un scalaire µ et donnant en sortie le tableau o` u on a ajout´ e ` a la ligne d’indice k la ligne d’indice i multipli´ ee par µ (les autres lignes restant inchang´ ees).
Th´ eor` eme 1. La m´ ethode (du pivot) de Gauss. Soit AX = B un syst` eme lin´ eaire. Il est ´ equivalent (au sens o` u il admet le mˆ eme ensemble de solutions) ` a un syst` eme (toujours de n ´ equations) dit ´ echelonn´ e c’est ` a dire de la forme
x j
1+ P m
j>j
1u 0 1j x j = b 0 1
.. . .. .
x j
r+ P m
j>j
ru 0 nj x j = b 0 r
0 = b 0 r+1
.. . .. .
0 = b 0 n
.
Les entiers j k , k = 1 . . . r v´ erifient 1 ≤ j 1 < j 2 < . . . < j r ≤ m . Enfin les b 0 i sont des combinaisons lin´ eaires des b i .
Pourquoi un syst` eme lin´ eaire ´ echelonn´ e est-il plus simple ? Examinons-le. Les n−r derni` eres ´ equations ne comportent pas de variables. On parle parfois d’´ equations de compatibilit´ e. Soit tous les scalaires b 0 i (i = r + 1, . . . , n) sont nuls et ces ´ equations sont trivialement v´ erifi´ ees. Soit l’une d’entre elles n’est pas possible et ce syst` eme ne peut avoir de solutions. Dans le cas o` u les ´ equations de compatibilit´ e sont satisfaites, reste donc ` a examiner les r premi` eres ´ equations. On remarque que l’´ equation
x j
r+
m
X
j>j
ru 0 nj x j = b 0 r
permet d’exprimer x j
ren fonction d’un scalaire et (´ eventuellement) une combinaison lin´ eaire de variables
initiales (celles dont l’indice n’est pas de la forme j k ). Plus g´ en´ eralement les variables x j
ks’expriment
´
egalement ainsi puisque, si les variables x j
k0apparaissent, on peut leur substituer leur expression en fonction des autres. On a donc bien r´ esolu le syst` eme ´ echelonn´ e, et par voie de cons´ equence, le syst` eme initial.
Exemple. Reprenons les deux exemples.
Le syst` eme
x 1 + x 2 = b 1
x 1 + x 2 = b 2
devient le syst` eme ´ echelonn´ e suivant :
x 1 + x 2 = b 1
b 1 = b 2
.
On retrouve notre r´ esultat : soit b 1 6= b 2 et il n’y a pas de solution. Soit b 1 = b 2 et il y a une infinit´ e de solutions (b 1 − x 2 , x 2 ) .
Le syst` eme
x 1 + x 2 = b 1
x 1 − x 2 = b 2
devient
x 1 + x 2 = b 1
−2x 2 = −b 1 + b 2
.
Soit une unique solution ( b
1+b 2
2, b
1−b 2
2) .
Montrons le principe de la m´ ethode du pivot de Gauss. Partons du principe que l’on parcourt (par ordre croissant) les colonnes de M . Soit la premi` ere colonne est form´ ee de coefficients dont l’un au moins est non nul (ce qui signifie que la variable x 1 apparaˆıt bien dans le syst` eme), soit on regarde les colonnes jusqu’` a la premi` ere colonne non nulle, disons d’indice j 1 ≥ 1 . Si une telle colonne n’existait pas c’est que la matrice M serait nulle et cette matrice est ´ echelonn´ ee !
Ainsi sur l’exemple
0 0 1 1
0 −1 1 −1
0 1 −1 1
x 1
x 2
x 3
x 4
=
b 1
b 2
b 3
on voit que i 1 = 2 puisque la variable x 1 n’apparaˆıt pas dans le syst` eme.
On va alors parcourir la colonne j 1 coefficient par coefficient (ligne par ligne). On sait qu’il y aura un premier coefficient non nul. On le choisit. Dans notre exemple, il apparaˆıt ` a la ligne 2 . Dans tous les cas, s’il n’apparaˆıt pas en premi` ere ligne, par une op´ eration ´ el´ ementaire (´ echange de la premi` ere ´ equation et de la ligne i 1 o` u apparaˆıt ce premier coefficient non nul), On peut donc supposer que a 1j
1est non nul.
Le syst` eme initial s’´ ecrivait
. . . + 0x j
1−1 + 0x j
1+ . . . + a 1m x m = b 1
.. . .. . .. . .. .
. . . + 0x j
1−1 + 0x j
1+ . . . + a i
1−1,j
1x m = b i
1−1
. . . + 0x j
1−1 + a i
1,j
1x j
1+ . . . + a i
1,m x m = b i
1.. . .. . .. . .. .
. . . + 0x j
1−1 + a n,j
1x j
1+ . . . + a nm x m = b n
et on le remplace par
. . . + 0x j
1−1 + a i
1,j
1x j
1+ . . . + a i
1,m x m = b i
1. . . + 0x j
1−1 + 0x j
1+ . . . + a 2m x m = b 2
.. . .. . .. . .. .
. . . + 0x j
1−1 + 0x j
1+ . . . + a i
1−1,m x m = b i
1−1
. . . + 0x j
1−1 + 0x j
1+ . . . + a 1m x m = b 1
. . . + 0x j
1−1 + a i
1+1,j
1x j
1+ . . . + a i
1+1,m x m = b i
1+1
.. . .. . .. . .. .
. . . + 0x j
1−1 + a n,j
1x j
1+ . . . + a nm x m = b n Dans notre exemple, notre syst` eme devient
0 −1 1 −1
0 0 1 1
0 1 −1 1
x 1
x 2
x 3 x 4
=
b 2
b 1 b 3
.
On peut alors, quitte ` a multiplier par a 1
1j1
, supposer que a 1j
1= 1 (c’est une op´ eration ´ el´ ementaire).
Dans notre exemple :
0 1 −1 1
0 0 1 1
0 1 −1 1
x 1
x 2 x 3 x 4
=
−b 2
b 1 b 3
.
Et notre syst` eme g´ en´ eral devient
. . . + 0x j
1−1 + x j
1+ . . . + a i
1,m x m = a b
i1i1,j1
. . . + 0x j
1−1 + 0x j
1+ . . . + a 2m x m = b 2
.. . .. . .. . .. .
. . . + 0x j
1−1 + 0x j
1+ . . . + a i
1−1,m x m = b i
1−1
. . . + 0x j
1−1 + 0x j
1+ . . . + a 1m x m = b 1
. . . + 0x j
1−1 + a i
1+1,j
1x j
1+ . . . + a i
1+1,m x m = b i
1+1
.. . .. . .. . .. .
. . . + 0x j
1−1 + a n,j
1x j
1+ . . . + a nm x m = b n
.
Alors on remarque que l’on peut retrancher ` a chacune des lignes d’indice I 1 + 1 ` a n la (nouvelle) premi` ere ligne multipli´ ee par a ii,j
1ce qui annule tous les coefficients de x j
1. Ceci est encore une suite d’op´ eration ´ el´ ementaires. Dans notre exemple, on retranchera cette premi` ere ligne ` a la troisi` eme. Soit
0 1 −1 1
0 0 1 1
0 0 0 0
x 1
x 2
x 3
x 4
=
−b 2
b 1
b 3 + b 2
.
Dans le cas g´ en´ eral, notre syst` eme devient
. . . + 0x j
1−1 + x j
1+ . . . + a i
1,m x m = a b
i1i1,j1
. . . + 0x j
1−1 + 0x j
1+ . . . + a 2m x m = b 2
.. . .. . .. . .. .
. . . + 0x j
1−1 + 0x j
1+ . . . + a i
1−1,m x m = b i
1−1 . . . + 0x j
1−1 + 0x j
1+ . . . + a 1m x m = b 1 . . . + 0x j
1−1 + 0x j
1+ . . . + a i
1+1,m x m = b i
1+1 − a
i1 +1a
,j1b
i1i1,j1
.. . .. . .. . .. .
. . . + 0x j
1−1 + 0x j
1+ . . . + a nm x m = b n − a
n,ja
1b
i1i1,j1
.
On recommence alors le processus mais avec le syst` eme extrait
. . . + 0x j
1+ a 2,j
1+1 x j
1+1 + . . . + a 2m x m = b 2
.. . .. . .. . .. .
. . . + 0x j
1+ a i
1−1,j
1+1 x j
1+1 + . . . + a i
1−1,m x m = b i
1−1 . . . + 0x j
1+ a 1,j
1+1 x j
1+1 + . . . + a 1m x m = b 1 . . . + 0x j
1+ a i
1+1,j
1+1 x j
1+1 + . . . + a i
1+1,m x m = b i
1+1 − a
i1 +1a
,j1b
i1i1,j1
.. . .. . .. . .. .
. . . + 0x j
1+ a n,j
1+1 x j
1+1 + . . . + a nm x m = b n − a
n,ja
1b
i1i1,j1