Ceux-ci ne seront pas optimisés a !
B.2 Algèbre linéaire
1
Toute cette partie peut être joyeusement omise par tout Homo sapiens algebra linearis compat-ible. Toutefois une lecture rapide permet de se raraichir la mémoire.
SoitV un espace vectoriel de dimension nien, sur le corpsRdes nombres réels, ou sur le corpsC
2
des nombres complexes. Notons plus généralementK le corpsRouC.
3
B.2.1 Vecteurs
4
Une base deV est un ensembleteee1, eee2, . . . , eeenudenvecteurs linéairement indépendants. Le vecteur
“
n
ř
i“1
vieeei sera représenté par le vecteur colonne
v vv“
¨
˚
˚
˚
˝ v1 v2
...
vn
˛
‹
‹
‹
‚
et on désignera parvvvtetvvv˚ les vecteurs lignes suivants vvvt“`
v1 v2 ¨ ¨ ¨ vn
˘, vvv˚“`
v1 v2 ¨ ¨ ¨ vn
˘ oùαest le nombre complexe conjugué du nombreα.
5
Denition B.14
• Le vecteur lignevvvtest le vecteur transposé du vecteur colonnevvv.
• Le vecteur lignevvv˚ est le vecteur adjoint du vecteur colonnevvv.
Denition B.15
L'applicationx‚,‚y:V ˆV ÑK dénie par xuuu, vvvy “uuut.vvv“vvvt.uuu“
n
ÿ
i“1
uivi, si K“R (B.4)
xuuu, vvvy “uuu˚.vvv“vvv˚.uuu“ xvvv, uuuy “
n
ÿ
i“1
uivi, si K“C (B.5)
est appelée produit scalaire euclidien siK“R, hermitienasiK“C. Pour rappeler la dimension de l'espace, on écrit
xuuu, vvvy “ xuuu, vvvyn.
aLa convention choisie pour le produit scalaire hermitien étant ici : linéarité à droite et semi-linéarité à gauche.
Il est aussi possible de dénir le produit scalaire hermitien par le complexe conjugué de B.5 : xuuu, vvvy “vvv˚.uuu“
n
ÿ
i“1
uivi. Dans ce cas le produit scalaire est une forme sesquilinéaire à droite.
Denition B.16
6
Algèbre linéaire
B.Annexes B.2.AlgèbrelinéaireB.2.2Matrices 183
SoitV est un espace vectoriel muni d'un produit scalaire.
˛ Deux vecteursuuuetvvvsont orthogonaux si xuuu, vvvy “0.
˛ Un vecteurvvv est orthogonal à une partieU deV si
@uuuPU, xuuu, vvvy “0.
On notevvvKU.
˛ Un ensemble de vecteurs tvvv1, vvv2, . . . , vvvkude l'espace V est dit orthonormal si xvvvi, vvvjy “δij, @pi, jq P v1, kw2
oùδij est le symbole de Kronecker : δij “
"
1 sii“j, 0 sii‰j.
1
Denition B.17
Le vecteur nul deKn est représenté par000n ou000 lorsqu'il n'y a pas d'ambiguité.
Denition B.18
SoituuuPKn non nul. On dénit l'opérateur de projection suruuupar projuuupvvvq “ xuuu, vvvy
xuuu, uuuyuuu“ 1
xuuu, uuuyuuuuuu˚vvv, @vvvPKn. (B.6) La matricePuuu“uuuuuu˚ s'appelle la matrice de la projection orthogonale suivant le vecteuruuu.
Proposition B.19: Procédé de Gram-Schmidt
SoittvvviuiPv1,nw une base deKn.On construit successivement les vecteursuuui
uu
ui“vvvi´
i´1
ÿ
k“1
projuuukpvvviq “vvvi´
i´1
ÿ
k“1
xuuuk, vvviy
xuuuk, uuukyuuuk, @iP v1, nw.
Ils forment une base orthogonale deKn et Vectpuuu1, . . . , uuuiq “Vectpvvv1, . . . , vvviq,@iP v1, nw (voir Exercice B.3.5, page 198).
Pour construire une base orthonormaletzzziuiPv1,nw, il sut de normaliser les vecteurs de la base orthogonale:
zzzi “ uuui
xuuui, uuuiy1{2
, @iP v1, nw.
B.2.2 Matrices
2Généralités 3
Une matrice à m lignes et n colonnes est appelée matrice de type pm, nq, et on note Mm,npKq, ou 4 simplement Mm,n , l'espace vectoriel sur le corpsK formé par les matrices de typepm, nq à éléments 5
dansK. 6
Une matrice APMm,npKqd'éléments aij PKest notée A“ paijq1ďiďm,1ďjďn,
le premier indicei correspond aux lignes et le secondj aux colonnes. On désigne parpAqij l'élément de 7
laième ligne et de lajème colonne. On peut aussi le noter ai,j. 8
B.Annexes B.2.AlgèbrelinéaireB.2.2Matrices
Denition B.20
La matrice nulle de Mm,npKq est représentée par Om,n ou O lorsqu'il n'y a pas d'ambiguité. Si m“non peut aussi noterOn cette matrice.
Denition B.21
˛ Soit une matriceAPMm,npCq, on noteA˚PMn,mpCqla matrice adjointe de la matrice A, dénie de façon unique par
xAuuu, vvvym“ xuuu,A˚vvvyn, @uuuPCn, @vvvPCm qui entrainepA˚qij“aji.
˛ Soit une matriceAPMm,npRq, on noteAtPMn,mpRqla matrice transposée de la matrice A, dénie de façon unique par
xAuuu, vvvym“ xuuu,Atvvvyn, @uuuPRn, @vvvPRm qui entrainepAtqij “aji.
Denition B.22
Si APMm,ppKqet BPMp,npKq, leur produit ABPMm,npKqest déni par pABqij “
p
ÿ
k“1
aikbkj,@iP v1, mw, @jP v1, nw. (B.7)
Exercice B.2.1: résultats à savoir
Soient APMm,ppKqet BPMp,npKq,montrer que
pABqt“BtAt, siK“R, (B.8)
pABq˚ “B˚A˚, siK“C (B.9)
Les matrices considérées jusqu'a la n de ce paragraphe sont carrées.
1
Denition B.23
Si A P Mn alors les éléments aii “ pAqii sont appelés éléments diagonaux et les éléments aii“ pAqij, i‰j sont appelés éléments hors-diagonaux.
Denition B.24
On appelle matrice identitée deMn la matrice dont les éléments diagonaux sont tous égals à1 et les éléments hors-diagonaux nulles. On la noteIou encore In et on a
pIqi,j“δij, @pi, jq P v1, nw2.
Algèbre linéaire
B.Annexes B.2.AlgèbrelinéaireB.2.2Matrices 185
Denition B.25
Une matriceAPMn est inversible ou régulière s'il existe une unique matrice deMn,notéeA-1 et appelée matrice inverse de la matriceA, telle que
AA-1“A-1A“I (B.10)
Dans le cas contraire, on dit que la matriceAest singulière ou non inversible.
Exercice B.2.2: résultats à savoir SoientAet Bdeux matrices deMn.Montrer que
AB“I ñ BA“I.
Que peut-on en conclure?
Exercice B.2.3: résultats à savoir
SoientAPMnpKqetBPMnpKqinversibles. Montrer queABinversible et
pAtq-1 “ pA-1qt, siK“R, (B.11)
pA˚q-1 “ pA-1q˚, siK“C. (B.12)
pABq-1 “ B-1A-1 (B.13)
pA-1q-1 “ A (B.14)
Denition B.26 Une matrice carréeAest :
˛ symétrique siAest réelle etA“At,
˛ hermitienne siA“A˚,
˛ normale siAA˚“A˚A,
˛ orthogonale si Aest réelle etAAt“AtA“I,
˛ unitaire siAA˚“A˚A“I,
Proposition B.27
‚ une matrice symétrique ou hermitienne est nécessairement normale.
‚ une matrice orthogonale (resp. unitaire) est nécessairement normale et inversible d'inverseAt (resp. A˚).
Denition B.28
1
B.Annexes B.2.AlgèbrelinéaireB.2.2Matrices
SoitAPMnpCqune matrice hermitienne.
˛ Elle est dénie positive si
xAuuu, uuuy ą0, @uuuPCnzt0u (B.15)
˛ Elle est semi dénie positive si
xAuuu, uuuy ě0, @uuuPCnzt0u (B.16)
1
Exercice B.2.4
SoitAPMn.Que peut-on dire de la matriceAA˚?Et si la matriceAest inversible?
Proposer une technique permettant de générer une matrice semi-dénie positive à partir d'une matrice aléatoire.
Denition B.29
SoitAPMn. La trace d'une matrice carréeA“ paijqest dénie par trpAq “
n
ÿ
i“1
aii.
Denition B.30
Soit Tn le groupe des permutations de l'ensemble t1,2, . . . , nu. A tout élément σ P Tn, on associe la matrice de permutation dePσPMn est dénie par
pPσqi,j “δiσpjq.
Exercice B.2.5: résultats à savoir
Montrer qu'une matrice de permutation est orthogonale.
Denition B.31
Soient A“ pai,jqni,j“1 PMn et Tn le groupe des permutations de l'ensemble t1,2, . . . , nu.. Le déterminant d'une matrice Aest déni par
detpAq “ ÿ
σPTn
εσ
n
ź
j“1
aσpjqj
oùεσ désigne la signature de la permutationσ.
Proposition B.32: Méthode de Laplace ou des coacteurs
2
Algèbre linéaire
B.Annexes B.2.AlgèbrelinéaireB.2.2Matrices 187
SoitA“ pai,jqni,j“1PMn.On noteAri,jsPMn´1 la matrice obtenue en supprimant la ligneiet la colonnej deA. On a alors le développement par rapport à la ligne iP v1, nw
detpAq “
n
ÿ
j“1
p´1qi`jai,jdet
´ Ari,js
¯
, (B.17)
et le développement par rapport à la colonne jP v1, nw detpAq “
n
ÿ
i“1
p´1qi`jai,jdet
´ Ari,js
¯
. (B.18)
Le termep´1qi`jdet` Ari,js˘
est appellé le cofacteur du terme ai,j.
1
Denition B.33
SoitAPMnpKq. On dit queλPCest valeur propre deAs'il existeuuuPCn non nul tel que
Auuu“λuuu. (B.19)
Le vecteuruuuest appelé vecteur propre associé à la valeur propreλ.
Le couplepλ, uuuqest appelé élément propre deA.
Denition B.34
SoitAPMnpKq. SoitλPCune valeur propre deA. Le sous-espace
Eλ“ tuuuPCn :Auuu“λuuuu “kerpA´λIq (B.20) est appelé sous-espace propre associé à la valeur propreλ.
Denition B.35
SoitAPMnpKq. Le polynôme de degréndéni par
PApλq “detpA´λIq (B.21)
est appellé polynôme caractéristique de la matriceA.
Proposition B.36 SoitAPMnpKq.
˛ Les racines complexes du polynôme caractéristique PA sont les valeurs propres de la matrice A.
˛ Si la racine λde PA est de multiplicité k, on dit que la valeur propre λ est de multiplicité algébriquek.
˛ La matriceApossèdenvaleurs propres distinctes ou non.
Denition B.37
2
B.Annexes B.2.AlgèbrelinéaireB.2.2Matrices
SoitAPMnpKq.On noteλipAq, iP v1, nw,lesnvaleurs propres deA. Le spectre de la matriceA est le sous-ensemble
SppAq “
n
ď
i“1
tλipAqu (B.22)
du plan complexe.
1
Proposition B.38
Soient APMn et BPMn. On a les relations suivantes trpAq “
n
ÿ
i“1
λipAq, (B.23)
detpAq “
n
ź
i“1
λipAq, (B.24)
trpABq “ trpBAq, (B.25)
trpA`Bq “ trA`trB, (B.26)
detpABq “ detpAqdetpBq “detpBAq, (B.27)
detpA˚q “ detpAq. (B.28)
Denition B.39
Le rayon spectral d'une matrice APMn est le nombreě0déni par ρpAq “maxt|λipAq|;iP v1, nwu
Denition B.40
SoitX etY deux espaces vectoriels
˛ On notekerpAq “ tvvvPX ; Avvv“0ule noyau de l'application linéaireA:X ÑY.
˛ On noteimpAq “ tAvvvPY ; vvvPXul'image de l'application linéaireA:XÑY.
Denition B.41
Le rang d'une matriceA, notérangpAq, est déni comme le rang de l'application linéaireAqui lui et associé
rangpAq “dimpimpAqq.
Matrices particulières
2
Denition B.42
3
Algèbre linéaire
B.Annexes B.2.AlgèbrelinéaireB.2.2Matrices 189
Une matrice carréeAPMn est :
˛ diagonale si aij“0 pouri‰j,
˛ triangulaire supérieure siaij“0 pouriąj,
˛ triangulaire inférieure siaij “0 pouriăj,
˛ triangulaire si elle est triangulaire supérieure ou triangulaire inférieure
˛ à diagonale dominante si
|aii| ěÿ
j‰i
|aij|, @iP v1, nw, (B.29)
˛ à diagonale strictement dominante si
|aii| ąÿ
j‰i
|aij|, @iP v1, nw. (B.30)
1
Proposition B.43
Soient A et Bdeux matrices de MnpKq triangulaires inférieures (resp. triangulaires supérieures).
Alors la matriceABest aussi triangulaire inférieure (resp. triangulaire supérieure).
De plus on a
pABqi,i“Ai,iBi,i, @iP v1, nw.
Proof. (voir Exercice B.3.2, page 197) 2
Proposition B.44
SoitAPMnpKqune matrice triangulaire inférieure (resp. triangulaire supérieure).
1. A est inversible si et seulement si ses éléments diagonaux sont tous non nuls (i.e. Ai,i ‰0,
@iP v1, nw).
2. SiA est inversible alors son inverse est triangulaire inférieure (resp. triangulaire supérieure) et
pA-1qi,i“ 1 pAqi,i
Proof. (voir Exercice B.3.10, page 203) 3
Denition B.45
On appelle matrice bande une matriceAtelle queaij ‰0pour|j´i| ďc. cest la demi largeur de bande.
Lorsque c“1, la matrice est dite tridiagonale . Lorsquec “2, la matrice est dite pentadi-agonale .
Denition B.46
4
B.Annexes B.2.AlgèbrelinéaireB.2.2Matrices
On appelle sous-matrice d'une matrice donnée, la matrice obtenue en supprimant certaines lignes et certaines colonnes. En particulier, si on supprime les pn´kq dernières lignes et colonnes d'une matrice carrée Ad'ordren, on obtient la sous matrice principale d'ordrek.
1
Denition B.47
On appelle matrice bloc une matriceAPMN,M écrite sous la forme
A“
On dit que Aet une matrice bloc-carrée sip“q et si tous les blocs diagonaux sont des matrices carrées.
Propriété B.48: Multiplication de matrices blocs
Soient AP MN,M et BPMM,S. Le produit P “ABPMN,S peut s'écrire sous forme bloc si les matrices Aet Bsont compatibles par blocs : il faut que le nombre de blocs colonne deAsoit égale au nombre de blocs ligne deBavec correspondance des dimensions.
A“ Ps'écrit alors sous la forme bloc
P“
On dit qu'une matrice bloc-carréeAest triangulaire inférieure (resp. supérieure) par blocs si elle peut s'écrire sous la forme d'une matrice bloc avec les sous matrices Ai,j“0pour iăj (resp.
iąj). . Elle s'écrit donc sous la forme
Algèbre linéaire
B.Annexes B.2.AlgèbrelinéaireB.2.3Normesvectoriellesetnormesmatricielles 191
Denition B.50
On dit qu'une matrice bloc-carrée A est diagonale par blocs ou bloc-diagonale si elle peut s'écrire sous la forme d'une matrice bloc avec les sous matrices Ai,j “0 pour i ‰j . Elle s'écrit donc sous la forme
A“
SoitAune matrice bloc-carré décomposée ennˆnblocs. SiAest bloc-diagonale ou triangulaire par blocs alors son déterminant est le produit des déterminant des blocs diagonaux :
detA“
SoitAune matrice bloc-carré inversible décomposée ennˆnblocs.
• Si A est bloc-diagonale alors son inverse (décomposée en nˆn blocs) est aussi bloc-diagonale.
• SiAest triangulaire inférieure par blocs (resp. supérieure) alors son inverse (décomposée ennˆnblocs) est aussi triangulaire inférieure par blocs (resp. supérieure).
Dans ces deux cas les blocs diagonaux de la matrice inverse sont les inverses des blocs diagonaux deA.On a donc
B.2.3 Normes vectorielles et normes matricielles
1B.Annexes B.2.AlgèbrelinéaireB.2.3Normesvectoriellesetnormesmatricielles
Denition B.53
Une norme sur un espace vectoriel V est une application}‚} :V ÑR` qui vérie les propriétés suivantes
˛ }vvv} “0ðñvvv“0,
˛ }αvvv} “ |α| }vvv}, @αPK, @vvvPV,
˛ }uuu```vvv} ď }uuu} ` }vvv}, @ pu, vu, vu, vq PV2 (inégalité triangulaire).
Une norme sur V est également appelée norme vectorielle . On appelle espace vectoriel normé un espace vectoriel muni d'une norme.
Les trois normes suivantes sont les plus couramment utilisées : }vvv}1“
n
ÿ
i“1
|vi|
}vvv}2“
˜ n ÿ
i“1
|vi|2
¸1{2
}vvv}8 “max
i |vi|. Théorème B.54
SoitV un espace de dimension nie. Pour tout nombre réel pě1, l'application}‚}p dénie par
}vvv}p“
˜ n ÿ
i“1
|vi|p
¸1{p
est une norme.
Claim B.55 Pourpą1 et 1p`1q “1,on a@uuu, vvvPKn
1
n
ÿ
i“1
|uivi| ď
˜n ÿ
i“1
|ui|p
¸1{p˜ n ÿ
i“1
|vi|q
¸1{q
“ }uuu}p}vvv}q. (B.32) Cette inégalité s'appelle l'inégalité de Hölder.
2
Denition B.56
Deux normes }‚} et }‚}1, dénies sur un même espace vectoriel V, sont équivalentes s'il exite deux constantesC et C1 telles que
}vvv}1ďC}vvv} et }vvv} ďC1}vvv}1 pour toutvvvPV. (B.33) Claim B.57 Sur un espace vectoriel de dimension nie toutes les normes sont équivalentes.
3
Denition B.58
4
Algèbre linéaire
B.Annexes B.2.AlgèbrelinéaireB.2.3Normesvectoriellesetnormesmatricielles 193
Une norme matricielle surMnpKqest une application}‚}:MnpKq ÑR` vériant 1. }A} “0ðñA“0,
2. }αA} “ |α| }A}, @αPK,@APMnpKq,
3. }A`B} ď }A} ` }B}, @ pA,Bq PMnpKq2 (inégalité triangulaire) 4. }AB} ď }A} }B}, @ pA,Bq PMnpKq2
1
Claim B.59 Etant donné une norme vectorielle}‚}surKn,l'application}‚}s:MnpKq ÑR`dénie par 2 3
}A}s“ sup
v vvPKn
vv v‰0
}Avvv}
}vvv} “ sup
vvvPKn }vvv}ď1
}Avvv} “ sup
v vvPKn }vvv}“1
}Avvv}, (B.34)
est une norme matricielle, appelée norme matricielle subordonnée (à la norme vectorielle donnée). 4
De plus 5
}Avvv} ď }A}s}vvv} @vvvPKn (B.35)
et la norme}A}peut se dénir aussi par 6
}A}s“inftαPR:}Avvv} ďα}vvv}, @vvvPKnu. (B.36)
Il existe au moins un vecteuruuuPKn tel que 7
u
uu‰0 et }Auuu} “ }A}s}uuu}. (B.37)
Enn une norme subordonnée vérie toujours 8
}I}s“1 (B.38)
Théorème B.60 SoitAPMnpCq. On a
}A}1déf.“ sup
v vvPCn
v v v‰0
}Avvv}1
}vvv}1 “ max
jPv1,nw n
ÿ
i“1
|aij| (B.39)
}A}2déf.“ sup
vv vPCn
v v v‰0
}Avvv}2 }vvv}2 “a
ρpA˚Aq “a
ρpAA˚q “ }A˚}2 (B.40)
}A}8 déf.“ sup
vvvPCn v v v‰0
}Avvv}8
}vvv}8 “ max
iPv1,nw n
ÿ
j“1
|aij| (B.41)
La norme}‚}2 est invariante par transformation unitaire :
UU˚“Iùñ }A}2“ }AU}2“ }UA}2“ }U˚AU}2. (B.42) Par ailleurs, si la matriceAest normale :
AA˚“A˚Aùñ }A}2“ρpAq. (B.43) Remarque B.61 1. Si une matriceAest hermitienne, ou symétrique (donc normale), on a}A}2“ρpAq. 9
2. Si une matriceAest unitaire, ou orthogonale (donc normale), on a}A}2“1. 10
Théorème B.62
11
B.Annexes B.2.AlgèbrelinéaireB.2.4Réductiondesmatrices
1. SoitAune matrice carrée quelconque et}‚}une norme matricielle subordonnée ou non, quel-conque. Alors
ρpAq ď }A}. (B.44)
2. Etant donné une matrice A et un nombre ε ą 0, il existe au moins une norme matricielle subordonnée telle que
}A} ďρpAq `ε. (B.45)
1
Théorème B.63
L'application}‚}E:MnÑR` dénie par
}A}E “
¨
˝ ÿ
pi,jq“Pv1,nw2
|aij|2
˛
‚
1{2
“a
trpA˚Aq, (B.46)
pour toute matrice A“ paijqd'ordren, est une norme matricielle non subordonnée (pourně2), invariante par transformation unitaire et qui vérie
}A}2ď }A}E ď?
n}A}2, @APMn. (B.47)
De plus}I}E“? n.
Théorème B.64
1. Soit}‚}une norme matricielle subordonnée, et Bune matrice vériant }B} ă1.
Alors la matricepI`Bqest inversible, et
›
›
›pI`Bq´1
›
›
›ď 1 1´ }B}.
2. Si une matrice de la formepI`Bqest singulière, alors nécessairement }B} ě1
pour toute norme matricielle, subordonnée ou non.
B.2.4 Réduction des matrices
2
Denition B.65
3