#12 Matrices symétriques et matrices définies positives

(1)

12. Matrices sym´

etriques et matrices

d´

efinies positives

Sections 6.4 et 6.5

MTH1007

J. Gu´erin, N. Lahrichi, S. Le Digabel Polytechnique Montr´eal

A2019

(2)

Plan

1. Matrices sym´etriques

(3)

(4)

Valeurs et vecteurs propres

I Une matrice est sym´etriquesi A>= A

I Si A est une matrice sym´etrique alors ses valeurs propres sont

r´eelles.

I Les vecteurs propres d’une matrice sym´etrique qui

correspondent `a des valeurs propres distinctes sont

orthogonaux(preuve : exercice de TD 6.4.18)

I On peut donc choisir les vecteurs propres comme ´etant

(5)

Vecteurs propres d’une matrice sym´

etrique 2x2

Avec A = a b b c

et ses deux valeurs propres λ1 et λ2, on a les

deux vecteurs propres x1 =

b λ1− a et x2 = λ2− c b

(6)

Valeurs propres et pivots

I Les valeurs propres d’une matrice sont tr`es diff´erentes des pivots.

I Le seul lien est :

d´eterminant = produit des pivots

= produit des valeurs propres

I Pour les matrices sym´etriques, les pivots et les valeurs propres

(7)

Diagonalisation

I Si A ∈ Rn×n est sym´etrique, elle est toujours diagonalisable

sous la forme A = SΛS−1 avec S, Λ ∈ Rn×n

I Λ est la matrice diagonale des valeurs propres (r´eelles).

I La matrice des vecteurs propres S contient des vecteurs

orthonormaux : C’est une matrice orthogonale que l’on notera Q afin d’avoir

A = QΛQ−1= QΛQ>

(8)

Th´

eor`

eme spectral

Une matrice A est symétrique si et seulement si elle peut être factorisée sous la forme

A = QΛQ−1 = QΛQ>

o`u Q est orthogonale et Λ est la matrice diagonale des valeurs

(9)

Exemple 1

Illustrer le th´eor`eme spectral avec A =

1 2

2 4

(10)

D´

ecomposition en somme de matrices de projection

Avec A ∈ Rn×n sym´etrique, on a

A = QΛQ>= x1 x2 . . . xn      λ1 λ2 . .. λn           x>₁ x>₂ .. . x>_n      = λ1x1x>1 + λ2x2x>2 + . . . + λnxnx>n. Et donc A = λ1P1+ λ2P2+ . . . + λnPn

avec Pi = xix>_i ∈ Rn×n _{la matrice de projection (de rang 1) sur le} vecteur propre xi, i ∈ {1, 2, . . . , n}

(11)

Exemple 2

Illustrer la d´ecomposition en somme de matrices de projection avec

A =

1 2

2 5

(12)

(13)

D´

efinitions

I Une matrice symétrique A estdéfinie positive(noté A 0)

si toutes ses valeurs propres sont strictement positives.

I Une matrice symétrique peut être : I Définie positive : A 0

I Semi-d´efinie positive : A 0

I D´efinie n´egative : A ≺ 0

I Semi-d´efinie n´egative : A 0

(14)

Valeurs propres pour une matrice sym´

etrique 2x2

I Soit A = a b b c

une matrice sym´etrique de taille 2 × 2. A est d´efinie positive si ses valeurs propres sont strictement positives.

Les valeurs propres de A sont strictement positives : 1. Si et seulement si a > 0 et ac − b2> 0

2. Si et seulement si les pivots sont positifs : a > 0 et ac−b_a 2 > 0

I Sinon, si a < 0 et |A| = ac − b2> 0, A estd´efinie n´egative

(not´e A ≺ 0)

I Sinon A peut encore êtresemi-définie positive,semi-définie négative, et sinonnon-définie(ou indéfinie).

(15)

L’´

energie d’une matrice

I A est d´efinie positive si x>Ax > 0 pour tout vecteur non nul x : x>Ax = x y a b b c x y = ax2+ 2bxy + cy2> 0

I x>Ax est donc strictement positif pour tout x non nul.

Ce nombre est l’´energiede A (en x)

I Si A est (symétrique) définie positive, alors l’équation x>Ax = ax2+ 2bxy + cy2 = 1

repr´esente une ellipse dont les axes pointent dans la direction

(16)

Exemple 3

Quelle est la nature des matrices suivantes ?

A1 = 1 2 2 1 A2 = 1 −2 −2 6 A3 = −1 2 2 −6 A4 = −1 −5 1 4

(17)

Remarques

I Si A et B sont sym´etriques d´efinies positives, alors A + B

l’est aussi.

I Toute matrice carrée symétrique n × n peut se décomposer en

A = R>R avec R ∈ Rm×n. Si A est d´efinie positive, les

colonnes de R sont ind´ependantes.

I Décomposition de Cholesky : Si A est symétrique et définie positive, alors elle peut se décomposer en

A = LL> avec L triangulaire inf´erieure.

(18)

Sous-matrices principales

Les nsous-matrices principalesde A = [aij] ∈ Rn×n sont

A1 = [a11] A2 = a11 a12 a21 a22 A3 =   a11 a12 a13 a21 a22 a23 a31 a32 a33   .. . ... Ak =      a11 a12 · · · a1k a21 a22 · · · a2k .. . ... . .. ... ak1 ak2 · · · akk      .. . ... A = A

(19)

Six ´

enonc´

es ´

equivalents pour caract´

eriser une

matrice d´

efinie positive

Pour une matrice symétrique définie positive A de taille n × n, les énoncés suivants sont équivalents :

1. Les n pivots de A sont strictement positifs.

2. Les n d´eterminants des sous-matrices principales de A

(not´es αi, i = 1, 2, . . . , n) sont strictement positifs.

3. Les n valeurs propres de A sont strictement positives.

4. x>Ax > 0 pour tout vecteur x 6= 0. C’est la définition basée sur l’énergie.

(20)

Matrices d´

efinies n´

egatives, semi-d´

efinies n´

egatives,

et non-d´

efinies

I La matrice symétrique A estdéfinie négative(noté A ≺ 0) si son opposée −A est définie positive.

I La matrice symétrique A estsemi-définie négative (noté A 0) si son opposée −A est semi-définie positive.

I Une matrice sym´etrique qui n’est ni d´efinie positive,

semi-définie positive, définie négative ou semi-définie négative, est non-définie(ou indéfinie).

(21)

Exemple 4

Quelle est la nature de

A =   2 1 1 1 2 1 1 1 2   et de −A ?

(22)

Matrices semi-d´

efinies positives (SDP)

I La matrice symétrique A estsemi-définie positive(noté A 0) si

x>Ax≥_{0 pour tout x ∈ R}n

I Toutes les valeurs propres de A sont ≥ 0

I Toute matrice définie positive est également semi-définie positive.

I Soit A ∈ Rm×n. La matrice A>A ∈ Rn×n est sym´etrique et

(23)

Matrices SDP et sous-matrices

I Le test basé sur les déterminants des sous-matrices principales (les αi) ne fonctionne pas pour déterminer si une matrice est SDP.

I Si un de ces αi est égal à zéro, alors la matrice peut être SDP ou indéfinie.

I Pour v´erifier qu’une matrice est SDP, il faut montrer que les

d´eterminants detoutes les sous-matrices carr´ees sont ≥ 0

(24)

Application : Optimisation

Soit f (x) une fonction de Rn dans R

I Les points stationnaires (ou critiques) de f sont les points x∗

tels que ∇f (x∗) = 0

I Si ∇2f (x∗) (lamatrice hessienneen x∗ critique) est : I d´efinie positive : x∗ est unminimum localde f

I d´efinie n´egative : x∗ est unmaximum localde f

I non-d´efinie : x∗ est unpoint de selle(oupoint-col)

I Si ∇2f (x), pour tout x, est :

I semi-d´efinie positive : f estconvexeet x∗ est unminimum globalde f

I semi-d´efinie n´egative : f estconcave et x∗est un maximum globalde f