Décomposition en valeurs singulières

Calcul scientique et Informatique 6 novembre 2013 TP 6: Conditionnement, valeurs singulières.

Conditionnement

Dans toute la suite, k.k désigne la norme euclidienne sur Rⁿ, et lorsque A est une matricen×n, on note égalementkAk= maxx6=0kAxk/kxkla norme matricielle induite.

Le conditionnement d'une matrice inversible A est la quantité cond(A) =kAk kA⁻¹k. Exercice 1. Soit A une matrice carrée inversible et δ_A une seconde matrice carrée telle que kδ_Ak kA⁻¹k<1.

1. Montrer que la matrice Id_n+A⁻¹δ_A est inversible, et qu'on peut borner la norme de son inverse par

(Id_n+A⁻¹δ_A)⁻¹

≤ 1

1− kA⁻¹k kδAk

2. Soit x ∈ Rⁿ la solution de Ax = b. On se donne une perturbation δb de b et on dénitδ_x comme la solution du système (A+δ_A)(x+δ_x) = b+δ_b. Montrer

kδ_xk

kxk ≤ cond(A) 1−cond(A)^kδ_kAk^Ak

kδ_bk

kbk + kδ_Ak kAk

.

Étant donnée une matrice symétrique, on note λ₁(A) ≤ . . . ≤ λ_n(A) ses valeurs propres. On appelle valeur singulière de A les valeurs propres de la matrice symétrique A^tA, et on les note σ1(A)≤. . .≤σn(A).

Exercice 2. 1. Montrer que kAk=p

σ_n(A), et en déduire l'expression suivante pour une matrice inversible :cond(A) = (σn(A)/σ1(A))^1/2.

2. En déduire que cond(A) = 1 si et seulement si A est orthogonale.

3. Monter que dans le cas oùAest symétrique dénie positive,cond(A) = λ_n(A)/λ₁(A). Considérons la matrice du laplacien périodique

∆_n=

















2 −1 0 . . . −1

−1 2 −1 ... ...

0 ... ... ... 0 ... ... −1 2 −1

−1 . . . 0 −1 2















 .

Montrer que siω est une racinenième de l'unité, le vecteurv = (1, ω, . . . , ωⁿ⁻¹)est un vecteur propre de∆_n. En déduire le conditionnement de ∆_n.

1

Décomposition en valeurs singulières

La décomposition en valeur singulières d'un endomorphisme f : Rⁿ → R^m est la donnée d'une base orthogonale (v_i)1≤i≤n de l'espace de départ, d'une base orthogonale (u_i)1≤i≤m de l'espace d'arrivée et de r réels 0 < σ₁ ≤ . . .≤ σ_r oùr est le rang de f, tels que la relation suivante soit vériée :

f(v_i) =

(σ_iu_i si i≤r 0 sii > r

Théorème 1. Tout endomorphisme admet une décomposition en valeurs singulières.

Matriciellement, la décomposition en valeur singulières d'une matriceAdemcolonnes etmlignes s'écrit sous la formeA=UΣ^tV, oùU etV sont deux matrices orthogonales de taillem×metn×nrespectivement, et oùΣest une matrice diagonale de taillen×mayant pour éléments diagonaux σ1, . . . , σr. Dans Scilab, la décomposition en valeurs singulières d'une matrice s'obtient via la commande : [U SV] =svd(A).

Exercice 3. On se donne deux ensembles de points A = x1, . . . , xN et B = y1, . . . , yN

de l'espace Euclidien R^d, et on suppose que _N¹ PN

i=1x_i = _N¹ PN

i=1y_i = 0. Le problème du recalage rigide consiste à trouver la matrice orthogonale R qui aligne le mieuxR(X)à Y au sens des moindres carrés, c'est-à-dire

min

R∈O(R^d) N

X

i=1

kRx_i−y_ik². (1) Dans cet exercice, on calcule la solution du problème de recalage en utilisant la décom- position en valeurs singulières.

1. Expliquer pourquoi le minimum est atteint dans (1) ? En notant X (resp. Y) la matrice de taille d×N ayant pour colonnes les vecteurs (x_i) (resp. (y_i)), montrer que le problème (1) est équivalent au problème de maximisation

max

R∈O(R^d)

Tr(RX^tY). (2)

2. NotonsC=UΣ^tV la décomposition en valeurs singulières de la matriceC:=X^tY. Montrer que R est solution de (2) si et seulement si la matrice orthogonale M =

tV RU réalise le maximum de

max

M∈O(R^d)

Tr(MΣ).

3. En utilisant l'orthogonalité de la matriceM, montrer queM maximise (2) ssim_ii= 1 pour toutidans{1, . . . , d}ssiM = Id. En conclure que la solution de (1) est unique et donnée par : R =^tU V, où les matrices U et V sont celles dénies à la question précédente.

2

4. Écrire une fonction recalage_orthogonal qui prend en entrée les matrices X et Y et retourne la matriceR qui résoud le problème (1).

5. Application : On considère les ensembles de points échantillonnés aléatoirement sur le graphe de la fonctionf :R² →R dénie parf(x, y) = cos(3x) +y² de la manière suivante :

N = 1000;

x = rand (1 , N) ; y = rand (1 , N) ; z = cos (5 ∗ x ) + y . ^ 2 ; X = [ x ; y ; z ] ;

R = qr (rand ( 3 , 3 ) ) ; // matrice de r o t a t i o n a l e a t o i r e Y = 0.01 ∗ rand (3 , N) ;

for i =1:N

Y( : , i ) = Y( : , i ) + R ∗ X( : , i ) ; end

Calculer la matrice de recalage orthogonal entre X et Y. Visualiser les ensembles de points R(X) etY, en utilisant la fonction suivante :

function p l o t p o i n t s 3 d (Y)

param3d(Y( 1 , : ) , Y( 2 , : ) , Y( 3 , : ) ) ; e = gce ( ) ;

e . line_mode=" o f f " ; e . mark_mode="on" ; a = gca ( ) ;

a . isoview = "on" ; endfunction

3