Rappels sur l’ACP avec m´ etriques

Universit´ e de Bordeaux - Master MIMSE - 2` eme ann´ ee

Rappels sur l’ACP avec m´ etriques

Marie Chavent

http://www.math.u-bordeaux.fr/ machaven/

2014-2015

1 Les donn´ ees

1. Z est une matrice n × p regroupant la mesure sur n individus de p variables quanti- tatives.

2. Chaque individu i est caract´ eris´ e par un vecteur z _i ∈ R ^p (i` eme ligne de Z). L’espace des individus R ^p est muni d’une m´ etrique M qui est souvent l’indentit´ e I _p .

3. Chaque variable j est caract´ eris´ ee par un vecteur z ^j ∈ R ⁿ (j` eme colonne de Z).

L’espace des variables R ⁿ est muni de la m´ etrique N = diag(. . . , p _i , . . .) o` u p _i , est le poids de l’individu i. G´ en´ eralement p _i = _n ¹ .

4. Le tableau Z est g´ en´ eralement centr´ e pour fixer le centre de gravit´ e du nuage des individus ` a l’origine : pour chaque variable j on effectue z <sup>j</sup> → z <sup>j</sup> − z ¯ j 1 n , o` u ¯ z j = P n

i=1 p _i z _ij .

5. Le tableau Z est souvent r´ eduit ensuite pour ´ eliminer le fait que les variables sont sur mesur´ ees sur des ´ echelles (de variation) diff´ erentes : pour chaque variable j on effectue z ^j → ^z _s

j

, o` u s ² _j = P n

i=1 p _i (z _ij − z ¯ _j ) ² est la variance empirique de j.

2 D´ efinitions

1. Le vecteur Ψ ^α ∈ R ⁿ des coordonn´ ees factorielles (des scores) des n individus sur l’axe α est le vecteur des projections orthogonales (pour le produit scalaire M) des n individus sur l’axe engendr´ e par le vecteur v _α (M-norm´ e ` a 1) maximisant l’inertie du nuage projet´ e. On a :

Ψ ^α = ZMv _α

1

o` u v <sub>α</sub> est le vecteur propre de Z <sup>t</sup> NZM associ´ e ` a la valeur propre λ _α .

Le vecteur Ψ ^α s’appelle aussi α` eme composantes principales. Les composantes prin- cipales sont donc des nouvelles variables synth´ etiques (des combinaisons lin´ eaires des variables initiales z ^j ) qui v´ erifient :

— la variance de la composante principale Ψ ^α est ´ egale ` a la valeur propre λ _α : V ar(Ψ ^α ) = λ α .

— la corr´ elation lin´ eaire entre deux composantes principales Ψ ^α et Ψ ^α

est nulle : r(Ψ ^α , Ψ ^α

) = 0.

En r´ esum´ e, les k composantes principales Ψ ¹ , . . . , Ψ ^k sont de nouvelles variables synth´ etiques (combinaisons lin´ eaires des variables initiales) non corr´ el´ ees entre elles, de variance maximale et les plus li´ ees (en un certain sens) aux variables initiales z ¹ , ..., z ^p .

2. Le vecteur Φ ^α ∈ R ^p des coordonn´ ees factorielles (des loadings) des p variables sur l’axe α est le vecteur des projections orthogonales (pour le produit scalaire N) des p variables sur l’axe engendr´ e par le vecteur u _α (N-norm´ e ` a 1) maximisant l’inertie du nuage projet´ e. On a :

Φ ^α = Z ^t Nu _α

o` u u <sub>α</sub> est le vecteur propre de ZMZ <sup>t</sup> N associ´ e ` a la valeur propre λ _α .

Le vecteur des loadings Φ ^α contient les corr´ elations des p variables avec la α` eme composantes principales Ψ ^α : φ _jα = r(z ^j , Ψ ^α ).

3 ACP avec m´ etriques

L’ACP du triplet (Z, N, M) revient ` a effectuer une d´ ecomposition en valeurs singuli` eres g´ en´ eralis´ ee (GSVD - Generalized Singular Value Decomposition) d’une matrice r´ eelle Z de dimension n × p avec les m´ etriques N sur R ⁿ et M sur R ^p .

SVD g´ en´ eralis´ ee. La GSVD de la matrice Z de rang r avec les m´ etriques N et M donne la d´ ecomposition :

Z = UΛV ^t avec

— Λ = diag( √

λ ₁ , . . . , √

λ _r ) est la matrice diagonale des r valeurs singuli` eres de ZNZ ^t M et Z ^t NZM.

2

— U est la matrice de dimension n × r dont les colonnes sont les vecteurs propres de ZMZ ^t N et U ^t NU = I ^r (les vecteurs propres sont N-orthonorm´ es).

— V est la matrice de dimension p × r dont les colonnes sont les vecteurs propres de Z ^t NZM et V ^t MV = I ^r (les vecteurs propres sont M-orthonorm´ es).

En pratique, on peut obtenir la DVSG de Z en trouvant la DVS classique de ˜ Z = D ^1/2 ZM ^1/2 , c’est ` a dire la DVSG avec les m´ etriques I ⁿ sur R ⁿ et I ^p sur R ^p . On trouve ˜ Z = ˜ U Λ ˜ V ˜ ^t et :

Λ = ˜ Λ, U = D ^−1/2 U, ˜ V = M ^−1/2 V. ˜ Coordonn´ ees factorielles des individus et des variables

1. On note Ψ la matrice de dimension n × r des coordonn´ ees des M-projections des n individus (les lignes de Z) sur les axes de vecteurs directeurs v ¹ , . . . , v ^r (colonnes de V). Cette matrice est aussi appell´ ee matrice des coordonn´ ees factorielles (scores) des individus. On a par d´ efinition que :

Ψ = ZMV On en d´ eduit donc que :

Ψ = UΛ On en d´ eduit ´ egalement que u _α = Ψ ^α / √

λ _α est la α` eme composante principale stan- dardis´ ee (divis´ ee par son ´ ecart-type) et que U est la matrice des composantes princi- pales standardis´ ees.

2. On note Φ la matrice de dimension p × r des coordonn´ ees des N-projections des p variables (les colonnes de Z) sur les axes de vecteurs directeurs u ¹ , . . . , u ^r (colonnes de U). Cette matrice est aussi appell´ ee matrice des coordonn´ ees factorielles (loadings) des variables. On a par d´ efinition que :

Φ = Z ^t MU On en d´ eduit donc que :

Φ = VΛ

3