Réduction de la dimension

Souvent en analyse de données et en apprentissage statistique, on cherche à réduire la dimen- sion des données. En effet, ceci est motivé par plusieurs raisons parmi lesquelles on cite :

1. l’efficacité statistique. En effet, de nombreuses méthodes statistiques sont inefficaces en (très) grande dimension comme par exemple l’estimation d’une densité par des his- togrammes.

2. le coût algorithmique. La complexité des algorithmes d’apprentissage dépend forte- ment de la dimension des données.

3. l’objectif de visualisation. Au delà de trois axes, il est difficile de se représenter la structure d’un nuage de points.

4. l’extraction ou la création de "features" qui sont capables de résumer au mieux l’information.

Dans ce manuscrit, nous nous intéressons en particulier à la méthode de réduction de dimen- sion par l’Analyse en Composantes Principales souvent désignée par ACP. l’ACP fait partie du groupe des méthodes descriptives multidimensionnelles appelées méthodes facto- rielles. Ces méthodes qui sont apparues au début des années 30 ont été surtout développées en France dans les années 60, en particulier par Jean-Paul Benzécri qui a beaucoup exploité les aspects géométriques et les représentations graphiques [20]. L’ACP consiste à transformer des variables liées entre elles (dites "corrélées" en statistique) en nouvelles variables indé- pendantes les unes des autres (donc "non corrélées"). Ces nouvelles variables sont appelées "composantes principales", ou axes. Elle permet au praticien de diminuer l’information en un nombre de composantes plus limité que le nombre de variables d’origine. Il s’agit d’une approche à la fois géométrique (représentation des variables dans un nouvel espace géomé- trique selon des directions d’inertie maximale) et statistique (recherche d’axes indépendants expliquant au mieux la variabilité des données).

Échantillon : L’ACP est classiquement appliquée sur un ensemble de d variables quantita- tive X1_,...,Xd _{observées sur N individus, notés 1,. . . ,i,. . . ,N. L’observation de la variable X}j

sur l’individu i sera plus simplement notée xj

i. Les données se présentent ainsi sous la forme

d’une matrice M à N lignes et d colonnes (Mi,j = xj_i est la jème variable caractéristique de la

ième _{observation).} M =     x1₁ . . . xd₁ ... ... ... x1 N . . . xdN    

On note que le nombre d de variables d’une A.C.P. vaut au moins 2 ; le plus souvent, d est de l’ordre de 10 (ou de quelques dizaines). Quant au nombre d’observations (ou individus) N, il est au moins égal à d ; le plus souvent, il vaut plusieurs dizaines (voire plusieurs centaines). Le problème à traiter : L’idée principale de l’ACP est d’extraire l’information pertinente contenue dans la matrice des données M. L’extraction de l’essentiel de la structure de cette matrice est faite en vue de faire des représentations graphiques à la fois fidèles aux données initiales et commodes à interpréter. Ces représentations sont réalisées en dimension réduite ; le nuage initial, décrit dans un espace de dimension d (puisqu’on dispose, au départ, de d variables quantitatives), est résumé (réduit, projeté) en dimension q (grâce à l’obtention de q facteurs: voir la définition de ce terme plus bas). Le nombre q de facteurs retenus est compris entre 1 et d ; le plus souvent, il vaut 2 ou 3.

Le critère utilisé : Les q facteurs que l’on va définir, pour résumer l’information contenue dans la matrice des données M, doivent maximiser la dispersion du nuage des observations. La dispersion d’une variable quantitative est, en général, mesurée par sa variance (ou par son écart-type3). Plus généralement, lorsqu’on dispose d’un nuage d’observations en plusieurs dimensions, on parle d’inertie (somme des variances des variables considérées). Le principe de l’Analyse en Composantes Principales consiste donc à rechercher, pour une dimension q restreinte (2 ou 3), les q facteurs maximisant l’inertie du nuage lorsqu’on le projette dans le sous-espace engendré par ces q facteurs : en passant de la dimension initiale d à la dimension réduite q, on perd, obligatoirement, de la dispersion, de l’inertie. L’idée est d’en perdre le moins possible en choisissant convenablement les facteurs. La figure4.9illustre une ACP dans un cas bidimensionnel. Les axes de départ sont X1 _{et X}2 _{et les axes principaux P CA1 et P CA2. On}

observe que l’axe P CA1 permet d’expliquer une grande partie de la variance dans les données.

3. racine carrée positive de la variance

X1

X2

P CA1

P CA2

a

Figure 4.9 – Illustration d’une ACP dans un cas bidimensionnel

La méthode : La méthode de l’ACP cherche des combinaisons linéaires des variables ini- tiales, appelées facteurs, ou encore composantes principales, s’écrivant sous la forme sui- vante :

C1 = a1₁X1+ a₁2X2+· · · + ad1Xd (4.30)

C2 = a1₂X1+ a₂2X2+· · · + ad2Xd (4.31)

. . . telles que :

— C1 _{doit contenir un maximum d’"information", c’est-à-dire disperser le plus possible les}

individus. Le critère choisi est, de façon naturelle, var(C1_{) maximum. Pour des raisons}

techniques, on rajoute par ailleurs la contrainte Pd j=1(a

j 1)2 = 1

— On procède de la même façon pour C2_{, en imposant, en plus, que C}1 _{et C}2 _{soient non}

corrélées (afin que l’information apportée par C2_{soit complètement nouvelle par rapport}

à l’information contenue dans C1₎

— Et ainsi de suite . . .

Centrage/réduction des variables : Dans la pratique, on peut procéder soit à une ACP centrée (les variables Xj, j = 1, . . . ,d considérées sont seulement centrées en retranchant à chaque observation la moyenne de la variable correspondante), soit à une ACP réduite (les variables sont centrées et réduites en divisant chaque donnée centrée par l’écart-type de la variable correspondante). L’ACP seulement centrée est recommandée lorsque les variables sont homogènes : même signification, même unité de mesure, même ordre de grandeur. L’ACP réduite est recommandée lorsque les variables sont hétérogènes.

Outils mathématiques : Les outils mathématiques auxquels ont fait appel pour chercher les composantes principales relèvent de l’algèbre linéaire, et essentiellement des notions de 77

vecteurs propreset de valeurs propres. Notons S la matrice d×d des variances-covariances des variables Xj_{, j = 1, . . . , det R la matrice d × d de leurs corrélations linéaires. Dans la cas}

d’une ACP seulement centrée, C1 _{est le vecteur propre normé de S associé à la plus grande}

valeur propre (SC1 _{= λ}

1C1 et ||C1|| = 1), C2 est le vecteur propre normé de S associé à la

seconde plus grande valeur propre, et ainsi de suite. Par ailleurs, les différents vecteurs Ck_sont

orthogonaux. Dans le cas d’une ACP réduite, les Ck _{sont les vecteurs propres orthonormés de}

la matrice R. Plus de détails théoriques sur l’ACP peuvent se retrouver dans [70].

Applications : L’Analyse en Composantes Principales est habituellement utilisée comme outil de compression linéaire. D’autre outils statistiques existent à cette fin, parmi lesquelles on cite le MDS (Multi-Dimensional Scaling). La KPCA [17](Kernel Principal Component Analy- sis) et la LLE [89,158] (Locally Linear Embedding) sont, quant à eux, utilisés pour la réduction de dimension dans le cas non linéaire. Ces méthodes sont prometteuses et leur utilisation pour des applications de contrôle santé intégré pourrait être le sujet de travaux futurs.

Dans la littérature, on trouve plusieurs travaux dans le domaine du SHM qui sont basés sur l’ACP. Dans [46] Tibaduiza et al. proposent une approche de classification de dommage basée sur une analyse orientée données (data-driven). Les données analysées sont issues de mesures vibratoires réalisées à l’aide d’un réseau d’éléments piézoéléctriques. Un modèle de l’état sain de la structure d’étude est établi en appliquant une ACP aux données recueillies dans plu- sieurs expériences. Ces mêmes expériences sont effectuées pour d’autres états de la structure et les réponses dynamiques sont projetées sur la base des composantes principales du modèle de référence. Certaines de ces projections et indices de dommage sont utilisés comme carac- téristiques d’entrée pour une carte auto-organisatrice apprise sur les données de l’état sain. L’approche proposée a été testée expérimentalement sur une plaque en aluminium instrumen- tée avec quatre transducteurs piézoélectriques. Les dommages sont simulés en ajoutant des masses à différentes positions. Mujica et al. [88] présentent, comparent et discutent l’utilisa- tion des techniques comme l’ACP, le PLS (Partial Least Square) ainsi que certaines extensions appelées MPCA (Multiway PCA) et MPLS (Multiway PLS) pour la réduction de dimension dans des problèmes d’identification de dommage, et en particulier, de détection et de locali- sation d’impacts dans une partie d’un volet d’aile d’avion commercial. Dans [132], Hajriya et al. développent une méthode robuste de détection de dommage basée sur l’analyse en compo- santes principales. Un indicateur de dommage original basé sur la projection sur la matrice de séparation, ainsi qu’un seuil de détection adaptatif sont proposés. Ce seuil est analytique et repose sur la théorie des perturbations matricielles (Matrix Perturbation Theory : MPT). L’efficacité de la méthode est illustrée à l’aide de résultats de simulation d’une structure com- posite équipée de PZT et de résultats expérimentaux effectués sur une structure test à l’échelle du laboratoire.

Structure

test Traitement des donn´eesExtraction de features

S´election

de features Apprentissage_SVM S´ev´erit´e de dommage_{Taux de reconnaissance} Signal d’excitation r´eponse Signal de S´ev´erit´e de dommage SBF NMBBF SBF NMBBF SBF & NMBF 2 CPs 3 CPs

Figure 4.10 – Ingrédients clés de la stratégie de quantification proposée