Approximation stochastique en analyse factorielle multiple

HAL Id: hal-00109529

https://hal.archives-ouvertes.fr/hal-00109529

Preprint submitted on 24 Oct 2006

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires

Approximation stochastique en analyse factorielle multiple

Jean-Marie Monnez

To cite this version:

Jean-Marie Monnez. Approximation stochastique en analyse factorielle multiple. 2006. �hal-00109529�

Approximation stochastique en analyse factorielle multiple

Jean-Marie Monnez Institut Elie Cartan UMR 7502 Nancy-Université, CNRS, INRIA

Abstract

We study the multiple factorial analysis of a random vectorX in R^pas a principal component analysis ofX with a particular choice of the inner product inR^p. We use a stochastic approximation process to estimate recursively the principal components of this analysis by means of a sequence of i.i.d. observations ofX. Stochastic approximations of the symmetrical positive de nite matrixM de ning the inner product in R^pand of the principal components are made simultaneously.

Key Words and Phrases :Stochastic approximation, principal com- ponent analysis.

AMS A1991 Subject Classi cations : primary :62; secondary : H25, L20.

1 Estimation récursive en analyse des données

1.1 Cadre d'application

Dans (MacGregor 1997), l'auteur fait remarquer que de nos jours, des volumes énormes de données portant sur des variables de procédé, comme par exemple des températures, des pressions, des débits dans des processus industriels, sont collectés en ligne par des ordinateurs chaque heure, chaque minute, chaque seconde et souvent non exploités par manque de méthodes adaptées. Ce cas de données obtenues par une collecte élec- tronique est un cas particulier de ux de données (Aguilar-Ruiz 2006) : on a un ux continu, rapide, illimité de données qui sont lues une fois et pour lesquelles on souhaite faire une analyse en temps réel, sachant que l'on dispose d'une mémoire limitée. Le type de méthode d'estimation récursive étudié dans cet article dans le cadre général de l'approximation stochastique et dans le prolongement des travaux de Benzécri (1969), Krasulina (1970), Lebart (1974), permet de traiter des données qui arrivent en ligne.

En outre, on sait que, par exemple dans l'industrie chimique, le nombre de variables de procédé mesurées peut être de plusieurs milliers. On se trouve alors confronté à un double problème : des données nombreuses, ici arrivant en ligne, et de grande dimen- sion (D'Aubigny 2001). Dans la mesure où l'on utilise des métriques diagonales (que

l'on a à inverser), le type de méthode étudié permet l'utilisation d'un grand nombre de variables.

1.2 Modélisation probabiliste

On observe des caractères (ou variables) quantitatifs ou qualitatifs sur n individus. On obtient des vecteurs de mesures ou de valeurs d'indicatricesz1; z2; :::; zndansR^p. On peut effectuer une analyse de ces données à l'aide de diverses méthodes, dépendant de la nature des données, d'analyse factorielle, de classi cation, d'analyse discriminante, par exemple. On note ici cette analyse ADO (analyse des données observées).

Supposons maintenant quez1; z2; :::; znconstituent un échantillon i.i.d. d'un vec- teur aléatoireZ dansR^pdé ni sur un espace probabilisé( ;A;P): représente une population d'où on a extraitnindividus. On peut alors dé nir une analyse des données de ce vecteur aléatoire, notée ici ADVA, qui représente l'analyse des données effectuée sur la population, dont on va chercher à estimer les résultats. Soit un résultat de cette ADVA, par exemple une valeur propre, un facteur, un centre de classe, appartenant à un espace .

On peut estimer par un résultat n de l'ADO faite sur l'échantillon deZ, réali- sation d'une variable aléatoire n, estimateur d'ordrende , dont on établit alors les propriétés.

On peut aussi effectuer une estimation récursive, en supposant que l'on dispose d'une suite d'observations i.i.d. (z_n): à partir den 1observationsz₁; z₂; :::; z_{n 1}, on détermine une estimation _nde ( ₁est quelconque, mais peut être une estimation a priori de ) ; on introduit alors l'observationznet on actualise l'estimation de . n+1

est déterminée récursivement par une équation du type suivant, oùfnest une fonction de R^pdans :

n+1=fn( n;zn): (1)

Un exemple simple est l'estimation récursive d'une moyenne. Si l'on estime = E(Z)par la moyennez_{n 1}d'un échantillon(z₁; z₂; :::; z_{n 1})deZet si l'on introduit une nouvelle observationz_n, la nouvelle estimation estz_n, que l'on peut écrire

zn=zn 1

1

n(zn 1 zn):

Un avantage de l'estimation récursive est que l'on n'a pas besoin de conserver les observationsz1; z2; :::; zn 1 ; au pasn, il suf t de disposer de l'estimation n et de zn. Cette méthode est donc particulièrement adaptée aux données qui arrivent de façon séquentielle dans le temps. Elle est aussi adaptée aux données dont l'observation est coûteuse : une fois que l'on a constaté que l'algorithme récursif converge, on peut ar- rêter l'introduction des données. Elle est également utilisable dans le cas de très grands tableaux de données : ainsi, pour effectuer l'analyse d'un tableau de données observées sur un ensemble d'individus de cardinalN très grand, on peut faire une succession de tirages au hasard dans cet ensemble ; pour chaque individu tiré, l'observationzest alors la réalisation d'un vecteur aléatoireZ dé ni sur l'ensemble desN individus muni de l'équiprobabilité. L'ADVA deZn'est autre que l'ADO sur cet ensemble, dont on peut estimer les résultats par des méthodes récursives.

Le processus récursif (1) peut être modi é dans les sens suivants.

Au pasn, on peut utiliser au lieu d'une seule observation zn un paquet de mn

observations. On peut aussi utiliser toutes les observations faites jusqu'au pasn, à con- dition de ne pas avoir à les conserver, ce qui annulerait un avantage de la méthode. Par exemple, si l'on cherche un vecteur propre d'une matrice de covariance d'un vecteur aléatoire, on peut utiliser dans la dé nition du processus une matrice de covariance empirique, mais calculée de façon récursive, sans avoir à la déterminer à chaque pas en fonction de toutes les observations effectuées jusqu'à ce pas.

Dans les arguments de la fonctionfnpeuvent intervenir des éléments aléatoiresyn

fonctions des observationsz₁; z₂; :::; z_{n 1}et eux-mêmes calculés de façon récursive.

On a alors :

n+1 = f_n( _n; z_n; y_n) (2)

yn = gn 1(yn 1;zn 1)

Par exemple, dans l'ACP normée du vecteur aléatoire Z, on utilise dans R^p la métriqueM des inverses des variances des composantes deZ ; lorsque l'on dispose de n observations z₁; z₂; :::; z_n, on peut l'estimer par la métrique M_n des inverses des variances empiriques calculées à partir de ces observations, elle-même calculée de façon récursive. On effectue ainsi une estimation récursive simultanée deM et de .

1.3 Cas de l'analyse factorielle multiple

Comme exemple d'application, on présente ici l'estimation des facteurs d'une ana- lyse factorielle multiple (AFM) d'un vecteur aléatoireZ. On présente d'abord dans le paragraphe 2 l'analyse en composantes principales (ACP) deZ. La présentation classique de cette ACP peut être trouvée dans (Anderson 1958) et une présentation plus générale faisant intervenir un choix de métriqueMdans l'espaceR^pdes réalisations de Zdans (Caussinus 1984). L'AFM étant une ACP avec un choix particulier de métrique, c'est l'esprit de cette formulation qui est utile ici ; cependant, on en présente d'abord l'aspect géométrique, puis l'interprétation statistique complétée par un résultat utilisé pour expliquer le choix de la métrique en AFM. La présentation de l'AFM qui suit celle de l'ACP est une extension dans un cadre probabiliste de celle faite par Esco er et Pagès (1988) dans le cadre de l'analyse des données classique.

Les facteurs d'une AFM sont vecteurs propres d'une matrice M ¹-symétrique.

L'étude de processus récursifs d'estimation de vecteurs propres de ce type de matrices fait partie de la théorie de l'approximation stochastique, initialisée par les travaux de Robbins et Monro (1951) et qui a connu un très grand développement depuis. Cepen- dant, le premier article consacré à ce problème particulier (Benzécri 1969) ne fait pas référence aux techniques utilisées classiquement en approximation stochastique, con- trairement à celui de Krasulina (1970), qui se place dans le cadre des processus de gradient stochastique. Divers processus ont été proposés depuis par différents auteurs.

On pourra consulter une bibliographie dans les articles de Bouamaine et Monnez (1997, 1998), qui ont effectué l'étude d'une classe contenant plusieurs de ces processus, aux résultats de laquelle on fera référence ici.

On présente le principe de l'approximation stochastique de vecteurs propres dans le paragraphe 3. On présente l'approximation stochastique des facteurs de l'AFM et

des valeurs propres dans le paragraphe 4, on conclut dans le paragraphe 5 et on donne les démonstrations dans le paragraphe 6.

On noteA⁰la transposée d'une matriceAetIune matrice-identité. L'abréviation p.s.signi e “presque sûrement”.

2 ACP et AFM d'un vecteur aléatoire

2.1 ACP d'un vecteur aléatoire

Soit un vecteur aléatoireZ dans R^p, dé ni sur un espace probabilisé ( ;A; P), de composantesZ¹; Z²; :::; Z^P de carré intégrable. On noteCovar(Z)ouCla matrice de covariance deZ.

On munitR^p d'une métriqueM ; on notek:kla norme associée : kZ(!)k² = Z⁰(!)M Z(!). A partir de M est dé nie la distance entre deux réalisations Z(!) etZ(!⁰)deZ qui est la mesure de la différence vis-à-vis deZ entre les éléments, ou individus,!et!⁰. Le choix de cette métrique est primordial et conditionne les résultats de l'ACP. Nous en verrons un exemple en AFM.

On désigne parFr un sous-espace af ne deR^p de dimensionrauquel appartient l'espérance mathématiqueE(Z)deZ. On note Z le vecteur aléatoire dansR^pqui, à tout! 2 , fait correspondre la projection orthogonale, au sens de la métriqueM,

Z(!)deZ(!)surFr. On aE(Z) =E( Z)et :

E(kZ E(Z)k²) =E(kZ Zk²) +E(k Z E(Z)k²):

2.1.1 Etude géométrique

L'ACP du vecteur aléatoireZconsiste à déterminer un sous-espaceFrqui restitue au mieux en dimensionrla dispersion deZmesurée parE(kZ E(Z)k²), donc qui soit tel queE(k Z E(Z)k²)soit maximale ouE(kZ Zk²)minimale. Si l'on note (u₁; u₂; :::; u_r)une baseM-orthonormée deF_r, on a

E k Z E(Z)k² = Xr k=1

u⁰_kM CM u_k:

Pourk = 1;2; :::; r, on recherche alors un vecteuruk qui rend maximale la forme quadratiqueu⁰M CM usous les contraintes d'êtreM-unitaire et M-orthogonal aux vecteursu_j,j = 1; :::; k 1; u_k est vecteur propre de la matriceCM associé à la k^ieme plus grande valeur propre k ; on au⁰_kM CM u_k = _k ; l'axe(E(Z); u_k)est appelé lek^iemeaxe principal de l'ACP deZ.

2.1.2 Interprétation statistique

La formulation statistique, équivalente à la géométrique, est le cadre usuel de présen- tation de l'ACP d'un vecteur aléatoire. Soit l'élémentak = M uk du dual R^p de R^p, appelé k^ieme facteur principal de l'ACP deZ. A partir du critère de détermi- nation deuk, on obtient queak rend maximale la forme quadratique a⁰Casous les

contraintesa⁰Caj = 0; j = 1;2; :::; k 1eta⁰M ¹a= 1; la combinaison linéaire des composantes centrées deZ,Ck = a⁰_k(Z E(Z)), appeléek^ieme composante principale, est donc de variance maximale sous les contraintes d'être non corrélée aux composantes précédentes et quea_k soitM ¹-unitaire. a_k est vecteur propre associé à lak^ieme plus grande valeur propre k de la matriceM ¹-symétrique M Cet on a a⁰_kCa_k= _k.

On a en outre le résultat suivant : vk = p^ak

k rend maximale la forme quadratique v⁰CM Cvsous les contraintesv⁰Cvj = 0,j= 1;2; :::; k 1etv⁰Cv= 1. En effet, une solution de ce problème est vecteur propre deC ¹CM C = M Cassocié à sak^ieme plus grande valeur propre, commea_k; maisa⁰_kCa_k= _k; on peut prendrev_k =p^ak

k. 2.1.3 Cas où l'espace fondamental est ni

On constate que, lorsque est un ensemble ni de cardinalN, la probabilité dui^eme élément, ou individu, de étant notéep_i, l'ACP du vecteur aléatoireZest l'ACP clas- sique, ou descriptive, du tableau des réalisations despvariables aléatoiresZ¹; :::; Z^p pour lesN individus de affectés respectivement des poidsp₁; :::; p_N, la métrique dansR^pétantM.

2.2 AFM d'un vecteur aléatoire

On suppose maintenant que l'ensemble des composantes du vecteur aléatoireZ dans R^pest partitionné enqgroupes de variables aléatoires réelles

Z^k1; Z^k2; :::; Z^kmk ; k= 1;2; :::; q; m1+m2+:::+mq=p:

On noteZ^kle vecteur aléatoire de composantesZ^k1; Z^k2; :::; Z^kmk.

Le but de l'analyse factorielle multiple est de réaliser une ACP deZdans laquelle les vecteurs aléatoiresZ^kaient un rôle équilibré. On veut éviter que les composantes principales de cette ACP soient principalement déterminées à partir de certains vecteurs Z^k, donc à partir de certaines composantes deZ au détriment des autres. Ceci est réalisé en faisant un choix particulier de la métriqueM dansR^p:

Pourk = 1;2; :::; q, on munit l'espace R^mk d'une métrique M^k. Il paraît alors naturel de prendre dansR^pla métrique diagonale par blocs

M = 0 BB BB

@ M¹

M² :

: M^q

1 CC CC A:

Le carré de la distance entre les points représentatifs de deux individus dansR^p est alors égal à la somme surkdes carrés des distances entre les points représentatifs de ces individus dansR^mk.

On noteC^k la matrice de covariance deZ^k, ^k₁ la plus grande valeur propre de M^kC^k, à laquelle est associé le premier facteur de l'ACP de Z^k, et C la matrice de covariance deZ que l'on suppose de plein rang. On a le résultat suivant dont la démonstration est faite dans le paragraphe 6.

Théorème 1 Pour un élémentvde l'ensembleA =fv2R^p :v⁰Cv= 1g, on a v⁰CM Cv Pq

k=1 k 1.

On notea¹₁le premier facteur de l'ACP deZ¹, élément deR^m1 ,w¹₁le vecteur de R^p obtenu en complétanta¹₁par des composantes nulles (on plongeR^m1 dansR^p ) etv₁¹le vecteurw₁¹C-normé. On a d'après la démonstration du théorème précédent :

1

1 (v¹₁)⁰CM Cv¹₁ Xq k=1

k 1:

Si l'on suppose la valeur propre ¹₁très grande par rapport à ²₁; :::; ^q₁, telle que la somme des ^k₁soit peu différente de ¹₁, la valeur maximale dev⁰CM Cvest presque atteinte en prenant v = v₁¹. Les composantes de Z¹ jouent dans ce cas un rôle prépondérant dans la détermination de la première composante principale de l'ACP deZ : c'est ce que l'on veut éviter.

Pour remédier à ceci, on peut prendre dansR^pla métrique diagonale par blocs

M₁= 0 BB BB B@

M¹

1 1

: :

:

M^q

q 1

1 CC CC CA :

Pour toutk, la plus grande valeur propre de l'ACP deZ^kavec la métrique^Mk^k

1 est alors égale à 1. Aucune plus grande valeur propre n'est prépondérante. L'ACP deZavec la métriqueM1est appelée analyse factorielle multiple deZ.

Pour effectuer l'estimation récursive des facteurs de cette analyse, on effectuera parallèlement l'estimation récursive des valeurs propres ^k₁des ACP desZ^k.

3 Approximation stochastique de vecteurs propres

On reprend des éléments de l'étude effectuée par Bouamaine et Monnez (1998). On utilise des notations spéci ques à ce paragraphe.

Soit B une matriceM-symétrique d'ordrepqui dé nit un endomorphisme dans R^p . On veut estimer r vecteurs propres correspondant respectivement aux r plus grandes valeurs propres deB. On suppose que la matriceBest inconnue, de même que la métriqueM dansR^p , mais que l'on dispose au tempsnd'une matrice symétrique dé nie positiveM_net d'une matriceB_nqui véri ent certaines hypothèses.

3.1 Dé nition du processus d'approximation stochastique

On note< :; : >n, respectivementk:kn, le produit scalaire, respectivement la norme, induits dansR^p par la métriqueMn. On dé nit pouri= 1; :::; r, le processus récursif

d'approximation stochastique(X_nⁱ)dansR^p de type Krasulina tel que, au tempsn: Fn(X_nⁱ) = BnX_nⁱ; X_{n n}ⁱ ₁

hX_nⁱ; X_nⁱin 1

(3) Y_n+1ⁱ = X_nⁱ +a_n(B_n F_n(X_nⁱ)I)X_nⁱ

X_n+1ⁱ = orth_Mn(Y_n+1ⁱ ):

X_n+1ⁱ = orth_Mn(Y_n+1ⁱ )signi e que(X_n+1¹ ; :::; X_n+1ⁱ )est obtenu en orthogonalisant par rapport àM_nau sens de Gram-Schmidt(Y_n+1¹ ; :::; Y_n+1ⁱ ).

3.2 Discussion des hypothèses

Les pas positifsansont tels que X1

1

an=1; X1

1

a²_n<1: La suite(M_n)véri e les hypothèses

Mn !M p:s:;

X1 1

ankMn Mk<1 p:s:

Par exemple, dans le cas de l'ACP normée,M est la matrice diagonale des variances des composantes deZ,Mn la matrice diagonale des variances empiriques calculées à partir des observations faites jusqu'au tempsn; en particulier, pouran = _n¹, on a P₁

1 a_nE(kM_n Mk)<1; les hypothèses sur(M_n)sont donc véri ées.

On suppose que la suite(Bn) véri e en particulier l'hypothèse suivante, oùTn

désigne la tribu du passé au tempsn: X1

1

ankE(Bn=Tn) Bk<1 p:s:

Dans l'application à l'analyse factorielle, on a souvent la décomposition multiplicative B =CD(par exemple, dans l'ACP du vecteur aléatoireZ, siN désigne la métrique choisie dansR^p, les facteurs de l'ACP sont vecteurs propres deB =N Covar(Z)) et la décomposition correspondanteBn =CnDn. Alors :

Bn B =CnDn CD=Cn(Dn D) + (Cn C)D:

Si(C_n)converge presque sûrement versCet si X1

1

ankE(Dn=Tn) Dk<1; X1

1

ankE(Cn=Tn) Ck<1 p:s:;

alors l'hypothèse sur(Bn)est véri ée.Cn(ouDn) peut être lui-même obtenu au temps n 1par un processus d'approximation stochastique et êtreTn-mesurable ; alors, la conditionP1

1 ankCn Ck<1 p:s:peut être éventuellement véri ée en utilisant un résultat de comportement asymptotique du processus(Cn). Cette façon de procéder peut être étendue au cas oùBest la résultante multiplicative de plus de deux matrices.

3.3 Principe de l'étude de la convergence

3.3.1 Algèbre extérieure d'ordre j de R^p

On note^le produit extérieur de vecteurs deR^p et pourj = 1; :::; p,^j^R^p l'algèbre extérieure d'ordrej deR^p : (e1; :::; ep)étant une base deR^p , l'ensemble desC_p^j produits extérieurse_i1^:::^e_ij pour1 i₁< ::: < i_j pest une base de^j^R^p .

On dé nit un produit scalaire dans^j^R^p à partir de celui dansR^p induit par la métriqueM; dans cette dé nition,Gjest l'ensemble des permutations defk1; :::; kjg, s( )est le nombre d'inversions de la permutation et"( ) = ( 1)^{s( )}:

ei1^:::^eij; ek1^:::^ekj = X

2Gj

"( ) ei1; e _{(k1) M}::: eij; e _{(kj) M}: On suppose que lesrplus grandes valeurs propres de l'endomorphismeBdansR^p sont différentes : 1 > ::: > r. On dé nit pourj = 1; :::; r, l'endomorphisme^j1B dans^j^R^p par :

j1B(x¹^::::::^x^j) = Xj h=1

x¹^:::^Bx^h^:::^x^j; x^l2R^p ; l= 1; :::; j:

SiV¹; :::; V^jsont des vecteurs propres deBcorrespondant respectivement à ₁; :::; _j, V¹^:::^V^j est vecteur propre de ^j1B correspondant à la plus grande valeur propre

1j =Pj

l=1 l. On note^jS1le sous-espace propre correspondant à 1jet(^jS1)^?son supplémentaire orthogonal.

3.3.2 Convergence du processus

On effectue la démonstration de la convergence en deux étapes.

Soit ^jX_n = X_n¹^:::^X_n^j. On démontre d'abord que, pour j = 1; :::; r, _k^jj^XXⁿnk

convergep:s:dans un ensemble^jE versV¹^:::^V^j 2 ^jS1(on suppose les vecteurs V^l normés). On démontre ensuite que, pourl = 1; :::; r, _k^X_X^nll

nk converge p:s:dans

\^lj=1jEversV^l. On donne ci-dessous la dé nition de l'ensemble^jE.

Dans le cas où l'on connaîtBetM, on dé nit h_j(^jx) =

j1B^jx;^jx

h^jx;^jxi ;^jx2 ^j^R^p ; et le processus ^jUn dans^j^R^p par

jUn+1= I+an j1B hj(^jUn)I ^jUn: Dans ce cas, ^jE est l'ensemble n

jX₁2= ^jS₁ ^?o

; X₁¹; :::; X₁^j ne doivent pas être orthogonaux au sous-espace engendré par les vecteurs propres deB correspondant à sesjplus grandes valeurs propres.

Le processus(^jXn) = (X_n¹^:::^X_n^j)peut être considéré comme une perturbation stochastique du processus ^jUn . On note :

nj = 1 +a_n( _1j h_j(^jX_n)) Q^j = ^jX1+

X1 n=1

jXn+1 I+an j1B hj(^jXn)I ^jXn

Qn i=1 ij

: L'ensemble^jE est Q^j 2= (^jS1)^? . On remarque que Q^j = ^jX1 pour (^jXn) =

jU_n .

4 Approximation stochastique des facteurs de l'AFM

On noterle nombre de facteurs de l'AFM deZque l'on veut estimer.

Soit (Z1; Z2; :::; Zn; :::) une suite de vecteurs aléatoires constituant un échantil- lon i.i.d. deZ. Zn a pour composantes les variables aléatoires réelles Z_n^kj, j = 1;2; :::; mk; k = 1;2; :::; q ; pourk xé, les vecteurs aléatoires Z_n^k de composantes Z_n^kj,j= 1;2; :::; m_k, constituent un échantillon i.i.d. deZ^k. On noteZ_n^k = ¹_nPn

i=1Z_i^k la moyenne d'ordrendesZ_i^ketZ_ncelle desZ_i.

Soit pourk= 1;2; :::; q,(M_n^k)une suite de matrices symétriques dé nies positives d'ordremk.

On considère les hypothèses suivantes.

(H1)Zadmet des moments d'ordre4r.

(H2a)Pourk= 1;2; :::; q; M_n^k !M^kp.s.

(H2b)Pourk= 1;2; :::; q;P₁

1 a_n M_n^k ₁ M^k <1p.s.

(H3)an>0;P₁

1 an=1;P₁

1 an

pn <1;P₁

1 a²_n<1.

4.1 Dé nition et convergence d'un processus d'estimation du premier facteur de l'ACP de Z^k

Le premier facteur dansR^mk de l'ACP du vecteur aléatoireZ^kdansR^mkmuni de la métriqueM^kest vecteur propre associé à la plus grande valeur propre de

B^k =M^kC^k=M^k(E(Z^kZ^k0) E(Z^k)E(Z^k0)):

On suppose que l'on dispose d'un estimateur convergent(M_n^k)deM^k. Par exemple, siM^kest l'inverse de la matrice diagonale des variances des composantes deZ^k(c'est le cas de l'ACP normée), on peut l'estimer à partir de l'échantillon(Z₁^k; :::; Z_n^k ₁)de Z^kpar l'inverse de la matrice diagonale des variances empiriques ; on démontre alors que l'hypothèse H2 est véri ée (Bouamaine 1996, VI, lemme 1.1.b).

Pour tout n, on note h:; :i^kn le produit scalaire dans R^mk muni de la métrique (M_n^k) ¹etk:k^knla norme associée. On dé nit la matriceB_n^kcarrée d'ordrem_k:

B_n^k=M_n^k ₁(Z_n^kZ_n^k0 Z_n^k ₁Z_n^k ₁⁰): (4)

On dé nit le processus (V_n^k)dans R^mk de type Krasulina (cf (3)) d'estimation d'un vecteur propre associé à la plus grande valeur propre de la matriceB^k:

V_n+1^k =V_n^k+an(B_n^k B^k_nV_n^k; V_n^{k k}_{n 1} hV_n^k; V_n^ki^kn 1

I)V_n^k: (5) On noteS^k₁ le sous-espace propre associé à la plus grande valeur propre ^k₁ deB^ket (S^k₁)^?l'orthogonal deS₁^k. M désignant une métrique quelconque dansR^mk , A un vecteur deR^mk etBune matrice carrée d'ordremk, on note ci-dessous

f(A; B; M) = hBA; AiM

hA; AiM

: On note également :

W^k = V₁^k+ X1 n=1

V_n+1^k (I+an(C^k f(V_n^k; C^k;(M^k) ¹)I))V_n^k Qn

i=1(1 +ai( ^k₁ f(V_i^k; C^k;(M^k) ¹))) E^k = n

W^k 2= S₁^{k ?}o :

Lemme 2 Sous H1, H2, H3,W^kconverge presque sûrement,V_n^kconverge presque sûrement dansE^kvers un vecteur propreU₁^kdeB^k =M^kC^kassocié à la plus grande valeur propre ^k₁ et l'on a presque sûrement dansE^k

X1 n=1

a_n ^k₁ B^kV_n^k; V_n^{k k}_{n 1} hV_n^k; V_n^ki^kn 1

<1:

On détaille les calculs à effectuer à chaque pas.

B_n^kV_n^k = M_n^k ₁(Z_n^kZ_n^k0 Z_n^k ₁Z_n^k ₁⁰)V_n^k =M_n^k ₁(Z_n^{k k}_n Z_n^k ₁ ^k_n)

k

n = Z_n^k0V_n^k; ^k_n=Z_n^k ₁⁰V_n^k 2R F_n^k(V_n^k) = B_n^kV_n^k; V_n^{k k}_{n 1}

hV_n^k; V_n^ki^kn 1

=

knZ_n^{k0 k}_nZ_n^k ₁⁰ V_n^k V_n^k0 M_n^k ₁ ¹V_n^k

=

k n

2 k

n 2

V_n^k0 M_n^k ₁ ¹V_n^k

V_n+1^k = V_n^k+an M_n^k ₁ ^k_nZ_n^{k k}_nZ_n^k ₁ F_n^k(V_n^k)V_n^k :

A condition que les matricesM_n^ksoient diagonales, on peut facilement mettre en oeu- vre le processus précédent dans le cas d'un nombre élevé de composantes deZ(cas du

éau de la dimension).

4.2 Dé nition et convergence d'un processus d'estimation de B^k

On dé nit pourk= 1;2; :::; qle processus(W_n^k):

W_n^k=M_n^k(1 n

Xn i=1

Z_i^kZ_i^k0 Z_n^kZ_n^k0): (6) On peut calculer la matrice symétrique d'ordrem_k, _n¹Pn

i=1Z_i^kZ_i^k0, de façon récur- sive, ainsi queZ_n^k.

Lemme 3 Sous H1, H2, H3,W_n^kconverge presque sûrement versB^ket X1

n=1

an W_n^k ₁ B^k <1 p:s:

4.3 Dé nition et convergence d'un processus d'estimation de ^k₁

On dé nit pourk= 1;2; :::; qle processus réel( ^k_n) :

k

n = W_n^k ₁V_n^k; V_n^{k k}_{n 1} hV_n^k; V_n^ki^kn 1

: (7)

Lemme 4 Sous H1, H2, H3, pourk = 1;2; :::; q, ^k_n converge presque sûrement vers ^k₁et

X1 n=1

a_n ^k_n ^k₁ <1 p:s:dansE^k:

4.4 Dé nition et convergence d'un processus d'estimation de M1

On dé nit pour toutnla matrice diagonale par blocs symétrique dé nie positiveM_1n qui, pourk= 1;2; :::; qa pourk^iemebloc diagonal ^Mk^nk

n+1.

Lemme 5 Sous H1, H2, H3, dans\^qk=1E^k,M1nconverge presque sûrement vers M1et

X1 n=1

a_nkM_{1;n 1} M₁k<1 p:s:

4.5 Dé nition et convergence de processus d'estimation des facteurs de l'AFM de Z