HAL Id: hal-00913700
https://hal.archives-ouvertes.fr/hal-00913700
Submitted on 14 Mar 2014
HAL is a multi-disciplinary open access
archive for the deposit and dissemination of
sci-entific research documents, whether they are
pub-lished or not. The documents may come from
teaching and research institutions in France or
abroad, or from public or private research centers.
L’archive ouverte pluridisciplinaire HAL, est
destinée au dépôt et à la diffusion de documents
scientifiques de niveau recherche, publiés ou non,
émanant des établissements d’enseignement et de
recherche français ou étrangers, des laboratoires
publics ou privés.
Décomposition canonique de tableaux hermitiens
semi-définis positifs d’ordre pair par rotation
procustéenne: application à l’ICA.
Laurent Albera, Ahmad Karfoul, Lieven de Lathauwer
To cite this version:
Laurent Albera, Ahmad Karfoul, Lieven de Lathauwer. Décomposition canonique de tableaux
hermi-tiens semi-définis positifs d’ordre pair par rotation procustéenne: application à l’ICA.. XXII colloque
GRETSI, Sep 2009, Dijon, France. pp.488. �hal-00913700�
positifs d'ordre pair par rotation pro ustéenne : appli ation à l'ICA LaurentAlbera 1 ,AhmadKarfoul 1 , LievenDeLathauwer 2 1
INSERM,U 642,Rennes,F-35000Fran e UniversitédeRennes1,LTSI,F-35000Fran e
2
LaboratoireTraitementdesImages
KatholiekeUniv.Leuven,Subfa ultyS ien eandTe hnology,B-8500Kortrijk,Belgium laurent.alberauniv-rennes1.fr,
ahmad.karfouluniv-rennes1.fr,Lieven.DeLathauwerkuleuven-kortrijk.be
Résumé Nous présentons i i unenouvelle famille de méthodes itératives, nommée CanDeP (multi-way array Canoni al De omposition basedon Pro rustesrotation), an de al uler la dé omposition anonique d'un tableau hermitien semi-déni positifd'ordrepair.Cetteappro healternejusqu'à onvergen elarésolutiondu problèmedePro rustesetladé ompositionde tableauxderang1.Appliquéeaux umulantsd'ordre
2q
,laméthode2q
-CanDePpermetderéaliseruneanalyseen omposantes indépendantesperformante,orant i)ungainimportantenrésolution, ii)la apa itéd'identierunmélangesous-déterminéde sour eset iii)unerobustesseàunbruitGaussiende ovarian espatialein onnue.Abstra tAnewfamilyofiterativemethods,namedCandDep(multi-wayarrayCanoni alDe ompositionbasedonPro rustes rotation)is proposed in this paperin order to anoni ally de ompose an even higher orderpositive semi-denite array with hermitiansymmetry. Thisapproa hswit hes,untilthe onvergen e,betweenthebestrank-
1
approximationofagivenHOarray andthe resolution of the well-knownPro rustes problem. Applied to2q
-thorder umulants, the2q
-CanDepapproa hallows forawell-performedindependent omponentanalysis. Indeed,theproposedapproa henjoys i)agoodidenti ationresolution, ii)the ability ofpro essing underdeterminedmixturesofsour esand iii)agoodrobustnesstoaGaussiannoisewithunknown spatial ovarian e.1 Introdu tion
L'algèbre multilinéaire est déni omme l'algèbre des tableaux d'ordre
q
(q > 2
), i.e., les tableaux à plus de deuxentrées.Silespremierstravauxenmatièred'algèbre multilinéaireremontentauXIXèmesiè le,ilfautattendre lase ondemoitiédu XXèmesiè le pour voir e domaine prendreunetoutenouvelledimensionautraversde l'analy-sede donnéeset assister ausa redu modèle PARAFAC (PARallelFACtoranalysis)[6℄,quenousdésigneronspar CANDpourêtreégalementréféren ésouslenom de Dé- ompositionCANonique.Le modèle CAND n'est autre que l'é riture d'un ta-bleaud'ordre
q
sousformed'une ombinaisonlinéairede tableauxd'ordreq
etderang1.L'utilisationd'untel mo-dèle ne esse de se répandre, en tou hant à présent des domaines aussi ri hes et variés que eux de l'ingénierie biomédi ale[7℄etdutraitementd'antennes[10℄.Parmiles méthodesde dé omposition lesplus utilisées, on ompte lesappro hesitérativestelles quelaméthodedugradient onjugué,laméthode de Levenberg-Marquardt[11℄ mais aussila non moins populaireméthode ALS (Alternating LeastSquare) [6℄et sesdérivées[9℄.Parmi lesappro hes semi-algébrique, on trouve la méthode FOOBI proposéerithme BIOME proposéedans [1℄ pourdestableaux her-mitienssemi-dénispositifsd'ordrepair.Silesappro hes algébriquesévitentlesproblèmesde onvergen epropres aux méthodes itératives, elles sont la plupart du temps trèsvoiretropgourmandesentermes de oûtde al ul.
Aussi, présentons-nousi i une nouvelle famillede mé-thodesitératives,nomméeCanDeP(multi-wayarray Ca-noni alDe ompositionbasedonPro rustesrotation),an de al ulerladé omposition anoniqued'untableau her-mitien semi-dénipositifd'ordrepair.Cetteappro he al-terne jusqu'à onvergen e la résolution du problème de Pro rustesetladé ompositiondetableauxderang1. Ap-pliquéeaux umulantsd'ordre
2q
,laméthode2q
-CanDeP permet de réaliser une analyse en omposantes indépen-dantesperformante,orant i)ungainimportanten réso-lution, ii)la apa itéd'identierunmélange sous-détermi-né desour es et iii)une robustesse àunbruit Gaussien de ovarian espatialein onnue.2 Outils préliminaires et présenta-tion du problème
Avant tout, rappelonsquelques notionsd'algèbre mul-tilinéaire[2℄.
Dénition1 Soit
T
∈
CN
1
×···×N
q
un tableau d'ordre
q
(q ≥ 2
). On dira queT
est de rang 1 s'il peut s'é rire omme le produit externeu
(1)
◦ · · · ◦ u
(q)
de
q
ve teursu
(i)
∈
CN
i
(
1 ≤ i ≤ q
) où haque omposante deT
est donnéeparT
i
1
,··· ,i
q
= u
(1)
i
1
· · · u
(q)
i
q
.Demême quepourlesmatri es, ilest possiblededénir lerangd'untableau d'ordresupérieur:
Dénition2 Soit
T
∈
CN
1
×···×N
q
un tableau d'ordre
q
(q ≥ 3
).LerangdeT
,notérk(T )
,estlenombreminimal de tableauxd'ordreq
, et de rang 1 dé rivant exa tementT
par ombinaison linéaire. Cette ombinaison linéaire, minimale en son nombre de terme, dénit la CAND du tableauT
.Notonsque, ontrairementau as matri iel,lerang d'un tableau d'ordre stri tement supérieur à2 n'est pas obli-gatoirementmajoréparlapluspetite desesdimensions. Parailleurs,ladénition 2montre quel'ordreet la pon-dération des diérents tableaux de rang 1 dénissant la CAND d'un tableau
T
peuventêtre modiés sans han-gerlavaleurdeT
.Sil'existen ed'unetelledé omposition est toujoursassurée, son uni itéquant àellene sera ga-rantie,auxdeuxindéterminations itéespré édemmment, quesous ertaines onditions(voirlesréféren esdans[10℄ pour des onditions susantes d'uni ité). Considérons à présentlatransformationtableau-à-matri esuivante : Dénition3 SoitT
untableau arré d'ordre2q
(q ≥ 2
) de dimensionsN
. Soient respe tivement⌊q/2⌋
et⌈q/2⌉
les parties entières inférieure et supérieure deq/2
. La (i, j
)ème omposantedelamatri eT
= mat
1
(T )
detaille (N
q
× N
q
) estdéniepar:
(mat
1
(T ))
i,j
=
T
n
1
,··· ,n
⌈q/2⌉
,n
⌈q/2⌉+1
,··· ,n
q
,n
q+1
,··· ,n
q+⌈q/2⌉
n
2q+⌈q/2⌉+1
,···,n
2q
où
i = (n
1
− 1)N
q−1
+ · · · + (n
⌈q/2⌉
− 1)N
⌊q/2⌋
+ (n
q+⌈q/2⌉+1
− 1)N
⌊q/2⌋−1
+ · · · + (n
2q
− 1)N + n
2q
j = (n
q+1
− 1)N
q−1
+ · · · + (n
q+⌈q/2⌉
− 1)N
⌊q/2⌋
+ (n
⌈q/2⌉+1
− 1)N
⌊q/2⌋−1
+ · · · + (n
q
− 1)N + n
q
Prenonsàtitred'exemplele asd'untableau
T
hermitien d'ordre2q
(q ≥ 2
)dedimensionsN
telqueξ(ω) = 1
pourω ∈ {1, . . . , q}
etξ(ω) = −1
pourω ∈ {q + 1, . . . , 2q}
.Dénition4 Un tableau
T
d'ordreq
(q ≥ 2
) à valeurs omplexesseradit hermitien sisa CANDprend la forme suivante:T
=
P
X
p=1
λ
p
a
p
ξ(1)
◦ a
p
ξ(2)
◦ · · · ◦ a
p
ξ(q)
(1)oùles
P
valeursλ
p
sontréellesetl'appli ationξ
estdénie parξ(ω) = ±1
ave pour onventionsx
1
= x
etx
−1
= x
∗
,x
∗
désignant la onjuguéedex
.Supposonségalementque
T
soitsemi-dénipositif,lesP
valeursλ
p
de la CAND (1) deT
sont alors toutes po-sitives. Construisons la matri eT
= mat
1
(T )
de taille(
N
q
×N
q
),onpeutalorsdémontrerd'aprèslesdénitions 3et4l'égalité
T
= A
q
ΛA
q
H
,où
A
q
= A
⊘⌈q/2⌉
⊘ A
∗⌊q/2⌋
,
⊘
est l'opérateur du produit de Khatri-Rao produ t [1℄,⊘
désignel'opérateurde puissan e de Khatri-Rao [1℄,
A
est la matri e de taille (N × P
)égale à[a
1
, . . . , a
P
]
etΛ
estlamatri ediagonalediag{[λ
1
, · · · , λ
P
]}
.De ette éga-litédé oulele ara tèrehermitiensemi-dénipositifdeT
garantissantl'existen ed'unera ine arrédeT
.Enn, in-troduisonslatransformationtableau-à-ve teursuivante : Dénition5 SoitT
∈
CN
1
×···×N
q
ave
q ≥ 2
. Les om-posantes du ve teur olonnet
= vec(T )
de dimensionN
1
· · · N
q
sont déniespar:t
(n
1
−1)(N
2
···N
q
)+(n
2
−1)(N
3
···N
q
)+···+n
q
= T
n
1
,··· ,n
q
(2)On peutalors dénir l'opérateur ré iproque
unvec
tel que l'on aitunvec (vec(T )) = T
.Leproblèmetraitédans epapierpeut êtrerésumédela manièresuivante:
Problème 1 Cal uler la CAND d'un tableau
T
hermi-tiensemi-déni positifd'ordrepair.3 La famille de méthodes CanDeP Nous proposons dans ette se tion une méthode per-mettantde résoudreleproblème1évoqué i-dessus. Soit
T
untableauhermitiensemi-dénipositifd'ordre2q
(q ≥
2
).Laméthodeproposéei i,baptisée2q
-CanDeP, al ule la CAND deT
en alternant jusqu'à onvergen e deux étapes de minimisation. Présentons tout d'abord la pre-mièreétape.Pour e faire,notonsT
1/2
unera ine arrée de
T
= mat
1
(T )
obtenue par diagonalisation deT
. En eet,T
estdiagonalisablesouslaformeELE
H
,dufaitdu ara tèrehermitiende
T
,oùE
estlamatri edesve teurs propresorthonormés asso iés auxP
valeurspropresnon nulles deT
rangées dans la matri e diagonaleL
. On a alorsT
1/2
= EL
1/2
où
L
1/2
estlara ine arréede
L
.On aalorslapropositionsuivante :Proposition1 Sous les hypothèses pré édentes, la ma-tri e
B
= (L
1/2
)
−1
E
H
A
q
Λ
1/2
est une matri e orthonor-mée(unitaire) de taille(P ×P
),à valeursréelles lorsqueq
estpair.Ainsi,lapremièreétapede
2q
-CanDeP onsisteà mini-miserlanormedeFrobeniusdeladiéren eentreT
1/2
et le produit matri iel
A
q
Λ
1/2
B
H
, ie,sans perte de généra-lité auvu des indéterminationsde la CAND,entre
T
1/2
etleproduitmatri iel
A
q
B
H
sousla ontrainted'avoir
B
unitaire.Ensupposant onnuelamatri eA
q
, eproblème d'optimisationest onnusouslenomdeproblèmede Pro- rustes[5℄.Lasolutionoptimaleausensdesmoindres ar-rés onsisteà hoisirB
= U V
H
,où
U
etV
sont respe ti-vementlesmatri essingulièresgau heetdroitedela ma-tri eA
H
q
T
1/2
(la démonstrationproposéedans[5℄dansle asdematri esréellespeutfa ilementêtreétendueau as omplexe).
1000
1500
2000
2500
10
−3
Number of Samples
log
10
(
α
1
)
6−BIOME
6−CanDep
(a) sour e1
1000
1500
2000
2500
10
−2.4
10
−2.3
10
−2.2
10
−2.1
Number of Samples
log
10
(
α
2
)
6−BIOME
6−CanDep
(b)sour e2
1000
1500
2000
2500
10
−2.6
10
−2.5
10
−2.4
10
−2.3
10
−2.2
Number of Samples
log
10
(
α
3
)
6−BIOME
6−CanDep
( ) sour e3
Figure 1 Pseudo-distan e
D
al ulée pour6-CanDeP et6-BIOMEenfon tiondunombred'é hantillonsLa se onde étape de la méthode
2q
-CanDeP onsiste àidentier lamatri eA
q
, et plusexa tement lesP
ve -teurs olonnesa
p
deA
. Supposant onnuelamatri eB
, la matri eA
q
peut être identiée, àune matri e diago-nale près, en al ulant leproduitT
1/2
B
. On peut alors montrerqu'appliquerl'opérateur
unvec
aup
-èmeve teur olonnededimensionN
q
delamatri e
A
q
identiée per-met d'obtenir letableau arréA
(p)
d'ordre
q
et derang 1,déni parA
(p)
= a
p
◦⌈q/2⌉
◦ a
p
∗
◦⌊q/2⌋
. La se ondeétapeonsistedon à al ulerlaCANDderang1de haque ta-bleau
A
(p)
àl'aidede laméthodedes puissan esd'ordre supérieure[2℄and'identieràuns alaireprèsles
P
ve -teurs olonnesa
p
. Notons que la dé omposition est pro-poséedans[2℄pourdestableauxderang1estégalement réaliséeausensdesmoindres arrés.4 Simulations
Uneétude omparativeentermesdesimulations numé-riquesestprésentée i-dessousdansle ontextede l'identi- ationdemélangesous-déterminédesour es.Cetteétude permetde omparerlesperforman esdelaméthode Can-DeP et d'uneautreméthode plus onnue souslenomde BIOME [1℄. Notons que BIOME a pour ara téristique deproposerunesolutionsemi-algébriqueauproblèmede CAND.Enfait,lesméthodes
6
-CanDePet6
-BIOMEont été utilisées an d'obtenirla CAND d'un tableau umu-lantC
6, x
estiméàpartirderéalisationsd'unve teur aléa-toirex
suivantlemodèlex
= As + ν
oùs
estunve teur aléatoire dont les omposantes sont mutuellement indé-pendantes etν
un ve teur Gaussien. La CAND deC
6, x
onduit alors à l'identi ation du mélangeA
de taille (N ×P
)parpropriétédes umulants[3℄.Atitred'exemple, nousnoussommespla ésdansle adrede ommuni ations satellitaires oùP = 3
modulations QPSKltréesNyquist (roll-o de0.3
)ontété générées et dontla ré eptionsur unréseaudeN = 2
apteursaété simulée.Lesporteuses des QPSK ont été respe tivement prises égalesà0, 0.35 et0.7(aufa teurprèsdelafréquen ed'é hantillonnage). Le ritère d'évaluation de performan e utilisé i i est la pseudo-distan e,D(A, c
A
) = (α
1
, α
2
, · · · , α
P
)
,entreA
et sonestiméec
A
oùα
p
= min
1≤i≤P
{d(a
p
, b
a
i
)}
ave :d(u, v) = 1 − |u
H
v
|
2
/(||u|| ||v||)
(3) Les résultatsontétémoyennéssur100expérien es indé-pendantes.
La gure1 montre les variationsde
D
en fon tion du nombrederéalisationsduve teurx
pourunRapport Si-gnalàBruit(RSB) de20dB.Lesdeux méthodesontdes performan estrèsvoisines ommeentémoignelagure1.750
é hantillonssusentauxdeuxalgorithmespour assu-rerdesperforman estout àfait orre tes(i.e.D < 0.01
) malgré l'usage de umulants d'ordresupérieur (l'ordre 6 esti iutilisé)réputéspouravoirunegrandevarian e d'es-timation.Lagure2montrequant-à-ellelesvariationsdeD
en fon tion du RSB pour2500
réalisationsdex
. On noteunbon omportementde6
-CanDePaudelàde0dB, omportementsimilaireà eluide6
-BIOME.−30 −20 −10
0
10
20
30
40
50
10
−3
10
−2
10
−1
SNR
log
0
(
α
1
)
6−BIOME
6−CanDep
(a) sour e1
−30 −20 −10
0
10
20
30
40
50
10
−2
10
−1
SNR
log
10
(
α
2
)
6−BIOME
6−CanDep
(b)sour e2
−30
−20
−10
0
10
20
30
40
50
10
−2
10
−1
SNR
log
10
(
α
3
)
6−BIOME
6−CanDep
( ) sour e3
Figure 2 Pseudo-distan e
D
al ulée pour6-CanDeP et6-BIOMEenfon tionduRSB.dedeux ontratsANR blan s,àsavoir"De otes" (ANR-06-BLAN-0074)et"mv-EMD"(ANR-BLAN07-0314-02).
Référen es
[1℄ L. ALBERA, A. FERREOL, P. COMON, and P. CHEVALIER, Blind Identi ation of Over om-plete Mixturesofsour es(BIOME), LinearAlgebra Appli ations,vol.391C,pp.330,November2004. [2℄ L. De LATHAUWER, B. De MOOR, and J. V
AN-DEWALLE, On the best rank-1 and rank-(R1,R2,...,RN)approximationofhigh-ordertensors, SIAM Journal Matrix Analysis and Appli ations, vol.21,no.4,pp.13241342,2000.
[3℄ A. KACHENOURA, L. ALBERA, L. SENHADJI, andP.COMON,ICA:apotentialtoolforBCI sys-tems, IEEE SignalPro essing Magazine, spe ial is-sueonBrain-ComputerInterfa es,vol.25,no.1,pp. 5768,January2008.
[4℄ A. FERREOL, L. ALBERA, and P. CHEVALIER, Fourthorderblindidenti ationofunderdetermined mixturesofsour es(FOBIUM), IEEETransa tions On Signal Pro essing, vol. 53, pp. 12541271, April 2005.
[5℄ G.H.GOLUBandC.F.V.LOAN,Matrix omputa-tions,se ondedition. TheJohnsHopkinsUniversity Press,Baltimore,MD, 1989.
[6℄ R. HARSHMAN, Foundation of PARAFAC pro e-dure : Models and onditions for an 'explanatory' multi-mode fa tor analysis, UCLA working papers inPhoneti s, no.16,pp.184,1970.
[7℄ C. S. HERMANN, J.PARNAS, M. MORUP, L. K. HANSEN, and S. M. ARNFRED, Parallel fa tor analysis asan exploratorytoolfor wavelet transfor-med eventrelatedEEG, NeuroImage,vol.29,no. 3, pp.938947,2006.
[8℄ L. D. LATHAUWER, A link between the anoni- alde ompositioninmultilinearalgebraand simulta-neousmatrixdiagonalization,SIAMJournalin ma-trixAnalysisandAppli ations,vol.28,no.3,pp.642 666,2006.
[9℄ M.RAJIH,P. COMON,and R.HARSHMAN, En-han ed line sear h : A novel method to a elerate PARAFAC, SIAM Journal in Matrix Analysis and Appli ations, spe ial issueon Tensor De omposition andAppli ations,2008.
[10℄ N.D. SIDIROPOULOS, R.BRO,and G.B. GIAN-NAKIS,Parallelfa toranalysisin sensorarray pro- essing, IEEE Transa tions On Signal Pro essing, vol.48,no.8,pp.23772388,August2000.
[11℄ G. TOMASI and R. BRO, A omparison of algo-rithmsforttingtheparafa model, Computational Statisti sandDataAnalysis,vol.50,no.7,pp.1700 1734,2006.