Statistics on Multivariate Normal Distributions: A Geometric Approach and its Application to Diffusion Tensor MRI

(1)

HAL Id: inria-00070756

https://hal.inria.fr/inria-00070756

Submitted on 19 May 2006

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub-

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non,

Statistics on Multivariate Normal Distributions: A Geometric Approach and its Application to Diffusion

Tensor MRI

Christophe Lenglet, Mikaël Rousson, Rachid Deriche, Olivier Faugeras

To cite this version:

Christophe Lenglet, Mikaël Rousson, Rachid Deriche, Olivier Faugeras. Statistics on Multivariate Normal Distributions: A Geometric Approach and its Application to Diffusion Tensor MRI. RR-5242, INRIA. 2004, pp.25. �inria-00070756�

(2)

a p p o r t

d e r e c h e r c h e

Thème BIO

INSTITUT NATIONAL DE RECHERCHE EN INFORMATIQUE ET EN AUTOMATIQUE

Statistics on Multivariate Normal Distributions:

A Geometric Approach and its Application to Diffusion Tensor MRI

Christophe Lenglet — Mikaël Rousson — Rachid Deriche — Olivier Faugeras

N° 5242

June 2004

(3)

(4)

0 123#4)(06575,89,:;0<5,5,)/)=$&(>?@)

A 3,@<BDC

EGFHJILKMJN OPFQSRTQVUW*XYQZM

∗ ^[\ IY]_^_`VXTabN cKJKJN U

† ^[ a7^edfFILgih7QVHJIjdkFQ

‡ ^[ml XLIYnIYQZHbom^ecW QZHk^eK

§

pTqsrtGuvTwyx{z}|~r)tu)3fZsu

m kux~yy)u

ks su u)qu quek Zz¢¡su%k££f z= _ fu

¤-¥¦§©¨Jª_«f§¬

pTqs u su)s u®bqu ~y¯mqsu_ )uf¯°t±² k u

t

k

_±³~?susy±³~?¯´sss)µw¶

u)u)?qsu±· u

u)

u)tu

s

u

u¯

quGssu

~

e©

tuu

_

)u¸@ussJ¹u)º¹»q

,

u)t

ss

¼tu

f¸

¹u)

u)u

¹

y½

q

u?,qsufusu

¾

ºf¯°quG

t

m

¹¿SfsÀjsu

k

_

u))µÁ¼uG¹»Â

Zu)uÃºqsuÄ u¯qu © bÅyu))ÇÆf¸¹»qsuÄu)È u)yys'ytGu®Z u) u) uÃ

quÉ s) ub¯qubt ¯´Ê¯Tu u¸ s'qsu'¯ËV)¼qsu-su ² f'¯3)fyuÀj¯´ t

u)È s u)yys%¯´ qubtu *¸P)J² k s)ubt È ¸PtGVsu%f¯T² k s' t ° ¹Ì u)³¹u)u

t%s² k u°s t Zs ±ss%yu)Vµ@Á¼u°¹» y s u)yqsu/su ² f¯ ) u

s-uÍÉ)u)Zstu eyqsu)tu°ut u»qsu fyu-Z u)µÎ{t Ï Tks b¯

qu s u)yuT¹ y½ qu ±~yT¯s· sy7u)sy 3Ð? su u)y suw³t ssµ

Á'uyq¹ s tGys u)ys»f~VZqsu s u Ñ yu))ÄÒVµ

ÓÔVÕ Ö×Ø ¨kÙ¦f¬

t%s±²

k

u

t

s

±_*¸ ~ttGu)

y±²u)ÀjsuÂ±ut

Èe¸etu

Ñ¸

J² k suSt Èe¸tVsu)¯² © *¸Úyqu s¯´ t *¸uZu)y))¸u)Vsuyºs s)u¸

ut ssÀÏÛ/q f· uZu)sy ¸ )usy ¸fy k ) ² uf¸fyu)) Z ² u¸fqstfusu)s

e uf¸Ü@u ¸ ut s uftu) ~

∗ Ý Þ©ßLàâáLãjäå©Þ©æçèZæéJêëâæÏã³ìáLäå©Þ©àâíJçàâéJßLàâí©çî±ß

†^ï ^{àâðíñÏëç}òÑäó©áLájäéfìájäå©Þ©àâí©çàâé©ßLàâíJçî±ß

‡òÑíô¶Þ©àâõçöæßLàâô¶Þ©æìájäå©Þ©àâíJçàâé©ßLàâíJçî÷ß

§ ^øëâà^{ùàâæßÏç}ú©íó©êæÏßLíá³ìáLäå©ÞJàâí©çàâé©ßLàâí©çî±ß

(5)

, 0<5,578, 13#7! @0<5,5,)/ ÏCeB<

:7

A

3,@37D:7!&(>S@)

¦ ¬ Û/u ks suG ~Vyu ZsuGuGu)_ )usususy)u s f

t u)3t%s±² © )u)µmw³*ks suy u s s ))¸yysu)»u ft) us· uu)u¸ssu

u)_ )usu) _k tr u)3ysÀ )u»Zs sut u ut sussuf¸ sy@Zsuy su

)u» ² È ~ tu)É fs ®su% s t u Èu)e u)sÀjs u))µ

s%)ttGus)u s _k u)yyu s') %subk %u)'yuf Æf¸%u)'uÈ s t Z%u s

Z )u)É s usu sf uu) _ )u% µ sss)su) u fu)ys±u

y

s

²

fu)È

u)yyf@uÈ

)u)

tJ~u)suf¸k

t

)umsum²

k

suf¸©u)@tVsu)

u²

k

u

ssuÑs

t

uu)

us

±sss

t

u»t%s±²

k

)u3u,yuÄVµ

s su s/ u)tuu²u) s u)tuuyq)t Zst Zsu)TuÍÉ )u u)tGu

u)P Z± s y)u)µsu ks ft Ïu us s )yu ² )ysu/ ~yu/ À

u»u)t u)/w »Ð sÉusyu) sus· syfÑµ s s yu)sus) u )ys

y su3sssu) )u)u)»u»~qs)Zsu3u),yuf®ÒVµ

Ø §J¦ Ö « ¦¬

s ±ss t umt%s±² k )u¸©t )uP~t ZsumsÂu)À y±²uf¸©tJ~u)ssu¸

t )u®su?² k suf¸tGVsu-su®² © *¸»s¯´ t su?Úyqsu ¸»Z)yu))¸s s)u

Z)yuf¸u)syu

su

u)t

sÀÏÛ/q

f· u)L¸Pu)yu)

su

)Y¸m)

u-y

u¸P)

_

u

yusu)u¸su

_

)uqstGr)uf¸

usuÜu¸)t

u

ut

sussu

(6)

Ò

& 3

')( ÔZØ Ô §J¨ ÕÃØ* §+ Ô-,/. ª_« ÔÄØ* Ë§10 2ª¨0Ëªs§ Ô3Ø ¨ Sª 5460´¦§©¨0Y¥Ñ§10Ø87 ¦ 9

ÆfµÆ Ð u ¾ ,¯qsu%| _ )u¯ m k _±³~;:u)y±³~7Úss µµµµµµµµµµµ

Æfµâ w³¯Ë t =<u)Vsuy>: su¢µµµµµµµµµµµµµµµµµµµµµµµµµµ ?

ÆfµâÒ Î 7Gqsu Ð ±² k u t Ð Vsu) µµµµµµµµµµµµµµµµµ ?

Æfµ |Z s u¯@qsu| _ )u¯ Ð ±² k u t /: ±ss?µµµµµµµµµµ Æ£

@ ,

§Jªs§10´¦§0´«¦

Ø87

§10 2ª_¨0Ëªs§

Ô3,Ø

¨ Sª 5460´¦§©¨0´¥ Ñ§10

Ø87

¦

'BA

VµÆ w³Z sy Ð u µµµµµµµµµµµµµµµµµµµµµµµµµµµµµµµµµµµ ÆJÒ

Vµâ w³Z

syGÛ/²

k

su ÐS

È

s

P

s

_

Ð

Zu) µµµµµµµµµµµµµµµµ ÆC?

VµâÒ Î t

/:

±_,

Ð

s²

k

u t

D:

s µµµµµµµµµ Æ1E

A 3 Ô ¨0´«ª 5FHG .PÔ ¨0 ÔB7 §ªs§0Ø87 ¦

'BI

9 J Ø87 «@¦C0Ø87 @K@

L ¤ .M.Ô7 ÙN0G ' ¬OJ Ø .PØ87ÑÔ7 §©¦ Ø* §+ Ô 0Ô ºª 7P7 0Ëª 7 Ô §©¨0Y« @%A

(7)

1 3#$ '87 É5,/(Ã)2 !#4S&(

+7-)

Á'u u)²u)¹t ksq u)S,qsuÉtGu) ¾ ºf¯ s f ³~S _ )u sº7qsu

uÂsfÃ¯» su7tu y uG u³¹uu) e© tu ,s ssssu )u u)s© ³~

sss)µTÚ_J¹»sbqsu¹ y½ V~ Æj¸¹»qsu u ut s ®tGu) ¹ Vs)u)Ä

u t f¯»qsu-uutGuG¯3qsu7¯Ë t t È ¸ s qsu) u)t!Z~ ¡u)syuÆ E?Z¸ s ² u

tGt%s !"#¸ÎT ½ sy s Ð ±qsu)k su)yu)É¯´ tG°f¯eqsu3uZu)y3s s)u

*u³¹u)uGu)u)tuP¯_¹u)±À

½

sJ¹»É¯

tu)mf¯ s

smysq

PqsuÂsÈuÀjtu

t±²

k

u

t

tVsu)Lµw³ Æ$%V¸*vT

u

-

s

yu)

s±Âu

kss

q?bqsusu

²

®¯

tu) k _±³~Ê_ )u)µ¼pTqsu~' Vss)u'qsu7sfÊ¯

φ^Àju)Z ~¼¯´ss) /¹»qsyu

& uyy º s uS¯mqu su) _ )u¯mqsu e© tuu _ )u k½ u) qsuGtu fµ

Á'u y¯ËJ¹'k (j¸)âÒ"j¸)â Vssu % u)t ss ,tu -qsu e© tuu _ )uf¯Ñqsu

t%s² k us t s ±ss)¸ s%qsu yyZ ufuVsu)y/ suf¸ u)t sÀÏÛ/q f· u

usy ¸ )*u)sy )Ñy k µ

*,+-* .0/)132465)7813469:;9=<>1@?/BADCE7GFH/9<JI2@9,KE7LKM4-N-4O1QPSRT/:EU4O1QPWVYXE:EFZ13469:EU

Á'uT k PV~ u)su sq k u ¾ ¯_qsu3 _ )u»¯ s f ³~Gsusy±³~G¯Ëss)¸fu)qsu

¹»q7qsuq

k

u

¾

,f¯3tu

fµ

Üu L¹(X, µ) su)ku-qsu7

_

)u7¯»Zu)

u

µ^Àjtu ^y ^_u ^u ¯Ësfsu)ÂsuÊJ²u

qsu

tu y _u _ u

X^¸_ufµ^@[

L¹(X, µ) ={p:kpk^µ= Z

X|p(x)|dµ(x)<∞}

Á'u k uu uu),7qsu)²uÈ7y_yu

P ^f¯ L¹₊ ^yq,q ^$[

L¹₊={p∈L¹(X, µ) :p(x)≥0^¯Ë µ^À ^t x∈ X } P ={p∈L¹₊:kpk^µ= 1}

Üu φ ^u )Zss u »¯´ss)Å

Iφ ⊂ R⁺ ^s F^φ(X, µ) qsuyu)b¯

µ^Àjtu ^y ^u

¯´ss)s

psu)Âsu)²u

X ^s7 ^©½ ^s² ^suT Iφ

µ°pTqsu

φ^Àju ~-¯´ss) * Vss)u7

(Ñ»suÂu)

Hφ(p) =− Z

X

φ(p(x))dµ(x) ∀p∈L¹_φ=L¹₊∩ F^φ

pTquyu)s, u s· u u) ¯Ñqsuu)Z ~b¯´ss)

Hφ

p-qsu uf7¯

f ∈L¹_φ

²u)7Z~H[

d²Hφ(p;f, f) =− Z

X

φ⁰⁰(p(x))(f(x))²dµ(x)

Á'usJ¹Ã Vssu/quyu

θ= (θ1, ..., θn)^¯ n ^u fZZf _k tu)u uÂss t s¯´f

Θu)t ussu)

Rⁿ ,syu qsuy_yu

F^Θ ^f¯ P^φ=P ∩ Fφ^[ F^Θ={p(.|θ)∈ P^φ:θ∈Θ}

(8)

w¶ ¯ t±~?¯ s f ³~®susy³~®¯´ss)s¯mqsu sst ² k u

x∈ X^µ ^Ð ^u)J²u ^¸@

¹» u yystu),qsu¯ËJ¹»sGq

∀i, j= 1, ..., n^[

Æfµ ∂p(x|θ)

∂θi

»suÂ_su)

∀x∈ X ∀θ∈Θ

Vµ R

X

∂p(x|θ)

∂θi dµ(x) = 0

ÒVµTqut ±È

E^θh_∂_log_p(x

|θ)

∂θi

∂logp(x|θ)

∂θj

i y±²uuÂsu

∀θ∈Θ

Á'u-¹»yqÃºZ

¯~Êqsu,yu)sÃ²

k

Ãf¯qsu,u

~Ê¯´ss)

3 qu7s

u)) ¯

²u

dp(θ)^¯@qu su)»

e

u¯

Θ^¸¹»q dp(θ) =

Xn i=1

∂p(.|θ)

∂θi

dθi

u)sfsSqsu,Â b u bks Èt ¯qsus· u us)u7*u³¹u)u qu,u)syu yyZ u

¹»q7qsu _k tGu)u 3

(θ1, ...θn) ^s (θ1+dθ1, ...θn+dθn)^µ ^& ^us)u¸

d²{Hφ(p)}(θ) =− Z

X

φ⁰⁰(p(x))(dp(θ))²dµ(x)

su qsu yyst ,q

φ»)²uÈ7

Iφ

ds²_φ(θ) =−d²{Hφ(p)}(θ) = Xn i,j=1

g^(φ)_ij dθidθj

¹»q

g_ij^(φ)= Z

X

φ⁰⁰(p(x))∂p(x|θ)

∂θi

∂p(x|θ)

∂θj

dµ(x)

uÂsu

y±²usu)Âsu¯´

tÌÉqsu

su)

_

u

sÉqZ/²u

u)t

ss

-tGu)

Θ^¸ ^½ ^sJ¹» ^Tqu φ^Àju ^~7tGu) ^µ

1 3pTq»¯ËJ¹»»¯ t qsuuÈ _ syf¯

(dp(θ))² s,qsusu k ±³~,f¯qsuu Lµ

pTqu

n×n ^t ^±È g^(φ)_ij ^,qsu φ^Àju)Z ^~ ^t ^{È µ} pTqsuºsu¼u)u)tu)

ds = (ds²_φ(θ))^1/2

u y~ yu)u º u,² k Zbsssu sy¯´ t fÅf¯

θ^µ Û/syuJu)~¸

g_ij^(φ)(θ) ^yu)s

su

)J²

k

»~tGtu)

u)sy

µ

/ks yyuqsu)3¯Ë qsuu ~b¯´ss)

φ^q ^{²u uu)} ^s yu)ÑµPÁ¼u)su) u¸V

q u ¸s7qsu|Zq ssÄu) ~ yyV) u,¹»±q

φ(p) =plogp ∀p∈ F^Θµ°pTqsu)Ñ¸

H(p) =− Z

X

p(x|θ) logp(x|θ)dµ(x)

(9)

?

sÊqsu-)t su)G¯Tqubs¯´ t Êt È ¸ ½ sJ¹» %qsu-Úyqsu ¯Ë t Êt ±È ¸

*u))tu

gij(θ) = Z

X

∂logp(x|θ)

∂θi

∂logp(x|θ)

∂θj

p(x|θ)dµ(x) =E^θ

∂logp(x|θ)

∂θi

∂logp(x|θ)

∂θj

*,+ :E< 9,2 7L13469:T/9/U46FR 46U 17,:EFH/

pTquu)Vsuys s)u

Dss)ubZ~Éqsus¯´ t -tu

ds² ^s u)²sy~Ésu ±²ub¯ t¿qsu Úyqsu s¯´ t ¼t È?¹ ²u u)'¯Ë )u _k tu És s "j¸ (j¸

Æ "L¸=âÒ"j¸%" sºfqsu )µ Ð u u)u±~¸PÛ ² Êxu â"mu ²u ¼uÈ ±yfº¯

Á'u u) q ¸¯

t 7→ θ(t), t1 ≤ t ≤ t2

su)ku ) ²u'yuftu®

Θ u³¹uu){³¹

θ¹, θ²¸3usfq,»uÈ s uyyu)

D(θ¹, θ²) =

Z t2 t1



 Xn i,j=1

gij(θ)dθi

dt dθj

dt





1/2

dt

Æ #

Î6u)Vsuy) ²u,q k )u ¾)u Z~Êqsu,¯ Gq ÉÉtGst¾u)qsu,s¯´ t Ãu)Vsuy

su

D(θ¹, θ²)^¸ufµµm»3y¯@qu °su ÀjÜ suuJ s [

Xn i=1

gik(θ)d²θi

dt² + Xn i,j=1

Γijkdθi

dt dθj

dt = 0 ∀k= 1, ..., n ^j ^#

¹»qu

u

Γijk

k

umqsuÛ/q

f· u)~t ¯VqsumÂ

½

s*µm|Z²Vs3qu °su

ÀjÜ

su°uZ

s

s,qsuu)² ,¯@quu)Vsuys su

D)suf¸sfusu L¸ sÍsT ½ µ

*,+ CECMN-46FH7L13469:S19'13?/ . XEN 1@4L7L2 4O7L1/ 92 7GN .09/N

x ±t uf usGGsuÂ_su )T,t%s±² k u t *s ±_s s, k À

±~-±TGs· syf,u)sy t fu)¸¹usJ¹{)su) u-qsu _ )u

S⁺(m,R)¸ussJ¹u)7¹»±q

quÉs¯´ t ¼tu

ds²^µ S⁺(m,R) u)sfu)qsuÉyu)¯

m×m ^u °~ttGu) y±²uÀ

tu

TYsusfu)SV~

ξ∈ R^m^#s ^t mtVsuYµ7pTq

ffqºqsuÉt

ks

sq

yyV)

u)u

q

Σ∈S⁺(m,R)^±3ft ^su σij, i≤j, i, j= 1, ..., m¸s¹uyuuq

S⁺(m,R)»yft

y

qs

Rⁿ, n= ¹₂m(m+ 1)^µ ^& u)suf¸Zqsu _k tuu _ )u

Θ¸¹»qsyuuutu) k u

θ= (σij), i≤j^¸

3u)t ussu,

R¹²^m(m+1)^µ

Á'usu)sfuZ~

Eij, i≤j, i, j = 1, ..., m^qsuG ^ss y¯mqsu% su _ )u

T S⁺ ^Yuµ^sµ

qu _ u¯²u Âus#µTÁ¼uuJZ ~,su)kuZ~

E_ij^∗, i≤j, i, j= 1, ..., m^qsu ^Ñ ^y¯

quf fu» _ )u

T^∗S⁺ ^Yuµ^sµPqsu ^_ )u¯s· u u Ñ¯´ t#µ°pTqsu)yu y k uf²u)7V~Z[