Méthodes comparatives d'utilisation des critères d'information pour la sélection de modèles.

(1)

HAL Id: hal-00367587

https://hal.archives-ouvertes.fr/hal-00367587

Submitted on 11 Mar 2009

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.

Méthodes comparatives d’utilisation des critères d’information pour la sélection de modèles.

Guilhem Coq, Olivier Alata, Christian Olivier, Marc Arnaudon

To cite this version:

Guilhem Coq, Olivier Alata, Christian Olivier, Marc Arnaudon. Méthodes comparatives d’utilisation des critères d’information pour la sélection de modèles.. TAIMA, May 2009, Hammamet, Tunisie.

pp.241-246. �hal-00367587�

(2)

1

^!^"^# ^$^%^&%

2

^#'&%⁽ ^!^"^#

2

^& ⁾^%^#* ^$^#(^%⁺⁽

1

^,^-.^/0-1/203 ⁴³ ^5-16⁷⁸^-129:^3;³¹^<⁼⁼>2?-12/@;AB5C DECF GHIG JK L

HMNOP IGOGQ R:1:0/;?/=3 D6-;;3@3:2> D343S R 0-@?3

T

7> UHV WOWO GI ON R-S UHVWOWO GOHM

XYZ[\]^\_`Y^ab\cde_^fgh iYfcfj]ke l

]

2

^,-.^/0-1/203 ^F^2m@^->ⁿ⁸^-m3³¹ ^D/8^8:^@^2?-12/@^A^B5C ^DE^CF ^G^MNQ

JK L

HMNOP IGOGQ R:1:0/;?/=3 D6-;;3@3:2> D343S R 0-@?3

T

7>oUHV WOWO GVGNR-S UHVWOWO GVNH

\p\c\[Ypfgfj]akfXekiqbfe_^fgh iYfcfj]ke l

]

rstuvs

,3;=0/.>w83;43 ;7>3?12/@ 43 8/4w>3;/@1?/:0-883@110-217;x>y-243 43 ?021w03;

4y2@z/08-12/@o n> 3;1 ?3=3@4-@1 8/2@; ?/88:@ 9:y2> 3S2;13 42{703@13; z-|/@; 4y:12>2;30 ?3;

?021w03;o E/:;=07;3@1/@; 2?2 43:S 8716/43; ?/8=-0-12}3; 4y:12>2;-12/@ 43;?021w03; 4y2@z/0P

8-12/@ 31>3;?/8=-0/@;-}3?>-8716/43m>/.->3A:12>2;736-.21:3>>383@1oD3113?/8=-0-2;/@

3;1 3{3?1:73 43 8-@2w03 167/029:3 ;:0 43; -:1/07m03;;2/@; :@24283@;2/@@3>>3; -2@;2 9:3 43

8-@2w03 -==>29:73 x>- 8/47>2;-12/@ 4313S1:03;=-043;-:1/07m03;;2/@;.24283@;2/@@3>>3;o

~t st

D021w03; 4y2@z/08-12/@;A?/8=>3S217 4y:12>2;-12/@A;:==/014y-:1/07m03;;2/@

x 1 , . . . , x n

(X i ) 1≤i≤n

¡¢¢ ¡

{f (.|θ), θ ∈ Θ}

^¢^£^¢ ^¡ ^¤^¥^¡^¡

¦¡¢ §¤¦¨ ¢ © ¢ª¡ ¢ ¡ ¡«

θ b

^¡^¥ ^¬ ^£^¢ ^¢«¡ ^¢ ^¢ ^¡^«¢

¢ ª ®¬ ¡¡ ¥¡¢ ¢ ¡ ¢ ¯

ª °±²£ ª¡¡ ¡ ¢ °³²

´ ¢ ª ª °µ²¬¶ £¢ ¡

¤¦ ¡ ´ ¡ ¢ ¡«¢ ¬

·¢ ¢«

¡ §¸

¸ ¡

¨¬

¸¢ ¢ ¡ ¸

= − log(

^¤^¦

) + p(n)

^£^¹

p(n)

^¢ ^º

´¡ ¢ ¢ ¡« ´ ¡¢¥¬» ¡

− log(

^¤^¦

)

^¼

¡¡ £¢ ¡¡ « ¡ ¢ ¡¡

¢ ¥ ¢ ¡¢¥ ¡« ¬

¢«¡ ¢ ¡«¢ ´ ¢ ¸£ ¢

¢

p(n)

^¡ ¢ ¢¸¬

½

¾ ¼ ¢¬¿ ¢ ¡¡

À¢¢Á£ÂÁÁ °Ã² ¢ « Â¸Ä¿ÅÆ °ÃÇ² ¢ « È¸

(3)

¢¡ È¼¬Ë ¢ ¡¢¥ °ÃÃ ²

ÌÍ « ¢ ¡®¡ ¡

È¸¬ Î £

¢¯¤ Ï¢¢ ° Ð² ¢ ¡¢¢ «

ϕ _β

^¢ ^¬

Î ¢ ¥«¡ ¥£ ¡ ¢ ¸ Ñ ¢

¡ ª¢¢ ¥ ¡ ¡¬ « ¢ª¢

¢¬ ¢¢ ¢ª ¡«¢ Í ¢

¡ ª¢¢ ¡¢¥ ¢¢ ¡ ¢¬

Ò ÓÔÕÖ Ö ×ØÕÖÙ ÚÛ ØÖÙ Ü Ý×Û

¿

{Ω ⁿ ; A ⁿ ; f(.|θ), θ ∈ Θ}

^£^¹

Θ

R ^m

^£

x = x ₁ , . . . , x _n

^¢

f (.|θ)

^¬^Þ

S ^?

^¢

θ

^Ñ

S ^? = {j ∈ [[1, m]] | θ _j 6= 0}.

¶ £¢ ¢ ¡«¢ £ ´

x

^£ ^¡

S b

S ^?

^¬

ßàá âãäåæãçè éêäëìíãîïåäíë

» ¸ ¢ ´ ¢¡

S ^?

^¬ ^Î

S ⊂ [[1, m]]

¢£¢ ¢ ¡ ª¢ Ñ

¸

(S) = −2 log f(x ⁿ | θ b S ) + |S|α(n)

^§^Ã¨

¹

|S|

^¢ ^¢

S

θ b S

¢¡

θ

^¡^¥¡^¡ ^¡^¢

¢ ¢ ¡«

S

^¬

¸£ ¢ ¢ «

ϕ β

¢¢

α(n)

^£

β ∈]0, 1[

^Í¥^£ ^Ñ

α(n) = n ^β log log n.

^{§ Ç}^¨

Â

n

^Í¥^£ ^¢Ì^¡ ^¢ ^¢

β

^{§ Ç¨} ^¡ ^¢ ^« ^¢

Â¸ È¸ ¢¢

α(n)

^¢

2 log(n)

^¡^Ä ^°ð²^£^¢

ª¢¡ ¢ ¢ ¢«

β

^ñòó

β

^ñ^òó

β

^Ñ

β

^ôõö

= (log 2 − log log log n)/ log n

β

^÷õö

= (log log n − log log log n)/ log n.

^{§ ±}^¨

β

^ñ^òó

= log log n/ log n = 1 − β

^ñ^øù

.

ßàß úçè îûåüíéçè ûåýéäûçè

þûåüíéç ÿ íï çà »

S ^?

^¡ ^¡^¡ ^«

¢ ª¬ ¢ ¢ ¢ Ñ

S b =

^Â^ª¡

(

^¸

(S), S ⊂ [[1, m]]) .

^§µ¨

(4)

5716/43;?/8=-0-12}3;4y:12>2;-12/@ 43;?021w03;4y2@z/08-12/@ =/:0>- ;7>3?12/@ 438/4w>3;

þ

ûåüíéç íîïãïåäçà

Î Þ °²£ ¢¢ ¡ ¢ ¢ ¡

¢

[[1, m]]

^¡ ^¡ ^¢¢ ^§µ^¨¬ ^¥ ^¢

¢ « ¢ ¢ ¡« ¢ ¡¡ ¡ ¢

S ^?

S b

^Í ^¡^¡ ^Ñ

(

^¸

=

^¸

([[1, m]]) S b = ©

j ∈ [[1, m]],

^¸

≤

^¸

([[1, m]] \ {j}) ª .

§ ¨

þûåüíéç íîïãïåäç éçèçëéïëåçà ¢¢ ¢¡ ¢ ¡ Ìª ¢

¬» ´Í¥

S ⁰ = [[1, m]],

^¸

⁰

=

^¸

(S ⁰ ).

^»

k ≥ 0

^¼

¾£ « ´ ¢

k + 1

^Ñ

C ^k+1 = n

j ∈ S ^k ,

^¸

¡

S ^k \ {j} ¢

≤

^¸

^k

o

, J ^k+1 =

^Â^ª¡

¡

^¸

¡

S ^k \ {j} ¢

, j ∈ C ^k+1 ¢ , S ^k+1 = S ^k \ ©

J ^k+1 ª

,

^¸

^k+1

=

^¸

(S ^k+1 ).

Â£ ´ £ Í¡ ¢ ¡

J ^k+1

^Ì^ª ^¢ ^¡

¢ ¢ «¬ Â

k _f + 1

^£

C ^k ^f ⁺¹ = ∅

^¬ ^¶ ^£^¢

¼ ¢ ¡ ¢

S ^k ^f

^¡

S ^?

^Ñ

S b = S ^k ^f

^{§ ³}^¨

Þ ¢

C, J, S,

^¸

, k f

¡ ¢¯

¬ » ¡ « ¢ ¢¢ ¡

¢ ¢£¡

m(m + 1)/2

^¬

âíî ç äåûè éçè îûåüíéçèà

» ¢ Ã ¢ ¡ « ´ ¢¢

¢ ¢

S b

^¬ ^» ^¡ ^ª¢¢^£ ^¡^¢¥ ^¥¢¢£

¢ ¡ ¢¢ ¢ ¡ ¡¬

,3;10/2;8716/43;31>3:0?/8=>3S217o

É>/.->3 WD/8=-0-12}3 V3;?3@4-@13 G

2 ^m m + 1 ≤ m(m + 1)/2

Ó×ÕÛÙ Ù ÖÙ ÚÖÙÙÙ ÛÔÖÙÙÝÙ

àá ãíçèèýè çë éäîçëèäíë á

· ª

P ∈ N

^¢

¡

X t = − P P

i=1 a i X t−i + E t

¹

E

^¢ ^ª ^¢

σ ²

^¬^»

P + 1

^¡^« ^¡^«¢

(5)

¢ ª

a = (a 1 , . . . , a P )

^¢

σ ²

^¬ ^¶^¡ ^¢

¢£ ¢

j

^¢^¢

a j 6= 0

^¬^¿

ª ¡¥¡¢

m

^£^¢ ^¢ ^¢ ^« ^§Ã¨ ^£

S ⊂ [[1, m]]

^Ñ

¸

(S) = n log b σ _S ² + |S|α(n)

¹

σ b ² _S

^¢ ^¡ ^¢

S

^¬

Þ¼ª £¢¯¯£

P = 15

^£ ^¢ ^¡^«

a = (0.5, 0.4, 0, . . . , 0, 0.45), σ ² = 1.

^Þ

¢ ¢ ¡ §µ¨ § ¨ § ³¨ ¢ «

ϕ _β

^{§ Ç}^¨

m = 20

^¬

½

¡ « ¢ ¢

S b

{1, 2, 15}

^¬^»^¥ ^Ã

¢ ª « ¡ £ ¢ ¢

β

^£ ^¢ ^Íª ^±^¬Ã

n = 100

^Ã^¬^¬ ^» ^¢ ^£

ª ´ £¥ ¢

β

^ô^õö^£

β

^÷õö^£

β

^ñ^òó

β

^ñøù ^{§ ±}^¨¬^Î

n = 10.000

^£

β

^ôõö

< 0

^£ ^¢ ^¢ ^Íª^¬

» ¢ ¡

¡¢ ´ ¢

¡¡ ´ ª

¡ ¢¢¬£ ¢£¢ ¡ ¡

µ ¢ ¢ ¡ ª¢¢¬» «

ϕ _β

Ì ª « ¬

n = 100 n = 10.000

!"K

/:0?3@1-m3 43;:??w;43;8716/43;?/8=-0-12}3;31m>/.->3 3@ z/@?12/@ 43

β

^o

àß ãíçèèýè çë éäîçëèäíë ß

ãûèçëåïåäíëà » ¡«¢ ÂË Ç¶ Í ¢

(P ₁ , P ₂ ) ∈ N ^∗2

^¾ ^¼ ^ª¡ ^°Ã² ^Ñ ^# ^Î^¢ ^¢ ^§#^Î^¨^£ ^¶^¡^¯Î^¢ ^Þ

¿¼¡ ¢ §¶ÎÞ¿¨£¡¯¢ ¯¢¬Þ ¢ ¢ ¶ÎÞ¿

¢

¢ ¢ ¥¡¥¬¸¢ ¢¡ Í ¢

¡« Ñ

S P ₁ ,P ₂ =

½ (i ₁ , i ₂ )

¯ ¯

1 ≤ i ₂ ≤ P ₂ et i ₁ = 0,

−P 2 ≤ i ₂ ≤ P ₂ et 1 ≤ i ₁ ≤ P ₁

¾

(6)

· ÂË Ç¶ ¶ÎÞ¿

(P 1 , P 2 )

^Ñ

X t ₁ ,t ₂ = − X

(i ₁ ,i ₂ )∈S P 1 ,P 2

a i ₁ ,i ₂ X t ₁ −i ₁ ,t ₂ −i ₂ + E t ₁ ,t ₂ .

^§Ð¨

¿¢ ¢ ¢ £ ¡ ¢

(i ₁ , i ₂ ) ∈ S _P ₁ _,P ₂

¢¢

a i ₁ ,i ₂ 6= 0

^¬

Þ ¢¢ ¡ ¢ ¢ ¡ ¢¢

¡ ¥ ¡« ´ ¢ ¶ÎÞ¿ ¢¢

¡¥¡¡ Ì ¢ ¡« ¬

çèý åïåè çå éäèýèèäíëà Î ¢ ¡¢£ ¢ ¥ ¥

¢¢

256 × 256

^¢¢¡ ^È^Æ ^°²^¬^Â ^¢ ^¡ ^¡ ^§^¨

§ ³¨£ ¡ ´ ¢ ¶ÎÞ¿

¡¥¡¢

(7, 7)

^¢ ^¢ ^«

ϕ β _min

¬

» Íª ±¬Ç ¢ ¥ ¢£ ¢ ¢ ¡

¢ ¢¼ ¢ ¢ ¢ ¢

¡«¢ ¡¬ ¢¼ ¢ ¡ ¡¢ $ ¡

Ç¶£

|

^$^Ç¶

|

^£ ^¡ ^¢ ^¶ ^¿^¢

Î §¶¿Î¨ °Ç²¬

Méthode comparative

Méthode descendante

Méthode descendante Méthode comparative

T

3S1:03

|

^T^RQ

|

⁰⁷³^>>3 ^;:⁼⁼^/01;^?6/2;2;

|

^T^RQ

|

^?^/8⁼^-0-12}3

|

^T^RQ

|

^43;?3@⁴^-@13

!"%

<@->&;3 ;=3?10->3 43 43:S 13S1:03; 2;;:3; 43 >y->.:8 43 J

0/4-1' U 4QO =/:0>- Mw03 >2m@3 31 4 L

I

=/:0 >- Qw83 >2m@3o K

/:0>- 10/2;2w83 ?/>/@@3A >3 ;213 ?-007 3;1 >3 ;213 ?/:0-@1 31 >3; ;213; 47?021; =-0 43;

0/@4;@/20;;/@1>3;;213;?6/2;2;o,3;Ww8331 Vw83?/>/@@3;=07;3@13@1>3 8/4:>343>- T

RQ -;;/?273-:S

8/4w>3;;&@167129:3;?6/2;2;=-0 >3;8716/43;?/8=-0-12}3;31 43;?3@4-@13;03;=3?12}383@1o

(7)

¢¡£ ´ ¢¡ ¡ ´ ¢¢ ¢

(P ₁ , P ₂ )

^Â^Ë^Ç¶ ^§Ð¨^Ä^¢ ^´ ^¡

¼ ¶ÎÞ¿¬Þ ¾ ¡ ¢ ´ ¢ «

ϕ _β

¬Î

¢ ¥ Çð£

(4, 2)

^£ ^ÇÇ ^¡^«^£ ^¬^Î ^¢^¥ ^±^£

(5, 3)

^±^¡^«^¬ ^¡^« ^¡

´

10 ⁻ ²

^Ì ^¢ ^¡ ^¡^¬ ^Â ^¢ ^¡^« ^¯

¢ ¢ ¡ ¡ ¥¢ ¢ ¢

¢¬

Î Í£ ¢ ¢ ¢ ¢ ¥ ¡

¾« ¢ ¡ ´

¢ ¡« ¢

¡ ¡¬¿ « ¥ ¡ª¢¼¢£¢

¢ ¡ ¢ ¥ ± ¡¢ ¡¢ ¢ ¢ ¡

¡¬¶ ¢ £ ¡ ¡ ¡ ¢

¡ ¡ ¢ ¢ ¡¢¢ ¢¼ ¢ ¼

¥¡ ¼ ¢¢ °±²¬

ÔÝÔÖÖÙ

Mo (o <)-2)3o < E3* ,//) -1 163 F1-12;12?-> 5/43> n43@12+?-12/@o ,---

./0120345612 61 784690453

:

614/6;AMO U NMG<NQ L

AMONWo

Qo Êo<>-1-A K

o J

-&>/:A-@45oE-=28o <E3* QP F=3?10:8 >;128-13:;2@m5:>12?6-@@3><C <==0/-?6

/z QP R-;1 C,F <>m/02168;o n@ ? /63@

,--- , :

,?A=-m3;WWQ<WWVAÊ?1/.30 MOONo

L

o Êo<>-1--@4DoÊ>2}230oD6/2?3/z-QP4?-:;->-:1/03m03;;2}313S1:038/43>:;2@m2@z/08-12/@?021302-o

?044A/1 BA 36C154561 DA44A/2A QW OPMHUMMOM <MQHMA QHH L

o

Wo Eo J

-0-:4o 5/43> ;3>3?12/@ z/0 03m03;;2/@ /@ - 0-@4/8 43;2m@o -F7,G ?/6H0H@ F404524@A G UMQN<MWG

3>3?10/@2?AQHHQo

Vo K

o J

0/4-1'o

.A I48/A J 0

?K

646C/0LK53 7;H89 M6/7/45242 01N OA25C1A/2o

E3* E/0)A/}30A MOGGo

Go Éo D/9A Do Ê>2}230A Êo <>-1-A -@4 5o <0@-:4/@o n@z/08-12/@ ?021302- -@4 -02168312? ?/42@m; U -@

2>>:;10-12/@ /@ 0-* 28-m3on@ PQ4K -8/6LA 01 F5C10;?/63A2251C :

61MA/A13AL/63AA N51C2A=-m3;G L

W<G L

IA

K

/'@-@A K

/>-@4A QHHNo

No <o>>P5-1/:-1-@45o(->>2@oÊ0430;3>3?12/@A;1/?6-;12??/8=>3S21&-@4R:>>.-?)P,32.>302@z/08-12/@o

.59A2A/5A2 010;S252AQ U QOM <QOOA MOOGo

Io CoE2;622o 5-S28:8 >2)3>26//4 =02@?2=>3 -@4 8/43>;3>3?12/@ *63@ 16310:3 8/43> 2; :@;=3?2+34o T@

G

8;45U0/504A 710;@A

QNQU L

OQ<WH L

A MOIIo

Oo DoÊ>2}230-@4 Êo<>-1-o

VL4595 W04561 51

F

5C10;01N,90CA

?

/63A2251C

A?6-=130WAn@z/08-12/@D021302-U

3S-8=>3;/z -==>2?-12/@; z/0 163 =0/?3;;2@m /z ;2m@->; -@4 28-m3;o X2>3& 31 nF T

> , T

34212/@;A T

/

-==3-05-0?6 QHHOo

MHo Fo C-@m-@-16 -@4 <o Ro Y-2@o T

*/P283@;2/@-> ,2@3-0 K

0342?12/@ 5/43>; P =-01 n U F=3?10-> R-?P

1/02'-12/@ -@4 C3->2'-12/@o ,--- ./0120345612 61 736824532Z FLAA 3K 01N F5C10; ?/63A2251CA <FF K

P

LL

M UQIH<QOOAR 3.0:-0& MOIVo

MMo YoC2;;-@3@o F1/?6-;12? ?/8=>3S21& -@4 8/43>2@mo 711@

F 404524@A

MW L

UMHIH<MMHHA MOIGo

MQo ÉoF?6*-0'o >;128-12@m 163 4283@;2/@ /z -8/43>o 711@

F 404524@A

GQUWGM <WGWA MONIo

Méthodes comparatives d'utilisation des critères d'information pour la sélection de modèles.

HAL Id: hal-00367587

https://hal.archives-ouvertes.fr/hal-00367587

Submitted on 11 Mar 2009

HAL is a multi-disciplinary open access archive for the deposit and dissemination of sci- entific research documents, whether they are pub- lished or not. The documents may come from teaching and research institutions in France or abroad, or from public or private research centers.

L’archive ouverte pluridisciplinaire HAL, est destinée au dépôt et à la diffusion de documents scientifiques de niveau recherche, publiés ou non, émanant des établissements d’enseignement et de recherche français ou étrangers, des laboratoires publics ou privés.