L'approximation de la fonction de vraisemblance d'un processus Gaussien

REPUBLIQUEALGERIENNEDEMOCRATIQUEETPOPULAIRE

Ministdre

de

l,Enseignement

s"p;;i;

et de

laRecherche scientifique

I.INIVE.RSITE

DE

JIJEL

Facult6

des Sciences

Exactes

et

Informatique

Ddpartement

de

Math6matiques

_t{rk,

_{Sfo_ , oS}

_l,,l

₆

M6moire

Pour

l'obtention

du diplOme

de:.Master

^SoO"l"ifr6

: Math6matiqug Appliqu6es

O'ptio"

: Probabilit6s et statistique

Thdme

Pr6sent6

Par

:

Kahlessenane Messaouda

Lahlou

Soumia

Devant

le

jury

:

Pr6sident

:

Examinateur

:

Encadreur:

M"

Madi Meriem

M*'

Chekraoui

Laoudj

Farida

14elle

Selami

Nawel

l'-rt+ i-rrt-.t

uJf

r':>fr1r1

t-+rJl

f1-|ell

$5

L'approximation

de

la

Viaisemblance d'un

Gaussien

Fonction

de

Processus

Promotion

2015120L6

'fuu,

tenons d

remercier

tout

['a6or[

[ieu

qui

nous a

ai[6,

et

nous

a

fonnd

_-

kforce'

fa

rtofont|

et

fe

courdge

potff

i6ofiru,

ce

mofestu traPaif'

NousremercionsnostrDscfrersparentspourfeurssoutiens

et

feurs

_Patiences'

Nous

remercions

en

particufter

notre encafreur

gwtu

_sefktri

${awe[

pou,

toutu

f

ori[u

qu'if

n'a

cessd

fe

nous

profiguer

jusqu'd

f

acftdr''ement^fe

ce

m|moire

fe

fin

['6tu[e'

lrfous

e

xprimons

p

or

no

s

re sp e

ctueuJremerciement

s

aulmem|re

s

fe

jury f'aaoir

accepter [e

_iuqy

1e

trar''ai[:

gyl*,

gvld[i

tuleripm

pour

aiolr

otiupia

fe

prdsifer

k

i"ry

fe

soutendnce

ainsi

que

9v|*,

Cfi,elpoui

Laoufj

trari"fa

pqurapoir6ienpoufujugercetravaifenprenantkcharge

f'elaminateurs

_-**=".,

--Ttfous

remercions

|'galement

- tous

fes

enseignants

qui

nous

ontfirmd

au c,urs

fe

ces

fongues

anndes

et qui

ri'ortt

amend

iusqu'ici'

en

porticuker:

fulr

Liman

kg'ilour'

-A

tous

ceuxqui

ont

ai[6

et

encouragd'

-fl.

tous

nos

amis

et

nos

coffdgues

ftIessaoula

'$#gats

&

-.a

e.

Soumin

_ry

ffi

Hruru%-%

W

Table

des

matidres

lntroduction

1-

Rappels

et

d6finitions

1.1

Les deux formes 6quivalentes pour les

processuslin6aires

' '-

'

1.1.1

Relation entre les poids ry' et les poids zr

La fonction d.'autocovariance d'un processus lin6aire

La stationnarit6

d'un

processus lin6aire

Les processus autor6gressifs et moyennes mobiles

I.4.1

Les processus autor6gressifs

t.4.2

Les processus moyennes mobiles

1.4.3

Les processus mixtes autor6gressifs-moyennes mobiles

1.5

Les processus autor6gressifs moyennes mobiles int6gr6

Ltapproximation

de

Whittle

de

la fonction

de vraisemblance

d.'un processus

gaussien

2.L

La fonction d'e vraisemblance exacte d''un processus gaussien

2.2

La repr6sentation spectrale d'un processus stochastique

2.2.1

La fonction de densit6 sp6ctrale

2.2.2

La fonction g6n6ratrice des autocovarlances

2.9

Calcul explicite de

la

densit6 spectrale

2.3.1

Le P6riodograrnme

2.3.2

La transformation de Toeplitz de la densit6 spectrale

2.3.3

Le d.6terminant de la matrice de Toeplitz

lll 1..2 1.3 1..4 2 J 3 4 K 7 8 10 L2 12 13 13 t+ 15 IO IO 1B 1B

2.4

L'approximation de

Whittle

TABLE

DES MATIERES

3

L'approximation

de

Box-Jenkins

de

la fonction

de

vraissem-blance

dtun

Processus gaussien

3.1

Forme innovation de la fonction de vraisemblance

3.1'1

La

fonction de

vraisemblance exacte

d'un

processus

gausslen

3.2L'approximationdelafonctiondevraisemblanced'unproces-sus autor6gressif '

3.3L'approximationdelafonctiond'evraisemblanced'unproces-sus moyenne mobile

3.4

L'approximation de

Ia

vraisemblance

d'un

processus mixte

autor6gressif-moYenne mobile

Applications

4.1

ExemPle d'aPPlication

4.7.1

La m6thode de

Whittle

'

4.I.2

La m6thode de Box-Jenkins

4.1.3r,u"o*pu'uisonentrelesder-rxm6thodesd,approximation

Conclusion

R6sum6

BibliograPhie

23 q,4 qA OK 26 30 32 32 33 35 36 37 38 39

Introduction

Letravailquenouspr6sentonsestl'approximationde.Iafonctiondevrai-semblanced'unproces'usgu'u'sien'Lafonctiondevraisemblanceestune

fonction des paramdtres

d,in

mod6le de donn6es statistiques fournies, elle

joueunroleclcdanslastatistiqueinferentielle.onsaitquem6meentemps

discret les probldmes de calcun ae ta vraisemblance ne sont jamais simple

;;;;,

il

ya

la

difficult6 de manipuler I'inverse de

la

matrice d'autocova-riance

|ry,

ainsi nous nous Somme int6ress6s A, 1'6tude

de

quelques types

d,approximation de la fonction de la vraisernblance, celle de

Whittle

([3]' [5]' [6]) et celle de

got-1""Li"s

([1], la])'

Ce m6moire a 6t6 subdivis6 en quatre chapitres.

Dans le premier chapitre nous rappelons les moddles et quelques propri6-tes des processus

MA(q),

An(p)

er

ARMA(p'q)'

Dans le deuxidme chapitre on va 6tudier i'approximation de

la

fonction

de waisemblance diun

pro""rro,

gaussien par la m6thode de

whittle,

elle est

introduite

par

whittle,

cette m6thode

_"rf

b*e"

sur 1e p6riodogramme et Ia

densit6 sPectrale.

Darrsletroisidmechapitreonvafairel,approximationdelafonctionde

waisemblance d,un processus gaussien par 1a

*Zthod"

de Box-Jenkins d' l'aide

des esp6ran"""

"ond.itionnelles, cette m6thode d,6t6largement populaire,

elle

permet aussi de montrer que la somme des carr6s des innovations -f,_n67 est

uneborrneapproximationdelaformequadratiquedelafonctiondevraisem-blance.

Dansledernierchapitreonvaappliquerlesdeuxtypesd'approximation

sur un exemple pratique dans Ie logiciel R'

Chapitre

1

Rappels

et

d6finitions

Danscechapitre,nouslappelonsquelquesd6finitionsprincipalessurune

classe des moddles

pour

les processus sttchastiques; Ies modeles

ARMA

qu'on

va utiliser

durr,

"u

travail'

Ces moddles sont

compos6s des moddles

autor6gressifs

Afi

_",

Ju'

moyennes mobiles M

A'

Les moddies ARM

A

sorfi lin6aires et sous certaines conditions stationnaires'

Pour faciliter les notations, nous allons introduire et utiliser les op6rateurs

de retard et d.'avance d6finis

tel

que :

D6finition

t.o.1.

Soi't

(X,),.2

un r)rocessus al6ato'ire,

on

appelle op€rateur

d,e retard, qui, appel€'

out*"iffieratiur

backshi'ft' not€'

B

d€fi'ni'

par

:

Yt

eZ, BX,: Y'-'

et

Bi

Xt

-

Xt-i

l,opirateur

,inuerse d,e

l,op,rateur

d,e retard, appel€'

l,op,rateur

d'auance ou

l'op€rateur fonnard, not6

F

tel

que :

Yt

eZ,

FX1--

X41

et

Fi

X':

X'nt

on d,6.fini,e un autre op1rateur awsi, uti,le que les pr1c€dents appel€' l'op^rateur

d,e d,i'ff6rence,

not|

Y

tel que :

Vt€V',Vxt:Xr-Xr-t:(1-

B)X'

et

YdX':(1 -

B)oX'

RemarqueL.o,LL,op1rateurd,eretard,BetI'op1rateurd'auanceFsont

'inaerses

l'un

de l'autre

tel

que :

F:

B-r

CHAPITHE

1.

RAPPELS

E"

DEFI}.ITTIOAIS

l-.1

Les

deux

formes

6quivalentes

pour

les

processus

lin6aires

Le processus de

bruit

blanc (e1)r., est transform6 au processus (Xr)rrz,

cette transformation est appel6e rrle

filtre

lin6airerr. L'op6ration de filtrage Iin6aire simplement prend une somme pond6r6e des innovations al6atoires /.. )

\"t /tez.

D6finition

L.L.!

Soi,t

(Xr)rrz

un processus l'in1ai,re al1atoi,re centr6, alors

(Xr)rru

peut Atre erpri,m€

tel

que :

Xt

:

€t

+Y

rlrrrr-j

(1.1)

J:L

oil

(e)rru

est un processus d,''innouati,ons de moyenne nulle et de uariance

o!.

D'aprds (1.1) on a :

Xt :

€tJ_*l'6,t-t*{zet_zJ-

"'

:

e11- I,t1Be1

*

{rB2et+

.'.

+6

: et*I|tiBje1

j:7

:

'h@)e,

,h

_@)

appel6 le

filtre

lin6aire qui transforme (e1)rru en

(X)rru

et le processus

(Xr)rrz

s'6crit plus simplement :

Xt:Ih

(B)

r,

on peut 6crire la forme du processus (Xt)tez dans (1",1) d'une manidre 6qui-valente telle que :

Xt:

et

+f, nixr-j

(1.2)

j:r

d'aprds (1.2), on obtient :

e :

X1

*

r1X;t

-f

r2Xr-r

a

"

'

:

Xr+rtBXr+rzB2Xt+"'

/+m\

: It-tn1BrlX5

\i:1

/

:

n(B)X1

(1.3) (1.4)

1,2,

LA

FOAIC"IOAI D'ATJTOCOUARIANCE D'UAI PROCESSUS

LINEAIHE

d'or)

€t:

T

(B)

X,

(1'5)

L.1.1-

Relation entre

les

poids

,h

et

les

poids

zr

Reprenons l'6quation(1.5) :

7r (B)

Xt:

€t

en

multipliant

(1.5) par Ia fonction ',lt

_@),

on obtient :

,h _@)

n

(B)

Xt

:

th (B) e1

:

Y,

d'ot

:

',b

@)r

(B)

:1

L.2

La

fonction

d?autocovariance

dtun

pro-cessus

lin6aire

D6finition

L.2,L

_{La foncti,on} d,'autocouariance

d'un

processus

(X1)rr,

est

d|fini,e comme su'it :

'v:Z*Z

--+R

(t,k)

--'y (t,k)

:

cot)

(Xr,Xn)

:

E

(XtXx)

-

E

(Xt) E

(Xk)

Proposition L,2,L

Soi,t

(X)r.u

un processus li,n1ai're centr1 defi'ni' par (7.7)

auec

(e1)r.z-WN

(0,o!)'

alors : X1 est stat'ionna'ire et on

a:

(+6

I

r

(o)

:

ua,r

(x,)

:

,?D

rl,?

d' l'order k

{11

I

r @):

o\D'!i'pi**

\

i:o

oil,W

N

(0,o?)

est un brai,t blanc.

Preuve

D'aprds _[1] tous les processus al6atoires peuvent Otre exprim6s sous forme

d'un processus moyenne mobile infinie

tel

que :

+m

Xt:€t*Dr[

r,r-i

j:1

o

CHAPITHE

1,

RAPPELS

E"

DEFIAIITIONS par d6finition :

1@)

:

E(x$k)

_-

E(x,)E(xr)

:

E

(X1X1,a,)

f+*+*

\

:

a

_I

_D

_{L,lti,lnrt-iet+n-nl}

\j:o

r':0

/

: y y

_{l)iltnE (erier+*-n)}

j:o

h:o

notons qne

1bt:

0 pour :

I

<

0, en utilisant le changement d'indice h

:

j

+k,

on obtient :

+rc

t@):

o?Drl'irlti+*

j:0

t

Remarque

1..2.L

_{La fonct'ion}

d'autocouariance udri,fie les propri,€tEs

su'i-uantes:

o Vk €

Z:1(k) :'y

(k),

elle est paire.

.

_?(0)

:uar(Xt)

.

_lr(r)l

< ?(0),

Yk

ez

1.3

La

stationnarit6 dtun

processus

lin6aire

La

stationnarit6 est une caract6ristique d'une s6rie chronologique, qui implique que le comportement de la s6rie ne d6pend pas du temps, c-A.-d : ses

propri6tes statistiques (moyenne, variance) sont constantes dans le temps. On

considdre deux types de stationnarit6, la stationnarit6 forte et la stationnarit6 faible.

D6finition

L.3.L

On di,t que

(Xt)r.z

est stat'ionna'ire au sens

_fort

(

ou sta-t'ionna'ire

au

sens

stri,ct)

s'i les uecteurs (X7,

Xz,.

. . _{, Xp)t} et

(Xr+n, Xz+n,. . . ,

X**o)'

ont

Ia

rn€me loi' joi'nte

pour

tout

ent'ier

k

et

tout ent'i,er relati,f h.

Pour I'6tude probabiliste on se

limite

g6n6ralement d, r6qu6rir la

1.4.

LES PROCESSUS AUTOREGRESSIFS

ET

MOYENNES MOBILES

D6finition

L.3.2

Un processus

(Xr)r.u

est

dit

stat'ionna'ire

au

sens fai,ble

(ou stati,onna'ire du second ordre) si,Ies propri,6t6s sui,aantes sont u€rifi€es :

c

E(X1)- p<l.;l._,Yte

Z

.E(X?)(*oo,VteZ

o cou(X1, Xt+n)

:

.y

(k)

_Yt,k

_{e Z}

L'exemple

le

plus simple

du

processus stationnaire au second ordre est

celui de

bruit

blanc. Ce processus est

important

car

il

permet de construire

des processus stationnaires plus complexes.

D6finition

L.3.3

Le processus (er)rrz est appel1 brui,t blanc et not6

(r)r.u

_-

W

N

(0,

o?),

si' les troi,s

propri|t6s

sont u1ri'fi\es :

o

E

(e1)

:

Q,Vt €. V,

oE(e2r):o2,

o cou (e1,6r)

:

0, Vk

_{+ t}

Le lien entre les deux tvpes de stationnarit6 sera 6nonc6 dans le lemme

suivant :

Lemme

l-.3.1- ,S?

(Xr)r.u

est _fortement stat'ionna'ire et

Elxrl < n

alors

(Xr)rru

est _{fai,blement stat'ionna'ire, la r\ci,proque} est _{fausse en g€n1rale.}

Par

contre si,

(X)r.,

gauss'ien alors _{les sens de stat'ionnarit1, fai'ble et}

_fort

sont

i,denti,ques.

D6finition

L.3.4

Le processus

(Xr)r.z

est un processus gauss'ien s'i toutes ses lo'is marg'inales sont gauss'iennes c-d,-d

:

si, quelque so'ient

k

et j1,..., jp, le uecteur (X jr,...,

Xi)

est un uecteur gauss'ien.

L.4

Les processus

autor6gressifs

et

moyennes

mobiles

L.4.L

Les processus

autor6gressifs

D6finition

L.4.L

On appelle un processus autordgress'if d'ordre p,

not|

AR (p)

le processu,s qui, u6.ri,fie l'€quati,on su'iuante :

Xt

:

_QtXt-t

I

Q2X1-r+'

"

+

drXt-'p

*

e1

od (e1)r.u

_-

W

N

(0,

"3)

et 4t, d2, .

"

,Q,

sont des pararndtres r^els'

CHAPITRE

1.

RAPPELS

ET

DEFINITIO.NIS

Remarque L.4.L

Le polynhme O

@):

1-

i \iBi

est le polyndme

carac-j:L

t(,ri,sti,que (polyn}me g6n€,rateur) du processus autor1gressi'f,

tel

que :

A@)

Xt: €t

(1'7)

Propri6t6s

des processus

autor6gressifs

Stationnarit6

II

est ais6 de constater qu'un processus

AR(p)

est un

pro-cessus d.

filtre

lin6aire, par exemple on peut remplacer dans l'6quation (1.6)

X1 par

Xt-t

i

Xt_1

:

_QrXr-z

*

_QzXt-z+'

. .

₊

_QeXt-p^y

*

_e1

et ainsi de suite, on remplace

Xt-2,Xt-1,"'etc,

finalement

(Xt)te,

s'exprime comme une s6rie en (e1), ie :

Xt:

th

(B)

ur:

_O-1 (B)

tr,

avec tfs

(B)

:

_O^'

_@)

consid6rons l'6quation _O

_@)

:

O et

C;r

ses racines, on peut 6crire Q

@)

de

la faEon suivante :

o

@):

(1

-

cfi)

(r

-

czB)

.

.(r

_-

_ceB)

et

_t)

Y.

'lt

(B)

:

_{i:l \r -}

D

^-::* -',,

w'i'D ₎

X;

€ IR

Ies conditions n6cessaires pour que la s6rie

_d

(B)

soii

converge est que

lCil

<

7,'i

:7,2,...,p.

Donc les racines de l'6quation

_0@):

0

doivent 6tre d I'ext6rieur du cercle unit6.

Inversibilit6

Un

processus ,4R (p) est toujours inversible puisque

la

s6rie

p

d@):1-

_{D diBj}

estfrnie'

Causalit6

Un processrs

AR(p)

est

dit

causal lorsqu'il existe une suite (r/6)

telle que

,

_Dlr/nl

(

oo et

k€z

x,

: f r)n€t-n

(1.8)

k:o

1.4.

LHS PROCESSUS AUTOREGRESSIFS

ET

MOYENNES MOBILES

Les r6sultats suivants donnent les conditions n6cessaires

et

suffisantes de

stationnarit6 et de causalit6 des processus autor6gressifs sur le comportement de I'op6rateur B.

Proposition L,4,L

Le processus autor1gressi,f d|fini'

par (L.7)

est causal et stat'ionna'ire s'i et seulement s'i le polyn)me g4n4rateur en

z

:

p

QQ)

:1

- I

dpj

l

o,Yz

e

c,lzl

<

L

;-1

c-d,-d,

:

ce polgn|me gdnLrateur ne s'annule pas d' I'i,nt1ri'eur du cercle uni't6,

donc i,l s'annule d,l'ert€r'ieur du cercle uni't€,.

Les

cofficients

tf;p appara'issant dans

la

repr\sentati,on causal

(l,B)sont

d€,-term'inEs par :

p1

t-.._\-oltzJ--rt-ott-

,1, _Q)

L.4.2

Les processus moyennes

mobiles

D6finition

L.4.2

On appelle un processus rnoAenne mobi'le d'ordre

q,

not6

UA(q)

le processus qui, u1rifie l'6quat'ion su'iuante :

Xt

:

€t

_-

?ret-t

_{- 1z€t-z}

?o€t-o

oil,

(e)r.u

est

un

bnti,t blanc de uariance

o!,

et

0t,02,...,0n

sont des para-rndtres r1els.

Remarque L.4.2

Le polyn6me e

(B)

:1 - i LiBi

est Ie polyn6me

carac-j:L

t1ri,sti,que du processus rnoAenne mob'ile, le rnoddle s'6crit :

xt:

0 (B)

"t

(1.9)

i,l est Eui,dent que Ie processus

MA(q)

est un moddle d'

_filtre

li'n€ai,re.

Propri6t6s

des processus

moyennes mobiles

Stationnaritd

Contrairement aux processus

AR(p),

les processus M A (q)

CHAPITRE

1.

RAPPELS

ET

DEFINITIONS

Inversibilit6

D'aprds l'6quation (1.9), on d6duit _{Que 61}

:

0-'(B)

Xr,

alors

on a :

T

(B):0-1(B),

consid6rons l'6quation 0

(B)

:

0 et notons pat

Ho'

pour

a

:7,2,..,,q

ces racines.

Alors on peut

6crire

A(B)

de

la

manidre suivante :

o

(B)

:

(r

_-

Hfi)(L

_-

H2B).,.(L

_-

HqB)

n(B):Lr!ht,

Arl. c. IP

les conditions n6cessailes

pour

que

la

s6rie zr

(B)

soit

convergente

et

que

lHol

<

1-,'i

:

L,2,. .

.,g.

Donc les racines de 1'6quation 0

(B)

:

0 devient 6tre d l'ext6rieur du cercle unit6.

D6finition

L.4.3

Si (Xt)r.z

un

processus

MA(q)

d'efini

par

(L.'9),

on

di't que (X1)r.u est i,nuers'ible lorsqu'i,l ertste une su'ite

gi

auecDlVil <

m

telle

j

que

:

+m

et:

_j:o

D

giXr-i

(1.10)

Le r6sultat suivant donne les conditions n6cessaires et suffi.santes

d'inver-sibilit6 des moddles d, moyennes mobiles.

Proposition L.4.2

Le processus rnoAenne rnobi,le (1.9) est 'inuers'ible si, est

seulement si,le polyn1me g1nErateur en

z

:

q

o (z)

:1

_{- I}

oizj

_*o,Yz

€C,lzl <

1

c-d,-d"

:

ce polyn\rne gdnbrateur ne s'annule pas d, I'i,nt6r'ieur du cercle un'it€,

donc i,l s'annule d,I'ertEri,eur du cercle uni't6..

Causalit6

:

D'aprds la relation(1.9), nous remarquons imm6diatement que

tout

processus moyenne mobile est causal par d6finition.

L.4.3

Les processus

rnixtes

autor6gressifs-moyennes

mo-biles

Pour permette une meilleure flexibilit6 dans I'ajustement des s6ries chro-nologiques

il

est souvent

utile

de combiner les formes autor6gressives et les

1.4.

LES PROCESSUS AUTOREGRESSIFS

ET

MOYENNES MOBILES

D6finition

L.4.4

On d'it qu'un processus stat'ionnai,re

et

centr€ (X1)r.uest un processus

ARMA(p,q.)

ti

pour chaque

t

i,l

u(.ffie

la relati,on :

X1

:

_{$rX;t*$2Xr-r-y'''lQoXr-ole1-0p1-1-02€t-z'''}

_-0n€r-q

(1.11)

oit

(e1)r.u-WN

(0,o?).

Remarque L.4.3

En uti,li,sant l'op\rateur de retard

B,

l'6quat'ion (1.71) peut €tre erprim€e telle que :

0

@)

xt

:

o (B)

,,

(1.12)

ot\ _,p

0@)-

1

-

_QrB

-

_drB'

-

..

-

_QoBo

-

1

-

E4,ut

o(B):1-

efi

_-

orB'

ooBn

- t-f

e,ai

j:7

sont les polyn6me caractlri,sti,que des parti,es autor1gress'iues et rnoyennes

rno-bi,les du processus

(Xr)r.u

de degr€s

p

et q respect'iuement.

Par

ai,lleurs, on peut d€,montrer que les processus

ARMA(p,q)

sont des

pro-cesslls d,

_filtre

li,n€a'ire, en effet on peut rernplacer dans l'Equati,on (1.77) X7

par X5-1 tel que :

Xt-r

_{- drXr-z}

_doXt-r-r:

€t_r

_{- 9ft-z}

1qtt-q-t

on proctdera de la mAme man'iAre pour X1,

Xt-t,

. . . _{,etc, fi,nalement X1 peut}

s'etprirner comrne une s1rie en

ef

ie :

xt:

th

(B)

tr:

_o-r

_@) 0 (B) e1

Propri6t6s

des

processus autor6gressifs-moyennes mobiles

Stationnarit6

La condition de stationnarit6 est que les racines de

l'6qua-tion

0

(B)

:

0 doivent 6tre situ6es A. 1'ext6rieur du cercle unit6.

Inversibilit6

Un process'ss ARM A

(f,

_{O)defini par} l'6quation (1.12)est

dit

inversible

s'il

existe une s6rie(z-r) telle

q"u

,,t-

l"il

<

oo et pour

tout

t

e

Z

: u,

: f rjXt-j

j:o

autrement

dit

un processus

ARMA(p,q)

"t

inversible si les racines de

CHAPITHE 1..

RAPPELS

ET

DEFINITIONS

Causalit6

Le

processus

ARMA(p,q)

dt:fini

par

1'6quation (1.12) est

dit

causal

s'il

existe une suite (,ty'r) porrt tout

t

e

Z

:

+m

Xt:

_D

rli€r-i

Dans

Ia

proposition suivante

on

donnera une condition n6cessaire

et

suf-fisante

pour la

stationnarit6,

l'inversibilit6

et

la

causalit6

d'un

processus

ARMA(p,q).

Proposition L.4.3

Soi,t (X1)rru un processus

ARMA(p,q).

Supposons que

les polgn}mes

_$(z)-

1

_-

_d&

_-

_dzz2

_-

..'

_-

_Qoze et

0 (z)

:1-

gp

_{- 0zz2}

grze

n'ont

pas

di

rac'ines con'Lrnunes.

.

(Xr)r.z

est stat'ionna'ire et causal s'i est seulement si, _Q

_Q)

*

O pour tout

z

€

C tel que

_lrl

_{3 t.}

Les coeffici,ents appara,issant dans

(L6)

sont d€termi,n€s

par

:

f

do,,

:

1\rl.

si,

lzl

<

r

.

(Xt)tez

est 'inuersi,ble si, est seulement si, 0

(z)

I

0 pour tout

z € C

tel

que

_{lzl3 L}

Les coffici,ents appara'issant dans (1.10) sont d\term'in1s par :

+€ ,

6(z)

Dgort::si.

lzl<L

j:t) '

0 _\z)

Les

processus autor6gressifs moyennes

mo-1.5

biles int6gr6

D6finition

L.5.I

Une s€,ri,e (X1)rru su'it un processus

ARIMA

(Auto

Re-gress'iue Integrated Mouing Auerage) d'ordre

(p,d,q)

si, elle sui,t un processus

ARMA

d'ordre (p

*

d,q)

:

E (B)

Xt:

0 (B) e,

oil

la ualeur

B

:7

est la rac'ine d'ordre

d

du

polyn)meE(B).

On mod6,li,se

alors la s6,rie sous la _forme :

o@)

G

-

B)o

xt:

o (B)

"

1.5.

LES PROCESSUS AUTOREGRESSTFS MOyEAn\IES MOBJLES.

TAITEGRE

0 @)YoX,

:

o (B) e1

od le polyn)me

_$

(B)

est de degr€.

p

et le polyn)me 0

(B)

est de degrE

q.On €,cri,t que Ia s1rie (X1)r.u sui,t un processus

ARIMA(p,d,q).

On peut remarquer que

la

s6.rie

(X6)r.u

su,iuant un processus

ARIMA

n'est pas stationna'ire pui,squ'i,l

_faut

lui, appli,quer I'op4rateur de d,i,ff6.renci,ati,on

pour d'6li,miner Ia tendance de Ia s€,rie.

Remarque

1-.5.1 o Si, d,

:

0

on

obti,ent

un

processus ARM A(p, q).

Chapitre

2

L'approximation

de

Whittle

de

la fonction

de vraisemblance

Ig .

o'un

processus

gausslen

Dans ce chapitre nous proposons une m6thode d'approximation de Ia

fonc-tion

de vraisemblance d'un processus gaussien que I'on va appeler rrapproxi-mation de Whittlerr, elle est introduite par

Whittle.

Cette approximation est bas6e sur le p6riodogramme et la densit6 sp6ctrale.

Nous rappelons

tout

d'abord quelques d6finitions et propri6t6s qu'on doit utiliser dans ce chapitre.

2.L

La fonction

de

vraisemblance

exacte

d'un

processus gaussien

Supposons que l'6tape de I'identification se soit sold6e par le choix d'un

moddle convient pour

la

s6rie chronologique 6tudie (ie : les ordres des

par-ties autor6gressives

et

moyennes mobiles

ont

6t6 d6termin6s). Pour l'6tape

de I'estimation des paramdtres,

il

est indispensable d'exprimer la fonction de

waisemblance du processus puisque

il

est bien 6tabli qu'une bonne

approxi-mation de la vraisemblance fournira de meilleurs r6sultats oour I'estimation

des paramdtres du moddle.

2.2.

LA

HEPHESENTATION

SPECTRALE

D'UN PROCESST/S

STOCHASTIQUE

D6finition

2,1.L

La di,stri,buti,on _{joi,nte d'une su,ite d,e}

_N

_{uari,ables al6,ato,ires}

Xt,Xz,.,.,Xw

est la ura'isemblance de

X1,X2,...,Xx1

d,€.fini,e

par

:

Lw@):;i4l= ",(tr'r,")

(2.1)

(2n)'(detfr)z

\z

"

,

or)

lry

est Ia matrice d,'autocouariance et

0

re uecteur d,es paramLtres.

Remarque 2.L.L

Le _{logarithme de la foncti,on} d,e ura,isemblance, not€.

InLy (0)

est donn€'par :

t*

(0)

:rnLu @):

_+her)-

i

r"(detrry)

-

|x,r;x

el)

2.2

La

_{repr6sentation spectrale}

_drun

proces-sus

stochastique

La repr6sentation spectrale d'un processus stationnaire

(Xr)r.z

essentiel-lement d6compose

(Xr)r.u

en une somme des composantes sinusoidule, urre" des coefficients non corr6l6s, en conjonction avec cette d6composition,

il

existe

une d6composition en sinusoidales de la fonction d,autocovariance de

(x)rcv,

la _{d6composition spectrale est donc un analogue pour un processus} stochas-tique stationnaire plus familidre dans

la

repr6sentation de Fourier des fonc-tions d6terministes. L'analyse des processus _{stationnaires au moyen de leurs}

repr6sentations spectrales est appei6e tranalyse _{de domaine de fr6quenceil}

de

la

s6rie chronologique, c'est 6quivalent d. une analyse bas6e sur

la

fonction d'autocovaiance.

2.2.I

La fonction

de densit6 sp6ctrale

supposons que

la

fonction _{d'autocovariance 7}

_(k)

_soit

_absolument

som-*m

mable, i.e

: I

_ll

_&)l

<

oo, elle est sym6trique. De plus la matrice

'k:-rc

fry

:

(?

(i

_-

j))o,i:r....,,

d6finie positive :

\-1r

bn(i-j)bi>0

od (b1, b2,..., bry)t € IRN

CHAPITHE

2,

L'APPROXIMATION

_DE

_WHITTLE

_DE

_LA

_FONCTION

DE VRAISEMBLANCE

D'UN _{PROCESSTIS GAUSSIEN}

Alors la

s6rie

_Y

_d

_{Qilexp (i,wk) est uniform6ment converoenre}

k:-m

D6finition

2.2.L

soi't

(X)rruun

_{[)rocessus stochasti,que} stationnai.re d,e

fonc-t'ion d'autocouariance

_1@),

_ta d,ens,it€. spectrale d,e

(X)r.u

s'6c,it

:

*m

f

(u)

: I

_{1 @)} exp

(iuk)

(2.3)

k:-m od exp

(tuttl

:

cos (wk)

*

a sin (1;k).

f

(w)

est

la

transformati,on d,e

Fourier

d,i,scrd.te d,e _{la foncti,on}

d,'autocoua-riance.

2.2.2

La fonction

g6n6ratrice

_des

_{autocovariances}

une

autre manidre d'obtenir la _{fonction d,autocovariance d.'un processus}

lin6aire, par d6finition de la fonction g6n6ratrice des autocovariances d6finies dans [1] telle que :

t(B): f

1,

(k)Br:o?rb@)rb@)

&:-rc

Preuve

Ona:

+@

'v(B)

: X

'y@)B*

,k:-oo +@ +m

:

o2,

_t

_l,rlodo*oBk

n:-*f"o'r'JTN

en

utilisant

1e changement d'indice

h

: j *

k

dans

la

relation

ci

dessus, on

obtient : +@ +@

'Y@):

"3

j:0

IDl/

k:0

i(r"Bk

^

t99

*m

:

"i

D, ,lnBn

D

rltoB-i

h:o

j:0

d'ot

:

t

(B)

:

"?rb @) rt'

(n-)

:

o?rh (B) rh

(F)

(,

A\ T4

2.3,

CALCUL

_{EXPLICITE DE}

_LA

_{DENSITE SPECTRALE}

la fonction g6n6ratrice des autocovariances prend la forme suivante :

t

(B)

:

"?lh

@).h

@)

I

2.3

calcul

explicite

de

ra

densit6

spectrare

En

substituu"t

B.-pu: exp

(-ztr)

et

F

:

B-1

d.ans la fonction g6n6ratrice

des _{autocovariances (2.4), on obtient la forme g6n6rale de}

la densit6 spectrale

d'un processus _{lin6aire. La densit6 spectrale est donn6e par}

:

f

(-)

:

_ff*

A"o

Gtr))

!.t (exp

(i,w))

(2.5)

,

o:

:

;lrh

(exp

(-eu))l'

,-,r

1w

1r

o _{Pour un} processus

_MA(g)

_{on a} :

,h@):e(B)

_-1-

_{Tfi-0282-...-yoBa-1_}

_f

_,,ut

j:1

d'aprds la relation (2.5) la densit6 spectrare d,un

MA(q)

est donn6e par :

^2

f

(.)

'

: f

_2T'

le

(""p

(tr))f

,

o-^ .

:

;lt -

d1 exp

(-i.) -

g2exp

_(-i,2w)

_0rexp

_{(_iq*)|,}

o _{Pour un} processus

_AR(p)

_{on a :}

,h

_@)

:

_Q-'@)

or)

d@):r-

dF

_-

drB,

_doBr:t

_f,4,ai

J:1

d'aprds la relation (2.5) la densit6 spectrale

_d,un

AR(p) est donn6e par :

?/ ,

Oi

1

T lllll :

---:--..._...-'

2n

_ld

(u"p

(tr))I,

CHAPITRE

2.

L'APPROXIMATION

DE

WHITTLE

DE

LA

FONCTION

DE VRAISEMBLANCE

D'UN PROCESSUS GAUSSIEAI

o Pour un processus ARM A (q) on a :

,h

_@)

:

_o-t

(B) 0

(B)

d'aprds la relation (2,5) la densit6 spectrale

d'rn

ARM A (p, q) s'exprime telle que :

r

tln'tl

,.

\

_---:-L

o!

lo (exp

(t.))l'

r

\*

)

2tr lS @xp

(tr))|,

:

o?

lt

_-

4rexp(-dw)

_-

0zexp(-i,2w)

_{- "'-}

lnexp(-i'qw)12_

zr

_{] -}

_{dr exp}

_?t'r)

_-

_dzexP

_(i'2w)

_6ou*p

_(-tpr)l'

2,3,1"

Le

p6riodogramme

Dans

la

pratique,

la

fonction d'autocovariance 7

(k)

est inconnue. Alors on remplace dans la relation (2.3)

_I

(k) par son estimation

_f

(k)

on obtient :

f@): f

l@)exp(twk)

&:-m

L'estimation de

_/

est assez vaste d, d6terminer, nous introduisons la d6finition

suivante :

D6finition

2.3.1

En

cons'id,6rant les _{fr€.quences} :

wi

:'+

aur poi,nts

,A/-1

j : 7,...,

_^

,

le p1ri'odogramme est d6fi'ni'

par

:

z

I*

(.i):

₊

_rY |

i

*,

_".p

(k.)l

lft:1

|

Iy

est

un

est'i,mateur de la densi,t€. spectrale

f

(.).

2,3.2

La

transformation

de

Toeplitz

de Ia

densit6

spec-trale

D'aprds _[3], la fonction d'autocovariance d'un processts (X1)rru centr6 et stationnaire peut Otre exprim6e par I'int6grale de Fourier-Stieltjes telle que :

T

1f

: )- I

.f (u.r)exp (i.wk) dw -T 'Y (k) -LO

2.3,

CALCUL

_{EXPLICITE DE}

_LA

_{DENSITE SPECI:RALE}

of

_/

est la densit6 spectrale d,e

(X)r.u.

D6finition

2.3.2 on

d,i,t que ra matrice d,'autocouariancerls _{est une matrice}

d,e Toepli,tz

fu

_U)

_{si, 1 (k,}

j) : t

@

_

j).

La matrice

rw

_u)

peut 6tre exprim6e _{sous ra forme matricieile telle que}

:

T*(f)-lff:

1o ^(-t 'l_z

1_1n_t7

'Yt

_{'Yo 1_r}

_{1_1n_21}

1z

1t

'yo

_{16_s1}

'Y@-t)

'Y1n-27

^l@-s)

..

_;,

La

matrice de Toeplitz_ _{est d6finie positive}

_et

_{sym6trique, alors}

_il

existe une matrice _{orthogonale Uxr,}

_Uk

_:

_U;l,

_telle

_q1"

_i

uru:

{l,r-L

urp(tzrtjtl)}

,

k,

j

:

t,2,...,N

et dont _{les colonnes sont les vecteurs propres}

_de

717

(/)

tel

_que :

rw U)

:

tJfuL^lu1,r

. lt-fr -

di,ag

_()r,

)2,...,

)ru)

est une matrice diagonale et

_|,

'i

:

L,2,...,

N

sont les. _{valeurs propres du f,^n}

_(/).

Notons par Dry

(/)

le d6terminant de ra mairice de Toepritz, arors

il

peut 6tre exprim6

tel

que :

nx

_ff):

det

_Q*

ff)):

_tr[,)n

par ailleurs, la transformation _{de Toeplitz v6rifie ra propri6t6 suivante}

:

(7r (/))"

:

T;u

_U)

:

_Tx

(f")

,

ys

_€

_Z

pour s

:

_-1

:

T*' (f)

_{est la matrice inverse de la matrice}

de Toepritz qui

se calcule de la fagon suivante :

T

r*'(f)::r*

(f-r)

:

+

I=ffi^.,

k,

j

:

r,2,...,N

(2.6)

-T

CHAPITRE

_2,

L'APPROXIMATION

_DE

_WHITTLE

_DE

_LA

FONCTION

DE

VRAISEMBLANCE

_D'T]N

_PROCESSUS

GAUSSIEAT

2'3'3

Le

d6terminant

_de

_ra

_matrice

_{de Toepritz}

Th6or6me

2.8.1' soi't

_f

(r)

_{une foncti,on r€eile, on note}

_m

_et

_M

_{ra borne}

'infEri,eure et la borne,sup6.r'ieure d,e

f

(r)

_{respectiuement. supposons que rn}

et

M

sont _fini's. si'

F

_Q)

est une _{foncii,on'continue d,6.fi,ni,e}

_d,oii

_t,lnt"roaile

fini,

m{)lM,donc

ona:

Lf

: ;

_zil

I

F

(f

(w,0)

dw

(2.7) ,J

lim

lr+o

F

_{()r) + F(^2)}

_+...

_+-F

_(^l,,) _T

corollaire

_2.s.r

_on

_{note Dxr}

_(f)

_t"

_{d,6term,inant}

d,e Ia matrice d,e Toepr,itz

donc on a :

- I

_{-. 1T}

*

lirn

:lnDn,

(f): +

_|

_{1"1y1.,0)d,u,}

_{telle que,}

_{D*(il: If}

^n N-m1V 1' \u ) 2n !^--'\r \*, "./ qw) LEtrLv que: tJN ;_1 o D'aprds (2.7) et se

F

(.\)_-ln

)

on obti,ent :

lim

lt)r*lt)r+"'+ln)r

_-

I

7,^

/r,.

t

r+m

_1,/-

:

_{2" J_ln(f}

(w,0)dw

2.4

L'approximation

_de

_Whittle

Dans la _{suite on va faire I'approximation de}

_whittle

en

de,x

6tapes :

premidrement

_;

_on

_fait

_{l'approximation}

de rndet

(fry),

deuxidment

_;

on

fait

I'approximation _{de la forme quadratique}

_Xrf/i-

rYl7 evqr!

r

_{D'aprds le corollaire (2.3.1), le premler terme de (2.2) est approxim6} par :

1

_-.

₁

_1T

J'_"L.rtnD7,r

(/)

:;i-

"t"Ja"r(rr)l

:

_*

Ju,f

(w,g)d,w

(2.8) -T

d'aprds l'6quation _{(2.6) on obtient :}

fr':

ri'u):^(;)

:*

j*ffi.40,

18

2.4.

L'APPROXIMATION

_{DE WHITTLE}

o Pour d6terminer l'approximation _{de ra forme quadratique,}

[3]

ont

utilis6

l'6quation inverse de Toeplitz :

x'Lr;x

: i

_f,

.-l+f

_"*ett\n

-

D'l

_o,],,

t!t'7,

"

_{12" L-rl}

J

f

(.,0)

*w

I'-r

lv t/ -n , ,.

|,ry

P

'

i

lI

rpexpfi,kwll - llk:l I - i _^^,' 2n

J

_f

_(w,0)

un

:

_!

_2r

_I

[!v('Lo.

_f

(r,0)-alors, on obtient :

xtr;lx:{[#.3j.0,

_',

_(2.10) 2n

_!,

f

(r,o)*-on remplace (2.8)

et

(2.10) dans l'6quation (2,2) :

tnLy(0): -#," (2n)-+f

^f

(w,g)ar-!i

r*(.)

,.,,

z

4nJ-'

4trJf@Ao,

"-T tn Af nr I t " I

Ut"1z"1

'

-#Ilr"t@,0)a,+

*"Lln "

[Jt@)

o.l

!^t@,e)

₎

alors l'approximation _de

_whittle

_du

_{logarithme de}

_la

_fonction

d.e vraisem_

blance est :

T

h

@):

rn trr,r

(e)

:

-+

_z

_rn(2n)-

#

_I

_i

_{u,, (.,0) o,}

*

_[

_!^y

(r).orf

n"L!^

r

/ -

!^f (',e)*

₎

(2.11) 1f

7f

-t

2nJ

wl

-dw

(k-j)

li,

q

exp

7-\u,

*nj

-,

I

\-

\--19

CHAPITRE

_2.

_{L'APPROXIMATION}

_DE

_WHITTLE

DE

LA

FONCTION

DE

_{VRAISEMBLANCE D'UN}

_{PROCESSUS GAUSS'EAI} L'estimation _de

_whittle

_{est obtenue}

en _{minimisant la fonction rn trry (d) telre}

que :

otnL.n,(o)__ot*lf,

_"

_u),-|)

---ae

:

_h

_1-;

_I

_l'"t

(w,o)a.

₊

_[

!t!

(

''

_Li"

\*'-l**

'

4j@e*]J

on cherche la solution d'un systdme de p

₊

q

₊

1 6quation :

oln!,n@)l

_:

_a

_{[ *lr.}

n ,.\

_l)

--

_aer

_I,:e

:

_ft1-;lJ

r", (,,0)a.+

_[

!J---.-atul

|

:o

-"

L!"

J

I\u

7

k - I,...,pF-q,-]

-n

))

supposons que : 0*

:

(1,Qr,Q2,...,do,gr,02,...,00)t _{et, en choisissant}

_o!

telle

que :

f

(r,0):

o?f

(r,0*)

on remplace

_(2.I2)

_{dans (2.11) on trouve}

: (2.72)

ry

n li

n

1

InLx@"\:

_{-1lk'Q")-#llh@!f}

2

-\-

'

_(w,0.))dw+

_t

IN(w)

_,

I

4r

_L!^"'

_{l_Fj6v1a-1}

TJ

: -ry

_,-tn

(2r)

_-

n'i

r

#

I

rnold,w

_

#

|

h

f

(w,0.)

d,w n -" -1f

_

.^/

[

r*

(r)

_.,

4"4 J

-f

@s\dw

:

_-Y^-

r"^r-_

{,"

,r

_-

N

7 .

2

--'\-',,

2',,",

-

_GJ

lnf

(w,0.)dw

ff f

t*@)

-4""r,J

[email protected]_

d'aprds [3] on a : T

I

l"

_f

(-,0*)

dw

:

0 ,I _T

2.4.

L'APPROXIMATION

_DE

_WHITTLE

donc on obtient :

rnLly

(0"):

_-+hen)-

_{*

"?

_

*,1_

ytt

l

,"

2

-"'"

e

_4"41^7

@31"-Pnoul _{calculer la fonctionrn L1r}

_{(g.) il}

est indispensable _{de calcurer'int6grale}

:

I

I*

(w)

J

7

{r-"''

-T

on

utilise la _{somme de Riemann pour simplifier}

les carcurs teile que :

T

I

I,

(r)

_

zf

_$

rN (wi)

!"7@3\

=

* kT@;d\

.

2tyi

ou

ui

:

17

sont les fr6quences de Fourier.

A1OIS;

tnLy

(0")

:

_{-+rnen)_}

f,

,"

"?

_

;efr,#h

e.1r)

L'estimation du maximum _{de vraisemblance par la}

m6thode de

_whittle

est

obtenu en _{minimisant ra.fonction ln}

_i*

_{(t") o".r"op"ri'i"B-"t}

d

ol.

Donc,

il

_{est indispensable de}

_minimis",

_tu

_{ro__e}

suivante :

$

1'('')

i:",

f

(ri,o.)

fl:lr.:jr:l

resout l'6quation suivante

pour trouver

l,estimation _des para_

a

_/.q

rN@)

_l

ae.\*urT@p-1

1:u

ensuite, en _{minimisant l'6quation (2.13) pour trouver}

'estimati on de o!.

ht L1y

(0")

:

-+r,

_(2tr)-

#,,,

,?

'

-

:

2o?

_r-,

i,

_f

ly

_@i,0.)

(r,),,

CHAPITHE

_2.

_{L'APPROXIMATION}

DE

WHITTLE

DE

LA

FONCTIOAI

pE

_{vRArsEMBLANCgp,uN}

lRoCesius

_GAussrEN

olnI:w.(e.)

: oo-{+l$

1r(rr)

_{_^}

o"?

"--i4-EAT6;r_"

<+

_-.n/+

+E#$t:,

alors, on obtient

a?:!$

_-e

r.r(ui)

u*L,T@q

22

Chapitre

B

L'approximation

_de

Box-Jenkins

_de

_{la fonction}

_de

vraissemblance

_drun

_processus

gaussten

Au

chapitre pr6c6d_ent

_{on a}

_{exprim6 r,approximation}

de

la

fonction de

vraisemblance L^r

(0)

d'un

pro"".r,,"

gaussien par 1a m6thode de

whittle.

Dans ce chapitre nous proposons _une

_autre

_m6thode

d,approximation

de

la

waisemblance que

_{I'on va}

_appeler rrapproximation

ae Box-Jenkinsr, on constate que cette m6thode est une applrcation particulidre _{de l,approxi_} mation de

whittle,

ce

t;pe

d'approximation _{d, 6t6 rargement populaire.}

Il

consiste d' consid6rer

_tout

_{processus comme rimite d,un}

processus moyenne mobile

MA(p),le

_{probldme au quel nous sommes}

confront6s se situe dans la diflflc']t6 de manipuler _l'inverse

_ie

_{la matrice d,autocovariance}

rry.

Box et Jenkins ont propos6 l'expression _{de ra fonction de vraisemblance}

d

I'aide des esp6rances _{conditionnelles des innovations}

frrl_rr,la

somme finie

des carr6s des

innovatior.

,

i

6l

est une bonne approximation de ia forme quadratique dans tu

rrruir"fiutln"u

_{d,un processus}

_ARMA(p,q).

CHAPITHE

_3.

_{L'APPROXIMATION}

_DE

BOX-JENKINS _DE

_LA

FONCTION

_DE

_{VRAISSEMBLANCE}

_D'UN

PROCESSUS GAUSS/EN

3'1

Forme

_innovation

_de

_ra

_fonction

_de

vrai-semblance

3'L'1

La

_{fonction de}

_{vraisemblance exacte}

_drun

pro-cessus

gaussien

Ddfinition

_B'L.r

_{La foncti,on d,e ura,isembrance}

d,,un _{processus gauss,ien est}

dEfini,e comme su,it :

Lw

(o):

1z4e1k;$*o

(+"'r''x)

(3.1)

telle que _:

ly

_{est la matrice d,,autocouariance.}

Remarque B.L,r

Le rogari,thme _{d,e ra foncti,on d,e ura,isembrance,}

not€.

InLy

(0)

est donn6,

par

_:

_:

tN

(o):

lntrrs

(o)

: I h,r\ - r

I

2 *'\-"t

-

_,ln(detfTy)

_{- UX'f;IX}

(3.2)

Lemme

3.1".L Soi,t

tn

:

E

(rrlXr,

. . ,

_{, Xx)}

_la r€,gress,ion _{li,n6,ai,re d,e e1" sur}

Xt,...,Xp,

alors

xtl;lx:j,i

r?

t _{e k:-a}

Lemme 3.L.2

Soi,t

Xt,...,X1y

_{urle su,ite d,,obseruations cl,un processus}

(Xr)r.u

de matrice d,'autocouari,ancell,T _{est soi,t}

_(rr)rru

_{le processus}

d,,,inno_

uat'ion

d" (Xr)rru,

_{alors on a :}

tn

o!

:.I- *

_h

det rru

'lv +co 1V

Le logarithme de

la

fonction _{de vraisemblance de}

_Xt,.

. ., X1,,

peut

alors

6tre exprim6

par

:

rnLlr(X1,...,xrv)

:

_f,u,

_ero!)

_{_jxrr;rx}

:

_-+r

p*"2::1

-:r,,

2 x-'"ut

2O2"\

^/

ot

^9

(d)

:

*=-D_ r? ,/1

3'2

_{L'approximation de ra fonction de}

vrai-semblance

_d,un

_processus

_{autor6gressif}

Soit (X6)rru un _{processus associ6 d un moddl e}

_AR(p)

d6fini par :

d

(B)

&:

€t _(3.3)

L'expression (3.3) peut _{6tre 6crite sous la forme}

:

Xt

_{- dtXtt - dzXr_z}

doXr_o:

,,

(3.4)

T,lil:r_Zst

un

bruit

blanc de loi normale telle que

E

(er):

0 et

- \"t,/ - ue.

Soit

0

:

(dr,d2,....,d,o?)'le

_{vecteur des paramdtres}

du moddle

et

fry

la matrice _{d,autocovariance du vecteur}

_X

_:

(Xr, Xz,

...Xu)r.

La densit6

jointe

_{du vecteur}

_X:

_{(Xr,Xz,...X*),}

est d6finie

par:

f

(X,/e,o,)

:

_(Ztro!)-#

1ae

,

_--,,

1

/

-t

,t

f

_[1)

_'

""0

(#

xlri

x

₎

,i?ilff"t':iome

de probabilit6 conditionnelle, ra densit6 jointe

/

s,6crit sous

f

(X,/d,ou):

_f

_{(Xo*r,Xp+2,...,Xx17y@),O,ou)}

f

(X@76,o,)

(g.b) o,1 )g@)

: (Xr,"r:.:,{r\t.*..t

_(xtol7f,a,)

est

la

densit6

jointe

_{des p}

premidres observations de

_X

telle que :

f

(x<,tr'f

_,ou)

:

_(2roz!-E

_(aetr;r)

+

"o

(J

(xot1,

t;ry(n)

)

r,.at

\zu;

/

-/

of |o

est la _{matrice d,autocovariance de}

_X1,

Xz, ..., Xp. Pour calculer la densit6

jointe

_f

_{(Xo*r, Xo+2, ...,' X'w,/X@)}

,

e,

or)) on ex_

prime _{d'abord la densit6}

_jointe

_urr"fon"iion

d.es eoa1,...,a1,. _{€flsuite on utilise}

ia relation _{(3.4) entre les X1 et les}

e1

t"ii"

qru

,

f

(ro*r,..., eru)

:

(zro!1-s;d

.p

(* i

_,:)

\ _"" e t=p*I /

d'oi

:

f

(Xo*r,...,

X1r7

y(r),

_e,

_o,)

:

_(2tro!)-P

_*

o<

CHAPITHE

_3.

_{L'APPROXIMATION}

_DE

BOX-JENKINS

_{DE LA}

FONC:IION

_DE

_{VRAISSEMBLAWC; N'UN}

PROCESSUS _GATISSIEI\T

"*o

(* S

_\4

_r-4r(x'

(x,

-

-

6"Y,

Qtxt-t

.

-...

.^

drxr-o)')

\.

'\

(3.7)

1

1-Tpluqant (3.2)

el

(3

6)

dans (3.5), alors

la

fonction de vraisemblance

Lw

(X,/Q,au)

s,6crit telie que

:

'

Lx

(X,/d,ou)

:

_(zno!)-#

1a"tf;')+

\

s

/

_""o

L

(1,

fr.,)

\2oz*r-t1

or) :

s (o)

:

LE*[;)

xnx,*,:#*,

(x,

-

Qtx,_t

_-

6,x,_,

_{d,x,_o),}

d'aprds [4] les 6l6ments de la _{matrice inverse}

$1

peuvent 6tre carcul6s

par

:

(t

*:l'

:

fioro*inn

-,'fj

Qrdr*i-n),

=

i

<

j

<

p

lrc:o

*:pi-j

"

)

or)

_/o

_-

_-1

:dii:rles

valeurs

*$)

vou, z

>

7 puisque

f;1

est symetrique ie :

ttLij _ ilLii.

Le logarithme _{d.e la fonction}

de vraisemblance est :

Iu

(x,/e,o,)

:

_{In L1,r}

_(x/d,ou):

+

In etro2,)

+

j

r,

(aet

r;i)

_

_#

-" e

Le probldme _{d'estimation des paramdtres}

par la

m6thode du maximum de waisemblance est r6solu d,, r'aide _{des equations de} yule-walker.

3.3

Ltapproximation

semblance

_d,un

bile

de

la

_{fonction de}

_{vrai_}

processus

_moyenne

_{mo_}

Supposons que

_la

_{s6rie X1,}

_X2,...,Xry

_soit

_identifi6e

comme

un

moddle

UA(q)

d6fini

par

:

Xt :

€t

_-

gft-t

_{- 7z€t-z}

gq€t_q

26

3.

3,

_{L, APP ROXIMATI ON}

_DE

L

A

F ON CTION

UDSE)

URAISEMBLAN _CE

T,!irJ:r^"rst

un

bruit

blanc de

loi

normale telte que

E

(rr):

0 et

" \"t) - ue,

La densit6.iointe _{du vecteur}

_{(Xr,Xr,...,X*),}

_peut

6tre exprim6e

_par:

f

(x,/0,

ou)

:

(zro!)-#

laut

rr-') ;

.,

(fi",rr-'x)

orf

d:

(0r,02,...,0n,o?)'est

_{le vecteur des paramdtres}

du moddle et

lry

1a

matrice d'autocovariance _{du vecteur}

_X

_:

_(i1,

_Xr,

_.X*f

.

Il

a 6t6 6tabli dans _11] que

_{pour ly'}

_{assez grand,}

_la

_fonction

de vraisem-blance est domin6e _ou,

)S(0)

et les estimateurs des paramdtres _d1,

_...,

_{0n, o?} sont obtenus en maxim

ik;t

_{r"r,cgarithme de ra fonction}

d.e _{vraisembrance ou}

ce qui revient _{au m6me en minimisant la somme}

^g (g).

De plus, la somme des carr6s exacts

^9

(d)

est equivalente a ra somme des

carr6s

,

I

6l

appel6e la somme des carr6s inconditionnelle.

k:r-q

En

posant

€

:

(et,ez...,ex)t

_et

_6*

_:

!r-r_n,€2_q...,e6), Ie vecteur des g

valeurs initiales.

pour

_f

_:

_1,...,1/

_et

d, l,aide _du

ieq,rut#r,

_{(J.g) on obtient}

un systdme d'6quation qui peut 6tre 6crit sous la forme matricieile :

X

:

Lee

I Fe*

_(3.g)

oi

Ls est une matrice de dimension ly' x ly' triangulaire _{inferieure d6finie telle}

que :

Le:

0 1

-01

.'

_H "q-l 0 0

F

_{est une matrice de dimension -ly'}

_x

_q

_{d6finie telle que}

:

r:

(al,ot)'

27 0 0 0 0 0 0 0 1 0 1 0 0 1 -01 0 0 1 1

-0r

-e2

-'0q 0 0 0 0

CHAPITHE

_3.

_{L'APPROXIMATION}

_DE

BOX-JENKINS

_{DE LA}

trONCTION

_DE

_{VRAISSEMBL.I"TVC'}

_N'W

PROCESSUS GATISSIEIII or)

I

e,

oq_t

orf

l0 0q

url

B":-l...'

"'--ll

lo o

...

orJ

La densit6

jointe

_{du vecteur}

_(rr,rr.)

_de

_taille

N

₊

qest donn6e par :

f

(e,e*/ou)

:

_(2ro!)-qd

", (#

(ete

rulr.))

\ZU; ,/

Supposons

la

transformation _{lin6aire de (e,e*)}

_{_}

_(X,e*)

de Jacobian unit6

avec €

-

L;'

_(X

_-

_{Fe.). Alors la}

_{A"r,Je jointe}

de (X, e*) est :

f

(X,e*/0,ou)

:

_(aro!)-qo

""p

f=S

_\20:

(a,..))

' '

',)

or)

^9 (0,e.)

:

(X

-

pr*)'

(t,r)-' Lr,

(X

_{- pr*)* ele*}

_(g.10)

s

(0'e*) d6pend du vecteur des _{valeurs initiares e* d, d6terminer.}

Notons

par

6*le vecteur

_{qui minimise,S(0,e*),}

_d,aprds

Ia m6thode des

moindres carr6s ordinaires on trouve :

e *

:

D-r

F,

(trr)-,

L;tx

D:

rq+

r,

_(ri)-'

,r,,

S (0,e*)

:

S

(o,t*)*

(e.

_-

t.)'

D(e*

_-

6.)

or)

^9(0,6_)

:

(X

_

pe.)t

(tt)-,

L;r

(X _

_{Fe.) +}

_el6. La densit6

jointe

_de

_X

_{et 6* est d.onn6e par}

:

f

(x,e./O,ou)

:

_(aro!)-I4+o

"*p

'\2"3

f=

(.9 (p,6.)

*

(r*

_

t.),

D(r.

_

e_)))

_,/

(3.11) or) d'apres [1] on a :

'

_{if;Hfrflytrt{fE}

d'aprds I'axiome de probabilit6 _{conditionnelre, la densit6 jointe}

f

de

x

et e*

st6crit sous la forme :

f

(X,e./0,ou):

_f

(X/0,o")

_f

(e./X,0,o")

et

f

(x/o,o.)

:

_(2tro!)-#

laut

D)-*

u*p

(#r(a,6.))

\zo;

'/

9.:

::*:i : [r./I

d]

:.lr.l

est I'esp6rance conditionneile de e* sachant

(X,q.

D'aprds _{la relation 1i.S) ,}

lel:L;'(x-F[r.])

alors on obtient : .^/

s

(0,e.):

_fu']

_hl

₊

_kl]

_l'.1

:_f

t"l,

t: t_Q

Fina'lement, _{la fonction de waisembrance zry}

_(x,zg,o,)

est donn6e

par

:

LN

(x/e,o,)

:

_(zno!)-#

1a"t

n)-*

"*p

(

_\zo!

=I

_El-q'

S

tr,tr)

"'

_/

Le logarithme de la fonction _{de vraisemblance est :}

tN

(X/O,ou)

:

ln

Ln (X,ze.o-)

. ,_E,

_{: -{' /-}

I

,rn(2no!)_ir"(derr)_#

t

b,l,

-" € t:\_q

P^our calculer

^9 (9,6*), on a besoin de d6terminer g valeurs _initiales

(ar-s, ...,

t-1,

s0) en

utilisant

(3.11).

or)

f

(e.,/X,0,ou)

:

_(zro!)-,n

_laetD)t

_exp