Définition 4.7
Une série{yt} est dite linéaire si elle peut s’écrire :
yt= μ + +∞ i=−∞ ψizt−i, (4.10) où zt ∼ BB(0, σ2
z), ψ0 = 1 et la suite {ψi} est absolument sommable,
c’est-à-dire
i|ψi| < ∞.
Une série{yt} est dite linéaire et causale si elle est linéaire avec ψi= 0, i < 0 :
yt= μ + ∞ i=0
On admettra qu’une série linéaire est stationnaire. L’étude des séries non causales conduit à des résultats non intuitifs difficilement utilisables, aussi nous ne consi-dérerons parmi les séries linéaires que des séries causales (4.11). L’écriture (4.11) de ytcomme somme de v.a. non corrélées permet d’obtenir facilement :
Eyt= μ, var(yt) = σz2(1 + ∞ i=1 ψ2i), γl= cov(yt, yt−l) = σ2z ∞ j=0 ψjψj+l (4.12)
Modèles autorégressifs, moyennes mobiles
On exprime souvent l’évolution d’une série en fonction de son passé. Les modèles autorégressifs sont les modèles les plus explicites pour exprimer cette dépendance. Introduction aux modèles autorégressifs. Considérons le modèle
yt= c + φyt−1+ zt, zt∼ BB(0, σ2
z), (4.13)
où c et φ sont des constantes, appelé modèle autorégressif d’ordre 1 et étudions-le. Par substitutions successives, on obtient
yt= c(1 + φ + . . . + φk−1) + φkyt−k+ k−1 j=0
φjzt−j.
Si|φ| < 1 on peut représenter yt par
yt= c 1− φ+ ∞ j=0 φjzt−j,
ainsi, dans ce cas, ytest une série linéaire, donc stationnaire et causale. Observons que cette écriture s’obtient aussi directement à l’aide de l’opérateur retard. En effet, l’équation (4.13) s’écrit
(1− φB)yt= c + zt.
– Supposons que|φ| < 1, nous avons évidemment que φ = 1 et donc
yt= c
1− φB+
1 1− φBzt.
Ensuite, comme|φ| < 1 on peut effectuer le développement en série
1
1− φB = 1 + φB + φ2B2+ . . . (4.14)
et par ailleurs, c/(1− φB) = c/(1 − φ), donc
yt= c
est stationnaire, de moyenne E(yt) = μ = c/(1− φ). Un processus autorégressif
d’ordre 1 stationnaire est noté AR(1).
– Si φ = 1, l’autorégressif (4.13) n’est pas stationnaire. C’est une marche aléatoire, avec dérive si c= 0, considérée au chapitre 5.
– Si|φ| > 1, l’autorégressif (4.13) est explosif.
Exemple 4.2 Les représentations MA(∞) des séries simulées (4.7) sont
1
1 + 0.7B = 1− 0.7B + 0.49B + (−0.73)B3+ . . .
et
1
1 + 0.7B12 = 1− 0.7B12+ 0.49B24+ (−0.73)B36+ . . .
On peut également faire ce calcul dans R à l’aide de ARMAtoMA() (SiteST). Considérons maintenant les processus autorégressifs d’ordre p. Un processus{yt}
est dit autorégressif d’ordre p s’il vérifie :
yt= c + φ1yt−1+ φ2yt−2+ . . . + φpyt−p+ zt, zt∼ BB(0, σ2
z), avec φp = 0.
Avec l’opérateur retard on peut écrire cette autorégression comme : Φ(B)yt = c + zt
où
Φ(B) = 1− φ1B− φ2B2− . . . − φpBp est l’opérateur d’autorégression.
Définition 4.8 (Processus AR(p))
Un processus{yt} est un AR(p) s’il obéit à
yt= c + φ1yt−1+ φ2yt−2+ . . . + φpyt−p+ zt, zt∼ BB(0, σ2
z)
avec φp= 0 et il est stationnaire.
A quelle condition le processus autorégressif (4.16) est-il stationnaire ? Supposons que p = 2. Appelons s1et s2les racines, réelles ou complexes, de 1−φ1z−φ2z2= 0.
On a donc 1− φ1z− φ2z2= (1− z/s1)(1− z/s2) et on voit que le développement
en série de 1− φ1z − φ2z2 est possible si les racines de ce polynôme sont en
module strictement supérieures à 1 ; dans ce cas yt est stationnaire, de moyenne
μ = c/(1− φ1− φ2), définie car 1 n’est pas racine du polynôme. Pour un ordre p
Proposition 4.3
Le processus autorégressif d’ordre p (4.16) admet une représentation MA(∞) si les
racines de l’équation : 1− φ1z− φ2z2− . . . − φpzp = 0 sont strictement supérieures
à 1 en module, (4.16) est alors stationnaire ; c’est un AR(p).
Dans ce cas
E(yt) = μ = c
1− φ1− φ2− . . . − φp et on peut encore écrire (4.16) comme
yt= μ + 1
1− φ1B− φ2B2− . . . − φpBpzt, zt∼ BB(0, σ2
z). (4.16) Cette formulation sépare clairement le niveau moyen μ de la série, de l’erreur qui obéit à une dynamique autorégressive stationnaire. Le niveau moyen peut lui-même être une fonction du temps, comme dans la modélisation du niveau du lac Huron (chap. 1) où l’erreur est AR(1). Dans ce cas, la série est la somme d’une tendance déterministe et d’une erreur stationnaire.
Introduction aux modèles moyennes mobiles. Définition 4.9 (Processus MA(q))
{yt} est un processus moyenne mobile d’ordre q (MA(q)) si :
yt = μ + zt+ θ1zt−1+ θ2zt−2+ . . . + θqzt−q, zt∼ BB(0, σ2
z), (4.17)
avec θq= 0.
Introduisant l’opérateur moyenne mobile
Θ(B) = 1 + θ1B + θ2B2+ . . . + θqBq,
on peut noter de façon équivalente :
yt = μ + Θ(B)zt.
Un MA(q) est toujours stationnaire quelles que soient les valeurs des θ ; il est de moyenne μ.
On aimerait pouvoir exprimer ce processus en fonction de son passé (observé) et pas seulement en fonction du bruit passé non observé. C’est la question de l’inversibilité du processus. Examinons le cas d’un MA(1) centré :
yt= zt+ θzt−1= (1 + θB)zt, zt∼ BB(0, σ2
z). (4.18) On voit que si |θ| < 1, on peut développer (1 + θB)−1 en série : (1 + θB)−1 = 1− θB + θ2B2− θ3B3+ . . . et écrire y
t, MA(1), comme une autorégression infinie :
yt= zt+ θyt−1− θ2y
t−2+ θ3yt−3+ . . .
on dit qu’il est inversible. Observons que la condition d’inversibilité d’un MA(1) est parallèle à la condition de représentation causale d’un AR(1). Un MA(q) est dit inversible si on peut le représenter comme une autorégression infinie.
Propriété 4.2
Un MA(q) (4.17) est inversible si les racines de 1 + θ1z + θ2z2+ . . . + θqzq = 0
sont, en module, strictement supérieures à 1.
Nous pouvons maintenant combiner les deux mécanismes, moyenne mobile et au-torégression.
Définition 4.10 (Processus ARMA(p, q))
yt obéit à un modèle ARMA(p, q) s’il est stationnaire et vérifie :
yt= c+φ1yt−1+. . .+φpyt−p+zt+θ1zt−1+. . .+θqzt−q, zt∼ BB(0, σ2
z) (4.19)
avec c constante arbitraire, φp= 0, θq = 0, et les polynômes 1 − φ1B− . . . − φpBp
et 1 + θ1B + . . . + θqBq n’ont pas de racines communes.
En utilisant l’opérateur retard, (4.19) s’écrit
(1− φ1B− φ2B2− . . . − φpBp)yt= c + (1 + θ1B + θ2B2+ . . . + θqBq)zt (4.20)
yt obéissant à (4.19) est stationnaire si, comme dans le cas des autorégressifs, les racines du polynôme d’autorégression 1− φ1z− φ2z2− . . . − φpzp = 0 sont en module strictement supérieures à 1. Par un calcul identique à celui fait pour un AR(p), on obtient que μ = E(yt) vérifie
(1− φ1− φ2− . . . − φp)μ = c, (4.21)
par la stationnarité, 1− φ1− φ2− . . . − φp= 0 et μ = c/(1 − φ1− φ2− . . . − φp). Ainsi (4.19) peut encore s’écrire :
yt= μ + 1 + θ1B + θ2B
2+ . . . + θ
qBq
1− φ1B− φ2B2− . . . − φpBpzt (4.22)
On peut alors écrire une représentation MA(∞) de la série : yt= μ +
∞ i=0
ψizt−i, ψ0= 1.
Par ailleurs, yt, ARMA(p, q), est inversible si les racines de Θ(B) sont en module strictement supérieures à 1 et on peut écrire alors une représentation AR(∞) de
la série : yt= c + ∞ i=1 πiyt−i+ zt. Remarques
– L’absence de racines communes dans (4.19) est une condition pour éviter la redondance des paramètres.
– Il arrive que certaines racines du polynôme autorégressif soient égales à 1. L’au-torégressif est alors non stationnaire (voir le calcul de moyenne après 4.21) et on dit qu’il est intégré d’ordre d si 1 est d fois racine. La question est abordée au chapitre 5.
– La théorie de l’ajustement d’un modèle autorégressif à une série suppose qu’elle est stationnaire. Donc, dans la pratique, on ne devrait essayer d’ajuster un modèle autorégressif à une série que si elle est stationnaire, ce qu’en général on ignore au début de l’étude. Observons que 1−φ1−φ2−. . .−φp = 0 indique que 1 est racine du polynôme d’autorégression. Il est donc pertinent, une fois ajusté un AR(p) à une série qu’on a supposée stationnaire, d’examiner si φ1+ φ2+ . . . + φp
n’est pas trop proche de 1, indice de possible non-stationnarité. D’autres garde-fous sont à notre disposition. Si l’on essaie par exemple d’ajuster un AR(p) à une série autorégressive non stationnaire ou proche de la non-stationnarité, l’algorithme d’optimisation donne souvent des messages signalant un mauvais fonctionnement.
– L’abréviation AR pour « autorégressif », renvoie normalement à une série sta-tionnaire. Nous suivrons cette convention.
– Les poids ψ s’obtiennent formellement, voir Brockwell & Davis (1991). On trouve un développement théorique des processus ARMA dans de nombreux ouvrages comme Gourieroux & Monfort (1995, chap. 5), Brockwell & Davis (2002, chap. 2), Bourbonnais & Terraza (2008) ou Hamilton (1994, chap. 3). – Dans certains ouvrages, logiciels et packages de R, les termes retardés de la
partie MA sont retranchés :
yt= μ + (1− θ1B− θ2B2− . . . − θqBq)zt.
Il faut donc être vigilant dans la retranscription des résultats.