D´ecomposition de Wold



²⁺_t,p = ²⁺_t,p+1+k_p+1²⁻_{(t−1)−p,p}

²⁻t−(p+1),p+1 = ²⁻_{(t−1)−p,p}−k_p+1²⁺_t,p qui donne le sch´ema de filtrage de la figure 4.2.

x(t)

z⁻¹ z⁻¹ z⁻¹

(t,p) ε+

(t,p) ε−

−kp

kp

−k1

k₁

Fig. 4.2 – Filtre de synth`ese en treillis. Ce filtre permet de reconstruire le processus `a partir de la suite des erreurs de pr´ediction directe et de la donn´ee des coefficients de corr´elation partielle.

4.6 D´ ecomposition de Wold

Un des r´esultats fondamentaux de la th´eorie des processus stationnaires au second-ordre est la d´ecomposition de Wold. Cette d´ecomposition permet de d´ecomposer n’importe quel processus sta-tionnaire au second-ordre comme la somme de la sortie d’un filtre lin´eaire invariant dans le temps excit´e par un bruit blanc et d’un processus d´eterministe (d´efinition 4.11). La preuve de ce r´esultat est de nature g´eom´etrique. L’id´ee de base est la suivante. SoitH^X_t = span{X_s, s≤t}. H^X_t est appel´e le pass´e lin´eaire du processus `a la date t. Par construction, H_t^X ⊂ H^X_t+1, et nous disposons ainsi d’une famille de sous-espace emboˆıt´es deH^X_∞=∪_t∈ZH^X_t .H^X_∞est l’enveloppe lin´eaire du processus. L’espace T

t∈ZH^X_t , appel´e le pass´e infini du processus (X) jouera aussi un rˆole particulier. Par d´efinition X_t appartient `a H<sup>X</sup><sub>t</sub> , mais il n’appartient g´en´eralement pas `a H^X_t−1. Le th´eor`eme de projection dit qu’il existe un unique ´el´ement not´e (X<sub>t</sub>|H<sup>X</sup><sub>t−1</sub>) et appartenant `aH^X_t−1 tel que :

²_t=X_t−(X_t|H^X_t−1)⊥ H^X_t−1

Dans ce contexte ²_t s’appelle l’innovation (lin´eaire) du processus. Il d´ecoule de cette construction g´eom´etrique que le processus d’innovation est unprocessus orthogonal dans le sens o`u :

∀s6=t, ²_s ⊥²_t (4.32)

En effet, pour s < t, nous pouvons ´ecrire²_s∈ H^X_s ⊂ H^X_t−1 et²_t⊥ H^X_t−1. Et donc²_s⊥²_t.

La proposition qui suit montre que le processus d’innovation est la limite des processus d’innovations partielles `a l’ordrep.

Proposition 4.5. Pour tout Y ∈L²(Ω,F,P) et toutt∈Z nous avons :

p→∞lim(Y|H^X_t,p) = (Y|H^X_t ) o`u H^X_t,p= span{X_t, X_t−1,· · · , X_t−p+1}.

Exemple 4.12 : Bruit blanc

Supposons que {Xt} soit un bruit blanc. Nous avons (Xt|H_t−1,p^X ) = 0 pour tout p et donc (Xt|H^X_t−1) = 0.

Nous avons donc ²t =Xt−(Xt|H^X_t−1) = Xt : le processus Xt co¨ıncide avec son innovation. Ceci signifie qu’un bruit blanc ne peut ˆetre pr´edit de fa¸con lin´eaire `a partir de son pass´e.

Exemple 4.13 : Pr´ediction d’un processus AR(p) causal

On consid`ere le processus AR(p) causal d´efini par l’´equation r´ecurrenteXt=φ1Xt−1+· · ·+φpXt−p+Zto`u Zt∼BB(0, σ²). Nous avons vu queH^X_t =H^t_Z et que, pour toutk≥1, on avaitE[Xt−kZt](conf`ere ´equation (??)). Par cons´equentZt⊥ H^X_t−1 etH_t^X=H_t−1^X ⊕span{Zt}. On en d´eduit que :

(Xt|H^X_t−1) = Xp

k=1

φk(Xt−k|H^X_t−1) + (Zt|H^X_t−1) = Xp

k=1

φkXt−k

et donc Xt−(Xt|H^X_t−1) =Xt−P_p

k=1φkXt−k =Zt. Par cons´equent le bruit blanc Zt, qui intervient dans l’´equation r´ecurrente d’un AR causal, est pr´ecis´ement l’innovation du processus AR. Ce r´esultat montre que P_p

k=1φkXt−k est la projection deX(t)sur tout le pass´eHt−1et qu´elle co¨ıncide avec la projection orthogonale sur le pass´eHt−1,p de dur´eep. Par cons´equent, pour tout m≥p, la suite des coefficients de pr´ediction est {φ1, . . . , φp,0, . . . ,0

| {z }

m−p

}. Ce r´esultat est faux pour un AR non causal.

Exemple 4.14 : Processus harmonique

Soit le processus harmonique Xt = Acos(λ0t+ Φ) o`u A est une variable al´eatoire, centr´ee, de variance σ_A² et Φ une variable al´eatoire, ind´ependante de A et distribu´ee suivant une loi uniforme sur [−π, π]. Le processus X_t est stationnaire au second-ordre, centr´e, de fonction d’autocovariance γ(τ) = (σ²_A/2) cos(λ₀τ).

Les coefficients du pr´edicteur lin´eaire optimal `a l’ordre2 sont donn´es par :

·φ1,2

φ2,2

¸

=

· 1 cos(λ0) cos(λ0) 1

¸−1·

cos(λ0) cos(2λ0)

¸

=

·cos(λ0)

−1

¸

On v´erifie facilement queσ₂²=kXt−(Xt|H^X_t−1,2)k²= 0. Par cons´equent, on a : Xt= (Xt|H^X_t−1,2) = 2 cos(λ0)Xt−1−Xt−2∈ H^X_t−1

et donc la projection(Xt|H^X_t−1) =Xt, ce qui implique que²t= 0. A l’inverse du bruit blanc, le processus est enti`erement pr´edictible `a partir de son pass´e.

En appliquant la proposition 4.5 `a X_t, nous pouvons ´ecrire :

p→∞lim(X_t|H^X_t−1,p) = (X_t|H^X_t−1) et lim

p→∞²⁺_t,p=²_t (4.33)

Le processus d’innovation ²_t est donc la limite en moyenne quadratique de la suite des innovations partielles ²⁺_t,p =X_t−(X_t|H^X_t−1,p). Une cons´equence imm´ediate est que le processus d’innovation est un processus stationnaire au second ordre. En utilisant, en effet, la continuit´e du produit scalaire et la stationnarit´e au second ordre de l’innovation partielle d’ordrep, on peut ´ecrire :

(²_t+τ, ²_t) = lim

p→∞(²⁺_t+τ,p, ²⁺_t,p) = lim

p→∞(²⁺_τ,p, ²⁺_0,p) (4.34) qui ne d´epend que deτ. En particulier nous avons :

σ² =k²_tk²= lim

p→∞kX_t−(X_t|H^X_t,p)k² = lim

p→∞σ_p² Dans le cas du bruit blanc on obtient σ² = E£

X_t²¤

6= 0 et donc, d’apr`es la d´efinition 4.11, le bruit blanc est un processus r´egulier. D’un autre cˆot´e, le processus harmonique, pour lequel σ² = 0, est d´eterministe. Nous remarquons aussi que la somme d’un bruit blanc et d’un processus harmonique est un processus r´egulier.

La structure g´eom´etrique emboˆıt´ee des espaces {H^X_t } et l’orthogonalit´e des innovations fournissent, pour touts < t, la formule suivante de d´ecomposition en somme directe :

H^X_t =H^X_s ⊕span{²_s+1,· · · , ²_t} (4.35) Notons, tout d’abord, que ²_t=X_t−(X_t|H^X_t−1)∈ H^X_t et que ²_t⊥ H^X_t−1, ce qui implique que H_t−1^X ⊕ span{²_t} ⊆ H^X_t . D’un autre cˆot´e, puisque X_t =²_t+ (X_t|H^X_t−1), H^X_t = span{²_t+ (X_t|H^X_t−1),{X_s, s≤ t−1}} = span{²_t,{X_s, s ≤ t−1}}, ce qui entraˆıne que H^X_t ⊆ H^X_t−1 ⊕span{²_t}. En conclusion H^X_t = H_t−1^X ⊕span{Z_t}. En r´eit´erant ce raisonnement, on en d´eduit la d´ecomposition (4.35). Cette d´ecomposition orthogonale de l’espaceH^X_t n´est pas sans rappeler la d´ecomposition de Gram-Schmidt.

Notons qu’`a l’inverse de la d´ecomposition de Gram-Schmidt classique, nous proc´edons ici dans le sens r´etrograde. D´efinissons pour touts≥0 :

ψ_s= (X_t, ²_t−s)

σ² (4.36)

Remarquons que ψ_s ne d´epend pas de t. En effet, la continuit´e du produit scalaire et la stationnarit´e conjointe du processusX_tet de l’innovation partielle impliquent que :

(X_t, ²_t−s) = lim

p→∞(X_t, ²⁺_t−s,p) = lim

p→∞(X₀, ²⁺_−s,p) Lemme 4.1. La suite {ψ_s} est de carr´e sommable et ψ₀ = 1.

D´emonstration. Remarquons, tout d’abord, que la relation ((X_t|H^X_t−1), ²_t) = 0 entraˆıne que : ψ₀ = (X_t, ²_t)

σ² = (X_t−(X_t|H^X_t−1), ²_t)

σ² = 1

D’autre part, pour tout s≥0, la projection orthogonale de X_t sur H^²_t,s = span{²_t, ²_t−1,· · ·, ²_t−s+1} s’´ecrit, du fait de l’orthogonalit´e du processus d’innovation, (X_t|H^²_t,s) =P_s−1

k=0ψ_k²_t−k. On en d´eduit quek(X_t|H^²_t,s)k² =σ²P_s−1

k=0ψ²_k. On a alors d’apr`es l’´egalit´e de Pythagore (proposition 4.3) : k(X_t|H^²_t,s)k² =σ²

Xs−1

k=0

ψ_k²=kX_tk²− kX_t−(X_t|H^²_t,s)k²≤ kX_tk²

ce qui conclut la preuve. ¥

La suite (ψ_s)_s≥0 ´etant de carr´e sommable, la suites →X_t,s = P_s

et qui est un processus stationnaire au second-ordre. On a, en effet : E[U_t] = (U_t,1) = lim

qui est ind´ependant det.

Le th´eor`eme suivant, connu sous le nom ded´ecomposition de Wold, est vraisemblablement le r´esultat le plus important de la th´eorie des processus stationnaires au second-ordre.

Th´eor`eme 4.5 (D´ecomposition de Wold). Soit X_t un processus stationnaire au second ordre et ²_t son processus d’innovation. On suppose que X_t est un processus r´egulier (σ² = k²_tk² 6= 0). On note U_t=P_∞

D´emonstration. Elle est donn´ee en fin de chapitre. ¥

Un processus {X_t} tel que H^X_−∞={0} est ditpurement non d´eterministe. Pour un tel processus la partie d´eterministe de la d´ecomposition de Wold est identiquement nulle. Par exemple, le processus r´egulier U_t de la d´ecomposition de Wold est purement non d´eterministe. En effet, en appliquant la d´ecomposition de Wold au processus U_t on a, pour tout t, U_t = U_t+V_t avec V_t = 0 et donc, d’apr`es le point (iv), H<sup>U</sup><sub>−∞</sub> ={0}. Le th´eor`eme de Wold permet donc de d´ecomposer tout processus stationnaire au second-ordre sous la forme d’une somme de deux processus orthogonaux, le premier

´etantpurement non d´eterministeet le second ´etantd´eterministe. La partie purement non-d´eterministe s’exprime comme le filtrage d’un bruit blanc par un filtre lin´eaire invariant dans le temps de r´eponse impulsionnelle{ψ_k}causale(ψ_k= 0 pourk <0) et de carr´e sommable (pas n´ecessairement de module sommable).

Exemple 4.15 : Processus MA(1)

Soit{Zt}un bruit blanc et soit le processusXt=Zt+θ1Zt−1. Remarquons que, par construction,H^X_t ⊆ H^Z_t mais que l’inclusion r´eciproque n´est pas n´ecessairement v´erifi´ee. Montrons par contre que, pour|θ1|<1, nous avons effectivementH_t^X=H^Z_t. En effet, en r´eit´erant pfois l’´equationXt=Zt+θ1Zt−1 et en r´esolvant par rapport `aZt, nous obtenons :

Zt=Xt−θ1Xt−1+θ²₁Xt−2+· · ·+ (−1)^pθ^p₁Xt−p−(−1)^pθ^p+1₁ Zt−p

En prenant la limite enp, nous en d´eduisons que, si|θ1|<1, alors :

Zt= X∞

k=0

(−θ1)^kXt−k

ce qui montre queH^Z_t ⊂ H^X_t et donc queH^X_t =H^Z_t. Dans ce cas, nous pouvons ´ecrire : (Xt|H^X_t−1) = (Zt|H^X_t−1) +θ1(Zt−1|H^X_t−1) = (Zt|H_t−1^Z ) +θ1(Zt−1|H^Z_t−1) = 0 +θ1Zt−1

en remarquant que(Zt|H^Z_t−1) = 0carZtest un bruit blanc. On en d´eduit queXt−(Xt|H^X_t−1) =Xt−θ1Zt−1= Zt. Par cons´equent, lorsque |θ1| < 1, le processus Zt est l’innovation du processus Xt. Notons que Xt est purement non d´eterministe et que les coefficients de la d´ecomposition de Wold sont simplement donn´es par ψ0= 1,ψ1=θ, etψk = 0pourk >1.