Estimation des param`etres et de l’´etat cach´e des mod`eles d’espace d’´etats: application au mod`ele d’Heston

Estimation des param` etres et de l’´ etat cach´ e des mod` eles d’espace d’´ etats: application au mod` ele

d’Heston

El Kolei Salima sous la direction de F. Patras et P. Reynaud Bouret

Universit´e de Nice Sophia Antipolis

CIRM 16-20 Avril 2012

Mod` ele espace d’´ etats

y_t =h_θ(x_t, ε_t), Observable xt =fθ(xt−1, ηt) Inobservable

(ε_t) et (η_t) sont des s´equences de variables al´eatoires ind´ependantes et identiquement distribu´ees.

h_θ andf_θ sont des fonctions dont la forme est connue et d´ependent d’un vecteur de param`etreθ∈Θ.

Hypoth`eses

(H1) : Le signal{x_t,t∈N} est mod´elis´e par une chaine de Markovde distribution initiale p_θ(x₀) et de densit´e de transition p_θ(x_t|xt−1).

(H2) : Les observations{y_t,t ∈N^∗} sont suppos´ees ind´ependantes conditionnellement au signal{x_t,t ∈N}, ie : p_θ(yt|y_1:t−1,x1:t) =p_θ(yt|x_t).

Un mod`ele espace d’´etat est d´ecrit par les quantit´es suivantes : La distribution initiale :pθ(x1).

La densit´e de transition :pθ(xt|xt−1).

La vraisemblance :pθ(yt|xt).

Supposons θ connu : on veut estimerp_θ(x_t|y_1:t), ∀t ∈[1,T]: filtrage optimal

=⇒ Le filtrage apparaˆıt comme un outil “naturel” :

m´ecanisme qui consiste `a retirer l’information d’un processus non observable xt (variable d’´etat) contenue dans des processus observablesy_1:t= (y₁,· · · ,y_t) (variables de mesure).

Principe : “Bayes Recursion”

Le th´eor`eme de Bayes nous permet d’estimer r´ecursivement la loi cible.

p_θ(x_t|y_1:t)

| {z }

distribution a posteriori

= p_θ(yt|x_t)p_θ(xt|y_1:t−1) p_θ(y_t|y_1:t−1)

∝ p_θ(y_t|x_t)p_θ(x_t|y_1:t−1) (1) o`u

p_θ(xt|y_1:t−1)

| {z }

distribution a priori

= Z

p_θ(xt|x_t−1)p_θ(xt−1|y_1:t−1)dxt−1 (2)

Mod` ele lin´ eaire et gaussien : Filtre de Kalman

Supposons :

(A1) : f_θ (resp.h_θ) lin´eaire enxt−1 etηt (resp.xt et εt).

(A2) : εt ∼ N(0,R) etηt ∼ N(0,Q) avec R et Q connus.

Le mod`ele espace d’´etats peut s’´ecrire sous forme matricielle : yt=Cθxt+Mθεt t ≥1,

xt=A_θxt−1+G_θηt,

=⇒ On a une solution exacte pour l’estimation de p_θ(x_t|y_1:t) qui est donn´ee par le filtre de Kalman.

Notation :

bx_t⁻=Eθ[x_t|y1:t−1] etbx_t =Eθ[x_t|y_1:t].

P_t⁻=Var_θ[(x_t−bx_t⁻)(x_t−bx_t⁻)⁰|y_1:t−1].

P_t=Var_θ[(x_t−bx_t)(x_t−bx_t)⁰|y_1:t].

Filtre de Kalman

Algorithme :

Etape de pr´´ ediction :

bx_t⁻=A_θbxt−1

P_t⁻=A_θPt−1A⁰_θ+G_θQG_θ⁰ Etape de Mise `´ a jour :







bxt =bx_t⁻+Kt

yt−Cθbx_t⁻ P_t= (I−K_tC_θ)P_t⁻ K_t=P_t⁻C_θ⁰

C_θP_t⁻C_θ⁰ +M_θRM_θ⁰−1

K_t : matrice de Kalman : matrice qui minimise la variance a posterioriPt.

Mod` ele non lin´ eaire et non Gaussien : M´ ethodes de Monte Carlo s´ equentielle pour le filtrage

M´ethode de Monte Carlo bas´ee sur une simulation importante de points not´es (x_tⁱ)i=1,···,M pond´er´es par des poids w_tⁱ. “M”

repr´esente le nombre points simul´es.

Un filtre particulaire est une collection de ces points pond´er´es appel´es particules.

Contexte

Supposons que nous sommes int´eress´e parpθ(xt|y_1:t).

On veut obtenir (w_tⁱ,x_tⁱ) qui suit la loipθ(xt|y_1:t).

Principe

Distribution d’importance : qθ(xt|x1:t−1,y1:t) Si x_tⁱ est de loi q_θ(x_t|x_1:t−1,y_1:t) alorsPM

i=1w_t−1ⁱ δ_xi

t converge vers la loi qθ(xt|x1:t−1,y1:t)pθ(xt−1|y1:t−1).

On calcule les poids

w_tⁱ ∝w_t−1ⁱ pθ(yt|x_t)pθ(xt|x_t−1)/qθ(xt|x_1:t−1,y1:t).

Finalement on aPM i=1w_tⁱδ_xi

t converge versp_θ(x_t|y_1:t) (Del Moral, Doucet...).

Pour ´eviter le probl`eme de d´eg´en´erescence des poids : on ajoute une ´etape de r´e´echantillonnage.

SISR

Algorithme :

Pour t= 1 et i = 1· · ·M :

Simulerx₁ⁱ ∼q_θ(x₁) et calculerw₁ⁱ =^p_q^θ(x1)

θ(x1). Normaliser les poids ˜w₁ⁱ =P^wθM^(x1i)

j=1w₁^j. Pour t= 2· · ·T et i = 1· · ·M :

1 Simulerx_tⁱ ∼q_θ(x_t|x_1:t−1ⁱ ,y_1:t) et poserx_1:tⁱ = (x_1:t−1ⁱ ,x_tⁱ).

2 Mise `a jour :

w_tⁱ =p_θ(y_t|x_tⁱ)p_θ(x_tⁱ|x_t−1ⁱ ) qθ(x_tⁱ|x_1:t−1ⁱ ,y1:t) .

3 Normaliser les poids : ˜w_tⁱ.

4 R´eechantillonnage : On tire :

x_tⁱ,w˜_tⁱ .

5 Poser ˜w_tⁱ= 1/M.

En pratique, on choisitq_θ(x_t|x_1:t−1ⁱ ,y_1:t) =p_θ(x_t|x_t−1ⁱ ).

Filtre APF

Algorithme :

Pour t= 1 et i = 1· · ·M :

Simulerx₁ⁱ ∼p_θ(x₁) et calculer ˜w₁ⁱ =_M¹. Pour t= 1· · ·n et i = 1· · ·M :

1 Calculerµⁱ_t =Eθ(xt|x_t−1ⁱ ) et poserw_t−1ⁱ = ˜w_t−1ⁱ pθ(yt|µⁱ_t).

2 R´eechantillonner : On r´eechantillonne

xt−1ⁱ ,wt−1ⁱ

On obtient

˜

xt−1ⁱ ,1/M et un ´echantillon d’indices jⁱ (correspond aux particules r´e´echantillonn´ees).

3 Propager :

Poserxt−1ⁱ = ˜xt−1ⁱ . Simulerx_tⁱ ∼pθ(xt|xt−1ⁱ ).

Calculerwtⁱ = ^pθ(yt|xti)

p_θ(y_t|µ^{j i}_t) et normaliser ˜wtⁱ.

filtrage pour l’estimation de l’´ etat et du param` etre

On veut estimer simultan´ement et s´equentiellement θ et x_t au vu des observations.

Approche de Kitagawa, augmenter le vecteur d’´etat : x_t = (x_t, θ_t), θ_t =θt−1, θ₀ ∼p(θ₀) ...coupl´ee avec l’id´ee de Gordon :

θt =θt−1+G_t, G_t ∼ N(0,W_t) et θt−1 ind´ependant deG_t.

Avantage :La m´ethode marche mieux en pratique que de consid´ererxt = (xt, θt) avecθt =θt−1.

Filtre APF

Param`etre dynamique : θt =θt−1+N(0,W_t)

1 Prediction :

Calculerµⁱ_t =E(x_t|x_t−1ⁱ , θⁱ_t−1) etmⁱ_t−1=E[θ_t|θ_t−1] =θⁱ_t−1 Poserw_t−1ⁱ = ˜w_t−1ⁱ p(y_t|µⁱ_t,mⁱ_t−1).

2 R´eechantillonnage :

3 Propager :

Poserx_t−1ⁱ = ˜x_t−1ⁱ etθⁱ_t−1=θ^j_t−1ⁱ . Simulerθⁱ_t∼ N(m_t−1ⁱ ,Wt) Simulerx_tⁱ ∼p(x_t|x_t−1ⁱ , θⁱ_t).

Calculer les poids :wt=p(yt|x_tⁱ, θ_tⁱ)/p(yt|µ^j_tⁱ,m_t−1ⁱ ) et normaliser ˜wt .

Filtre APF

Param`etre dynamique : θ_t =θt−1+N(0,W_t)

1 Prediction :

Calculerµⁱ_t =E(xt|x_t−1ⁱ , θⁱ_t−1) etmⁱ_t−1=E[θt|θ_t−1] =θⁱ_t−1 Poserw_t−1ⁱ = ˜w_t−1ⁱ p(yt|µⁱ_t,mⁱ_t−1).

2 R´eechantillonnage :

3 Propager :

Poserx_t−1ⁱ = ˜x_t−1ⁱ etθⁱ_t−1=θ^j_t−1ⁱ . Simulerθⁱ_t∼ N(m_t−1ⁱ ,Wt) Simulerx_tⁱ ∼p(xt|x_t−1ⁱ , θⁱ_t).

Calculer les poids :w_t=p(y_t|x_tⁱ, θ_tⁱ)/p(y_t|µ^j_tⁱ,m_t−1ⁱ ) et normaliser ˜wt .

Id´ee : Propager de mani`ere `a avoir une variance constante.

Probl`eme :Var(θt) =Var(θt−1) +W_t :Les variances s’accumulent ! Perte d’information !

Filtre APF

Param`etre dynamique : θ_t =θt−1+N(0,W_t)

1 Prediction :

Calculerµⁱ_t =E(xt|x_t−1ⁱ , θⁱ_t−1) etmⁱ_t−1=E[θt|θ_t−1] =θⁱ_t−1 Poserw_t−1ⁱ = ˜w_t−1ⁱ p(yt|µⁱ_t,mⁱ_t−1).

2 R´eechantillonnage :

3 Propager :

Poserx_t−1ⁱ = ˜x_t−1ⁱ etθⁱ_t−1=θ^j_t−1ⁱ . Simulerθⁱ_t∼ N(m_t−1ⁱ ,Wt) Simulerx_tⁱ ∼p(xt|x_t−1ⁱ , θⁱ_t).

Calculer les poids :w_t=p(y_t|x_tⁱ, θ_tⁱ)/p(y_t|µ^j_tⁱ,m_t−1ⁱ ) et normaliser ˜wt .

Id´ee : Propager de mani`ere `a avoir une variance constante.

Probl`eme :Var(θt) =Var(θt−1) +W_t :Les variances s’accumulent ! Perte d’information !

KSAPF

Algorithme :

Pour t= 1 et for i = 1· · ·M : Simulerθⁱ₁∼p(θ1) etx₁ⁱ ∼p(x1|θ₁ⁱ) Calculer ˜w₁ⁱ =_M¹.

Pour t= 1,· · ·,n

1 Pour i= 1,· · ·M :

Calculerµⁱt =E(xt|xt−1ⁱ , θⁱt−1) etmⁱt−1=aθⁱt−1+ (1−a)θt−1. Poserwt−1ⁱ = ˜wt−1ⁱ p(yt|µⁱ_t,mⁱt−1).

2 R´e´echantillonner : R´e´echantillonner

xt−1ⁱ ,wt−1ⁱ

On obtient

˜

xt−1ⁱ ,1/M et un ´echantillon d’indices jⁱ .

3 Propager :

Poserxt−1ⁱ = ˜xt−1ⁱ etθt−1ⁱ =θ_t−1^ji . Simulerθⁱ_t ∼ N(mⁱt−1,(1−a²)Vt−1).

Simulerxtⁱ ∼p(xt|xt−1ⁱ , θⁱt).

Calculer les poids :wt= ^{p(yt|xit,θit)}

p(y_t|µ^{j i}_t,mⁱ_t−1) et normaliser ˜wt .

Application : Le mod` ele d’Heston

Mod`ele :







dSt=rStdt+√

VtStdW_t¹ dV_t=κ(β−V_t)dt+σ√

V_tdW_t² dW_t¹,dW_t²

=ρdt St : actif etr le taux sans risque.

W_t¹ et W_t² sont deux mouvements browniens.

κ : param`etre de vitesse de retour `a la moyenne.

β : moyenne `a long terme du processus.

σ : param`etre de “Vol de Vol”’.

ρ : param`etre de corr´elation.

θ= (κ, β, σ, ρ)

Mod`ele populaire utilis´e en finance :

1 repr´esente les faits observ´es empiriquement : volatilit´e clustering, effet de levier...

formule semi ferm´ee des prix d’options not´esC (v,S , θ).

Application : Mod` ele espace d’´ etats

Mod`ele :

yt=Ct(vt,St, θ) +εt,

vt= Ψ(vt−1, θ,∆) + Φ^1/2(vt−1, θ,∆)ηt. avec :

Ψ(v_t, θ,∆) =β(1−exp^−κ∆) +exp^−κ∆v_t,

Φ(vt, θ,∆) =β_2κ^σ2(1−e^−κ∆)²+^σ_κ²e^−κ∆(1−e^−κ∆)vt.

∆ : pas de temps.

ε_t ∼ N(0,R) o`u R est connu.

Observations

Notation : C_t(S_t,v_t, θ) repr´esente le vecteur contenant les prix d’options `a la datet :

C_t(S_t,v_t, θ) =











C_t^K1,T1(St,vt, θ) C_t^K1,T2(S_t,v_t, θ)

...

C_t^K3,T3(S_t,v_t, θ)











But :Estimer s´equentiellement et simultan´ement les param`etres et la variance.

Param`etres des Filtres :

p(θ₀) =U(κ_a, κ_b)⊗ U(β_a, β_b)⊗ U(σ_a, σ_b)⊗ U(ρ_a, ρ_b) p(v₀|θ₀) = Γ(α₁, α₂) avec α₁ = ^2κ_σ⁰2^β0

0

et α₂ = _2κ^σ20

0. p(vt|v_t−1, θt−1) = 2cχ²(2d + 2,2w) avec :

c = 2κ

σ²(1−exp^−κ∆), w =cvt−1exp^−κ∆ andd = 2κβ σ² −1 p(yt|v_t, θt) =N(Ct(St,vt, θt),R).

R´ esultat num´ erique : θ = (4, 0.03, 0.4, −0.5)

Table: Estimation des param`etres par EKF, APF, APFS et KSAPF. Le nombre de particulesM pour les filtres particulaires est 1000 et le nombre d’observationT = 100.

κmean βmean σmean ρmean

APF 4.15 0.031 0.46 -0.43 KSAPF 4.05 0.0296 0.41 -0.59 APFS 4.55 0.028 0.43 -0.52 EKF 4.21 0.0296 0.345 -0.61

:MSE pour l’estimation deθ. De gauche `a droite : KSAPF,

Figure:Estimation de la variance : de gauche `a droite : EKF, APFS, APF, KSAPF. Bleu : vraie variance, Rouge : variance estim´ee

R´ esultat num´ erique :

Figure:MSE pour l’estimation devt. De gauche `a droite : KSAPF, APF, APFS, EKF

R´ esum´ e

Mauvaise performance du filtre de Kalman Etendu (prix du call fortement non-lineaire) et du filtre APFS (d´eg´en´erescence des particules).

KSAPF performe les autre filtres dans tous les cas

Param`etre “tun´e” pour l’APF : la variance des bruits pour la dynamique artificielle des param`etres.