Estimation semi-paramétrique dans un modèle de déformation

(1)

Estimation semi-param´ etrique dans un mod` ele de d´ eformation

Philippe Fraysse

Universit´e Bordeaux 1 INRIA Bordeaux Sud-Ouest

Colloque Jeunes probabilistes et Statisticiens Marseille, 20 Avril 2012

(2)

Mod`ele

1 Mod`ele

2 Identifiabilit´e

3 Estimation param´etrique Estimation de θ Estimation de a

4 Estimation non param´etrique def

P. Fraysse (Bordeaux 1) Mod`ele de d´eformation Marseille 20/04/2012 2 / 20

(3)

Mod`ele

On s’intéresse au modèle de déformation

Y_i,j =a_jf(X_i−θ_j) +v_j+ε_i,j

o`u1≤i≤n,1≤j≤p, E[εi,j] = 0et E h

ε²_i,j i

=σ_j²<+∞. (H₁) f est paire, 1-p´eriodique, born´ee.

(H₂) (X_i)i≥0 iid de loi uniforme sur [−¹₂,¹₂]

Objectif : estimer v_j (paramètre de niveau), θ_j (paramètre de translation), aj (paramètre d’échelle) et f (forme commune).

(4)

Mod`ele

Y_i,j =a_jf(X_i−θ_j) +v_j+ε_i,j o`u1≤i≤n,1≤j≤p, E[ε_i,j] = 0et E

h ε²_i,ji

=σ_j²<+∞.

(H₁) f est paire, 1-p´eriodique, born´ee. (H₂) (X_i)i≥0 iid de loi uniforme sur [−¹₂,¹₂]

(5)

Mod`ele

h ε²_i,ji

=σ_j²<+∞.

(H₁) f est paire, 1-p´eriodique, born´ee.

(6)

Mod`ele

h ε²_i,ji

=σ_j²<+∞.

(H₁) f est paire, 1-p´eriodique, born´ee.

(7)

Mod`ele

- 15 - 10 - 5 0 5 10 15 20

(8)

Identifiabilit´e

1 Mod`ele

2 Identifiabilit´e

(9)

Identifiabilit´e

Yi,j =ajf(Xi−θj) +vj+εi,j.

Le mod`ele n’est pas identifiable :

Pour un jeu de param`etres(a, θ, v)et une fonction f, on peut trouver un autre jeu de param`etres (a^∗, θ^∗, v^∗) et une autre fonction f^∗ tels que pour1≤j ≤p et toutx,

ajf(x−θj) +vj =a^∗_jf^∗(x−θ_j^∗) +v_j^∗.

On rajoute donc les contraintes d’identifiabilit´e (H₃)

Z 1/2

−1/2

f(x)dx= 0. (H₄) a1= 1, θ1= 0 et max

1≤j≤p|θ_j|<1/4.

(10)

Identifiabilit´e

Yi,j =ajf(Xi−θj) +vj+εi,j. Le mod`ele n’est pas identifiable :

Pour un jeu de param`etres(a, θ, v)et une fonction f, on peut trouver un autre jeu de param`etres (a^∗, θ^∗, v^∗) et une autre fonction f^∗ tels que pour1≤j ≤p et toutx,

Z 1/2

−1/2

f(x)dx= 0. (H₄) a1= 1, θ1= 0 et max

1≤j≤p|θ_j|<1/4.

(11)

Identifiabilit´e

Pour un jeu de param`etres(a, θ, v)et une fonction f, on peut trouver un autre jeu de param`etres (a^∗, θ^∗, v^∗) et une autre fonction f^∗ tels que pour1≤j ≤pet tout x,

Z 1/2

−1/2

f(x)dx= 0. (H₄) a1= 1, θ1= 0 et max

1≤j≤p|θ_j|<1/4.

(12)

Identifiabilit´e

Pour un jeu de param`etres(a, θ, v)et une fonction f, on peut trouver un autre jeu de param`etres (a^∗, θ^∗, v^∗) et une autre fonction f^∗ tels que pour1≤j ≤pet tout x,

Z 1/2

−1/2

f(x)dx= 0.

(H₄) a1= 1, θ1= 0 et max

1≤j≤p|θ_j|<1/4.

(13)

Estimation param´etrique

1 Mod`ele

2 Identifiabilit´e

(14)

Y_i,j =a_jf(X_i−θ_j) +v_j+ε_i,j.

On estimev_j par la moyenne empirique desY_i,j. Estimation de θ_j ⇒Estimation de a_j.

(15)

Y_i,j =a_jf(X_i−θ_j) +v_j+ε_i,j. On estimev_j par la moyenne empirique desY_i,j.

Estimation de θ_j ⇒Estimation de a_j.

(16)

On estimev_j par la moyenne empirique desY_i,j. Estimation de θ_j ⇒Estimation de a_j.

(17)

Estimation param´etrique Estimation deθ

On cherche une fonction φcontinueR^p → R^p telle queφ(θ) = 0.

φ(t) =E





S(X, t)







a₁f(X−θ₁) ... a_pf(X−θ_p)











. S(X, t) = diag

sin(2π(X−t₁)), . . . ,sin(2π(X−t_p))

φ(t) =f1







a₁sin(2π(θ₁−t₁)) ...

apsin(2π(θp−tp))





. o`u

f1= Z 1/2

−1/2

f(x) cos(2πx)dx

⇒ φ(θ) = 0

(18)

φ(t) =E





S(X, t)

















.

S(X, t) = diag

sin(2π(X−t₁)), . . . ,sin(2π(X−t_p))

φ(t) =f1







a₁sin(2π(θ₁−t₁)) ...





. o`u

f1= Z 1/2

−1/2

f(x) cos(2πx)dx

⇒ φ(θ) = 0

(19)

φ(t) =E





S(X, t)

















. S(X, t) = diag

sin(2π(X−t₁)), . . . ,sin(2π(X−t_p))

φ(t) =f1







a₁sin(2π(θ₁−t₁)) ...





. o`u

f1= Z 1/2

−1/2

f(x) cos(2πx)dx

⇒ φ(θ) = 0

(20)

φ(t) =E





S(X, t)

















. S(X, t) = diag

sin(2π(X−t₁)), . . . ,sin(2π(X−t_p))

φ(t) =f1







a₁sin(2π(θ₁−t₁)) ...





. o`u

f1= Z 1/2

−1/2

f(x) cos(2πx)dx

⇒ φ(θ) = 0

(21)

φ(t) =E





S(X, t)

















. S(X, t) = diag

sin(2π(X−t₁)), . . . ,sin(2π(X−t_p))

φ(t) =f1







a₁sin(2π(θ₁−t₁)) ...





. o`u

1/2

(22)

Algorithme :

θb₀∈K^p = [−1/4; 1/4]^p. Pour n≥1,

θb_n+1=π_K^p bθ_n+ 1

nT_n+1 .

T_n+1 = diag

sign(a₁f₁), . . . ,sign(a_pf₁)

S(X_n+1,θb_n)





 Yn+1,1

... Yn+1,p





. Th´eor`eme

Sous (H₁₋₄),

n→+∞lim θb_n=θ p.s.

(23)

Algorithme :

θb₀∈K^p = [−1/4; 1/4]^p. Pour n≥1,

nT_n+1 .

T_n+1 = diag

S(X_n+1,θb_n)





 Yn+1,1

... Yn+1,p





. Th´eor`eme

Sous (H₁₋₄),

(24)

Algorithme :

θb₀∈K^p = [−1/4; 1/4]^p.

Pour n≥1,

nT_n+1 .

T_n+1 = diag

S(X_n+1,θb_n)





 Yn+1,1

... Yn+1,p





. Th´eor`eme

Sous (H₁₋₄),

(25)

Algorithme :

θb₀∈K^p = [−1/4; 1/4]^p. Pour n≥1,

θb_n+1=π_K^p θb_n+ 1

nT_n+1 .

T_n+1 = diag

S(X_n+1,θb_n)





 Yn+1,1

... Yn+1,p





. Th´eor`eme

Sous (H₁₋₄),

(26)

Algorithme :

θb₀∈K^p = [−1/4; 1/4]^p. Pour n≥1,

nT_n+1 .

T_n+1 = diag

S(X_n+1,θb_n)





 Yn+1,1

... Yn+1,p





.

Th´eor`eme

Sous (H₁₋₄),

(27)

Algorithme :

θb₀∈K^p = [−1/4; 1/4]^p. Pour n≥1,

nT_n+1 .

T_n+1 = diag

S(X_n+1,θb_n)





 Yn+1,1

... Yn+1,p





.

Th´eor`eme Sous (H₁₋₄),

lim θ =θ p.s.

(28)

Y_i,j =a_jf(X_i−θ_j) +v_j+ε_i,j. Th´eor`eme

Sous (H₁₋₄) et si(ε_i,j) a un moment d’ordre>2 on a,

√n

θb_n−θ_{−→ N}L

0, ξ²(θ) .

Th´eor`eme

De plus, on a la loi du log-it´er´e

lim sup

n→∞

n 2 log logn

θb_n−θ bθ_n−θT

=ξ²(θ) p.s. et la loi forte quadratique

n→∞lim 1 logn

n

X

k=1

θbk−θ θbk−θ T

=ξ²(θ) p.s.

(29)

√n

0, ξ²(θ) . Th´eor`eme

lim sup

n→∞

n 2 log logn

θb_n−θ θb_n−θT

=ξ²(θ) p.s.

et la loi forte quadratique

n→∞lim 1 logn

n

X

k=1

=ξ²(θ) p.s.

(30)

√n

0, ξ²(θ) . Th´eor`eme

lim sup

n→∞

n 2 log logn

θb_n−θ θb_n−θT

=ξ²(θ) p.s.

et la loi forte quadratique

n→∞lim 1 logn

n

X

k=1

=ξ²(θ) p.s.

(31)

Estimation param´etrique Estimation dea

ψ(t) =E





C(X, t)







a₁f(X−θ₁) ... apf(X−θp)











. C(X, t) = diag

cos(2π(X−t1)), . . . ,cos(2π(X−tp))

.

ψ(t) =f₁







a1cos(2π(θ1−t1)) ...

apcos(2π(θp−tp))





.

⇒ lim

n→+∞ψ(θb_n) =ψ(θ) =f₁a p.s.

⇒ba_n,j = 1 nf₁

n

X

i=1

cos(2π(X_i−θb_n,j))Y_i,j.

(32)

ψ(t) =E





C(X, t)

















.

C(X, t) = diag

cos(2π(X−t1)), . . . ,cos(2π(X−tp))

.

ψ(t) =f₁







a1cos(2π(θ1−t1)) ...





.

⇒ lim

⇒ba_n,j = 1 nf₁

n

X

i=1

(33)

ψ(t) =E





C(X, t)

















. C(X, t) = diag

cos(2π(X−t1)), . . . ,cos(2π(X−tp))

.

ψ(t) =f₁







a1cos(2π(θ1−t1)) ...





.

⇒ lim

⇒ba_n,j = 1 nf₁

n

X

i=1

(34)

ψ(t) =E





C(X, t)

















. C(X, t) = diag

cos(2π(X−t1)), . . . ,cos(2π(X−tp))

.

ψ(t) =f₁







a1cos(2π(θ1−t1)) ...





.

⇒ lim

⇒ba_n,j = 1 nf₁

n

X

i=1

(35)

ψ(t) =E





C(X, t)

















. C(X, t) = diag

cos(2π(X−t1)), . . . ,cos(2π(X−tp))

.

ψ(t) =f₁







a1cos(2π(θ1−t1)) ...





.

⇒ lim

⇒ba_n,j = 1 nf₁

n

X

i=1

(36)

ψ(t) =E





C(X, t)

















. C(X, t) = diag

cos(2π(X−t1)), . . . ,cos(2π(X−tp))

.

ψ(t) =f₁







a1cos(2π(θ1−t1)) ...





.

⇒ lim

⇒ba_n,j = 1 nf₁

n

X

i=1

(37)

Y_i,j =a_jf(X_i−θ_j) +v_j+ε_i,j. ba_n,j = 1

nf1 n

X

i=1

Th´eor`eme

Sous (H₁₋₄),

n→+∞lim ba_n=a p.s.

et √

n(ban−a) L

−→ N_p

0, 1 f₁²Σ

o`uΣ =Cov_cos(2π(X

1−θ_k))

g(X1) Y_1,k,^cos(2π(X_g(X¹^−θ^l⁾⁾

1) Y_1,l

1≤k,l≤p

(38)

Y_i,j =a_jf(X_i−θ_j) +v_j+ε_i,j. ba_n,j = 1

nf1 n

X

i=1

Th´eor`eme

Sous (H₁₋₄),

n→+∞lim ba_n=a p.s.

et √

n(ban−a)_{−→ N}L

p

0, 1

f₁²Σ

o`uΣ =Cov_cos(2π(X

1−θ_k))

g(X1) Y_1,k,^cos(2π(X_g(X¹^−θ^l⁾⁾

1) Y_1,l

1≤k,l≤p

(39)

Pour résumer, pour le modèle de déformation

On estimev_j par

bvn,j = 1 n

n

X

i=1

Yi,j. On estimeθ_j par

θbn+1,j =πK

bθn,j + 1 nTn+1,j

. On estimea_j par

ban,j = 1 nf1

n

X

i=1

cos(2π(Xi−θbn,j))Yi,j.

Et on a ´etabli la convergence p.s. de chacun des estimateurs, ainsi que la normalit´e asymptotique.

(40)

Yi,j =ajf(Xi−θj) +vj+εi,j. On estimev_j par

bvn,j = 1 n

n

X

i=1

Yi,j.

On estimeθ_j par

θbn+1,j =πK

bθn,j + 1 nTn+1,j

. On estimea_j par

ban,j = 1 nf1

n

X

i=1

(41)

bvn,j = 1 n

n

X

i=1

bθn+1,j =πK

bθn,j + 1 nTn+1,j

.

On estimea_j par

ban,j = 1 nf1

n

X

i=1

(42)

bvn,j = 1 n

n

X

i=1

bθn+1,j =πK

bθn,j + 1 nTn+1,j

. On estimea_j par

ban,j = 1 nf1

n

X

i=1

(43)

bvn,j = 1 n

n

X

i=1

bθn+1,j =πK

bθn,j + 1 nTn+1,j

. On estimea_j par

ban,j = 1 nf1

n

Xcos(2π(Xi−θbn,j))Yi,j.

(44)

- 2.5 - 2.0 - 1.5 - 1.0 - 0.5 0.0 0.5 1.0 1.5 2.0 2.5

estimation de v

- 0.3 - 0.2 - 0.1 0.0 0.1 0.2 0.3

estimation de theta

- 3 - 2 - 1 0 1 2 3

estimation de a

Figure: Estimation dev,θeta

(45)

Estimation non param´etrique def

1 Mod`ele

2 Identifiabilit´e

(46)

Pour l’estimation non paramétrique def, on considère l’estimateur récursif de Nadaraya-Watson

fbn(x) = 1 p

p

X

j=1

fbn,j(x), avec

fb_n,j(x) = 1 ban,j

Pn

i=1W_i,j(x) (Y_i,j−bv_i,j) Pn

i=1Wi,j(x) . W_i,j(x) = 1

hi

KX_i−θbi−1,j−x hi

. h_i=i^−α.

(47)

fbn(x) = 1 p

p

X

j=1

fbn,j(x), avec

fb_n,j(x) = 1 ban,j

Pn

i=1Wi,j(x) . W_i,j(x) = 1

hi

. h_i=i^−α.

(48)

fbn(x) = 1 p

p

X

j=1

fbn,j(x), avec

fb_n,j(x) = 1 ban,j

Pn

i=1Wi,j(x) . W_i,j(x) = 1

hi

. h_i=i^−α.

(49)

fbn(x) = 1 p

p

X

j=1

fbn,j(x), avec

fb_n,j(x) = 1 ban,j

Pn

i=1Wi,j(x) .

W_i,j(x) = 1 hi

. h_i=i^−α.

(50)

fbn(x) = 1 p

p

X

j=1

fbn,j(x), avec

fb_n,j(x) = 1 ban,j

Pn

i=1Wi,j(x) . W_i,j(x) = 1

hi

. h_i=i^−α.

(51)

Th´eor`eme

Sous (H₁₋₄), sif est lipschitzienne et si(εi,j) a un moment d’ordre>2.

Pour x∈[−1/2; 1/2],

n→∞lim fbn(x) =f(x) p.s.

Th´eor`eme

De plus, si α >1/3, alors pourx∈[−1/2; 1/2]avecx6= 0, pnhn(fbn(x)−f(x)) L

−→ N



0, ν² 1 +α

1 p²

p

X

j=1

σ²_j

g(θj+x) +g(θj −x)



. De plus, en x= 0,

pnhn(fbn(0)−f(0))_{−→ N}L



0, ν² 1 +α

1 p²

p

X

j=1

σ²_j g(θ_j)



.

(52)

Th´eor`eme

Sous (H₁₋₄), sif est lipschitzienne et si(εi,j) a un moment d’ordre>2.

Pour x∈[−1/2; 1/2],

n→∞lim fbn(x) =f(x) p.s.

Th´eor`eme

De plus, si α >1/3, alors pourx∈[−1/2; 1/2]avecx6= 0, pnhn(fbn(x)−f(x)) L

−→ N



0, ν² 1 +α

1 p²

p

X

j=1

σ²_j

g(θj+x) +g(θj −x)



. De plus, en x= 0,

pnh_n(fb_n(0)−f(0))_{−→ N}L



0, ν² 1 +α

1 p²

p

X

j=1

σ²_j g(θ_j)



.

(53)

- 2 - 1 0 1 2 3 4 5 6

- 0.5 - 0.4 - 0.3 - 0.2 - 0.1 0.0 0.1 0.2 0.3 0.4 0.5

- 2 - 1 0 1 2 3 4 5 6

- 0.5 - 0.4 - 0.3 - 0.2 - 0.1 0.0 0.1 0.2 0.3 0.4 0.5

Figure:Estimation def parfbn etfbn,1

(54)

Merci de votre attention.

On s’est inspir´e de

B. BERCU, P. F., A Robbins-Monro procedure for estimation in semiparametric regression models, Annals of Statistics.