1 Mod` ele lin´ eaire

M2R – Math´ ematiques appliqu´ ees 2012–2013 Mod` eles statistiques

R´ evisions

S´eance du 29 Novembre 2012

1 Mod` ele lin´ eaire

1.1 Cuatro Cuaranta

Soit n ₁ et n ₂ deux entiers strictement positifs fix´ es et n = 2p > 2 max(n ₁ , n ₂ ). On consid` ere pour j = 1 . . . n, le mod` ele de r´ egression p´ eriodique :

Y _j = a ₀ + a ₁ cos(2πn ₁ j

n ) + a ₂ cos(2πn ₂ j

n ) + b ₁ sin(2πn ₁ j

n ) + b ₂ sin(2πn ₂ j

n ) + ε _j . a) Montrer ou admettre pour i, i ⁰ = 1, 2, les relations suivantes :

n

X

j=1

cos(2πn _i j

n ) cos(2πn _i

j

n ) = 0 si i 6= i ⁰

= p si i = i ⁰

n

X

j=1

sin(2πn _i j

n ) sin(2πn _i

j

n ) = 0 si i 6= i ⁰

= p si i = i ⁰

n

X

j=1

cos(2πn _i j n ) =

n

X

j=1

sin(2πn _i j n ) =

n

X

j=1

cos(2πn _i j

n ) sin(2πn _i

j n ) = 0.

b) Montrer que les estimateurs (du maximum de vraisemblance) des param` etres sont :

b a ₀ = 1 n

n

X

j=1

Y _j

b a _i = 1 p

n

X

j=1

Y _j cos(2πn _i j

n ), i = 1, 2

b b i = 1 p

n

X

j=1

Y j sin(2πn i

j

n ), i = 1, 2

S ² = 1

2p − 5

n

X

j=1

Y _j −

b a ₀ + b a ₁ cos(2πn ₁ j

n ) + b a ₂ cos(2πn ₂ j

n ) + b b ₁ sin(2πn ₁ j

n ) + b b ₂ sin(2πn ₂ j n )

2

c) Construire le test d’hypth` ese de a ₁ = a ₂ = b ₁ = b ₂ = 0, puis celui de a ₁ = b ₁ = 0.

d) Application num´ erique pour le second test de la question pr´ ec´ edente. Cas de la note LA, n ₂ = 440 n = 1000. Tester si la note est un LA pur (c’est-` a-dire a ₁ = b ₁ = 0) avec S ²

obs = 1, 5 , b a obs

1 = 0, 52, b b obs

1 = 0, 98

1.2 R´ egression polynˆ omiale

Soient p et n deux entiers tels que 0 ≤ p < n. Pour tout 1 ≤ j ≤ n on pose x _j = j − ⁿ⁺¹ ₂ . On consid` ere ψ ₀ , ψ ₁ , . . . , ψ _p polynˆ omes fix´ es tels que :

• degr´ e(ψ i ) = i, ∀0 ≤ i ≤ p

• P n

j=1 ψ _i (x _j )ψ _k (x _j ) = 0, ∀0 ≤ i 6= k ≤ p On a en vue d’´ etudier le mod` ele de r´ egression

Y _j =

p

X

i=0

λ _i ψ _i (x _j ) + ε _j , 1 ≤ j ≤ n

o` u ε 1 , . . . , ε n sont ind´ ependantes et de mˆ eme loi N (0, σ <sup>2</sup> ) et λ 0 , . . . , λ p , σ <sup>2</sup> sont des param` etres inconnus.

a) Estimer les param` etres de ce mod` ele.

b) Ecrire un test de niveau α de “λ _p = 0” contre “λ _p 6= 0”.

Le revenu net par action de la compagnie Gillette pour les ann´ ees 57 ` a 64 est le suivant : Ann´ ee (z _j ) : 1957 1958 1959 1960 1961 1962 1963 1964 Revenu en $ (Y _j (ω)) : 0,93 0,99 1,11 1,33 1,52 1,60 1,47 1,33 On pose x _j = z _j − 1960, 5 puis ψ ₀ (x) = 1, ψ ₁ (x) = 2x et ψ ₂ (x) = x ² − 21/4.

c) V´ erifier bri` evement que le choix ci-dessus de x _j , ψ ₀ , ψ ₁ , ψ ₂ rentre dans le cadre d´ ecrit plus haut.

d) En supposant que Y _j = P 2

i=0 λ _i ψ _i (x _j ) + ε _j , 1 ≤ j ≤ 8 avec ε ₁ , . . . , ε ₈ ind´ ependantes et de mˆ eme loi N (0, σ ² ), estimer λ ₀ , λ ₁ , λ ₂ et σ ² . Tester si λ ₂ = 0.

e) Faire une pr´ evision pour le revenu net par action en 1965.

N.B. Pour faciliter les calculs, on indique les valeurs num´ eriques suivantes : P

j ψ ₁ ² (x _j ) = P

j ψ ² ₂ (x _j ) = 168 P

j Y _j ² (ω) = 13, 65 P

j ψ ₀ (x _j )Y _j (ω) = 10, 28 P

j ψ ₁ (x _j )Y _j (ω) = 6, 86 P

j ψ ₂ (x _j )Y _j (ω) = −4, 1.

1.3 Mod` ele lin´ eaire et test d’hypoth` eses non lin´ eaires

Soit ε _ij , i = 1, . . . , k j = 1 . . . n, des variables i.i.d., de loi normale centr´ ee r´ eduite. Soit m ₁ , . . . , m _k ∈ R , on pose Y _ij = m _i + ε _ij i = 1, . . . , k j = 1 . . . n.

a) Quels sont les estimateurs du maximum de vraisemblance m b _i de m _i (i = 1, . . . , k) ? b) On se propose maintenant de construire une statistique de test pour les hypoth` eses non

lin´ eaires :

H 0 k

X

i=1

m ² _i = 1 H 1 k

X

i=1

m ² _i 6= 1.

Pour cela, on se propose d’utiliser la statistique de test

T _n = √ n

k

X

i=1

m b ² _i − 1

! . Montrer que T _n peut s’´ ecrire sous la forme suivante

T _n = 1

√ n

k

X

i=1

(ξ _i ⁿ ) ² + 2

k

X

i=1

(ξ _i ⁿ )m _i + √ n(

k

X

i=1

m ² _i − 1),

o (ξ _i ⁿ ) _i=1...k sont i.i.d. de loi N (0, 1).

c) On suppose que H ₀ est v´ erifi´ ee. Montrer que ^{√ 1} _n P k

i=1 (ξ _i ⁿ ) ² converge en probabilit´ e vers 0. En d´ eduire que T _n converge en loi. Pr´ eciser la loi limite.

d) On suppose que H ₁ est v´ erifi´ ee. En utilisant la question pr´ ec´ edente, montrer que presque sˆ urement lim n→∞ |T _n | = +∞.

e) D´ eduire des questions pr´ ec´ edentes une proc´ edure de test pour d´ ecider entre H ₀ et H ₁ .

2 Th´ eor` emes asymptotiques

2.1 Loi asymptotique des extrˆ emes

Pour n ≥ 1, soit X ₁ , . . . , X _n des variables i.i.d. de densit´ e f .

– On suppose que le support de f est [0, 1] et que cette fonction admet le d´ eveloppement : f (x) = c ₀ + c ₁ (1 − x) ^α (1 + ε(x)),

o` u α > −1 et lim _x→1

ε(x) = 0. Discuter, en fonction de α de la normalisation stabilisant la loi de X _(n) et d´ eterminer la loi limite.

– Reprendre la question pr´ ec´ edente dans le cas de la loi de Pareto de densit´ e f(x) = c _α x ^−α 1 {x>1} .

On a ici α > 1

2.2 Grandes d´ eviations pr´ ecises

On consid` ere le mod´ ele de r´ egression

Y _i = a ^∗ X _i + ε _i , i = 1, · · · , N.

O` u les vecteurs (X <sub>i</sub> , Y <sub>i</sub> ), i = 1, . . . , n sont toutes i.i.d.. On suppose de plus que, pour tout i = 1, . . . , n, X i et i sont des variables al´ eatoires ind´ ependantes qui poss` edent des moments d’ordre 4 finis.

1. Calculer b a l’estimateur des moindres carr` es de a ^∗ . 2. Montrer que, en g´ en´ eral, b a est un estimateur biais´ e.

3. Montrer que √

n( b a − a ^∗ ) converge en loi vers une gaussienne centr´ ee dont on pr´ ecisera la variance.

4. On suppose que les variables (X _i ) et (ε _i ) sont des gaussiennes standard. Donne un

´ equivalent, pour n grand et t > 0, de P ( b a − a ^∗ ≥ t) et de P ( b a − a ^∗ ≤ −t).

5. Reprendre la question pr´ ec´ edente lorsque les ( _i ) sont des gaussiennes standard ou de loi de Laplace et que les variables (X _i ) sont uniform´ ement distribu´ ees sur {−1, 1} ou sur {−1, 0, 1}.

3 Processus gaussiens stationnaires

3.1 AR(1)

On consid` ere le processus gaussien AR(1) causale

X _n+1 = θ ^∗ X _n + _n+1 , (n ∈ Z ),

o` u |θ ^∗ | < 1 et ( _n ) est une suite i.i.d. de loi gaussienne standard. Calculer l’estimateurs de θ ^∗ obtenu par la m´ ethode du maximum de vraisemblance puis par la m´ ethode de Yule Walker.

Comparer leurs propri´ et´ es asymptotiques.

3.2 AR(2)

On consid` ere le processus gaussien AR(2) causale

X _n+1 = (θ ^∗ ₁ + θ ₂ ^∗ )X _n − (θ ₁ ^∗ θ ₂ ^∗ )X n−1 + _n+1 , (n ∈ Z ),

o` u |θ ^∗ _i | < 1, (i = 1, 2) et ( _n ) est une suite i.i.d. de loi gaussienne standard. Exprimer X _n comme

une fonction des ( _i ) de son pass´ e. En d´ eduire la fonction de covariance du processus et sa

densit´ e spectrale.