4 : Régression linéaire multiple 2

Université de Caen M1

TD n

4 : Régression linéaire multiple 2

Exercice 1. Soient Y−n, . . . , Yn, 2n+ 1 var indépendantes telles que, pour tout i∈ {−n, . . . , n}, Y_i =ax_i+bcos(x_i) +_i,

oùx_i = iπ

n et−n, . . . , _nsont2n+1var iidsuivant chacune la loi normaleN(0, σ²). Les paramètres a, b etσ sont des réels inconnus.

1. Question préliminaire. Montrer que

n

X

i=−n

x²_i = π²(n+ 1)(2n+ 1)

3n et

n

X

i=−n

x_icos(x_i) = 0. En

admettant que

n

X

i=1

cos(2x_i) = 0, montrer que

n

X

i=−n

cos²(x_i) =n+ 1.

2. Écrire le modèle linéaire associé sous la forme matricielle usuelle : Y =Xβ+, en indiquant ce que sont ici Y, X, β et.

3. Calculer l’emcoba dea et l’emcobb deb.

4. Déterminer la loi deba et la loi debb.

5. Donner un estimateur bσ² sans biais de σ². 6. On considère les hypothèses :

H₀ :a ≤0 contre H₁ :a >0.

Quelle démarche doit-on suivre pour décider du rejet de H₀ (ou non) au risque 1% ? Exercice 2. Soient Z₁, . . . , Z_n,n var indépendantes telles que, pour tout i∈ {1, . . . , n},

Z_i =ai¹² +bi³² +ξ_i,

oùξ₁, . . . , ξ_n sont n var iidsuivant chacune la loi normale N(0, θ²). Les paramètres a, b etθ sont des réels inconnus.

1. Écrire le modèle linéaire associé sous la forme matricielle usuelle : Y =Xβ+, en indiquant ce que sont ici Y, X, β et.

2. Calculer les emcode a etb. Déterminer la loi de ces estimateurs.

3. Donner un estimateur θb² sans biais de θ². Déterminer un réel c inconnu tel que la var cθb² suive une loi usuelle.

4. Déterminer un intervalle de confiance (aléatoire) pour a au niveau 90%.

5. Déterminer un intervalle de confiance (aléatoire) pour θ² au niveau 90% de la forme ]0, U], où U est une var que l’on explicitera.

C. Chesneau 1 TD n^o 4

Université de Caen M1

Exercice 3. Soit Z levectar deRⁿ défini par

Z =T β+δ,

où T est une matrice à n lignes et p colonnes connue et δ est un vectar suivant la loi normale multivariée N_n(0_n, σ²Ω), où Ω est une matrice symétrique définie positive connue. Ici, β est un vecteur inconnu de R^p etσ est un réel inconnu.

1. Montrer qu’il existe une matrice carréeU telle que si Y =U Z, alors Y =Xβ+,

oùX est une matrice ànlignes etpcolonnes connue que l’on précisera etsuit la loi normale multivariée N_n(0_n, σ²In) (on utilisera le resultat : si A est une matrice carrée symétrique définie positive, alors il existe une matrice orthogonale Q et une matrice diagonale S à coefficients diagonaux strictement positifs telles que A=QS²Q^t).

Exprimer U^tU en fonction deΩ.

2. Montrer que l’emcoβbdeβ peut s’écrire en fonction de Z,T etΩ. Déterminer la loi deβben fonction de ces éléments.

3. Donner un estimateur sans biais deσ² en fonction deZ,T et Ω.

Exercice 4. On observe n valeurs d’un car (Z, X) notées (z₁, x₁), . . . ,(z_n, x_n) telles que, pour tout i∈ {1, . . . , n},z_i est une réalisation de

Z_i =a+bx_i+cx²_i +_i,

où₁, . . . , _nsontnvarindépendantes suivant la loi normale centrée avec, pour touti∈ {1, . . . , n}, V(_i) = σ²δ²_i, δ₁, . . . , δ_n sont des réels fixés non nuls. Les paramètres a, b, c et σ sont des réels inconnus. On suppose que x₁, . . . , x_n et δ₁, . . . , δ_n vérifient

n

X

i=1

xi

δ²_i = 0,

n

X

i=1

x³_i δ²_i = 0.

On pose

u_n=

n

X

i=1

1

δ_i², v_n =

n

X

i=1

x²_i

δ²_i , w_n =

n

X

i=1

x⁴_i δ²_i .

1. Écrire le modèle linéaire associé sous la forme matricielle usuelle : Y =Xβ+, où suit la loi normale multivariée Nn(0n, σ²Iⁿ), en indiquant ce que sont ici Y, X,β et .

2. Montrer que la matrice X^tX est inversible si, et seulement si, vn 6= 0 et unwn 6= v²_n. Sous ces conditions, calculer (X^tX)⁻¹ en fonction deu_n,v_n et w_n.

On suppose désormais que v_n6= 0 etu_nw_n6=v²_n.

3. Calculer l’emco ba de a, l’emco bb de b et l’emco bc de c, en fonction de u_n, v_n, w_n, des composantes du vecteur Y, de δ₁, . . . , δ_n et de x₁, . . . , x_n.

4. On suppose quen= 13. Déterminer un intervalle de confiance (aléatoire) pourσ² au niveau 90% de la forme ]0, U], où U est une var que l’on explicitera.

C. Chesneau 2 TD n^o 4