Durée 2h - Aucun document - Pas de calculette

EXAMEN DU 8 JUIN 2010 – LM347 – CORRECTION (Programme : parties I, II, III, IV et V)

Durée 2h - Aucun document - Pas de calculette

Exercice 1.

Six points du plan ont pour coordonnées, pourα >0 etβ >0vérifiant α² +β² = 1 :

point C1 C2

1 1 1

2 −1 −1

3 −1 1

4 1 −1

5 α β

6 −α −β

i)−Calculer la matrice de variance-covariance empirique CX. ii)−Calculer les valeurs propres de cette matrice.

iii)−Calculer l⁰inertie du nuage de points associ´ee au tableau de donn´ees.

iv)−Calculer les vecteurs propres de CX.

v)−Calculer les composantes principales de l⁰ACP surCX.

vi)−Repr´esenter les points et les axes principaux dans le plan de d´epart.

vii)−Reprendre i) et ii) quand on n⁰observe que les points 1,2,3,4.

viii)−Pouvez-vous en d´eduire le r´esultat de iv) ?

Aide :la matrice de variance-covariance est proportionnelle à la matriceA=

2 +α² αβ αβ 2 +β²

et ses valeurs propres ne dépendent pas deα etβ.

i) – Le tableau de données X est centré, ainsi X_c=X et en posant n = 6 :

CX = 1

nX_c⁰X_c = 1

nX⁰X = 1 6

2(1²+ (−1)²) +α²+ (−α)² 2(1−1) +αβ+ (−α)(−β) 2(1−1) +αβ+ (−α)(−β) 2(1²+ (−1)²) +β² + (−β)²

= 1 3A . ii) – En utilisant α²+β² = 1, les valeurs propres λ de A sont les solutions du trinôme :

(2 +α²−λ)(2 +β² −λ)−(αβ)² =λ²−(4 +α²+β²)λ+ (2 +α²)(2 +β²)−α²β²

=λ²−5λ+ 4 + 2(α²+β²) =λ²−5λ+ 6 . Ces solutions valent (5±√

5²−4×6)/2 = (5±1)/2, c’est-à-dire 3 et 2. Les valeurs propres de CX sont donc 1 et 2/3.

iii) – D’après le cours, l’inertie du nuage de points est égale à la trace de CX, qui vaut 1/3× (2+α² + 2+β²) = 1/3×5 = 5/3.

iv) – Un vecteur propre V = v₁

v₂

de A correspondant à la valeur propre 2 est solution de :

(2 +α²)v₁+αβv₂ = 2v₁ αβv1+ (2 +β²)v2 = 2v2

⇐⇒

α²v₁+αβv₂ = 0

αβv1+β²v2 = 0 ⇐⇒ αv₁+βv₂ = 0 ,

ainsi V₂ = β

−α

est vecteur propre de norme 1 pour la valeur propre 2, et, par orthogonalité des vecteurs propres correspondant à des valeurs propres différentes lorsqu’on diagonalise une matrice symétrique, le vecteur V1 =

α β

est vecteur propre de norme1 pour la valeur propre 3.

v) – Avec les notations du cours, les composantes principales de l’ACP sur CX sont : µ1U1 = X_cV₁ et µ₂U₂ = X_cV₂; c’est-à-dire : µ₁U₁ = (α+β −(α+β) −α+β α−β 1 −1)⁰ et µ₂U₂ = (−α+β α−β −(α+β) α+β 0 0)⁰.

vi) – A faire vous-même : les quatre premiers points du nuages sont sur le carré à côtés parallèles aux axes, de longueur 2 et centré en 0, et les deux derniers points sont sur le cercle inscrit, de rayon 1 et centré en 0. Le premier axe principal passe par le centre du cercle et le point (α β)⁰. vii) – Le tableau de données X est toujours centré, ainsi X_c = X et CX est cette fois égale à l’identité en dimension 2. Il y a donc une valeur propre double égale à 1.

viii) – Tous les axes orthonormés sont axes principaux du nuage des quatre premiers points.

De plus les deux derniers points sont alignés avec le centre du nuage de points. Ainsi ce qui détermine le premier axe principal du nuage des six points, c’est la direction engendré par ces deux derniers points et V₁ =

α β

doit être vecteur propre.

1

Exercice 2.

Soit a > 0 et un échantillon X₁, . . . , X_n de loi β(a,2), de densité f(x) = a(a+1)x^a−1(1−x), pourx∈]0,1[. On noteX= (X₁· · ·X_n)⁰ etc(x) = −(Pn

i=1logx_i)/npourx= (x₁· · ·x_n)⁰ ∈]0,1[ⁿ. Indication :les intégrales comportant dans l’intégrande le facteur(1−x)pourront être calculées comme la différence de deux intégrales en développant ce facteur.

i) – Montrer que f est bien une densité de probabilité.

ii) – Calculer EX₁ et proposer un estimateur de a obtenu par la méthode des moments.

iii) – Calculer la densité f_X(x, a) du v.a. X et le logarithme de la vraisemblance de X.

iv) – Montrer que l’estimateur ˆa du maximum de vraisemblance de a est l’unique solution dans l’intervalle ]0,∞[ d’un trinôme à coefficients fonctions de c(X), on notera ˆa=g(c(X)).

v) – Montrer qu’on aR1

0(logx)x^αdx=−1/(α+1)² etR1

0(logx)²x^αdx= 2/(α+1)³ pourα >−1.

vi) – Calculer E((logX₁)²) et montrer que c(X) est une suite asymptotiquement normale.

vii) – Comment montreriez-vous queˆaest asymptotiquement normal ? A votre avis cet estimateur est-il sans biais ?

viii) – Calculer l’information de Fisher I(a) de l’échantillon X₁, . . . , X_n.

i) – La fonctionf est positive, continue, sauf en0lorsque0< a <1, intégrable au voisinage de0 poura >0. De plus, on a R1

0x^a−1(1−x)dx=R1

0x^a−1dx−R1

0x^adx= 1/a−1/(a+1) = 1/(a(a+1)).

Ce qui montre bien que f est une densité de probabilité.

ii) – On obtient d’après i) :

E(X₁) = Z 1

0

x a(a+1)x^a−1(1−x)dx=a(a+1) Z 1

0

x^a(1−x)dx= a(a+1)

(a+1)(a+2) = a a+2 . Ainsi, comme presque sûrement m(X) appartient à ]0,1[, si on résout EX₁ =m(X), on obtient comme estimateur 2m(X)/(1−m(X)), quantité qui appartient bien à ]0,1[.

iii) – La densité = la vraisemblance de X est égale à f_X(x, a) = Qn

i=1a(a+1)x^a−1_i (1−x_i) = (a(a+1))ⁿ(Qn

i=1x_i)^a−1Qn

i=1(1−x_i), pour x= (x₁. . . x_n)⁰∈]0,1[ⁿ, son logarithme s’écrit : log(f_X(x, a)) = nlog(a(a+1))−n(a−1)c(x) + log(

n

Y

i=1

(1−x_i)) .

iv) – Cette dernière fonction est strictement concave comme somme de deux fonctions strictement concaves, a → nloga et a → nlog(a+1), et d’une fonction affine. De plus, elle est dérivable en a de dérivée n/a + n/(a+1) − n c(x), avec P(c(X) > 0) = 1. Cette dérivée s’annule si et seulement si c(x)a² + (c(x)−2)a − 1 = 0, trinôme de discriminant (c(x)−2)² + 4c(x) = (c(x))²+ 4 >0 et de racines (2−c(x)±p

(c(x))²+ 4)/(2c(x)). Enfin, pour c(x)> 0, la racine avec le “−” est strictement négative, tandis que celle avec le “+” est strictement positive. Ainsi, ˆ

a= 2−c(X) +p

(c(X))²+ 4

/(2c(X)) réalise le maximum de la vraisemblance.

v) – Puisque α >−1, il vient par intégration par parties : Z 1

0

(logx)x^αdx=h

(logx)×(x^α+1/(α+1))i1 0

− Z 1

0

(1/x)×(x^α+1/(α+1)) dx=−1/(α+1)² ;

Z 1 0

(logx)²x^αdx=h

(logx)²×x^α+1 α+1

i1 0

− Z 1

0

2 logx

x ×x^α+1

α+1 dx=− 2 α+1

Z 1 0

(logx)x^αdx= 2 (α+1)³ . vi) – Par définition,c(X)est la moyenne de v.a.i.i.d., les v.a.−logX_i, et, d’après ce qui précède, ces v.a. sont aussi de variance finie. En effet, E(−logX₁) = a(a+1)R1

0(−logx)x^a−1(1−x) dx= (a+1)/a−a/(a+1) = (2a+1)/(a(a+1)) et E((−logX₁)²) = a(a+1)R1

0(logx)²x^a−1(1−x) dx = 2(a+1)/a²−2a/(a+1)², ce qui implique que la variance delogX₁ est finie. On peut donc appliquer le TLC qui dit que √

n(c(X)−(2a+1)/(a(a+1))) converge vers une loi normale centrée.

vii) – Comme ˆa = g(c(X)) où la fonction g est dérivable, on peut appliquer la méthode delta.

Compte tenu des formules assez compliquées et non linéaires, l’estimateurˆaest sans doute biaisé.

viii) – Comme ^∂log(f_∂a^X)(x, a) = ⁿ_a+_a+1ⁿ −n c(x) et ^∂2log(f_∂a2^X)(x, a) =−_aⁿ2−_(a+1)ⁿ 2, les conditions de régularité étant supposées vérifiées, I(b) = −E(^∂2log(f_∂a2^X)(X, a)) = n(_a¹2 +_(a+1)¹ 2).

2

Exercice 3.

Soit y₁, . . . , y_n des valeurs réelles connues et le modèle de régression linéaireX_i =ay_i+b+_i, pour i ∈ {1, . . . , n}, avec a, b des paramètres réels, et ₁, . . . , _n des v.a.i.i.d. de loi N(0,σ²) où σ² est un paramètre réel strictement positif.

Soit aussi α 6= β deux réels et ` ∈ {1, . . . , n − 1}. On suppose alors que n ≥ 2, que

`α+ (n−`)β= 0, et enfin que y₁ =· · ·=y_{`</sub> =α et que y<sub>`+1} =· · ·=y_n =β.

i) – Ecrire le modèle sous la forme X = Aθ +, θ∈R², et montrer que le modèle linéaire déterministeX˜ =Aθ est régulier.

ii) – Montrer que la matrice A⁰A est diagonale et calculer (A⁰A)⁻¹.

iii) – Résoudre le problème de moindres carrés associé au modèle de régression linéaire X˜ =Aθ.

iv) – Ecrire la vraisemblance deX.

v) – Trouver les estimateurs du maximum de vraisemblance a,ˆ ˆb,σˆ², des paramètres a, b, σ², lorsque n >2.

vi) – Calculer la loi de ˆa et celle de σˆ².

vii) – Construire un intervalle de confiance pour le paramètre a de degré de confiance 95%.

viii) – Proposer un test de l’hypothèsea = 0, d’erreur de première espèce 5%.

i) – Posons X = (X₁· · ·X_n)⁰, = (₁· · ·_n)⁰, y= (y₁· · ·y_n)⁰ et 1= (1· · ·1)⁰, quatre vecteurs de Rⁿ. Posons aussi A = [y1], matrice n×2, et θ = (a b)⁰ ∈R². Alors on a l’identité X =Aθ+. De plus, le vecteur y étant non nul (α6=β) et orthogonal au vecteur 1 (y⁰1 =`α+ (n−`)β = 0), les deux colonnes de la matrice A sont linéairement indépendantes, et le rang de A est égal à 2.

Ce qui montre que le modèle linéaire déterministe X˜ =Aθ est régulier.

ii) – La matrice A⁰A est constituée des produits scalaires des colonnes de A :

A⁰A=

y⁰y y⁰1 y⁰1 1⁰1

=

y⁰y 0 0 n

d⁰o `u (A⁰A)⁻¹ =

(y⁰y)⁻¹ 0 0 n⁻¹

,

ce qui a bien un sens puisque y6= 0 ⇒y⁰y6= 0. De plus, y⁰y=`α<sup>2</sup>+ (n−`)β².

iii) – Le paramètre θˆsolution du problème des moindres carrés pour le modèle régulier X˜ =Aθ est donné par la formule θˆ= (A⁰A)⁻¹A⁰X. Comme A⁰X = (y⁰X 1⁰X)⁰, il vient :

θˆ=

(y⁰y)⁻¹ 0 0 n⁻¹

y⁰X 1⁰X

=

y⁰X/y⁰y 1⁰X/n

=

c(y,X)/v(y) m(X)

,

la dernière égalité provenant du fait que le vecteur y est centré, puisque qu’il est orthogonal au vecteur 1. On a ici y⁰X =α(X₁+. . .+X_{`</sub>) +β(X<sub>`+1}+. . .+X_n).

iv) – Le vecteur X suit la loi normaleN_n(Aθ,σ²I_n), il admet une densité par rapport à la mesure de Lebesgue sur Rⁿ qui est sa vraisemblance :

f_X(x, a, b, σ²) = (2π)^−n/2σ⁻ⁿe⁻

kx−Aθk2

2σ2 = (2π)^−n/2σ⁻ⁿe^{−2σ12Pni=1(xi−ayi−b)2}.

v) – D’après le cours, puisqu’il y a deux paramètres pour la moyenne et comme il est supposé quen >2, les EMV de a et b sont donnés par le θˆobtenu à la question iii) et l’EMV de σ² vaut ˆ

σ² = _n¹kX−Aθkˆ ² = ¹_nPn

i=1(X_i−ˆay_i−ˆb)².

vi) – Toujours d’après le cours (proposition 9 de la partie V), θˆsuit la loi N₂(θ, σ²(A⁰A)⁻¹) et nˆσ²/σ² suit la loi χ²_n−2. De l’expression de (A⁰A)⁻¹ obtenu à la question ii), on déduit alors que ˆ

a suit la loi N(a, σ²(y⁰y)⁻¹) = N(a, σ²/(nv(y))).

vii) – On utilise la méthode de “studentisation”, p

nv(y)(ˆa−a)/σ suit la loi normale standard, si bien que la statistique :

T =

pnv(y)(ˆa−a)/σ pnσˆ²/((n−2)σ²) =

pv(y)(ˆa−a) pσˆ²/(n−2) suit la loi de Student Tn−2, les v.a. p

nv(y)(ˆa−a)/σ et nσˆ²/σ² étant indépendantes. En notant tn−2,α le réel positif vérifiant P(|T| ≤tn−2,α) = 1−α, pour α ∈]0,1[, un intervalle de confiance pour le paramètre a est donc :

I =i ˆ

a−tn−2,α

√ 1 n−2

√ ˆ σ²

pv(y), ˆa+tn−2,α

√ 1 n−2

√ ˆ σ² pv(y)

h

;

3

il est de niveau de confiance 1−α puisque :

P(a∈ I) =P(|T| ≤tn−2,α) = 1−α .

viii) – Si on poseR ={0∈ I}, cette région de l’espace des observations peut être utilisée comme/ la région de rejet d’un test de l’hypothèse a = 0. On a alors pour l’erreur de première espèce, lorsque θ= (0 b)⁰ :

Pθ(R) = P(0∈ I) =/ P(|T|> tn−2,α) = 1−P(|T| ≤tn−2,α) =α . On répond à la question en choisissant α= 5%.

4