Statistique inf´erentielle Vecteurs Gaussiens, Th´eor`eme de Cochran et applications

Vecteurs Gaussiens, Th´eor`eme de Cochran et applications

A. Godichon-Baggioni

T H EOR ´ EME ` C ENTRAL L IMITE MULTIVARI E ´

Th´eor`eme (Th´eor`eme Central Limite multivari´e)

Soit X1, . . . ,Xndes vecteurs al´eatoires `a valeurs dansR^d, ind´ependants et identiquement distribu´es. On suppose E

hkX1k²i

<+∞et on note m=E[X1]son vecteur moyen et Γ =Var[X1]sa matrice de variance-covariance. On note Xn= ¹_nPn

i=1Xiet on a alors la convergence en loi

√n Xn−m L

−−−−−→

n→+∞ N(0,Γ).

O BJECTIFS

L’´etude des vecteurs gaussiens permet non seulement d’´etudier le comportement asymptotique d’estimateurs pour des variables al´eatoires `a valeurs dansR<sup>d</sup>mais aussi (via le Th´eor`eme de Cochran) :

I L’´etude non asymptotique des estimteurs de la moyenne et de la variance d’une variable al´eatoire suivant une loi normale (cf chapitre pr´ec´edent).

I Estimation des param`etres dans le cadre du mod`ele lin´eaire gaussien (cf TD)

I Construction de tests dans le cadre gaussien (cf chapitre suivant).

I. Vecteurs al´eatoires

V ECTEURS AL EATOIRES ´

SoitX=



 X1

. . . Xd



∈R^dun vecteurs al´eatoire tel que E

hX²_ji

<+∞. Pour touti,j, la covariance entreXietXjest d´efinie par

Cov Xi,Xj

=E

(Xi−E[Xi]) Xj−E Xj

Remarque : SiXietXjsont ind´ependantes, Cov Xi,Xj

=0 mais la r´eciproque est g´en´eralement fausse (sauf pour les vecteurs gaussiens).

E SP ERANCE ET MATRICE DE ´ C OVARIANCE D´efinition

Soit X un vecteur al´eatoire deR^dtel que pour tout i=1, ...,d, E

X²_i

<+∞. Le vecteur moyen de X est d´efini par

E[X] =





 E[X1]

... E[Xd]







et sa matrice de covariance est d´efinie par Var[X] =E

h(X−E[X]) (X−E[X])^Ti

=











Var[X1] Cov(X1,X2) . . . Cov(X1,Xd) Cov(X2,X1) Var[X2] . . . Cov(X2,Xd)

... ... . .. ...

Cov(Xd,X1) Cov(Xd,X2) . . . Var[Xd]











M ATRICE DE COVARIANCE

Th´eor`eme

La matrice de covariance est une matrice sym´etrique semi-d´efinie positive.

Th´eor`eme

Soit X un vecteur al´eatoire deR^dde moyenne m et de matrice de covariance C. Alors, si A est une matrice r´eelle p×d, le vecteur al´eatoire AX∈R^pa pour vecteur moyen Am et pour matrice de covariance ACA^T.

F ONCTION CARACT ERISTIQUE ´

D´efinition

Soit X un vecteur al´eatoire deR^d. Sa fonction caract´eristiqueΦ_Xest d´efinie pour tout u∈R^dpar

Φ_X(u) =E h

e^iuTXi

=E h

e^{i(u1X1+...+udXd)}i .

II. Vecteurs al´eatoires Gaussiens

V ECTEURS AL EATOIRES GAUSSIENS ´

D´efinition

Soit X un vecteur al´eatoire deR^d. X est un vecteur gaussien deR^dsi et seulement si toute combinaison lin´eaire de ses composantes est une variable al´eatoire r´eelle gaussienne, i.e

∀u∈R^d, u^TX∼ N mu, σ²_u .

Exemple : Un vecteurXdont les composantesXisont ind´ependantes et suivent une loi normale est un vecteur gaussien.

V ECTEUR GAUSSIEN ET FONCTION CARACT ERISTIQUE ´

Th´eor`eme

Soit X un vecteur al´eatoire deR^d. Les assertions suivantes sont

´equivalentes :

1. Le vecteur X est un vecteur gaussien de moyenne m et de matrice de covarianceΓ.

2. La fonction caract´eristique de X est donn´ee pour tout u∈R^dpar Φ_X(u) =E

he^iuTXi

= exp

iu^Tm−1 2u^tΓu

.

C OROLLAIRES

Corollaire

Soit X∼ N(m,Γ)`a valeurs dansR^d. Soit A une matrice p×d et b∈R^p, alors

AX+b∼ N Am+b,AΓA^T

Corollaire

Soit X∼ N(m,Γ), etΓinversible, alors Γ^−1/2(X−m)∼ N(0,Id).

E XEMPLE

Exemple : SoitX= (X1,X2)^T ∈R²un vecteur Gaussien avec X∼ N(0,V). Alors la variabe al´eatoireZ=X1+X2suit une loi normale. Plus pr´ecis´ement,

Z∼ N 0,u^TVu avecu= (1,1)^T.

D ENSIT E D ´ ’ UN VECTEUR GAUSSIEN

Th´eor`eme

Soit X∈R^davec X∼ N(m,Γ). X admet une densit´e par rapport `a la mesure de Lebesgue deR^dsi et seulement siΓest inversible. Dans ce cas, la densit´e de f est donn´ee pour tout x∈R^dpar

f(x) = 1

p(2π)^d|det(Γ)|exp

−1

2(x−m)^TΓ⁻¹(x−m)

V ECTEUR GAUSSIEN ET IND EPENDANCE ´

Th´eor`eme

Pour tout vecteur gaussien X deR^d, les propri´et´es suivantes sont

´equivalentes :

I Les composantes X1, . . . ,Xdde X sont ind´ependantes.

I La matrice de covarianceΓde X est diagonale.

Corollaire

Soit X un vecteur gaussien, alors pour tout i6=j, Xiet Xjsont ind´ependantes si et seulement si

Cov(Xi,Xj) =0.

R EMARQUE

Attention ! Le corollaire pr´ec´edent n’est automatiquement vrai que pour les vecteurs gaussiens !

Contre-exemple : SoitX∼ N(0,1)etYune variable al´eatoire suivant une loi de Rademacher de param`etrep=1/2, i.e

P[Y=1] = 1

2 et P[Y=−1] = 1 2. On consid`ere la variable al´eatoireZ=XY. On a

1. Cov(X,Z) =0 maisXetZne sont pas ind´ependants.

2. Les composantes du vecteurU= (X,Z)suivent des lois normales maisUn’est pas un vecteur gaussien.

III. Th´eor`eme de Cochran et applications

T H EOR ´ EME DE ` C OCHRAN

Th´eor`eme (Th´eor`eme de Cochran)

Soit X un vecteur al´eaoire deRⁿsuivant une loiN m, σ²In avec σ²>0. SoitRⁿ=E1⊕E2⊕. . .⊕Epune d´ecomposition deRⁿen somme directe de p sous-espaces vectoriels orthogonaux de

dimensions respectives d1, . . . ,dp. Soit Pkle projecteur orthogonal sur Eket Yk=PkX la projection orthogonale de X sur Ek.

1. Les projections Y1, . . . ,Ypsont des vecteurs gaussiens ind´ependants et Yk∼ N Pkm, σ²Pk

. 2. Les variables al´eatoireskY1−P1mk², . . . ,

Yp−Ppm

2sont ind´ependantes et

kYk−Pkmk²

σ² ∼χ²_dk

C OROLLAIRE

Corollaire

Soient X1, . . . ,Xndes variables al´eatoires ind´ependantes et identiquement distribu´ees avec X1 ∼ N m, σ²

. On a alors 1. ⁿ⁻¹_σ2 S²_n∼χ²_n−1.

2. Xnet S²_nsont ind´ependantes.

A UTRES R ESULTATS ´

Proposition

Soient Z,Zp,Zqtrois variables al´eatoires telles que 1. Z=Zp+Zq

2. Zp∼χ²_pet Zq∼χ²_q 3. Zpet Zqsont ind´ependantes alors Z∼χ_p+q.