1 Matrice de covariance

Université Paris 13, Institut Galilée Préparation à l’agrégation Année universitaire 2013-2014

Vecteurs gaussiens

Soitdun entier≥1. On identifiera les éléments deR^d à des vecteurs colonnes.

1 Matrice de covariance

Soit X une variable aléatoire à valeurs dans R^d. On note X = ^t X₁ · · · X_d

. Les variables aléatoires réelles X₁, . . . , X_d sont appelées les composantes de X et leurs lois sont les lois marginales de la loi de X. On définit classiquement son espérance (sa moyenne)

mX=E[X] =





 E[X1]

... E[Xd]







et aussi, siX1, . . . , Xd sont de carré intégrable, sa variance ΓX= Var(X) =E

(X−E[X])^t(X−E[X])

= (Cov(X_i, X_j))_1≤i,j≤d

=











Var(X1) Cov(X1, X2) · · · Cov(X1, Xd) Cov(X2, X1) Var(X2) · · · Cov(X2, Xd)

... ... . .. ...

Cov(Xd, X1) Cov(Xd, X2) · · · Var(Xd)









 ,

où on rappelle que, pour toutes variables aléatoires réellesU etV de carré intégrable,Cov(U, V) =E[(U−E[U])(V− E[V])] =E[U V]−E[U]E[V](covariance de U et V). La matriceΓ_X est la matrice de covariance de X (ou, plutôt, de la loi deX).

En particulier, siX₁, . . . , X_d sont indépendantes deux à deux, alorsΓ_X est une matrice diagonale ayant pour coeffi- cients diagonauxVar(X₁), . . . ,Var(X_d).

CommeCov(X, Y) = Cov(Y, X)(ou comme^t(A^tA) =A^tA), la matriceΓ_X est symétrique. Elle est de plus positive : pour tout vecteuru∈R^d,

tuΓ_Xu=X

i,j

u_iCov(X_i, X_j)u_j=X

i,j

Cov(u_iX_i, u_jX_j) = Var(u₁X₁+· · ·+u_dX_d)≥0.

(En revenant aux définitions de Cov et Var, la dernière égalité est simplement le développement du carré d’une somme)

Au passage, on voit que Var(^tuX) = ^tuΓXu. Plus généralement, pour toute matrixA de taille (p, d), où p≥ 1, le vecteur AX est une variable aléatoire à valeurs dansR^p, sa moyenne estAmX (par linéarité de l’espérance) et sa variance est

ΓAX=E

(AX−Am)^t(AX−Am)

=E

A(X−m)^t(X−m)^tA

=AE

(X−m)^t(X−m)_t

A=AΓXtA.

En particulier (avec p = d), si ΓX = Id (par exemple si X1, . . . , Xd sont indépendants et de variance 1), alors Γ_AX = A^tA. Or toute matrice symétrique positive Γ peut s’écrire Γ = A^tA : par exemple, partant de la diago- nalisation Γ = P D^tP en base orthonormale où D = diag(λ₁, . . . , λ_d) avec λ₁ ≥ 0,. . . ,λ_d ≥ 0, on peut prendre A =Pdiag(√

λ₁, . . . ,√

λ_d). On a alorsΓ_AX =A^tA= Γ siΓ_X =I_d (Remarque : une autre matrice A possible est obtenue par la méthode de Cholesky). Ceci montre que les matrices de covariance sont les matrices symétriques positives.

Le rang de la matrice de covariance a une interprétation importante :

Proposition 1. ΓXest de rang≤rsi, et seulement s’il existe un sous-espace affineV de dimensionrtel queX ∈V p.s.

Démonstration. On a vu que, pour tout u∈R^d,Var(hu, Xi) =^tuΓXu. Et une variable aléatoire de carré intégrable est constante p.s. (égale à sa moyenne p.s.) si, et seulement si sa variance est nulle. En particulier, ^tuΓXu= 0 si,

et seulement si hu, Xi= hu, mi p.s., ce qui équivaut à dire que X−m ⊥ up.s.. En appliquant ceci à toute base orthogonale deR^d qui commence par une base deker ΓX, on obtient que

X ∈m+ ker Γ_X⊥

p.s..

(ker Γ ={x∈R^d|Γx= 0}={x∈R^d|^txΓx= 0} siΓ est symétrique positive) et quem+ (ker ΓX)^⊥ est le plus petit sous-espace pour lequel c’est vérifié, d’où la proposition.

2 Vecteurs gaussiens

SoitZ=^t Z1· · ·Zd

, oùZ1, . . . , Zd sont des variables aléatoires indépendantes de loiN(0,1), mun vecteur deR^d, et Γ une matrice symétrique positive de taille d. On choisit une matrice carrée A telle que A^tA = Γ. Par ce qui précède,X =m+AZ est un vecteur aléatoire tel que

mX =m et ΓX =AΓZtA=AIdtA= Γ.

Calculons la fonction caractéristique deX. Pour toutu∈R^d, on a

tuX=^tum+^tuAZ=^tum+^t(^tAu)Z

donc (en notanth·,·ile produit scalaire usuel deR^d pour simplifier les notations) ΦX(u) =E[e^ituX] =e^ihu,miΦZ(^tAu).

Les composantes deZ sont indépendantes et de loi N(0,1)donc

Φ_Z(u) = Φ_X1(u₁)· · ·Φ_Xd(u_d) =e^−12u21· · ·e^−12u2d=e^−12kuk2=e^−12tuu. On en déduit

Φ_X(u) =e^ihu,mie^−12tuAtAu=e^ihu,mie^−12tuΓu.

On remarque notamment que la dernière expression ne dépend pas du choix de A, donc la loi de X non plus.

X =m+AZ est appelé un vecteur gaussien de moyenne met de covarianceΓ et sa loi est appelée loi gaussienne de moyenne m et de covariance Γ, abrégée en N(m,Γ). La loi de Z, à savoir N(0, Id) est appelée loi gaussienne standard de R^d.

La proposition suivante caractérise les vecteurs gaussiens, c’est-à-dire suivant une loiN(m,Γ) pour certain vecteur met un certaine matrice symétrique positiveΓ :

Proposition 2. SoitX un vecteur aléatoire deR^d.X est un vecteur gaussien si, et seulement si toute combinaison linéaire de composantes deX suit une loi gaussienne (surR).

Démonstration. Une combinaison linéaire des composantes de X s’écrit ha, Xi = ^taX où a ∈ R^d. Si m et Γ sont l’espérance et la variance de X (qui existent sous chacune des deux hypothèses), alors E[ha, Xi] = ha, mi etVar(ha, Xi) =^taΓa(vu dans la partie 1).

Ainsi,ha, Xisuit une loi gaussienne pour touta∈R^dsi, et seulement si, pour touta∈R^dsa fonction caractéristique est

Φ_ha,Xi(u) =e^iuha,mie^{−12(taΓa)u2}=e^ihua,mie^{−12t(ua)Γ(ua)} etX est un vecteur gaussien si, et seulement si sa fonction caractéristique est

ΦX(a) =e^iha,mie^−12taΓa.

Comme, de façon générale,Φ_ha,Xi(u) = ΦX(ua), l’équivalence entre les deux propriétés précédentes se déduit immé- diatement, d’où la conclusion.

Cette proposition permet de définir des vecteurs gaussiens dans un espace de dimension infinie.

La définition implique que si X ∼ N(m,Γ) et si A est une matrice de taille (p, d) et b ∈ R^d, alors AX+b ∼ N(am+b, AΓ^tA). (La définition montre que c’est un vecteur gaussien et ses paramètres se calculent comme dans la première partie)

En particulier, si Z est un vecteur gaussien standard etP est une matrice orthogonale (P^tP = I_d), alors P Z est encore un vecteur gaussien standard. Autrement dit, la loi gaussienne standard (et plus généralement N(0, σ²Id)) est invariante par les rotations de centre O (et par les symétries orthogonales d’axe passant par l’origine). Cette propriété se voit aussi sur la densité de la loi : elle est radiale.

SiZ ∼ N(0, Id), on sait queZ a pour densitéz7→ ^√1

2πe^−z12· · ·^√1

2πe^−zd2= (2π)^−d/2e^−12kzk2 puisque les composantes sont indépendantes. Pour le vecteur gaussienX=m+AZ ∼ N(m,Γ)(oùΓ =A^tA), la proposition 1 montre que si

Γ n’est pas inversible,X ne peut pas avoir de densité. En revanche, siΓ est inversible, un changement de variable montre queX a pour densité

fX:x7→ 1

p(2π)^ddet Γe^{−12t(x−m)Γ−1(x−m)}.

SiΓest diagonale, alors les composantesX1, . . . , Xdd’un vecteurX∼ N(m,Γ)sont indépendantes. Cela se voit sur la densité ci-dessus. Ou simplement parce que dans ce cas on peut prendreA= diag(σ1, . . . , σd)d’oùXi=mi+σiZi. La réciproque est toujours vraie. Ainsi, les composantes d’un vecteur gaussien sont indépendantes si, et seulement si sa matrice de covariance est diagonale. Le théorème de Cochran généralise cette remarque.

Théorème 1 – Théorème de Cochran. Soit X ∼ N(m, σ²Id), etR^d = E1

⊕⊥ . . . ⊕^⊥ Er une décomposition de R^d en sous-espaces (affines) orthogonaux. Pour k = 1, . . . , r, on note dk la dimension de Ek, et Pk la projection orthogonale surEk. Alors les variables aléatoiresY1=P1X1,. . . ,Yr=PrX sont indépendantes, et

Y_k ∼ N(P_km, σ²P_k) et 1

σ²kYk−P_kmk²∼χ²_d

k.

Dans l’énoncé, χ²_d est la loi du χ² (khi-deux) à d degrés de liberté, c’est-à-dire par définition la loi de la variable aléatoireZ₁²+· · ·+Z_r² oùZ1, . . . , Zrsont i.i.d. de loiN(0,1).

Démonstration. Il suffit de montrer l’indépendance. La suite en résulte (avec ce qui précède, et le fait que P^tP = P²=P pour toute projection orthogonaleP).

Pourk= 1, . . . , r, on choisit une base orthonormale(e_k,1, . . . , e_k,dk)deE_k, de sorte que(e₁, . . . , e_d) = (e_1,1, . . . , e_1,d1, . . . , e_r,1, . . . , e_r,dr) est une base orthonormale deR^d. Les variables aléatoireshX, e_ii,i= 1, . . . , d, sont les composantes deX dans cette

base. Or la loi deX est invariante par les applications orthogonales (vu plus haut) donc en particulier par les chan- gements de base entre bases orthonormales. Par suite, les variables aléatoireshX, eii, i= 1, . . . , d, sont i.i.d. de loi N(hm, eii, σ²).

Comme Yk =PkX =Ak+hX, ek,1iek,1+· · ·+hX, ek,d_kiek,d_k, où Ak =Pk0, l’indépendance annoncée résulte de la propriété d’« indépendance par paquets » : Y1,. . . ,Yr dépendent respectivement de paquets de variables disjoints parmi une famille de variables indépendantes, donc sont indépendantes entre elles.

Remarque. On n’a donné qu’un cas particulier du théorème de Cochran, qui est le cas usuel. L’énoncé général (dont la preuve est essentiellement identique) supposeX∼ N(m,Γ)oùΓest inversible etR^d=E1

⊕ · · ·⊥ ⊕^⊥Er au sens du produit scalaire(u, v)7→ hu, viΓ=^tuΓv, et conclut que les projections orthogonales (au sens de ce même produit scalaire) deX surE1,. . . ,Ersont indépendantes. Les variableskYk−Pkmk²ne suivent cependant pas des lois duχ²(ce sont des sommes de variablesN(0,1)pondérées par les valeurs propres des différents sous-espaces), et la variance deYk estPkΓ^tPk. Enfin, les lois gaussiennes sur R^d interviennent dans la généralisation du théorème central limite aux variables aléatoires à valeurs dansR^d :

Théorème 2 – Théorème central limite multidimensionnel. SoitX1, X2, . . .une suite de vecteurs aléatoires à valeurs dansR^d, i.i.d., de carré intégrable, de moyennem et de varianceΓ. Alors

√1

n(X1+X2+· · ·+Xn−nm)−→^(loi)

n N(0,Γ).

Démonstration. Même preuve que la version réelle. En remplaçantXiparXi−mon se ramène àm= 0. Soitu∈R^d. On a

Φ√1

n(X1+X2+···+Xn)(u) = ΦX

u

√n ⁿ

(oùΦ_X = Φ_X1). On a le développement limité

ΦX(t) = 1−1 2

ttΓt+ o

t→0 ktk² , d’où

Φ√1

n(X₁+X₂+···+Xn)(u) =

1− 1 2n

tuΓu+o

n

1 n

n

−→n exp

−1 2

tuΓu

.

NB : On a utilisé(1−z_n/n)ⁿ= exp(nLn(1−z_n/n))→_n exp(−c)où(z_n)_n est une suitecomplexe telle quez_n→_nc et Lnest la détermination principale du logarithme complexe. L’égalité est vraie dès que |1−zn/n|<1, donc pour ngrand, et la limite vient deLn(1−z)∼ −z, quandz→0,z∈C. (Si on définitz7→Ln(1−z) =−P∞

k=1 1 kz^k sur D(0,1), c’est une série entière qui coïncide avecx7→ln(1−x)sur]0,1[; elle vérifie doncexp(Ln(1−z)) = 1−z pour z ∈]0,1[et, par unicité du prolongement analytique, pour toutz ∈D(0,1); etLn(1−z)∼ −z quand z→0 vu le premier terme du développement en série entière. )

Université Paris 13, Institut Galilée Préparation à l’agrégation Année universitaire 2013-2014

Notions de statistiques

Rappels sur les vecteurs gaussiens

Soitd∈N^∗. Un vecteur gaussienest un vecteur aléatoire à valeurs dans R^d dont toutes les combinaisons affines des composantes suivent des lois normales. La loi d’un tel vecteur aléatoire est caractérisée par sa moyennemet sa matrice de covarianceΓ, on la noteN(m,Γ).

Pour toute matriceA de taille(p, d)et toutb∈R^p,

siX ∼ N(m,Γ)alorsAX+b∼ N(Am+b, AΓ^tA).

En particulier, si Γ = A^tA (A est appelée une racine carrée de Γ), et si X ∼ N(0, I_d) alors m+AX ∼ N(m,Γ).

Ceci permet de toujours se ramener au cas N(0, Id), la loi gaussienne standard de R^d, où les composantes sont indépendantes et de loiN(0,1).

Autre conséquence, siX ∼ N(0, σ²Id)et Aest une matrice orthogonale (rotation, symétrie orthogonale),A^tA=Id

doncAXa même loi que X. Le théorème suivant s’en déduit.

Théorème 3 – Théorème de Cochran. Soit X ∼ N(m, σ²Id), etR^d = E1

⊕⊥ . . . ⊕^⊥ Er une décomposition de R^d en sous-espaces (affines) orthogonaux. Pour k = 1, . . . , r, on note dk la dimension de Ek, et Pk la projection orthogonale surEk. Alors les variables aléatoiresY1=P1X1,. . . ,Yr=PrX sont indépendantes,

Yk ∼ N(Pkm, σ²Pk) et 1

σ²kYk−Pkmk²∼χ²_dk. (voir à la fin pour la définition de la loiχ²_d

k)

Démonstration. En remplaçantX parX−m, on peut supposer que m= 0.

Pourk= 1, . . . , r, on note(fk,1, . . . , fk,d_k)une base orthonormale deEk, de sorte que leur concaténation fournit une base orthonormale(f) = (f1, . . . , fd)deR^d. Le vecteur





 hX, f1i

... hX, fdi







des composantes deXdans la base(f)est l’image deX par une application orthogonale (l’application de changement de baseAdéfinie parA(fi) =eioù(e1, . . . , ed)est la base canonique deR^d). Par conséquent, ce vecteur a même loi queX, c’est-à-dire que ses composantes sont indépendantes et suivent la loi N(0, σ²). Or chacune des projections

Yk=PkX =hX, fk,1ifk,1+· · ·+hX, fk,d_kifk,d_k

pour k= 1, . . . , r, ne dépend que d’une sous-famille de composantes du vecteur précédent, et ces sous-familles sont disjointes les unes des autres, doncY1, . . . , Yr sont indépendantes (propriété d’indépendance « par paquets »).

De plus, on aYk=PkX ∼ N(0, σ²PktPk)etPktPk=P_k²=Pk (projection orthogonale), et kYkk2=|hX, fk,1i|²+· · ·+|hX, fk,d_ki|²

d’où l’on déduit la deuxième partie vu la définition deχ²_d

k.

1 Principes généraux : estimation et test

L’objet des statistiques (plus exactement, des statistiques mathématiques, ouinférentielles) est de déduire de l’ob- servation de données supposées aléatoires des informations sur la loi de celles-ci.

On se restreint dans la suite au cas où les données observées sont des réalisations denvariables aléatoiresX1,. . . ,Xn

indépendantes et de même loiµsurR^d. On dit que(X1, . . . , Xn)est un échantillon de taillen.

On peut globalement distinguer deux types de problématiques :

– l’estimation d’une grandeur numérique dépendant deµ(son espérance, sa variance,. . . ) : c’est une approchequan- titative. Les notions concernées sont lesestimateurs et lesrégions de confiance.

– confirmer ou infirmer des hypothèses sur la loiµ(Son espérance est-elle égale à5? µest-elle une loi de Poisson ? µ (sur R^d) est-elle une loi produit ?. . . ) : c’est une approche qualitative. Notons que cela revient à estimer des grandeurs discrètes dépendant deµ(autrement dit, des fonctions indicatrices). La notion qui s’y rattache est celle detest d’hypothèse.

1.1 Estimation

1.1.1 Estimateurs

Supposons que l’on souhaite estimer la valeur d’une quantitéθ ∈R^d dépendant deµ. Typiquement, son espérance ou sa variance. Un estimateur de θ est une variable aléatoire θbà valeurs dans R^d, qui dépend de X1,. . . ,Xn. Il est consistant(resp.fortement consistant) siθb→θ quand n→ ∞en probabilité (resp. presque sûrement). La consistance est bien sûr une propriété essentielle pour un estimateur. On dit queθbestsans biaiss’il est intégrable etE[bθ] =θ.

Exemple. Siµa une espérance finie, on peut, pour estimer son espérancem, utiliser lamoyenne empirique

mb=Xn=X1+· · ·+Xn

n .

C’est un estimateur sans biais (linéarité de l’espérance) et fortement consistant (loi forte des grands nombres).

Remarque. Bien que l’on se soit restreint ci-dessus àθ ∈ R^d, on peut considérer aussi des quantités vivant dans des espaces de dimension infinie, en adaptant alors la notion de consistance. Par exemple on peut tout simplement souhaiter estimerµelle-même (oùµest une mesure surR^d). Pour cela, un choix naturel est lamesure empirique

µb= 1 n

n

X

i=1

δX_i.

C’est la mesure surR^d telle quebµ(A)est la proportion de points de l’échantillon qui appartiennent au borélienA. Par la loi forte des grands nombres (et la séparabilité de Cc(R^d)), c’est un estimateur fortement consistant, au sens où, presque sûrementµb→µen loi quandn→ ∞.

Souvent, on suppose que µ appartient à un ensemble {µθ|θ ∈ Θ} de mesures de probabilités indexé par Θ⊂ R^d. Dans ce cadre (qui revient à dire que θ caractérise µ), θ apparaît comme un paramètre de la loi µ, et on parle d’estimation paramétrique. Le modèle est dit identifiable si θ est défini uniquement, c’est-à-dire que θ 7→ µ_θ est injective surΘ.

On peut souvent deviner une fonction qui constitue un (bon) estimateur deθ. Néanmoins, il y a aussi des méthodes plus ou moins générales :

Méthode des moments. Siθ=ϕ(m1, m2, . . . , mk)est une fonction continueϕdeskpremiers moments deµ: m1=m=

Z

xdµ, m2= Z

x²dµ, · · · mk= Z

x^kdµ,

alors, d’après la loi forte des grands nombres, un estimateur fortement consistant est θb=ϕ(mb1, . . . ,mbk)

où

mb1= 1 n

n

X

i=1

Xi, · · · mbk = 1 n

n

X

i=1

(Xi)^k.

EMV. Si µ∈ {µθ|θ∈Θ}et qu’il existe une mesure ν (pas nécessairement une probabilité) telle queµθν pour toutθ∈Θ(en généralν est la mesure de comptage, ou la mesure de Lebesgue), on appelle la densité

(x1, . . . , xn)7→Lθ(x1, . . . , xn) = dµ^⊗n_θ

dν^⊗n(x1, . . . , xn) =dµθ

dν (x1)· · ·dµθ

dν (xn)

lavraisemblance deθ. C’est une façon de mesurer la probabilité, sousµ_θ, d’observer un échantillon « voisin » de (x1, . . . , xn). L’estimateur du maximum de vraisemblanceest la valeurθb(pas nécessairement unique) telle que

Lθb(X1, . . . , Xn) = sup

θ∈Θ

Lθ(X1, . . . , Xn).

Cet estimateur n’est pas toujours simple à déterminer mais sa définition en fait un estimateur naturel et, sous des hypothèses de régularité deθ7→Lθ(que je ne précise pas), on peut montrer qu’il est consistant (et asymptotiquement gaussien).

Exemples d’EMV. a) On souhaite estimer la moyenneθ = ¹_λ deµ, où l’on sait queµ=E(λ) (loi exponentielle) pour un certainλ >0inconnu. Notonsµθ =E(1/θ)pour suivre les notations ci-dessus. On prendν=1[0,∞[(x)dx. Alors, pour x >0,

dµθ

dν (x) =1 θe^−x/θ d’où

Lθ(X1, . . . , Xn) = 1

θⁿe^{−(X1+···+Xn)/θ}.

Comme souvent, il est plus pratique d’étudier la log-vraisemblance ln(Lθ(X1, . . . , Xn)). Une étude de fonction donne immédiatement

θb= n

X1+· · ·+Xn

.

b) On souhaite estimer les paramètres p= (p1, . . . , pr) d’une loi discrèteµ =µp sur{1, . . . , r}(avec µp({i}) =pi). On prend pourνla mesure de comptage sur {1, . . . , r}de sorte que

dµp

dν (x) =µp({x}) =px

et donc

Lp(X1, . . . , Xn) =pX₁· · ·pXn= (p1)^N1· · ·(pr)^Nr

oùNk= Card{1≤i≤n|Xi=k}. On veut maximiserlnLp=N1lnp1+· · ·+Nrlnpr, parmi les vecteursptels quepi≥0 etp1+· · ·+pr= 1. C’est un problème d’optimisation sous contrainte. On peut le résoudre en utilisant un multiplicateur de Lagrange.p7→lnLptend vers−∞au bord du domaine donc son maximum est atteint à l’intérieur. Alors, il existeλ∈R tel quep7→lnLp−λ(p1+· · ·+pr−1)a un point critique en p. En dérivant par rapport àb pion trouve que Ni/pbi =λ d’où, via la contrainte,λ=net

pbi=Ni

n (il y a un seul point critique donc par ce qui précède c’estp).b

1.1.2 Régions de confiance

On souhaite en général disposer de bornes autour de la valeur approchée fournie par un estimateur, afin de mesurer l’erreur possible surθ(θest appelé lavaleur vraie).

Soitα∈]0,1[(en général,α= 5%ou1%). Une région de confiancede niveau1−αest une partieAde R^d qui dépend de X1, . . . , Xn (donc « aléatoire ») telle que P(θ∈ A)≥1−α. Unerégion de confiance asymptotique de niveau1−αest telle quelimP(θ∈ A)≥1−αquandn→ ∞.

Dans R, on considère en général des régions de confiance qui sont des intervalles, et sont donc appelés intervalles de confiance.

Exemple. Si X1, . . . , Xn sont i.i.d. de carré intégrable, de moyennem et de varianceσ², un intervalle de confiance se déduit de l’inégalité de Tchebycheff : pour toutA,

P |Xn−m|> A

≤ σ² nA² (carVar(Xn) =σ²/n), donc l’intervalle

"

Xn− rσ²

nα, Xn+ rσ²

nα

#

est un intervalle de confiance de niveau1−α.

1.2 Tests

Les estimations peuvent suggérer certaines conclusions au sujet de la loi µ. Le rôle des tests est de décider si les données permettent effectivement, à certains niveaux d’erreur près, de tirer ces conclusions. Là où l’estimation donne une valeur numérique approchée de certaines grandeurs, le test produit un résultat binaire permettant éventuellement de prendre une décision.

Il convient d’être prudent. L’issue d’un test sera en général : « on rejette l’hypothèse » ou « on ne peut rejeter l’hypothèse », et on ne conclura pas, en revanche, que les données permettent d’accepter l’hypothèse. En cela, le choix de l’hypothèse est important et dépend des finalités de l’étude : il faut que le risque dont on souhaite minimiser la probabilité qu’il se produise soit celui de rejeter l’hypothèse à tort (faux négatif, ouerreur de première espèce).

Par exemple, dans un test d’efficacité d’un médicament qui vient d’être mis au point, la sécurité sociale (qui, avec un budget en déficit, ne souhaite pas rembourser un médicament inefficace) peut vouloir tester l’hypothèse « le médicament est inefficace », quand le laboratoire pharmaceutique (qui souhaite rentabiliser son investissement en commercialisant le médicament) veut tester l’hypothèse « le médicament est efficace ».

Considérons deux hypothèses H0 et H1 sur µ, autrement dit H0 et H1 sont des ensembles de lois auxquels on se demande siµappartient. Le « test deH0contreH1» consiste à décider si, en fonction des données, on peut rejeter l’hypothèse H0 au profit de H1 ou ne pas la rejeter. On appelle H0 l’hypothèse nulle, c’est celle que l’on ne veut

pas manquer de détecter. Ce test est de niveauαsi, sousH0 (c’est-à-dire si H0 est vraie), le test est négatif avec probabilité≤α(un niveau classique est 5%). Sapuissance1−β est la probabilité que le test soit négatif sous H1

(oùβ est donc la probabilité de faux positif, ouerreur de seconde espèce). Souvent, on ne contrôle pas la puissance du test (d’où la dissymétrie entreH0 etH1) mais on sait dire qu’elle tend vers1 quandntend vers l’infini : on dit que le test estconsistant.

Le principe habituel pour concevoir un test consiste à définir une variable auxiliaire T à valeurs réelles, fonction de l’échantillon, dont on connaît (ou contrôle) la loi sous H₀ et qui a un comportement très différent sous H₁. Typiquement, sousH0,T a une loiν(ou converge en loi versνquand la taillende l’échantillon tend vers l’infini) et, sousH1,T diverge vers +∞en probabilité avec n. On choisit alors un intervalle bornéA⊂R(région d’acceptation ou, plus proprement, région de non-rejet) telle que ν(A)>1−α, et le test est : « siT /∈A, on rejetteH0». Sous H0,P(T ∈A) =ν(A) = 1−αdonc ce test est de niveauα. Et, sousH1,P(T ∈A)→n0carAest bornée etT → ∞ (en probabilité), donc ce test est consistant.

NB. On note que, bizarrement, un intervalle de confiance de niveau1−αfournit un test de niveauα. Le motniveau a donc des significations bien différentes selon les cas. Pour un intervalle de confiance, c’est leniveau de confiance; pour un test, c’est leniveau de risque (de première espèce).

Remarque générale. Dans la suite, les énoncés sont souvent exacts dans le cas gaussien et approximatifs (pourngrand) dans un cadre très général. Il convient en pratique de veiller à ce que l’approximation gaussienne soit justifiée. Les énoncés pratiques sont donc assortis de limites d’application (valeur denassez grande, etc.) que je ne précise pas toujours ci-après, d’autant qu’elles devraient théoriquement dépendre de la loi réellement suivie par les variables. Pour donner un ordre d’idée, on peut signaler qu’avant l’essor de l’informatique, une méthode populaire pour simuler des variables aléatoires de loi N(0,1), appelée « sum-of-twelve method », consistait à calculerU1+· · ·+U12−6oùU1, . . . , U12 sont i.i.d. de loi uniforme sur[0,1](donc de moyenne ¹₂ et de variance ₁₂¹). L’approximation était déjà satisfaisante pour nombre d’usages (et d’un coût algorithmique très modéré).

2 Moyenne et variance

2.1 Estimation

On estime en général la moyenne d’une loi à l’aide de la moyenne empirique Xn=X1+· · ·+Xn

n .

C’est un estimateur sans biais, et par la loi des grands nombres il est fortement consistant.

Si la moyennemest connue, on peut estimer la variance à l’aide de ˆ

σ²= 1 n

n

X

k=1

(Xk−m)²,

qui est sans biais et fortement consistant. En général, m est inconnue et on estime alors la variance à l’aide de la variance empirique

S_n² = 1 n−1

n

X

k=1

X_k−X_n² .

La normalisation parn−1le rend sans biais (calcul laissé en exercice). De plus (en développant), cet estimateur est fortement consistant. Normaliser parndonne un autre estimateur fortement consistant qui peut aussi être utilisé.

Ces formules s’adaptent pour des variables à valeurs dansR^d: la moyenne empirique se définit de même, et la matrice de covariance empirique est

Γˆ_n= 1 n−1

n

X

k=1

X_k−X_ntX_k−X_n .

2.2 Régions de confiance

Variance connue. Siµ=N(m, σ²), alorsXn ∼ N(m, σ²/n), donc

√n

σ (Xn−m)∼ N(0,1). On a donc P

√ n σ

X_n−m < A

= 1−α oùAest tel que

Z ∞ A

e^−t2/2 dt

√

2π = α 2

(siα= 0.05,A'1.96) ce qui donne P

m∈

X_n−σA

√n, X_n+σA

√n

= 1−α.

Autrement dit,[X_n−^√σA_n, X_n+^σA√_n]est un intervalle de confiance de niveau1−αpourm. On a choisi cet intervalle symétrique du fait de la symétrie de la loiµ.

Par le théorème central limite, c’est de plus un intervalle de confiance asymptotique pourmdès queµa pour variance σ².

DansR^d, siµ=N(m, σ²Id)alorsXn∼ N(m, σ²/nId), et comme cette loi est invariante par les rotations de centre mil est naturel de chercher une région de confiance qui soit une boule. On a

1

σ²kXn−mk²=(X₁−m)²

σ² +· · ·+(X_n−m)² σ² ∼χ²_n

donc siR_n>0 est telle queP(Z_n < R_n) = 1−αoùZ_n∼χ²_n (R_n est de l’ordre de1/n), alors P(kXn−mk ≤σp

Rn) = 1−α, de sorte que la boule de centreX_n et de rayon σ√

R_n est une région de confiance de niveau1−αpour m.

Si maintenantµ=N(m,Γ), et queA est une matrice carrée telle queΓ =A^tA, alorsA⁻¹(X_n−m)∼ N(0,1/nI_d) donc (avec la même valeurR_n que ci-dessus)

P(kA⁻¹(X_n−m)k ≤p

R_n) = 1−α d’où

P(m∈A·B(X_n,p

R_n)) = 1−α.

Autrement dit, l’ellipsoïde image de la boule de centre Xn et de rayon√

Rn par l’application Aest une région de confiance pourmde niveau1−α.

Moyenne inconnue. Donnons un intervalle de confiance pour la variance lorsque la moyenne est inconnue. On utilise la conséquence importante du théorème de Cochran qui suit :

Proposition 3. SiX1, . . . , Xn des variables aléatoires i.i.d. de loiN(m, σ²), alors les variables aléatoiresXn et S_n² sont indépendantes,

X_n∼ N

m,σ² n

et n−1

σ² S_n²∼χ²_n−1.

Démonstration. On considère la décompositionR^d =E⊕E^⊥ oùE =R1(1étant le vecteur de Rⁿ dont toutes les composantes valent1. En notantX =^t X₁ · · · X_n

, on a :

P_E(X) =X·1 k1k²1=





 X_n

... Xn





 et P_E⊥(X) =X−P_E(X) =







X₁−X_n ... Xn−Xn





,

donc Xn ne dépend que de PE(X) et S²_n = _n−1¹ kP_E⊥(X)k² ne dépend que deP_E⊥(X). Le théorème de Cochran conclut, avec le fait queE^⊥ est de dimensionn−1.

Donc siµ=N(m, σ²), en choisissant 0≤a_n< b_n tels que P(a_n< Z_n< b_n) = 1−αoùZ_n ∼χ²_n−1, on a

P n−1

σ² S_n−1² ∈[a, b]

= 1−α

et donc

P

σ²∈ n−1

b S_n²,n−1 a S_n²

= 1−α,

ce qui donne un intervalle de confiance pourσ(sans connaîtrem).

Remarque. La loiχ²nn’est pas symétrique (elle est portée parR⁺). Un choix naturel d’intervalle de confiance consiste à prendrean, bntels queP(Zn< an) =^α₂ etP(Zn> bn) =^α₂. Notons queanetbntendent vers+∞avecn.

Variance inconnue. On supposeµ=N(m, σ²)avecm et σ² inconnues. L’intervalle de confiance pourm donné précédemment fait intervenirσ. Pour éviter cela, on peut borner σ, ou l’approcher.

Si µ=B(p) (réponses oui/non à un sondage), alorsσ² =p(1−p)≤ ¹₄. Reprenant l’intervalle de confiance asymp- totique de niveau 1−α précédent, on en déduit l’intervalle asymptotique suivant (plus large, mais de peu pourp proche de1/2) :

X_n− A 2√

n, X_n+ A 2√ n

.

Siµest quelconque de carré intégrable, on souhaite remplacerσ²parS²_ndans l’intervalle de confiance asymptotique donné plus haut. Pour cela, il suffit de justifier qu’on peut le faire dans le théorème central limite :

√n

pS_n²(X_n−m)−→^(loi)

n N(0,1).

C’est effectivement vrai car(S_n²)n converge presque-sûrement versσ² et on dispose du

Proposition 4 – Lemme de Slutzky. Si les suites (Xn)n et (Yn)n convergent respectivement en loi vers une variable aléatoire X et vers une constante c, alors la suite (Xn, Yn)n des couples converge en loi vers(X, c). Ainsi, f(Xn, Yn)converge en loi versf(X, c)quand n→ ∞pour toute fonction continuef.

Ainsi, l’intervalle

"

Xn−Ap S_n²

√n , Xn+Ap S_n²

√n

# ,

oùAest tel queP(|Z| ≤A) = 1−αpour Z∼ N(0,1), est un intervalle de confiance asymptotique de niveau1−α pourm, qui ne dépend pas deσ.

Si µ =N(m, σ²), cet intervalle de confiance n’est pas exact puisque la loi de

√n

√

S_n²(X_n−m) n’est pas gaussienne.

Mais l’importance pratique de cette situation justifie l’intérêt d’un intervalle de confiance exact. Par la Proposition 3,_√

n

σ (Xn−m)∼ N(0,1), ⁿ⁻¹_σ2 S_n²∼χ²_n−1 et ces variables aléatoires sont indépendantes, donc (par définition)

√n

pS_n²(Xn−m) =

√n

σ (Xn−m) q1

σ²S_n²

∼t_n−1

(loi de Student àn−1degrés de liberté, voir appendice). Si on choisitAntel queP(|Zn| ≤An) = 1−αoùZn∼tn−1, alors l’intervalle donné plus haut, avecA_n au lieu deA, est un intervalle de confiance (exact) de niveau 1−αpour m. Quand n→ ∞, A_n → A, donc cet intervalle de confiance exact (mais plus difficile à calculer) n’est intéressant que pour de petites valeurs den.

2.3 Tests de valeur

Moyenne Pour une valeurm0donnée, on souhaite tester l’hypothèseH0: «m=m0» contre l’une des hypothèses H1: «m6=m0»,H^>₁ : «m > m0» ouH^<₁ : «m < m0».

Supposonsσ² inconnue (le cas où σ² est connue fonctionne de même, avecN(0,1)au lieu detn−1 et σ² au lieu de S_n²). On a vu que, sousH0,

T :=

√n

pS_n²(X_n−m₀) =

√n

σ (X_n−m₀) q1

σ²S_n²

∼t_n−1

donc, sousH0,P(|T| ≤An) = 1−αoùAn est tel queP(Zn≤An) = 1−αsiZn∼t_n−1.

Le test « On rejetteH0si|T|> An» est un test de niveauαdeH0 contre l’une quelconque des hypothèsesH1,H^>₁ ouH₁^<.

De plus, sousH^>₁,Xn−m0→m−m0>0doncT →+∞p.s., ce qui donneP(|T| ≤An)→n0. SousH^<₁,T → −∞

p.s., et sousH1 l’un ou l’autre a lieu. Dans tous les cas, le test est consistant.

La différence entre les hypothèses alternatives est dans la puissance du test. Si l’hypothèse alternative est vraie, un bon test doit rejeter l’hypothèse avec grande probabilité. On sait que c’est vrai asymptotiquement. Préciser l’hypothèse alternative permet de raffiner légèrement le test :

– Sous H^>₁, l’hypothèse est rejetée du fait de grandes valeurs de T, donc il est inutile d’avoir une région de rejet située à gauche dem. Le test sera meilleur si on choisit la zone d’acceptation de la forme]− ∞, A] : « On rejette H₀siT > A⁺_n » oùA⁺_n est tel queP(Z_n≤A⁺_n) = 1−αsiZ ∼t_n−1. On parle de test unilatéral.

– Si l’hypothèse alternative est H^<₁, on choisit de même le test « On rejette H0 si T > A⁻_n » où A⁻_n est tel que P(Zn≥A⁻_n) = 1−αsiZ∼t_n−1. (En fait,A⁻_n =−A⁺_n)

– ContreH1, on utilise la version initiale : un test bilatéral.

Variance On souhaite testerH0 : «σ=σ0» contreH1: «σ6=σ0», H^<₁ : «σ < σ0» ouH^>₁ : «σ > σ0».

On applique la même principe que ci-dessus avec la variable C=n−1

σ₀² S_n². On sait que, sousH0,C∼χ²_n−1, etC sera plus grande sousH^>₁, donc :

– pour un test bilatéral (H0 contreH1), on choisita_n, b_n tels queP(a_n< Z_n< b_n) = 1−αsiZ_n∼χ²_n−1; – pour un test deH₀contre H^>₁, on choisita_n tel que P(a_n < Z_n) = 1−α;

– pour un test deH₀contre H^<₁, on choisitb_n tel queP(Z_n > b_n) = 1−α.

Alors le test « On rejetteH₀siC /∈[a_n, b_n]» (resp.C < a_n,C > b_n) est un test de niveauαdeH₀contreH₁(resp.

H^>₁,H^<₁).

De plus, on peut justifier que ce test est consistant. De même qu’avant, le premier test est en fait consistant pour chacune des trois hypothèses, mais moins puissant que les versions unilatérales dans le cas deH^>₁ et H^<₁. On note qu’ici C ∼n^σ_σ²2

0

tend vers+∞ p.s. quel que soit σ, donc la consistance n’est pas aussi directe que pour le test de valeur de la moyenne. Elle se déduit du fait quea_n∼b_n∼net ^C_n →_n ^σ_σ²2

0

p.s., donc sous H₁ l’intervalle[a_n/n, b_n/n]

ne contient presque sûrement plus ^C_n pourngrand.

2.4 Tests de comparaison

On suppose que l’on dispose de deux échantillons X1, . . . , Xn de loi N(mx, σ²_X) et Y1, . . . , Yp de loi N(mY, σ²_Y) indépendants entre eux. On souhaite tester l’égalité de leurs moyennes et variances.

Comparaison de moyennes Pour le test qui suit, on suppose les variances égales (on verra juste après comment tester cette hypothèse) :σ=σX =σY. En revanche, on suppose σinconnue.

On souhaite tester H0 : «mX =mY » contre H1 : «mX 6= mY », ou contre H^X>Y₁ : «mX > mY », ou contre H^X<Y₁ : «mX< mY ».

Commem_X−m_Y est estimé parX_n−Y_p, on peut chercher un test basé sur les valeurs de cette variable. Elle suit la loiN(m_X−m_Y,^σ_n²+^σ_p²). Il faut se ramener à une loi connue, ne dépendant pas deσ. Siσétait connue, on dirait que, sousH0,

q₁

n +¹_p

σ Xn−Yp

∼ N(0,1).

Ici, on va utiliser comme d’habitudeS_X² et S_Y² (les variances empiriques) pour remplacer σ.

On applique le théorème de Cochran à la décomposition orthogonaleR^n+p=EX⊕EY ⊕F et au vecteurZ, où

EX =R



















 1 ... 1 0 ... 0





















, EY =R



















 0

... 0 1 ... 1





















, F= (EX+EY)^⊥ etZ =



















 X1

... Xn

Y1

... Y_p



















 .

Alors (comme dans la proposition 3)X_n ne dépend que deP_EX(Z), Y_p ne dépend que deP_EY(Z)et kPF(Z)k²= (n−1)S_X² + (p−1)S_Y², donc ces trois quantités sont indépendantes, et la dernière a la loi de σ²C où C∼χ²_n+p−2 cardimF =n+p−2. Par suite, la variable aléatoire

T = q₁

n +¹_p Xn−Yp q(n−1)S_X²+(p−1)S_Y²

n+p−2

suit, sousH0, la loi tn+p−2. On en déduit les tests de niveauα:

– De H0 contre H1 : « On rejette l’hypothèse m_X = m_Y si |T| > A», où A est tel que P(C > A) = α/2 si C∼χ²_n+p−2.

– DeH0contre H^X>Y₁ : « On rejette l’hypothèsemX=mY siT > A», oùA est tel queP(C > A) =α.

– DeH0contre H^X<Y₁ : « On rejette l’hypothèsemX=mY siT <−A», oùAest tel queP(C > A) =α.

SimX6=mY,T diverge vers ±∞p.s. quandn, p→ ∞d’où la consistance (comme pour les tests précédents).

Comparaison de variances On souhaite tester l’hypothèseH0 : «σX =σY » contreH1: «σX6=σY (ou . . . ou . . . ).

On se rappelle (proposition 3) que ⁿ⁻¹_σ2 X

S_X² ∼χ²_n−1, ^p−1_σ2 Y

S²_Y ∼χ²_p−1et ces variables sont indépendantes par hypothèse, donc sousH₀ (c-à-d. siσ_X =σ_Y), la variable

F =

n−1

σ²_X S²_X/(n−1)

p−1

σ²_Y S_Y²/(p−1) = σ_Y² σ²_X

S_X² S_Y² = S_X²

S_Y² suit (par définition) la loiF(n−1, p−1)(loi de Fischer-Snedecor).

On a alors le test de niveau α suivant : « On rejette l’hypothèse σ_X = σ_Y si F /∈ [a, b]» où a, b sont tels que P(Z < a) =P(Z > b) = ^α₂ siZ ∼F(n−1, p−1). (Et on a les tests unilatéraux pour les hypothèses alternatives correspondantes).

3 Lois discrètes : tests du χ

3.1 Test du χ

d’adéquation

On suppose que µ est une loi sur l’ensemble fini {1, . . . , r}. Autrement dit, il existe un vecteur (p₁, . . . , p_r) de probabilité (p_k≥0 etp₁+· · ·+p_r= 1) tel que

P(X1=k) =pk pourk= 1, . . . , r.

Notons que l’on peut estimerp1, . . . , prà l’aide de ˆ

pk =Nk

n oùNk= Card{1≤i≤n|Xi=k} pourk= 1, . . . , r.

(N_k est l’effectif de laclasse k). Ceci revient à estimer la moyenne des vecteurs aléatoires

Zi=





 1_{Xi=1}

... 1_{Xi=k}





.

On souhaite tester l’hypothèse H0 : «p=q» oùq = (q1, . . . , qr) est un vecteur de probabilité donné, contre H1 :

«p6=q».

On pourrait penser à un test portant sur la valeur dePr

k=1(ˆpk−qk)². Afin de définir une statistique qui ne dépende pas deq(et dont on peut donc faire des tables pour ajuster le niveau du test), il faut cependant pondérer les termes d’une certaine manière : le test portera sur

D(ˆp, q) =

r

X

k=1

(ˆpk−qk)² qk

= 1 n

r

X

k=1

(Nk−nqk)² nqk

.

On prouve à l’aide du théorème de Cochran (cf. ci-dessous) que : sousH0, nD(ˆp, q)−→^(loi)

n χ²_r−1.

On remarque aussi que, siq6=p,D(ˆp, q)admet une limite>0 p.s. doncnD(ˆp, q)→n+∞p.s.

D’où un test consistant de niveauα: « On rejette l’hypothèsep=qsinD(ˆp, q)> A» oùAest tel queP(C > A) =α avecC∼χ²_r−1.

En pratique, on demande souvent d’avoirN_k ≥5 pour toutkafin que le test soit significatif. Si ce n’est pas le cas, on peut par exemple regrouper des classes.

Remarque. Ce test porte sur l’adéquation avec une loi à support fini : par exemple, pour tester siX1,. . . ,Xn suivent une loi binomiale de paramètre (n, p) donné. Mais on peut aussi l’utiliser pour tester l’adéquation avec une loi à support infini en regroupant les valeurs pour se ramener à un support fini : par exemple, pour une loi surR, les classes pourraient être]− ∞,−N],]−N,−N+ 1[,. . . ,]N−1, N],]N,+∞[, et pour une loi surN,{0},. . . ,{N},{N+ 1, . . .}(avec toujours la possibilité de regrouper des classes afin d’éviter les effectifs trop faibles).

Preuve du test. On se place désormais sousH0 :p=q. On introduit les vecteurs

Yi=











1_{Xi=1}−q₁

√q₁

.. .

1_{Xi=r}−q_r

√









 .

Ces variables aléatoires Y1, . . . , Yn sont i.i.d. SousH0, elles sont centrées (espérance nulle) et le théorème central limite (multidimensionnel) donne

√1

n Y1+· · ·+Yn

(loi)

−→n W

oùW ∼ N(0,Γ),Γétant la matrice de covariance deY1. Commex7→ kxk² est continue surR^r, on en déduit

nD(ˆp, q) =

√1

n Y1+· · ·+Yn

2 (loi)

−→n kWk².

Il reste à déterminer la loi dekWk² siW ∼ N(0,Γ). CalculonsΓ = Var(Y1). Pourk= 1, . . . , r,

Var

1{X₁=k}−qk

√qk

= 1 qk

Var 1{X₁=k}

=qk(1−qk) qk

= 1−qk

et, pour1≤k6=l≤n,

Cov

1{X₁=k}−qk

√qk

,1{X₁=l}−ql

√ql

= 1

√qkql

Cov 1{X₁=k},1{X₁=l}

= −qkql

√qkql

=−√ qkql

donc

Γ =I−√ q^t(√

q) où √

q=







√q1

..

√. qr





.

On note que√

qest un vecteur unitaire. Si bien queΓest la matrice de la projection orthogonale sur√

q^⊥: pour toutx∈R^r, P^√_q⊥(x) =x−(x·√

q)√

q =x−√ q^t(√

q)x= Γx. En particulier,Γ = Γ² = Γ^tΓdoncW a même loi queΓU =P^√_q⊥(U) oùU ∼ N(0, Ir). Et, par le théorème de Cochran,kWk²∼χ²r−1 cardim(√

p^⊥) =r−1. D’où la conclusion : la limite vue plus haut s’écrit

sousH0, nD(ˆp, q)−→^(loi)

n χ²r−1.

3.2 Test du χ

d’indépendance

On suppose que µ est une loi sur {1, . . . , r} × {1, . . . , s}, c’est-à-dire que l’échantillon est (X1, Y1), . . . ,(Xn, Yn)où Xi est à valeurs dans{1, . . . , r}et Yi dans{1, . . . , s}.

On souhaite tester l’hypothèse H0 : «X1 et Y1 sont indépendants » (autrement dit, µ est une loi produit) contre H1: «X1 etY1 ne sont pas indépendants ».

S’il y a indépendance, alors pkl = P(Xi =k, Yi = l) = p_k·p_·l où p_k· =P(Xi =k)et p_·l =P(Xi = l). Or on peut estimer d’un côtépkl parpˆkl= ^N_n^kl et d’autre partpk·etp·k parpˆk·=^N_n^k· etpˆ·l=^N_n^·l où

Nkl = Card{i|(Xi, Yi) = (k, l)}, N_k·= Card{i|Xi=k} et N_·l= Card{i|Yi=l}.

Le test utilise la quantité

D= X

1≤k≤r

X

1≤l≤s

(ˆp_kl−pˆ_k·qˆ_l·)² ˆ

p_k·pˆ_·l = 1 n

X

k,l

Nkl−¹_nNk·N·l2 Nk·N·l

n

Le résultat (dont la preuve est délicate) est le suivant : sousH0, nD−→^(loi)

n χ²_{(r−1)(s−1)}

etnD→+∞p.s. sousH1. On a donc le test consistant de niveauαsuivant : « On rejette l’hypothèse d’indépendance sinD > A» oùAest choisi tel queP(C > A) =αsiC∼χ²_{(r−1)(s−1)}.

Là encore, on suppose en pratique queNkl≥5pour appliquer le test.

3.3 Autres tests du χ

Les tests d’adéquation et d’indépendance sont les plus utilisés. Il en existe beaucoup d’autres tests « duχ²» : test d’homogénéité (est-ce que les deux échantillons à valeurs dans un ensemble fini ont même loi ?), test de symétrie (est-ce que les couples(X_i, Y_i)et(Y_i, X_i)ont même loi (sur un ensemble fini) ?),...

Remarque. On parle de loi du chi-deux à r degrés de libertés. On peut comprendre cette expression : χ²_r est la loi d’un vecteur formé der composantes gaussiennes standard indépendantes (donc « libres »). Par exemple, ⁿ⁻¹_σ S²n∼χ²n−1

provient de la projection d’un vecteur gaussien sur un sous-espace de dimensionn−1, ce qui se produit en estimant la moyenne par Xn: les composantesX1−Xn,. . . ,Xn−Xn sont liées par la condition que leur somme est nulle. On peut retrouver, au moins intuitivement, les nombres de degrés de liberté dans les tests duχ²: pour l’adéquation, les composantes p1, . . . , pr somment à 1, d’où la perte d’un degré de liberté ; et pour l’indépendance, la loiµest donnée par celle de chaque