Tests statistiques paramétriques usuels

(1)

Chapitre 6

Tests statistiques paramétriques usuels

Chap 6.

1.  Introduction

2.  Tests paramétriques usuels à partir d’un échantillon

3.  Notion de puissance de test 4.  Tests de comparaison

1.  Introduction

Vérité

Décision prise H

₀

H

₁

H

₀

1- α β

H

₁

α 1- β

On est souvent amenés à prendre des décisions sur la base d’un ensemble d’observations. On fera un choix entre deux propositions contradictoires: les hypothèses H₀ et H₁ (nulle et alternative

respectivement), qui dépendent des paramètres théorique de la population.

Pour trancher, nous devons nous baser sur les obs. disponibles, i.e. les échantillons, avec 2 types d’erreurs possibles:

•  Risque de 1ere espèce α=P(H₀ rejetée/H₀ vraie) Fixé à une faible valeur (5% ou 1% généralement)

•  Risque de 2^e espèce β=P(H₀ non rejetée/H₁ vraie)

•  1-β = puissance du test = P(H1 acceptée/ H1 vraie)

Si H0 rejetée, on dit que le test est significatif, le risque de cette décision, α, étant connu. Risque β souvent inconnu: on ne peut alors pas dire qu’on accepte H₀ (test non significatif).

Variable de décision: variable aléatoire dont on connait la loi de probabilité; au moins si H₀ est vraie.

Région critique: ensemble des valeurs de la variable aléatoire de décision qui permettent de refuser H₀.

Variable de décision: variable aléatoire dont on connait la loi de probabilité; au moins si H₀ est vraie.

Région critique: ensemble des valeurs de la variable aléatoire de décision qui

permettent d’écarter H₀ au profit de H1.

(2)

Déroulement d’un test:

1.  Choix de H0 et H1

2.  Choix de la variable de décision (statistique du test)

(choisie de façon à apporter le max d’info sur le pb posé et sa loi de probabilité sera différente selon que l’hypothèse nulle ou alternative est vraie.)

3.  Choix de α petit (typiquement 1% ou 5%)

4.  Calcul de la région critique en fonction de α et de la statistique du test 5.  Calcul de la valeur observée de la variable de décision

6.  Comparaison et conclusion: Rejet de l’hypothèse si valeur calculée ∈ région critique

Test paramétrique: son objet est de tester une hypothèse relative à un ou plusieurs paramètres d’une variable aléatoire (e.g. moyenne, variance) suivant une loi spécifiée ou pas.

Test simple:

H: θ = θ₀, où θ₀ est une valeur isolée de θ.

Test composite: H:

θ ≠ θ

₀

, θ > θ

₀ ^ou

θ < θ

₀

Test bilatérale: région critique est séparée en 2 régions distinctes (on ne se soucie pas du signe);

Test unilatéral: région critique ne correspond qu’à une seule région connexe de l’espace des valeurs de la variable (on se soucie du signe).

(3)

Chap 6.

2. Tests paramétriques usuels à partir d ’ un échantillon

2.1) Comparaison d’une moyenne à une moyenne théorique donnée

On considère une variable aléatoire X ~ N(µ,σ) avec µ inconnue.

Note: si X n’est pas Gaussienne mais que l’échantillon est suff. grand (n> 30);

le théorème central limite (TCL) s’applique

=> méthodes indiquées pour une variable Gaussienne sont applicables.

Test unilatéral:

^H0:^µ⁼^µ⁰

H1: µ > µ₀

σ connu, µ estimé par la moyenne empirique et:

La statistique du test est donc: et si H0 vraie (cad si µ=µ₀).

( )

₍₀_,₁₎ ₍ _, ₎

/

2

N n X

n N

X _n _n σ

σ µ

µ ⎯⎯ →⎯⎯ ⎯⎯ →⎯⎯

− →∞ ou →∞

) , (

~

2

N n

X σ

µ n

Z X σ /

µ

= − ^Z ^~ ^N ⁽ ⁰ ^, ¹ ⁾

Région critique:

On peut ici utiliser la table de la loi normale N(0,1) Et H₀ est rejetée si

( ) ( )

⎟⎟

⎠

⎞

⎜⎜

⎝

⎛ −

≥

=

⎟⎟

⎠

⎞

⎜⎜

⎝

⎛ − =

− ≥

=

≥

=

≥

=

n Z x

P

n x

n P X

x X P vraie H

x X P

/

/ / / /

/ 0 lim

lim 0 0

lim 0

lim

σ µ

µ σ µ

µ σ

µ µ µ α

Quantile e_1-_α t.q. P(Z>=Z_lim)=α (H₀ rejetée)

P(Z<=e_1-_α)=1- α (H₀ non rejetée)

e n X

soit x

X σ

µ + ₋_α

≥

≥ _lim ₀ ₁

(4)

Test unilatéral:

^{H0: µ = µ}H1: µ > µ⁰₀

σ inconnu, µ estimé par la moyenne empirique et:

La statistique du test est alors: avec

(démo: cf chap. 4)

S n

T X /

µ

= − ∑ ( )

=

− −

=

n i

i

X

n X S

1 2 2

1 1

H₀ vraie, variable T suit une loi de Student à n-1 degrés de liberté.

On suit le même raisonnement que précédemment et H₀ est rejetée si

n t S

X soit x

X ≥ _lim ≥ µ₀ + _n₋₁_,₁₋_α

Remarque: même raisonnement pour tester le test unilatéral: H0: µ = µ₀ H1: µ < µ₀

n t S

X soit x

X ≤ _lim ≤ µ₀ − _n₋₁_,₁₋_α H₀ est rejetée si

Dans le cas d’une variance inconnue e n

X soit x

X σ

µ − ₋_α

≤

≤ _lim ₀ ₁ Dans le cas d’une variance connue

Note: si n>30, grand échantillon => variable de décision = Z avec σ≈S (estimation)

(5)

Test bilatéral:

^H0:_H1:^µ_µ⁼_≠_µ^µ₀⁰

σ connu, µ estimé par la moyenne empirique et:

La statistique du test est donc: et si H0 vraie.

) , (

~

²

N n

X σ

µ n

Z X σ /

µ

= − ^Z ^~ ^N ⁽ ⁰ ^, ¹ ⁾

( ) ( )

⎟⎟

⎠

⎞

⎜⎜

⎝

⎛ −

− ≤

≥

=

≤

≥

=

≤

≥

=

n Z x

n ou Z x

P

x X ou x

X P vraie H

x X ou x

X P

/ /

0 0 inf

sup

0 inf

sup 0

inf sup

σ µ σ

µ

µ µ α

ou

⎟ ⎟

⎠

⎞

⎜ ⎜

⎝

⎛ −

≥

= n

Z x

P /

0 lim

σ

α µ

_{Quantile e}_1-α/2 t.q. P(|Z|<=e_1-α/2)=1- α

Si on connait σ, H0 est donc rejetée si:

1 α 2

≥ e −

Z

ou si

n

µ σ

µ _α σ _α

1 2 0

1 2

0 + − ≤ − −

≥ e ou X e

X

1 2 ) (

1 )) (

1 ( ) (

1 ) (

α

α α

−

=

≤

−

=

≤

−

≤

−

=

≤

−

u Z P

u Z P u

Z P

u Z u P

(6)

Test bilatéral:

^H0:_H1:^µ_µ⁼_≠_µ^µ₀⁰

σ inconnu, µ estimé par la moyenne empirique et:

La statistique du test est donc: avec

n S T X

/ µ 0

= −

T suit une loi de Student à n-1 degrés de liberté.

Si on ne connait pas σ, H0 est donc rejetée avec un risque α si:

1 2

;

1 α

−

≥ −

t n

Z

ou si

n

t S X

S ou t

X n n

1 2

; 0 1

1 2

;

0 1 α µ α

µ + − − ≤ − − −

≥

( )

∑

=

− −

=

n i

i

X

n X S

1 2 2

1 1

⎟⎟

⎟

⎠

⎞

⎜⎜

⎜

⎝

⎛

≥

= − −

1 2 ,

1 α

α P Z t n

n t S

x n

1 2 , 0 1

lim µ α

−

± −

=

(7)

2.2) Comparaison d’une proportion observée à une proportion théorique donnée

Test bilatéral:

^H0:_H1:^π_π⁼_≠_π^π₀⁰

Nous considérons ici une variable aléatoire X prenant des valeurs binaires (0 ou 1 par exemple) et suit une loi de Bernouilli de paramètre π (fréquence empirique).

On observe un échantillon de n variables aléatoires indépendantes.

Si nπ > 5, alors X ~ N(π, π(1- π )).

La statistique du test est alors: avec fréquence observée

n Z X

) 1

( ₀

0

0 π π

π

−

= − X = p ₀

H0 vraie si Z suit une loi normale N(0,1) et on rejette H0 si:

1 α 2

≥ e −

Z

Test unilatéral:

_H1:^H0:^π_π_>⁼^π_π⁰₀_(resp._π_<_π₀₎

On rejette H0 si:

Z ≥ e

₁₋

_α ( resp . Z ≤ e

₁₋

_α )

(8)

2.3) Comparaison d’une variance à une variance théorique

Moyenne connue (peu fréquent): H0: σ = σ

₀

H1: σ > σ

₀

Nous considérons ici des variables aléatoires X suivant une loi normale N(µ,σ²).

La statistique du test est alors:

H0 vraie si

2 2 2

nS n

σ ^→ χ

( )

∑

=

−

=

n i

X

i

S n

1

2

1 µ

Note: 1/n et non 1/(n-1) car on veut tester si notre valeur obs est égale à la variance théorique.

Note:

( ) ( )

2 2

1

2 2

1 2

2

1 2 2

σ µ

σ σ

χ µ

^nS

n X n

Z X

n i

i n

i

i n

i

n

∑

ⁱ

∑ ∑

=

− =

=

Risque de 1ere espèce – région critique:

( ) _⎟ ^⎟

⎠

⎞

⎜ ⎜

⎝

⎛ ≥

=

≥

= ₂ ² _, ₁ ₋

0 2 0

2 lim / χ _α

σ σ σ

α ^P ^S ^k ^P ^nS _n

2 , 1 0 2

2 σ χ α

≥ _n −

S n

(9)

Moyenne inconnue (plus fréquent): H0: σ = σ

₀

H1: σ > σ 0

H0 vraie si

( ) 2

2 1

1 2

→ −

− S n

n χ

σ

( )

∑

=

− −

=

n i

X

i

S n

1

2 2

1 1 µ

Risque de 1ere espèce

– région critique:

( ) ⁽ ⁾ _⎟ ^⎟

⎠

⎞

⎜ ⎜

⎝

⎛ − ≥

=

≥

= ₂ ² ₋ ₁ _, ₁ ₋

0 2 0

2 lim 1

/ χ _α

σ σ σ

α ^P ^S ^k ^P ⁿ ^S _n

2 1 , 1 0 2

2 1 χ ^α

σ − −

≥ − _n S n

Note: d° de liberté en moins car on utilise les obs pour calculer S².

Cas bilatéral:

Même méthode mais on

considère la région critique sur les 2 bords de la courbe de Chi2.

2 1 2 , 1 0 2

2 2

, 2 1 0 2

2

1 1 ^α σ χ ^α

σ χ

−

− ≥ −

≤ −

n

n et S n

S n

(10)

β

α

Chap 6.

3. Notion de puissance de test

Puissance du test = P(H1 acceptée/ H1 vraie)= 1-β

Si nous procédons à un test du type: H0: µ = µ0 et H1: µ > µ0, c’est-à-dire avec H1 composite, le

risque β ne pourra pas être calculé explicitement et donc on ne pourra pas calculer la puissance du test.

Seul cas pour lequel nous pouvons calculer β et donc la puissance de test: cas où H1 est fixé.

On testera par exemple la moyenne d’une variable Gaussienne avec:

H0: µ = µ0 et H1: µ = µ1.

( ) ( ) _⎟ ^⎟

⎠

⎞

⎜ ⎜

⎝

⎛ −

≥

=

≥

=

= S n

T x P x

X P vraie

H refusée H

P

₀

/

₁ _lim

/

₁

'

^lim

/ µ

¹

µ µ β

Loi de Student à n-1 d° de liberté

(11)

β

α

différence entre les moyennes de test µ₀ et µ₁, même risque α

risque β (-) de risque de se tromper en ne rejetant pas H₀.

puissance du test

risque α de se tromper en rejetant H0 pour la même différence entre les moyennes de test

risque β (-) de risque de se tromper en ne rejetant pas H₀. puissance du test

Uniquement si

taille de l’échantillon n

Propriété utile pour déterminer la taille minimale d’un échantillon pour détecter des différences entre des moyennes théoriques avec un faible risque d’erreur.

(12)

Chap 6.

4. Tests de comparaison d ’ échantillons

Jusqu’à présent, nous avons considéré la différence entre les propriétés d’un échantillon pour décider de la validité d’hypothèses portant sur des paramètres théoriques.

Les tests statistiques permettent aussi de répondre à des questions concernant les différences et similitudes entre différents échantillons.

Plus particulièrement, on cherchera ici à répondre à la question suivante:

si nous considérons deux échantillons différents de taille respectivement n_X et n_Y, prélevés indépendamment l’un de l’autre, peut-on affirmer qu’ils sont issus de la même population (hypothèse nulle) ou qu’ils proviennent chacun de deux populations distinctes ?

(13)

4.1) Comparaison de 2 moyennes observées pour des grands échantillons

Considérons 2 variables aléatoires X et Y suivant des lois qcq, avec E(X)=µ_X, var(X)=σ_X² et E(Y)=µ_Y et var(Y)=σ_Y²

• 1er échantillon: n_X observations de X, avec n_X>30.

• 2^e échantillon: n_Y observations de Y, avec n_Y>30.

Variable de décision:

D = X − Y

Hypothèses ou

Y X

H H

µ µ

≠

= :

:

1 0

0 :

1 0

≠

−

=

−

Y X

H H

µ µ

La statistique du test est donc:

Y Y X

X

n S n

S Y Z X

2 2

+

= −

et si H₀ est vrai alors:

Z ~ N ( 0 , 1 )

Le risque de 1ere espèce étant fixé (α=5% ou 1%),

on peut déduire la région critique:

⎟⎟

⎟

⎠

⎞

⎜⎜

⎜

⎝

⎛

≥

= −

1 α 2

α ^P ^Z ^e

Note: c’est un test bilatéral si on ne s’intéresse pas au sens de la différence entre les moyennes.

Y Y X

X

n S n

e S Y X ou

e

Z ² ²

1 2

1 2 − ≥ +

≥ − α − α

Remarque: si on veut tester:

On rejette H0 si:

0 :

; 0

: ₁

0 _X − _Y = H _X − _Y >

H µ µ µ µ

Y Y X

X n S n

S e

Y

X − ≥ ₁₋_α ² / + ²/

(14)

4.2) Comparaison de 2 moyennes observées pour des échantillons Gaussiens de taille qcq et de même variance

Considérons 2 variables aléatoires X et Y suivant des lois qcq, avec E(X)=µX, var(X)=σ² et E(Y)=µY et var(Y)=σ²

• 1er échantillon: n_X observations de X, avec n_X qcq.

• 2^e échantillon: n_Y observations de Y, avec n_Y qcq.

D = X − Y

Hypothèses ou

Y X

H H

µ µ

≠

= :

:

1 0

0 :

1 0

≠

−

=

−

Y X

H H

µ µ

Y X n S n

Y T X

1 1 +

= −

et si H₀ est vrai alors T suit une loi de Student à nx+ny-2 d° de liberté.

Le risque de 1ere espèce étant fixé (α=5%

ou 1%), on peut déduire la région critique:

⎟⎟

⎟

⎠

⎞

⎜⎜

⎜

⎝

⎛

≥

= + − −

1; 2

2 α

α P T t nx ny

Note: c’est un test bilatéral si on ne s’intéresse pas au sens de la différence entre les moyennes.

Y ny X

nx ny

nx ou X Y t S n n

t

T 1 1

1; 2 2 2

1;

2 − ≥ +

≥ + − − α + − − α

Remarque: ce test n’est valable que si les variances théoriques sont égales, il est donc nécessaire de tester en 1^er lieu cette hypothèse!

avec

2 ) 1 (

) 1

(

² ²

2

− +

= −

Y X

Y Y

X X

n n

S n

S

S n

(15)

4.3) Comparaison de 2 proportions observées

Considérons 2 variables aléatoires X et Y suivant des lois de Bernouilli de paramètres théoriques π_X et π_Y.

• 1er échantillon: n_X observations de X, avec une prop. obs. p_X;

• 2^e échantillon: n_Y observations de Y, avec une prop. obs. p_Y. Bernouilli: E(X)= π_X ; var(X)= π_X(1- π_X), même chose pour Y.

D = X − Y

Hypothèses ou

Y X

H H

π π

≠

= :

:

1 0

0 :

1 0

≠

−

=

−

Y X

H H

π π

Y X

Y Y X X

Y X

n n

p n p

p n où n

p n p

p Z p

+

= +

⎟ ⎟

⎠

⎞

⎜ ⎜

⎝

⎛ +

−

= − ₀

0 0 1 1

) 1

(

et si H₀ est vrai alors Z suit une loi normale N(0,1).

Le risque de 1ere espèce étant fixé (α=5%

⎟⎟

⎟

⎠

⎞

⎜⎜

⎜

⎝

⎛

≥

= −

1 α 2

α ^P ^Z ^e

^{Note: c}

’est un test bilatéral si on ne s’intéresse pas au sens de la différence entre les moyennes.

( ) _⎟ ^⎟

⎠

⎞

⎜ ⎜

⎝

⎛ +

−

≥

−

Y − X Y

X

p e p p n n

p 1 1

1

₀

0 1

α

2

Remarque: ce test n’est valable que si les proportions observées vérifient:

; 5 ; ( 1 ) 5 ; ( 1 ) 5

5

₀ ₀ ₀

0

≥ n p ≥ n − p ≥ n − p ≥

p

n

_X _Y _X _Y

(16)

4.4) Comparaison de moyennes observées pour deux échantillons appariés.

On considère alors les mêmes individus dans deux expériences différentes.

e.g.: test médicaments sur les mêmes patients.

Variable de décision: les observations sont faites sur les mêmes individus et ne sont donc pas indépendantes. Dans ce cas on considère des paires d’observations et leur différence:

i i

i

X X

d =

₁_,

−

₂_,

Hypothèses ou

Y X

H H

µ µ

≠

= :

:

1 0

0 :

1 0

≠

−

=

−

Y X

H H

µ µ

T = d

S

_d

/ n où d = 1

n ( x

_1,i

− x

_2,i

)

i=1 n

∑ ^et ^S

^d²

⁼ _n ¹ ₋ ₁ ( ^d

ⁱ

⁻ ^d )

²

i=1 n

∑

et si H₀ est vrai alors T suit une loi de Student à n-1 d° de liberté.

Le risque de 1ere espèce étant fixé (α=5%

⎟⎟

⎟

⎠

⎞

⎜⎜

⎜

⎝

⎛

≥

= − −

1; 2

1 α

α P T t n

Note: c’est un test bilatéral si on ne s’intéresse pas au sens de la différence entre les moyennes.

1 2

;

1 α

−

≥ −

t n

T

(17)

4.5) Comparaison des variances de deux échantillons

Hypothèses

Y X

H H

σ σ

≠

= :

:

1 0

La statistique du test est donc une loi de Fisher-Snedecor.

Si H₀ est vrai alors K suit une loi de Fisher-Snedecor à nx-1 et ny-1 d° liberté.

test bilatéral On rejette H0 si:

Considérons 2 variables aléatoires X et Y Gaussiennes:

• 1er échantillon: n_X observations de X ~ N(µ_X,σ_X²)

• 2^e échantillon: n_Y observations de Y ~ N(µ_Y,σ_Y²).

Variable de décision = rapport des deux variances

Or et

2 2 Y X

S K = S

( ⁻ ¹ ) ² ₂ ^~ ² ₋ ₁

n

X

X X S X

n χ

σ ( ⁻ ¹ ) ² ₂ ^~ ² ₋ ₁

n

Y

Y Y S Y

n χ

σ

; 2 1 , 2 1

2 1 2

; 1 , 2 1

2 α

α − −

−

− ≤

≥

Y X

Y

X

Y n n

X n

Y n

X F

S ou S S F

S

Remarque

Une méthode approchée utilisée parfois pour éviter de faire un test bilatéral est d’imposer que le numérateur de la statistique soit la variance numériquement la plus grande, le test peut se réduire alors à un test unilatéral. Il faut alors faire attention à choisir la loi de Fisher correspondante, c’est à dire que le 1er degré de liberté sera celui du numérateur ( variance empirique la plus forte) et le 2ème celui du dénominateur.

Tests statistiques paramétriques usuels

Chapitre 6