EchantillonnageEchantillonnage Echantillonnage et EstimationEchantillonnage et Estimation

Echantillonnage et Estimation Echantillonnage et Estimation

Chapitre 5

1

Echantillonnage

Echantillonnage

Population

• Une Population est toute collection d’objets à étudier ayant des propriétés communes

appelés des individus ou unités statistiques

• Une population peut être infinie, ou finie de taille N.

• La statistique traite des propriétés des populations plus que celles d’individus particuliers.

3

Échantillon

• L’étude de tous les individus d’une population finie s’appelle un recensement. Lorsque l’on observe qu’une partie de la population, on parle de sondage.

• La partie étudiée s’appelle l’échantillon.

• Il existe plusieurs méthode de construction d’un échantillon, dont la plus simple est celle de

l’échantillonnage aléatoire simple correspondant à des tirages équiprobables et indépendants les uns des autres.

• Sa taille est notée n<<N

• Dans ces conditions, les observations deviennent des v.a. ainsi que les résumés numérique usuels: ils convient donc d’en chercher les lois de probabilité avant de tenter d’extrapoler (inférés) à la population.

4

Échantillon

• Si on prélève au hasard n individu dans une

population finie de taille N et on veut étudier une caractéristique Xde la population.

• Xest une v.a. appelée v.a. mère ou parente.

• À chaque individu itiré, on associe une v.a. X_i dont on observe une seule réalisation x_i. Alors les X_isont des v.a. ayant toutes la même distribution, celle de X.

• On suppose que les X_isont mutuellement indépendantes (ou au moins, indépendantes deux à deux).

5

Échantillon

• On a donc la double conception suivante: Les valeurs observées (x₁,x₂,…,x_n) constituent n réalisations indépendantes d’une v.a. Xou encore, une réalisation unique du n-uple (X₁,X₂,…,X_n) où les X_i sont nv.a.

indépendantes et de même loi.

• On note par la suite un échantillon le n-uple (X₁,X₂,…,X_n) .

Les statistiques

• La théorie de l’échantillonnage se propose d’étudier les propriétés du n-uple (X₁,X₂,…,X_n) et des caractéristiques le résumant, les

statistiques, à partir de la distribution

supposée connue de la variable parente X, et d’étudier en particulier ce qui se passe lorsque la taille de l’échantillon est élevée.

7

Les statistiques

• Il est d’usage dans la pratique de résumer les nvaleurs d’un échantillon x₁,x₂,…,x_n par quelques caractéristiques simples telles que moyenne, plus grande valeur, etc.

• Ces caractéristiques sont elles-mêmes des réalisations de v.a. issues de X₁,X₂,…,X_n.

• Une statistique T est une v.a. fonction mesurable de X₁,X₂,…,X_n

T=f (X₁,X₂,…,X_n )

8

Les statistiques

• Exemples:

• La moyenne empirique d’un échantillon (X₁,X₂,…,X_n) est:

• Sa variance empirique est:

∑

=

= ⁿ

i

Xi

X n

1

1

( )

∑

=

−

= ⁿ

i

i X

n X S

1 2 1 2

9

La distribution de la moyenne

• Pour une réalisation (x₁,x₂,…,x_n), la statistique prendra la valeur

• Cette valeur est la moyenne arithmétique.

• Pour une autre réalisation, dans les mêmes conditions, un deuxième échantillon donnera pour réalisation et prendra alors la valeur

X

∑

=

= ⁿ

i

xi

x n

1

1

∑

=

= ′

′ ⁿ

i

xi

x n

1

1

X

) , , ,

(x₁′ x₂′ … x_n′

Propriétés

1. L’espérance mathématique, notée , de est égale à la moyenne m de la population:

En effet, on a:

11

µX ^X X = m

µ ( )

( )

∑

∑

∑

=

=

=

=





 



= 



 



= 

=

n

i

i n

i i

n

i X i

X n E

X nE

n X E X E

1 1

1

1 1

µ 1

( ) ^{nm m}

m n m

n m+ + + = =

=1 1

…

Propriétés

2. La variance de , notée , est égale à où σ²est la variance de la population et nla taille de l’échantillon.

En effet, on a:

où les v.a. X_isont indépendantes

12

X σ_X²

n σ2

( )

^



 



= 

=

∑

= n

i

X Xi

Var n X

Var

1

2 1

σ

( )

n n

X n n Var

n

i

i

2 2

2 1

2

1

1 = σ = σ

=

∑

=

Remarques

• La moyenne et la variance de sont calculées pour le cas d’un échantillon de variables

aléatoires indépendantes et identiquement distribuées (échantillon tiré avec remise d’une population finie ou échantillon tiré avec ou sans remise d’une population infinie).

• Si l’échantillon est tiré sans remise d’une population finie, les variables ne sont plus indépendantes. Dans ce cas, on a toujours

13

X

( )

^{X m}

X = E =

µ

mais on trouve un autre résultat pour la variance

En effet, la population étant de taille N, il y a échantillons de taille n et

avec et

( )

1

2

−

= −

N n N X n

Var σ

n

C

N

( )

( )

( )

_^











+

=



 



= 



 



= 

=

∑ ∑

∑

∑

= =

=

=

≠

n

i

n

j i

j i i

n

i i n

i X i

j i

X X Cov X

n Var

X n Var

n X Var X Var

1 , 1

2

1 2

1 2

1 ,

1 σ 1

( )

Xi ^=σ2

Var ^Cov

(

^Xi,Xj

)

^=E

[

(^{Xi −m})

(

^{Xj −m}

) ]

15

(

^{X X}

)

^E

[ (

^{X m}

) (

^{X m}

) ]

Cov _i, _j = _i − _j −

( )( ^k )

(

^{i l j k}

)

N

l N

k

l m x m P X x X x

x − − = =

=

∑∑

= =

;

1 1

( )( ^k ) ( ^{i l})

(

^{j k i l}

)

N

l N

k

l m x m P X x P X x X x

x − − = = =

=

∑∑

= =

/

1 1

( )

(^{x m})(^{x m})

N X N

X

Cov _k

N

k l

l j

i

k l

−

− −

=

∑

≠=1

1 ,

1 , 1

( )( )

_{pour k l}

N l N

k pour

m x m x

N

l N

k

k

l ≠

 −





=

−

=

∑∑

−

= = 1

1 1 0

1 1

On a donc:

( )( k )

(

j k i l

)

N

l N

k

l P X x X x

m N x m

x − − = =

=

∑∑

= =

1 /

1 1

16

Comme ( ) ( ) ( )( )^,

1 , 1

2 2

1

∑

∑

∑

≠=

=

=

−

− +

−

 =



 



 − ^N

k l

k l

N

i i N

i i

k l

m x m x m

x m

x

( ) ^{2 0}

1

 =



 





∑

−

= N

i

i m

x

( ) ^2,

1

2 ^Nσ

m x

N

i

i− =

∑

=

et

on obtient

( ) (

²

)

1 1

, 1 Nσ

N X N

X

Cov _{i j} −

= −

et donc

( )





 



 −

− −

=





















− + −

=

∑

≠=

) 1 1 ( 1

1

1 ₂ ²

2 1

,

2 2

2 nn

n N n n N

X n Var

N

k l

k l

σ σ σ σ

( )

1

2

−

= −

N n N X n

Var σ

D’où

−1

− N

n

N s’appelle facteur d’exhaustivité

Propriété:

• On peut affirmer, en vertu des propriétés de la loi normale, que lorsque la population a une

distribution normale, la distribution

d’échantillonnage de la moyenne est aussi normale.

• Le théorème de la limite centrale nous permet d’affirmer, d’autre part, que quelle que soit la

distribution de la population, la distribution de est normale N(0,1) lorsque nest grand

(en pratique ceci est vrai dès que n>30).

17

n m X σ /

−

La distribution de la variance

• La variance empirique d’un échantillon aléatoire (X₁,X₂,…,X_n) est défini par:

• Pour une réalisation (x₁,x₂,…,x_n), la statistique S² prendra la valeur Pour une autre réalisation, dans les mêmes conditions, un

deuxième échantillon donnera pour réalisation et S² prendra alors la valeur

( )

∑

=

−

= ⁿ

i

i X

n X S

1 2 1 2

( )^.

1

1

∑

2

= n −

i

i x

n x

) , , ,

(x₁′ x₂′ … x_n′

( )

∑

= n −

i

i x

n ₁ x

' 2

1 '

∑

=

= ⁿ

i

xi

x n

1

1 ' où '

Propriétés

19

( )

^{2 1σ2}

n S n

E = −

( )

3

[ ^{( )}

⁴

^{( )}

⁴

]

2 = −1 n−1 µ − n−3σ n

S n Var

( )

2 ³

2 1

, µ

n S n

X

Cov = −

1-

2-

3-

Propriétés

4. Si la distribution de la population est

normale, la variable aléatoire suit une loi du χ² à n-1 degrés de liberté:

En effet, on a:

20 2

2

σ nS

) 1 (

~ ²

2

2 n−

nS χ σ

( )

( )

( )

∑ ∑

= = 



 



 − − −

=

−

= ⁿ

i

n

i i

i X X m n X m

nS X

1 1

2 2 2

2 2

2

2 1 1

σ σ

σ

2

1

2

/ 







 −

−



 



 −

=

∑

= n

m X m

n X

i i

σ σ

Propriétés (suite de 4°)

Le premier terme est une somme de n carrés de variables N(0,1) et suit donc une loi du χ² à n degrés de liberté. Le second terme est une variable qui suit une loi du χ² à 1 degré de liberté. Donc, le degré de est n-1

(on a une relation entre et X_i: ).

21 2

2

σ nS

X ∑

( )

=

=

n −

i

i X

X

1

0

Propriétés (suite de 4°)

• On vérifié que En effet, on a

où kest l’espérance mathématique d’une variable aléatoire qui suit une loi du χ²à k degrés de liberté (dans ce cas k=n-1).

( )

^{2 1σ2}

n S n

E = −

( )

2 ^{2 2( 1)}

2 2

2 2 2

2 = = −







= 







=  n

k n n E nS

n nS

E n S

E σ σ

σ σ

σ σ

Propriétés (suite de 4°)

• De même, on trouve:

où 2kest la variance d’une variable aléatoire qui suit une loi du χ² à k degrés de liberté (dans notre cas k=n-1).

23

( )

² 2 ^{2( 1)}

4 2

4 2

2 2

4 2

2 2

2 = = −







= 







=  n

k n n Var nS

n nS Var n

S

Var σ σ

σ σ

σ σ

Propriétés (suite de 4°)

• On peut affirmer de plus que la v.a. suit

une loi de Student à n-1 degrés de liberté.

En effet, comme et , le

rapport .

24

1

2

−

− n

S m X

) 1 , 0 ( / ~N

n m X σ

− ₂ ~ ²( 1)

2 n−

nS χ σ

) 1 (

~ 1 )

1 (

/

2 2

2 −

−

= −

−

−

n T n

S m X

n nS

n m X

σ σ

La distribution des fréquences

• La probabilité de réalisation d’un événement est supposée être égale à p.

• On considère les échantillons de taille n extraits, avec remise, d’une population de taille N.

• A chaque échantillon extrait correspond une fréquence f_n de réalisation de l’événement considéré.

25

Propriétés

1. μfn=E(f_n)=p

En effet, la variable aléatoire X=n f_n~B(n,p) et

2.

En effet,

( ) ( )

^{np p}

X n nE n

E X f E _n

f_n = = =



 



= 

= 1 1

µ

( ) ( )

n p f p

Var _n = 1−

( ) ( )

n p p p

n np X n Var n

Var X f

Var _n (1 )

) 1 1 ( 1

2 2

= −

−

=

=



 



= 

Propriétés

3. Si le tirage se fait sans remise, on a toujours E(f_n)=p. Mais la variance dans ce cas, vaut:

• En effet,

Comme X suit une loi hypergéométrique et

On en déduit la formule de Var(f_n) au dessus.

27

( )

1

) 1 (

−

−

= −

N n N n

p f p

Var _n

( )

¹2Var⁽X^).

n n

Var X f

Var _n =



 



= 

) 1 1 ( )

( np p

N n X N

Var −

−

= −

Propriétés

4. Pour une taille nde l’échantillon assez grande (en pratique n≥30), on a

28

) 1 , 0 ( ) ~

1

( N

n p p

p

f f_n

f f n

n n

−

= −

−

σ

µ

La distribution des différences de moyennes

• On considère 2 populations P₁ et P₂ de taille N₁et N₂, de moyennes m₁ et m₂ et de

variances σ²

Xet σ²

Yrespectivement.

• On s’intéresse, dans de nombreux problèmes à la différence m₁-m₂.

• On extrait de la population P₁ un échantillon (x₁,x₂,…,x_n1) de taille n₁et de la population P₂ un échantillon (y₁,y₂,…,y_n2) de taille n₂.

• On note

29

∑

=

= ¹

1 1

1 ⁿ

i

Xi

X n

∑

=

= ²

2 1

1 ⁿ

j

Yj

Y n et

Propriétés

1.

En effet,

2.

En effet,

car et sont indépendantes. On a donc le résultat pour un tirage exhaustif (avec remise)

2

1

m

Y

m

X₋

= −

µ

( X Y ) ( ) ( ) E X E Y m

1

m

2 Y

E

X₋

= − = − = −

µ

2 2 2 1

2 1 1

Y X

Y

X n σ n σ

σ ₋ = +

(

^{X Y}

)

^Var

( )

^{X Var}

( )

^Y

Y Var

X²₋ = − = +

σ

X Y

Propriétés

• (suite 2°) Dans le cas d’un tirage non exhaustif (sans remise), il faut tenir compte du

coefficient d’exhaustivité car

3. En supposant n₁ et n₂grands, on peut dire que et suivent toutes deux des lois normales. Comme elles sont indépendantes,

suit aussi une loi normale. On conclut donc que

31

( )

₁ 1

1 1 1 2

−

= −

N n N X n

Var σ^X

( )

2 1

2 2 2

2

−

= −

N n N Y n

Var σ^Y

et

X Y

Y X −

( ) ( ) ^{( )}_{~ ( )0,1}

2 2

1 2

2

1 N

n n

m m Y X Y

X

Y Y X

X Y X

σ σ σ

µ

+

−

−

= −

−

−

−

−

Exercice

On choisit au hasard six nombres parmi les nombres entiers de 1 à 9, chacun de ces nombres a la même probabilité d’être choisi.

Calculer la moyenne et l’écart-type de la distribution d’échantillonnage des moyennes dans les 2 cas:

1. Tirage sans remise.

2. Tirage avec remise.

32

Solution

1. La moyenne de la population est Sa variance σ²vaut:

L’écart-type est σ=2,58.

Il y a façons de choisir six nombres parmi les 9.

Chacun de ces 84 échantillons possibles a une moyenne où x_i (i=1,2,…,6)

représente un des 9 nombres.

33

9 5 9 2

1+ + + =

= ⋯

m

( ) ( ) ( )

[

^{1 5 2 5 9 5}

]

^6,67

9

1 2 2 2

2= − + − +⋯+ − =

σ

6 84

9 = C

∑

=

= ⁶

1

1

i

xi

x n

• Par exemple l’échantillon (3, 8, 7, 2, 5, 1) a pour moyenne .

• On obtient ainsi 84 moyennes et la moyenne de la distribution d’échantillonnage des

moyennes vaut .

• La variance de la distribution

d’échantillonnage des moyennes est

• D’où

33 ,

= 4 x

µX µ_{X =m =5}

417 , 1 0 9

6 9 6

67 , 6 1

2

2 =



 





−

= −



 





−

= −

N n N

X n σ σ

645 ,

= 0 σX

2. Il y a 9⁶= 531441 façons de choisir six nombres parmi les 9. Chacun de ces échantillons a une moyenne où x_i(i=1,2,…,6)

représente, comme précédemment, un des 9 nombres.

• Par exemple, l’échantillon (4, 3, 4, 5, 7, 8) donne pour moyenne . On obtient de cette manière 531441 moyennes et la moyenne

distribution d’échantillonnage des moyennes vaut .

• La variance de la distribution d’échantillonnage des moyennes est:

• D’où

35

∑

=

= ⁶

1

1

i

xi

x n

17 ,

= 5 x

µX

=5

=m µX

11 , 6 1

67 ,

2 6

2 = = =

X n σ σ 05

,

=1 σX

36

Annexe 1:

Tirage sans remise (sans répétitions)

Non exhaustif

Les v.a. sont dépendantes

Loi utilisée hypergéométrique

Tirage avec remise (avec répétitions)

Exhaustif

Les v.a. sont indépendantes

Loi utilisée binomiale Tirage d’un échantillon

37

( ) a b n a X

E = +

On a vu que pour une loi hypergéométrique H(n,a,b)

( ) ( )

(

⁺

) (

^{2 + +− −1}

)

= a b a b n b a X nab

et Var

Mais, a+b=N alors,

( )

N

n a X

E = et

( ) ( )

(

¹

)

2 −

= −

N N

n N X nab

Var

La probabilité de tirer une boule blanche sera:

N

p= a et

N b N

a N N q a

p= = − = − =

− 1

1

( )

^{X np}

E =

⇒

( ) ( )

( ) ( )

(

¹

)

) 1

1 ( −

− −

− =

= −

N n p N

N np n npq N

X et Var