Statistique inf´erentielle Intervalles de confiance

Intervalles de confiance

A. Godichon-Baggioni

I. Intervalles de confiance

I NTERVALLES DE CONFIANCE

Soient X 1 , . . . , X n des variables al´eatoires ind´ependantes et identiquement distribu´ees.

Soit α ∈ (0, 1), un intervalle de confiance pour le param`etre θ au niveau de confiance 1 − α est un intervalle de la forme

IC 1−α (θ) = [ a ( X 1 , . . . , X n ) ; b ( X 1 , . . . , X n )]

avec

P [θ ∈ [ a ( X 1 , . . . , X n ) ; b ( X 1 , . . . , X n )]] = 1 − α.

Attention ! Cela ne signifie pas que θ ∈ IC 1−α (θ) .

Attention ! On ne peut pas dire que la probabilit´e que θ

appartienne `a la r´ealisation de IC 1−α (θ) est de 1 − α.

E XEMPLES

Exemple 1 : On consid`ere des variables al´eatoires i.i.d X 1 , . . . , X n de densit´e

f θ ( x ) = θ x ² 1 x

≥θ

avec θ > 0. Soit α ∈ ( 0 , 1 ) , un intervalle de confiance de niveau 1 − α pour θ est donn´e par

IC 1−α (θ) = h

X (1) α ^1/n ; X (1)

i .

Exemple 2 : loi uniforme. On consid`ere des variables al´eatoires i.i.d X 1 , . . . , X n avec X 1 ∼ U ([ 0 , θ]) et θ > 0. Soit α ∈ ( 0 , 1 ) , un intervalle de confiance de niveau 1 − α pour θ est donn´e par

IC 1−α (θ) = h

X (n) ; X (n) α ^−1/n i

.

R EMARQUE

Souvent, on cherche des intervalles tels que

P [θ ≤ a ( X 1 , . . . , X n )] = P [θ ≥ b ( X 1 , . . . , X n )] = α/ 2 . Exemple 1 : On obtient un intervalle de la forme (si α < 1 / 2)

IC 1−α (θ) =

X (1)

α 2

1/n

; X (1)

1 − α

2 1/n

.

Exemple 2 : On obtient un intervalle de la forme (si α < 1 / 2) IC 1−α (θ) =

X (n)

1 − α

2 −1/n

; X (n)

α 2

−1/n

R EMARQUE

Un intervalle de confiance pour le param`etre θ au niveau de confiance au moins 1 − α est un intervalle de la forme

IC 1−α (θ) = [a (X 1 , . . . , X n ) ; b (X 1 , . . . , X n )]

avec

P [θ ∈ [ a ( X 1 , . . . , X n ) ; b ( X 1 , . . . , X n )]] ≥ 1 − α.

Exemple : loi de Bernoulli. Soit X 1 , . . . , X n des variables al´eatoires i.i.d avec X 1 ∼ B(θ) et θ ∈ ( 0 , 1 ) . Un intervalle de confiance de niveau au moins 1 − α est donn´e par

IC 1−α (θ) =

X n − 1 2 √

α n ; X n + 1 2 √

α n

.

B ILAT ERE ` V S U NILAT ERE `

Remarque : Pour les intervalles pr´ec´edents, on parle d’intervalles de confiances bilat`eres.

Remarque : On peut ´egalement construire des intervalles de confiances de la forme

]−∞, b ( X 1 , . . . , X n )] et [ a ( X 1 , . . . , X n ) , +∞[ .

On parle alors d’intervalles de confiance unilat`eres.

Q UANTILES

On consid`ere une variable al´eatoire X et on note F sa fonction de r´epartition.

D´efinition

Pour tout α ∈ (0, 1), on appelle quantile d’ordre α le r´eel q α tel que q α = inf {x ∈ R , F(x) ≥ α} .

Si la fonction de r´epartition F est strictement croissante, elle est inversible et on a alors

F (q α ) = α ⇔ q α = F ⁻¹ (α).

E XEMPLES

Exemple 1 : la loi uniforme. Soit X ∼ U([ a , b ]) . Soit α ∈ ( 0 , 1 ) , le quantile q α d’ordre α de X est donn´e par

q α = a + α( b − a ).

Exemple 2 : la loi exponentielle. Soit X ∼ E( 1 ) . Soit α ∈ ( 0 , 1 ) , le quantile q α d’ordre α de X est donn´e par

q α = − ln( 1 − α).

Exemple 3 : la loi de Bernoulli. Soit X ∼ B(θ). On a q α =

0 si α ∈ (0, 1 − θ]

1 sinon (1)

II. Rappels sur la loi normale

R APPELS SUR LA LOI NORMALE

Soient X 1 , . . . , X n des variables al´eatoires suivant des lois normales de moyennes µ ₁ , . . . , µ _n et de variances σ ² ₁ , . . . , σ _n ² . On rappelle que la fonction caract´eristique de X i est d´efinie pour tout t ∈ R par

Φ _X

( t ) = exp

µ _i it − t ² σ ² _i 2

R APPELS SUR LA LOI NORMALE Proposition

Soient X 1 , . . . , X n des variables al´eatoires ind´ependantes suivant des lois normales de moyennes µ ₁ , . . . , µ _n et de variances σ ₁ ² , . . . , σ ² _n . Alors toute combinaison lin´eaire des X i suit une loi normale. Plus pr´ecis´ement, soient λ ₁ , . . . , λ _n ∈ R, alors

n

X

i=1

λ _i X i ∼ N µ, σ ² avec

µ =

n

X

i=1

λ _i µ _i

σ ² =

n

X

i=1

λ ² _i σ _i ²

L OI DU C HI - DEUX

D´efinition

Soient X 1 , . . . , X n des variables al´eatoires ind´ependantes suivant une loi normale centr´ee r´eduite. Alors la variable al´eatoire

Z n =

n

X

i=1

X ² _i

suit une loi du Chi-deux `a n degr´es de libert´e χ ² _n

.

L OI DU C HI - DEUX

0 5 10 15 20

0.00.10.20.30.4 n=2

n=5 n=10

F IGURE – Densit´e d’une chi deux `a n = 2, 5, 10 degr´es de libert´e

L OI DE S TUDENT

D´efinition

Soient Z, U deux variables al´eatoires ind´ependantes telles que Z ∼ N (0, 1) et U ∼ χ ² _n , alors

Z

p U/n ∼ T n

o `u T n suit une loi de Student `a n degr´es de libert´e.

L OI DE S TUDENT

−4 −2 0 2 4

0.00.10.20.30.4 n=5

n=15 n=30

F IGURE – Densit´e d’une loi de Student `a n = 5, 15, 30 degr´es de libert´e.

L OI DE S TUDENT

Proposition

Soit T n une variable al´eatoire suivant une loi de Student `a n degr´es de libert´e. Si n ≥ 2, alors :

I T n admet un moment d’ordre 1 I E [ T n ] = 0.

I La loi de Student est sym´etrique en 0.

I On a la convergence en loi T n

− −−−− L →

n→+∞ N ( 0 , 1 ).

III. Cas Gaussien

C AS GAUSSIEN

Soient X 1 , . . . , X n des variables al´eatoires ind´ependantes suivant une loi normale d’esp´erance µ et de variance σ ² .

Proposition

On a

X n ∼ N

µ, σ ² n

C AS OU LA VARIANCE EST CONNUE

Proposition

Pour tout α ∈ (0, 1), P

X n − q 1−α/2

√ σ

n ≤ µ ≤ X n + q 1−α/2

√ σ n

= 1 − α, o `u q 1−α/2 est le quantile d’ordre 1 − α/ 2 de la loi normale centr´ee r´eduite, i.e si Z ∼ N ( 0 , 1 ) ,

P

Z ≤ q 1−α/2

= 1 − α/ 2 .

On obtient donc l’intervalle de confiance de niveau 1 − α IC 1−α (µ) =

X n − q 1−α/2

√ σ

n ; X n + q 1−α/2

√ σ n

I NTERVALLES UNILAT ERES `

On peut ´egalement obtenir les intervalles de confiances unilat`eres suivants :

IC 1−α (µ) =

−∞; X n + q 1−α

√ σ n

IC 1−α (µ) =

X n − q 1−α

√ σ n ; +∞

C AS O U LA VARIANCE EST INCONNUE `

Proposition

Soient X n = ¹ _n P n

i=1 X i et S ² _n = _n−1 ¹ P n

i=1 X i − X n

2

, alors 1. ⁿ⁻¹ _σ

S ² _n ∼ χ ² _n−1 .

2. S n et X n sont ind´ependants.

Corollaire

On a √

n X n − µ S n

∼ T n−1 ,

o `u T n−1 suit une loi de Student `a n − 1 degr´es de libert´e.

C AS O U LA VARIANCE EST INCONNUE `

Corollaire (Intervalles de confiance)

Soit α ∈ ( 0 , 1 ) , alors P

X n − t n−1,1−α/2

S n

√ n ≤ µ ≤ X n + t n−1,1−α/2

S n

√ n

= 1 − α o `u t n−1,1−α/2 est le quantile d’ordre 1 − α/2 de la loi de Student `a n − 1 degr´es de libert´e, i.e si T ∼ T n−1 ,

P

T ≤ t n−1,1−α/2

= 1 − α/2.

On obtient donc l’intervalle de confiance au niveau 1 − α IC 1−α (µ) =

X n − t n−1,1−α/2

S n

√ n ; X n + t n−1,1−α/2

S n

√ n

I NTERVALLES UNILAT ERES `

On peut ´egalement obtenir les intervalles de confiances unilat`eres suivants :

IC 1−α (µ) =

−∞; X n + t n−1,1−α √ S n

n

IC 1−α (µ) =

X n − t n−1,1−α S n

√ n ; +∞

E STIMATION DE LA VARIANCE

Proposition

Soit α ∈ ( 0 , 1 ) , alors P

( n − 1 ) S ² _n k 1−α/2

≤ σ ² ≤ ( n − 1 ) S ² _n k α/2

= 1 − α

o `u k α/2 et k 1−α/2 sont les quantiles d’ordre α/ 2 et 1 − α/ 2 d’une loi du Chi-deux `a n − 1 degr´es de libert´e, i.e si Z ∼ χ ² _n−1 ,

P

Z ≤ k α/2

= α/ 2 P

Z ≤ k 1−α/2

= 1 − α/ 2 . On obtient donc l’intervalle de confiance au niveau 1 − α

IC 1−α σ ²

=

( n − 1 ) S ² n

k 1−α/2

; ( n − 1 ) S ² n

k α/2

.

IV. Intervalles de confiance asymptotiques

I NTERVALLES DE CONFIANCE ASYMPTOTIQUES

On s’int´eresse `a l’estimation d’une caract´eristique ou d’un param`etre θ d’une variable al´eatoire X. On dispose d’un estimateur θ ˆ _n asymptotiquement normal, i.e il existe σ ² > 0 tel

que √

n

θ ˆ _n − θ _L

− −−−− →

n→+∞ N 0 , σ ² .

On supposera ´egalement que l’on a un estimateur consistant σ ˆ ² _n

de σ ² .

I NTERVALLES DE CONFIANCE ASYMPTOTIQUES

Proposition

Soit α ∈ ( 0 , 1 ), P

θ ˆ _n − q 1−α/2

ˆ σ _n

√ n ≤ θ ≤ θ ˆ _n + q 1−α/2

ˆ σ _n

√ n

− −−−− →

n→+∞ 1 − α, o `u q 1−α/2 est le quantile d’ordre 1 − α/2 de la loi normale centr´ee r´eduite.

On obtient donc l’intervalle de confiance asymptotique de niveau 1 − α

IC 1−α (θ) =

θ ˆ _n − q 1−α/2

ˆ σ _n

√ n ; ˆ θ _n + q 1−α/2

ˆ σ _n

√ n

.

E XEMPLES

Exemple 1 : le lancer de pi`ece. On consid`ere une variable al´eatoire X suivant une loi de Bernoulli de param`etre θ ∈ (0, 1).

Pour tout α ∈ (0, 1), un intervalle de confiance asymptotique de niveau 1 − α de θ

IC 1−α (θ) =









θ ˆ _n − q 1−α/2

r θ ˆ _n

1 − θ ˆ _n

√ n ; ˆ θ _n + q 1−α/2

r θ ˆ _n

1 − θ ˆ _n

√ n









.

E XEMPLES

Exemple 2 : la loi exponentielle. On consid`ere une variable al´eatoire X suivant une loi exponentielle de param`etre θ > 0.

Pour tout α ∈ (0, 1), un intervalle de confiance asymptotique de niveau 1 − α de θ

IC 1−α (θ) =

"

θ ˆ _n − q 1−α/2

θ ˆ _n

√ n ; ˆ θ _n + q 1−α/2

θ ˆ _n

√ n

#

.

E XEMPLES

Exemple 2bis : la loi exponentielle. En r´ealit´e, pour la loi exponentielle, on peut ˆetre malin et obtenir un intervalle de confiance asymptotique de niveau 1 − α de θ

IC 1−α (θ) =

"

θ ˆ _n 1 + ^q

^√ _n ;

θ ˆ _n 1 − ^q

^√ _n

#

.