Chapitre 2 : Vraisemblance et Estimation ponctuelle

(1)

Chapitre 2 : Vraisemblance et Estimation ponctuelle

Chapitre 2 : Vraisemblance et Estimation ponctuelle 1 / 52

(2)

Organisation du chapitre 2

1 Vraisemblance et Estimation

Vraisemblance, exhaustivité, liberté La famille exponentielle

Comment Construire un Estimateur ? Information de Fisher

Comportement asymptotique des estimateurs

2 Intervalle de Conance

Intervalle de Conance : dénition

Construction pratique d'un Intervalle de Conance Intervalle de Conance Asymptotique

(3)

1. Vraisemblance et Estimation

(4)

1.1. Vraisemblance, exhaustivité, liberté

(5)

Vraisemblance d'un échantillon

Dénition 2.1 : Soits_n= (x₁, . . . ,x_n)réalisation d'un échantillon (i.i.d) de loi de densité f(x;θ)appartenant au modèle

M ={f(x;θ)|θ∈Θ}. La vraisemblance de l'échantillonsnest la fonctionL(θ,x₁, . . . ,xn):

L: Θ −→ R⁺

θ 7→ f(x₁, . . . ,xn;θ) =∏ⁿ_i=₁f(xi;θ) La log-vraisemblance est

L(θ,x₁, . . . ,xn) = logL(θ,x₁, . . . ,xn)

=

n

∑

i=1log(f(x_i;θ)) Exemples :

I Echantillon issue d'une loi normale.

I Echantillon issue d'une loi de Weibull M =n

f(x;λ,α) =^α

λ x λ

α−₁

exp

− _α^xα

1x≥₀|α,λ >0o (α paramètre de forme,λ paramètre d'échelle).

(6)

Exhaustivité

Dénition 2.2 : SoitM ={f(x,θ),x∈X,θ∈Θ}un modèle paramétrique etS :Xⁿ−→Y une statistique. La statistique

S(x₁, . . . ,xn) est dite exhaustive si la loi de X sachantS=s est

indépendante deθ.

Interprétation :S(x₁, . . . ,xn)contient toute l'information de l'échantillon surθ, c'est un résumé qui préserve l'information.

Théoréme de factorisation : Une statistiqueS(x₁, . . . ,xn) est exhaustive du modèle paramétrique si et seulement si la densité s'écrit

f(x₁, . . . ,x_n;θ) =g_θ(S(x₁, . . . ,x_n);θ)h(x)

Propriété : SiS₁,S₂ sont des statistiques telles que S₁=h(S₂). Alors siS₁ est exhaustive pourθ, alorsS₂ est exhaustive pourθ.

Dénition 2.3 : Une statistique S est exhaustive minimale si tout autre statistique exhaustiveT s'écrit S=h(T).

Dénition 2.4 : Dans un modèle paramétrique M, une statistiqueS est libre en θ si sa loi ne dépend pas deθ.

(7)

Exemples

L'échantillon lui-même Le cas BernoulliB(1,p) Le cas gaussien N(m,Σ) Le cas uniformeU([a,b])

(8)

1.2. La famille exponentielle

(9)

La famille exponentielle

Dénition 2.5 : Un modèle statistique{f(x;θ)|θ∈Θ} surX =R^d est une famille exponentielle si les densitésf(x;θ) s'écrivent

f(x;θ) =exp

∑

^s

i=1

ηi(θ)Ti(x)−B(θ)

! h(x)

avech,B,η_i,T_i,i=1, . . . ,s à valeurs réels, eth(x)≥0.

T(x) = (T₁(x). . .T_s(x)) ∈R^s est la statistique privilégiée du modèle (lesT_i sont linéairement libres = de rang plein)

Il est plus commode d'utiliser directement lesη_i comme paramétre : la densité s'écrit alors sous forme canonique

f(x;η) =exp

∑

^s

i=1

η_iT_i(x)−A(η)

! h(x)

et η= (η₁, . . . ,ηs) est appelé paramètre naturel.

(10)

Propriétés

C(η) =exp(−A(η))est la constante de normalisation.

L'ensembleH={η∈R^s|^R_X exp(∑^s_i=₁η_iT_i(x))<∞}est un convexe.

Pour une famille exponentielle, le modèle d'échantillonnage est encore une famille exponentielle avec la statistique privilégiée :

T(x₁, . . . ,x_n) =

n

∑

i=1

T(x_i).

On peut écrire∑^s_i=₁ηiTi(x) sous la forme d'un produit scalaire adapté : hη,T(x)i_H dans un bon espace de paramètre.

La fonctionη7→A(η) est indéniment dérivable et

1 E_η[T(X)] =∇ηA(η)

2 covη(T_i,T_j) = ^∂²

∂ η_i∂ η_jA(η)

θ7→η(θ) est le plus souvent un diéomorphisme.

(11)

Beaucoup de modèles usuels sont exponentiels...

Le modèle Gamma est M =

f(x;a,b) = x^a−¹b^a

Γ(a) exp(−bx)1x≥0|a,b>0

la densité se réécrit :

f(x;a,b) =exp(−bx+alog(x) +alogb−logΓ(a))_x¹1x≥0.

I SoitT₁(x) =−x etT₂(x) =logx;η₁=betη₂=a, avec B(a,b) =alogb−logΓ(a)que l'on ré-écrit

A(η₁,η₂) =−η₁logη₂+logΓ(η₂),h(x) =¹_x1x≥₀

Le modèle Gaussien multivarié M=

(

f(x;µ,Σ) =|detΣ|⁻¹^/² (2π)^p/² exp

−1

2(x−µ)^>Σ⁻¹(x−µ)

|µ∈R^p,Σ0 )

I SoitT₁(x) =x,T₂(x) =−¹₂xx^>;η₁= Σ⁻¹µ,η₂= Σ⁻¹, A(η₁,η₂) =−¹₂logdetη₂+¹₂η₁^>η₂⁻¹η₁.

(12)

Exhaustivité dans les familles exponentielles

Propriété : Dans une famille exponentielleM, si le modèle est de rang plein (égale às), la statistique privilégiée est exhaustive minimale.

Réciproquement,

Théoréme de Pitman-Koopman : Si le modèle est homogène (le support ne dépend pas du paramétre) et est tel que pour une taille d'échantillonn assez grand, il existe une statistique exhaustive de taille xe s, alors la famille est exponentielle.

Exemple : La loi de Fréchetf(x;s,α) =^α_s ^x_s−(1+α)

exp

− ^x_s−α .

(13)

1.3. Comment Construire un estimateur ?

(14)

La méthode des moments

Estimation deθ dans un modèle M={f(x,θ)|θ∈Θ}. On suppose que l'on ait capable de calculer théoriquementE_θ[X] =µ₁(θ), Eθ

X²

=µ₂(θ),...Eθ

X^K

=µK(θ).

Les espérances sont estimables par leur version empirique : E_θ

X^k

≈_n¹∑ⁿ_i₌₁x_i^k ,X^k (estimateurs consistants).

Détermination deθ(Xˆ ₁, . . . ,Xn) par moindres carrés

θˆ=arg min

θ∈Θ K

∑

i=1

µ_k(θ)−X^k₂

Exemple : Loi Gamma E(X) =_bâ,V(X) =_bâ₂. Loi de Poisson P(X =k) =êxp^(−λ)λ_k! ^k, etE(X) =λ,V(X) =λ

(15)

La méthode des moindres carrés

Le modèle de régression est dénie parY =a+bx+ε, avecE[ε] =0.

Nous avons les observationsY_i =a+bx_i+ε_i avecε_i i.i.d.

Paramètre à estimerθ= (a,b). Nous avons pour touti=1. . .n, E[Y_i] =a+bx_i= [1x_i]

a b

. L'estimateur par moindres carrés est

R(θ) =

n

∑

i=1

(yi−(a+bxi))²

= kY−Xθk²

(16)

Estimateur du Maximum de Vraisemblance

Dénition 2.6 : SoitM un modèle paramétrique et x₁, . . . ,x_nun échantillon de vraisemblanceL(θ;x₁, . . . ,xn) =∏ⁿ_i=₁f(xi;θ). Lorsqu'il existe, l'estimateur du maximum de vraisemblance est dénie par

θˆ_n^EMV = argmax

θ∈ΘL(θ;x₁, . . . ,x_n)

= argmax

θ∈ΘL(θ;x₁, . . . ,xn) Remarque

Les conditions susantes d'optimalité pour déterminerθˆ_n^EMV sont :











∂L

∂ θ (x,θ)|_{θ= ˆ}

θ_n^EMV =0

∂²L

∂ θ² (x₁, . . . ,xn,θˆ_n^EMV)≤0

L(x,θˆ_n^EMV)≥L(x₁, . . . ,x_n,θ),∀θ∈Θ.

(17)

Exemples d'estimateurs d'EMV

Le cas BernoulliL(p;x₁, . . . ,x_n) =p^∑ⁿⁱ⁼¹^xⁱ(1−p)^∑ⁿⁱ⁼¹⁽¹^−xⁱ⁾, soit L(p;x₁, . . . ,xn) =∑ⁿ_i=₁xilog(₁_−p^p ) +nlog(1−p).

Le cas PoissonL(p;x₁, . . . ,x_n) =exp(−nλ)^λ^(x_x¹^+···+xn)

1!...xn! ,....

(18)

Exemples d'estimateurs d'EMV

Le cas de la régression logistiqueYi ∼B(1,pi =p(xi)), et l'échantillon est S_n= ((x₁,y₁), . . . ,(x_n,y_n)). On dénit ϕ(p) =log₁_−p^p et on suppose queϕ(p_i) =ax_i+b, avecθ=a,b∈Ralors

L(θ;x_i,y_i) =

n

∑

i=1

y_i(ax_i+b) +

n

∑

i=1log(1−ϕ(ax_i+b))

(19)

Propriétés de l'EMV

Sous les hypothéses du théoréme de factorisation, θˆ_n^EMVest fonction de toute statistique exhaustive.

Pour l'EMV, il y a des problémes :

I Existence d'une solution au probléme de maximisation

I Existence de plusieurs solutions et de minima locaux

I Numérique (pour l'optimisation)

Pour un modèle exponentiel de plein rang (avec la paramétrisation naturelle) etI(η)>0 pour toutη, alors L(η;x₁, . . . ,x_n)est strictement concave et l'EMV est l'unique solution de

1 n

n

∑

i=1

T(x_i) =∇_ηA( ˆη^EMV)

(20)

1.3. Information de Fisher

(21)

Score et Information de Fisher

On suppose que M ={f(x;θ),θ∈Θ} est régulier. Le score est le vecteur aléatoire

S(X;θ) =∇θlogf(X;θ) Dans ce cas, ∀θ∈Θ,

E_θ[∇_θlogf(X;θ)] =0 Attention au support !

La matrice d'information de FisherI(θ), ou information apportée par X sur θ :

I(X;θ) =covθ(∇θlogf(X;θ))

Additivité de l'Information de Fisher pour un échantillon i.i.d : I(X₁, . . . ,X_n;θ),In(θ) =nI₁(θ)

(22)

Calcul de l'Information de Fisher

Théoréme : Si _{∂ θ}^∂_i_{∂ θ}² _jf(x;θ) existe pour toutx et toutθ, et si on peut dériver 2 fois sous le signe intégral ^Rf(x;θ)µ(dx)alors

I(X;θ) =−

E_θ ∂²

∂ θ_i∂ θ_j logf(X;θ)

1≤i,j≤p

Pour une famille exponentielle, si on utilise la paramétrisation canonique :

S(X;η) = T(X)−∇_ηA(η) I(X;η) = ∇²_ηA(η) =covη(T(X))

(23)

Inégalité d'information de Cramér-Rao

Théorème

Soit M modèle statistique régulier, g fonction dérivable et

Tn=T(X₁, . . . ,Xn) un estimateur sans biais deg(θ).

Cas θ scalaire : la borne de Cramer-Rao est dénie parBCR(θ) =^g_I⁰^(θ⁾²

n(θ) et V_θ(T_n)≥BCR(θ) =g⁰(θ)²

In(θ) Cas θ vectoriel :

V_θ(Tn)≥J(g)(θ)^>In(θ)⁻¹J(g)(θ) avecJ(g)(θ)= Jacobien deg évalué au pointθ.

(24)

Ecacité d'un estimateur

La comparaison entre les matrices de covariances est au sens de l'ordre (partiel) matrices s.d.p :A,B s.d.p. A≤B ⇐⇒B−As.d.p

Inégalité d'information = BCR(θ) est la meilleure variance possible pour un estimateur sans biais.

Un estimateurTn sans biais de g(θ) est un estimateur ecace si V_θ(g(θ)) =BCR(θ).

(25)

1.5. Comportement asymptotique des estimateurs

(26)

Convergence de l'EMV

Si le modèle paramétriqueM est régulier et si θ^∗∈Θ^◦ est le vrai paramétre alors

θˆ_n^EMV −→θ^∗ en probabilitéP_θ^∗.

Remarque

La régularité suppose que l'information de Fisher I(θ) existe et est dénie positive. Une conséquence de I(θ)>0 est que le modèle est localement identiable, i.e f(·;θ) =f(·,θ⁰) =⇒ θ=θ⁰, for allθ,θ⁰ dans un voisinage de θ.

(27)

Normalité asymptotique de l'EMV

Si le modèle paramétriqueM est régulier et si θ^∗∈Θ^◦ est le vrai paramétre alors

√n

θˆ_n^EMV−θ^∗

N 0,I₁⁻¹(θ)

Remarque

√n est la vitesse de convergence de l'estimateur. De maniére générale, la convergence des estimateurs paramétriques est "en ^√¹_n".

Un estimateur consistent θˆn est dit asymptotiquement normal si il exister_n>0 tel que

rn

θˆn−θ^∗

N(0,J(θ)).

J(θ) est la variance asymptotique.

(28)

Delta-Method

Soitθˆ_n, un estimateur asymptotiquement normal rn

θˆn−θ^∗

N(0,J(θ)), etψ une fonction diérentiable autour deθ^∗, alors ψ( ˆθ_n)est asymptotiquement normal et

rn

ψ

θˆn

−ψ(θ^∗)

N

0,ψ⁰(θ)^>J(θ)ψ⁰(θ)

Lemme de Slutsky : Si Yn Y etAn Proba

−→ Aet Bn Proba

−→ B, alors

A_n+B_nY_n A+BY

Ces résultats sont utilisées pour obtenir la normalité asymptotique de statistique complexe (mais réguliére) de l'échantillon.

(29)

2. Intervalle de conance

(30)

2.1. Intervalle de Conance : dénition

(31)

Intervalle de Conance

On considère un modèle d'échantillonnage paramétriqueX₁, ...,X_n de taille n. Les variables aléatoiresX₁, ...,X_n sont indépendantes et de mÍme loi inconnueP, et elles sont à valeurs dansX (Rou R^d).

On suppose que la loiP appartient à une famille de probabilité P={P_θ,θ∈Θ}.

Dénition 3.1 (Région de Conance)

Soitx7→Λ(x)une application deXⁿ à valeurs dans l'ensemble des boréliens de g(Θ) telle que pour toutθ∈Θ, on a

P_θ(g(θ)∈Λ(X₁, ...,X_n)) =1−α.

On dit que l'ensemble aléatoire Λest une région de conance de niveau(1−α). Dans le cas oùg(Θ)⊂RetΛest un intervalle, on parle d'un intervalle de conance.

Dénition 3.2 (Intervalle de Conance)

Pourα∈[01]donné, on appelle intervalle de conance pour le paramètreθ (resp.

g(θ)), de niveau de conance 1−α, un intervalle ICα qui a la probabilité de 1−α de contenir la vraie valeur deθ (resp.g(θ)), i.e.,

P(θ∈ICα) =1−α(resp. P(g(θ)∈ICα) =1−α.)

(32)

Intervalle de Conance

Dénition 3.4 (Statistique asymptoptiquement libre)

On appelle statistique asymptotiquement libre pourθ, toute statistique dont sa loi asymptotique ne dépend pas deθ.

Exemple 3.1 SoitX₁, ...,X_n un échantillon de loiN(µ,σ²). Notons X¯_n=¹_n

n i

∑

=1

X_i et S_n²=_n−¹₁

n i

∑

=1

(X_i−X¯_n)².

- Siσ est connu, ^√ⁿ^{( ¯}^X_σⁿ^−µ⁾ est une statistique libre pour µ, de loiN(0,1). - Siσ est inconnu ^√ⁿ^{( ¯}^X_Sⁿ_n^−µ⁾ est une statistique libre pour µ, de loiTn−₁. - Siµ est connu∑ⁿ_i₌₁

_X

i−µ σ

2

est une statistique libre pour σ, de loi χ_n². - Siµ est inconnu(n−1)^Sⁿ²

σ² est une statistique libre pourσ, de loiχ_n−² ₁.

(33)

2.2. Construction pratique d'un Intervalle de Conance

(34)

Construction pratique d'un IC

Exemple 3.2 X₁, ...,X_n un échantillon de loiP(¹

λ). T_n=

√n( ¯X_n−λ)

λ est une statistique asymptotiquement libre pourλ. En eet, par le théorème central-limite T_n loi

n→∞−→ N(0,1).

Construction pratique d'un IC

SoitT_n un estimateur du paramètreθ. On chercheϕ₁(T_n)etϕ₂(T_n)de sorte que leurs lois ne dépendent pas deθ et

P(ϕ₁(T_n) ≤ θ ≤ ϕ₂(T_n)) =1−α

Remarque Le choix d'une statistique libre revient à éviter d'avoir les bornes de l'IC dépendantes deθ

(35)

IC - Espérance d'une variable normale : σ connu

σ connu SoitX₁, ...,X_n un échantillon de loiN(µ,σ²). - PrenonsX¯_n=¹_n

n

∑

i=1

X_i comme estimateur de µ.

- On utilise le fait que ^√ⁿ^{( ¯}^X_σⁿ^−µ⁾ est une statistique libre pour µ, de loi N (0,1).

- L'intervalle de probabilité deX¯_n à 1−α est :

−uα

2 ≤

√n( ¯Xn−µ)

σ ≤ uα

2

µ−uα 2

√σ

n ≤X¯_n≤ µ+uα 2

√σ n oùuα

2 est telle queφ(uα

2) =P(N(0,1)≤uα

2) =1−^α₂. d'où l'intervalle de conance :

¯ x_n−uα

2

√σ

n ≤µ≤ x¯_n+uα 2

√σ n - Application numérique : si(1−α) =0,95, on auα

2 =1,96. L'intervalle de conance de niveau 95%pour µ est

[¯x_n−1√,96

n σ; ¯x_n+1√,96 n σ]

(36)

IC - Espérance d'une variable normale : σ inconnu

On utilise le fait queTn−₁=

√n( ¯Xn−µ)

Sn suit une loi de Student à(n−1) degrés de liberté.

L'intervalle de probabilité pourTn−₁ :

−t₍_n−₁₎_,α

2 ≤

√n( ¯X_n−µ)

S_n ≤t₍_n−₁₎_,α 2

d'où l'intervalle de conance :

¯

x_n−t₍_n−₁₎_,α 2

√s

n≤µ≤x¯_n+t₍_n−₁₎_,α 2

√s n

Remarque Si la dénitionS_n²^∗=¹_n∑ⁿ_i₌₁(X_i−X¯_n)²alors l'intervalle de conance devient :

¯

x_n−t₍_n−₁₎_,α 2

s^∗

√n−1≤µ≤x¯_n+t₍_n−₁₎_,α 2

s^∗

√n−1 Exemple 3.3 On prend, par exempleα=0,05, etn=25, on a t₍_n−₁₎_,α

2 =2,064 et l'intervalle de conance de niveau de conance 95%pour µ est :

¯

x_n−2,064

√25 s₂₅,x¯_n+2,064

√25 s₂₅

Remarque Le TCL a pour conséquence que les intervalles précédents sont valables pour estimer d'une loi quelconque quandChapitre 2 : Vraisemblance et Estimation ponctuellenest assez grand. 43 / 52

(37)

IC - Variance d'une variable normale

µconnu soitUˆ_n²=¹_n∑ⁿ_i=1(X_i−µ)². on utilise le fait que ⁿ_σ^U^ˆ₂²ⁿ suit une loi de χ_n² comme somme dencarrés de N(0,1)indépendantes.

Soitk₁ etk₂, les bornes de l'intervalle de probabilité d'unχ_n²: P(k₁≤nUˆ_n²

σ² ≤k₂) =1−α d'où l'intervalle de conance :

nuˆ²_n

k₂ ≤σ²≤nuˆ²_n k₁ µ inconnu On utiliseS_n²=_n−¹₁

n

∑

i=1

(X_i−X¯_n)², et on sait que ⁽ⁿ⁻_σ¹2⁾^Sⁿ² suit une loiχ_n−² ₁, soitb₁etb₂ les bornes de l'intervalle de probabilité :

P(b₁≤(n−1)S_n²

σ² ≤b₂) =1−α d'où l'intervalle de conance :

(n−1)s_n²

b₂ ≤σ²≤(n−1)ˆs_n² b₁

(38)

Intervalle de Conance : Exemple

Exemple 3.4 SoitX₁, ...,X_n un échantillon de loi uniformeU([0,θ]). La vraisemblance associé à l'échantillon est dénie par

L_n(x,θ) = Πⁿ_i₌₁1

θ1[0,θ](x_i)

Déterminons l'EMV :Ln(x,θ)est maximum enθ ssiΠⁿ_i₌₁1[0,θ[(x_i) =1.

Autrement dit∀i=1, ...,n θ≥x_i, donc, sup

1≤i≤n

x_i≤θ.D'où l'EMV : θˆn= sup

1≤i≤n

X_i

Cherchons une statistique libre pourθ (à partir deθˆn). D'abord calculons la loi deθˆn,∀x∈[0,θ],

Fθˆn(x) = P( ˆθn≤x)

= (x θ)ⁿ Vérions queT_n=^θ^ˆⁿ

θ est une statistique libre pourθ. En eet,∀x∈[0,1], on a

F_T_n(x) = P(T_n≤x) =P( ˆθn≤θx)

= xⁿ(bien indépendant deθ)

(39)

Intervalle de Conance : Exemple

IC Méthode 1: Déterminons un ϕ₁( ˆθn)etϕ₂( ˆθn)telle que P

ϕ₁( ˆθn)≤θ≤ϕ₂( ˆθn)

=1−α (1)

A partir de(1), il faut construire autour deθ, l'estimateurT_n P

1 ϕ₂( ˆθn)≤ 1

θ ≤ 1 ϕ₁( ˆθn)

= 1−α P

θˆn

ϕ₂( ˆθ_n)≤T_n≤ θˆn

ϕ₁( ˆθ_n)

!

= 1−α

Comme on connait la loi de la statistique libreT_n, on cherche donc un a := ^θ^ˆⁿ

ϕ₂( ˆθn) etb := ^θ^ˆⁿ

ϕ₁( ˆθn) tels que

P(a≤T_n≤b) = 1−α F_T_n(b)−F_T_n(a) = 1−α bⁿ−aⁿ = 1−α

Il y a une innité deaetbpossibles. On choisita etbtels que l'intervalle [a,b]soit le plus court possible. Soitb=1 et donca=α¹ⁿ.

D'où ^θ^ˆⁿ

ϕ₂( ˆθn) =α¹ⁿ et 1= ^θ^ˆⁿ

ϕ₁( ˆθn)

(40)

Intervalle de Conance : Exemple

Soitϕ₁( ˆθn) = ˆθn et ϕ₁( ˆθn) =α⁻¹ⁿθˆn Nous avons donc obtenu un intervalle

de conance : h

θˆn;α⁻¹ⁿθˆn

i

IC Méthode 2: On peut partir directement deT_n, et l'on cherche unaet btel que

P(a≤T_n≤b) = 1−α F_T_n(b)−F_T_n(a) = 1−α bⁿ−aⁿ = 1−α

On choisit lesaetbtels que [a,b]soit l'intervalle le plus court possible.

Puis on remonte le raisonnement pour arriver à un intervalle de conance (voir exemple sur les espérances/variances normales).

(41)

2.3. Intervalle de Conance Asymptotique

(42)

Intervalle de Conance Asymptotique

Méthode Modèle régulier.

- On construit l'intervalle asymptotique en utilisant l'estimateur du maximum de vraisemblanceθˆn deθ.

- On sait queθˆn est asymtotiquement normal, i.e. :

√n( ˆθn−θ)_−→loi

n→∞N(0, 1 I₁(θ)).

- Autrement dit :

pnI₁(θ)( ˆθn−θ)loi

n→∞−→N (0,1).

On obtient : P

−uα

2 ≤

q

nI1( ˆθ_n)( ˆθ_n−θ)≤uα 2

= 1−α d'oùl'intervalle de conance asymptotique :



θˆn− uα 2

q

nI₁( ˆθn)

,θˆn+ uα 2

q

nI₁( ˆθn)



.

(43)

Intervalle de Conance Asymptotique : Exemple

Remarque On a mentionné l'EMV car il est asymptotiquement normal, donc il converge en loi vers une loi connue (ici la loi normale).

Exemple 3.5 SoitX₁, ...,X_n un échantillon de loi uniformeU([0,θ]). L'Estimateur de Maximum de Vraisemblance :θˆn= sup

1≤i≤n

X_i. SoitT_n:=n

1−^θ^ˆⁿ

θ

,T_n est une statistique asymptÙtiquement libre pour θ, en eet ;

F_T_n(x) = P(T_n≤x)

= P

θˆ_n≥θ(1−x n)n

= 1−(1−x n)ⁿ et lim

n→∞F_T_n(x) =1−e^−x. Donc,T_n→T, oùT suit une loi exponentielle Exp(1).

(44)

Intervalle de Conance Asymptotique : Exemple

On cherche un intervalle de la forme[ ˆθn;b] tel que pour unα donné on ait P( ˆθn≤θ≤b) =1−α.

P( ˆθn≤θ≤b) = P 0≤T_n≤n 1−θˆ_n b

!!

≈n→∞ F_T n(1−θˆn

b )

!

=1−α d'oùb= ^θ^ˆⁿ

1−¹_nF_T⁻¹(1−α) = ^θ^ˆⁿ

1−¹_n_logα On a donc

IC=

"

θˆn; θˆn

1−¹_nlogα

#