PREPA COURCELLES 2° année
Estimation
On considère un phénomène aléatoire et on s’intéresse à une variable aléatoire réelle X qui lui est liée, dont on suppose que la loi de probabilité n’est pas complètement spécifiée et appartient à une famille de lois dépendant d’un paramètre 𝜃 décrivant un sous-ensemble Θ de R.
Le paramètre 𝜃 est une quantité inconnue, fixée dans toute l’étude, que l’on cherche à déterminer ou pour laquelle on cherche une information partielle.
Le problème de l’estimation consiste alors à estimer la vraie valeur du paramètre 𝜃 ou de g(𝜃), à partir d’un échantillon de données 𝑥!,𝑥!,….,𝑥! obtenues en observant n fois le phénomène. Cette fonction du paramètre représente en général une valeur caractéristique de la loi inconnue comme son espérance, sa variance, son étendue...
On suppose que cet échantillon est la réalisation de n variables aléatoires 𝑋!,𝑋!,….,𝑋! définies sur un même espace probabilisable Ω,Α muni d’une famille de probabilités
𝑃! !∈!. Les 𝑋!,𝑋!,….,𝑋! sont supposées 𝑃!-indépendantes et de même loi que X pour tout 𝜃.
On appelle statistique toute variable aléatoire réelle de la forme 𝜑(𝑋!,𝑋!,….,𝑋!) où 𝜑 est une fonction de 𝑅! dans R, éventuellement dépendante de n et indépendante de 𝜃.
On appelle estimateur de g(𝜃) toute statistique dont la réalisation après expérience est envisagée comme estimation de g(𝜃).
Un estimateur se définit donc dans l’intention de fournir une estimation.
Si 𝑇! est une statistique, on note, lorsque ces valeurs existent, 𝐸!(𝑇!) l’espérance de 𝑇! et 𝑉!(𝑇!) la variance de 𝑇! pour la probabilité 𝑃!.
1. Estimation ponctuelle
a. Définition d’un n-échantillon de la loi de X
Tout n-uplet (𝑋!,𝑋!,….,𝑋!) de variables aléatoires définies sur un même espace probabilisé Ω,Α,P mutuellement indépendantes et suivant toute la même loi que X
b. Définition d’un estimateur Soit g une fonction définie sur Θ.
Un estimateur de g(𝜃) est une statistique 𝑇! = 𝜑(𝑋!,𝑋!,….,𝑋!)
La réalisation 𝜑(𝑥!,𝑥!,….,𝑥!) de la variable 𝑇! est l’estimation de g(𝜃).
Cette estimation ne dépend que de l’échantillon 𝑥!,𝑥!,….,𝑥! observé
PREPA COURCELLES 2° année
c. Estimation de l’espérance d’une variable aléatoire i. Estimateur du paramètre p d’une loi de Bernoulli ii. Estimateur du paramètre λ d’une loi de Poisson d. Biais d’un estimateur
Si pour tout 𝜃 de Θ, 𝑇! admet une espérance, on appelle biais de 𝑇! le réel : 𝑏! 𝑇! =𝐸! 𝑇! −𝑔(𝜃)
e. Estimateur sans biais
L’estimateur 𝑇! de 𝑔(𝜃) est sans biais si 𝐸! 𝑇! = 𝑔(𝜃) pour tout 𝜃 de Θ f. Suite 𝑇! !!! d’estimateurs de g(𝜃)
Chaque 𝑇! est de la forme 𝜑(𝑋!,𝑋!,….,𝑋!) g. Estimateur asymptotiquement sans biais
Une suite 𝑇! !!! d’estimateurs de g(𝜃) est asymptotiquement sans biais si pour tout 𝜃 de Θ, lim!→!𝐸! 𝑇! = 𝑔(𝜃)
Par abus de langage, on dit aussi que l’estimateur est asymptotiquement sans biais h. Risque quadratique d’un estimateur
Si pour tout 𝜃 de Θ, 𝑇! admet un moment d’ordre 2, on appelle risque quadratique de 𝑇! le réel 𝑟! 𝑇! =𝐸! 𝑇!−𝑔(𝜃) !
i. Décomposition biais-variance du risque quadratique d’un estimateur 𝑟! 𝑇! = 𝑏! 𝑇! ! +𝑉!(𝑇!)
j. Estimateur convergent
Une suite 𝑇! !!! d’estimateurs de g(𝜃) est convergente si pour tout 𝜃 de Θ,
∀𝜀 > 0, lim
!→!!𝑃! 𝑇! −𝑔(𝜃) >𝜀 = 0
Par abus de langage, on dit aussi que l’estimateur 𝑇! est convergent k. Convergence suffisante de convergence d’un estimateur
Si pour tout 𝜃 de Θ, lim!→!!𝑟! 𝑇! =0 alors la suite d’estimateurs 𝑇! !!! de g(𝜃) est convergente
PREPA COURCELLES 2° année
2. Estimation par intervalle de confiance, intervalle de confiance asymptotique
Dans tout ce paragraphe, 𝑈! !!! et 𝑉! !!! désignent des suites de statistiques telles que pour tout 𝜃 ∈Θ et pour tout 𝑛≥ 1,𝑃! 𝑈! ≤𝑉! = 1
a. Intervalle de confiance, niveau de confiance
On dit que 𝑈!,𝑉! est un intervalle de confiance de 𝑔(𝜃) au niveau de confiance 1−𝛼 (𝛼 ∈ 0,1 ) si : 𝑃! 𝑈! ≤𝑔(𝜃)≤ 𝑉! ≥1−𝛼
Sa réalisation est l’estimation de cet intervalle de confiance b. Intervalle de confiance asymptotique
On appelle intervalle de confiance asymptotique de 𝑔(𝜃) au niveau de confiance 1−𝛼 une suite 𝑈!,𝑉! !!! vérifiant : pour tout 𝜃 ∈Θ, il existe une suite de réels 𝛼! à valeurs dans 0,1 , de limite α telle que pour tout 𝑛 ≥ 1 :
𝑃! 𝑈! ≤𝑔(𝜃)≤ 𝑉! ≥1−𝛼!
Par abus de langage, on dit aussi que 𝑈!,𝑉! est un intervalle de confiance asymptotique
c. Intervalle de confiance pour le paramètre d’une loi de Bernoulli
cf. : fiches sur l’intervalle de confiance obtenu par l’inégalité de Bienaymé- Tchébychev et par le théorème limite central
