Universit´e de Strasbourg S´egolen Geffray
M1 - Magist`ere geffray@math.unistra.fr
Statistique - ´etudes de cas Ann´ee 2016/2017
Sujet 5: Etude du comportement de l’estimateur des coefficients d’un mod`ele de r´egression de Poisson et des r´esidus de Pearson studentis´es
• Introduction `a la r´egression de Poisson:
De mani`ere g´en´erale, le but de tout mod`ele de r´egression est de sp´ecifier une relation (de nature stochastique) entre une variable Y appel´ee variable `a expliquer et un certain nombre de vari- ables explicativesX(1), ..., X(p). Dans toute la suite, on supposera que les variables explicatives sont de loi continue.
Notons (Yi, Xi(1), ..., Xi(p)) pour i = 1, ..., n, les observations correspondant `a n individus que l’on suppose distribu´ees comme (Y, X(1), ..., X(p)). Le mod`ele de r´egression de Poisson s’´ecrit sous la forme suivante:
1. ind´ependance des individus: les vecteurs (Yi, Xi(1), ..., Xi(p)) sont mutuellement in- d´ependants,
2. hypoth`ese distributionnelle: conditionnellement `a Xi(1), ..., Xi(p), la loi de la variable r´eponse Yi est la loi de Poisson.
3. lin´earit´e en les param`etres: les covariables influent sur la loi conditionnelle des Yi au travers d’un pr´edicteur lin´eaire
ηi :=β0+
p
X
k=1
βkXi(k).
On supposera toujours que le mod`ele est identifiable, `a savoir ici:
β := (β0, ..., βp)t= (β00, ..., βp0)t:=β0 =⇒ Eβ[Yi|Xi(1), ..., Xi(p)] =Eβ0[Yi|Xi(1), ..., Xi(p)].
4. fonction de lien: le pr´edicteur lin´eaire ηi influe l’esp´erance conditionnelle de Yi not´ee µi :=E[Yi|Xi(1), ..., Xi(p)]
via une fonction de lien g monotone (souvent croissante), inversible et deux fois diff´eren- tiable, choisie par l’utilisateur, de sorte que
g(µi) =ηi.
Il convient de prˆeter attention `a l’ensemble de d´efinition de g. En effet, dans le cas de la loi de Poisson, les variables Yi prennent des valeurs positives. Comme µi =g−1(ηi), il est alors judicieux de s’assurer que g−1(ηi)>0 quelque soit la valeur de ηi. Ainsi, la fonction de lien presque toujours utilis´ee est la fonction logarithme.
1
• Estimation de l’effet des variables explicatives:
Dans le cadre du mod`ele de r´egression pr´esent´e ci-dessus, on se demande si les variables ex- plicatives introduites dans le mod`ele ont un effet ou non sur la variable `a expliquer. Cet effet est quantifi´e par le coefficient de r´egression correspondant.
Dans un mod`ele de r´egression de Poisson, la fonction de lien et la loi conditionnelle des Yi´etant choisies par l’utilisateur, la seule inconnue `a estimer `a partir des observations (yi, x(1)i , ..., x(p)i )i=1,....,n
de (Yi, Xi(1), ..., Xi(p))i=1,....,n est le vecteur des param`etres β =
β0 β1 ... βp
. Notons βb l’estimateur
de β obtenu par la m´ethode du maximum de vraisemblance. Cet estimateur est solution des
´
equations du score que l’on obtient en annulant le vecteur gradient de la log-vraisemblance de (Y1, ..., Yn) en (y1, ..., yn) conditionnellement `a (Xi(1), ..., Xi(p)) = (x(1)i , ..., x(p)i ) au point β.
Les ´equations du score ainsi obtenues ne sont pas r´esolubles analytiquement. L’algorithme dit du Fisher scoring, une variante de l’algorithme de Newton-Raphson, en fournit une r´esolution num´erique.
Sous des hypoth`eses assez techniques, on peut montrer que le vecteurβbexiste avec une probabil- it´e qui tend vers 1, est consistent pourβet suit approximativement la loiNp+1 β,(Xt.A(β).X)−1 pour n assez grand, avec A(β) = diag (µi)i=1,...,n.
• Ajustement du mod`ele aux donn´ees:
L’expression des r´esidus de Pearson (internement) studentis´es dans le cas d’une r´egression de Poisson est:
εbP Si = (Yi−µbi) p
µbi(1−hi)
o`u log(bµi) =Xi.βbavec Xi = (1, Xi(1), ..., Xi(p)), et o`uhi est le levier de l’observation i, `a savoir hi est le i`eme coefficient diagonal de la matrice des leviersH. La matrice des leviers est d´efinie dans le cas d’une r´egression de Poisson par:
H=A(β)b 1/2.X.(Xt.A(β).b X)−1.Xt.A(β)b1/2
avec A(β) = diag (b µbi)i=1,...,n Si le mod`ele de r´egression de Poisson est ad´equat, pour n assez grand, les r´esidus de Pearson studentis´es sont “approximativement” centr´es et leur distribution s’approche “raisonnablement” de l’homosc´edasticit´e et de la sym´etrie.
• Impl´ementation au moyen du logiciel R:
Le logiciel R permet d’ajuster simplement un mod`ele de r´egression de Poisson `a des donn´ees.
Pour ajuster un mod`ele lin´eaire sur un ´echantillon (Yi, Xi(1), ..., Xi(p))i=1,...,n, on stockera les n valeurs des Yi dans un vecteur y, puis, pour k = 1, . . . , p, on stockera les n valeurs des Xi(k) dans un vecteur xk. Le mod`ele de r´egression de Poisson avec fonction de lien logarithme est ajust´e au moyen de l’instruction suivante (o`up= 3)
myglm<- glm(y~x1+x2+x3,family=poisson)
et le r´esultat est stock´e dans l’objetmyglm. L’instruction suivante permet d’acc´eder `a l’ensemble des quantit´es calcul´ees:
2
summary(myglm)
Sont notamment calcul´ees, les estimations des βj pour j = 0, . . . , p et les estimations de leurs
´
ecarts-types. L’objet summary(myglm) est une liste dont on peut r´ecup´erer chacune des com- posantes qui nous int´eresse. Pour cela, l’instruction str(summary(myglm)) permet de voir le nom et la structure des diff´erentes composantes de cette liste.
La fonction residuals fournit diff´erents types de r´esidus `a partir d’un mod`ele ajust´e avec la fonction glm du packagestats, charg´e par d´efaut. L’instruction
residuals(myglm,type=‘‘pearson’’)
fournit les r´esidus de Pearson sans la normalisation par p
1−hi. On peut effectuer la normal- isation en r´ecup´erant les valeurs des leviers au moyen de l’instruction
hatvalues(myglm)
Exercice 1.
Etudier de mani`ere empirique `a partir de donn´ees simul´ees
• la distribution de l’estimateur des coefficients de r´egression,
• le comportement des r´esidus de Pearson studentis´es, en fonction de
• l’inclusion lors de l’ajustement d’une variable explicative non-influente en r´ealit´e,
• l’omission lors de l’ajustement d’une variable explicative influente en r´ealit´e,
• la taille de l’´echantillonn simul´e,
• le nombre moyen de comptages attendu pour la r´eponse.
3