ECO 4272 : Introduction ` a l’´ Econom´ etrie Le mod` ele de r´ egression simple

ECO 4272 : Introduction ` a l’´ Econom´ etrie Le mod` ele de r´ egression simple

Steve Ambler

D´epartement des sciences ´economiques Ecole des sciences de la gestion´ Universit´e du Qu´ebec `a Montr´eal

2018: Steve Amblerc

Hiver 2018

Objectifs

1. Pr´esenter le mod`ele de r´egression simple.

2. D´eriver l’estimateur MCO.

3. Etudier ses propri´´ et´es alg´ebriques.

4. Regarder les hypoth`eses statistiques du mod`ele et analyser leurs cons´equences (absence de biais, convergence, efficience). 5. Distinguer entre les cas d’erreurs h´et´erosc´edastiques et erreurs

homosc´edastiques.

6. Analyser les tests d’hypoth`ese et le calcul d’intervalles de confiance dans le cadre du mod`ele.

Objectifs

1. Pr´esenter le mod`ele de r´egression simple.

2. D´eriver l’estimateur MCO.

3. Etudier ses propri´´ et´es alg´ebriques.

4. Regarder les hypoth`eses statistiques du mod`ele et analyser leurs cons´equences (absence de biais, convergence, efficience). 5. Distinguer entre les cas d’erreurs h´et´erosc´edastiques et erreurs

homosc´edastiques.

6. Analyser les tests d’hypoth`ese et le calcul d’intervalles de confiance dans le cadre du mod`ele.

Objectifs

1. Pr´esenter le mod`ele de r´egression simple.

2. D´eriver l’estimateur MCO.

3. Etudier ses propri´´ et´es alg´ebriques.

4. Regarder les hypoth`eses statistiques du mod`ele et analyser leurs cons´equences (absence de biais, convergence, efficience). 5. Distinguer entre les cas d’erreurs h´et´erosc´edastiques et erreurs

homosc´edastiques.

6. Analyser les tests d’hypoth`ese et le calcul d’intervalles de confiance dans le cadre du mod`ele.

Objectifs

1. Pr´esenter le mod`ele de r´egression simple.

2. D´eriver l’estimateur MCO.

3. Etudier ses propri´´ et´es alg´ebriques.

4. Regarder les hypoth`eses statistiques du mod`ele et analyser leurs cons´equences (absence de biais, convergence, efficience).

5. Distinguer entre les cas d’erreurs h´et´erosc´edastiques et erreurs homosc´edastiques.

6. Analyser les tests d’hypoth`ese et le calcul d’intervalles de confiance dans le cadre du mod`ele.

Objectifs

1. Pr´esenter le mod`ele de r´egression simple.

2. D´eriver l’estimateur MCO.

3. Etudier ses propri´´ et´es alg´ebriques.

4. Regarder les hypoth`eses statistiques du mod`ele et analyser leurs cons´equences (absence de biais, convergence, efficience).

5. Distinguer entre les cas d’erreurs h´et´erosc´edastiques et erreurs homosc´edastiques.

6. Analyser les tests d’hypoth`ese et le calcul d’intervalles de confiance dans le cadre du mod`ele.

Objectifs

1. Pr´esenter le mod`ele de r´egression simple.

2. D´eriver l’estimateur MCO.

3. Etudier ses propri´´ et´es alg´ebriques.

4. Regarder les hypoth`eses statistiques du mod`ele et analyser leurs cons´equences (absence de biais, convergence, efficience).

5. Distinguer entre les cas d’erreurs h´et´erosc´edastiques et erreurs homosc´edastiques.

6. Analyser les tests d’hypoth`ese et le calcul d’intervalles de confiance dans le cadre du mod`ele.

Le mod` ele

I Le mod`ele s’´ecrit :

Y_i =β₀+β₁X_i+u_i.

I Yi peut ˆetre pr´edite par une autre variable ´economique Xi.

I La relation est lin´eaire. Sansui c’est l’´equation d’une droite.

Le mod` ele

I Le mod`ele s’´ecrit :

Y_i =β₀+β₁X_i+u_i.

I Yi peut ˆetre pr´edite par une autre variable ´economique Xi.

I La relation est lin´eaire. Sansui c’est l’´equation d’une droite.

Le mod` ele

I Le mod`ele s’´ecrit :

Y_i =β₀+β₁X_i+u_i.

I Yi peut ˆetre pr´edite par une autre variable ´economique Xi.

I La relation est lin´eaire. Sansui c’est l’´equation d’une droite.

Estimateur MCO

I Minimiser les erreurs de pr´evision – (Y_i −β0−β1X_i).

I Choisirβ0 etβ1 pour minimiser la somme des erreurs au carr´e.

I Alg´ebriquement :

βmin0,β1

n

X

i=1

(Y_i −β₀−β₁X_i)².

Estimateur MCO

I Minimiser les erreurs de pr´evision – (Y_i −β0−β1X_i).

I Choisirβ0 etβ1 pour minimiser la somme des erreurs au carr´e.

I Alg´ebriquement :

βmin0,β1

n

X

i=1

(Y_i −β₀−β₁X_i)².

Estimateur MCO

I Minimiser les erreurs de pr´evision – (Y_i −β0−β1X_i).

I Choisirβ0 etβ1 pour minimiser la somme des erreurs au carr´e.

I Alg´ebriquement :

βmin0,β1

n

X

i=1

(Y_i −β₀−β₁X_i)².

Estimateur MCO

I Minimiser les erreurs de pr´evision – (Y_i −β0−β1X_i).

I Choisirβ0 etβ1 pour minimiser la somme des erreurs au carr´e.

I Alg´ebriquement :

βmin0,β1

n

X

i=1

(Y_i −β₀−β₁X_i)².

Estimateur MCD (suite)

I CPOs :

β₀ :−2

n

X

i=1

Y_i−βˆ₀−βˆ₁X_i

= 0;

β₁ :−2

n

X

i=1

Y_i−βˆ₀−βˆ₁X_i

X_i = 0,

I Les chapeaux sur β0 etβ1 soulignent l’id´ee que lorsqu’on trouve la solution `a ces deux ´equations, il s’agit d’estimateurs MCO.

Estimateur MCD (suite)

I CPOs :

β₀ :−2

n

X

i=1

Y_i−βˆ₀−βˆ₁X_i

= 0;

β₁ :−2

n

X

i=1

Y_i−βˆ₀−βˆ₁X_i

X_i = 0,

I Les chapeaux sur β0 etβ1 soulignent l’id´ee que lorsqu’on trouve la solution `a ces deux ´equations, il s’agit d’estimateurs MCO.

Estimateur MCD (suite)

I CPOs :

β₀ :−2

n

X

i=1

Y_i−βˆ₀−βˆ₁X_i

= 0;

β₁ :−2

n

X

i=1

Y_i−βˆ₀−βˆ₁X_i

X_i = 0,

I Les chapeaux sur β0 etβ1 soulignent l’id´ee que lorsqu’on trouve la solution `a ces deux ´equations, il s’agit d’estimateurs MCO.

Extimateur MCO (suite)

I 1`ere CPO donne

n

X

i=1

Yi −βˆ0−βˆ1Xi

= 0

⇒

n

X

i=1

βˆ₀=nβˆ₀ =

n

X

i=1

Y_i −βˆ₁X_i

⇒βˆ0= 1 n

n

X

i=1

Yi −βˆ1

1 n

n

X

i=1

Xi

⇒βˆ0 = ¯Y −βˆ1X¯.

I Solution pour ˆβ0 en fonction de ˆβ1.

Extimateur MCO (suite)

I 1`ere CPO donne

n

X

i=1

Yi −βˆ0−βˆ1Xi

= 0

⇒

n

X

i=1

βˆ₀=n βˆ₀ =

n

X

i=1

Y_i −βˆ₁X_i

⇒βˆ0= 1 n

n

X

i=1

Yi −βˆ1

1 n

n

X

i=1

Xi

⇒βˆ0 = ¯Y −βˆ1X¯.

I Solution pour ˆβ0 en fonction de ˆβ1.

Extimateur MCO (suite)

I 1`ere CPO donne

n

X

i=1

Yi −βˆ0−βˆ1Xi

= 0

⇒

n

X

i=1

βˆ₀=n βˆ₀ =

n

X

i=1

Y_i −βˆ₁X_i

⇒βˆ0= 1 n

n

X

i=1

Yi−βˆ1

1 n

n

X

i=1

Xi

⇒βˆ0 = ¯Y −βˆ1X¯.

I Solution pour ˆβ0 en fonction de ˆβ1.

Extimateur MCO (suite)

I 1`ere CPO donne

n

X

i=1

Yi −βˆ0−βˆ1Xi

= 0

⇒

n

X

i=1

βˆ₀=n βˆ₀ =

n

X

i=1

Y_i −βˆ₁X_i

⇒βˆ0= 1 n

n

X

i=1

Yi−βˆ1

1 n

n

X

i=1

Xi

⇒βˆ0 = ¯Y −βˆ1X¯.

I Solution pour ˆβ0 en fonction de ˆβ1.

Extimateur MCO (suite)

I 1`ere CPO donne

n

X

i=1

Yi −βˆ0−βˆ1Xi

= 0

⇒

n

X

i=1

βˆ₀=n βˆ₀ =

n

X

i=1

Y_i −βˆ₁X_i

⇒βˆ0= 1 n

n

X

i=1

Yi−βˆ1

1 n

n

X

i=1

Xi

⇒βˆ0 = ¯Y −βˆ1X¯.

I Solution pour ˆβ0 en fonction de ˆβ1.

I Substituant cette solution dans la deuxi`eme CPO :

n

X

i=1

Y_i −Y¯ + ˆβ₁X¯−βˆ₁X_i

X_i = 0.

⇒ 1 n

n

X

i=1

Y_iX_i−1 n

n

X

i=1

Y X¯ _i−1 n

n

X

i=1

βˆ₁(X_i)²+1 n

n

X

i=1

βˆ₁X X¯ _i = 0

⇒ 1 n

n

X

i=1

Y_iX_i−Y¯1 n

n

X

i=1

X_i−βˆ₁ 1 n

n

X

i=1

(X_i)²−X¯1 n

n

X

i=1

X_i

!

= 0

⇒ 1 n

n

X

i=1

Y_iX_i −Y¯X¯−βˆ₁ 1 n

n

X

i=1

(X_i)²−X¯X¯

!

= 0

⇒βˆ1 =

1 n

Pn

i=1YiXi −X¯Y¯

1 n

Pn

i=1(X_i)²− X¯2 =

1 n

Pn

i=1 Yi −Y¯

Xi −X¯

1 n

Pn

i=1 X_i −X¯2 .

I Substituant cette solution dans la deuxi`eme CPO :

n

X

i=1

Y_i −Y¯ + ˆβ₁X¯−βˆ₁X_i

X_i = 0.

⇒ 1 n

n

X

i=1

Y_iX_i−1 n

n

X

i=1

Y X¯ _i−1 n

n

X

i=1

βˆ₁(X_i)²+1 n

n

X

i=1

βˆ₁X X¯ _i = 0

⇒ 1 n

n

X

i=1

Y_iX_i−Y¯1 n

n

X

i=1

X_i−βˆ₁ 1 n

n

X

i=1

(X_i)²−X¯1 n

n

X

i=1

X_i

!

= 0

⇒ 1 n

n

X

i=1

Y_iX_i −Y¯X¯−βˆ₁ 1 n

n

X

i=1

(X_i)²−X¯X¯

!

= 0

⇒βˆ1 =

1 n

Pn

i=1YiXi −X¯Y¯

1 n

Pn

i=1(X_i)²− X¯2 =

1 n

Pn

i=1 Yi −Y¯

Xi −X¯

1 n

Pn

i=1 X_i −X¯2 .

I Substituant cette solution dans la deuxi`eme CPO :

n

X

i=1

Y_i −Y¯ + ˆβ₁X¯−βˆ₁X_i

X_i = 0.

⇒ 1 n

n

X

i=1

Y_iX_i−1 n

n

X

i=1

Y X¯ _i−1 n

n

X

i=1

βˆ₁(X_i)²+1 n

n

X

i=1

βˆ₁X X¯ _i = 0

⇒ 1 n

n

X

i=1

Y_iX_i−Y¯1 n

n

X

i=1

X_i−βˆ₁ 1 n

n

X

i=1

(X_i)²−X¯1 n

n

X

i=1

X_i

!

= 0

⇒ 1 n

n

X

i=1

Y_iX_i −Y¯X¯−βˆ₁ 1 n

n

X

i=1

(X_i)²−X¯X¯

!

= 0

⇒βˆ1 =

1 n

Pn

i=1YiXi −X¯Y¯

1 n

Pn

i=1(X_i)²− X¯2 =

1 n

Pn

i=1 Yi −Y¯

Xi −X¯

1 n

Pn

i=1 X_i −X¯2 .

I Substituant cette solution dans la deuxi`eme CPO :

n

X

i=1

Y_i −Y¯ + ˆβ₁X¯−βˆ₁X_i

X_i = 0.

⇒ 1 n

n

X

i=1

Y_iX_i−1 n

n

X

i=1

Y X¯ _i−1 n

n

X

i=1

βˆ₁(X_i)²+1 n

n

X

i=1

βˆ₁X X¯ _i = 0

⇒ 1 n

n

X

i=1

Y_iX_i−Y¯1 n

n

X

i=1

X_i−βˆ₁ 1 n

n

X

i=1

(X_i)²−X¯1 n

n

X

i=1

X_i

!

= 0

⇒ 1 n

n

X

i=1

Y_iX_i −Y¯X¯−βˆ₁ 1 n

n

X

i=1

(X_i)²−X¯X¯

!

= 0

⇒βˆ1 =

1 n

Pn

i=1YiXi −X¯Y¯

1 n

Pn

i=1(X_i)²− X¯2 =

1 n

Pn

i=1 Yi −Y¯

Xi −X¯

1 n

Pn

i=1 X_i −X¯2 .

I Substituant cette solution dans la deuxi`eme CPO :

n

X

i=1

Y_i −Y¯ + ˆβ₁X¯−βˆ₁X_i

X_i = 0.

⇒ 1 n

n

X

i=1

Y_iX_i−1 n

n

X

i=1

Y X¯ _i−1 n

n

X

i=1

βˆ₁(X_i)²+1 n

n

X

i=1

βˆ₁X X¯ _i = 0

⇒ 1 n

n

X

i=1

Y_iX_i−Y¯1 n

n

X

i=1

X_i−βˆ₁ 1 n

n

X

i=1

(X_i)²−X¯1 n

n

X

i=1

X_i

!

= 0

⇒ 1 n

n

X

i=1

Y_iX_i −Y¯X¯−βˆ₁ 1 n

n

X

i=1

(X_i)²−X¯X¯

!

= 0

⇒βˆ1 =

1 n

Pn

i=1YiXi−X¯Y¯

1 n

Pn

i=1(X_i)²− X¯2 =

1 n

Pn

i=1 Yi −Y¯

Xi −X¯

1 n

Pn

i=1 X_i −X¯2 .

Estimateur MCO (suite)

I 2e fa¸con ´equivalente : βˆ1 =

Pn

i=1 Y_i−Y¯

X_i −X¯ Pn

i=1 X_i−X¯2 .

I 3e fa¸con ´equivalente : βˆ₁=

1 (n−1)

Pn

i=1 Yi −Y¯

Xi−X¯

1 (n−1)

Pn

i=1 X_i −X¯2 .

I Comme aide-m´emoire, la derni`ere expression est peut-ˆetre la plus utile.β₁ est le ratio entre la covariance ´echantillonnale entre X etY et la variance ´echantillonnale de X.

Estimateur MCO (suite)

I 2e fa¸con ´equivalente : βˆ1 =

Pn

i=1 Y_i−Y¯

X_i −X¯ Pn

i=1 X_i−X¯2 .

I 3e fa¸con ´equivalente : βˆ₁=

1 (n−1)

Pn

i=1 Yi −Y¯

Xi−X¯

1 (n−1)

Pn

i=1 X_i −X¯2 .

I Comme aide-m´emoire, la derni`ere expression est peut-ˆetre la plus utile.β₁ est le ratio entre la covariance ´echantillonnale entre X etY et la variance ´echantillonnale de X.

Estimateur MCO (suite)

I 2e fa¸con ´equivalente : βˆ1 =

Pn

i=1 Y_i−Y¯

X_i −X¯ Pn

i=1 X_i−X¯2 .

I 3e fa¸con ´equivalente : βˆ₁=

1 (n−1)

Pn

i=1 Yi −Y¯

Xi−X¯

1 (n−1)

Pn

i=1 X_i −X¯2 .

I Comme aide-m´emoire, la derni`ere expression est peut-ˆetre la plus utile.β₁ est le ratio entre la covariance ´echantillonnale entre X etY et la variance ´echantillonnale de X.

Propri´ et´ es alg´ ebriques de l’estimateur MCO

I L’estimateur MCO poss`ede des propri´et´esalg´ebriquesde base.

I Ces propri´et´esne d´ependent pasd’hypoth`eses concernant les propri´et´esstatistiquesde Y,X ouu.

I Nous allons utiliser ces propri´et´es `a maintes reprises pour trouver d’autres propri´et´es de l’estimateur MCO.

I Plusieurs de ces propri´et´es d´ependent du fait que le mod`ele de r´egression inclut une constante. (Sinon voir Windmeijer, 1994.)

Propri´ et´ es alg´ ebriques de l’estimateur MCO

I L’estimateur MCO poss`ede des propri´et´esalg´ebriquesde base.

I Ces propri´et´esne d´ependent pasd’hypoth`eses concernant les propri´et´esstatistiquesdeY,X ouu.

I Nous allons utiliser ces propri´et´es `a maintes reprises pour trouver d’autres propri´et´es de l’estimateur MCO.

I Plusieurs de ces propri´et´es d´ependent du fait que le mod`ele de r´egression inclut une constante. (Sinon voir Windmeijer, 1994.)

Propri´ et´ es alg´ ebriques de l’estimateur MCO

I L’estimateur MCO poss`ede des propri´et´esalg´ebriquesde base.

I Ces propri´et´esne d´ependent pasd’hypoth`eses concernant les propri´et´esstatistiquesdeY,X ouu.

I Nous allons utiliser ces propri´et´es `a maintes reprises pour trouver d’autres propri´et´es de l’estimateur MCO.

I Plusieurs de ces propri´et´es d´ependent du fait que le mod`ele de r´egression inclut une constante. (Sinon voir Windmeijer, 1994.)

Propri´ et´ es alg´ ebriques de l’estimateur MCO

I L’estimateur MCO poss`ede des propri´et´esalg´ebriquesde base.

I Ces propri´et´esne d´ependent pasd’hypoth`eses concernant les propri´et´esstatistiquesdeY,X ouu.

I Nous allons utiliser ces propri´et´es `a maintes reprises pour trouver d’autres propri´et´es de l’estimateur MCO.

I Plusieurs de ces propri´et´es d´ependent du fait que le mod`ele de r´egression inclut une constante. (Sinon voir Windmeijer, 1994.)

La somme des r´ esidus est z´ ero

I D´efinissons

ˆ

ui ≡Yi−βˆ0−βˆ1Xi

=Yi −Y¯+ ˆβ1X¯−βˆ1Xi.

I Nous avons 1 n

n

X

i=1

ˆ u_i = 1

n

n

X

i=1

Y_i−Y¯+ ˆβ₁X¯ −βˆ₁X_i

= 1 n

n

X

i=1

Y_i −Y¯

−βˆ₁1 n

n

X

i=1

X_i−X¯

= 0.

La somme des r´ esidus est z´ ero

I D´efinissons

ˆ

ui ≡Yi−βˆ0−βˆ1Xi

=Y_i −Y¯+ ˆβ1X¯−βˆ1X_i.

I Nous avons 1 n

n

X

i=1

ˆ u_i = 1

n

n

X

i=1

Y_i−Y¯+ ˆβ₁X¯ −βˆ₁X_i

= 1 n

n

X

i=1

Y_i −Y¯

−βˆ₁1 n

n

X

i=1

X_i−X¯

= 0.

La somme des r´ esidus est z´ ero

I D´efinissons

ˆ

ui ≡Yi−βˆ0−βˆ1Xi

=Y_i −Y¯+ ˆβ1X¯−βˆ1X_i.

I Nous avons 1 n

n

X

i=1

ˆ u_i = 1

n

n

X

i=1

Y_i−Y¯+ ˆβ₁X¯ −βˆ₁X_i

= 1 n

n

X

i=1

Y_i −Y¯

−βˆ₁1 n

n

X

i=1

X_i−X¯

= 0.

La somme des r´ esidus est z´ ero

I D´efinissons

ˆ

ui ≡Yi−βˆ0−βˆ1Xi

=Y_i −Y¯+ ˆβ1X¯−βˆ1X_i.

I Nous avons 1 n

n

X

i=1

ˆ u_i = 1

n

n

X

i=1

Y_i−Y¯+ ˆβ₁X¯ −βˆ₁X_i

= 1 n

n

X

i=1

Y_i −Y¯

−βˆ₁1 n

n

X

i=1

X_i−X¯

= 0.

La somme des r´ esidus est z´ ero

I D´efinissons

ˆ

ui ≡Yi−βˆ0−βˆ1Xi

=Y_i −Y¯+ ˆβ1X¯−βˆ1X_i.

I Nous avons 1 n

n

X

i=1

ˆ u_i = 1

n

n

X

i=1

Y_i−Y¯+ ˆβ₁X¯ −βˆ₁X_i

= 1 n

n

X

i=1

Y_i −Y¯

−βˆ₁1 n

n

X

i=1

X_i−X¯

= 0.

La moyenne de la valeur pr´ edite de Y est ´ egale ` a ¯ Y

I D´efinissons ˆYi = ˆβ0+ ˆβ1Xi =Yi−uˆi , la valeur pr´edite deYi.

I Nous avons

Yˆ_i =Y_i−uˆ_i

⇒ 1 n

n

X

i=1

Yˆi = 1 n

n

X

i=1

Yi− 1 n

n

X

i=1

ˆ ui

= 1 n

n

X

i=1

Yi ≡Y¯.

La moyenne de la valeur pr´ edite de Y est ´ egale ` a ¯ Y

I D´efinissons ˆYi = ˆβ0+ ˆβ1Xi =Yi−uˆi , la valeur pr´edite deYi.

I Nous avons

Yˆ_i =Y_i−uˆ_i

⇒ 1 n

n

X

i=1

Yˆi = 1 n

n

X

i=1

Yi− 1 n

n

X

i=1

ˆ ui

= 1 n

n

X

i=1

Yi ≡Y¯.

La moyenne de la valeur pr´ edite de Y est ´ egale ` a ¯ Y

I D´efinissons ˆYi = ˆβ0+ ˆβ1Xi =Yi−uˆi , la valeur pr´edite deYi.

I Nous avons

Yˆ_i =Y_i−uˆ_i

⇒ 1 n

n

X

i=1

Yˆi = 1 n

n

X

i=1

Yi− 1 n

n

X

i=1

ˆ ui

= 1 n

n

X

i=1

Yi ≡Y¯.

La moyenne de la valeur pr´ edite de Y est ´ egale ` a ¯ Y

I D´efinissons ˆYi = ˆβ0+ ˆβ1Xi =Yi−uˆi , la valeur pr´edite deYi.

I Nous avons

Yˆ_i =Y_i−uˆ_i

⇒ 1 n

n

X

i=1

Yˆi = 1 n

n

X

i=1

Yi− 1 n

n

X

i=1

ˆ ui

= 1 n

n

X

i=1

Yi ≡Y¯.

Orthogonalit´ e entre les X

et les r´ esidus

n

X

i=1

X_iuˆ_i

=

n

X

i=1

X_iuˆ_i−X¯

n

X

i=1

ˆ u_i =

n

X

i=1

X_i −X¯ ˆ u_i

=

n

X

i=1

X_i−X¯

Y_i−Y¯ + ˆβ1X¯−βˆ1X_i

=

n

X

i=1

X_i −X¯

Y_i −Y¯

−βˆ1 X_i−X¯

=

n

X

i=1

Xi −X¯

Yi −Y¯

−βˆ1 n

X

i=1

Xi −X¯2

=

n

X

i=1

Xi−X¯

Yi −Y¯

− Pn

i=1 Xi−X¯

Yi −Y¯ Pn

i=1 X_i−X¯2

n

X

i=1

Xi−X¯2

=

n

X

i=1

Xi −X¯

Yi −Y¯

−

n

X

i=1

Xi −X¯

Yi−Y¯

= 0.

Orthogonalit´ e entre les X

et les r´ esidus

n

X

i=1

X_iuˆ_i =

n

X

i=1

X_iuˆ_i−X¯

n

X

i=1

ˆ u_i

=

n

X

i=1

X_i −X¯ ˆ u_i

=

n

X

i=1

X_i−X¯

Y_i−Y¯ + ˆβ1X¯−βˆ1X_i

=

n

X

i=1

X_i −X¯

Y_i −Y¯

−βˆ1 X_i−X¯

=

n

X

i=1

Xi −X¯

Yi −Y¯

−βˆ1 n

X

i=1

Xi −X¯2

=

n

X

i=1

Xi−X¯

Yi −Y¯

− Pn

i=1 Xi−X¯

Yi −Y¯ Pn

i=1 X_i−X¯2

n

X

i=1

Xi−X¯2

=

n

X

i=1

Xi −X¯

Yi −Y¯

−

n

X

i=1

Xi −X¯

Yi−Y¯

= 0.

Orthogonalit´ e entre les X

et les r´ esidus

n

X

i=1

X_iuˆ_i =

n

X

i=1

X_iuˆ_i−X¯

n

X

i=1

ˆ u_i =

n

X

i=1

X_i −X¯ ˆ u_i

=

n

X

i=1

X_i−X¯

Y_i−Y¯ + ˆβ1X¯−βˆ1X_i

=

n

X

i=1

X_i −X¯

Y_i −Y¯

−βˆ1 X_i−X¯

=

n

X

i=1

Xi −X¯

Yi −Y¯

−βˆ1 n

X

i=1

Xi −X¯2

=

n

X

i=1

Xi−X¯

Yi −Y¯

− Pn

i=1 Xi−X¯

Yi −Y¯ Pn

i=1 X_i−X¯2

n

X

i=1

Xi−X¯2

=

n

X

i=1

Xi −X¯

Yi −Y¯

−

n

X

i=1

Xi −X¯

Yi−Y¯

= 0.

Orthogonalit´ e entre les X

et les r´ esidus

n

X

i=1

X_iuˆ_i =

n

X

i=1

X_iuˆ_i−X¯

n

X

i=1

ˆ u_i =

n

X

i=1

X_i −X¯ ˆ u_i

=

n

X

i=1

X_i−X¯

Y_i−Y¯ + ˆβ₁X¯−βˆ₁X_i

=

n

X

i=1

X_i −X¯

Y_i −Y¯

−βˆ1 X_i−X¯

=

n

X

i=1

Xi −X¯

Yi −Y¯

−βˆ1 n

X

i=1

Xi −X¯2

=

n

X

i=1

Xi−X¯

Yi −Y¯

− Pn

i=1 Xi−X¯

Yi −Y¯ Pn

i=1 X_i−X¯2

n

X

i=1

Xi−X¯2

=

n

X

i=1

Xi −X¯

Yi −Y¯

−

n

X

i=1

Xi −X¯

Yi−Y¯

= 0.

Orthogonalit´ e entre les X

et les r´ esidus

n

X

i=1

X_iuˆ_i =

n

X

i=1

X_iuˆ_i−X¯

n

X

i=1

ˆ u_i =

n

X

i=1

X_i −X¯ ˆ u_i

=

n

X

i=1

X_i−X¯

Y_i−Y¯ + ˆβ₁X¯−βˆ₁X_i

=

n

X

i=1

X_i −X¯

Y_i−Y¯

−βˆ1 X_i−X¯

=

n

X

i=1

Xi −X¯

Yi −Y¯

−βˆ1 n

X

i=1

Xi −X¯2

=

n

X

i=1

Xi−X¯

Yi −Y¯

− Pn

i=1 Xi−X¯

Yi −Y¯ Pn

i=1 X_i−X¯2

n

X

i=1

Xi−X¯2

=

n

X

i=1

Xi −X¯

Yi −Y¯

−

n

X

i=1

Xi −X¯

Yi−Y¯

= 0.

Orthogonalit´ e entre les X

et les r´ esidus

n

X

i=1

X_iuˆ_i =

n

X

i=1

X_iuˆ_i−X¯

n

X

i=1

ˆ u_i =

n

X

i=1

X_i −X¯ ˆ u_i

=

n

X

i=1

X_i−X¯

Y_i−Y¯ + ˆβ₁X¯−βˆ₁X_i

=

n

X

i=1

X_i −X¯

Y_i−Y¯

−βˆ1 X_i−X¯

=

n

X

i=1

X_i −X¯

Y_i −Y¯

−βˆ1 n

X

i=1

X_i −X¯2

=

n

X

i=1

Xi−X¯

Yi −Y¯

− Pn

i=1 Xi−X¯

Yi −Y¯ Pn

i=1 X_i−X¯2

n

X

i=1

Xi−X¯2

=

n

X

i=1

Xi −X¯

Yi −Y¯

−

n

X

i=1

Xi −X¯

Yi−Y¯

= 0.

Orthogonalit´ e entre les X

et les r´ esidus

n

X

i=1

X_iuˆ_i =

n

X

i=1

X_iuˆ_i−X¯

n

X

i=1

ˆ u_i =

n

X

i=1

X_i −X¯ ˆ u_i

=

n

X

i=1

X_i−X¯

Y_i−Y¯ + ˆβ₁X¯−βˆ₁X_i

=

n

X

i=1

X_i −X¯

Y_i−Y¯

−βˆ1 X_i−X¯

=

n

X

i=1

X_i −X¯

Y_i −Y¯

−βˆ1 n

X

i=1

X_i −X¯2

=

n

X

i=1

Xi−X¯

Yi −Y¯

− Pn

i=1 Xi−X¯

Yi −Y¯ Pn

i=1 X_i−X¯2

n

X

i=1

Xi−X¯2

=

n

X

i=1

Xi −X¯

Yi −Y¯

−

n

X

i=1

Xi −X¯

Yi−Y¯

= 0.

Orthogonalit´ e entre les X

et les r´ esidus

n

X

i=1

X_iuˆ_i =

n

X

i=1

X_iuˆ_i−X¯

n

X

i=1

ˆ u_i =

n

X

i=1

X_i −X¯ ˆ u_i

=

n

X

i=1

X_i−X¯

Y_i−Y¯ + ˆβ₁X¯−βˆ₁X_i

=

n

X

i=1

X_i −X¯

Y_i−Y¯

−βˆ1 X_i−X¯

=

n

X

i=1

X_i −X¯

Y_i −Y¯

−βˆ1 n

X

i=1

X_i −X¯2

=

n

X

i=1

Xi−X¯

Yi −Y¯

− Pn

i=1 Xi−X¯

Yi −Y¯ Pn

i=1 X_i−X¯2

n

X

i=1

Xi−X¯2

=

n

X

i=1

Xi −X¯

Yi −Y¯

−

n

X

i=1

Xi−X¯

Yi−Y¯

= 0.

Orthogonalit´ e entre les X

et les r´ esidus

n

X

i=1

X_iuˆ_i =

n

X

i=1

X_iuˆ_i−X¯

n

X

i=1

ˆ u_i =

n

X

i=1

X_i −X¯ ˆ u_i

=

n

X

i=1

X_i−X¯

Y_i−Y¯ + ˆβ₁X¯−βˆ₁X_i

=

n

X

i=1

X_i −X¯

Y_i−Y¯

−βˆ1 X_i−X¯

=

n

X

i=1

X_i −X¯

Y_i −Y¯

−βˆ1 n

X

i=1

X_i −X¯2

=

n

X

i=1

Xi−X¯

Yi −Y¯

− Pn

i=1 Xi−X¯

Yi −Y¯ Pn

i=1 X_i−X¯2

n

X

i=1

Xi−X¯2

=

n

X

i=1

Xi −X¯

Yi −Y¯

−

n

X

i=1

Xi−X¯

Yi−Y¯

= 0.

Interpr´ etation g´ eom´ etrique (projection)

Ajustement statistique : R

I D´efinissons : TSS≡Pn

i=1 Y_i −Y¯2

, la somme totale des carr´es.

I D´efinissons SSR≡Pn i=1

Y_i−Yˆ_i2

, la somme des r´esidus au carr´e.

I D´efinissons ESS≡Pn i=1

Yˆ_i −Y¯ 2

, la somme expliqu´ee des carr´es.

I Nous pouvons montrer que TSS = ESS + SSR.

I La preuve (un peu longue) est sur la page suivante.

Ajustement statistique : R

I D´efinissons : TSS≡Pn

i=1 Y_i −Y¯2

, la somme totale des carr´es.

I D´efinissons SSR≡Pn i=1

Yi−Yˆi

2

, la somme des r´esidus au carr´e.

I D´efinissons ESS≡Pn i=1

Yˆ_i −Y¯ 2

, la somme expliqu´ee des carr´es.

I Nous pouvons montrer que TSS = ESS + SSR.

I La preuve (un peu longue) est sur la page suivante.

Ajustement statistique : R

I D´efinissons : TSS≡Pn

i=1 Y_i −Y¯2

, la somme totale des carr´es.

I D´efinissons SSR≡Pn i=1

Yi−Yˆi

2

, la somme des r´esidus au carr´e.

I D´efinissons ESS≡Pn i=1

Yˆ_i −Y¯ 2

, la somme expliqu´ee des carr´es.

I Nous pouvons montrer que TSS = ESS + SSR.

I La preuve (un peu longue) est sur la page suivante.

Ajustement statistique : R

I D´efinissons : TSS≡Pn

i=1 Y_i −Y¯2

, la somme totale des carr´es.

I D´efinissons SSR≡Pn i=1

Yi−Yˆi

2

, la somme des r´esidus au carr´e.

I D´efinissons ESS≡Pn i=1

Yˆ_i −Y¯ 2

, la somme expliqu´ee des carr´es.

I Nous pouvons montrer que TSS = ESS + SSR.

I La preuve (un peu longue) est sur la page suivante.

Ajustement statistique : R

I D´efinissons : TSS≡Pn

i=1 Y_i −Y¯2

, la somme totale des carr´es.

I D´efinissons SSR≡Pn i=1

Yi−Yˆi

2

, la somme des r´esidus au carr´e.

I D´efinissons ESS≡Pn i=1

Yˆ_i −Y¯ 2

, la somme expliqu´ee des carr´es.

I Nous pouvons montrer que TSS = ESS + SSR.

I La preuve (un peu longue) est sur la page suivante.

Ajustement statistique (suite)

TSS≡

n

X

i=1

Y_i −Y¯2

=

n

X

i=1

Y_i −Yˆ_i +

Yˆ_i −Y¯2

=

n

X

i=1

Yi −Yˆi

2

+

n

X

i=1

Yˆi−Y¯ 2

+ 2

n

X

i=1

Yi −Yˆi Yˆi −Y¯

= SSR+ESS+2

n

X

i=1

ˆ ui

Yˆi −Y¯

= SSR+ESS+2

n

X

i=1

ˆ

uiYˆi−2 ¯Y

n

X

i=1

ˆ ui

= SSR + ESS + 2

n

X

i=1

ˆ

u_iYˆ_i = SSR + ESS + 2

n

X

i=1

ˆ u_i

βˆ₀+ ˆβ₁X_i

= SSR + ESS + 2 ˆβ0 n

X

i=1

ˆ ui + 2 ˆβ1

n

X

i=1

ˆ uiXi

= SSR + ESS.

Ajustement statistique (suite)

TSS≡

n

X

i=1

Y_i −Y¯2

=

n

X

i=1

Y_i −Yˆ_i +

Yˆ_i −Y¯2

=

n

X

i=1

Yi −Yˆi

2

+

n

X

i=1

Yˆi−Y¯ 2

+ 2

n

X

i=1

Yi −Yˆi Yˆi −Y¯

= SSR+ESS+2

n

X

i=1

ˆ ui

Yˆi −Y¯

= SSR+ESS+2

n

X

i=1

ˆ

uiYˆi−2 ¯Y

n

X

i=1

ˆ ui

= SSR + ESS + 2

n

X

i=1

ˆ

u_iYˆ_i = SSR + ESS + 2

n

X

i=1

ˆ u_i

βˆ₀+ ˆβ₁X_i

= SSR + ESS + 2 ˆβ0 n

X

i=1

ˆ ui + 2 ˆβ1

n

X

i=1

ˆ uiXi

= SSR + ESS.

Ajustement statistique (suite)

TSS≡

n

X

i=1

Y_i −Y¯2

=

n

X

i=1

Y_i −Yˆ_i +

Yˆ_i −Y¯2

=

n

X

i=1

Y_i −Yˆ_i

2

+

n

X

i=1

Yˆ_i−Y¯ 2

+ 2

n

X

i=1

Y_i −Yˆ_i Yˆ_i −Y¯

= SSR+ESS+2

n

X

i=1

ˆ ui

Yˆi −Y¯

= SSR+ESS+2

n

X

i=1

ˆ

uiYˆi−2 ¯Y

n

X

i=1

ˆ ui

= SSR + ESS + 2

n

X

i=1

ˆ

u_iYˆ_i = SSR + ESS + 2

n

X

i=1

ˆ u_i

βˆ₀+ ˆβ₁X_i

= SSR + ESS + 2 ˆβ0 n

X

i=1

ˆ ui + 2 ˆβ1

n

X

i=1

ˆ uiXi

= SSR + ESS.

Ajustement statistique (suite)

TSS≡

n

X

i=1

Y_i −Y¯2

=

n

X

i=1

Y_i −Yˆ_i +

Yˆ_i −Y¯2

=

n

X

i=1

Y_i −Yˆ_i

2

+

n

X

i=1

Yˆ_i−Y¯ 2

+ 2

n

X

i=1

Y_i −Yˆ_i Yˆ_i −Y¯

= SSR+ESS+2

n

X

i=1

ˆ ui

Yˆi −Y¯

= SSR+ESS+2

n

X

i=1

ˆ

uiYˆi−2 ¯Y

n

X

i=1

ˆ ui

= SSR + ESS + 2

n

X

i=1

ˆ

u_iYˆ_i = SSR + ESS + 2

n

X

i=1

ˆ u_i

βˆ₀+ ˆβ₁X_i

= SSR + ESS + 2 ˆβ0 n

X

i=1

ˆ ui + 2 ˆβ1

n

X

i=1

ˆ uiXi

= SSR + ESS.