(1)Introduction &agrave

Texte intégral

(1)Introduction à l’économétrie. S6-LEF sc. éco. & gestion. Chapitre 2 :. Prof. Mohamed El Merouani. REGRESSION LINÉAIRE MULTIPLE. Plan du Chapitre : I.- Position du problème II.- Hypothèses d’application de la Méthode de moindres carrées III.- Estimation des composants du vecteur A. lM ®E. IV.- Espérance mathématique et matrices des variances covariances des estimateurs …à suivre…. I.- Position du problème :. Le modèle de régression linéaire multiple est de la forme :. ero. Y = a1 X 1 + a2 X 2 + L + ak X k + ε ,. où Y est la variable à expliquer,.. ua. X1,X2,…,Xk ce sont les variables explicatives. a1,a2,…,ak ce sont les paramètres du modèle.. ni. ε est l’erreur aléatoire, inconnue et centrée.. Les variables Y, X1,X2,…,Xk et ε sont des vecteurs de n composantes.. FP.  x11     x 21   M  X 1 =  ; LLL;  xi1   M    x   n1 .  x1k     x2 k   M  ; Xk =   xik   M    x   nk .  ε1    ε 2   M  ε =  εi   M    ε   n. tou. Te.  y1     y2   M  Y =  ;  yi   M    y   n. Le vecteur aléatoire Y est connu. Les vecteurs X1,X2,…,Xk sont connus et non aléatoires..  x1k   ε 1   y1   x11           x12   x2 k   ε 2   y2   M   M   M   M  +    = a1   + LL + a k   xik   ε i   yi   xi1   M   M   M   M          x   x  ε  y   nk   n   n  n1 . an. Résoudre le problème consiste en estimer les paramètres a1,a2,…,ak qui sont inconnus. Notons par aˆ1 , aˆ 2 , L , aˆ k leurs estimateurs. Le modèle s’écrit, alors :. 1 www.elmerouani.jimdo.com.

(2) Introduction à l’économétrie. S6-LEF sc. éco. & gestion. Prof. Mohamed El Merouani. ou encore sous forme matricielle,. lM ®E.  y1     y 2   x11  M  x   =  21  yi   M  M   x    n1 y   n. x12 x 22 xn 2. L x1k  a1   ε 1      L x 2 k  a 2   ε 2  + O M  M   M      L x nk  a k   ε n . Soit finalement, en posant,. x12 x 22 xn 2. L x1k   L x2k  O M   L x nk . et. ero.  x11  x X =  21 M  x  n1.  a1    a  A= 2 M   a   k. sous forme d’une équation matricielle :. ua. Y = XA + ε. Matrices de types. (n,1)=(n,k)(k,1)+(n,1). ni. Remarquons qu’un modèle écrit sous forme non homogène, c'est-à-dire avec un terme constant :. FP. Y = a0 + a1 X 1 + a2 X 2 + L + ak X k + ε. Revient au cas général précédent en supposant que la constante a0 est multipliée par un vecteur unitaire X0 :. Te. Y = a0 X 0 + a1 X 1 + a2 X 2 + L + ak X k + ε. L x1k   L x2k  et O M   L x nk .  a0    a  A= 1 M   a   k. an. 1 x11  1 x 21 X = M  1 x n1 . tou. La matrice X admet, alors, une colonne complètement des « 1 » :. Par la suite, nous allons considérer le cas homogène et nous allons estimer les termes du vecteur A en appliquant la méthode des moindres carrées.. 2 www.elmerouani.jimdo.com.

(3) Introduction à l’économétrie. S6-LEF sc. éco. & gestion. Prof. Mohamed El Merouani. II.- Hypothèses d’application de la méthode des moindres carrées : On suppose que : 1°) Le nombre des composantes (n) est plus grand que le nombre des variables explicatives (k) : n>k.. lM ®E. Les variables explicatives sont connues et non-aléatoires. En d’autres termes, commençant de nouveau par l’échantillonnage, l’unique source de variation pour Y provient de l’erreur aléatoire ε. 2°) La matrice X de type (n,k) est de rang k, c'est-à-dire que aucune variable explicative n’est linéairement dépendante des autres.. ero. Dans le cas où le rang de X est inférieur à k, la procédure d’estimation n’est plus valable. En effet, le rang de la matrice X’X, ou X’ désigne la matrice transposée de X, est alors inférieur à k, et la matrice (X’X)-1, matrice inverse de X’X n’existe pas. 3°) L’espérance mathématique du vecteur résiduel ε est nulle : E(ε)=0. (hypothèse fondamentale). ua. Le zéro représente le vecteur 0 de n composantes. En effet, pour tout i, on a E(εi)=0, c'est-àdire :. ni.  ε 1   0      ε  0 ⇔ E  2  =   ⇔ E (ε ) = 0  M  M      ε n   0 . FP.  E (ε 1 ) = 0  E (ε ) = 0  2  M   E (ε n ) = 0. 4°) L’espérance mathématique de la matrice formée par le produit du vecteur ε et de sa. transposée ε’ est égale à σ I, où pour tout i, σ 2 = E (ε i2 ) et où I est la matrice identité de type. (n,n). En effet,. de types (n,1) (1,n). L ε 1ε n   L ε 2ε n  O M  L ε n2 . an.  ε 12 ε 1ε 2  ε1     ε 22 ε ε ε 2  εε ′ =  (ε 1 , ε 2 ,L, ε n ) =  2 1 M  M   ε  ε ε ε ε  n n 2  n 1. tou. Te. 2. (n,n). Alors, l’espérance de cette matrice sera :. 3 www.elmerouani.jimdo.com.

(4) Introduction à l’économétrie. S6-LEF sc. éco. & gestion.  E (ε 12 ) E (ε 1ε 2 )   E (ε 2ε 1 ) E (ε 22 ) E (εε ′) =  M   E (ε ε ) E (ε ε ) n 1 n 2 . Prof. Mohamed El Merouani. L E (ε 1ε n )   L E (ε 2 ε n )   = Ωε O M  L E (ε n2 ) . Cette matrice est la matrice des variances-covariances des erreurs que l’on note Ωε. Mais, par l’hypothèse d’homoscédasticité, on a : E (ε 12 ) = E (ε 22 ) = L = E (ε n2 ) = σ 2. lM ®E. et par l’hypothèse de non-corrélation des erreurs : E (ε i ε j ) = 0,. si i ≠ j. σ 2 0 L 0  1 0 L 0     2 1 O M  0 σ O M  2 0 E (ε ′ε ) =  =σ  = σ 2I   M O O 0  M O O 0      2  0 L 0 σ  0 L 0 1  . D’où. ero E (εε ′) = Ω ε = σ 2 I .. Finalement,. ua. III.- Estimation des composants du vecteur A :. Soit le modèle Y=XA+ε, où ε est une variable aléatoire inconnue.. ni. Soit Â le vecteur estimateur de A.. FP. Le modèle estimé est alors : Yˆ = X Aˆ .. Désignons par e le résidu qui existe entre la valeur réelle de Y et la valeur estimé Yˆ :. Te. e = Y − Yˆ = Y − X Aˆ. Le vecteur e est un vecteur colonne de n composantes e1, e2, …,en.. tou. Calculons selon la méthode des moindres carrées, la somme des carrées des résidus : n. ∑e. = e ′. e. an. i =1. 2 i. où e′ est le vecteur ligne transposée de e . n. On a :. ∑e i =1. (. 2 i. ). (. )(. ′ = Y − X Aˆ Y − X Aˆ. ). ( ). ′ ′ or Y − X Aˆ = Y ′ − X Aˆ = Y ′ − Aˆ ′X ′. 4 www.elmerouani.jimdo.com.

(5) Introduction à l’économétrie n. alors. ∑e i =1. 2 i. (. S6-LEF sc. éco. & gestion. )(. Prof. Mohamed El Merouani. ). = Y ′ − Aˆ ′X ′ Y − X Aˆ = Y ′Y − Y ′X Aˆ − Aˆ ′X ′ Y + Aˆ ′X ′X Aˆ. les termes de cette somme sont des matrices de type (1,1), c'est-à-dire des scalaires. Or, la ′ transposée d’un scalaire est le même scalaire. Ainsi, Y ′X Aˆ = Y ′ X Aˆ. (. de type. ). (1,n)(n,k)(k,1)=(1,1). lM ®E. (Y ′X Aˆ )′ = Aˆ ′X ′(Y ′)′ = Aˆ ′X ′Y. mais aussi. n. Finalement. ∑e i =1. 2 i. = Y ′Y − 2 Aˆ ′X ′ Y + Aˆ ′X ′X Aˆ. Le 2ème terme du 2ème membre est une forme linéaire en Aˆ ′ , le 3ème est une forme quadratique. ero. en Â (la matrice X’X est une matrice de type (k,k) symétrique). n. Pour déterminer le minimum de. ∑e i =1. , nous la dérivons par rapport au paramètre à estimer Â. ua. On a :. 2 i. ∂ ( Aˆ ′X ′ Y ) = X ′Y ∂Aˆ. et. ∂ ( Aˆ ′ X ′ X Aˆ ) = 2 X ′ X Aˆ ˆ ∂A. ni. Donc, la dérivée de la somme des carrées des résidus est :.  n  ∂ ∑ ei2   i =1  = 0 ⇔ ( X ′ X )Aˆ = X ′ Y ∂Aˆ. tou. Te. Alors ;. FP.  n  ∂ ∑ ei2   i =1  = 0 − 2( X ′ Y ) + 2 X ′ X Aˆ ∂Aˆ. Si la matrice X est de rang k, la matrice (X’X)-1 existe, alors ;. −1 Aˆ = ( X ′X ) X ′ Y. Le vecteur Â est aléatoire. En effet, si on remplace Y par sa valeur Y=XA+ε, on aura :. an. −1 Aˆ = ( X ′X ) X ′( XA + ε ) −1 −1 Aˆ = ( X ′X ) ( X ′X ) A + ( X ′X ) X ′ε −1 Aˆ = A + ( X ′X ) X ′ε. Le vecteur Â dépend linéairement du vecteur aléatoire ε.. 5 www.elmerouani.jimdo.com.

(6)