EQUATION D'ANALYSE DE VARIANCE COEFFICIENT DE DETERMINATION COEFFICIENT DE CORRELATION

(1)

ENFA - Bulletin du GRES n°9 – février 2000 page 29 Contact : Conf [email protected]

EQUATION D'ANALYSE DE VARIANCE COEFFICIENT DE DETERMINATION COEFFICIENT DE CORRELATION

Soit (X,Y) un couple de variables statistiques quantitatives et n observations (x_i, y_i) de ce couple,

x

la moyenne de la série x1, x2, …, xn et

y

la moyenne de la série y1, y2, …, yn ,

DY/X la droite d’ajustement affine des moindres carrés de Y en X,

y ˆ = a . x + b

une équation de DY/X avec

∑ ∑

−

= −

₂

) x x (

) y y )(

x x a (

i i

i et

b = y − a . x

b x . a

ˆ y

_i

=

_i

+

la valeur estimée de l’observation yi. 1. Quelques définitions :

y

_i

−

est l’écart total de yi à la moyenne y

ˆy_i − est l’écart de yi expliqué par l’ajustement affine

i

y ˆ

y −

est l’écart résiduel de yi ou résidu 2. Une relation évidente :

y

_i

− y = ( ˆ y

_i

− y ) + ( y

_i

− ˆ y

_i

)

(1) écart total = écart expliqué + écart résiduel

D

Y/X

Mi

x_i x

y_i y_i

y

écart total

y_i −y

écart résiduel

y_i −y_i

écart expliqué par l’ajustement affine

y_i −y y

(2)

3. Equation d’analyse de variance.

Démonstration :

Montrons que :

∑ ⁽ ^y

ⁱ

⁻ ^y ⁾

²

⁼ ∑ ⁽ ^y ^ˆ

ⁱ

⁻ ^y ⁾

²

⁺ ∑ ⁽ ^y

ⁱ

⁻ ^y ^ˆ

ⁱ

⁾

² ⁽²⁾

Pour établir la relation (2) on part de la relation (1) et on élève au carré (y_i −y)² =(y_i − y)²+2(y_i −y y)( _i −y_i)+(y_i −y_i)²

On somme pour i allant de1 à n :

(y_i −y) = (y_i −y) + (y_i −y y)( _i −y_i)+ (y_i− y_i)

∑

²

∑

² ²

∑ ∑

²

Pour démontrer (2) il reste à montrer que

∑

(y_i−y y)( _i −y_i) =⁰^.

En remplaçant y_iet yrespectivement par y_i =a x. _i +b et y=a x. +b on obtient : (y_i − y y)( _i − y_i)= ( .a x_i + / −b a x. − /b y)( _i −a x. _i −b)

∑ ∑

On remarque que b= −y a x. d’où

(y_i− y y)( _i− y_i)=a. (x_i−x y)( _i −a x. _i− +y a x. )

∑ ∑

( )

(y_i− y y)( _i− y_i)=a. (x_i−x) (y_i −y)−a x.( _i −x)

∑ ∑

(y_i − y y)( _i − y_i)=a. (x_i −x y)( _i − y)−a . (x_i −x)

∑ ∑

²

∑

² ⁽³⁾

On a des sommes sympas

∑ ⁽ ^x

ⁱ

⁻ ^x ⁾⁽ ^y

ⁱ

⁻ ^y ⁾

^et

^∑

⁽^xⁱ ⁻^x⁾² , on n’est pas loin de l’expression de a.

Pour obtenir a il suffit de diviser

∑ ⁽ ^x

ⁱ

⁻ ^x ⁾⁽ ^y

ⁱ

⁻ ^y ⁾

^par

^∑

⁽^xⁱ ⁻^x⁾² , pour ceci on factorise le deuxième membre de la relation (3) par

∑

(x_i −x)²^.

( )( ) ( ) . ( )( ) .

( )

y y y y x x a x x y y

x x a

i i i i

i i

i

− − = − − −

− −

⎛

⎝⎜⎜ ⎞

⎠⎟⎟

∑ ∑ ∑

∑

2

( )

(y_i − y y)( _i −y_i)= a −a (x_i −x)

∑

² ²

∑

²

(y_i −y y)( _i −y_i)=

∑

⁰ c’est gagné.

Finalement on obtient la relation (2)

∑

(y_i −y)² =

∑

(y_i − y)² +

∑

(y_i −y_i)² ^appelée

« équation d’analyse de variance ».

Equation d’analyse de variance :

∑

(y_i −y)² =

∑

(y_i − y)² +

∑

(y_i −y_i)² Notations et définitions.

(y_i −y)

∑

² ^{= SCE}^tot est la somme des carrés des écarts totale, c’est la variabilité totale de Y

(y_i −y)

∑

² ^{= SCE}^exp est la somme des carrés des écarts expliquée par l’ajustement affine, c’est la variabilité de Y expliquée par l’ajustement affine.

(y_i −y_i)

∑

² ^{= SCE}^res est la somme des carrés des écarts résiduelle, c’est la variabilité résiduelle (inexpliquée) de Y.

On retient l’équation d’analyse de variance sous la forme :

SCEtot = SCEexp + SCEres

somme des carrés des

écarts totale = somme des carrés des

écarts expliquée + somme des carrés des écarts résiduelle

(3)

4. Coefficient de détermination.

a) Définition.

Si SCEtot, la variabilité totale de Y, n’est pas nulle, autrement dit, si la série statistique (yi) n’est pas constante, on peut diviser les deux membres de l’équation d’analyse de variance par SCE_tot on obtient :

SCE SCE

SCE

tot SCE

res tot

exp + =1

Par définition le coefficient de détermination est le rapport SCE SCE_tot

exp

b) Propriété.

SCEexp et SCEres sont des sommes de carrés donc des nombres positifs ou nuls d’où 0 ≤ coefficient de détermination ≤ 1

c) Interprétation du coefficient de détermination.

L’interprétation du coefficient de détermination est immédiate.

Le coefficient de détermination est la proportion de la variabilité totale de Y expliquée par l’ajustement affine, (on exprime aussi ce résultat en pourcentage).

Si par exemple on obtient un coefficient de détermination de 0,9 cela signifie que 90% de la variabilité de Y est expliquée par l’ajustement affine de Y en X.

L’interprétation du coefficient de détermination est remarquablement simple.

d) Coefficient de détermination et coefficient de corrélation.

coefficient de détermination

∑ ∑

−

2 i

(y y

= (

) y

) ˆ y

b x . a y b x .

ˆ = a

_i

+ et = +

y

_i d’où

∑ ∑

−

/

−

− /

= +

₂

i

2

(y y ) ) b x . a b x . a (

_i

∑ ∑

−

= −

₂

i

2 2

(y y ) ) x x

a (

ⁱ

∑ ∑

−

= −

₂

) x x (

) y y )(

x x a (

i i

i , on a donc

∑ ∑

−

⎥ ⎥

⎦

⎤

⎢ ⎢

⎣

⎡

−

= −

₂

i 2 2

2

(y y )

) x x ( )

x x (

) y y )(

x x

(

_i

i i i

[ ]

∑

∑ ∑

−

= −

₂

i 2

2

(y y ) )

x x (

) y y )(

x x (

i

i i

(4)

2

⎥ ⎥

⎦

⎤

⎢ ⎢

⎣

⎡

−

= −

∑

∑ ∑

) y y ( )

x x (

) y y )(

x x (

i i

coefficient de détermination = r ²

Le coefficient de détermination est le carré du coefficient de corrélation linéaire 8

coefficient de détermination = r ²

Contrairement au coefficient de détermination, le coefficient de corrélation n’a pas d’interprétation immédiate.

Si le coefficient de corrélation linéaire entre deux variables statistiques X et Y est égal à 0,9 alors le coefficient de détermination entre ces mêmes variables est égal 0,81. Si l’on procède à un ajustement affine de Y et X, celui-ci explique 81% de la variabilité de Y.

Si le coefficient de corrélation linéaire entre deux variables statistiques X et Y est égal à 0,8 alors le coefficient de détermination entre ces mêmes variables est égal 0,64. Si l’on procède à un ajustement affine de Y et X, celui-ci n’explique que 64% de la variabilité de Y.

La relation entre coefficient de corrélation linéaire et coefficient de détermination permet de mieux comprendre la relation entre coefficient de corrélation linéaire et qualité d’un ajustement.

≈≈≈≈≈≈≈≈≈≈≈≈≈≈≈

EQUATION D'ANALYSE DE VARIANCE COEFFICIENT DE DETERMINATION COEFFICIENT DE CORRELATION