C- Liaison entre deux variables statistiques

C- Liaison entre deux variables statistiques

1- liaison entre 2 variables quantitatives 2- liaison entre 1 variable quantitative et 1

variables qualitative

3- liaison entre 2 variables qualitatives 4- liaison causale entre deux variables

quantitatives

C- Statistique descriptive bidimensionnelle

9

On dispose de deux séries x et y représentant l’observation des variables X et Y sur les mêmes n individus : on a une série

bidimensionnelle

(x,y) de taille n :

C- Statistique descriptive bidimensionnelle

9 Objectif

: mettre en évidence une éventuelle variation simultanée des deux variables statistiques X et Y, appelée liaison.

La liaison peut être

ƒ causale : une variable X expliquant l’autre Y

ƒ symétrique

: les deux variables jouent des rôles symétriques

Sauf mention particulière, on s’interesse ici à une liaison symétrique.

C-1 Analyse de la liaison entre deux variables quantitatives

9

Visualisation

Le graphique le plus adapté pour observer les variations simultanées de deux variables quantitatives est le nuage de points (ou scatter-plot), représentant les n points de coordonnées dans un repère du plan.

NB : Choix des échelles: Dans le cas de deux variables homogènes (exprimées dans la même unité), on prend la même échelle sur les deux axes ; dans le cas de deux variables hétérogènes, il est préférable de représenter les points de la série centrée et réduite ou de choisir des échelles appropriées

(automatique avec la plupart des logiciels).

( , )x y_{i i}

C-1 Analyse de la liaison entre deux variables quantitatives

0 20 40 60 80 100 120

510152025

nuage de points des variables dist et speed

distance de freinage

vitesse

Coefficient de corrélation : (r speed dist, ) 0.81=

Ex: observation de la vitesse et de la distance de freinage de 50 voitures.

speed dist 1 4 2 2 4 10 3 7 4 4 7 22 5 8 16 6 9 10 7 10 18 8 10 26 9 10 34 10 11 17 11 11 28

………

C-1 Analyse de la liaison entre deux

variables quantitatives

C-1 Analyse de la liaison entre deux variables quantitatives

9

Indicateurs de liaison linéaire

¾ La covariance

ƒ Définition: ou

ƒ Propriétés :

- c’ est une forme bilinéaire symétrique qui peut prendre toute valeur réelle et dont la variance est la forme quadratique associée. On a ( idem pour s*):

- formule de Koenig generalisée : 1 ⁿ

1

*( , ) 1 ( )( )

1

n

i i

i

s x y x x y y

n ₌

= − −

−

∑

1

( , ) ( _i )( _i )

i

s x y x x y y

n ₌

=

∑

( , ) ( , ) ( , ) ; ( , ) ( , ) ( , )

s ax by z+ = as x z +bs y z s x ay bz+ = as x y +bs y z ( , ) ²( )

s x x = s x ( , ) ( , )

s x y = s y x

( , ) n 1 *( , )

s x y s x y xy x y n

= − = −

C-1 Analyse de la liaison entre deux variables quantitatives

¾ Le coefficient de corrélation linéaire de Pearson

ƒ Définitions :1) Le coefficient de corrélation est égal à la covariance des séries centrées et réduites x* et y* respectivement associées à x et y :

2) Le coefficient de corrélation est égal à

ƒ Propriétés : - Symétrie :

- Le coefficient de corrélation linéaire est compris entre -1 et 1

* ⁱ ; * ⁱ

i i

x y

x x y y

x y

s s

− −

= =

( , ) ( *, *) r x y = s x y

( , ) ( , )

x y

s x y r x y

= s s ( , ) ( , )

r x y = r y x

C-1 Analyse de la liaison entre deux variables quantitatives

ƒ

Il y a corrélation positive lorsque les variations de x et y se produisent dans le même sens, corrélation négative sinon. Plus les points sont étroitement alignés, plus la corrélation est proche de 1.

si l’on a une relation de type linéaire entre les variables.

si il n’existe aucun lien linéaire entre X et Y. On dit que les variables sont non corrélées.

NB : La covariance dépend des unités de mesure dans lesquelles sont exprimées x et y. Le coefficient de corrélation est un indice de liaison « intrinsèque ».

1 r =

0 r =

C-1 Analyse de la liaison entre deux variables quantitatives

Important : La covariance et le coefficient de corrélation ne permettent de mettre en évidence qu’une relation linéaire entre x et y.

Si deux variables sont statistiquement indépendantes (aucun lien),

la corrélation est nulle, mais l’inverse est faux : il peut exister un

lien autre que linéaire entre elles.

C-1 Analyse de la liaison entre deux

variables quantitatives

C-1 Analyse de la liaison entre deux variables quantitatives

¾ Le Coefficient de corrélation des rang de Spearman

Utilisé lorsqu’on ne dispose que d’un ordre sur un ensemble d’individus et non de valeurs numériques pour les variables X et Y. On note

et les séries des rangs des individus associées à x et y.

ƒ Définitions 1) 2)

Cas des ex-aequo :si il existe, dans l’une ou l’autre des séries, des observations ayant le même rang, on leur attribue la moyenne des rangs qu’ils auraient dû avoir s’il n’y avait pas eu d’ex-aequo. Par exemple, si deux observations de X sont classées au rang 2, on leur attribue à chacune le rang 2,5.

( 1,.... _n) rx = rx rx ( 1,.... _n)

ry = ry ry

( , ) rs = r rx ry

i i i

d =rx −ry

1

6 ²

1 ( ² 1)

n i i s

d

r n n

= − =

−

∑

C-1 Analyse de la liaison entre deux variables quantitatives

ƒ Propriétés : évaluation du lien

C-2 Analyse de la liaison entre une variable quantitative et une variable qualitative

9 X est une variable qualitative à p modalités et Y est une variable quantitative.

On dispose alors de p sous-populations déterminées par les p modalités de X .

9 L’étude de la liaison entre X et Y consiste en l’étude des différences entre ces sous-populations : il y aura absence de lien si on ne distingue pas de

différence notoire dans les caractéristiques de ces différentes sous- populations.

1,..., _p

m m

C-2 Analyse de la liaison entre une variable quantitative et une variable qualitative

9 Notations et définitions

ƒ On note et la moyenne et la variance de la série y, l’effectif de la sous-série des individus pour lesquels X vaut ( )

ƒ Avec ces notations, on a et y s_y²

1 p

k k

n n

=

∑

mk n^k

1 ( 1)

G X = m

.

…

( )

k k

G X = m G_p (X =m_p)

11,..., _i1,... _n11

y y y ¹ ,..., ,...

k ik n kk

y y y

1 ,..., ,...

p ip n pp

y y y

y1

yp 1

1 ^nk

k ik

k i

y y

n =

=

∑

1

1 ^p

k k k

y n y

n =

=

∑

1

1 ( )²

k

p

y ik

k i G

s y y

n _{= ∈}

=

∑∑

2 1

( )²

k

k ik k

k i G

s y y

n _∈

=

∑

2

s1 s²_p

C-2 Analyse de la liaison entre une variable quantitative et une variable qualitative

ƒ On appelle variance résiduelle, la moyenne pondérée des variances des sous-populations :

ƒ On appelle variance expliquée par X, la moyenne pondérée des carrés des variations des sous-populations :

ƒ On montre que l’on a :

2 2

1

1 ^p

R k k

k

s n s

n ₌

=

∑

2

1

1 ( )²

p

E k k

k

s n y y

n ₌

=

∑

2 2 2

y R E

s = s + s

C-2 Analyse de la liaison entre une variable quantitative et une variable qualitative

9

Visualisation

• On utilise en général un graphique en boîtes parallèles (box-plots). Sur un même graphique doté d’une échelle unique on représente pour Y une boîte à moustaches pour chacune des sous-populations définies par X. La comparaison de ces boîtes donne une idée assez claire de la liaison entre les deux variables.

C-2 Analyse de la liaison entre une variable quantitative et une variable qualitative

9

Un indicateur de liaison : le rapport de corrélation

¾ Définition : le rapport de corrélation est la part de variations de Y expliquée par X dans la variation totale de Y.

¾ Evaluation du lien :

ƒ e² est compris entre 0 et 1

ƒ e² est d’autant plus grand que le lien est fort.

² ²

²

E y

e s

= s

C-2 Analyse de la liaison entre une variable quantitative et une variable qualitative

Ex : 6 insecticides sont testés sur (spray) ont été testés chacun sur 12 cultures.

La réponse observée (count) est le nombre d'insectes (n=72)

count spray 1 10 A 2 7 A 3 20 A 4 14 A 5 14 A 6 12 A 7 10 A 8 23 A 9 17 A 10 20 A

………..

• Variance résiduelle :

• Variance expliquée :

• Rapport de corrélation :

2 15.4

sR =

9.5 7.2

y = s =

2 37.07 sE =

E

14.5 4.9

15.3 y 3.5

2.08 16.7

A D

B

C F

y y

y

y y

= =

= =

= =

E

4.7 2.5

4.3 1.7

2 6.2

A D

B

C F

s s

s s

s s

= =

= =

= =

2 0.7

e =

A B C D E F 12

n = n = n = n = n = n =

C-3 Analyse de la liaison entre deux variables qualitatives

9

X et Y sont qualitatives , telle que X a k modalités, Y a l modalités.

9

On cherche à savoir si il existe un lien entre X et Y.

C-3 Analyse de la liaison entre deux variables qualitatives

9 Notations et définitions

¾ Table de contingence : tableau à double entrée de dimension k*l représentant les modalités de la série bidimensionnelle (x,y).

= Nombre d’observations ayant la modalité xi de x et yj de y.

= effectif marginal : Nombre d’observations ayant la modalité xi de x

= effectif marginal :Nombre d’observations ayant la modalité yj de y

.j

n

C-3 Analyse de la liaison entre deux variables qualitatives

¾ Profils

ƒ On appelle i° profil ligne, le vecteur de dimension l des fréquences de la variable Y conditionnellement à la valeur xi de X :

ƒ On appelle j° profil colonne, le vecteur de dimension k des fréquences de la variable X conditionnellement à la valeur yj de Y :

1

. . .

,..., ^ij ,...,

i il

i i i

n n n

n n n

 

 

 

1

. . .

,..., ,...,

j ij kj

j j j

n n n

n n n

 

 

 

 

C-3 Analyse de la liaison entre deux variables qualitatives

. .

( , ) n

n

n

i j n n n

∀ = ×

En probabilité, si il y a indépendance entre X et Y, on a:

En statistiques, si il n’y a pas de liaison entre x et y, on a:

ƒ Lorsque tous les profils lignes (ou colonne) sont égaux, il y a

indépendance entre X et Y : la connaissance de X ne change pas les distributions de Y conditionnellement à X.

j j

( , ) ( i j P X x

et Y=y ) P X ( x P

) (Y=y )

∀ = = =

C-3 Analyse de la liaison entre deux variables qualitatives

9 Visualisation

ƒ Représentation des profils-lignes ou des profils colonnes par des

diagrammes en barres parallèles, ce qui donne une idée assez précise de la variation conjointe de X et Y.

ƒ Si il n’y a pas de relation, les diagrammes des différents profils devraient identiques.

C-3 Analyse de la liaison entre deux variables qualitatives

Exemple : on observe le sexe et la qualité de vue sur 1000 individus.

homme femme voyant 442 514 aveugle 38 6

ƒ Tableau des profils ligne : homme femme

voyant 0.4623431 0.5376569 aveugle 0.8636364 0.1363636

ƒ Diagramme en barres des profils lignes :

Diagramme des profils lignes

0 0,2 0,4 0,6 0,8 1 1,2

voyant aveugle

F H

C-3 Analyse de la liaison entre deux variables qualitatives

9 Un indicateur de liaison : la distance du chi2

La mesure de la liaison entre X et Y va se faire en évaluant l’écart entre la situation observée et la situation qu’on observerait si il y avait indépendance statistique. Dans ce cas, on aurait :

¾ Définition : La distance du chi2 vaut :

ƒ Si d²=0 il y a indépendance

ƒ Au plus d2 est grand, au plus les variables sont liées. Sa valeur maximale est le minimum de n (k - 1) et n (l - 1).

. .

( , ) n

n

n

i j n n n

∀ = ×

(

)

. .

2

,

²

i j

i j

n n

ij n

n n

i j n

d n −

= ∑

C-3 Analyse de la liaison entre deux variables qualitatives

Retour à l’exemple :

ƒ Tableau des effectifs observés

ƒ Tableau des effectifs théoriques

ƒ Chi2 et contribution des cases

ƒ Chi2=27,1387434

H F total

Voyant 442 514 956

Aveugne 38 6 44

total 480 520 1000

H F

Voyant 458,88 497,12

Aveugle 21,12 22,88

H F

Voyant 0,62093445 0,57317026 Aveugle 13,4912121 12,4534266

C-3 Analyse de la liaison entre deux variables qualitatives

9

Le coefficient des rangs de Spearman

ƒ

S’applique dans le cas de deux variables qualitatives ordinales

ƒ

voir C-1

C-4 Relation causale entre 2 variables quantitatives

9

Problème : On s’intéresse ici à une liaison causale éventuelle entre deux variables statistiques quantitatives X et Y.

Plus exactement, on cherche à expliquer les variations d’une variable Y (variable dépendante) par celles d’une fonction linéaire de X

(variable explicative), i.e., à valider le modèle de RLS

où - a et b sont des paramètres inconnus

- est une variable aléatoire de moyenne nulle et de variance inconnue

9

Intérêt : expliquer ou/et prévoir Y à partir de X.

Y = aX + b + ε

ε

σ

C-4 Relation causale entre 2 variables quantitatives

9

Méthode Sur une série bidimensionnelle de n réalisations de X et de Y, on cherche à valider un modèle de type :

avec i.i.d. de moyennes nulles et de variance ε

, 1,..., .

i i i

y = ax + + b ε i = n

C-4 Relation causale entre 2 variables quantitatives

9

Estimation de a et b

et sont tels que est minimal. Ce sont les

coefficients de la régression ou estimations des moindres carrés de a et b.

2

1 1

ˆ ˆ

( )²

n n

i i i

i i

e y ax b

= =

= − −

∑ ∑

aˆ

b ˆ

C-4 Relation causale entre 2 variables quantitatives

Résolution :

• La droite d’ajustement s’appelle droite de régression ou des moindres carrés.

• La valeur s’appelle la i° valeur estimée. C’est la valeur moyenne de Y lorsque X=xi . C’est aussi la prévision de Y pour une observation telle que X=xi.

• La valeur s’appelle le i° résidu. On peut montrer que :

1

2

1

( )( )

( , ) ˆ

ˆ , ˆ

( )²

n

i i

i

n i x i

x x y y

c x y

a b y ax

x x s

=

=

− −

= = = −

−

∑

∑

ˆ ˆ

ˆ ax i b

yi ^{= +}

ˆ ˆ

y = ax b +

e i ⁼ yi ⁻ y ˆ i

1 1

0.

n n

i i i

i i

e x e

= =

= =

∑ ∑

C-4 Relation causale entre 2 variables quantitatives

Un modèle de bonne qualité doit avoir un bon pouvoir explicatif et un bon pouvoir prédictif.

9 Analyse du pouvoir explicatif du modèle : Décomposition de la variabilité

=somme des carrés des variations de y (n-1 ddl)

=somme des carrés des variations expliquées par le modèle (1 ddl)

=somme des carrés des variations résiduelles (n- 2 ddl)

• Au plus SSM est grand (ou SSR faible), au meilleur est l’ajustement.

( _i )² _Y2

SST =

∑

2

ˆ ˆ

( _i )² _Y SSM =

∑

2 ( 2) 2

SSR =

∑

SST = SSR SSM +

C-4 Relation causale entre 2 variables quantitatives

Principal indicateur: le coefficient de détermination (% de variation expliqué par le modèle):

doit être proche de 1.

Autre indicateur : Le F de Fisher doit être le plus grand possible

9 Analyse du pouvoir prédictif du modèle :

- Le s² doit être le plus faible possible pour garantir de bonnes prévisions.

- Les coefficients doivent être stables pour garantir de bonnes prévisions, i.e.

leurs écarts type doivent être faibles.

² SSM 1 SSR ²( , )

R r x y

SST SST

= = − =

F CMM

= CMR

ˆ ˆ

( ) et ( )

s a s b