4 Nuage de points

Document disponible àhttp://www.univ-montp3.fr/miap/ens/AES/L1/optionmath.

AES option mathématique Année 2004–2005

Notes de cours : ajustement linéaire

1 Cadre : mesure conjointe de deux caractères

On se place dans le cas où, surune seulepopulation, on étudiedeux caractèresquantita- tifs dans le but d’exhiber un lien entre ces deux caractères.

SoitX le premier caractère etY le second. On note {m₁,m₂, . . . ,m_k} les modalités deX et {m₁⁰,m₂⁰, . . . ,m<sub>`</sub><sup>0</sup>} les modalités deY. Pour un couple de modalités (m<sub>i</sub>,m<sup>0</sup><sub>j</sub>), on note n<sub>i j</sub> l’effectif des individus associés à la modalitém<sub>i</sub> pourX et m<sup>0</sup><sub>j</sub> pourY. La somme de toutes les valeursn<sub>i j</sub> lorsque (i,j) parcourt {1, . . . ,k}×{1, . . . ,`} est donc l’effectif total qu’on note n:

X

(i,j)∈{1,...,k}×{1,...,`}

n_{i j}=n. (1)

La fréquence associée au couple de modalités (m_i,m_j) est la proportion, parmi toute la po- pulation, des individus associés à la modalitémi pourX et m⁰_j pourY. On note fi j cette fréquence et on a

f_{i j}=n_{i j} n .

On déduit, en divisant parnl’équation (1) que la somme de toutes les valeursn_{i j} lorsque (i,j) parcourt {1, . . . ,k}×{1, . . . ,`} vaut 1 :

X

(i,j)∈{1,...,k}×{1,...,`}

f_{i j}=1.

2 Tableau de contingence

Les résultats sont généralement représentés dans untableau de contingenceen effectifs (ou en fréquences) : à chaque modalité deX, on associe une ligne, à chaque modalité de Y, on associe une colonne puis à l’intersection de la ligne associée à m_i et de la colonne associée à m⁰_j, on place l’effectif n_{i j} (ou la fréquence f_{i j}) – voir les tableaux 1et 2page suivante.

m₁⁰ . . . m⁰_j . . . m_{`</sub><sup>0</sup> m<sub>1</sub> n<sub>11</sub> n<sub>1j</sub> n<sub>1`}

...

m_i n_i1 n_{i j} n_i`

...

m_k n_k1 n_{k j} n_k`

TAB. 1 – Tableau de contingence en effectifs m₁⁰ . . . m⁰_j . . . m_`⁰

m₁ f₁₁ f_1j f_1`

...

m_i f_i1 f_{i j} f_i` ...

m_k f_k1 f_{k j} f_k`

TAB. 2 – Tableau de contingence en fréquences

3 Moyennes et variances

À partir des observations conjointes deX, on peut calculer la moyenne Moy(X) deX et la moyenne Moy(Y) deY.

Étant donné une modalitémideX, un individu associé à cette modalité est associé à une (et une seule) des modalités deY. Ainsi, l’effectif,n_i, des individus associés à la modalité m_i de X est la somme des effectifs associés aux couples de modalités (m_i,m⁰_j) lorsque j parcourt {1, . . . ,`} :

n_i= X` j=1

n_{i j}=n_i1+ · ·· +n_i`.

On rappelle que la moyenne deX est la somme des modalités deX multipliée par les effectifs correspondant divisée par l’effectif total, ainsi :

Moy(X)= 1 n

k

X

i=1

n_im_i=n₁m₁+ · ·· +n_km_k

n . (2)

Étant donné une modalitém⁰_j deY, un individu associé à cette modalité est associé à une (et une seule) des modalités deX. Ainsi, l’effectif,n_j, des individus associés à la modalité m⁰_j de Y est la somme des effectifs associés aux couples de modalités (mi,m⁰_j) lorsque i parcourt {1, . . . ,k} :

n_j=

k

X

i=1

n_{i j}=n_1j+ · ·· +n_{k j} puis

Moy(Y)= 1 X^`

n_jm⁰_j=n₁m₁⁰+ · ·· +n_{`</sub>m<sup>0</sup><sub>`}

. (3)

De la même façon puisque la variance est une moyenne (à savoir celle des carrés des écarts à la moyenne), on a

Var(X)= 1 n

k

X

i=1

n_i¡

m_i−Moy(X)¢2

=n1

¡m1−Moy(X)¢2

+ · ·· +nk

¡mk−Moy(X)¢2

n (4)

et

Var(Y)= 1 n

X` j=1

n_j³

m⁰_j−Moy(Y)

´2

=n₁¡

m₁⁰−Moy(Y)¢2

+ · ·· +n_`¡

m_`⁰−Moy(Y)¢2

n . (5)

4 Nuage de points

On traîte le cas de caractèresdiscret. Lorsque le caractère est continu, on se ramène au cas discret en remplaçant les intervalles que sont les modalités par leurs centres.

Pour tracer le nuage de points des caractères X etY dans un repère orthonormé¹, on représente chaque couple de modalités (mi,m⁰_j) d’effectifni j non nul par un pointMi j de coordonnées (m_i,m⁰_j). Il faut imaginer que chaque point est muni d’un poids égal à l’effec- tif associé au couple de modalités qu’il représente. Le nombre total de points est donc le nombre de couples de modalitésk`et la somme des poids des points est l’effectifn.

On peut alors donner une interprétation géométrique de la moyenne : le centre de gra- vité du nuage de points est le point de coordonnées¡

Moy(X), Moy(Y)¢

. Cela signifie que si l’on imagine les points du nuage placés (avec leurs poids correspondants) sur une plaque horizontal, il suffit de placer une tige vertical sous le plateau en appui sur le point de coor- données¡

Moy(X), Moy(Y)¢

pour maintenir le plateau en équilibre horizontal. On donne une preuve de ce fait au paragraphe7.1page6.

Chercher àexpliquer Y par X c’est chercher une fonction dont le graphe approche bien le nuage de points. C’est un problème compliqué²que l’on ne va étudier que dans un cas simple.

5 Régression linéaire : méthode des moindres carrés

Quand on fait de la régression linéaire, on cherche à approcher un nuage de points par le graphe d’une fonction parmi les plus simples : une droite. Les erreurs sont mesurées à l’aide des carrés des écarts verticaux entre les points du nuage et la droite (voir la figure1page suivante). L’erreur totale commise est la somme des carrés des écarts verticaux entre les points du nuage et la droite. En procédant de la sorte, on met en valeur les grands écarts verticaux et on dévalorise les petits écarts³.

1On demande donc qu’il y ait un axe vertical et un axe horizontal et que l’echelle soit la même sur les deux axes.

2La définition de « approche bien » est déjà en soi un problème compliqué.

3On comparera avec la notion de variance. Voir le cours « Paramètres statistiques » disponible sur http://www.univ-montp3.fr/miap/ens/AES/XA100M/index.html

0 X Y

D

mi

m⁰_j Mij

Ecart vertical´

FIG. 1 – Écart vertical entreM_{i j} etD

Pour décrire le résultat, on a besoin d’introduire lacovariancedeX etY : c’est le nombre défini par

Cov(X,Y)= 1 n

X

(i,j)∈{1,...,k}×{1,...,`}

ni jmim⁰_j−Moy(X) Moy(Y).

On peut retenir que c’est la moyenne des produits moins le produit des moyennes.

On montre alors (voir le paragraphe7.2page7) que la droite pour laquelle l’erreur est la plus petite est la droite passant par le point de coordonnées¡

Moy(X), Moy(Y)¢

et de coeffi- cient directeur la covariance Cov(X,Y) deX etY divisée par la variance Var(X) deX. C’est donc la droite d’équation

y=ax+b avec

a=Cov(X,Y) Var(X) et

b=Moy(Y)−Cov(X,Y)

Var(X) Moy(X).

On peut aussi déterminer dans quelle mesure la droite trouvée approche bien le nuage de points. Pour cela, on introduit lecoefficient de corrélation

r(X,Y)= Cov(X,Y) pVar(X) Var(Y)

et on montre (voir le paragraphe7.3page8) que plus le coefficientr(X,Y) est proche de 1 ou−1, meilleure est l’approximation. On verra aussi au paragraphe7.3que, lorsque Var(X)<

Var(Y), on commet une erreur moins grande en expliquantX parY qu’en expliquantY par X. Pour estimerX parY, on utilise les mêmes formules pouraetb en échangeant les rôles deX etY.

6 Un exemple simple

On étudie deux caractéres X et Y dont le tableau de contigence est le tableau 3page

1 2 3 4 5

1 0 0 0 0 1

2 0 0 1 1 0

3 0 0 1 1 0

4 0 1 0 0 0

5 0 0 0 0 0

TAB. 3 – On calcule

Moy(X)=3, 14 Moy(Y)=2, 86 Var(X)=1, 55 Var(Y)=1, 55 et

Cov(X,Y)= −1, 41.

Le coefficient directeur de la droite d’ajustement est a= −0, 91 et le coefficient de corrélation est

r= −0, 91.

Le nuage et la droite d’ajustement sont donnés à la figure2.

0 X

Y

G

FIG. 2 – Nuage et droite d’ajustement associés au tableau3

7 Annexes

7.1 Calcul du centre de gravité du nuage de points

SoitGle centre de gravité du nuage de points. Ce nuage est composé des pointsM_{i j} de coordonnées (m_i,m⁰_j) et de poidsn_{i j}. Par définition du centre de gravitéG, on a alors

X

(i,j)∈{1,...,k}×{1,...,`}

ni j# GMi j=#

0 . (6)

On note (xG,yG) les coordonnées deG. La considération des abscisses dans (6) conduit à X

(i,j)∈{1,...,k}×{1,...,`}

n_{i j}(m_i−x_G)=0 donc

X

(i,j)∈{1,...,k}×{1,...,`}

n_{i j}m_i= X

(i,j)∈{1,...,k}×{1,...,`}

n_{i j}x_G

=nx_G grâce à (1) puis

x_G= 1 n

X

(i,j)∈{1,...,k}×{1,...,`}

n_{i j}m_i. (7)

Mais

X

(i,j)∈{1,...,k}×{1,...,`}

ni jmi= Xk i=1

à _` X

j=1

ni j

! mi

=

k

X

i=1

n_im_i. L’équation (7) devient donc

x_G= 1 n

k

X

i=1

n_im_i =Moy(X) grâce à (2). La considération des ordonnées dans (6) conduit à

X

(i,j)∈{1,...,k}×{1,...,`}

n_{i j}(m⁰_j−y_G)=0 donc

X

(i,j)∈{1,...,k}×{1,...,`}

n_{i j}m⁰_j= X

(i,j)∈{1,...,k}×{1,...,`}

n_{i j}y_G

=n y_G grâce à (1) puis

y_G= 1 X

n_{i j}m⁰_j. (8)

Mais

X

(i,j)∈{1,...,k}×{1,...,`}

n_{i j}m⁰_j= X` j=1

à k

X

i=1

n_{i j}

! m⁰_j

= X` j=1

n_jm⁰_j. L’équation (8) devient donc

y_G= 1 n

X` j=1

n_jm⁰_j=Moy(Y) grâce à (3).

7.2 Détermination de la droite d’ajustement linéaire

L’écart vertical entre le point M_{i j} de coordonnées (m_i,m⁰_j) et la droite d’équation y = ax+bétantm⁰_j−(am_i+b), on chercheaetbpour que la grandeur

T(a,b)= 1 n

X

(i,j)∈{1,...,k}×{1,...,`}

n_{i j}[m⁰_j−(am_i+b)]² soit minimum. En développant le carré, on obtient

T(a,b)= X

(i,j)∈{1,...,k}×{1,...,`}

n_{i j}(m⁰_j²+a²m²_i +2abm_i+b²−2am_im⁰_j−2bm⁰_j) et donc

T(a,b)= X` j=1

njm⁰_j²+a² Xk i=1

nim_i²+2ab Xk i=1

nimi+b²

−2a X

(i,j)∈{1,...,k}×{1,...,`}

ni jmim⁰_j−2b X` j=1

njm⁰_j. On en déduit

T(a,b)=Moy(Y²)+a²[Var(X)+Moy(X)²]+2abMoy(X)+b²

−2a[Cov(X,Y)+Moy(X) Moy(Y)]−2bMoy(Y). (9) Pour les valeurs deaetbréalisant le minimum deT(a,b), on a

∂T

∂a =0 (10)

et ∂T

∂b =0. (11)

Grâce à l’équation9, on calcule

∂T

∂b =2aMoy(X)+2b−2 Moy(Y)

et donc, l’équation11page précédente devient

aMoy(X)+b=Moy(Y). (12)

Le point de coordonnées¡

Moy(X), Moy(Y)¢

appartient à la droite recherchée. Grâce à l’équa- tion9page précédente, on calcule

∂T

∂a =2a[Var(X)+Moy(X)²]+2bMoy(X)−2[Cov(X,Y)+Moy(X) Moy(Y)].

En utilisant l’équation12, on

b=Moy(Y)−aMoy(X) (13)

et donc

∂T

∂a =2a[Var(X)+Moy(X)²]+2[Moy(Y)−aMoy(X)] Moy(X)−2[Cov(X,Y)+Moy(X) Moy(Y)].

L’équation10page précédente devient alors

a=Cov(X,Y)

Var(X) . (14)

7.3 Calcul d’erreur en ajustement linéaire

L’erreur commise en remplaçant le nuage de points par la droite trouvée au paragraphe précédent estT(a,b) calculée en9page précédente. En remplaçantaetbpar leurs valeurs trouvée en14et13on obtient

T(a,b)=Var(Y)

·

1− Cov(X,Y)² Var(X) Var(Y)

¸ .