Dépendance entre les attributs

Nous avons vu dans la section précédente que l'approche de regroupement d'attributs permet de grouper des attributs liés et les traiter séparément. La question qui se pose maintenant est comment choisir les attributs qui seront regroupés ensemble ? Quelle mé-thode utiliser pour dénir un groupe d'attributs comme dépendants ? Nous étudions dans ce paragraphe quelques méthodes de recherche de dépendance entre les variables fournies dans la littérature.

Nous nous focalisons sur les mesures de dépendances entre deux variables. Il s'agit de découvrir des relations ou des associations intéressantes entre deux variables. Deux variables sont dites associées lorsqu'un changement dans les valeurs de l'une engendre un changement dans les valeurs de l'autre [Liebertrau, 1983] .

Selon la nature des données traitées, diérentes méthodes et mesures ont été proposées dans la littérature an de détecter la dépendance entre les variables. Nous distinguons deux types de données principales : les données quantitatives et les données qualitatives. Lorsqu'il s'agit de variables quantitatives, on peut attribuer un certain ordre entre les valeurs d'une variable. Dans ce cas, une augmentation (ou diminution) des valeurs d'une variable peut être corrélée avec une augmentation (ou diminution) d'une autre variable. On parle donc de mesures de corrélation entre des variables quantitatives. Cependant, lorsqu'il s'agit de variables qualitatives, qui s'expriment par l'appartenance à une catégorie ou modalité, on parle de mesures d'association plutôt que de corrélation.

2.3.1 Mesures de corrélation entre des variables quantitatives

D'abord, an de caractériser graphiquement la notion de corrélation entre deux va-riables continues, un nuage de points peut être utilisé [Saporta, 2006]. La gure 17 présente 4 nuages de points : le premier montre une absence de corrélation (a), le deuxième illustre une absence de liaison en moyenne mais pas en dispersion (b), le troisième montre une corrélation linéaire (c) et le dernier présente une corrélation non-linéaire (d). Il existe beaucoup de mesures de corrélation dans la littérature ; le coecient de corrélation de Pearson et le coecient des rangs de Spearman sont parmi les mesures les plus connues. Nous ne présentons dans ce travail que ces deux dernières mesures. Pour cela, nous

sup-posons qu'on traite un problème à p individus et 2 variables X et Y . 2.3.1.1 Coecient de corrélation de Pearson

Ce coecient a été introduit par "Bravais-Pearson" dans [Pearson, 1926] ; il mesure le caractère plus ou moins linéaire du nuage de points [Saporta, 2006]. Ce coecient de corrélation linéaire, désigné par r, est déni comme suit :

r = 1 p Pp i=1(x_i− x)(y_i− y) S_XS_Y (38)

où xi représente la ime valeur de X et yi représente la ime valeur de Y. SX et SY sont

les écarts-types de X et Y : S2 X = ¹ p p X i=1 (x_i− x)2 et S2 Y = ¹ p p X i=1 (y_i− y)2.

La valeur du coecient r ne peut avoir qu'une valeur comprise entre -1 et +1. Si la valeur absolue de r est égale à 1 (|r| = 1), alors une corrélation linéaire exacte existe entre les deux variables.

Il est à noter que le coecient de corrélation de Pearson n'est pas toujours robuste. L'auteur dans [Saporta, 2006] note que le coecient r est en particulier très sensible aux individus extrêmes (voir Figure 18). De plus, même si ce coecient n'est sensé détecter que les corrélations linéaires, sa valeur peut être élevée dans le cas de corrélations non linéaires, ce qui est inattendu ! Par exemple, les trois nuages de la gure 19 possèdent tous le même coecient de corrélation (r = 0.82) bien que seul le premier nuage reète réellement une corrélation linéaire.

Figure 18  Sensibilité du coecient de Pearson aux individus extrêmes

2.3.1.2 Coecient des rangs de Spearman

Une variable mesurable n'est pas toujours numérique, néanmoins on peut avoir des variables ordinales qui ne sont pas continues mais qui possèdent un ordre quelconque sur l'ensemble des valeurs. Le coecient de Pearson n'est pas utilisable dans ce cas. Le coecient de corrélation des rangs de Spearman peut être utilisé pour mesurer la liaison entre deux variables ordinales.

Il faut d'abord assigner à chaque valeur son rang selon chaque variable. Étudier la liaison entre deux variables X et Y revient donc à comparer les classements issus de ces deux variables. Pour les données numériques, il est aussi facile de remplacer les valeurs des variables par leurs rangs et puis d'appliquer le coecient de corrélation de Spearman selon la dénition suivante :

r_s= 1 − ⁶

Pp

i=1d2 i

p(p2− 1) (39)

Où di = rang(x_i) − rang(y_i)

Selon Saporta [Saporta, 2006], les coecients de corrélation de rangs sont en fait des coecients de dépendance monotone et ne cherchent pas à détecter seulement les corré-lations linéaires. Par exemple, le nuage de points de la gure 20 donne un coecient de

corrélation linéaire r = 0.85 mais un coecient de Spearman rs = 1. Même dans le cas

de corrélation linéaire, le coecient de Spearman est préférable au coecient linéaire de Pearson car il est plus robuste et moins sensible aux valeurs extrêmes.

Figure 20  Corrélation monotone non-linéaire

2.3.2 Mesures d'association entre des variables qualitatives

Une variable qualitative s'exprime par l'appartenance à une catégorie parmi un en-semble de catégories (ou de modalités) où aucun ordre n'existe entre ces catégories. C'est pour cette raison qu'on peut également les appeler variables catégoriques. On considère toujours le cas de p individus et 2 variables X et Y qui sont qualitatives. X possède r modalités, notées x1, x₂, ..., x_r, et Y possède s modalités, notées y1, y₂, ..., y_s.

2.3.2.1 Tableau de contingence

Les données sont présentées sous la forme d'un tableau à r lignes et s colonnes, appelé

tableau de contingence, qui renferme les eectifs pij (où X = xi et Y = yj).

y₁ y₂ ... yj y_s x₁ p₁₁ p₁₂ p_1s p_1. x₂ p₂₁ p₂₂ p_2s p_2. ... x_i p_ij p_i. ... xr pr1 pr2 prs pr. p_.1 p_.2 p_.j p_.s p

Tableau 5  Table de contingence

Les pi. et les p.j s'appellent respectivement marges en lignes et marges en colonnes :

p_i. =^X

j

p_ij et p.j =^X

i

p_ij

On appelle tableau des prols-lignes le tableau des fréquences conditionnelles ^pij

p_i. et

tableau des prols-colonnes le tableau des fréquences conditionnelles ^pij

p_.j .

Lorsque tous les prols-lignes sont identiques, on peut parler d'indépendance entre X et Y puisque la connaissance de X ne change pas les distributions conditionnelles de Y. Dans ce cas, tous les prols-colonnes sont également identiques.

2.3.2.2 Test d'indépendance de Chi-deux

Le test de Chi-deux est classiquement utilisé pour mesurer l'hypothèse d'indépendance entre deux variables qualitatives. Pour un tableau à r lignes et s colonnes, le test de

Chi-deux, noté χ2 , s'écrit comme suit :

χ² = p X i=1 p X j=1 (p_ij −^pi.p.j p )2 pi.p.j p (40)

La valeur de χ2 est nulle dans le cas de l'indépendance et non nulle sinon.

2.3.2.3 Le coecient V de Cramer

Le coecient V de Cramer est une autre mesure d'association très populaire qui se base sur le coecient de Chi-deux. L'avantage de V de Cramer est qu'elle ore une normalisation des valeurs entre 0 et 1. Dans ce cas, une valeur près de 0 signie une faible association entre les variables tandis qu'une mesure proche de 1 signie une forte relation.

Le coecient V de Cramer se dénit comme suit [Cramer, 1999] : V =

s χ2

p(l − 1) (41)

Où p représente la taille de la population et l désigne le nombre de lignes ou de colonnes (le minimum entre eux).

2.3.2.4 Information mutuelle

L'information mutuelle de deux variables X et Y , notée I(X; Y ), est une quantité qui mesure la dépendance mutuelle de deux variables [Moshe, 2006]. Elle mesure à quel niveau la connaissance de X réduit notre incertitude sur Y et mutuellement la connaissance de

Y réduit notre incertitude sur X. L'information mutuelle est non-négative (I(X; Y ) > 0)

et elle est symétrique (I(X; Y ) = I(Y ; X)). Cette valeur est égale à 0 si les deux variables sont strictement indépendantes et augmente avec leur dépendance. L'information mutuelle est dénie dans [Yao, 2003] comme suit :

I(X; Y ) = ^X x∈VX X y∈VY P (x, y)log ^{P (x, y)} P (x)P (y) (42)

où P (x, y) est la distribution de probabilité jointe de X et Y , et P (x) et P (y) sont

respectivement les distributions de probabilité marginale de X et de Y . VX représente

l'ensemble des valeurs possibles de X et VY désigne l'ensemble des valeurs possibles de Y .

Le lecteur intéressé par cette mesure peut trouver plus de détails dans [Yao, 2003]. Le problème de l'utilisation de l'information mutuelle IM réside dans la méthode d'es-timation des densités de probabilité. Une méthode intéressante d'esd'es-timation de l'IM a été proposée dans [Kraskov et al., 2004] ; elle se base sur l'utilisation de l'entropie de Shannon. Dans ce cas, l'information mutuelle s'écrit de la façon suivante :

I(X, Y ) = H(X) + H(Y ) − H(X, Y ) (43)

Où H représente l'entropie de Shannon et est dénie comme suit :

H(X) = − ^X

x∈VX

P (x) × log₂P (x) (44)

La valeur de l'information mutuelle dépend généralement des modalités des variables considérées [Crémilleux, 1991]. Pour cela, plusieurs normalisations de l'information mu-tuelle ont été proposées [Kvalseth, 1987, Hou, 1996]. Parmi ces mesures normalisées, nous citons le coecient d'incertitude symétrique SU [Kvalseth, 1987] qui se dénit comme suit :

SU (X, Y ) = ^{2I(X; Y )}

Figure 21  Étapes de la méthode SIFCO

Dans le document Apprentissage par Regroupement d'Attributs dans les Systèmes d'Inférence Floue (Page 67-72)