Test de Student et Analyse de la Variance

(1)

Test de Student et Analyse de la Variance

A. Latouche

(2)

Plan

Il s’agit d’une g´en´eralisation du t-test de Student

I Mettre en œuvre des analyses de la variance (ANOVA).

I Analyse de la variance `a un facteur.

I ANOVA `a deux facteurs crois´es sans et avec interaction.

(3)

ANoVA

I L’analyse de la Variance est une méthode d’analyse issue des modèles linéaires

I Plus précisément, elle permet de traiter le cas de variables à expliquer quantitative et des variables explicatives

qualitatives

I On cherche à savoir quel(s) facteur(s) détermine/influence le phénomène à expliquer.

(4)

D´ efinitions

I Variable à expliquer : correspond à la réalisation du phénomène aléatoire dont on cherche à comprendre le fonctionnement.

I Soit X cette variable.

I Exemple : Si l’on s’intéresse à la vitesse de la croissance d’un chêne, la variable à expliquer peut être définie comme la taille (en cm) d’une jeune pousse de ce type d’arbre un mois après la germination.

I Cette variable est quantitative.

(5)

Variables explicatives

I Les variables explicatives représentent les facteurs dont on veut déterminer s’ils ont une influence sur le phénomène

´ etudi´e.

I Effet que peut avoir l’implantation géographique sur la croissance des chênes, la variable explicative pourra être la région dans laquelle l’arbre est planté.

I Les variables explicatives sont qualitatives

L’objectif de l’ANOVA est de d´eterminer si la variable

(6)

Notations

Afin de r´esoudre ce probl`eme on doit disposer

I de plusieurs observations de la variable `a expliquer

I selon les diff´erentes modalit´es de la (des) variable(-s) explicative(-s).

SoitX_ij laj-ème réalisation de la variable aléatoire X pour la ième modalité de la variable explicative.

(7)

ANOVA ` a un facteur

Exemple : croissance des chˆenes

Question : la région dans laquelle est plantée un chêne influence t elle sa croissance ?

I La variable à expliquer,X, marqueur du phénomène à étudier (la croissance des chênes) est la taille des pousses, un mois après germination.

I La variable explicative est la région. Cette variable est à trois modalités représentant les régions A, B et C.

I Pour chaque r´egion, on dispose de 5 observations.

D’après les définitions précédentes, on a

(8)

Croissance des chˆ enes

On dispose donc des donn´ees suivantes pour effectuer cette analyse :

R´egion

A B C

3 10 13

5 8 11

6 5 7

3 7 11

3 5 8

(9)

Variabilit´ e Intra

I En observant ces données parcolonne, on remarque que dans une région donnée les observations sont variables.

I On parle de variabilit´e intra-niveau.

I Cette variabilité peut être attribuée à la nature aléatoire des observations.

(10)

Variabilit´ e Inter

I En comparant les observations, r´egion par r´egion, on observe

´

egalement des fluctuations

I On parle de variabilit´e inter-niveau

I On peut également attribuer cette variabilité au caractère aléatoire des données.

I On peut également s’interroger sur le rôle de l’effet de la région sur la croissance dans cette variabilité.

I En effet, si la région n’a aucun effet sur la croissance des chênes, on devrait s’attendre à n’observer aucune variabilité inter-niveau.

I Plus exactement, la variabilité inter-niveau devrait être du même ordre que la variabilité intra-niveau.

(11)

Etapes de l’ANOVA

⇒La problématique de l’ANOVA revient à comparer la variabilité des observationsintra-niveau et inter-niveau.

1. Quantification des variabilit´es.

2. Test de comparaison des variances.

(12)

Quantification des variances

I Une premi`ere variabilit´e inter-niveau αi

I quantifie la dispersion desXij pour i fix´e par rapport `a la valeur moyenne des observations ¯X.

I

αi = ¯Xi−X¯

I o`u ¯Xi =P5 j=1

Xij

ni

I où ni représente le nombre d’observations pour la modalité i et ¯X_i la moyenne pour la colonne i

I X¯ =P3 i=1

P5 j=1

Xij

Nobs

avecN_obs =P3

i=1n_i , le nombre total d’observations.

(13)

Variabilit´ e Intra

I Une variabilit´e intra-niveau _ij

I quantifie la dispersion des Xij au sein des observations pour i fix´e par rapport `a ¯X_i

ij =Xij −X¯i

(14)

D´ ecomposition : principe

Ainsi on consid`ere que l’observation est issue

I d’un effet moyen relatif au phénomène observé,

I d’une variabilité liée à la modalité i du facteur étudié (variabilité inter-niveau)

I d’un effet aléatoire non liée au facteur étudié (variabilité intra-niveau ).

(15)

D´ ecomposition : suite

On consid`ere le mod`ele suivant

X_ij = ¯X +α_i +_ij Ou

X_ij −X¯ =α_i +_ij Finalements

3

X

i=1 n_i

X

j=1

(X_ij −X¯)² =

3

X

i=1 n_i

X

j=1

α²_i +

3

X

i=1 n_i

X

j=1

²_ij

(16)

Somme des Carr´ es des Ecarts

La somme précédente s’écrite

SCE_total = SCE_inter + SCE_intra o`u

I SCE_total

I SCE_inter

I SCEintra

(17)

Croissance des chˆ enes

R´egion

A B C

3 10 13

5 8 11

6 5 7

3 7 11

3 5 8

Calculer ¯Xi et ¯X

(18)

Illustration

R´egion

A B C

3 10 13

5 8 11

6 5 7

3 7 11

3 5 8

X¯_i 4 7 10 X¯ = 7

(19)

Calcul des SCE

Pour calculer SCE_inter = SCE_A on doit calculer les moyennes des observations pour chaque colonnes ¯X_i et la moyenne g´en´erale ¯X

I SCE_inter = SCE_A = 5×((4−7)²+ (7−7)²+ (10−7)²) = 90

I SCEintraou SCE résiduelle est plus complexe à calculer au tableau et se déduit de la SCE_total

I Ici 140=90+50 En pratique votre logiciel

(20)

Ddl et table de l’ANOVA

I N nombre d’observation

I C nombre de modalit´e du facteur (r´egion)

Source de variation SCE ddl

Inter-niveau (facteur) SCEinter=90 C-1=3-1=2 Intra-niveau (residuelle) SCE_intra=50 N-C=15-3=12

Total SCE_total=140 N-1=3*5-1=14

(21)

Test de comparaison de variance

L’analyse de la variance revient donc `a comparer les diff´erentes lignes de la table d’ANOVA.

I La question pos´ee est :

La variabilité inter-niveau est-elle du même ordre que la variabilité intra-niveau ?

I On consid`ere le rapport

SCE_inter/(C −1)

SCE_intra/(N−C) = CM_inter CM_intra

(22)

Test de comparaison de variance

I Si ce rapport est significativement plus grand que 1

I la variabilit´e inter-classe est plus grande que la variabilit´e intra-classe

I les observations à partir desquelles la variabilité inter-classe est calculée, varient trop pour pouvoir considérer que la variabilité inter-classe et la variabilité intra-classe soient considérées comme comparables.

I Dans ce cas,

I On peut conclure que le facteur r´egion a un effet significatif sur la croissance des chˆenes.

(23)

Test de comparaison de variance

SousH0, la statistique de test suit une loi de F(c −1,n−c) ddl (cf. table de l’ANOVA).

F_obs = 45/4.17 = 10.8

I Valeur seuil pour α=0.01 (0.05)

I Loi de Fisher(2,12)= 6.93 (3.89)

I F_obs >>6.93( 3.89)

I on rejette l’hypoth`ese nulle

I L’effet de la r´egion sur la croissance des chˆenes semble assez fort

(24)

R´ esum´ e

1. Définition des variables aléatoires étudiées :

D´efinir la variable `a expliquer et la variable explicative.

2. Définition du modèle associé à l’ANOVA:

On définit les différentes variabilités à considérer dans notre étude ainsi que ce à quoi elle correspondent.

3. Calcul des diff´erentes variabilit´es :

Ces calculs reviennent à construire le tableau associé à l’ANOVA.

(25)

R´ esum´ e: Test

I D´efinition de H0

I D´efinition de la statistique de test F et de sa loi

I Calcul de Fobs

I D´etermination de la valeur seuil

(26)

ANOVA ` a deux facteurs : Principe

I on cherche à évaluer l’influence de deux variables explicatives sur la variable à expliquer.

I Deux cas sont `a distinguer : les mod`eles sans et avec interaction.

I Si les variables explicatives (ou facteurs) sont ind´ependantes : ANOVA sans interaction

I Techniquement, les ANOVA à deux facteurs correspondent à une généralisation de l’étude précédente.

I Reprenons ainsi le plan d’étude présenté dan la première partie.

(27)

Mod` ele sans interaction

En reprenant les donn´ees portant sur la croissance des chˆenes.

I On précise ici que pour chaque région, la mesure des pousses de chênes a été effectuée dans des zones de densité de population humaine comparables.

I Cette variable est codée selon cinq modalités (de 1 à 5 par ordre croissant de densité).

I Définition des variables aléatoires étudiées :

La variable `a expliquer est toujours la taille des jeunes pousses et on consid`ere cette fois deux variables explicatives :

I la r´egion (trois modalit´es)

I la densit´e de population (cinq modalit´es).

On cherche à savoir si la région et la densité de population ont un

(28)

Donn´ ees

Ici, le tableau croise les deux facteurs et pour chaque couple de modalité, on dispose d’une observation : Xij la taille de la pousse observée dans la régioni pour une zone de densité de populationj.

R´egion Densit´e A B C

1 3 10 13

2 5 8 11

3 6 5 7

4 3 7 11

5 3 5 8

(29)

Définition du modèle associé à l’ANOVA

I Pour prendre en compte l’effet du second facteur, il suffit d’ajouter au modèle un terme βj représentant l’effet de la jeme modalité du facteur densité de population :

Xij = ¯X +αi+βj +ij I

SCE_total = SCE_A+ SCE_B + SCEintra

Avec SCE_A qui quantifie la variabilité selon les différentes modalité de la variable A (idem SCEB).

SCEA=

3

X

j=1

nj( ¯X•j −X¯)²

(30)

Calcul des variabilit´ es

R´egion X¯i•

Densit´e A B C

1 3 10 13 8.67

2 5 8 11 8

3 6 5 7 6

4 3 7 11 7

5 3 5 8 5.33

X¯•j 4 7 10 X¯ = 7

(31)

Table d’ANOVA

Source de variation SCE ddl CM

Inter-niveau (facteur) SCE_A=90 C-1=3-1=2 45 Inter-niveau (facteur) SCEB=22.67 L-1=5-1=4 5.67 Intra-niveau (residuelle) SCEintra=27.33 N-(C+L-1)=15-7=8 3.42

Total SCE_total=140 N-1=3*5-1=14

(32)

Tests: facteur r´ egion

I Pour le test de l’effet de la r´egion

H₀ : Il n’existe pas d’effet de la r´egion sur la croissance des chˆenes.

La statistique de test est d´efinie par : CM_A CMRes

Et suit sous H0 une loi de Fisher `a (3−1),(3−1)×(5−1) = 2,8 ddl.

I On en d´eduit queF_obs^A = _3.42⁴⁵ = 13.21

I Or, pourα = 5%,F_2,8^seuil = 4.46

I On rejette donc H₀ ce qui permet de conclure à la présence d’un effet de la région sur la croissance des chênes.

(33)

Tests : facteur densit´ e

I Pour le test de l’effet de la densité de population H0 : Il n’existe pas d’effet de la densité de population sur la croissance des chênes

La statistique de test est d´efinie par : CMB

CM_Res Et suit sous H0 une loi de Fisher `a (5−1),(3−1)×(5−1) = 4,8 ddl.

I On en d´eduit queF_obs^B = 1.66

I Or, pourα = 5%,F_4,8^seuil = 3.84

I On ne rejette donc pasH0.

(34)

R´ esum´ e ANOVA 2 facteurs

I Cette ´etude a permis de prendre en compte deux facteurs

I On a montrer que la région avait une influence sur la croissance des chênes mais pas la densité de population

I Ainsi la région influence la croissance des chênes par des paramètres différents des paramètres démographiques (des caractéristiques climatiques par exemple).

Cette étude n’est possible que si l’on considère que les deux facteurs étudiés sont indépendants. Dans le cas contraire il faut prendre en compte leur interaction.

(35)

Mod` ele avec interaction

I L’introduction d’une interaction dans le modèle de l’ANOVA, revient à considérer que l’intensité de l’effet d’un facteur ne sera pas le même selon la modalité considérée pour le second facteur.

I On prend en compte cette interaction en introduisant l’effet α_iβ_j dans le mod`ele de l’ANOVA. D’o`u

X_ij = ¯X +α_i+β_j +α_i×β_j +_ij

I

SCE_total = SCE_A+ SCE_B + SCE_AB + SCE_intra

I où SCE_AB quantifie la variabilité des observations liée à

(36)

Etude de l’effet de l’interaction

I H0: absence d’effet de l’interaction

I La statistique de test est d´efinie par : CM_AB CM_Res

I Loi de Fisher((C −1)×(L−1), dll_Res)

(37)

ANOVA avec interaction : Exemple

I Cette étude s’intéresse à l’impact des pluies acides sur la flore d’une région donnée.

I Objectif : ´etudier l’influence de deux acides nitrique et sulfurique (HNO3 et H2SO4) sur la production de chlorophylle d’un type de plante donn´e.

I La variable `a expliquer est la production de chlorophylle

I les variables explicatives sont la pollution par HNO3 d’une part et par H2SO4 d’autre part.

(38)

I On peut supposer l’existence d’interactions biochimiques dans ce syst`eme par exemple si des catalyses ont lieu

I Ainsi il convient de poser le mod`ele avec interaction suivant : SCEtotal = SCEA+ SCEB + SCEAB + SCEintra

(39)

Donn´ ees

Pour chaque couple de modalit´es , on dispose de 5 observation

(40)

Table d’ANOVA

(41)

Test : effet des facteurs

I Acide sulfurique: On a F_obs >F(1,16), on rejetteH₀, il existe un effet sur la production de chlorophylle

I Acide Nitrique :On a F_obs >F(1,16), on rejette H0, il existe un effet sur la production de chlorophylle

I Interaction: Rejet deH₀, l’effet d’un de ces 2 acides n’est pas le mˆeme selon que l’autre est pr´esent dans le milieu

Cette analyse montre que les 2 acides ont un effet significatifs ur la