F. Farnir, L. Massart, E. Moyse, N. Moula Faculté de ... 8 Biostatistique.pdf · L’analyse de la variance F. Farnir, L. Massart, E. Moyse, N. Moula Faculté de Médecine Vétérinaire

L’analyse de la variance

F. Farnir, L. Massart, E. Moyse, N. Moula

Faculté de Médecine Vétérinaire

Université de Liège

Nouvelles questions

� Imaginons le problème suivant:

◦ Les chats présentent 3 groupes sanguins (A, B et AB).

◦ On souhaite savoir si la concentration d’un anticorps

particulier dépend du groupe sanguin.

◦ De plus, le sexe pourrait avoir un effet sur cette

concentration, ce qu’on souhaite vérifier.

◦ En outre, l’effet éventuel du groupe sanguin pourrait

ne pas être le même chez les mâles et chez les

femelles.

◦ Comment vérifier (tester) toutes ces hypothèses ?

Nouvelles questions

� L’approche statistique

◦ Dans les 3 questions posées, on veut tester la dépendance d’une variable continue (la concentration) sur une ou plusieurs variables discrètes (le groupe sanguin, le sexe ou leurcombinaison)

◦ On peut mettre ces questions sous la formed’hypothèses (nulles) statistiques à tester

� ��: �� : ��| � ��| � ��|� ��: ��| � ��| � ��: ��,� � ��,� � ��,� � ��,� � ��,�� ,��

Nouvelles questions

� L’approche statistique (suite)

◦ Ces hypothèses nulles généralisent ce qui a été vu

précédemment (test de t) dans plusieurs directions:

� Comparaison de n (≥ 2) moyennes

Nouvelles questions




� Plusieurs effets testés simultanément

Nouvelles questions




� Interactions entre effets

Analyse de la variance

� Ce chapitre va traiter du premier problème (comparaison de

≥ 2 groupes) via une technique appelée « analyse de la

variance à 1 critère » (ANOVA1)

� Les chapitres suivants aborderont les autres questions en

utilisant des « analyses de la variance à 2 critères (avec

interaction) » (ANOVA2 - ANOVA2h - ANOVA2i)

� Nous commençons donc avec le test de l’hypothèse nulle:

��: �� ⋯ � ��où 1 … � correspondent à des conditions différentes, et �� est la

moyenne d’un caractère étudié correspondant à la condition i.

Analyse de la variance (1 critère)

� Revenons au problème relatif à la concentration d’anticorps chez le chat en fonction du groupe sanguin

� L’hypothèse (nulle) que nous souhaitons tester est ici:

��: ��

qui pourrait aussi s’écrire: ��: � �� ◦ Remarque: la troisième égalité découle des 2 premières

� L’hypothèse alternative �� est qu’au moins une des égalités est incorrecte.


� Une fois l’hypothèse nulle établie, nous pouvons

récolter des données pour nous aider à accepter (ou

réfuter) celle-ci:

A b Ab

104

106

90

120

112

101

98

104

101

100 111 101

Groupes

Moyennes 104


� On constate que les moyennes d’échantillons sont

différentes, ce qui n’est pas suffisant pour en déduire

que les moyennes des populations correspondantes le

sont aussi:

� L’approche que nous allons prendre est basée sur l’idée

détaillée dans les diapositives suivantes.

� Nous commençons par détailler la notation utilisée.

100 111 102Moyennes


� Le premier indice donne le groupe, le second identifie

le numéro d’observation à l’intérieur du groupe:

A b Ab

��

��

��

��. ��. ��.

Groupes

Moyennes ��..


� L’idée de base est la suivante:

◦ On suppose que les données de chaque groupe constituent un

échantillon extrait d’une population normale, chacune des

populations ayant la même variance. Formellement:

��~� ��, �� , ��~� ��, �� , ��~� ��, ��

◦ Si ��: �� est vraie, les distributions

correspondantes sont � �, �� et sont donc confondues, alors

qu’au moins une des distributions diffère des autres par sa

moyenne si �� est vraie.


� L’idée de base est la suivante (suite):

◦ Graphiquement:

H0 H1



◦ Nous allons estimer la variance �� de 2 manières

différentes.

◦ La première méthode est une estimation intra-

groupe: on estime la variance dans chaque groupe

(elles sont supposées identiques), et on fait une

moyenne pondérée (par la taille du groupe) de ces

estimations. Formellement:

�!"#$� � %� & 1 ∗ �� ( %�� & 1 ∗ �� ( %� & 1 ∗ ��%� & 1 ( %�� & 1 ( %� & 1



◦ Comme:

� �� ∑ *+,-.+,/0!+1� où 2�� & ��.

� �� ∑ *+3,-.+3,/0!+31� où 2�� & ��.

� �� ∑ *3,-.3,/0!31� où 2�� & ��.� % � %� ( %�� ( %� et % � # 56789: � 3

◦ �!"#$� � ∑ *+,-.+,/0 <∑ *+3,-.+3,/0 <∑ *3,-.3,/0!1!=



◦ La seconde méthode est une estimation entre

groupes: si �� est vraie, chaque groupe peut être vu

comme un échantillon.

� La moyenne de chaque échantillon (��., ��., ��.) estime �� La variance de ces moyennes estime

>-! , où n est la taille des

échantillons (cfr cours de BMV1). Si les tailles des échantillons

diffèrent, il est aisé de montrer que:

�!"?#� � ∑ !,∗ @�,.1@�.. -.=,/0 !=1�



◦ Pour cette seconde méthode, si �� est fausse:

� Les moyennes de groupes estiment des valeurs différentes

(��, ��A :B ��), et auront donc tendance à être plus

différentes que quand �� est vraie.

� Autrement dit, la variance de ces moyennes aura tendance à

être supérieure à >-! .



◦ En résumé:

� Si �� est vraie, �!"#$� et �!"?#� estiment la même variance

(��). Le rapport de ces deux variances a donc une distribution

connue (voir chapitre précédent):

C,.DEF-C,.DFG- ~H!=1�,!1!=

� Si �� est fausse, �!"#$� < �!"?#� en général, et donc:

C,.DEF-C,.DFG- I H!=1�,!1!=



◦ On pourra donc faire la distinction entre �� et �� en

regardant la valeur de F calculée comme expliqué ci-

dessus:

� On définit une valeur HC?J�K comme une valeur de F qu’on

excède par hasard qu’avec une probabilité L� Si H M HC?J�K, on accepte �� puisqu’il n’y a pas d’évidence

d’une valeur « anormalement » élevée de F (à ce seuil)

� Si H I HC?J�K, on rejette ��: la valeur de F semble

anormalement élevée, traduisant le fait que �!"?#� >> �!"#$�


� Revenons à notre exemple et calculons les deux

variances

A b Ab

104

106

90

120

112

101

98

104

101

100 111 101

Groupes

Moyennes 104


� Calcul de la variance intra-groupes

A b Ab

104

106

90

120

112

101

98

104

101

100 111 101

Groupes

Moyennes

�!"#$� � 104 & 100 � ( 106 & 100 � ( ⋯ ( 101 & 101 �9 & 3 � 352

6


� Calcul de la variance inter-groupes

A b Ab

104

106

90

120

112

101

98

104

101

100 111 101

Groupes

Moyennes

�!"?#� � 3 ∗ 100 & 104 � ( 3 ∗ 111 & 104 � ( 3 ∗ 101 & 104 �3 & 1 � 222

2

104


� La valeur de F vaut donc:

H � C,.DEF-C,.DFG- � �� ⁄

�U� V⁄ � 1.892� Si on fixe un seuil L = 0.05, la valeur de la distribution

de F avec 2 et 6 degrés de liberté qu’on ne dépasse par

hasard que dans L % des cas est:

qf(0.95,2,6) = 5.143


� Comme F = 1.892 < Fseuil = 5.143, il n’y a pas d’évidence

d’une valeur significativement plus grande de �!"?#� par

rapport à �!"#$� .

� Par conséquent, l’hypothèse nulle est acceptée: il n’y a

pas de différence significative entre les groupes

sanguins (au seuil L � 5%)

◦ Remarque: une alternative de calcul serait de calculer

directement la probabilité que F dépasse 1.892:

1-pf(1.892,2,6) = 0.231

Comme cette valeur est > L � 5%, on accepte ��


� Modèle mathématique

◦ L’ANOVA1 repose sur un modèle mathématique linéaire, qui

prend la forme suivante:

��Y � � ( L� ( :�Y

◦ Ce modèle exprime le fait que chaque observation ��Y est

considérée comme la somme de 3 contributions:

� ��Y est l’observation j faite dans le groupe i,

� � est une moyenne générale, commune à toutes les observations,

� L� est l’effet du groupe i sur Y, commun à toutes les observations du groupe i,

� :�Y est le résidu, spécifique à l’observation ��Y, représentant la part de cette

observation que le modèle n’explique pas.


� Modèle mathématique (suite)

◦ Utiliser un modèle mathématique consiste essentiellement en

deux étapes:

1. Obtenir une estimation des paramètres du modèle sur base des

observations.

2. Tester des hypothèses sur les paramètres du modèle sur base de ces

estimateurs et de leur variabilité.

◦ Dans le cadre de l’ANOVA1:

� Les paramètres à estimer sont � et les L�� Une hypothèse d’intérêt est (parmi d’autres possibles):

��: L� � L� � ⋯ � LZ où g est le nombre de groupes



◦ L’estimation des paramètres d’un modèle se fait en général via

des méthodes telles que la méthode des moindres carrés ou du

maximum de vraisemblance (voir cours BMV1)

◦ Nous emploierons ici une méthode plus intuitive et qui mène au

même résultat:

� � est estimée par la moyenne ��.. de toutes les observations,

� L� est estimé par l’écart entre la moyenne ��. du groupe i et la moyenne

générale,

� :�Y est estimé par l’écart entre l’observation ��Y et la moyenne de son groupe.

� Formellement, on peut écrire l’identité suivante:

��Y � ��.. ( ��. & ��.. ( ��Y & ��.

�̂ L\� :̂�Y



◦ Partons de cette identité pour arriver aux tests d’hypothèses:

��Y � ��.. ( ��. & ��.. ( ��Y & ��.⟹ ��Y & ��.. � ��. & ��.. ( ��Y & ��.◦ On élève les deux membres au carré:

��Y & ��.. � � ��. & ��.. � ( ��Y & ��. � ( 2 ∗ ��. & ��.. * ��Y & ��.◦ On somme sur toutes observations:

^ ^ ��Y & ��.. �_

Y

_

�� ^ ^ ��. & ��.. �

_

Y

_

�( ^ ^ ��Y & ��. �_

Y

_

�( ^ ^ 2 ∗ ��. & ��.. ∗ ��Y & ��.

_

Y

_

�



◦ Le dernier terme de cette expression:

^ ^ 2 ∗ ��. & ��.. ∗ ��Y & ��._

Y

_

�� 2 ∗ ^ ��. & ��..

_

�^ ��Y & ��.

_

Y� 0

car la somme des écarts par rapport à une moyenne vaut 0.

◦ L’expression précédente vaut donc:

^ ^ ��Y & ��.. �_

Y

_

�� ^ ^ ��. & ��.. �

_

Y

_

�( ^ ^ ��Y & ��. �_

Y

_

�◦ On exprime souvent cette égalité sous la forme:

àb � àc ( àdoù SCT = “somme des carrés totaux”

SCM = “somme des carrés due au modèle”SCE = “somme des carrés due aux résidus”



◦ Interprétation de

^ ^ ��Y & ��.. �_

Y

_

�� ^ ^ ��. & ��.. �

_

Y

_

�( ^ ^ ��Y & ��. �_

Y

_

�◦ La variation totale, mesurée par SCT, se décompose en 2 sources

de variation:

� La variation qui vient de ce que le modèle tente d’expliquer, à savoir

celle existant entre les moyennes des groupes (SCM)

� La variation qui vient de ce que le modèle n’explique pas (SCE)



◦ Interprétation de

^ ^ ��Y & ��.. �_

Y

_

�� ^ ^ ��. & ��.. �

_

Y

_

�( ^ ^ ��Y & ��. �_

Y

_

�◦ La proportion de la variation qui est due au modèle se calcule

simplement par:

e� � f�fg



◦ Une vue mémo-technique de l’expression:

^ ^ ��Y & ��.. �_

Y

_

�� ^ ^ ��. & ��.. �

_

Y

_

�( ^ ^ ��Y & ��. �_

Y

_

�

��Y

Gr. 3 Gr. 4Gr. 1 Gr. 2

��. ��..

« Pythagore »



◦ Le lien avec le calcul de F utilisé plus haut:

^ ^ ��Y & ��.. �_

Y

_

�� ^ ^ ��. & ��.. �

_

Y

_

�( ^ ^ ��Y & ��. �_

Y

_

�◦ Les trois sommes de carrés fournissent des estimateurs de

variances:

� �!"?#� � ∑ ∑ @�,.1@�.. -_h_,!i1� � f�

!i1�

� �!"#$� � ∑ ∑ @,h1@�,. -_h_,!1!i � fj

!1!i

� "k"$K?� � ∑ ∑ @,h1@�.. -_h_,!1� � fg

!1�� Remarque: % & 1 � %Z & 1 ( % & %Z



◦ L’additivité des sommes de carrés et des degrés de liberté

correspondants conduit à une disposition pratique des résultats,

appelée « table d’analyse de la variance »:

Modèle

Erreur

Total

Source

SCM

SCE

SCT

SC

%Z & 1% & %Z

% & 1

DL

SCM/ %Z & 1SCE/ % & %Z

SCT/ % & 1

CM

CMM/CME

F

Cfr Tbl

P(>F)

Additif Additif


� Revenons à notre exemple:

� Vérification: SCM + SCE = 222 + 352 = 574 = SCT

A b Ab

104

106

90

120

112

101

98

104

101

100 111 101

Groupes

Moyennes

àc � 3 ∗ 100 & 104 � ( 3 ∗ 111 & 104 � ( 3 ∗ 101 & 104 � � 222

104

àd � 104 & 100 � ( 106 & 100 � ( ⋯ ( 101 & 101 � � 352àb � 104 & 104 � ( 106 & 104 � ( ⋯ ( 101 & 104 � � 574


� La table d’analyse de la variance est donc:

� Remarque: la valeur dans la dernière colonne s’obtient (p.e.) via:

pf(1,892,df1=2,df2=6,lower.tail=F)

� Comme la valeur-p est > L � 5%, l’hypothèse nulle est acceptée: il n’y

a pas de différence de concentration de l’anticorps testé entre groupes

sanguins.

Modèle

Erreur

Total

Source

222

352

574

SC

268

DL

111

58,67

71,75

CM

1,892

F

0,231

P(>F)


� Un autre exemple:

◦ Le traitement utilisé améliore-t-il la concentration en anticorps

chez des individus immuno-déficients ?

◦ L’hypothèse nulle est: ��: �g � �f,

où �g et �f représentent les concentrations moyennes en

anticorps chez les individus traités et chez les contrôles,

respectivement.

◦ Les données récoltées sont les suivantes:

Traités Contr.

45

50

49

41

45

48 43Moyennes 46



àc � 3 ∗ 48 & 46 � ( 2 ∗ 43 & 46 � � 30àd � 45 & 48 � ( 50 & 48 � ( ⋯ ( 45 & 43 � � 22àb � 45 & 46 � ( 50 & 46 � ( ⋯ ( 45 & 46 � � 52

Traités Contr.

45

50

49

41

45

48 43Moyennes 46

Modèle

Erreur

Total

Source

30

22

52

SC

134

DL

30

22/3

13

CM

90/22

F

0,136

P(>F)



� Une solution alternative est de passer par le test de t,

puisqu’il n’y a que deux groupes:

B!0<!-1� � ��. & ��.àd%� ( %� & 2 ∗ 1%� ( 1%�

_ � 48 & 43223 ∗ 13 ( 12_ � 2.023

et 9 B!0<!-1� I 2.023 � 0,068

Traités Contr.

45

50

49

41

45

48 43Moyennes 46


� Remarques sur cet exemple:

◦ On sait que: �!"#$� � fj!1� � fj

!0<!-1�◦ On peut montrer facilement que: �!"?#� � àc � @�0.1@�-. -

0.0< 0

.0

en utilisant: àc � %� ∗ ��. & ��.. � ( %� ∗ ��. & ��.. �et: ��.. � %� ∗ ��. ( %� ∗ ��. / %� ( %�◦ Par conséquent, on obtient que: H�,!0<!-1� � B!0<!-1��◦ Les résultats fournis par les deux méthodes sont identiques, à ceci

près que le test de F teste l’hypothèse alternative bilatérale ��: �g n �f alors que t pourrait tester une alternative unilatérale.


� Remarques sur cet exemple (suite):

◦ Remarquez que dans notre exemple:

� B� � 2.023� � 4.09 � H� Si on avait considéré un test biltéral, on aurait obtenu:

9 H�,� I 4.09 � 0.1369 B� M &2.023 ( 9 B� I 2.023 � 2 ∗ 0.068 � 0.136


� Considérons à présent un test d’égalité des moyennes sur les données

suivantes:

� La valeur F obtenue est ici: H�,o � 5.91 et 9 H�,o I 5.91 � 0.02� Il y a donc des différences significatives (au seuil L � 5%)entre

certaines moyennes, mais le test ne dit pas lesquelles...

� Nous allons présenter une approche permettant de savoir quelles

moyennes diffèrent de quelles autres.

A B C

104

106

90

120

112

101

98

104

101

100 111 101

Groupes

Moyennes 100

D

90

86

88

88


� Tests a posteriori (post-hoc tests)

◦ L’idée est comparer les moyennes 2 à 2 en utilisant une version

« améliorée » du test de t de comparaison de deux moyennes

◦ L’amélioration provient de l’utilisation de l’estimateur de la variance erreur

commun à tous les groupes plutôt que de l’estimateur basé seulement sur

les deux groupes testés:

B!1!i � �� & ��Y`j ∗ 1%� ( 1%Y

_

� �� et ��Y sont les moyennes comparées �� I ��Y ,

� % & %Z sont les degrés de liberté associés à la variance erreur,

� %� et %Y sont les tailles respectives des deux groupes


� Tests a posteriori (post-hoc tests)

◦ On peut effectuer le test classiquement ou, de manière alternative,

utiliser la valeur seuil de t pour obtenir une différence que la

différence doit excéder pour être significative:

B!1!i L ∗ `j ∗ 1%� ( 1

%Y_ � �� & ��Y p$q � r`s

où r`s signifie « Least Significant Difference », soit la plus petite

différence de moyennes qui soit significative au seuil choisi


� Tests a posteriori (post-hoc tests): exemple

◦ Reprenons notre exemple

◦ %� � %A � %f � %t � 3◦ `j � �U�

V_ ⟹ r`s � 12,15

◦ BV L � 5% � 1,9432◦ En conclusion: �t M �f et �t M �A, les autres différences n’étant

pas significatives au seuil choisi.

A B C

100 111 101

Groupes

Moyennes

D

88


� Tests a posteriori (post-hoc tests): remarque

◦ Si on compare de nombreux groupes, on effectue un grand nombre

de comparaisons 2 à 2 (p.e. pour 10 groupes, il faut faire 45

comparaisons...), ce qui peut augmenter le taux d’erreur de type 1.

◦ En effet, si �� est vraie, la probabilité de n’avoir aucun faux positifs

lors de n tests est: 9 � 1 & L ! si on suppose les tests

indépendants, et donc, la probabilité d’au moins un faux-positif est:L� � 1 & 1 & L !Exemple: si L � 0.05 et n = 45, L� � 0.90...

◦ Si on veut obtenir une valeur raisonnable pour L�, il faut choisir un

seuil de signification pour les tests individuels qui vaudra:

L � 1 & 1 & L�.Exemple: si L� � 0.05 et n = 45, L � 0.0011


� Tests a posteriori (post-hoc tests): remarque

◦ Cette correction du seuil de signification à adopter est appelée

« correction de Bonferroni »

� Le seuil peut être calculé de manière approximative via L u vw!

� Très souvent, les tests ne sont pas indépendants et la correction de Bonferroni

« surcorrige » le seul de signification, ce qui pénalise la puissance du dispositif.

Résumé:

1. L’analyse de la variance (ANOVA) est une

technique permettant de comparer 2 ou plus de 2

moyennes.

2. Les données de chaque échantillon (“lot”) sont

supposées normales et homosédastiques: yij ~

N(µi,σe)

3. L’hypothèse nulle testée est: H0: µ1 = µ2 = … = µk =

µ, ce qui revient à dire que toutes les observations

proviennent de la même distribution yij ~ N(µ,σe)

4. La table d’ANOVA est une table permettant une

disposition pratique des calculs à effectuer pour

tester H0.


Résumé (suite):

5. L’ ANOVA est équivalente au test de t quand on

doit comparer 2 moyennes et généralise ce dernier

quand on doit comparer plus de 2 moyennes.

6. L’ ANOVA est un test global d’égalité des

moyennes. Des tests ultérieurs (LSD, …)peuvent

être utilisés pour identifier les moyennes qui

diffèrent des autres.


Exercice:

# Lecture du fichiert<-read.table(file="ex_anova_1.txt",head=T)attach(t)y1<-Croissance[Ration=="I"]y2<-Croissance[Ration=="II"]y3<-Croissance[Ration=="III"]y4<-Croissance[Ration=="IV"]# Calcul des moyennesyb1<-mean(y1)yb2<-mean(y2)yb3<-mean(y3)yb4<-mean(y4)yb<-mean(Croissance)


Exercice:

)**2 # SCM et dlMSCM<-5*(yb1-yb)**2+5*(yb2-yb)**2+5*(yb3-yb )**2

+5*(yb4-yb)**2dlM<-3# SCE et dlESCE<-sum((y1-yb1)**2,(y2-yb2)**2,(y3-yb3)**2,

(y4-yb4)**2)dlE<-4*(5-1)# SCT et dlTSCT<-sum((y1-yb)**2,(y2-yb)**2,(y3-yb)**2,

(y4-yb)**2)dlT<-4*5-1


Exercice:

# FF<-(SCM/dlM)/(SCE/dlE)p<-pf(F,dlM,dlE,lower.tail=F)p[1] 0.4751976# Résultat non significatif: pas de différence# de croissance entre les rations


Exercice:

# Une manière plus simple...modele<-aov(Croissance~Ration)summary(modele)

Df Sum Sq Mean Sq F value Pr(>F)Ration 3 270 90 0.874 0.475Residuals 16 1648 103 # Même résultat non significatif !


Documents

F. Farnir, L. Massart, E. Moyse, N. Moula Faculté de ... 8 Biostatistique.pdf · L’analyse de la variance F. Farnir, L. Massart, E. Moyse, N. Moula Faculté de Médecine Vétérinaire