14
15.04.2009 1 methodenlehre ll – ALM und Mehrfaktorielle ANOVA Das Allgemeine lineare Modell Posthoc Tests bei der ANOVA Mehrfaktorielle ANOVA Thomas Schäfer | SS 2009 1 methodenlehre ll – ALM und Mehrfaktorielle ANOVA Das Allgemeine lineare Modell (ALM) Varianz als Schlüsselkonzept "The main technical function of research design is to control variance." (Kerlinger, 1973) 4,00 5,00 6,00 7,0 0 iness Die Logik des Experimentes: Varianz künstlich erzeugen z.B. bei Befragungen: oder bei Experimenten: Thomas Schäfer | SS 2009 2 material experience 0,00 1,00 2,00 3,00 happ Experimentalvs. Kontrollgruppe Treatment vs. NichtTreatment

The main technical function of research design is to … · Das Ergebnis ist ein p‐Wert pro Einzelvergleich methodenlehre ll – ALM und Mehrfaktorielle ANOVA ... Was ist neu bei

Embed Size (px)

Citation preview

15.04.2009

1

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

• Das Allgemeine lineare Modell

• Post‐hoc Tests bei der ANOVA

• Mehrfaktorielle ANOVA

Thomas Schäfer | SS 2009 1

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Das Allgemeine lineare Modell (ALM) ‐Varianz als Schlüsselkonzept

"The main technical function of research design is to controlvariance."

(Kerlinger, 1973)

4,00

5,00

6,00

7,00

pine

ss

Die Logik des Experimentes:

Varianz künstlich erzeugen

z.B. bei Befragungen: oder bei Experimenten:

Thomas Schäfer | SS 2009 2

material experience0,00

1,00

2,00

3,00

happ

Experimental‐ vs. KontrollgruppeTreatment vs. Nicht‐Treatment

15.04.2009

2

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Das Allgemeine lineare Modell

Thomas Schäfer | SS 2009 3

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Was Sie schon kennen: einfache lineare Regression

Das Allgemeine lineare Modell

Bei mehreren Prädiktoren: multiple Regression

Prädiktor 1  Prädiktor 2  usw.

Thomas Schäfer | SS 2009 4

Schätzwert

15.04.2009

3

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Und nun die Verallgemeinerung zum ALM

Das Allgemeine lineare Modell

FehlerKonkreter Wert

Thomas Schäfer | SS 2009 5

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Das Allgemeine lineare Modell

Thomas Schäfer | SS 2009 6

15.04.2009

4

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Das Allgemeine lineare Modell

Thomas Schäfer | SS 2009 7

Die Variable, die die Gruppen definiert, dient als Prädiktor!(z.B. Exp.‐Gruppe: 1, KG: 0)

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Das Allgemeine lineare Modell ‐ Grundaussage

Das bedeutet: Alle Verfahren (Varianzanalyse, t‐Test, Korrelation) beruhen auf ein und derselben Grundlage – der Multiplenberuhen auf ein und derselben Grundlage  der Multiplen Regression

...if you were going to a desert island to do psychology researchand could take only one computer program with you to do

i i l ld h l i l i

Thomas Schäfer | SS 2009 8

statistical tests, you would want to choose multiple regression.(Aron & Aron, 2002)

15.04.2009

5

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Ziel: Überprüfung spezifischer Mittelwertsunterschiede bei Faktoren mit mehr als zwei Gruppen

Problem: nach einer signifikanten ANOVA mit mehr als 2 Gruppen wissen Sie 

Post‐hoc Tests (Einzelvergleiche) bei der ANOVA

g ppnicht, welche Gruppen sich voneinander unterscheiden; Sie haben lediglich ein overall‐Ergebnis vorliegen

Bei der Berechnung einzelner t‐Tests würde sich aber der Alphafehler aufaddieren („kumulieren“)

Lösung durch die post‐hoc Tests: Kontrolle des Gesamt‐α (für alle durchgeführten Tests) (man spricht von Alphafehler‐Korrektur)

Thomas Schäfer | SS 2009

Verfahren (Beispiele):BonferroniSchefféNewman‐KeulsTukeyDunkan

9

Das Ergebnis ist ein p‐Wert pro Einzelvergleich

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Beispiel: ein Faktor mit 3 Stufen

Es gibt 3 mögliche Einzelvergleiche

Post‐hoc Tests (Einzelvergleiche) bei der ANOVA

Placebo Einfache D. Doppelte D.

1

32

Thomas Schäfer | SS 2009 10

18 17 25

18 9 24

20 16 16

15.04.2009

6

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Rekapitulation ANOVA

Untersuchte Fragestellung: Unterscheiden sich zwei oder mehr Gruppenmittelwerte signifikant voneinander? 

F‐Test: Ist die Varianz der Gruppenmittelwerte höher, als rein durch Zufallsabweichungen zu erwarten? (je unterschiedlicher Werte sind, desto höher ist ihre Varianz)

Thomas Schäfer | SS 2009 11

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Die Idee des F‐Tests

Die gesamte Varianz der AV wird aufgeteilt in:

• Varianz zwischen den Gruppen ‐ Abweichung der G itt l t G t itt l t üb llGruppenmittelwerte vom Gesamtmittelwert über alle Gruppen

= systematische Varianz, erklärte Abweichung

• Varianz innerhalb der Gruppen ‐ Abweichung der einzelnen Messwerte innerhalb der Gruppen vom Gruppenmittelwert 

= unsystematische Varianz, nicht erklärte Abweichung, 

Thomas Schäfer | SS 2009 12

y , g,Fehlervarianz, Restvarianz

Der F‐Test drückt ein Varianzverhältnis aus: 

• systematische Varianz /Fehlervarianz 2

2

inn

zw

ˆˆFσσ

=

15.04.2009

7

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Die Idee des F‐Tests

65

Beispiel: Wirkung eines Medikamentes

60

55

50

55

Gesamtmittel

2σ̂

Besserun

g

xA

xB

Thomas Schäfer | SS 2009 13

40

35

30Placebo Medikament

2inn

zw

ˆF

σσ

=

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Berechnung des F‐Wertes

QSdfQS

ˆˆF zw

zw

zw == 2

2

σσ

∑∑ −=+=j i

ijGesamtinnzwgesamt )xx(QS,QSQSQS 2 wobei

kdf

)xx(nQS

wobeidfQS

zw

k

jjjzw

inn

inninn

−=

∑ −=

1

2

σ QS:  Quadratsumme

k:  Anzahl der Gruppen

:  Mittelwert der Gruppe j

nj:  Anzahl der Messwerte in Gruppe j

N: Gesamtanzahl der

jx

Thomas Schäfer | SS 2009 14

kN)n(df

)xx(QS

und

k

jjinn

k

j

n

ijijinn

j

−=∑ −=

∑∑ −=

1

2

N:  Gesamtanzahl der Messwerte

:  Gesamtmittelwertx

QS in Gruppe j

15.04.2009

8

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Die Gesamtvarianz wird aufgeklärt durch die Wirkung mehrererFaktoren (man spricht von Haupteffekten) und dem spezifischen Zusammenwirken der Faktoren untereinander

Was ist neu bei der mehrfaktoriellen ANOVA?

spezifischen Zusammenwirken der Faktoren untereinander (Interaktion genannt)

Thomas Schäfer | SS 2009 15

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Die Anzahl von Faktoren (also UVs) und die Anzahl der jeweiligen Faktorstufen (also Ausprägungen) wird durch das faktorielleDesign angegeben

Was ist neu bei der mehrfaktoriellen ANOVA?

Design angegeben

Beispiele:

• Ein 2 x 3 Design hat 2 Faktoren, der erste Faktor hat 2 Faktorstufen, der zweite 3

• Ein 2 x 2 x 2 Design hat 3 Faktoren, alle mit 2 Faktorstufen

Daraus ist auch die Anzahl der resultierenden 

Thomas Schäfer | SS 2009

Versuchsbedingungen ersichtlich (z.B. 2 x 3 = 6, 2 x 2 x 2 = 8)

16

15.04.2009

9

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Mehrfaktorielle Varianzanalyse

Analyse einzelner Faktoren (Haupteffekte) wie bei einfaktoriellerVarianzanalyse, z.B. bei zwei Faktoren A (mit k Ausprägungen), und B (mitmAusprägungen):

Analyse von Interaktionen (bei zwei Faktoren, A und B): 

dfA = k‐1          dfB= m‐1

Über alle k ×m Gruppen berechnet

2

2

inn

AA ˆ

ˆFσσ

= 2

2

inn

BB ˆ

ˆFσσ

=

Thomas Schäfer | SS 2009 17

dfA×B = (k‐1)(m‐1)

(QStotal = QSA + QSB + QSA×B + QSwithin)

2

2

inn

BABA ˆ

ˆFσσ ×

× =

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Zweifaktorielle Varianzanalyse:  Berechnung der QS

QS: Quadratsumme

k:  Anzahl Ausprägungen, Faktor A

)xx(QS

k

k

j

m

l

n

iijltotal ∑∑∑ −=

2

2

m:  Anzahl Ausprägungen, Faktor B

: Mittelwert der Gruppe jl

njl:  Anzahl der Messwerte in Gruppe jl

N:  Gesamtanzahl der Messwerte

: Gesamtmittelwert

: Zusammenfassung von Faktorstufen

jlx

xmdf

)x.x(knQS

kdf

)x.x(mnQS

A

m

llB

A

jjA

−=

∑ −⋅=

−=

∑ −⋅=

1

12

2

Thomas Schäfer | SS 2009 18

. : Zusammenfassung von Faktorstufen

innBAgesamtBA QSQSQSQSQS −−−=×

mkN)n(df

)xx(QS

und

k

j

m

ljlinn

k

j

m

l

n

ijlijlinn

⋅−=∑∑ −=

∑∑∑ −=

1

2

15.04.2009

10

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

• Notation (am Beispiel der          )

Zweifaktorielle Varianzanalyse:  Berechnung der QS

innQS

∑∑∑ −=k

j

m

l

n

ijlijlinn xxQS 2)(

ein beliebiger Messwert

weicht ab vom Mittelwert inseiner Gruppe (davon gibt es k • m)

Thomas Schäfer | SS 2009 19

pp ( g )

Diese quadrierte Differenz bilden Sie für:jeden Messwert i (davon gibt es immer n)jede Faktorstufe l des 2. Faktors (davon gibt es m)jede Faktorstufe j des 1. Faktors (davon gibt es k)

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Beispiel: 2 × 3 Design

2. Faktor

Placebo Einfache D. Doppelte D.

Männer

18 17 2518 9 24

Thomas Schäfer | SS 2009 20

20 16 16

Frauen

13 15 1715 17 129 22 18

1. Faktor

15.04.2009

11

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Beispiel: 2 × 3 Design

24

22

Arten von Interaktionen

Dep

ress

ivitä

t"

20

18

16

14

12

10

Geschlecht

weiblich

männlich

Thomas Schäfer | SS 2009 21

Psychopharmakon

doppelte Dosiseinfache DosisPlacebo

" 10 männlich

Die Interaktion versteckt sich im nicht‐gleichsinnigen Verlauf der Linien

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

F‐Verteilung

Thomas Schäfer | SS 2009 22

15.04.2009

12

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

F‐Werte in Statistiksoftware

Thomas Schäfer | SS 2009 23

Schreibweise:             FA(..,…) = … (p = …)

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Effektgröße Eta‐Quadrat: Anteil der Gesamtvarianz, der durch einen Effekt (Haupteffekt bzw. Interaktion) aufgeklärt wird

Effektgrößen bei der mehrfaktoriellen ANOVA

Partielles Eta‐Quadrat: Anteil der möglichen aufzuklärenden Varianz, der auf einen Effekt zurückgeht (alle anderen Effekte sind auspartialisiert)

2

QSQS

gesamt

Effekt=η QSQSQSQSQS innBABAgesamt +++= ×

Thomas Schäfer | SS 2009

p )

24

innEffekt

EffektP QSQS

QS+

=2ηInterpretation: Konvention nach Cohen

15.04.2009

13

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

Powerbestimmung bei der zweifaktoriellen ANOVA

Thomas Schäfer | SS 2009 25

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

ANOVA als Spezialfall des ALM

Wissen wir nichtsWissen wir nichts über eine Person, dann ist der Mittelwert auf Y der beste Schätzer für ihren Y‐Wert.Der Fehler ist 

Thomas Schäfer | SS 2009 26

natürlich sehr groß.

15.04.2009

14

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

ANOVA als Spezialfall des ALM

Kennen wir den Wert der Person auf der Variable XPerson auf der Variable  X (Faktor 1), können wir ihren Wert auf der Variable Y durch die Regression von Y auf X genauer schätzen.Der Fehler wird kleiner.(Mit den Residuen kann diese

Thomas Schäfer | SS 2009 27

X1

(Mit den Residuen kann diese Vorhersage für den nächsten Faktor wiederholt werden, usw.)

methodenlehre ll – ALM und Mehrfaktorielle ANOVA

• F‐ Test für Messwiederholungen

Varianzanalyse – einige Variationen

• Fixed – vs. Random Factors(random factors: Faktorenstufen werden zufällig gezogen)

• Multivariate ANOVA (MANOVA)

• Kontrastanalyse

Thomas Schäfer | SS 2009 28