Methoden der Psychologie Multivariate Analysemethoden und Multivariates Testen Günter Meinhardt Johannes Gutenberg Universität Mainz 21.04.2008

Methoden derPsychologie

Multivariate Analysemethodenund

Multivariates Testen

Günter MeinhardtJohannes Gutenberg Universität Mainz

21.04.2008


Vorlesung

Multivariate Analysemethoden & Multivariates Testen

Verfahrensdarstellung in

• Überblick • Grundprinzip• wichtigsten mathematischen Beziehungen• Anwendungsbeispielen

Übung + TutMalte Persike / Franziska Schmidt (Do 18-20, R3-428)

• Vertiefung mit Anwendungsbeispielen• Aufgabenbearbeitung mit Excel - Project File

Prüfung Kenntnisse aus WS2007/08 & SS2008

• Freischussklausur: 18.07.2008• Abschlussklausur: 2.- 3. Oktoberwoche 2008


Einführung


Prinzipien des inferenzstatistischen Schliessens

• Konfidenzintervalle • multivariate Mittelwertsvergleiche• multivariate Varianzanalyse (MANOVA)Verfahren • Diskriminanzanalyse• ANOVA/MANOVA, Hotelling‘s T2

• statistische Entscheidungslehre

Versuchspläne

Typische Designs aus• Allgemeine Experimentelle Psy. • Klinische Psy. • AOW

Ziele • Wissen über statistische Verfahren• Wissen über Untersuchungsstrategien• Umsetzung mit Software


Literatura) b)

c) d)


Johnson/Wichern Backhaus

Bortz Winer


Problem

Frage

Anzahl der gefundenen Zielelemente in einem Konzentrationsleistungstest

(metrisch)

Gruppierungsvariable Messgröße

Geschlecht

M J

Univariate Mittelwertevergleiche - Problemstellung

x

Unterscheidet sich die Leistung von Mädchen und Jungenim statistischen Mittelwert ?

Beispiel


Stichprobe

Frage

Wir untersuchen 40 Mädchen und 45 Jungen

Univariate Mittelwertevergleiche - Problemstellung

Gibt es wirkliche Leistungsunterschiede zwischen Jungen und Mädchen, oder ist der gefundene Unterschied „rein zufällig“ ?

Beispieldaten

23.7 17.2

Geschlecht

M J

Mx Jx M Jx x x

23.7 – 17.2 = 6.5


Strategie

Urteil

Ermittle die Wahrscheinlichkeit für den beobachtetenMittelwertsunterschied unter der Annahme, dass beide Gruppen in der Population denselben Mittelwert besitzen

Univariate Mittelwertevergleiche - Prüfstrategie

Ist der beobachtete Mittelwertsunterschied unter der H0 sehr unwahrscheinlich (höchstens 5%), so lehnen wir die H0 ab, und sehen die H1 als die bessere Alternative an.

Annahme

0 : J MH

Die Populationsmittelwerte von Jungen und Mädchen sind gleich

Null-HypotheseAlternativ-Hypothese 1 : J MH


Theoretische Verteilung – Sampling Distribution

Sampling

Population der Jungen

Stichprobe des Umfangs NJ

Jx

Population der Mädchen

Stichprobe des Umfangs NM

Mx

Mittelwertsdifferenz

M Jx x x

1 1 1M Jx x x

2 2 2M Jx x x Tue dies k - mal:

k Mk Jkx x x

1 2 i kx x x x Verteilung der Differenzen von Mittelwerten


Central LimitTheorem

Die Verteilung von Differenzen von Mittelwerten nähert sich mit wachsendem Umfang der Sample-Stichproben einer Normalverteilung. Für N > 30 ist die Approximation gut.

0.00

0.05

0.10

Wah

rsch

ein

lich

keit

sdic

hte

x

f x

x

Es gilt:

Theoretische Verteilung – Sampling Distribution

xx x x

x

0x

(wird geschätzt)

In der theoretischen Verteilung der Differenzen von Mittel-werten wird die Wahrscheinlichkeitsbestimmung vorge-nommen. Sie liegt dem inferenzstatistischen Schluss zugrunde.

Inferenzstat.Schluss


Sampling Distribution – Bestimmung des Standardfehlers

Unabhängigkeit

Ist die Messvariable eine in beiden Populationen unabhängige ZV:

2 2M J

xM JN N

Jungen und Mädchen kommen aus derselben Population2 2 2M J

Gleichheit derPopulations-varianz

2 1 1x

M JN N

Standardfehler


Sampling Distribution – Schätzung des Standardfehlers

Für die Populationsvarianz verwendet man eine Schätzung aus den Daten beider Stichproben:

2 22ˆ

2M M J J M J

M J M J

N s N s SAQ SAQ

N N df df

wobei und die Stichprobenvarianzen sind2Ms 2

Js

2 2 1 1ˆ

2M M J J

xM J M J

N s N s

N N N N

Dann gilt

Schätzung aus Stichproben

“Pooling”

(Beste Schätzung des Standardfehlers aus Stichprobendaten)

Schätzformel


Normalverteilung – z –Standardnormalverteilung

20 30 40 50 60 70 800.00

0.05

0.10

Wa

hrs

che

inlic

hke

itsd

ich

te

x

x xz

s

Wa

hrs

che

inlic

hke

itsd

ich

te

-3 -2 -1 0 1 2 30.00

0.05

0.10

f (z)

1z

zx

Normalverteilung Standard-Normalverteilung

Die z- Transformation übersetzt die Rohdatenskala in die Standardskala( z = 0, z = 1)

_

x_

z_

f (x)


Sampling Distribution – Prüfgrösse

z- Skala der Differenzen von Mittelwerten

x

x

xz

Unter der H0 gilt 0x

Dann gilt:Prüfgrösse

x

xz

ist standardnormalverteilt

[ ] z0 1 22 1

0 x x 2 x 2 x [ ] xTransformatio

n


Entscheidung über Prüfgrösse mit Standardnormalverteilung

f t

-4 -2 2 4

0.1

0.2

t0

2.5%2.5%

95%x

xz

Prüfgrösse

Testen zum Signifikanzniveau : Ist |z| > z1-/2?

0.05 Signifikanzniveau

1 /2P z z

1 /2z 1 /2z Annahmebereich

1 /2z z Ablehnungsbereich

1 /2z z Ablehnungsbereich

1 /2z z


Entscheidung über Signifikanz des Mittelwerteunterschieds

1. Prüfgrösse Berechnex

xz

A. Gilt |z| > z1-/2 Ablehnung von H0

(die Mittelwerte der J. und M. sind signifikant verschieden)

Ermittle kritischen z - Wert z1-/2für ein Fehlerniveau2. Kritischer z - Wert

3. Entscheide

(die Mittelwerte der J. und M. unterscheiden sich zufällig)

B. Gilt |z| < z1-/2 Beibehalten von H0_


Numerisches Beispiel

Differenz der Mittelwerte

23.7 17.2

173 106

Mx Jx M Jx x x

23.7 – 17.2 = 6.52Ms 2

Js

40 173 45 106 1 1ˆ 2.58

40 45 2 40 45x

Standardfehler

Prüfgrösse undKritischer Wert

6.52.52

2.58z z1-/2 = z0.975 = 1.96

Entscheidung d.h. |z| > z1-/22.52 > 1.96 H0 ablehnen

Die Mittelwerte entstammen nicht derselben Population(unterscheiden sich signifikant)


Voraussetzungen der Prüfung

Varianz-homogenität

Unabhängigkeit

Verletzungen

a. Die Populationsvarianzen die beiden Stichproben zu Grunde liegen, müssen gleich (homogen) sein.

(Prüfung mit geignetem Verfahren)

b. Die Messeinheiten innerhalb jeder Stichprobe müssen unabhängig sein.c. Die Messeinheiten beider Stichproben dürfen nicht teilweise paarweise zuzuordnen sein.

Der Test ist relativ robust gegen Verletzungen der Varianzhomogenität. Verletzungen der Unabhängigkeit(b.) führen zur Ungültigkeit der Prüfgrösse, der Unab-hängigkeit (c.) je nach Höhe der Korrelationen zu progressiven (kleine Korr.) oder zu konservativen Entscheidungen (hohe Korr.).


Mittelwertsprüfung bei mehreren Variablen

Beispiel

X1: Gehalt

X2: EntscheidungsfreiheitX3: Qualität der Kommunikation

Arbeit

X4: Ehe

X5: Freunde/BeziehungenX6: Sexualität

Privatsphäre

X7: Lebensansprüche

X8: Sinnhaftigkeit

Person

X9: Hobbies

X10: Sport/Fitness

Aktivität

( )1 2 10, , ,x x xK

Lebenszufriedenheit

Gesunde Herzinfarktpatienten

10 Variablen

2 Gruppen


Multivariate Mittelwertsvergleiche - Einzeltestungen

Teststrategie

Ausweg

Frage Unterscheiden sich Gesunde und Patienten im Variablen-komplex Lebenszufriedenheit?

Wir testen auf jeder der 10 Skalen den Gruppenunterschied mit einem t- Test. Wenn irgend einer der Tests signifikantwird, sehen wir die Gruppen als verschieden an.Probleme 1. Multiples Testen: Dieselbe Hypothese wird 10 mal geprüft.

2. Unterstellte Unabhängigkeit: Man behandelt die einzelnen Skalen als unabhängig voneinander.

3. Fehlendes Konstrukt: Lebenszufriendenheit wird nicht alsVariablenkomplex mit Binnenstruktur behandelt.

4. Mangelnde Teststärke: Man nutzt nicht die Korrelations-struktur der Variablen für einen leistungsfähigen Test.

Verwendung eines multivariaten Tests, der die Information aller 10 Variablen und ihrer Korrelationsstruktur in eine statistische Prüfgrösse einfliessen lässt.


Einzeltestungen - Bonferronikorrektur

Fehler Kumulierung

Overall

Bei simultanen Einzeltestungen „kumuliert“ sich das – Risiko:

BonferroniApproximation

1/ˆ1 1

ˆ

m

m

Setzt man das overall -Niveau fest und löst nach auf, folgt ̂

1 2

ˆ mind. 1 falsch 1 keinen 1 falsch

1

1 1 1 1

1 1

m

m

P P

P T T T

Um alle m Tests auf einem konventionellen Alpha Niveau abzusichern, muss dieses durch die Anzahl der Tests geteilt werden. Bei 10 Tests muss man für ein overall Alpha= 5% ein Test-Alpha von 0.5% verwenden.


Multivariate Mittelwertsvergleiche - Verfahren

MultivariatesTestkonstrukt

Variablen-komplex

Verfahren

( )1 2 10, , ,x x xK

Multivariate Distanz(Mahalanobisdistanz)

Multivariate Quadratsummen(SSCP-Matrizen-Zerlegung)

Optimale Linearkombination(Linear Discriminant Function)

Hotelling‘s T2 MANOVA Diskriminanz-Analyse

Alle Verfahren entscheiden über den Gruppenunterschied imgesamten Variablenkomplex mit einem statistischen Test


Grundprinzip(2 Gruppen)

Multivariates Testen - Diskriminanzanalyse

( )1 2, , , mx x xKFür die m Variablen

finde eine Linearkombination zu einer neuen Variable

0 1 1 2 2 m my b b x b x b x= + + + +K

so dass diese die Gruppen c1 und c2 optimal trennt.

Das Optimierungskriterium für die Wahl der bj lautet

erklärte Variationmax

nicht erklärte VariationBetween

Within

QS

QS

Die der bj sind so zu wählen, dass auf der neuen Variable y die Streuung zwischen den Gruppen zu der Streuung innerhalb der Gruppen ein maximales Verhältnis hat.

Kriterium derOptimierung


2D-Beispiel Man möchte trennen

anhand von

Anforderung

2D BeispielDiskriminanzanalyse

Stechmückenc1

Blindmückenc2

Fühlerlänge

x1

2 Gruppen

2 Variablen Flügellänge

x2

• Maximale Gruppentrennung (Mittelwerte)• Minimale Klassifikationsfehler (Fall-Klassifikation)


0.00

0.20

0.40

0.60

0.80

1.00

1.20

1.40

0.00 0.10 0.20 0.30 0.40 0.50 0.60 0.70

(Fühlerlänge)

Blindmücke

Stechmücke

Variablenraum

• Klassifiziere anhand von Fühlerlänge (X1) und Flügellänge (X2) möglichst eindeutig in Stechmücke (c1) und Blindmücke (c2).

• In beiden Gruppen existiert eine Korrelation der Variablen Fühlerlänge (X1) und Flügellänge (X2).

Ausgangslage


x1

(Flügelänge)

x2

Regression Stechmücke

Regression Blindmücke


Bestes Kriterium auf x1

Blindmücke

Stechmücke

• Klassifiziere anhand von Fühlerlänge (X1) und Flügellänge (X2) möglichst eindeutig in Stechmücke (c1) und Blindmücke (c2).

• Das geht mit einem Kriteriumswert auf jeder einzelnen Variable X1

und X2 offenbar nicht.

Problem


x1

x2

Bestes Kriterium auf x2

Variablenraum


0.00

0.20

0.40

0.60

0.80

1.00

1.20

1.40

0.00 0.10 0.20 0.30 0.40 0.50 0.60 0.70

(Fühlerlänge)

Blindmücke

Stechmücke

Variablenraum


x1

(Flügelänge)

x2

Kriteriumsfunktion

Lösung Eine lineare Kriteriumsfunktion teilt den Variablenraum in 2 Gebiete: Oberhalb Stechmücke (c1), unterhalb Blindmücke (c2).

2 1x b ax Somit folgt die Klassifikationsfunktion

1 2 11 2

2 2 1

, wenn ,

, wenn

c x ax bg x x

c x ax b


Einfache Lösung


Zuerst die Daten im Nullpunkt zentrieren und dann um den optimalen Winkel drehen !

x1

1x

2xx2

Zentrierung &Rotation !

Die Varianz zwischen den Gruppen wird auf der Achse x‘1 maximiert, und x‘2 steht senkrecht x‘1. Eine Parallele zu x‘2 liefert das optimale Trennkriterium.


z-Standard


standardisiert

-3.00

-2.00

-1.00

0.00

1.00

2.00

3.00

-3.00 -2.00 -1.00 0.00 1.00 2.00 3.00

z1

z2


z-Standard


Diskriminanz-funktion

• Die neue x- Achse z1‘ ist die Diskriminanzfunktion y. Auf ihr läßt sich ein Kriterium zur optimalen Trennung beider Gruppen finden.

1 1 1 2 2z b z b z

• Da eine Drehoperation auf die Diskriminanzfunktion geführt hat, ist sie darstellbar als eine Linearkombination der alten Koordinaten:

-3.00

-2.00

-1.00

0.00

1.00

2.00

3.00

-3.00 -2.00 -1.00 0.00 1.00 2.00 3.00

z‘1

z‘2

Koordinaten rotiert um = 46° (clockwise)


y: Linear-kombination


Koeffizientenvon y

Das Auffinden der Koeffizienten b1 und b2 ist also identisch mit dem Problem, den optimalen Drehwinkel zu bestimmen. Hierfür braucht man ein Kriterium der gewünschten maximalen Trennung, und die Lösung des dahinter stehenden Maximierungsproblems.

y (Diskriminanzfunktion)

Kriterium y0

blindstech

1 1

2 2

cos sin

sin cos

z z

z z

1 2 1

1 2 2

cos sin

sin cos

z z z

z z z

Da 1y z gilt

1 1 2 2y b z b z

mit 1 cosb und 2 sinb

[Excel-Beispiel]


Rotation zury - Funktion



z1

z2

Klassifikation • Case-Classification durch einfachen Vergleich mit dem Kriterium y0. • Prüfung des Gruppenunterschieds mit einem einfachen t - Test auf y.


Kriterium y0

blind

stech

Documents

Methoden der Psychologie Multivariate Analysemethoden und Multivariates Testen Günter Meinhardt Johannes Gutenberg Universität Mainz 21.04.2008