24
Faktorenanalyse und Strukturgleichungsmodelle I Kai Arzheimer | Vorlesung Forschungsmethoden

Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

  • Upload
    others

  • View
    1

  • Download
    0

Embed Size (px)

Citation preview

Page 1: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

Faktorenanalyse und Strukturgleichungsmodelle I

Kai Arzheimer | Vorlesung Forschungsmethoden

Page 2: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Outline

EinführungGrundlagenZwischenfazit

Karl G. Joreskog

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (1/15)

Page 3: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Was ist ein „Faktor“?

I „Faktor“ oder „latente Variable“I Common factor(s) = Gemeinsamkeit(en) zwischen

verschiedenen VariablenI D.h. nicht direkt beobachtbare GrößeI Die beobachtbare Variablen („Indikatoren“) beeinflußt

I Typische Beispiele: Einstellungen, PersönlichkeitsmerkmaleI Grundidee: Muster in beobachteten Korrelationsmatrizen

erklärenI Psychologische Intelligenzforschung

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (2/15)

Page 4: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Beispiel: Politisches Vertrauen

I ESS 4, DeutschlandI Nationales Parlament, Gerichte, Polizei, Politiker, Parteien,

Europaparlament

. corr trstprl-trstep(obs=2492)

trstprl trstlgl trstplc trstplt trstprt trstep

trstprl 1.0000trstlgl 0.5366 1.0000trstplc 0.3796 0.6029 1.0000trstplt 0.6693 0.4508 0.3446 1.0000trstprt 0.5912 0.4160 0.3025 0.8061 1.0000trstep 0.5563 0.4146 0.3122 0.5577 0.5898 1.0000

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (3/15)

Page 5: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Grundidee der (explorativen) Faktorenanalyse

I Konstruiere eine oder mehrere (wenige) „künstliche“ Variablendie Ausgangsmatrix „erklären“ können

I Jede gemessene Variable sollte hoch mit einem Faktorkorrelieren

I Korrelation mit Faktor: „erklärte“ VarianzI Rest: „Störvarianz“

I Regression der Ausgangsvariablen auf FaktorenI Varianten:

I Wie werden Faktoren konstruiert?I Wieviele Faktoren werden extrahiert?I Können Faktoren untereinander korrelieren?

I Explorativ ≈ atheoretisch

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (4/15)

Page 6: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Beispiel Vertrauen: 1-Faktor-Lösung. factor trstprl-trstep,factor(1)(obs=2492)Factor analysis/correlation Number of obs = 2492

Method: principal factors Retained factors = 1Rotation: (unrotated) Number of params = 6

Factor Eigenvalue Difference Proportion Cumulative

Factor1 3.10719 2.62503 0.9665 0.9665Factor2 0.48216 0.47331 0.1500 1.1165Factor3 0.00885 0.04933 0.0028 1.1193Factor4 -0.04048 0.10374 -0.0126 1.1067Factor5 -0.14422 0.05452 -0.0449 1.0618Factor6 -0.19874 . -0.0618 1.0000

LR test: independent vs. saturated: chi2(15) = 7563.17 Prob>chi2 = 0.0000Factor loadings (pattern matrix) and unique variances

Variable Factor1 Uniqueness

trstprl 0.7674 0.4111trstlgl 0.6564 0.5692trstplc 0.5234 0.7261trstplt 0.8411 0.2926trstprt 0.8075 0.3480trstep 0.6739 0.5459

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (5/15)

Page 7: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Warum kann explorative Faktorenanalyse problematischsein?

„factor analysis: it’s what the data get into when theory goes onholiday“

I Bezieht sich auf explorative (= böse?) FaktorenanalyseI Standardprozedur („little jiffy“); Extraktion von

Hauptkomponenten, Kaiserkriterium, VARIMAXI Findet oft vorhandene Strukturen nicht („Tom Swift’s Electric

Factor Analysis Machine“)I Findet Strukturen, die gar nicht vorhanden sind?I Konfirmatorische Faktorenanalyse: Prüfung, ob theoretisch

sinnvolle Strukturen mit den Daten vereinbar sindI Meßmodelle, Erweiterung möglich („LISREL“-Modell)

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (6/15)

Page 8: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Wie werden die Beziehungen graphisch dargestellt?

✘✶ ✘✷

①✶ ①✷ ①✸ ①✹

✍✶ ✍✷ ✍✸ ✍✹

I Kreise oder Ovale für latente Variablen/Meßfehler (ξ, δ)I Rechtecke oder Quadrate für beobachtete Variablen (x)I Gerichtete Pfeile für (kausale) WirkungenI Doppelpfeile für KovarianzenI Kausalität?

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (7/15)

Page 9: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Was gehört zur Spezifikation?

1. Zahl der gemeinsamen Faktoren2. Zahl der beobachteten Variablen3. Varianzen/Kovarianzen der gemeinsamen Faktoren4. Beziehungen zwischen gemeinsamen Faktoren und

beobachteten Variablen5. Beziehungen zwischen beobachteten Variablen und

spezifischen Faktoren6. Varianzen/Kovarianzen der spezifischen Faktoren (Meßfehler)

I Spezifikation ursprünglich durch eine Reihe von MatrizenI Heute

I Einfache Gleichungen oder graphische EingabeI (Normalerweise) vernünftige Voreinstellungen

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (8/15)

Page 10: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Was gehört zur Spezifikation?

1. Zahl der gemeinsamen Faktoren2. Zahl der beobachteten Variablen3. Varianzen/Kovarianzen der gemeinsamen Faktoren4. Beziehungen zwischen gemeinsamen Faktoren und

beobachteten Variablen5. Beziehungen zwischen beobachteten Variablen und

spezifischen Faktoren6. Varianzen/Kovarianzen der spezifischen Faktoren (Meßfehler)

I Spezifikation ursprünglich durch eine Reihe von Matrizen

I HeuteI Einfache Gleichungen oder graphische EingabeI (Normalerweise) vernünftige Voreinstellungen

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (8/15)

Page 11: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Was gehört zur Spezifikation?

1. Zahl der gemeinsamen Faktoren2. Zahl der beobachteten Variablen3. Varianzen/Kovarianzen der gemeinsamen Faktoren4. Beziehungen zwischen gemeinsamen Faktoren und

beobachteten Variablen5. Beziehungen zwischen beobachteten Variablen und

spezifischen Faktoren6. Varianzen/Kovarianzen der spezifischen Faktoren (Meßfehler)

I Spezifikation ursprünglich durch eine Reihe von MatrizenI Heute

I Einfache Gleichungen oder graphische EingabeI (Normalerweise) vernünftige Voreinstellungen

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (8/15)

Page 12: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Wie sieht die Terminologie aus?

I Primär interessant: Beziehungen zwischen gemeinsamenFaktoren und beobachteten Variablen

I Werden mit λ bezeichnetI Z. B. x2 = λ21ξ1 + δ2

I λ21 gibt an, wie sich x2 verändert, wenn Faktor um einszunimmt

I Analog zu y = β0 + β1x1 + ε

I Alle (latente und manifeste) Variablen sind zentriert →Mittelwert von null, kein Achsenabschnitt notwendig

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (9/15)

Page 13: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Wie sieht die Terminologie aus?

I Primär interessant: Beziehungen zwischen gemeinsamenFaktoren und beobachteten Variablen

I Werden mit λ bezeichnetI Z. B. x2 = λ21ξ1 + δ2

I λ21 gibt an, wie sich x2 verändert, wenn Faktor um einszunimmt

I Analog zu y = β0 + β1x1 + ε

I Alle (latente und manifeste) Variablen sind zentriert →Mittelwert von null, kein Achsenabschnitt notwendig

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (9/15)

Page 14: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Wie sieht die Terminologie aus?

I Kovarianzen zwischen gemeinsamen Faktoren möglich, z. B.φ12

I Kovarianzen zwischen spezifischen Fehlervarianzen möglichz. B. θ24

I Unterschied zu explorativer Analyse?

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (10/15)

Page 15: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Noch mehr Terminologie?Matrix Dimension Mittelwert Kovarianz Dimension Bedeutung

ξ (s × 1) 0 Φ = E(ξξ′) (s × s) GemeinsameFaktoren

x (q × 1) 0 Σ = E(xx ′) (q × q) beobachteteVariablen

Λ (q × s) Faktorladungenδ (q × 1) 0 Θ = E(δδ′) (q × q) Meßfehler

I Faktor-Gleichung: x = Λξ+ δ

I Kovarianz-Gleichung: Σ = ΛΦΛ′ +Θ

I Annahmen:

I Variablen sind zentriert: E(ξ) = E(x) = E(δ) = 0I q: Zahl der beobachteten Variablen; s: Zahl der gemeinsamen

Faktoren; q > sI Keine Korrelation zwischen Faktoren/Fehlervarianzen:

E(ξδ′) = 0

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (11/15)

Page 16: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Noch mehr Terminologie?Matrix Dimension Mittelwert Kovarianz Dimension Bedeutung

ξ (s × 1) 0 Φ = E(ξξ′) (s × s) GemeinsameFaktoren

x (q × 1) 0 Σ = E(xx ′) (q × q) beobachteteVariablen

Λ (q × s) Faktorladungenδ (q × 1) 0 Θ = E(δδ′) (q × q) Meßfehler

I Faktor-Gleichung: x = Λξ+ δ

I Kovarianz-Gleichung: Σ = ΛΦΛ′ +Θ

I Annahmen:

I Variablen sind zentriert: E(ξ) = E(x) = E(δ) = 0I q: Zahl der beobachteten Variablen; s: Zahl der gemeinsamen

Faktoren; q > sI Keine Korrelation zwischen Faktoren/Fehlervarianzen:

E(ξδ′) = 0

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (11/15)

Page 17: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Noch mehr Terminologie?Matrix Dimension Mittelwert Kovarianz Dimension Bedeutung

ξ (s × 1) 0 Φ = E(ξξ′) (s × s) GemeinsameFaktoren

x (q × 1) 0 Σ = E(xx ′) (q × q) beobachteteVariablen

Λ (q × s) Faktorladungenδ (q × 1) 0 Θ = E(δδ′) (q × q) Meßfehler

I Faktor-Gleichung: x = Λξ+ δ

I Kovarianz-Gleichung: Σ = ΛΦΛ′ +Θ

I Annahmen:

I Variablen sind zentriert: E(ξ) = E(x) = E(δ) = 0I q: Zahl der beobachteten Variablen; s: Zahl der gemeinsamen

Faktoren; q > sI Keine Korrelation zwischen Faktoren/Fehlervarianzen:

E(ξδ′) = 0

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (11/15)

Page 18: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Noch mehr Terminologie?Matrix Dimension Mittelwert Kovarianz Dimension Bedeutung

ξ (s × 1) 0 Φ = E(ξξ′) (s × s) GemeinsameFaktoren

x (q × 1) 0 Σ = E(xx ′) (q × q) beobachteteVariablen

Λ (q × s) Faktorladungenδ (q × 1) 0 Θ = E(δδ′) (q × q) Meßfehler

I Faktor-Gleichung: x = Λξ+ δ

I Kovarianz-Gleichung: Σ = ΛΦΛ′ +Θ

I Annahmen:I Variablen sind zentriert: E(ξ) = E(x) = E(δ) = 0

I q: Zahl der beobachteten Variablen; s: Zahl der gemeinsamenFaktoren; q > s

I Keine Korrelation zwischen Faktoren/Fehlervarianzen:E(ξδ′) = 0

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (11/15)

Page 19: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Noch mehr Terminologie?Matrix Dimension Mittelwert Kovarianz Dimension Bedeutung

ξ (s × 1) 0 Φ = E(ξξ′) (s × s) GemeinsameFaktoren

x (q × 1) 0 Σ = E(xx ′) (q × q) beobachteteVariablen

Λ (q × s) Faktorladungenδ (q × 1) 0 Θ = E(δδ′) (q × q) Meßfehler

I Faktor-Gleichung: x = Λξ+ δ

I Kovarianz-Gleichung: Σ = ΛΦΛ′ +Θ

I Annahmen:I Variablen sind zentriert: E(ξ) = E(x) = E(δ) = 0I q: Zahl der beobachteten Variablen; s: Zahl der gemeinsamen

Faktoren; q > s

I Keine Korrelation zwischen Faktoren/Fehlervarianzen:E(ξδ′) = 0

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (11/15)

Page 20: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Noch mehr Terminologie?Matrix Dimension Mittelwert Kovarianz Dimension Bedeutung

ξ (s × 1) 0 Φ = E(ξξ′) (s × s) GemeinsameFaktoren

x (q × 1) 0 Σ = E(xx ′) (q × q) beobachteteVariablen

Λ (q × s) Faktorladungenδ (q × 1) 0 Θ = E(δδ′) (q × q) Meßfehler

I Faktor-Gleichung: x = Λξ+ δ

I Kovarianz-Gleichung: Σ = ΛΦΛ′ +Θ

I Annahmen:I Variablen sind zentriert: E(ξ) = E(x) = E(δ) = 0I q: Zahl der beobachteten Variablen; s: Zahl der gemeinsamen

Faktoren; q > sI Keine Korrelation zwischen Faktoren/Fehlervarianzen:

E(ξδ′) = 0Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (11/15)

Page 21: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Was macht man nun damit?

I Mit diesen sieben Matrizen/Vektoren kann das ganze Modellvollständig beschrieben werden

I Pfeile in graphischer Darstellung entsprechen Bedingungen(constraints) in Matrizen

I Für Items, die nicht auf einen Faktor laden, wird entsprechendeZelle in Λ auf null gesetzt

I Keine Kovarianz zwischen gemeinsamen Faktoren:(Redundante) Elemente in Φ auf null

I Keine korrelierten Meßfehler: Alle Elemente außerhalbDiagonale in Θ auf null

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (12/15)

Page 22: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Wie kommt man zu den Schätzungen?

I Konfirmatorische Faktorenanalyse geht immer vonVarianz-Kovarianz-Matrix aus

I Originaldaten werden nicht benötigtI Schlüssel ist die Kovarianz-Gleichung, die sich auf die

Grundgesamtheit beziehtI Gestattet Zerlegung der Kovarianzen in Werte für Pfade

(Λ,Φ,Θ)I Beobachtete Kovarianzen S als Schätzung für ΣI Schätzung setzt Identifikation vorausI Identifikation notwendige, aber nicht hinreichende Bedingung

für gültige Schätzung

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (13/15)

Page 23: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Zusammenfassung für heute

I Faktorenanalyse mächtiges Verfahren, Vielzahl vonMöglichkeiten

I Besonders adäquat für sozialwissenschaftliche DatenI Explorative Analyse explorativ (und unzuverlässig)I Konfirmatorische Analyse besonders adäquat für

sozialwissenschaftliche TheorienI MeßfehlerI Latente VariablenI Modellierung (kleiner) Systeme

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (14/15)

Page 24: Faktorenanalyse und Strukturgleichungsmodelle I · 2020-02-04 · Einführung Grundlagen Zwischenfazit Beispiel:PolitischesVertrauen I ESS4,Deutschland I NationalesParlament,Gerichte,Polizei,Politiker,Parteien,

EinführungGrundlagen

Zwischenfazit

Zusammenfassung für die nächste Woche

Kai Arzheimer | Vorlesung Forschungsmethoden SEM I (15/15)