Item Response Theorie

47
1 Item Response Theorie N. Rose 8. Vorlesung (18.12.2019)

Transcript of Item Response Theorie

Page 1: Item Response Theorie

1

Item Response Theorie

N. Rose

8. Vorlesung (18.12.2019)

Page 2: Item Response Theorie

2

Response-/Linkfunktionen

Page 3: Item Response Theorie

3

Linkfunktionen

• Ausgangspunkt:

Modellierung des Zusammenhangs zwischen latenter (zu messender) Personenvariable ξ und kategorialer manifester Variable!

• bei dichotomen Variablen:

… durch beschränkten Wertebereich [0,1] des Regressanden benötigen wir ein nichtlineare Funktion, zur Beschreibung des Zusammenhangs zwischen ξ und Item Yi eine sog. Response- bzw. Linkfunktion! (siehe Generalisierte Lineare Modelle)

| 1|i iE Y P Y

Page 4: Item Response Theorie

4

Logistische Funktion als Responsefunktion

• Logistische Verteilungsfunktion:

1|iP Y

1|ln

1 1|i

i

P Y

P Y

Page 5: Item Response Theorie

5

Logistische Verteilung• Dichtefunktion vs. Verteilungsfunktion einer logistisch verteilten

Zufallsvariable X: Ω → ΩX

0

1

2

0

1

exp

1 exp

X

f XX

0

1

0

1

exp

1 exp

X

F XX

P X x

Page 6: Item Response Theorie

6

Logistische Verteilung

• Zusammenhang: Dichtefunktion vs. Verteilungsfunktion

0

1

2

0

1

exp

1 exp

X

f XX

0

1

0

1

exp

1 exp

X

F XX

P X x

Page 7: Item Response Theorie

7

Logistische Funktion als Responsefunktion

• Logistische Verteilungsfunktion in der IRT:

1|iP Y

1|ln

0 |i

i

P Y

P Y

α βi i

Page 8: Item Response Theorie

8

weitere Response-/Linkfunktionen

• Kumulierte Verteilungsfunktion der Standardnormalverteilung

(αi = 1, βi = 0)

Z

P Z z

Page 9: Item Response Theorie

9

Standardnormalverteilung

• Dichtefunktion vs. Verteilungsfunktion einer standardnormal verteilten Zufallsvariable Z: Ω → ΩZ

21

exp22

Zf Z

21

exp 22

ZF Z dZ

P Z z

Page 10: Item Response Theorie

10

Standardnormalverteilung

• Zusammenhang: Dichtefunktion vs. Verteilungsfunktion

21

exp22

Zf Z

21

exp 22

ZF Z dZ

P Z z

Page 11: Item Response Theorie

11

weitere Response-/Linkfunktionen

• Kumulierte Verteilungsfunktion der Standardnormalverteilung

als Linkfunktion in der IRT

i iZ

1|iP Y

Page 12: Item Response Theorie

12

Standardnormalverteilung als Responsefunktion

• Alternative Parametrisierung des Normal-Ogiven-Modells zur besseren Interpretation der Modellparameter:

... sog. Probit-Modell

(Φ = kumulative Standardnormalverteilung)

211 | exp

22

i i

i

i

i

ZP Y

Page 13: Item Response Theorie

13

Exkurs Begriff: Probit

• Die Probit-Variable ergibt sich als Funktionswert (y-Achse) der inversen Standardnormalverteilung Φ-1:

Die Werte der Probitvariablen

sind die z-Werte der Standard-

Normalverteilung, für die

gilt: P(Z z)

Probit 1Probit = P Z z

P Z z

Z

Page 14: Item Response Theorie

14

Standardnormalverteilung als Linkfunktion

1|iP Y

1 0.8 0.6 0.4 0.2 0

6

0

-6

0.588

2

Probit

Probi

( 1)

1t

Linkfunktion

|1iP Y

latente Variable

Page 15: Item Response Theorie

15

Logistische vs. Standardnormalverteilung• Vergleich der logistischen und der Normalverteilungsfunktion als

Responsefunktionen bei gleichen Parametern αi und βi

i iZ

1|

ln0 |

i

i i

i

P Y

P Y

1|iP Y

Page 16: Item Response Theorie

16

Vergleich Reponsefunktionen

• Logistische Itemresponsemodelle verwenden die logistische kumulative Verteilungsfunktion als Linkfunktion:

Page 17: Item Response Theorie

17

Probit vs. Logit

• Linearität von Logit und Probit in ξ:

1. Probit

2. Logit logistic logistic1|

ln0 | i

i

i

i

P Y

P Y

probit probit

1 probit probit

1|

1|

i i i

i i i

P Y

P Y

Page 18: Item Response Theorie

18

Umrechnung der Modellparameter

• Umrechnungsfaktor zur Berechnung der Modellparameter in der Logitmetrik aus der Probitmetrik ist 1.7!

... Für die Itemdiskriminationen αi folgt:

• Achtung: Schwellen werden nicht mit transformiert, sofern die latente Variable nicht transformiert wird!

In beiden Modellen liegen die Itemschwierigkeiten auf der gleichen Skala wie die latente Variable ξ!

1.7logistic probit

i i

Page 19: Item Response Theorie

19

Warum Probitmodelle?

• Historische Bedeutung

die ersten IRT-Modelle waren Probitmodelle!

(„Discriminal Dispersion Theory“ von Thurstone, 1927)

• Einige Programme (BILOG, MULTILOG, ...) ermöglichen es, zwischen den beiden Linkfunktionen auszuwählen.

Problem der Modellgeltungskontrolle bei 2PL-Modellen (Birnbaum, Samejima)!

Page 20: Item Response Theorie

20

Modellgeltungskontrolle bei 2PL-Modellen

„Whereas with the Rasch model, a number of sound statistical tests

have been produced for addressing fit, the situation for the two- and

three-parameter models is quite different. Well-established

statistical test do not exist, ... “

(W. J. van der Linden & R. K. Hambleton, 1997)

Bis heute gibt es keine suffizienten Tests für 2PL und 3PL-Modelle der IRT!

ABER ...

Page 21: Item Response Theorie

21

Strukturgleichungsmodelle für geordnete kategoriale Variablen

• Spezielle Strukturgleichungsmodellen für geordnet kategoriale Daten erlaubt (indirekt) die Schätzung der Modellparameter von ein- und zwei-parametrischen Probit-Modellen

• in SEM für kategoriale Daten stehen mehrere Möglichkeiten der Modellgeltungskontrolle zur Verfügung (χ2-Test, RMSEA)

• Beziehung der Modellparameter:

Faktorladungen λi und Schwellenparameter δic aus diesen Strukturgleichungsmodellen lassen sich in Itemdiskriminationsparameter αi und Itemschwierigkeiten βi (in der Probit Metrik!) umrechnen!

Page 22: Item Response Theorie

22

SEM für geordnete kategoriale Variablen

• Univariate Verteilungen und Bivariate Häufigkeitsverteilungen

der manifesten Variablen Yi bilden den Ausgangspunkt zur Berechnung spezieller Korrelationsmaße:

– Tetrachorische Korrelationen (dichotome Variablen)

– Polychorische Korrelationen (ordinale Variablen)

• Korrelationsmatrix der tetrachorischen u./o. polychorischen

Korrelationen ist die Grundlage der Parameterschätzung und des allgemeinen Modellgeltungstests.

• Nullhypothese des χ2-Test: * *0 :H θ

Page 23: Item Response Theorie

23

SEM für geordnete kategoriale Variablen

• Modellannahme:

Jeder manifesten kategorialen Variable Yi liegt eine kontinuierliche (aber „messfehlerbehaftete“) latente Variable Yi

*!

• Yi* wird auch als Latent Response Variable (LRV) bezeichnet!

• Aus der univariaten Häufigkeitsverteilung der manifesten Variablen Yi können die Schwellenparameter δi geschätzt werden.

Vorraussetzung: Annahme der Standardnormalverteilung für Yi

*.

* 0,1iY N∼

Page 24: Item Response Theorie

24

SEM für geordnete kategoriale Variablen

Beziehung der Modellvariablen:

ξ

Yi*

εi

Yi

latent(kontinuierlich)

manifest(kategorial)

ξ = f(U)

* *λ , ( )i i i i iY Y f U

λi

*1i ic i icY c Y

Page 25: Item Response Theorie

25

SEM für geordnete kategoriale Variablen

• Modellparameter des Messmodells:

• Modellgleichung und Varianzzerlegung:

Faktorladung

Intercepts des Mesmodells

Schwellenparameter (Thresholds)

i

i

ic

*

* 2

i i i i

i i i

Y

Var Y Var Var

Page 26: Item Response Theorie

26

SEM für geordnete kategoriale Variablen

• Teil des Messmodells sind die Schwellen δic der Items:

• Bei dichotomen Items folgt:

• WICHTIG: Neben der wahren und modellimplizierten Varianz-Kovarianzstrukur gibt es in SEM für kategoriale Variablen auch eine wahren und eine wahre modellimplizierte

Schwellenstruktur!

*1i ic i icY c Y

*1

*1

0

1

i i i

i i i

Y Y

Y Y

Page 27: Item Response Theorie

27

Pfaddiagramme bei SEM für kategoriale Variablen

Latente VariablenManifeste

Variablen

Manifeste

Variablen

ξ1 ξ2

Page 28: Item Response Theorie

28

Parameter in R

• Modellgleichungen in R:

• Zusätzlich für alle items i:

• Beachte: Neben der …

1. … wahren und der wahren modellimplizierten tetra-/polychorischen

Korrelationsstruktur, sowie …

2. der wahren und der wahren modellimplizierten Erwartungswert-

struktur, gibt es in diesen Modellen …

3. … eine wahre und eine wahre modellimplizierte Schwellen-

struktur!

* *

ν Λ ε

α Β

*Y ξ

ξ ξ ζ

*1i ic i icY c Y

Page 29: Item Response Theorie

29

Modellidentifikation

• Problem: Erwartungswert- und Schwellenstruktur sind nicht unabhängig voneinander:

zur Identifikation ...

– ... können entweder die Schwellen δic restringiert und die Achsen-abschnitte νi frei geschätzt, oder ...

– ... die Achsenabschnitte νi = 0 restringiert und die Schwellen δic frei geschätzt werden (Default-Einstellung in lavaan)

*

*1

*

1

λν δ

i

i

i

i i

i i i

E Y P Y

P Y

P

Page 30: Item Response Theorie

30

Schätzung der Schwellenparameter

• Schätzung der Schwellenparameter erfolgt anhand der univariaten Häufigkeitsverteilung.

*1 1i i iP Y

Bsp.: Sei ein dichotomes Item Yi wobei der Mittelwert bei 0.84 liegt.

0 0.16

1 0.84

i

i

h Y

h Y

Probit!

Page 31: Item Response Theorie

31

Schätzung der tetrachorischen Korrelationen• anhand der bivariaten Verteilungen und den Schwellenparametern

1Y2Y

manifeste Variablen

Latent Response Variables

*2Y

*1Y

Page 32: Item Response Theorie

32

Schätzung der tetra-/polychorischen Korrelationen

• Zusammenhang zwischen der bivariaten Standardnormalverteilung der Latent Response Variablen Yi

* und Yj* der bivariaten

Häufigkeitsverteilung der manifesten Variablen .

*2Y

*1Y

1Y

2Y

Page 33: Item Response Theorie

33

Schätzung der Modellparameter in R

• Schätzung der Faktorladungen, Varianzen, Mittelwerte, etc. in einem 3. Schritt …

– auf Basis der initialen Schwellenschätzungen (aus den univariatenVerteilungen der manifesten Variablen) Schritt 1

– und den tetra-/polychorischen Korrelationen (aus den bivariatenVerteilungen der manifesten Variablen) Schritt 2

• Der 3. Schritt der Parameterschätzung erfolgt in R unter Verwendung einer speziellen Weighted Least Square Schätzung

(WLSMV).

Page 34: Item Response Theorie

34

Schätzung der Modellparameter in R

• „WLSMV-Schätzer“ in R:

– „Weigthed Least Square Estimator with Varianz and Mean adjustedχ2-statistic“

– Robustes Schätzverfahren bei moderaten Stichprobengrößen ab 200 -250 Beobachtungen

– Auch bei nicht normalverteilten manifesten Variablen verwendbar (Ggs. zu ML-Schätzung bei SEM!)

berücksichtigt Schiefe und Kurtosis der manifesten Variablen!

– Achtung: komplizierte Berechnung der Freiheitsgrade auf Basis der Varianz-Kovarianzstruktur der Variablen und Modellparameter nicht per Hand möglich!

Page 35: Item Response Theorie

Anwendung in R

• R code für die 35 Matrizenitem (Wichert et al., 2012)

• Wichtig Schärtzer „WLSMV“ spezifizieren und die manifesten Variablen als ordinale Variablen kennzeichnen mit dem Argument ordered = …

35

library(lavaan)

bbm <- 'xi =~ NA*rav1 + rav2 + rav3 + rav4 + rav5 + rav6 + rav7 + rav8 + rav9 +

rav10 + rav11 + rav12 + rav13 + rav14 + rav15 + rav16 + rav17 + rav18 + rav19 +

rav20 + rav21 + rav22 + rav23 + rav24 + rav25 + rav26 + rav27 + rav28 + rav29 +

rav30 + rav31 + rav32 + rav33 + rav34 + rav35

# Varianz & Erwartungswert von xi fixieren

xi ~~ 1*xi

xi ~~ 1*0'

bbm.fit <- sem(model=bbm,

data=data.ordered,

ordered=paste0("rav",1:35),

estimator="WLSMV")

Page 36: Item Response Theorie

Anwendung in R• Output (Ausschnitt) zur Modellgeltungskontrolle:

• Die Nullhypothese, nach der die wahre und die wahre model-implizierte tetrachorische Korrelations-, Erwartungswert- und Schwellenstruktur gleich sind, muss verworfen werden. Das Birnbaum-Modell passt nur unzureichend zu den beobachteten Daten.

Estimator DWLS Robust

Model Fit Test Statistic 1447.830 1129.670

Degrees of freedom 560 560

P-value (Chi-square) 0.000 0.000

Scaling correction factor 1.784

Shift parameter 318.039

for simple second-order correction (Mplus variant)

Root Mean Square Error of Approximation:

RMSEA 0.055 0.044

90 Percent Confidence Interval 0.052 0.059 0.041 0.048

P-value RMSEA <= 0.05 0.007 0.995

Page 37: Item Response Theorie

Anwendung in R

• Zur Erinnerung: RMSEA = Root mean squred error ofapproximation

– Deskriptiver Kennwert der die fehlende Passung des Modells („badness-of-fit“) in Form der Diskrepanz zwischen wahrer und wahrer modellimplizierter Varianz-Kovarianz- & Erwartungswertstruktur quantifiziert

– RMSEA < 0.05 = gute Modellpassung

– 0.05 < RMSEA < 0.08 = adäquate Modellpassung

– RMSEA > 0.08 = ungenügende Modellpassung

– Es gibt die Möglichkeit des Tests der Nullhypothese H0: RMSEA < 0.05

37

Page 38: Item Response Theorie

Anwendung in R

• Output (Ausschnitt) allgemeine Modellgeltungkontrolle:

Latent Variables:

Estimate Std.Err z-value P(>|z|)

xi =~

rav1 0.466 0.108 4.327 0.000

rav2 0.804 0.080 10.069 0.000

rav3 0.638 0.090 7.101 0.000

rav4 0.730 0.077 9.468 0.000

Thresholds:

Estimate Std.Err z-value P(>|z|)

rav1|t1 -1.627 0.092 -17.766 0.000

rav2|t1 -1.793 0.103 -17.433 0.000

rav3|t1 -1.610 0.091 -17.778 0.000

rav4|t1 -1.646 0.093 -17.749 0.000

Variances:

Estimate Std.Err z-value P(>|z|)

xi 1.000

.rav1 0.783

.rav2 0.353

.rav3 0.593 …

Faktorladungen λ*i

Schwellenparameter δi1

Varianz der latenten Variablen ξ und Fehlervarianzen Var(εi

*) der latent response variables

(nicht der manifesten Items!)

Page 39: Item Response Theorie

SEM für geordnete kategoriale Variablen

• Der Wert der Strukturgleichungsmodelle für kategorialen

Variablen liegt nicht nur darin ein- und zweiparametrische IRT Modelle testen zu können, sondern die Parameter (Faktorladungen, Achsenabschnitte und Schwellen) können auch die entsprechenden Itemparameter umgerechnet werden.

39

Page 40: Item Response Theorie

40

Beziehung der Modellparameter

• Umrechnung der Modellparameter SEM IRT:

probitαi

logitαi

( )λi z

probitα 1.7i

logitα :1.7i

( )

2( )1

i z

i z

( )

2( )

1.7

1

i z

i z

2

α

1 α

probit

i

probit

i

logit

2logit

α :1.7

1 α :1.7

i

i

( )λ Standardisierte Faktorladungi z

Page 41: Item Response Theorie

41

Beziehung der Modellparameter• SEM IRT:

– Auch die Itemschwierigkeiten können in die Schwellenparameter

der Strukturgleichungsmodelle für kategoriale Daten umgerechnet werden.

– Grundgedanke: Die Itemschwierigkeit ist eine Lokation auf der latenten Variable ξ, folglich kann ξ im Messmodell einfach durch βi

ersetzt werden!

umgekehrt:

• Umrechnung der SEM-Parameter in R:

1δ ν λ βi i i i

1δ νβ

λi i

i

i

Page 42: Item Response Theorie

Beziehung der Modellparameter

• Am Datenbeispiel:

42

-0.5 0.0 0.5 1.0 1.5

-0.5

0.0

0.5

1.0

1.5

2.0

Vergleich der Diskriminationssschätzungen

SEM vs ltm

ltm

Um

ge

rech

ne

t a

us S

EM

Item 34

Item 35

-8 -6 -4 -2 0 2 4 6-2

5-2

0-1

5-1

0-5

05

Vergleich der Schwerigkeitsschätzungen

SEM vs ltm

ltm

Um

ge

rech

ne

t a

us S

EM

Item 34

Item 35

Page 43: Item Response Theorie

Vorteile SEM für kategoriale Variablen

• Modification Indices zur datenbasierten (!) Modellmodifikation

– Modification indices geben die erwartete Verbesserung im χ2–Wert des Modells an, wenn die entsprechende Restriktion hinsichtlich des Parameters aufgehoben wird

– Die erwartete Änderung (expected parameter change, Abk. epc) im Wert des zu schätzenden Parameters wird mit ausgegeben

– In R:

– Output:

43

lhs op rhs mi epc sepc.lv sepc.all sepc.nox

767 rav32 ~~ rav33 144.348 0.801 0.801 1.009 1.009

758 rav30 ~~ rav31 88.326 0.580 0.580 0.971 0.971

772 rav34 ~~ rav35 63.214 0.468 0.468 0.486 0.486

682 rav22 ~~ rav23 59.936 0.396 0.396 0.661 0.661

763 rav31 ~~ rav32 41.819 0.527 0.527 0.837 0.837

728 rav26 ~~ rav27 37.732 0.354 0.354 0.519 0.519

Page 44: Item Response Theorie

Vorteile SEM für kategoriale Variablen

• Einfache Erweiterung der Modelle um …

– … weitere latente Variablen (Multidimensionale latente Variablen mehrdimensionale IRT Modelle)

– … Gruppierungsvariable (Mehrgruppen IRT Modelle)

– … Drittvariablen X zur Vorhersage der latente Variable ξ in der Regression E(ξ | X)

– … Drittvariablen X als abhängige Variable in Regressionen E(X | ξ) mit der latenten Variablen als Regressor

• Demonstration an den Raven-Matrizenitems des Wichert

Datensatzes …

44

Page 45: Item Response Theorie

Erweiterung SEM für kategoriale Variablen

• Visualisierung der tetrachorischen Varianz-Kovarianzmatrix der 35 Raven-Matrizenitems (Wichert Datensatz)

45

Page 46: Item Response Theorie

Erweiterung SEM für kategoriale Variablen

• 2-dimensionales IRT Modell basierend auf der Inspektion der tetrachorischen Varianz-Kovarianzmatrix

46

Page 47: Item Response Theorie

Erweiterung SEM für kategoriale Variablen

• 2-dimensionales IRT Modell mit der Zahl der beantworteten Items (z-standardisiert) als Regressor

47