Varianzaufteilung und longitudinale Änderungen in Korrelation mit binären Daten

Ich analysiere Daten zu 300.000 Schülern in 175 Schulen mit einem logistischen linearen Mischeffektmodell (zufällige Abschnitte). Jeder Schüler kommt genau einmal vor und die Daten erstrecken sich über 6 Jahre.

Wie teile ich die Varianz zwischen der Schul- und der Schülerebene ähnlich wie beim VPC / ICC für kontinuierliche Ergebnisse ein? Ich habe diesen Artikel gesehen, der 4 Methoden vorschlägt, von denen A und B für mich interessant erscheinen, aber ich möchte wissen, welche Vor- / Nachteile es bei der Verwendung dieser beiden Methoden geben kann, und natürlich, ob es andere Möglichkeiten gibt es.
Wie kann ich die Restvarianz auf Schulebene von Jahr zu Jahr (oder einem anderen Zeitraum) vergleichen? Bisher habe ich dies getan , indem die Daten von Jahr zu teilen und das Modell gegen jedes Jahr der Daten ausgeführt wird, aber ich denke , das fehlerhaft ist , weil: i) es keinen offensichtlichen Grund, warum ich aufgeschlüsselt nach sein sollte , Jahr ; und ii) da die Schätzungen der festen Effekte für jedes Jahr unterschiedlich sind, ist ein Vergleich der zufälligen Effekte von Jahr zu Jahr möglicherweise nicht sinnvoll (dies ist nur meine Intuition, es wäre großartig, wenn jemand dies formeller erklären könnte, wenn es richtig ist).

HINWEIS: Ich habe diese Frage nach einer Diskussion in Meta mit Whuber und Macro neu geschrieben

mixed-model binary-data

— Joe King
quelle

Ich denke, das ist eine große Verbesserung. Die Frage ist jetzt sehr klar. Im Moment habe ich keine Zeit, eine gut organisierte Antwort zu geben, aber ich werde eine Antwort später posten.

— Makro

Logistische Mixed-Effects-Modelle scheinen ein extrem fortgeschrittenes Thema für die High School zu sein. Sind sie Teil Ihres High School Lehrplans oder studieren Sie selbständig?

— mark999

@ mark999 Ich lerne selbständig. Eigentlich versuche ich , mein Bruder das Gegenteil zu beweisen, der sagte „es gibt keinen Weg Sie das verstehen könnte“ . Er macht einen Abschluss in Statistik, damit ich Zugang zu all seinen Büchern usw. habe (wenn er nett ist).

— Joe King

Sei $y_{ij}, {\boldsymbol x}_{ij}$ der Antwort- bzw. Prädiktorvektor des Schülers $i$ in der Schule $j$ .

(1) Für binäre Daten denke ich, dass die Standardmethode für Varianzzerlegungen analog zu der für kontinuierliche Daten ist, die die Autoren in Ihrem Link als Methode D (ich werde die anderen Methoden unten kommentieren) bezeichnen - und die binären Daten als vorstellen sich aus einer zugrunde liegenden stetigen Variablen ergeben, die von einem linearen Modell bestimmt wird, und die Varianz auf dieser latenten Skala zerlegen. Der Grund dafür ist, dass logistische Modelle (und andere GLMs) natürlich auf diese Weise entstehen:

Um dies zu sehen, definieren Sie $y^{\star}_{ij}$ so, dass es von einem linearen gemischten Modell gesteuert wird:

y_{i j}^{⋆} = α + x_{i j} β + η_{j} + ε_{i j}

$y^{\star}_{ij} = \alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_j + \varepsilon_{ij}$

wobei $\alpha,\beta$ Regressionskoeffizienten sind, $\eta_j \sim N(0,\sigma^2)$ der Zufallseffekt auf Schulebene ist und $\varepsilon_{ij}$ der Restvarianzterm ist und eine logistische Standardverteilung aufweist . Nun lass

y_{i j} = {\begin{cases} 1 & if y_{i j}^{⋆} \geq 0 \\ 0 & if y_{i j}^{⋆} < 0 \end{cases}

$y_{ij} = \begin{cases} 1 & \text{if} \ \ \ y^{\star}_{ij}≥0\\ \\ 0 &\text{if} \ \ \ y^{\star}_{ij}<0 \end{cases}$

sei , einfach unter Verwendung der logistischen CDF, die wir haben $p_{ij} = P(y_{ij} = 1|{\boldsymbol x}_{ij},\eta_j)$

p_{i j} = 1 - P (y_{i j}^{⋆} < 0 | x_{i j}, η_{j}) = \frac{\exp {- (α + x_{i j} β + η_{j})}}{1 + \exp {- (α + x_{i j} β + η_{j})}}

$p_{ij} = 1-P(y^{\star}_{ij}<0|{\boldsymbol x}_{ij},\eta_j) = \frac{ \exp \{-(\alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_j) \} }{1+ \exp \{-(\alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_j) \}}$

Nun nehmen Sie die logit-Transformation beider Seiten vor

\log (\frac{p_{i j}}{1 - p_{i j}}) = α + x_{i j} β + η_{j}

$\log \left( \frac{ p_{ij} }{1 - p_{ij}} \right) = \alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_j$

Das ist genau das logistische Mischeffektmodell. Das logistische Modell entspricht also dem oben angegebenen latenten Variablenmodell. Ein wichtiger Hinweis:

Die Skala von wird nicht identifiziert, da sie, wenn Sie sie verkleinern würden, aber eine Konstante , einfach die obige in ändern würde $\varepsilon_{ij}$ $s$

\frac{\exp {- (α + x_{i j} β + η_{j}) / s}}{1 + \exp {- (α + x_{i j} β + η_{j}) / s}}

$\frac{ \exp \{-(\alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_j)/s \} }{1+ \exp \{-(\alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_j)/s \}}$

$\ \ \ \ \ \ \$ daher würden die Koeffizienten und Zufallseffekte einfach um den entsprechenden Betrag vergrößert. So, verwendet wird, was bedeutet ,
$\ \ \ \ \ \$ $s=1$ ${\rm var}(\varepsilon_{ij}) = \pi^2/3$ .

Nun, wenn Sie dieses Modell und dann die Menge verwenden

\frac{{\hat{σ}}_{η}^{2}}{{\hat{σ}}_{η}^{2} + π^{2} / 3}

$\frac{ \hat{\sigma}^{2}_{\eta} }{\hat{\sigma}^{2}_{\eta} + \pi^2/3 }$

schätzt die klasseninterne Korrelation der underlying latent variables. Another important note:

$\varepsilon_{ij}$ $\frac{{\hat{σ}}_{η}^{2}}{{\hat{σ}}_{η}^{2} + 1}$ $\frac{ \hat{\sigma}^{2}_{\eta} }{\hat{\sigma}^{2}_{\eta} + 1 }$ estimates the tetrachoric correlation between two randomly selected pupils in the same school, which were shown by Pearson (around 1900 I think) to be statistically identified when the underlying continuous data was normally distributed (this work actually showed these correlations were identified beyond the binary case to the multiple category case, where these correlations are termed polychoric correlations). For this reason, it may be preferable (and would be my recommenation) to use a probit model when the primary interest is in estimating the (tetrachoric) intraclass correlation of binary data.

Regarding the other methods mentioned in the paper you linked:

(A) Ich habe die Linearisierungsmethode noch nie gesehen, aber ein Nachteil, den ich sehen kann, ist, dass es keinen Hinweis auf den dadurch verursachten Approximationsfehler gibt. Wenn Sie das Modell (durch eine potenziell grobe Näherung) linearisieren möchten, warum sollten Sie dann nicht zunächst ein lineares Modell verwenden (z. B. Option (C) , auf die ich gleich zurückkommen werde)? Es wäre auch komplizierter zu präsentieren, da der IStGH davon abhängen würde ${\boldsymbol x}_{ij}$ .
(B) Die Simulationsmethode ist für einen Statistiker intuitiv ansprechend, da sie eine geschätzte Varianzzerlegung auf der ursprünglichen Skala der Daten ergibt. Je nach Zielgruppe kann es jedoch (i) kompliziert sein, dies in Ihren "Methoden" zu beschreiben. Abschnitt und (ii) können einen Rezensenten ausschalten, der nach etwas "mehr Standard" suchte
(C) Es ist wahrscheinlich keine gute Idee, vorzugeben, dass die Daten kontinuierlich sind, obwohl sie keine schlechte Leistung erbringen, wenn die meisten Wahrscheinlichkeiten nicht zu nahe bei 0 oder 1 liegen also würde ich wegbleiben.

Nun endlich

(2) If the fixed effects are very different across years, then you're right to think that it could be difficult to compare the random effect variances across years, since they are potentially on different scales (this is related to the non-identifiability of scaling issue mentioned above).

If you want to keep the fixed effects over time (however, if you see them changing a lot over time, you may not want to do that) but look at the change in the random effect variance, you can explore this effect using some random slopes and dummy variables. For example, if you wanted to see if the ICCs were different in different years, you culd let $I_k = 1$ if the observation was made in year $k$ and 0 otherwise and then model your linear predictor as

α + x_{i j} β + η_{1 j} I_{1} + η_{2 j} I_{2} + η_{3 j} I_{3} + η_{4 j} I_{4} + η_{5 j} I_{5} + η_{6 j} I_{6}

$\alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_{1j} I_1 + \eta_{2j} I_2 + \eta_{3j} I_3 + \eta_{4j} I_4 + \eta_{5j} I_5+ \eta_{6j} I_6$

this will give you a different ICCs each year but the same fixed effects. It may be tempting to just use a random slope in time, making your linear predictor

α + x_{i j} β + η_{1} + η_{2} t

$\alpha + {\boldsymbol x}_{ij} {\boldsymbol \beta} + \eta_{1} + \eta_{2} t$

but I don't recommend this, since that will only allow your associations to increase over time, not decrease.

— Macro
quelle

Please would you give me your comment to address the point in the linked article about this variance partitioning technique that says "This approach may be reasonable where the (0, 1) response is, say, derived from a truncation of an underlying continuum such as a pass/fail response based upon a continuous mark scale, but would seem to have less justification when the response is truly discrete, such as mortality or voting". In my case I am dealing with the incidence of bullying, which falls into the latter category, I think...

— Joe King

@JoeKing, I would say that logistic/probit (and similar) regression models already assume that the data are generated from an underlying continuum, since the model can be shown to be equivalent to that. Therefore, if one is even using such models, then they must find that assumption to be defensible :)

— Macro

@JoeKing, if you consider this answer definitive please consider accepting :)

— Macro

I will indeed. At the moment I'm a bit uncertain about a few points and I'd like to come back to you after I've had a little time (couple of days) to read around a little, and look at the data some more, if you don't mind ?

— Joe King

@JoeKing Of course - some new members are unaware, so I thought I'd point that out - it wasn't meant to place pressure you at all

— Macro