Warum ist Abhängigkeit ein Problem?

Mich interessiert, warum abhängige Beobachtungen ein Problem in der Statistik sind. Angenommen, Sie möchten wissen, ob sich die durchschnittlichen Prüfungsergebnisse zwischen zwei Schulen unterscheiden. Sie sammeln 50 Beobachtungen in jeder Schule. Diese 50 Beobachtungen stammen aus 5 verschiedenen Klassenräumen in jeder Schule und es besteht eine Abhängigkeit innerhalb der Klassenräume. Wie würden in diesem Fall die Ergebnisse des T-Tests beeinflusst und wie könnten sie zu ungenauen Schlussfolgerungen führen?

Der p-Wert für den t-Test wird unter der Annahme berechnet, dass alle Beobachtungen unabhängig sind. Das Berechnen von Wahrscheinlichkeiten (wie dem p-Wert) ist viel schwieriger, wenn Sie mit abhängigen Variablen arbeiten, und es ist nicht immer einfach, mathematisch zu erkennen, wo mit dem Test bei Vorhandensein von Abhängigkeiten etwas schief geht. Wir können das Problem jedoch leicht mit einer Simulation veranschaulichen.

Betrachten Sie zum Beispiel den Fall, dass es in jeder der beiden Schulen 5 Klassenzimmer mit 10 Schülern in jedem Klassenzimmer gibt. Unter der Annahme der Normalität sollte der p-Wert des Tests gleichmäßig auf das Intervall wenn zwischen allen Klassenräumen kein Unterschied in den mittleren Testergebnissen besteht. Das heißt, wenn wir viele Studien wie diese durchgeführt und ein Histogramm aller p-Werte aufgezeichnet haben, sollte es der kastenförmigen Gleichverteilung ähneln .$(0,1)$

Wenn jedoch eine Korrelation zwischen den Ergebnissen der Schüler im Klassenzimmer besteht, verhalten sich die p-Werte nicht mehr so, wie sie sollten. Eine positive Korrelation (wie hier zu erwarten) führt häufig zu zu kleinen p-Werten, so dass die Nullhypothese zu oft verworfen wird, wenn sie tatsächlich wahr ist. Eine R-Simulation, die dies veranschaulicht, finden Sie unten. 1000 Studien an zwei Schulen werden für unterschiedliche Korrelationen innerhalb des Klassenzimmers simuliert. Die p-Werte des entsprechenden t-Tests sind in den Histogrammen in der Abbildung dargestellt. Sie sind gleichmäßig verteilt, wenn keine Korrelation besteht, aber nicht anders. In der Simulation wird davon ausgegangen, dass es keine mittleren Unterschiede zwischen den Klassenzimmern gibt und dass alle Klassenräume die gleiche Korrelation innerhalb des Klassenzimmers aufweisen.

Die Konsequenz dieses Phänomens ist, dass die Typ I-Fehlerrate des t-Tests weit entfernt ist, wenn Korrelationen innerhalb des Klassenzimmers vorhanden sind. Zum Beispiel liegt ein t-Test bei 5% tatsächlich ungefähr bei 25%, wenn die Korrelation innerhalb des Klassenzimmers 0,1 beträgt! Mit anderen Worten, das Risiko, die Nullhypothese fälschlicherweise abzulehnen, steigt dramatisch an, wenn die Beobachtungen abhängig sind .

Beachten Sie, dass sich die Achsen zwischen den Histogrammen etwas unterscheiden.

R-Code:

library(MASS) 
B1<-1000

par(mfrow=c(3,2))

for(correlation in c(0,0.1,0.25,0.5,0.75,0.95))
{
# Create correlation/covariance matrix and mean vector
Sigma<-matrix(correlation,10,10)
diag(Sigma)<-1
mu<-rep(5,10)

# Simulate B1 studies of two schools A and B
p.value<-rep(NA,B1)
for(i in 1:B1)
{
    # Generate observations of 50 students from school A
    A<-as.vector(mvrnorm(n=5,mu=mu,Sigma=Sigma))

    # Generate observations of 50 students from school B
    B<-as.vector(mvrnorm(n=5,mu=mu,Sigma=Sigma))

    p.value[i]<-t.test(A,B)$p.value
}

# Plot histogram
hist(p.value,main=paste("Within-classroom correlation:",correlation),xlab="p-value",cex.main=2,cex.lab=2,cex.axis=2)
}

Das Problem wäre, dass der Vergleich der beiden Schulen auf diese Weise Effekte auf Universitätsniveau mit Effekten auf Klassenebene mischt. Mit einem gemischten Modell können Sie diese entwirren. Wenn Sie nicht daran interessiert sind, sie zu entwirren, sollten Sie dennoch die Cluster-Stichprobe berücksichtigen (obwohl viele Leute dies nicht tun).

Der Kommentar von @Nico oben führt hier zu einem Problem: Angenommen, ein Lehrer in einer Schule ist wirklich gut und er / sie ist zufällig einer der ausgewählten Lehrer?

Ein weiteres Problem besteht darin, dass die Schüler in jeder Klasse einander in vielerlei Hinsicht ähnlicher sind als anderen Schülern an derselben Universität: Unterschiedliche Fächer ziehen unterschiedliche Arten von Schülern nach Alter, Geschlecht, Erfahrung und akademischer Stärke an und Schwäche etc.

An dem von Ihnen beschriebenen Test ist nichts auszusetzen, da Sie auf faire Weise eine Probe aus beiden Schulen entnommen haben. Abhängige Beobachtungen kommen ins Spiel, wenn es eine andere Variable gibt, von der die Stichproben abhängen. Das heißt, in einer der Schulen ist nur eine Klasse erschienen, und Sie haben beschlossen, Ergebnisse von 50 Personen in dieser einen Klasse zu erhalten, weil Sie dachten, dass dies in Ordnung sein wird. Aber innerhalb der Schule hängt das Ergebnis von einer Klasse ab, so dass Sie es nicht so machen können und es ein falsches Ergebnis liefert, das Sie durch keinen statistischen Test erkennen können ... es ist nur ein falsches experimentelles Design.

Aber ich denke, die Leute sprechen normalerweise über abhängige Beobachtungen aus verschiedenen Blickwinkeln. Es ist, wenn Sie denken, dass Sie Verteilungen und Fehler aus Ihren Stichproben basierend auf Annahmen der Unabhängigkeit ableiten können (die meisten Standardformeln gehen davon aus), während wenn Ihre Ergebnisse voneinander abhängen, diese Regeln überhaupt nicht genau sind ...