Warum testen manche Leute regressionsähnliche Modellannahmen an ihren Rohdaten und andere Leute testen sie an den Residuen?

Ich bin ein Doktorand in experimenteller Psychologie und ich bemühe mich sehr, meine Fähigkeiten und Kenntnisse im Analysieren meiner Daten zu verbessern.

Bis zu meinem 5. Jahr in Psychologie dachte ich, dass die regressionsähnlichen Modelle (zB ANOVA) die folgenden Dinge annehmen:

• Normalität der Daten
• Varianzhomogenität für die Daten und so weiter

Meine Grundstudiengänge ließen mich glauben, dass die Annahmen sich auf die Daten bezogen. In meinem fünften Jahr unterstrichen einige meiner Ausbilder jedoch, dass sich die Annahmen auf den Fehler (geschätzt durch die Residuen) und nicht auf die Rohdaten beziehen.

Vor kurzem habe ich mit einigen meiner Kollegen über die Frage nach den Annahmen gesprochen. Sie gaben auch zu, dass es wichtig ist, die Annahmen zum Residuum erst in den letzten Studienjahren zu überprüfen.

Wenn ich es richtig verstehe, nehmen die regressionsähnlichen Modelle Annahmen über den Fehler an. Daher ist es sinnvoll, die Annahmen zu den Residuen zu überprüfen. Wenn ja, warum überprüfen einige Leute die Annahmen zu den Rohdaten? Liegt es daran, dass ein solches Überprüfungsverfahren in etwa dem entspricht, was wir durch Überprüfen des Rests erhalten würden?

Ich würde mich sehr über eine Diskussion zu diesem Thema mit einigen Leuten freuen, die genauere Kenntnisse haben als meine Kollegen und ich. Ich danke Ihnen im Voraus für Ihre Antworten.

Grundsätzlich sind Sie auf dem richtigen Weg. Sie finden eine Diskussion über den Aspekt der Normalität in Normalität der abhängigen Variablen = Normalität der Residuen?

Einige Annahmen des klassischen linearen Modells beziehen sich in der Tat auf Fehler (unter Verwendung von Residuen als deren Realisierung):

• Sind sie unkorreliert? (Relevant für Inferenz und Optimalität der OLS-Schätzer)
• Haben sie die gleiche Varianz? (Relevant für Inferenz und Optimalität der OLS-Schätzer)
• Sind sie um 0 zentriert? (Schlüsselannahme, um unvoreingenommene Schätzer und Vorhersagen zu erhalten)
• Wenn die Stichprobe sehr klein ist: Sind sie normal oder zumindest symmetrisch verteilt? (Relevant für Inferenz)

Andere Bedingungen beziehen sich auf "Rohdaten":

• Gibt es keine groben Ausreißer in Regressoren? (Beobachtungen mit hohem Hebel können das gesamte Modell zerstören.)
• Keine perfekte Multikollinearität? (Würde zumindest in einigen Softwarepaketen zu Rechenproblemen führen.)

Nun könnte Ihr Grundschullehrer auch richtig sein:

• Vielleicht haben Sie sich auf univariate Tests wie den T-Test mit einer Stichprobe konzentriert. Dort beziehen sich die Annahmen auf die Rohdaten.
• Wenn ziemlich niedrig ist und die Antwortvariable alles andere als normal aussieht, gilt dies höchstwahrscheinlich auch für die Residuen.$R^2$
• Wie würden Sie Homoskedastizität etc. anhand von Rohdaten überprüfen? Vielleicht haben Sie ihn oder sie falsch verstanden.

Ich finde die Unterscheidung zwischen Residuen und Rohdaten nicht hilfreich, da sich beide eher auf Ihre tatsächliche Stichprobe und nicht auf die zugrunde liegende Populationsverteilung beziehen. Es ist besser, sich einige Anforderungen als "Anforderungen innerhalb einer Gruppe" und andere als "Anforderungen zwischen Gruppen" vorzustellen.

Zum Beispiel ist die Varianzhomonität eine "Zwischengruppenannahme", da sie besagt, dass die Varianz innerhalb der Gruppe für alle Gruppen gleich ist.

Normalität ist eine "innerhalb der Gruppe" Annahme, die erfordert, dass innerhalb jeder Gruppe y normal verteilt ist.

Beachten Sie, dass Normalität über Ihr gesamtes rohes y in der Regel bedeutet, dass Sie keine Auswirkung haben. Betrachten Sie die Verteilung des Geschlechts, ohne zwischen Frauen und Männern zu unterscheiden. Es wird aufgrund des starken Gender-Effekts nicht normal verteilt. Aber in jedem Geschlecht gilt das ganz gut.