Was ist ein Unterschied zwischen Zufallseffekt-, Fixeffekt- und Randmodell?

Ich versuche meine statistischen Kenntnisse zu erweitern. Ich komme aus den Naturwissenschaften mit einem "rezeptbasierten" Ansatz für statistische Tests, bei dem wir sagen, dass es kontinuierlich und normalverteilt ist - OLS-Regression .

In meiner Lektüre bin ich auf folgende Begriffe gestoßen: Zufallseffektmodell, Modell mit festen Effekten, Randmodell. Meine Fragen sind:

• Was sind sie in sehr einfachen Worten?
• Was sind die Unterschiede zwischen ihnen?
• Sind einige von ihnen Synonyme?
• Wo fallen die traditionellen Tests wie OLS-Regression, ANOVA und ANCOVA in diese Klassifikation?

Ich versuche nur zu entscheiden, wo ich als nächstes mit dem Selbststudium anfangen soll.

Diese Frage wurde an dieser Stelle teilweise wie folgt diskutiert, und die Meinungen scheinen gemischt zu sein.

• Was ist der Unterschied zwischen Modellen mit festen Effekten, zufälligen Effekten und gemischten Effekten?
• Was ist der mathematische Unterschied zwischen zufälligen und festen Effekten?
• Konzepte hinter Modellen mit festen / zufälligen Effekten

Alle Begriffe beziehen sich im Allgemeinen auf Längs- / Panel- / Cluster- / Hierarchiedaten und wiederholte Kennzahlen (im Format der fortgeschrittenen Regression und der ANOVA), haben jedoch in unterschiedlichem Kontext mehrere Bedeutungen. Ich möchte die Frage nach meinem Wissen in Formeln beantworten.

Modell mit festen Effekten

• In der Biostatistik kommen Fixeffekte, die in der folgenden Gleichung (*) als werden, normalerweise mit zufälligen Effekten zusammen. Das Fixed-Effects-Modell geht jedoch auch davon aus, dass die Beobachtungen wie bei der Querschnittsbestimmung unabhängig sind, wie in der Longitudinal Data Analysis von Hedeker und Gibbons (2006).$\color{red}{\boldsymbol\beta}$
• In der Ökonometrie kann das Modell mit festen Effekten wie geschrieben werden: where ist ein fester (nicht zufälliger) Abschnitt für jedes Subjekt ( ), oder wir können auch einen festen Effekt als für jede wiederholte Messung ( ) haben; bezeichnet Kovariaten. $$y_{ij}=\boldsymbol x_{ij}^{'}\boldsymbol\beta+\color{red}{u_i}+\epsilon_{ij}$$ $\color{red}{u_i}$$i$$u_j$$j$$\boldsymbol x_{ij}$
• In der Metaanalyse geht das Fixed-Effect-Modell davon aus, dass der zugrunde liegende Effekt in allen Studien gleich ist (z. B. Mantel und Haenszel, 1959).

Random-Effects-Modell

• In der Biostatistik kann das Zufallseffektmodell (Laird and Ware, 1982) als wobei angenommen wird, dass einer Verteilung folgt. bezeichnet Kovariaten für feste Effekte und bezeichnet Kovariaten für zufällige Effekte. $$\tag{*} y_{ij}=\boldsymbol x_{ij}^{'}\color{red}{\boldsymbol\beta}+\boldsymbol z_{ij}^{'}\color{blue}{\boldsymbol u_i}+e_{ij}$$ $\color{blue}{\boldsymbol u_i}$$\boldsymbol x_{ij}$$\boldsymbol z_{ij}$
• In der Ökonometrie darf sich das Zufallseffektmodell wie in der Biostatistik nur auf ein Zufallsschnittmodell beziehen , dh und ist ein Skalar.$\boldsymbol z_{ij}^{'}=1$$\boldsymbol u_i$
• In der Metaanalyse geht das Zufallseffektmodell von heterogenen Effekten in allen Studien aus (DerSimonian und Laird, 1986).

Randmodell

Das Randmodell wird im Allgemeinen mit dem Bedingungsmodell (Zufallseffektmodell) verglichen, und das erstere konzentriert sich auf den Populationsmittelwert (nehmen Sie als Beispiel das lineare Modell). während letztere sich mit dem bedingten MittelwertDie Interpretation und Skalierung der Regressionskoeffizienten zwischen Randmodell und Zufallseffektmodell wäre bei nichtlinearen Modellen unterschiedlich (z. B. logistische Regression). Lassen , dann

$$E(y_{ij})=\boldsymbol x_{ij}^{'}\boldsymbol\beta,$$ $$E(y_{ij}|\boldsymbol u_i)=\boldsymbol x_{ij}^{'}\boldsymbol\beta + \boldsymbol z_{ij}^{'}\boldsymbol u_i.$$ $h(E(y_{ij}|\boldsymbol u_i))=\boldsymbol x_{ij}^{'}\boldsymbol\beta + \boldsymbol z_{ij}^{'}\boldsymbol u_i$ $$E(y_{ij})=E(E(y_{ij}|\boldsymbol u_i))=E(h^{-1}(\boldsymbol x_{ij}^{'}\boldsymbol\beta + \boldsymbol z_{ij}^{'}\boldsymbol u_i))\neq h^{-1}(\boldsymbol x_{ij}^{'}\boldsymbol\beta),$$ sei denn, die Verknüpfungsfunktion ist trivial die Identitätsverknüpfung (lineares Modell) ) oder (keine Zufallseffekte). Gute Beispiele sind verallgemeinerte Schätzgleichungen (GEE; Zeger, Liang und Albert, 1988) und marginalisierte Mehrebenenmodelle (Heagerty und Zeger, 2000).$h$$u_i=0$

Korrigieren Sie mich, wenn ich hier falsch liege:

Konzeptionell gibt es vier mögliche Effekte: fester Schnittpunkt, fester Koeffizient, zufälliger Schnittpunkt, zufälliger Koeffizient. Die meisten Regressionsmodelle sind 'zufällige Effekte', daher haben sie zufällige Abschnitte und zufällige Koeffizienten. Der Begriff "zufälliger Effekt" wurde im Gegensatz zu "fester Effekt" verwendet.

'Fixed effect' ist, wenn eine Variable einen Teil des Samples, aber nicht alle beeinflusst. Die einfachste Version eines Festeffektmodells (konzeptionell) wäre eine Dummy-Variable für einen Festeffekt mit einem Binärwert. Diese Modelle haben einen einzelnen zufälligen Schnittpunkt, feste Effektkoeffizienten und zufällige variable Koeffizienten.

Die nächste Stufe der Komplikation (konzeptionell) ist, wenn der feste Effekt nicht binär, sondern nominal mit vielen Werten ist. In diesem Fall wird ein Modell mit vielen Abschnitten (einer für jeden der Nominalwerte) generiert. Hier erhalten Sie die klassischen "Mehrfachlinien" eines Paneldatenmodells , bei denen jede der "Optionen" einer festen Effektvariablen ihren eigenen Effekt erhält. Wenn Sie alle verschiedenen faktorspezifischen Datenreihen in eine einzelne Regression umwandeln (anstatt jeden Faktor des festen Effekts als eigene Regression zu definieren), können Sie die Varianz aller verschiedenen Effekte in einer Gleichung zusammenfassen Erhalte bessere (sicherere) Werte für alle deine Koeffizienten.

Komplikationsstufe drei liegt vor, wenn der „feste Effekt“ selbst eine Zufallsvariable ist, mit der Ausnahme, dass seine Effekte „fest“ sind und nur einen Teil der Stichprobe betreffen. Zu diesem Zeitpunkt hätte das Modell einen zufälligen Schnittpunkt, mehrere feste Schnittpunkte und mehrere zufällige Variablen. Ich denke, das ist ein sogenanntes Mixed-Effects-Modell?

Modelle mit 'gemischten Effekten' werden für die Multilevel-Modellierung (MLM) verwendet, da die 'festen Effekte' zum Verschachteln einer Teilmenge von Daten in einer anderen verwendet werden können. Diese Gruppierung kann mehrere Ebenen haben, wobei die Schüler in Klassenräumen und in Schulen verschachtelt sind. Die Schule wirkt sich fest auf die Klassenräume und die Klassenräume der Schüler aus. (Die Schule kann je nach Versuchsaufbau einen festen Effekt auf den Schüler haben oder auch nicht - nicht sicher)

Paneldatenmodelle sind Modelle mit gemischten Effekten, verwenden jedoch zwei Dimensionen für die Gruppierung, in der Regel Zeit und eine Art Kategorie.