Was können Sie tun, wenn Sie Prädiktorvariablen haben, die auf Gruppendurchschnitten mit unterschiedlichen Stichprobengrößen basieren?

Stellen Sie sich ein klassisches Datenanalyseproblem vor, bei dem Sie ein Ergebnis $Y_{i}$ und wie es mit einer Reihe von Prädiktoren . Die grundlegende Art der Anwendung ist hier $X_{i1}, ..., X_{ip}$

$Y_{i}$ ist ein Ergebnis auf Gruppenebene, beispielsweise die Kriminalitätsrate in Stadt . $i$
Die Prädiktoren sind Merkmale auf Gruppenebene, z. B. demografische Merkmale der Stadt . $i$

Das grundlegende Ziel ist die Anpassung eines Regressionsmodells (möglicherweise mit zufälligen Effekten, aber vergessen Sie dies vorerst):

E (Y_{i} | X_{i}) = β_{0} + β_{1} X_{i 1} + . . . + β_{p} X_{i p}

$E(Y_{i} | {\bf X}_{i} ) = \beta_0 + \beta_1 X_{i1} + ... + \beta_p X_{ip}$

Treten technische Schwierigkeiten auf, wenn einer (oder mehrere) der Prädiktoren das Ergebnis einer Umfrage sind, die für jede Einheit unterschiedliche Stichprobengrößen aufweist? Angenommen, $X_{i1}$ ist eine Gesamtbewertung für Stadt $i$ , bei der es sich um die durchschnittliche Antwort einer Stichprobe von Personen aus Stadt $i$ Die Stichprobengrößen, auf denen diese Durchschnittswerte basieren, sind jedoch sehr unterschiedlich:

\begin{array}{cc} C i t y & S a m p l e s i z e \\ 1 & 20 \\ 2 & 100 \\ 3 & 300 \\ 4 & 5 \\ 5 & 3 \\ ⋮ & ⋮ \end{array}

$\begin{array}{c|c} {\rm City} & {\rm Sample \ size} \\ \hline 1 & 20 \\ 2 & 100 \\ 3 & 300 \\ 4 & 5 \\ 5 & 3 \\ \vdots & \vdots \\ \end{array}$

Da die Prädiktorvariablen in gewisser Weise nicht alle dieselbe Bedeutung für jede Stadt haben, befürchte ich, dass die Konditionierung dieser Variablen in einem Regressionsmodell, als wären sie alle "gleich", zu irreführenden Schlussfolgerungen führen könnte.

Gibt es einen Namen für diese Art von Problem? Wenn ja, gibt es Forschungen darüber, wie damit umzugehen ist?

Mein Gedanke ist, es als eine mit Fehler gemessene Prädiktorvariable zu behandeln und etwas in diese Richtung zu tun, aber die Messfehler weisen eine Heteroskedastizität auf, was sehr kompliziert wäre. Ich könnte darüber falsch denken oder es komplizierter machen als es ist, aber jede Diskussion hier wäre hilfreich.

regression measurement-error errors-in-variables

— Makro
quelle

Dies wird als "heteroskedastische Fehler in Variablen" -Problem bezeichnet. (Dieser Ausdruck ist ein gutes Ziel für eine Google-Suche.) Kürzlich (2007) schlugen Delaigle und Meister in einem JASA-Artikel einen nichtparametrischen Kernel-Dichteschätzer vor . Eine Zusammenfassung einiger parametrischer Methoden (Methode der Momente und MLE) schlägt einige zusätzliche Ansätze vor: sciencedirect.com/science/article/pii/S1572312709000045 . (Ich bin mit den Recherchen nicht vertraut genug, um eine

— verlässliche

@whuber +1 für beide Kommentare. Ich denke, "Errors-in-Variablen" war das fehlende Schlüsselwort, nach dem ich gesucht habe. Wenn im Folgenden niemand eine eindeutige Antwort gibt, die ich akzeptieren kann, schaue ich in der Literatur nach und schreibe zurück, was auch immer ich als Antwort tue.

— Makro

Antworten:

Der Artikel "Ein heteroskedastisches Modell für Strukturfehler in Variablen mit Gleichungsfehlern" kann auf der Seite des Autors heruntergeladen werden:

http://www.ime.usp.br/~patriota/curriculo-eng.html#Published_papers

Grundsätzlich müssen Sie die Variabilität beider Variablen berücksichtigen, um inkonsistente Schätzer, nicht zuverlässige Hypothesentests und Konfidenzintervalle zu vermeiden.

— Alexandre Patriota
quelle

Ein Weg, um damit umzugehen, wäre anzunehmen, dass jede Stadt eine Verteilung mit der gleichen Varianz für die einzelnen Antworten hat. Dann hätte die durchschnittliche Messung jeder Stadt für den Prädiktor eine Varianz , wobei $σ^2$ $X_i$ $σ^2/n_i$ die Anzahl von Personen im Durchschnitt für Stadt . Das wäre ein einfacher Weg, um mit der Heteroskedastizität umzugehen. Ich kenne keinen speziellen Namen für diese Form des Regressionsproblems. $n_i$ $i$

— Michael R. Chernick
quelle

Das erscheint vernünftig, obwohl ich gehofft hatte, den Messfehler überhaupt nicht modellieren zu müssen. Wenn ich in diese Richtung gehen würde, was würden Sie verwenden, um die Wirkung eines mit Fehler gemessenen Prädiktors abzuschätzen? Ich habe eine Methode namens SIMEX verwendet, aber dies scheint ungewöhnlich zu sein, und ich frage mich, ob es noch andere Optionen gibt.

— Makro

@Macro Ich kenne keine spezielle Software zur Modellierung von Regressionen mit einer zu schätzenden Varianzfunktion.

— Michael R. Chernick

Makro: Als Faustregel bei der homoskedastischen Fehler-in-Variablen-Regression gilt: Wenn die Fehler in den IVs im Vergleich zu den Fehlern in der DV gering sind, können Sie die erstere ignorieren und auf die normale Regression zurückgreifen. Auf diese Weise können Sie das Problem schnell und einfach beheben.

— Whuber

@whuber, danke - das ist nützlich. Wenn diese Faustregel Sinn macht, dann wäre es im heteroskedastischen Fall sinnvoll, "wenn die größte Fehlervarianz in den IVs im Vergleich zur Fehlervarianz in den DVs klein ist, können Sie das Problem sicher ignorieren" eine vernünftige Faustregel, die eine Bedingung ist, die in den Daten, die ich betrachte, tatsächlich erfüllt sein kann.

— Makro

@Michael, in den Daten, die ich betrachte, ist die Varianz der Messung, die gemittelt wird, nicht sehr groß. Ich müsste nachsehen, aber sagen wir mal

σ^{2} \approx 1

$\sigma^2 \approx 1$ Also ist die Varianz der Mittelwerte (wenn es vernünftig ist zu sagen, dass die Varianz über Einheiten hinweg konstant ist - eine andere Sache, die ich überprüfen müsste)

\approx 1 / n

$\approx 1/n$ , so reicht es zwischen

(.05, 1)

$(.05,1)$ für die Stichprobengrößen in meinem Datensatz. Die Fehlervarianz in

Y_{i}

$Y_i$ ist wahrscheinlich eine, vielleicht zwei Größenordnungen größer als diese (wieder muss ich prüfen).

— Makro