Vorhersageintervalle für das Ergebnis einer logistischen Regression mit binomialer Antwort

Angenommen, wir haben ein logistisches Regressionsmodell:

\begin{aligned} P (y = 1 | x) & = p \\ \log (\frac{p}{1 - p}) & = β x \end{aligned}

$\begin{align} P(y=1\vert\mathbf{x}) &= p \\ \log\left(\frac{p}{1-p}\right) &= \boldsymbol{\beta}\mathbf{x} \end{align}$

Bei einer Zufallsstichprobe $D=\{\mathbf{X},\mathbf{y}\}$ der Größe $N$ können wir Konfidenzintervalle für das $\boldsymbol{\beta}$ und entsprechend Vorhersageintervalle für $p$ bei einem bestimmten Wert berechnen $\mathbf{x}^*$ des Prädiktorvektors. Dies ist zum Beispiel hier alles sehr Standard und detailliert .

Angenommen, ich interessiere mich stattdessen für ein Vorhersageintervall für $y$ bei $\mathbf{x}^*$ . Natürlich macht es keinen Sinn , überhaupt eine Vorhersage zu berechnen Intervall für eine einzelne Realisierung von $y$ , weil $y$ nur die Werte 0 und 1, und keinen Wert dazwischen nehmen. Jedoch , wenn man bedenkt , $m$ Realisierungen von $y$ für den gleichen festen Wert von $\mathbf{x}^*$ , dann wird dies ähnlich (aber nicht identisch) auf die Frage für eine binomische Zufallsvariable einen Prädiktionsintervall Berechnung . Dies ist im Grunde die gleiche Situation, die Glen_b in den Kommentaren zu dieser Antwort beschrieben hat. Hat diese Frage eine Antwort, abgesehen von der trivialen Frage "Nichtparametrischen Bootstrap verwenden"?

logistic binomial prediction-interval

— DeltaIV
quelle

Können Sie stattdessen vielleicht ein Vorhersageintervall für

berechnen

l o g (p / (1 - p))

$log(p / (1-p))$ ?

— Hugh Perkins

@ HughPerkins Ich denke, dass es darum geht, die Unsicherheit in p mit der Unsicherheit in der Binomial-Stichprobe zu kombinieren, auch angesichts der Unsicherheit in p . Gibt es eine geschlossene Lösung?

— EdM

@EdM du hast meinen Standpunkt verstanden. Ich frage mich, ob es eine geschlossene Lösung oder eine analytische Annäherung gibt.

— DeltaIV

[offtopic] zufällige Idee, es fällt mir ein, dass es interessant sein könnte, ein Tag wie "Open-Research-Gelegenheit" für Fragen wie diese zu haben, die / wenn sie negativ beantwortet werden

— Hugh Perkins

Eine Möglichkeit, wie dies ohne Bootstrapping funktionieren sollte (was in der Praxis die schnellste Implementierung sein kann), wäre:

Angenommen, eine normale Näherung für die vorhergesagten Log-Quoten ( ) plus / minus des Standardfehlers funktioniert. Jede logistische Regressionssoftware bietet dies. $x \hat{\beta}$
Die Perzentile dieser Verteilung wandeln sich über das Anti-Logit in Wahrscheinlichkeiten um.
Man kann eine (Mischung aus) Beta-Verteilung (en) finden, die sich der Vorhersageverteilung für die Wahrscheinlichkeitsbohrung annähert.
Die prädiktive Verteilung für das Ergebnis ist dann eine (Mischung aus) Beta-Binomialverteilung (en mit den gleichen Mischgewichten wie in Schritt 3 verwendet).

Alternativ kann man die Log-Quoten "nur" aus der gemeinsamen Vorhersage von Ergebnis und Log-Odds integrieren, aber ich glaube, dass dies ein komplettes Durcheinander ohne geschlossene Lösung sein wird.

— Björn
quelle

Sie können auch einfach direkt aus dem asymptotischen multivariaten Normal für simulieren und dann eine Mischung von Binomen über diesen Werten bilden.

β - \hat{β}

$\beta-\hat{\beta}$

— Glen_b -State Monica

Ich mag die Gesamtidee, bin mir aber bei den Details nicht sicher. Beispiel: "Finden Sie eine (Mischung aus) Beta-Verteilung (en), die sich der Vorhersageverteilung für die Wahrscheinlichkeit gut annähert". Wie geht das in der Praxis? Könnten Sie ein Beispiel hinzufügen? Sogar eine niedrigdimensionale würde ausreichen.

— DeltaIV

Ich kann dies als etwas in Form einer Antwort aufschreiben, wenn Sie es vorziehen - es macht mir auch nichts aus.

— Glen_b -State Monica

@Glen_b Das würde ich wirklich schätzen.

— DeltaIV

@Glen_b, ich würde mich für diese Antwort interessieren.

— Richard Hardy