Ist es sinnvoll, die logistische Regression mit binärem Ergebnis und Prädiktor zu verwenden?

Ich habe eine binäre Ergebnisvariable {0,1} und eine Prädiktorvariable {0,1}. Ich bin der Meinung, dass es keinen Sinn macht, logistisch zu arbeiten, wenn ich nicht andere Variablen einbeziehe und die Odds Ratio berechne.

Würde die Berechnung der Wahrscheinlichkeit bei einem binären Prädiktor nicht ausreichen, um das Quotenverhältnis zu bestimmen?

In diesem Fall können Sie Ihre Daten zu wobei die Anzahl der Instanzen für und mit . Angenommen, es gibt insgesamt Beobachtungen. Sijx=iy=ji,j∈{0,1}

$$\begin{array}{c|cc} X \backslash Y & 0 & 1 \\ \hline 0 & S_{00} & S_{01} \\ 1 & S_{10} & S_{11} \end{array}$$ $S_{ij}$$x = i$$y =j$$i,j \in \{0,1\}$$n$

Wenn wir das Modell (wobei unsere Verknüpfungsfunktion ist), werden wir Es wird festgestellt, dass das Protokoll des Erfolgsanteils ist, wenn und das Protokoll des Erfolgsanteils ist, wenn . Mit anderen Worten, \ hat \ beta_0 = g \ left (\ frac {S_ {01}} {S_ {00} + S_ {01}} \ right) und \ hat \ beta_0 + \ hat \ beta_1 = g \ left ( \ frac {S_ {11}} {S_ {10} + S_ {11}} \ right). g β 0 x i = 0 β 0 + β 1 x i = 1 β 0 = g ( S $p_i = g^{-1}(x_i^T \beta) = g^{-1}(\beta_0 + \beta_1 1_{x_i = 1})$$g$$\hat \beta_0$$x_i = 0$$\hat \beta_0 + \hat \beta_1$$x_i = 1$ β 0+ β 1=g(S

$$\hat \beta_0 = g\left(\frac{S_{01}}{S_{00} + S_{01}}\right)$$ $$\hat \beta_0 + \hat \beta_1 = g\left(\frac{S_{11}}{S_{10} + S_{11}}\right).$$

Lassen Sie uns das überprüfen R.

n <- 54
set.seed(123)
x <- rbinom(n, 1, .4)
y <- rbinom(n, 1, .6)

tbl <- table(x=x,y=y)

mod <- glm(y ~ x, family=binomial())

# all the same at 0.5757576
binomial()$linkinv( mod$coef[1])
mean(y[x == 0])
tbl[1,2] / sum(tbl[1,])

# all the same at 0.5714286
binomial()$linkinv( mod$coef[1] + mod$coef[2])
mean(y[x == 1])
tbl[2,2] / sum(tbl[2,])

Die logistischen Regressionskoeffizienten sind also genau Transformationen von Proportionen, die aus der Tabelle stammen.

Das Fazit ist, dass wir diesen Datensatz sicherlich mit einer logistischen Regression analysieren können, wenn wir Daten aus einer Reihe von Bernoulli-Zufallsvariablen haben, aber es stellt sich heraus, dass dies nichts anderes ist, als die resultierende Kontingenztabelle direkt zu analysieren.

---

Ich möchte erläutern, warum dies aus theoretischer Sicht funktioniert. Wenn wir eine logistische Regression anpassen, verwenden wir das Modell . Wir entscheiden uns dann, den Mittelwert als Transformation eines linearen Prädiktors in oder in Symbolen zu modellieren . In unserem Fall haben wir nur zwei eindeutige Werte von , und daher gibt es nur zwei eindeutige Werte von , beispielsweise und . Aufgrund unserer Unabhängigkeitsannahme haben wir und $Y_i | x_i \stackrel{\perp}{\sim} \text{Bern}(p_i)$$x_i$$p_i = g^{-1}\left( \beta_0 + \beta_1 x_i\right)$$x_i$$p_i$$p_0$$p_1$

$$\sum \limits_{i : x_i = 0} Y_i = S_{01} \sim \text{Bin} \left(n_0, p_0\right)$$ $$\sum \limits_{i : x_i = 1} Y_i = S_{11} \sim \text{Bin} \left(n_1, p_1\right).$$ Beachten Sie, wie wir die Tatsache verwenden, dass und wiederum und nicht zufällig sind: Wenn dies nicht der Fall wäre, wären diese nicht unbedingt binomisch.$x_i$$n_0$$n_1$

Dies bedeutet, dass

$$S_{01} / n_0 = \frac{S_{01}}{S_{00} + S_{01}} \to_p p_0 \hspace{2mm} \text{ and } \hspace{2mm} S_{11} / n_1 = \frac{S_{11}}{S_{10} + S_{11}} \to_p p_1.$$

Die wichtigste Erkenntnis hier: Unsere Bernoulli-Wohnmobile sind während unsere binomialen Wohnmobile , aber beide die gleiche Erfolgswahrscheinlichkeit haben. Dies ist der Grund, warum diese Kontingenztabellenanteile dasselbe schätzen wie eine logistische Regression auf Beobachtungsebene. Es ist nicht nur ein Zufall mit der Tabelle, sondern eine direkte Folge der von uns getroffenen Verteilungsannahmen.$Y_i | x_i = j \sim \text{Bern}(p_j)$$S_{j1} \sim \text{Bin}(n_j, p_j)$

Wenn Sie mehr als einen Prädiktor haben und alle Prädiktoren Binärvariablen sind, können Sie ein Modell mithilfe der logischen Regression [1] anpassen (beachten Sie, dass es sich um "Logik" und nicht um "Logistik" handelt). Dies ist nützlich, wenn Sie glauben, dass Interaktionseffekte zwischen Ihren Prädiktoren eine herausragende Rolle spielen. Es gibt eine Implementierung in R ( LogicRegPaket).

[1] Ruczinski, I., Kooperberg, C. & LeBlanc, M. (2003). Logische Regression. Journal of Computational and Graphical Statistics, 12 (3), 475-511.