Multinomiale logistische Regression vs. binäre logistische 1-gegen-Rest-Regression

Nehmen wir an, wir haben eine abhängige Variable mit wenigen Kategorien und einer Menge unabhängiger Variablen. $Y$

Was sind die Vorteile einer multinomialen logistischen Regression gegenüber einer Reihe von binären logistischen Regressionen (dh einem Ein-gegen-Rest-Schema )? Mit binärer logistischer Regression meine ich, dass wir für jede Kategorie ein separates binäres logistisches Regressionsmodell mit target = 1 erstellen, wenn und andernfalls 0.$y_{i} \in Y$$Y=y_{i}$

Wenn mehr als zwei Kategorien hat, ist Ihre Frage nach dem "Vorteil" einer Regression gegenüber der anderen wahrscheinlich bedeutungslos, wenn Sie die Parameter der Modelle vergleichen möchten , da sich die Modelle grundlegend unterscheiden:$Y$

$\bf log \frac{P(i)}{P(not~i)}=logit_i=linear~combination$ für jede binäre logistische Regression, und$i$

$\bf log \frac{P(i)}{P(r)}=logit_i=linear~combination$ für jede Kategorie in mehrfacher logistischer Regression, wobei die ausgewählte Referenzkategorie ist ( ).$i$$r$$i \ne r$

Allerdings, wenn Ihr Ziel ist nur Wahrscheinlichkeit vorherzusagen jede Kategorie entweder Ansatz ist gerechtfertigt, wenn auch sie unterschiedliche Wahrscheinlichkeitsschätzungen geben können. Die Formel zum Schätzen einer Wahrscheinlichkeit ist generisch:$i$

$\bf P'(i)= \frac{exp(logit_i)}{exp(logit_i)+exp(logit_j)+\dots+exp(logit_r)}$ , wobei alle Kategorien sind, und wenn als Referenz gewählt wurde, ist . Für die binäre Logistik die gleiche Formel also . Multinomiale Logistik beruht auf der (nicht immer realistischen) Annahme der Unabhängigkeit von irrelevanten Alternativen, während dies bei einer Reihe von binären logistischen Vorhersagen nicht der Fall ist.$i,j,\dots,r$$r$$\bf exp(logit)=1$$\bf P'(i)= \frac{exp(logit_i)}{exp(logit_i)+1}$

Ein eigenes Thema ist , was technische Unterschiede zwischen multinomial und binären logistischen Regressionen in Fall sind , wenn ist dichotomous . Wird es Unterschiede bei den Ergebnissen geben? Meistens sind die Ergebnisse ohne Kovariaten gleich, es gibt jedoch Unterschiede in den Algorithmen und in den Ausgabeoptionen. Lassen Sie mich nur die SPSS-Hilfe zu diesem Problem in SPSS zitieren:$Y$

Binäre logistische Regressionsmodelle können entweder mit dem Verfahren der logistischen Regression oder mit dem Verfahren der multinomialen logistischen Regression angepasst werden. Jede Prozedur verfügt über Optionen, die in der anderen nicht verfügbar sind. Eine wichtige theoretische Unterscheidung besteht darin, dass das Verfahren der logistischen Regression alle Vorhersagen, Residuen, Einflussstatistiken und Anpassungstests unter Verwendung von Daten auf Einzelfallebene erstellt, unabhängig davon, wie die Daten eingegeben werden und ob die Anzahl der Kovariatenmuster vorliegt oder nicht ist kleiner als die Gesamtzahl der Fälle, während das multinomiale logistische Regressionsverfahren Fälle intern aggregiert, um Subpopulationen mit identischen Kovariatenmustern für die Prädiktoren zu bilden, wobei auf Basis dieser Subpopulationen Vorhersagen, Residuen und Anpassungstests erstellt werden.

Die logistische Regression bietet die folgenden einzigartigen Funktionen:

• Hosmer-Lemeshow-Test auf Passgenauigkeit für das Modell

• Schrittweise Analysen

• Kontraste zur Definition der Modellparametrisierung

• Alternative Schnittpunkte für die Klassifizierung

• Klassifizierungsdiagramme

• Modell auf einem Koffersatz auf einem ausgestreckten Koffersatz montiert

• Speichert Vorhersagen, Residuen und Einflussstatistiken

Multinomial Logistic Regression bietet die folgenden einzigartigen Funktionen:

• Pearson- und Abweichungs-Chi-Quadrat-Tests für die Passgenauigkeit des Modells

• Angabe von Teilpopulationen zur Gruppierung von Daten für Anpassungstests

• Auflistung von Zählungen, vorhergesagten Zählungen und Residuen nach Teilpopulationen

• Korrektur von Varianzschätzungen für Überstreuung

• Kovarianzmatrix der Parameterschätzungen

• Tests linearer Parameterkombinationen

• Explizite Angabe verschachtelter Modelle

• Passen Sie 1-1 übereinstimmende Modelle für bedingte logistische Regression unter Verwendung differenzierter Variablen an

Aufgrund des Titels gehe ich davon aus, dass "Vorteile der multiplen logistischen Regression" "multinomiale Regression" bedeuten. Es gibt oft Vorteile, wenn das Modell gleichzeitig angepasst wird. Diese besondere Situation wird in Agresti (Categorical Data Analysis, 2002) S. 273 beschrieben. In Summe (Agresti paraphrasieren) erwarten Sie, dass sich die Schätzungen von einem gemeinsamen Modell von einem geschichteten Modell unterscheiden. Die einzelnen Logistikmodelle weisen tendenziell größere Standardfehler auf, obwohl dies möglicherweise nicht so schlimm ist, wenn das häufigste Ergebnisniveau als Referenzniveau festgelegt wird.