Logistische Regression für Daten aus Poisson-Verteilungen

Aus einigen Notizen zum maschinellen Lernen, die über diskriminierende Klassifizierungsmethoden sprechen, insbesondere die logistische Regression, wobei y die Klassenbezeichnung (0 oder 1) und x die Daten sind, heißt es:

Wenn und , ist logistisch. $x|y = 0 \sim \mathrm{Poisson}(λ_0)$ $x|y = 1 \sim \mathrm{Poisson}(λ_1)$ $p(y|x)$

Warum ist das wahr?

logistic poisson-distribution statistical-learning

— Sambajetson
quelle

$Y$ hat zwei mögliche Werte für jeden gegebenen Wert von . Nach den Annahmen, $X$

Pr (X. = x | Y. = 0) = \exp (- - λ_{0}) \frac{λ_{0}^{x}}{x!}

$\Pr(X=x|Y=0) = \exp(-\lambda_0) \frac{\lambda_0^x}{x!}$

und

Pr (X. = x | Y. = 1) = \exp (- - λ_{1}) \frac{λ_{1}^{x}}{x!} .

$\Pr(X=x|Y=1) = \exp(-\lambda_1) \frac{\lambda_1^x}{x!}.$

Daher (dies ist ein trivialer Fall des Bayes-Theorems) ist die Chance, dass von abhängig ist $Y=1$ $X=x$ ist, die relative Wahrscheinlichkeit des letzteren, nämlich

Pr (Y. = 1 | X. = x) = \frac{\exp (- - λ_{1}) \frac{λ_{1}^{x}}{x!}}{\exp (- - λ_{1}) \frac{λ_{1}^{x}}{x!} + \exp (- - λ_{0}) \frac{λ_{0}^{x}}{x!}} = \frac{1}{1 + \exp (β_{0} + β_{1} x)}

$\Pr(Y=1|X=x) = \frac{\exp(-\lambda_1) \frac{\lambda_1^x}{x!}}{\exp(-\lambda_1) \frac{\lambda_1^x}{x!} + \exp(-\lambda_0) \frac{\lambda_0^x}{x!}}= \frac{1}{1 + \exp(\beta_0 + \beta_1 x)}$

β_{0} = λ_{1} - - λ_{0}

$\beta_0 = \lambda_1 - \lambda_0$

und

β_{1} = - - Log (λ_{1} /. λ_{0}) .

$\beta_1 = -\log(\lambda_1/\lambda_0).$

Dies ist in der Tat das standardmäßige logistische Regressionsmodell.

— whuber
quelle