Wie gehe ich mit Infs in einer statistischen Funktion richtig um?

8

Angenommen, ich habe eine Funktion wie:

f <- function(x){
  exp(x) / (1 + exp(x))
}

Es soll für jeden realen Wert von x funktionieren, aber tatsächlich gibt es NaN zurück, wenn x 710 oder größer ist. Ich frage mich, wie ich dieses Problem richtig behandeln kann. Mir ist klar, dass es einfach ist, nur 1 zurückzugeben, aber aus der Sicht eines Statistikers ist es vielleicht kein gutes Verhalten. Hat jemand Kommentare oder Vorschläge?

r function numerics

— David Z.
quelle

Ich weiß nicht, ob ich modellbasierten Parameterschätzungen mit so hohen Einflusswerten in der Funktion vertrauen kann. Sie können erwarten, dass Ihre Standard-Newton-Raphson-Algorithmen unsinnige Parameterschätzungen mit solchen Werten von

als linearem Prädiktor in logistischen Regressionsmodellen liefern . Quotenverhältnisse können als unendlich bewertet werden. Darüber hinaus glaube ich, dass Sie den Score-Test invertieren können, um ein gültiges Konfidenzintervall für das Odds Ratio zu erhalten.

x

$x$

— AdamO

e x p (x) / (1 + e x p (x))

$exp(x)/(1+exp(x))$

x

$x$

1 - e x p (- x)

$1-exp(-x)$

11

In diesem Fall wird die NaN(keine Zahl) zurückgegeben, da die Berechnung der exponentiellen Überläufe in Arithmetik mit doppelter Genauigkeit erfolgt.

$0$

\frac{\exp (x)}{1 + \exp (x)} = \frac{1}{1 + \exp (- x)} = 1 - \exp (- x) + \exp (- 2 x) - \dots .

$\frac{\exp(x)}{1+\exp(x)} = \frac{1}{1+\exp(-x)} = 1 - \exp(-x) + \exp(-2x) - \cdots.$

$x \gt 710$ $\exp(-710) \approx 10^{-308} \approx 2^{-1024}$ $1$

Interessanterweise Rwird kein erzeugt, NaNwenn das Exponential unterläuft . Sie können also einfach die zuverlässigere Version der Berechnung auswählen, abhängig vom Vorzeichen von x, wie in

f <- function(x) ifelse(x < 0, exp(x) / (1 + exp(x)), 1 / (1 + exp(-x)))

Dieses Problem tritt auf fast allen Computerplattformen auf (ich habe noch keine Ausnahme gesehen) und sie unterscheiden sich darin, wie sie mit Über- und Unterläufen umgehen. Exponentiale sind dafür berüchtigt, solche Probleme zu verursachen, aber sie sind nicht allein. Daher reicht es nicht aus, nur eine Lösung zu finden R: Eine gute Statistikerin versteht die Prinzipien der Computerarithmetik und weiß, wie sie diese verwenden kann, um die Eigenheiten ihrer Computerumgebung zu erkennen und zu umgehen.

— whuber
quelle

1

x < - 36

$x \lt -36$

1 + \exp (x)

$1 + \exp(x)$

1

$1$

x > 36

$x \gt 36$

1 + \exp (x)

$1+\exp(x)$

\exp (x)

$\exp(x)$

1

$1$

| x | > 710

$|x|\gt 710$

— whuber

1

Andere haben die Rechenprobleme bereits besprochen, deshalb überlasse ich das ihnen. Da ich davon ausgehe, dass Sie mit R arbeiten, dachte ich, ich möchte darauf hinweisen, dass das Boot-Paket über eine eigene inverse Logit-Funktion verfügt, die Sie verwenden können und die ziemlich rechenstabil ist:

require(boot) inv.logit(710)

scheint wie gewünscht auf 1 zu bewerten.

— Samuel Benidt
quelle

1

Wenn Sie die Einführung einer Paketabhängigkeit vermeiden möchten, plogis(710)erzielen Sie das gleiche Ergebnis. (In der Tat inv.logitist nur ein Alias für plogis.)

— Orizon