Benötigen Sie einen Algorithmus, um die relative Wahrscheinlichkeit zu berechnen, dass Daten aus der Normal- oder der Lognormalverteilung stammen

Angenommen, Sie haben eine Reihe von Werten, und Sie möchten wissen, ob es wahrscheinlicher ist, dass sie aus einer Gaußschen (Normal-) Verteilung oder aus einer logarithmischen Normalverteilung entnommen wurden.

Idealerweise wissen Sie etwas über die Grundgesamtheit oder über die Ursachen von experimentellen Fehlern und hätten daher zusätzliche Informationen, die für die Beantwortung der Frage hilfreich sind. Angenommen, wir haben nur eine Reihe von Zahlen und keine weiteren Informationen. Was ist wahrscheinlicher: Stichproben aus einem Gaußschen oder Stichproben aus einer logarithmischen Normalverteilung? Wie viel wahrscheinlicher? Was ich mir erhoffe, ist ein Algorithmus, mit dem ich zwischen den beiden Modellen wählen und hoffentlich die relative Wahrscheinlichkeit für jedes Modell quantifizieren kann.

Sie können den Verteilungstyp am besten schätzen, indem Sie jede (normale oder logarithmische) Verteilung nach maximaler Wahrscheinlichkeit an die Daten anpassen und dann die logarithmische Wahrscheinlichkeit unter jedem Modell vergleichen - das Modell mit der höchsten logarithmischen Wahrscheinlichkeit ist die beste Anpassung. Zum Beispiel in R:

# log likelihood of the data given the parameters (par) for 
# a normal or lognormal distribution
logl <- function(par, x, lognorm=F) {
    if(par[2]<0) { return(-Inf) }
    ifelse(lognorm,
    sum(dlnorm(x,par[1],par[2],log=T)),
    sum(dnorm(x,par[1],par[2],log=T))
    )
}

# estimate parameters of distribution of x by ML 
ml <- function(par, x, ...) {
    optim(par, logl, control=list(fnscale=-1), x=x, ...)
}

# best guess for distribution-type
# use mean,sd of x for starting parameters in ML fit of normal
# use mean,sd of log(x) for starting parameters in ML fit of lognormal
# return name of distribution type with highest log ML
best <- function(x) {
    logl_norm <- ml(c(mean(x), sd(x)), x)$value
        logl_lognorm <- ml(c(mean(log(x)), sd(log(x))), x, lognorm=T)$value
    c("Normal","Lognormal")[which.max(c(logl_norm, logl_lognorm))]
}

Generieren Sie nun Zahlen aus einer Normalverteilung und passen Sie eine Normalverteilung nach ML an:

set.seed(1)
x = rnorm(100, 10, 2)
ml(c(10,2), x)

Erzeugt:

$par
[1] 10.218083  1.787379

$value
[1] -199.9697
...

Vergleichen Sie die Log-Wahrscheinlichkeit für ML-Anpassungen von Normal- und Log-Normalverteilungen:

ml(c(10,2), x)$value # -199.9697
    ml(c(2,0.2), x, lognorm=T)$value # -203.1891
best(x) # Normal

Versuchen Sie es mit einer lognormalen Verteilung:

best(rlnorm(100, 2.6, 0.2)) # lognormal

Die Zuordnung ist abhängig von n, mean und sd nicht perfekt:

> table(replicate(1000, best(rnorm(500, 10, 2))))

Lognormal    Normal 
        6       994 
> table(replicate(1000, best(rlnorm(500, 2.6, 0.2))))

Lognormal    Normal 
      999         1 

$M \in \{ \text{Normal}, \text{Log-normal} \}$$X = \{ x_1, ..., x_N \}$

$$P(M \mid X) \propto P(X \mid M) P(M).$$

Der schwierige Teil ist, die marginale Wahrscheinlichkeit zu bekommen ,

$$P(X \mid M) = \int P(X \mid \theta, M) P(\theta \mid M) \, d\theta.$$

$p(\theta \mid M)$$X$$Y = \{ \log x_1, ..., \log x_N$$Y$$X$,

$$P(X \mid M = \text{Log-Normal}) = P(Y \mid M=\text{Normal}) \cdot \prod_i \left| \frac{1}{x_i} \right|.$$

$P(\theta \mid M)$$P(\sigma^2, \mu \mid M=\text{Normal})$$P(M)$

Beispiel:

$P(\mu, \sigma^2 \mid M = \text{Normal})$$m_0 = 0, v_0 = 20, a_0 = 1, b_0 = 100$

Nach Murphy (2007) (Gleichung 203) ist die marginale Wahrscheinlichkeit der Normalverteilung dann gegeben durch

$$P(X \mid M = \text{Normal}) = \frac{|v_N|^\frac{1}{2}}{|v_0|^\frac{1}{2}} \frac{b_0^{a_0}}{b_n^{a_N}} \frac{\Gamma(a_N)}{\Gamma(a_0)} \frac{1}{\pi^{N/2}2^N}$$

$a_N, b_N,$$v_N$$P(\mu, \sigma^2 \mid X, M = \text{Normal})$

$$\begin{align} v_N &= 1 / (v_0^{-1} + N), \\ m_N &= \left( v_0^{-1}m_0 + \sum_i x_i \right) / v_N, \\ a_N &= a_0 + \frac{N}{2}, \\ b_N &= b_0 + \frac{1}{2} \left( v_0^{-1}m_0^2 - v_N^{-1}m_N^2 + \sum_i x_i^2 \right). \end{align}$$

Ich verwende die gleichen Hyperparameter für die Log-Normalverteilung,

$$P(X \mid M = \text{Log-normal}) = P(\{\log x_1, ..., \log x_N \} \mid M = \text{Normal}) \cdot \prod_i \left|\frac{1}{x_i}\right|.$$

$0.1$$P(M = \text{Log-normal}) = 0.1$

der posterior verhält sich so:

$N$

Bei der Implementierung der Gleichungen wäre es eine gute Idee, mit logarithmischen Dichten anstelle von Dichten zu arbeiten. Aber sonst sollte es ziemlich einfach sein. Hier ist der Code, mit dem ich die Zeichnungen erstellt habe:

https://gist.github.com/lucastheis/6094631

Es hört sich so an, als ob Sie nach etwas sehr Pragmatischem suchen, um Analysten zu helfen, die wahrscheinlich keine professionellen Statistiker sind, und etwas benötigen, das sie zu Standarderkundungstechniken wie dem Betrachten von qq-Diagrammen, Dichtediagrammen usw. auffordert.

Führen Sie in diesem Fall einfach einen Normalitätstest (Shapiro-Wilk oder was auch immer) für die Originaldaten und einen für die logarithmisch transformierten Daten durch. Wenn der zweite p-Wert höher ist, aktivieren Sie ein Flag, damit der Analyst die Verwendung einer logarithmischen Transformation in Betracht zieht ? Als Bonus können Sie eine 2 x 2-Grafik des Dichteliniendiagramms und des qqnorm-Diagramms der Rohdaten und der transformierten Daten ausspucken.

Dies wird Ihre Frage nach der relativen Wahrscheinlichkeit technisch nicht beantworten, aber ich frage mich, ob es alles ist, was Sie brauchen.