Woher kommt die Beta-Distribution?

Wie hier sicher jeder weiß, ist das PDF der Beta-Distribution $X \sim B(a,b)$ von

$f(x) = \frac{1}{B(a,b)}x^{a-1}(1-x)^{b-1}$

Ich habe überall nach einer Erklärung der Ursprünge dieser Formel gesucht, aber ich kann sie nicht finden. Jeder Artikel, den ich in der Beta-Distribution gefunden habe, scheint diese Formel zu geben, einige ihrer Formen zu veranschaulichen und dann direkt mit der Erörterung ihrer Momente fortzufahren.

Ich verwende keine mathematischen Formeln, die ich nicht ableiten und erklären kann. Für andere Distributionen (zB das Gamma oder das Binom) gibt es eine klare Ableitung, die ich lernen und verwenden kann. Aber ich kann so etwas für die Beta-Distribution nicht finden.

Meine Frage lautet also: Woher stammt diese Formel? Wie kann es aus ersten Prinzipien abgeleitet werden, in welchem ​​Kontext es ursprünglich entwickelt wurde?

[Zur Verdeutlichung frage ich nicht, wie die Beta-Verteilung in Bayes-Statistiken verwendet werden soll oder was dies in der Praxis intuitiv bedeutet (ich habe das Baseball-Beispiel gelesen). Ich möchte nur wissen, wie man das PDF ableitet. Es gab eine frühere Frage , die etwas Ähnliches fragte, die jedoch (wie ich falsch finde) als Duplikat einer anderen Frage markiert war , die sich nicht mit dem Problem befasste, sodass ich hier bisher keine Hilfe finden konnte.]

EDIT 2017-05-06: Vielen Dank an alle für die Fragen. Ich denke, eine gute Erklärung für das, was ich will, ergibt sich aus einer der Antworten, die ich auf die Frage einiger meiner Kursleiter erhielt:

"Ich denke, die Leute könnten die normale Dichte als Grenze einer Summe von n Dingen dividiert durch sqrt (n) ableiten, und Sie können die Poissondichte aus der Vorstellung von Ereignissen ableiten, die mit einer konstanten Rate auftreten Beta-Dichte, Sie müssten eine Vorstellung davon haben, was eine Beta-Verteilung unabhängig von und logischerweise vor der Dichte macht. "

Die "ab initio" -Idee in den Kommentaren kommt dem, wonach ich suche, wahrscheinlich am nächsten. Ich bin kein Mathematiker, aber ich fühle mich am wohlsten mit Mathematik, die ich ableiten kann. Wenn die Ursprünge zu weit fortgeschritten sind, um damit fertig zu werden, sollte es so sein, aber wenn nicht, würde ich sie gerne verstehen.

Als ehemaliger Physiker kann ich sehen, wie es hätte abgeleitet werden können. So gehen Physiker vor:

wenn sie auf ein endliches Integral einer positiven Funktion stoßen, wie z. B. Beta-Funktion : sie definieren instinktiv eine Dichte: f ( s | x , y ) = s x - 1 ( 1 - s ) y -

$$B(x,y) = \int_0^1t^{x-1}(1-t)^{y-1}\,dt$$ wobei0<s< $$f(s|x,y)=\frac{s^{x-1}(1-s)^{y-1}}{\int_0^1t^{x-1}(1-t)^{y-1}\,dt}=\frac{s^{x-1}(1-s)^{y-1}}{B(x,y)},$$ $0<s<1$

Sie tun dies die ganze Zeit so oft mit allen Arten von Integralen, dass es reflexartig geschieht, ohne überhaupt darüber nachzudenken. Sie nennen diese Prozedur "Normalisierung" oder ähnliche Namen. Beachten Sie, dass die Dichte per Definition trivialerweise alle Eigenschaften aufweist, die Sie möchten, z. B. immer positiv und summiert sich zu eins.

Die Dichte , die ich oben angegeben habe, ist von der Beta-Verteilung.$f(t)$

AKTUALISIEREN

@whuber fragt, was an der Beta-Distribution so besonders ist, während die obige Logik auf eine unendliche Anzahl geeigneter Integrale angewendet werden könnte (wie ich in meiner Antwort oben angemerkt habe).

Der besondere Teil stammt aus der Binomialverteilung . Ich schreibe das PDF mit einer ähnlichen Notation wie in meiner Beta, nicht der üblichen Notation für Parameter und Variablen:

$$f'(x,y|s) = \binom {y+x} x s^x(1-s)^{y}$$

Hier - Anzahl der Erfolge und Misserfolge und s - Erfolgswahrscheinlichkeit. Sie können sehen, dass dies dem Zähler in der Beta-Distribution sehr ähnlich ist. Wenn Sie nach der vorherigen Version für die Binomial-Distribution suchen, handelt es sich um die Beta-Distribution. Es ist auch nicht überraschend , da die Domäne der Beta von 0 bis 1 ist, und das ist , was Sie in Bayes - Theorem tun: Integration über die Parameter s , die die Wahrscheinlichkeit des Erfolgs in diesem Fall wie folgt: f ( x | X ) = f ' ( X | s ) f ( s $x,y$$s$$s$ hierf(s)- Wahrscheinlichkeit (Dichte) der Erfolgswahrscheinlichkeit bei den vorherigen Einstellungen der Beta-Verteilung undf'(X|s)- Dichte von dieser Datensatz (dh beobachtete Erfolge und Misserfolge) mit einer Wahrscheinlichkeits.

$$\hat f(x|X)=\frac{f'(X|s)f(s)}{\int_0^1 f'(X|s)f(s)ds},$$ $f(s)$$f'(X|s)$$s$

Thomas Bayes (1763) leitete die Beta-Verteilung [ohne diesen Namen zu verwenden] als erstes Beispiel für die posteriore Verteilung ab , und zwar vor Leonhard Eulers (1766) Arbeit an dem Beta-Integral, auf das Glen_b einige Jahre später hingewiesen hatte Euler (1729 oder 1738) [Opera Omnia, I14, 1 {24] zur Verallgemeinerung der Fakultätsfunktion weshalb die normalisierende Beta-Konstante B ( a , b ) auch als Euler-Funktion bezeichnet wird - . Davies$-$$B(a,b)$$-$erwähnt Wallis (1616-1703), Newton (1642-1726) und Stirling (1692-1770), die sich noch früher mit speziellen Fällen des Integrals befassen. Karl Pearson (1895) erste Familie von Verteilungen als katalogisiert Pearson Typ I .

Obwohl es nicht historisch hat in dieser Reihenfolge erscheinen, ein intuitiver Eintrag zur Verteilung Beta ist durch Fishers Verteilung, die die Verteilung eines Verhältnisses entspricht ρ = σ 2 1 / σ 2 $F(p,q)$

$$\varrho=\hat\sigma^2_1\big/\hat\sigma_2^2\qquad p\hat\sigma_1^2\sim\chi^2_p\quad q\hat\sigma_1^2\sim\chi^2_q$$ $$\frac{p\varrho}{q+p\varrho}\sim B(p/2,q/2)$$ $\omega\sim B(a,b)$ $$\dfrac{\omega/a}{(1-\omega)/b}\sim F(2a,2b)$$ $B(a,b)$$F(p,q)$ $$f_{p,q}(x) \propto \{px/q\}^{p/2-1}(1+px/q)^{-(p+q)/2}$$ $$y=\frac{\{px/q\}}{\{1+px/q\}}\quad y\in(0,1)$$ $$x=\frac{qy}{p(1-y)}$$ $$\frac{\text{d}x}{\text{d}y}=\frac{q}{p(1-y)}+\frac{qy}{p(1-y)^2}=\frac{p}{q(1-y)^2}$$ $$g(y)\propto y^{p/2-1}(1-y)^{q/2+1}(1-y)^{-2}=y^{p/2-1}(1-y)^{q/2+1}$$ [wobei alle Normalisierungskonstanten erhalten werden, indem für die Dichte die Integration auf eins festgelegt wird.

Erstens bin ich nicht in der Lage, Konzepte in meinem Kopf mathematisch genau zu beschreiben, aber ich werde mein Bestes geben, indem ich ein einfaches Beispiel anführe:

$\lambda$

$$\begin{eqnarray} \lambda=g(x)=\lambda_{max}-(q|x-x_0|)^\frac{1}{q},~q > 0,~0 \leq \lambda \leq \lambda_{max} \end{eqnarray}$$ $x_0$$q=1/2$

$x_0$$g(x)$$P(x_0) = C\cdot g(x)^{p-1})$$P(\lambda)d\lambda=P(x_0)dx_0$$\lambda$

$$\begin{eqnarray}P(\lambda) = P(g^{-1}(\lambda)) \biggl|\frac{dg^{-1}(\lambda)}{d\lambda}\biggl| = C' \cdot \lambda^{p-1} \cdot (\lambda_{max} - \lambda)^{q-1}\end{eqnarray}$$

$C'$ is the beta function. For the standard parametrization of the beta distribution we would set $\lambda_{max} = 1$.

In other words the beta distribution can be seen as the distribution of probabilities in the center of a jittered distribution.

I hope that this derivation gets somewhat close to what your instructor meant. Note that the functional forms of $g(x)$ and $P(x_0)$ are very flexible and reach from triangle like distributions and U-shaped distributions (see example below) to sharply peaked distributions.

FYI: I discovered this as a side effect in my doctoral work and reported about it in my thesis in the context of non-stationary neural tuning curves leading to zero-inflated spike count distributions (bimodal with a mode at zero). Applying the concept described above yielded the Beta-Poisson mixture distribution for the neural acticity. That distribution can be fit to data. The fitted parameters allow to estimate both, the distribution $g(x)$ as well as the jitter distribution $p(x_0)$ by applying the reverse logics. The Beta-Poisson mixture is a very interesting and flexible alternative to the widely used negative binomial distribution (which is a Gamma-Poisson mixture) to model overdispersion. Below you find an example the "Jitter $\rightarrow$ Beta" - idea in action:

A: Simulated 1D trial displacement, drawn from the jitter distribution in the inset ($P(jitter)\propto g(x)^{p-1}$). The trial-averaged firing field (solid black line) is broader and has a lower peak rate as compared to the underlying tuning curve without jitter (solid blue line, parameters used: $\lambda_{max} = 10, p = .6, q=.5$. B: The resulting distribution of $\lambda$ at $x_0$ across N=100 trials and the analytical pdf of the Beta distribution. C: Simulated spike count distribution from a Poisson process with parameters $\lambda_i$ where i denote the indices of the trials and the resulting Beta-Poisson distribution as derived as sketched above. D: Analogous situation in 2D with random shift angles leading to the identical statistics.