Den Konzentrationsparameter in einem Dirichlet-Prozess priorisieren

Das meiste davon ist Hintergrund. Fahren Sie bis zum Ende fort, wenn Sie bereits genug über Dirichlet-Prozessmischungen wissen . Angenommen, ich modelliere einige Daten als aus einer Mischung von Dirichlet-Prozessen stammend, dh lassen Sie und abhängig von annehmen$F \sim \mathcal D(\alpha H)$$F$

$$Y_i \stackrel {iid}{\sim} \int f(y | \theta) F(d\theta).$$

Hier ist und das vorherige Basismaß. Es stellt sich heraus, dass , wenn ich für jede Beobachtung das zugehörige latente , die Wahrscheinlichkeit von in diesem Modell wobei die Anzahl der unterschiedlichen Werte von (das Zufallsmaß ist fast sicher diskret). Escobar und West entwickeln das folgende Schema für die Abtastung von Verwendung eines Gamma-Prior; Zuerst schreiben sie$\alpha > 0$$\alpha H$$Y_i$$\theta_i$$\alpha$

$$L(\alpha | t) \propto \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)}$$ $t$$\theta_i$$F$$\alpha$ $$\pi(\alpha | t) \propto \pi(\alpha) \frac{\alpha^t\Gamma(\alpha)}{\Gamma(\alpha + n)} \propto \pi(\alpha)\alpha^{t - 1}(\alpha + n){B(\alpha + 1, n)} \\= \pi(\alpha)\alpha^{t - 1} (\alpha + n) \int_0^1 x^\alpha(1 - x)^{n - 1} \ dx,$$ wobei die Beta-Funktion ist. Beachten Sie dann, dass, wenn wir einen latenten Parameter einführen die Wahrscheinlichkeit die Form einer Mischung von Gamma-Verteilungen hat und verwenden Sie diese, um einen Gibbs-Sampler aufzuschreiben.$B(\cdot, \cdot)$$X \sim \mbox{Beta}(\alpha + 1, n )$

Nun meine Frage. Warum können wir nicht einfach schreiben und anstatt eine Mischung von Gammaverteilungen zu verwenden, verwenden Sie eine einzelne Gammaverteilung? Wenn wir einführen sollte ich dann nicht in der Lage sein, dasselbe zu tun, ohne die Mischung verwenden zu müssen?

$$L(\alpha | t) \propto \frac{\alpha^t \Gamma(\alpha)}{\Gamma(\alpha + n)} = \frac{\alpha^t \Gamma(n)\Gamma(\alpha)}{\Gamma(\alpha + n)\Gamma(n)} = \alpha^t B(\alpha, n) \Gamma(n) \\ \propto \alpha^t \int_0 ^ 1 x^{\alpha - 1} (1 - x)^{n - 1} \ dx,$$ $X \sim \mbox{Beta}(\alpha, n)$

Für weitere Details bearbeiten Weitere Details: Um einige Lücken zu schließen, lautet das Argument in Escobar und West, dass eine Gamma-Verteilung mit der Form und , bedeuten soll und so können wir vorstellen ein latentes so dassDie vollständigen Bedingungen sind eine -Verteilung für und eine Mischung aus a und a$\alpha$$a$$a / b$

$$\pi(\alpha | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha} \int_0 ^ 1 x^{\alpha} (1 - x)^{n - 1} \ dx$$ $X$ $$\pi(\alpha, x | t) \propto \alpha^{a + t - 2} (\alpha + n) e^{-b\alpha}x^{\alpha}(1 - x)^{n - 1}.$$ $\mbox{Beta}(\alpha + 1, n)$$X$$\mathcal G(a + t, b - \log(x))$$\mathcal G(a + t - 1, b - \log(x))$ für .$\alpha$

Mit dem gleichen Argument habe ich das gleiche Ergebnis erhalten, jedoch mit für und für . Das scheint mir einfacher zu sein; warum machen sie das nicht einfach?$\mbox{Beta}(\alpha, n)$$X$$\mathcal G(a + t, b - \log(x))$$\alpha$

Ich verstehe nicht, wie sich das, was Sie geschrieben haben, grundlegend von Escobar und West unterscheidet.

$$\begin{eqnarray*} \pi(\alpha|t) &\propto& \pi(\alpha)\pi(t|\alpha) = \pi(\alpha)L(\alpha|t) \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)}{\Gamma(\alpha+n)} \\ &\propto& \pi(\alpha)\alpha^t\frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha+n)} \\ &=& \pi(\alpha)\alpha^tB(\alpha,n) \\ &=& \pi(\alpha)\alpha^{t-1}(\alpha+n)B(\alpha+1,n) \end{eqnarray*}$$ wobei die vorletzte Zeile so ist, wie Sie sie haben, und die letzte Zeile so ist, wie E & W hat es und sie sind gleich, da n) \ end {eqnarray *} erinnert sich daran $$\begin{eqnarray*} \alpha B(\alpha,n) &=& \alpha \frac{\Gamma(\alpha)\Gamma(n)}{\Gamma(\alpha + n)} = \frac{(\alpha\Gamma(\alpha))\Gamma(n)(\alpha+n)}{(\Gamma(\alpha + n)(\alpha+n))} = (\alpha+n) \frac{\Gamma(\alpha + 1)\Gamma(n)}{\Gamma(\alpha + n + 1)} \\ &=& (\alpha+n)B(\alpha+1,n) \end{eqnarray*}$$ $\Gamma(z+1) = z\Gamma(z)$ .

Ich vermute, dass sie ihre Formulierung Ihrer vorgezogen haben, weil sie nur den Beta-Funktionsbegriff hat, nicht das Produkt einer Beta und eines Gammas, aber ich könnte mich irren. Ich habe das letzte Stück, das Sie geschrieben haben, nicht ganz befolgt. Könnten Sie Ihr Stichprobenschema genauer erläutern?