Berechnung der Grenzwahrscheinlichkeit aus MCMC-Proben

Dies ist eine wiederkehrende Frage (siehe diesen Beitrag , diesen Beitrag und diesen Beitrag ), aber ich habe einen anderen Dreh.

Angenommen, ich habe ein paar Samples von einem generischen MCMC-Sampler. Für jede Probe , weiß ich den Wert der Log - Likelihood und des log vor . Wenn es hilft, kenne ich auch den Wert der Log-Wahrscheinlichkeit pro Datenpunkt, (diese Information hilft bei bestimmten Methoden, wie WAIC und PSIS-LOO).$\theta$$\log f(\textbf{x} | \theta)$$\log f(\theta)$$\log f(x_i | \theta)$

Ich möchte eine (grobe) Schätzung der Grenzwahrscheinlichkeit erhalten, nur mit den Stichproben, die ich habe, und möglicherweise ein paar anderen Funktionsbewertungen (aber ohne ein Ad-hoc- MCMC erneut auszuführen ).

Lassen Sie uns zuerst den Tisch abräumen. Wir alle wissen, dass der harmonische Schätzer der schlechteste Schätzer aller Zeiten ist . Lass uns weitermachen. Wenn Sie Gibbs-Sampling mit Priors und Posteriors in geschlossener Form durchführen, können Sie die Chib-Methode verwenden . Ich bin mir jedoch nicht sicher, wie ich außerhalb dieser Fälle verallgemeinern soll. Es gibt auch Methoden, bei denen Sie das Probenahmeverfahren ändern müssen (z. B. über temperierte Seitenzähne ), aber das interessiert mich hier nicht.

Der Ansatz, an den ich denke, besteht darin, die zugrunde liegende Verteilung mit einer parametrischen (oder nichtparametrischen) Form ) zu approximieren und dann die Normalisierungskonstante als ein 1-D-Optimierungsproblem (dh das , das einen Fehler minimiert herauszufinden zwischen und , bewertet an den Abtastwerten). Nehmen wir im einfachsten Fall an, der posterior ist ungefähr multivariate Normalen, ich kann als multivariate Normalen anpassen und etwas Ähnliches wie eine Laplace-Näherung erhalten (ich möchte möglicherweise ein paar zusätzliche Funktionsauswertungen verwenden, um die Position von zu verfeinern der Modus). Ich könnte jedoch als$g(\theta)$$Z$$Z$$Z g(\theta)$$f(\textbf{x}|\theta) f(\theta)$$g(\theta)$$g(\theta)$eine flexiblere Familie wie eine Variationsmischung multivariater Verteilungen.$t$

Ich schätze, dass diese Methode nur funktioniert, wenn eine vernünftige Annäherung an , aber jeder Grund oder jede warnende Geschichte, warum dies sehr unklug wäre TU es? Eine Lektüre, die Sie empfehlen würden?$Z g(\theta)$$f(\textbf{x}|\theta) f(\theta)$

Der vollständig nichtparametrische Ansatz verwendet eine nichtparametrische Familie, wie einen Gaußschen Prozess (GP), um (oder eine andere nichtlineare Transformation davon, wie z als Quadratwurzel) und Bayes'sche Quadratur zur impliziten Integration über das zugrunde liegende Ziel (siehe hier und hier ). Dies scheint ein interessanter alternativer Ansatz zu sein, der jedoch sinngemäß analog ist (beachten Sie auch, dass Allgemeinmediziner in meinem Fall unhandlich wären).$\log f(\textbf{x}|\theta) + \log f(\theta)$

Die Erweiterung von Chib und Jeliazkov (2001) wird leider schnell kostspielig oder sehr variabel, was ein Grund dafür ist, dass sie außerhalb von Gibbs-Sampling-Fällen nicht häufig verwendet wird.

Während es viele Möglichkeiten und Ansätze für das Problem der Schätzung der Normalisierungskonstante (wie die recht unterschiedlichen Vorträge im Workshop zur Schätzung der Konstanten, den wir letzte Woche an der Universität von Warwick durchgeführt haben und die dort zur Verfügung stehen ), nutzen einige Lösungen die MCMC-Ausgabe direkt .$\mathfrak{Z}$

1. Wie Sie bereits erwähnt haben, ist der harmonische Mittelwertschätzer von Newton and Raftery (1994) fast immer schlecht für eine unendliche Varianz. Es gibt jedoch Möglichkeiten, den Fluch der unendlichen Varianz zu vermeiden, indem stattdessen ein endliches Unterstützungsziel in der harmonischen mittleren Identität durch Auswählen vonαals Indikator für eine HPD-Region für den posterioren Bereich. Dies stellt eine endliche Varianz sicher, indem die Schwänze im harmonischen Mittelwert entfernt werden. (Details finden Sie ineinem Artikel, den ich mit Darren Wraith geschrieben habe,und in einemKapitel über das Normalisieren von Konstanten,die mit Jean-Michel Marin geschrieben wurden.) Kurz gesagt, die Methode recycelt die MCMC-Ausgabeθ1,…,θMdurch Identifizieren desβ( 20% sagen) größte Werte des Zielsπ(θ)f(x|θ)und Erzeugen von

   $$\int \dfrac{\alpha(\theta)}{\pi(\theta)f(x|\theta)}\text{d}\pi(\theta|x)=\frac{1}{\mathfrak{Z}}$$ $\alpha$$\theta_1,\ldots,\theta_M$$\beta$$\pi(\theta)f(x|\theta)$$\alpha$$\theta^0_i$$\rho$$\mathfrak{Z}$ , wennddie Dimension istθ(Korrekturen gelten für schneidende Kugeln) und wennρfür die Kugeln nie schneiden klein genug ist (was bedeutetdass am besten nureinem Indikator für die Kugeln von Null verschieden). Die Erklärung für denαM2-Nenner ist, dass dies eine doppelte Summe vonβM2-Termen ist: $$\hat{\mathfrak{Z}}^{-1}=\underbrace{\frac{1}{\beta M^2}\sum_{m=1}^M}_{\text{double sum over}\\\beta M\text{ ball centres }\theta_i^0\\\text{and $M$ simulations } \theta_m} \underbrace{\mathbb{I}_{(0,\rho)}(\min_i||\theta_m-\theta^0_i||)\{\pi(\theta_m)f(x|\theta_m)\}^{-1}\big/\overbrace{\pi^{d/2}\rho^d\Gamma(d/2+1)^{-1}}^{\text{volume of ball with radius $\rho$}}}_{\dfrac{\beta M\alpha(\theta_m)}{\pi(\theta_m)f(x|\theta_m)}}$$ $d$$\theta$$\rho$$\alpha M^2$$\beta M^2$ mit jedem Term in& theta;mzu integrierendenZ-1. $$\frac{1}{\beta M}\sum_{i=1}^{\beta M} \underbrace{\frac{1}{M}\sum_{m=1}^M {\cal U}(\theta_i^0,\rho)(\theta_m)}_{\text{same as with $\min$}} \times \frac{1}{\pi(\theta_m)f(x|\theta_m)}$$ $\theta_m$${\mathfrak{Z}}^{-1}$

2. Ein anderer Ansatz besteht darin, die Normalisierungskonstante in einen Parameter umzuwandeln. Das klingt nach einer statistischen Ketzerei, aber die Arbeit von Guttmann und Hyvärinen (2012) hat mich vom Gegenteil überzeugt. Zu viel in die Details , ohne sich darin die nette Idee ist die beobachtete Log-Likelihood drehen n Σ i = 1 f ( x i | & thgr; ) - n log ∫ exp f ( x | & thgr; ) d x in einer gemeinsamen Log-Likelihood n ∑ i = 1 [ $\mathfrak{Z}$

   $$\sum_{i=1}^n f(x_i|\theta) - n \log \int \exp f(x|\theta) \text{d}x$$ was die logarithmische Wahrscheinlichkeit eines Poisson-Punkt-Prozesses mit der Intensitätsfunktion exp { f ( x | θ ) + ν + ist log n $$\sum_{i=1}^n[f(x_i|\theta)+\nu]-n\int\exp[f(x|\theta)+\nu]\text{d}x$$ $$\exp\{ f(x|\theta) + \nu +\log n\}$$ Dies ist insofern ein alternatives Modell, als die ursprüngliche Wahrscheinlichkeit nicht als Randerscheinung des oben Gesagten erscheint. Nur die Modi stimmen überein, wobei der bedingte Modus in ν die Normalisierungskonstante liefert. In der Praxis ist die obige Wahrscheinlichkeit des Poisson-Prozesses nicht verfügbar, und Guttmann und Hyvärinen (2012) bieten eine Annäherung mittels einer logistischen Regression an. Um Ihre Frage noch besser beantworten zu können, ist Geyers Schätzung ein MLE und damit eine Lösung für ein Maximierungsproblem.
3. $\pi(\theta|x)$$\pi(\theta|x)$$g(\theta)$$\pi(\theta|x)$$g(\theta)$). Wenn die Regressoren die Werte beider Dichten sind, normalisiert oder nicht. Dies steht in direktem Zusammenhang mit der Brückenentnahme nach Gelman und Meng (1997), bei der auch Proben von verschiedenen Targets recycelt werden. Und spätere Versionen, wie Mengs MLE.
4. Ein anderer Ansatz, der die Ausführung eines bestimmten MCMC-Samplers erzwingt, ist das verschachtelte Sampling von Skilling . Obwohl ich [und andere] einige Bedenken hinsichtlich der Effizienz der Methode habe, ist sie in der Astrostatistik und Kosmologie sehr beliebt, da Software wie Multinest verfügbar ist .
5. $H_0: \theta=\theta_0$$\xi$$\pi_1(\theta)\pi_2(\xi)$$H_0$ wobeiπθ(θ0|x)die marginale hintere Dichte von bezeichnet $$\mathfrak{B}_{01}(x)=\dfrac{\pi^\theta(\theta_0|x)}{\pi_1(\theta_0)}$$ $\pi^\theta(\theta_0|x)$$\theta$$\theta_0$$H_0: \theta=\theta_0$ $$m_0(x)=\int_\Xi f(x|\theta_0,\xi)\pi_2(\xi)\text{d}\xi$$ $$m_a(x)=\int_{\Theta\times\Xi} f(x|\theta,\xi)\pi_1(\theta)\pi_2(\xi)\text{d}\theta\text{d}\xi$$

[Hier ist eine Reihe von Folien, die ich über das Schätzen von Normalisierungskonstanten für einen NIPS-Workshop im vergangenen Dezember geschrieben habe.]