Wann ist MCMC nützlich?

Ich habe Probleme zu verstehen, in welcher Situation der MCMC-Ansatz tatsächlich nützlich ist. Ich gehe ein Spielzeugbeispiel aus dem Kruschke-Buch "Bayesianische Datenanalyse: Ein Tutorial mit R und BUGS" durch.

Was ich bisher verstanden habe, ist, dass wir eine Zielverteilung benötigen, die proportional zu , um eine Stichprobe von . Es scheint mir jedoch, dass wir, sobald wir haben, nur die Verteilung normalisieren müssen, um den posterioren zu erhalten, und der Normalisierungsfaktor könnte leicht numerisch gefunden werden. Was sind die Fälle, in denen dies nicht möglich ist? $p(D|\theta)p(\theta)$ $P(\theta|D)$ $p(D|\theta)p(\theta)$

mcmc

— Vaaal
quelle

Angenommen, ist kein Skalar, sondern ein Vektor mit 10.000 Dimensionen.

θ

$\theta$

θ

$\boldsymbol\theta$

— Jan Galkowski

Meine Antwort war etwas knapp. Um die Konstante zu erhalten, muss berechnet werden . Selbst im skalaren Fall wird angenommen, dass wirklich wackelig ist, so dass die Integration selbst numerisch schwierig ist. Dann möchten Sie vielleicht MCMC verwenden.

\int_{- \infty}^{\infty} p (D | θ) p (θ)

$\int_{-\infty}^{\infty} p(D|\theta)p(\theta)$

p (D | θ)

$p(D|\theta)$

— Jan Galkowski

Ein Wort der Vorsicht von Alan Sokal: "Monte Carlo ist eine extrem schlechte Methode; es sollte nur angewendet werden, wenn alle alternativen Methoden am schlechtesten sind." Dann geht er auf eine lange Diskussion der MC-Methoden ein. stat.unc.edu/faculty/cji/Sokal.pdf

— Yair Daon

@Yair: Es hört sich für mich so an, als würde Sokal Churchill kanalisieren.

— Kardinal

Wenn nichts anderes mehr geht ...

— kjetil b halvorsen

Antworten:

Die Monte-Carlo-Integration ist eine Form der numerischen Integration, die viel effizienter sein kann als z. B. die numerische Integration, indem der Integrand mit Polynomen approximiert wird. Dies gilt insbesondere für große Dimensionen, in denen einfache numerische Integrationstechniken eine große Anzahl von Funktionsbewertungen erfordern. Um die Normalisierungskonstante zu berechnen , könnten wir Wichtigkeitsabtastung verwenden , $p(D)$

p (D) = \int \frac{q (θ)}{q (θ)} p (θ) p (D ∣ θ) d θ \approx \frac{1}{N} \sum_{n} w_{n} p (θ_{n}) p (D ∣ θ_{n}),

$p(D) = \int \frac{q(\theta)}{q(\theta)} p(\theta)p(D \mid \theta) \, d\theta \approx \frac{1}{N} \sum_n w_n p(\theta_n)p(D \mid \theta_n),$

wobei und aus abgetastet werden . Beachten Sie, dass wir die gemeinsame Verteilung nur an den Stichprobenpunkten bewerten müssen. Für das richtige kann dieser Schätzer sehr effizient sein, da nur sehr wenige Abtastwerte erforderlich sind. In der Praxis kann die Auswahl eines geeigneten schwierig sein, aber hier kann MCMC Abhilfe schaffen! Die getemperte Wichtigkeitsprobe (Neal, 1998) kombiniert MCMC mit der Wichtigkeitsprobe. $w_n = 1/q(\theta_n)$ $\theta_n$ $q$ $q$ $q$

Ein weiterer Grund, warum MCMC nützlich ist, ist folgender: Wir interessieren uns normalerweise nicht einmal so sehr für die posteriore Dichte von , sondern für zusammenfassende Statistiken und Erwartungen , z. $\theta$

\int p (θ ∣ D) f (θ) d θ .

$\int p(\theta \mid D) f(\theta) \, d\theta.$

Zu wissen im Allgemeinen nicht verstehen wir dieses Integral lösen können, aber Proben sind eine sehr bequeme Art und Weise zu schätzen. $p(D)$

Schließlich ist es für einige MCMC-Methoden, aber nicht für alle von ihnen (z. B. Murray et al., 2006 ) , in der Lage zu sein, zu bewerten . $p(D \mid \theta)p(\theta)$

— Lucas
quelle

Sorry, aber das ist mir immer noch nicht klar. Meine Frage ist: Wenn wir nur multiplizieren, erhalten wir ein nicht normalisiertes PDF. Durch Ausführen von MCMC erhalten wir ein Beispiel, für das wir das nicht normalisierte PDF abschätzen können. Wenn wir wollen, können wir beides normalisieren. Angenommen, ich interessiere mich NICHT für eine zusammenfassende Statistik, sondern nur für die Nachwelt. Warum setzen wir MCMC überhaupt ein? Wie Sie sagten, erfordern einige MCMC-Methoden nicht die Berechnung von , daher beziehe ich mich nicht auf diese. Soweit ich weiß, müssen die meisten von ihnen berechnet werden. Was ist der Nutzen dieser Methoden?

p (D | θ) p (θ)

$p(D|\theta)p(\theta)$

p (D | θ) p (θ)

$p(D|\theta)p(\theta)$

— Vaaal,

Wenn Sie MCMC ausführen, erhalten Sie ein Beispiel aus dem normalisierten PDF. Vermeiden Sie daher die Berechnung der Normalisierungskonstante. Und das ist kostenlos.

— Xi'an,

@ Vaaal: Ihre Annahme, dass "der Normalisierungsfaktor leicht numerisch zu finden ist" gilt nur für einfache univariate Verteilungen. Für hochdimensionales ; ist das Normalisieren von im Allgemeinen äußerst schwierig. In diesem Fall kann MCMC weiterhin zum Schätzen der Normalisierungskonstante verwendet werden (z. B. über eine getemperte Wichtigkeitsprobe).

θ

$\theta$

p (D ∣ θ) p (θ)

$p(D \mid \theta) p(\theta)$

— Lucas

Wenn Sie ein vorheriges und eine Wahrscheinlichkeit erhalten $p(\theta)$ $f(x|\theta)$ , die entweder nicht in geschlossener Form berechenbar sind oder so, dass die hintere Verteilung ist kein Standardtyp, eine direkte Simulation dieses Ziels in Richtung einer Monte-Carlo-Approximation der posterioren Verteilung ist nicht möglich. Ein typisches Beispiel sind hierarchische Modelle mit nicht konjugierten Prioren, wie sie im BUGS-Buch zu finden sind .

p (θ | x) \propto p (θ) f (x | θ)

$p(\theta|x)\propto p(\theta)f(x|\theta)$

Indirekte Simulationsmethoden wie Akzeptanz-Zurückweisungs-, Verhältnis-Gleichförmigkeits- oder Wichtigkeitsabtastungstechniken stoßen üblicherweise auf numerische und Präzisionsschwierigkeiten, wenn die Dimension des Parameters über einige Einheiten hinaus zunimmt. $\theta$

Im Gegensatz dazu sind Monte-Carlo-Methoden der Markov-Kette für große Dimensionen besser geeignet, da sie die posteriore Verteilung auf lokaler Basis, dh in der Nähe des aktuellen Werts, und auf einer kleineren Anzahl von Komponenten, dh auf Teilräumen, untersuchen können. Zum Beispiel die validiert Gibbs-Sampler die Vorstellung, dass die Simulation von einem eindimensionalen Ziel zu einem Zeitpunkt, nämlich die vollständigen bedingten Verteilungen, die mit assoziiert sind , ausreicht, um auf lange Sicht eine Simulation vom wahren hinteren zu erreichen. $p(\theta|x)$

Markov - Kette Monte Carlo - Methoden auch ein gewisses Maß an Universalität in diesen Algorithmen wie der Metropolis-Hastings-Algorithmus formal für jede posteriore Verteilung verfügbar sind, die bis zu einer Konstanten berechnet werden kann. $p(\theta|x)$

In Fällen, in denen nicht einfach berechnet werden kann, gibt es Alternativen, indem diese Verteilung in eine überschaubare Verteilung über einen größeren Raum vervollständigt wird, wie in $p(\theta)f(x|\theta)$

p (θ) f (x | θ) \propto \int g (z | θ, x) p (θ) f (x | θ) d z

$p(\theta)f(x|\theta)\propto \int g(z|\theta,x) p(\theta)f(x|\theta)\text{d}z$ oder durch nicht-markovsche Methoden wie ABC .

MCMC-Methoden haben die Reichweite der Bayes'schen Methoden erheblich erweitert, wie der Aufschwung nach der Popularisierung der Methode durch Alan Gelfand und Adrian Smith im Jahr 1990 zeigt.

— Xi'an
quelle

Der Link zu THE BUGS BOOK funktioniert nicht mehr.

— HelloWorld