Angebotsverteilung - Metropolis Hastings MCMC

In der Metropolis-Hastings-Markov-Kette Monte Carlo kann die Angebotsverteilung alles sein, einschließlich des Gaußschen (laut Wikipedia).

F: Was ist die Motivation, etwas anderes als Gaußsch zu verwenden? Gauß funktioniert, es ist leicht zu bewerten, es ist schnell und jeder versteht es. Warum sollte ich etwas anderes in Betracht ziehen?

F: Kann ich eine einheitliche Verteilung verwenden, da die Angebotsverteilung beliebig sein kann?

— Hallo Welt
quelle

A1: In der Tat ist die Gaußsche Verteilung wahrscheinlich die am häufigsten verwendete Angebotsverteilung, hauptsächlich aufgrund der Benutzerfreundlichkeit. Möglicherweise möchten Sie jedoch aus dem folgenden Grund andere Angebotsverteilungen verwenden

Schwere Schwänze : Die Gaußsche Verteilung hat leichte Schwänze. Dies bedeutet, dass möglicherweise nur Werte zwischen vorschlägt . Eine Verteilung hat jedoch schwerere Schwänze und kann daher Werte vorschlagen, die weiter entfernt sind. Dies stellt sicher, dass die resultierende Markov-Kette den Zustandsraum freier erkundet und möglicherweise die Autokorrelation verringert. Das Diagramm unten zeigt das $N(x_{t-1}, \sigma^2)$ $(x_{t-1} - 3\sigma, x_{t-1} + 3\sigma)$ $t$ verglichen mit . Sie sehen, wie das wahrscheinlich mehr Werte von 0 vorschlägt. $N(0,1)$ $t_1$ $t$

Eingeschränkter Raum : Die Gaußsche Verteilung ist für alle Realwerte definiert. Wenn die Verteilung, aus der Sie eine Stichprobe erstellen, beispielsweise nur für die Positiven oder für $(0,1)$ $(0,1)$
Mehrere Modi : Wenn die Zielverteilung multimodal ist, führt ein Gaußscher Vorschlag wahrscheinlich dazu, dass die Markov-Kette in der Nähe eines Modus hängen bleibt. Dies ist teilweise auf die leichten Schwänze des Gaußschen zurückzuführen. Daher verwenden die Leute stattdessen gradientenbasierte Vorschläge oder eine Mischung von Gaußschen als Vorschlag.

Weitere Diskussionen finden Sie hier und hier .

$\infty$ $(x_{t-1} - c, x_{t-1} + c)$

— Greenparker
quelle

x_{t - 1}

$x_{t-1}$

x_{t + 1}

$x_{t+1}$

\infty

$\infty$

@ Greenparker: Sie müssen weiter klären, was Sie unter "dem Raum" verstehen. Die Unterstützung der Zielverteilung kann unbegrenzt sein, während die Unterstützung eines einheitlichen Vorschlags begrenzt ist, aber der entsprechende einheitliche Vorschlag kann immer noch eine irreduzible Markov-Kette auf dem gesamten Raum erzeugen.

— Xi'an

1. Sigma ist ein Parameter der Wahl, daher ist dieses Argument ungültig. 2. Wenn Sie über Random Walk MH sprechen (wie 1. angibt), ist dies nur an der Grenze ein Problem.

— Hunaphu

σ

$\sigma$