Welcher adaptive Metropolis Hastings-Algorithmus ist im R-Paket MHadaptive implementiert?

Es gibt mehrere Versionen adaptiver Metropolis Hastings-Algorithmen. Eine ist in der Funktion Metro_Hastingsdes RPakets implementiert MHadaptive, siehe hier . Die dort aufgeführte Referenz, Spiegelhalter et al. (2002) enthält meines Erachtens leider keine Beschreibung eines adaptiven Algorithmus. Der Metro_HastingsAlgorithmus funktioniert jedoch sehr gut bei der Abtastung aus der posterioren Verteilung des Modells, das ich betrachte, weshalb ich seine Details verstehen möchte.

Ich habe den Algorithmus ein wenig rückentwickelt. Kennt jemand diesen adaptiven MH-Algorithmus? Das macht es:

Sei $q$ die Zieldichte. Initialisiere $\theta_{0,i=0},\Sigma$ .

Für $n$ Iterationen $\{i = 1,...,n\}$ do:

Schlagen Sie $\theta_1 \sim N(\theta_1|\theta_{0,i-1}, \Sigma)$ .
$\theta_1$ $A=\min\{1,q(\theta_1)/q(\theta_{0,i})\}$ $\theta_{0,i}:=\theta_1$ $\theta_{0,i}:=\theta_{0,i-1}$

Wenn $i=j$ , wobei $j$ ein Vektor ist, der so definiert ist, dass jedes Element von $j>x$ (Standard $x=100$ ) ist, gibt es einen Abstand von $y$ Iterationen zwischen den Elementen (Standard $y=20$ ) und kein Element $j>z$ (Standard) $z=0.75n$ ), mache:

Wählen Sie $\tilde{\theta}=\{\theta_{0k},...,\theta_{0,i} \}$ (Standard $k=0.5i$ ).
Update: wobei der Maximum-Likelihood-Schätzer der Varianz-Kovarianz-Matrix von Annahme einer multivariaten Normalität ist. $\Sigma:=S(\tilde{\theta})$ $S$ $\tilde{\theta}$

Die Schritte 1 und 2 sind Standard-MH. Die Schritte 3 und 4 sind die Anpassungen, die in den Schritten und die vergangenen Iterationen zum Aktualisieren von auf die Kovarianzmatrix der vergangenen Iterationen verwenden. $j$ $j-k$ $\Sigma$

r mcmc metropolis-hastings

— Tomka
quelle

Entschuldigung für die dumme Frage, aber haben Sie versucht, den Paketinhaber (zuerst) und David Spiegelhalter (zweitens) zu kontaktieren? Der Paketbesitzer hat McGill vor einigen Jahren verlassen, daher ist es durchaus möglich, dass die E-Mail-Adresse im Paket nicht mehr überwacht wird. Mit ein wenig Google-fu können Sie jedoch leicht seine aktuellen Kontakte herausfinden (natürlich teile ich hier nicht, weil ich nicht weiß, ob er es möchte). Wenn Sie sich nicht mit ihm in Verbindung setzen können, ist David Spiegelhalter ein wirklich netter Kerl, und ich denke, er würde Ihnen antworten, wenn Sie ihm eine Mail schicken.

— DeltaIV

@ DeltaIV Ich habe ihn kontaktiert, aber keine Antwort erhalten. Ich habe nicht daran gedacht, stattdessen an Spiegelhalter zu schreiben, da er nur zitiert wird (falsch imho) und ich bin mir nicht sicher, ob er überhaupt etwas über das Paket weiß. Ich habe den Autor unter der im Paket angegebenen E-Mail-Adresse kontaktiert. Es ist anscheinend immer noch aktiv und deshalb habe ich nicht daran gedacht, ihn woanders zu finden. Ich werde es versuchen.

— Tomka

Ich stimme zu, dass es unwahrscheinlich ist, dass Spiegelhalter etwas über die Pakete weiß. Deshalb habe ich vorgeschlagen, zuerst den Paketinhaber zu kontaktieren. Möglicherweise kennt er jedoch den von Ihnen beschriebenen Algorithmus (oder auch nicht, wenn er, wie Sie vermuten, falsch zitiert wurde). Wenn Sie eine Antwort auf Ihre Frage erhalten, lassen Sie es uns wissen, ich bin neugierig.

— DeltaIV

@ DeltaIV Ich kann keine E-Mail-Adresse an seiner aktuellen Institution identifizieren. Ich werde es wahrscheinlich dabei belassen müssen, es sei denn, Sie können mich darauf hinweisen.

— Tomka

Lassen Sie uns dies im Chat diskutieren . Ich hoffe, es ist klar, dass ich helfen möchte. Ich war nur besorgt um die Privatsphäre des Paketinhabers.

— DeltaIV

Ihre Beschreibung klingt nach dem adaptiven Algorithmus von Haario et al. (1999) . Die Idee dort ist in der Tat, die Kovarianzmatrix der Angebotsverteilung unter Verwendung einer festen Anzahl aktueller Stichproben zu aktualisieren.

Es ist zu beachten, dass der in Haario et al. (1999) beschriebene Algorithmus eine gute Leistung erbringt, jedoch NICHT ergodisch ist. Haario et al. (2001) beschrieben einen verbesserten Algorithmus, der ergodisch ist. Die Idee dort ist, die Kovarianzmatrix der Angebotsverteilung unter Verwendung aller früheren Stichproben zu aktualisieren.

— Heisenberg
quelle