Konvergenzdiagnostik nach Gelman und Rubin, wie verallgemeinert man die Arbeit mit Vektoren?

Die Gelman- und Rubin-Diagnose wird verwendet, um die Konvergenz mehrerer mcmc-Ketten zu überprüfen, die parallel verlaufen. Es vergleicht die Varianz innerhalb der Kette mit der Varianz zwischen den Ketten, die Darstellung ist unten:

Schritte (für jeden Parameter):

Lasse m ≥ 2 Ketten mit einer Länge von 2n von überdispersen Startwerten laufen.
Wirf die ersten n Ziehungen in jeder Kette ab.
Berechnen Sie die Varianz innerhalb der Kette und zwischen den Ketten.
Berechnen Sie die geschätzte Varianz des Parameters als gewichtete Summe der Varianz innerhalb der Kette und zwischen den Ketten.
Berechnen Sie den potenziellen Skalenreduzierungsfaktor.
Listenpunkt

Ich möchte diese Statistik verwenden, aber die Variablen, mit denen ich sie verwenden möchte, sind Zufallsvektoren.

Ist es in diesem Fall sinnvoll, den Mittelwert der Kovarianzmatrizen zu nehmen?

mcmc convergence covariance-matrix

— Tim
quelle

Eine Empfehlung: Berechnen Sie die PSRF einfach separat für jede skalare Komponente

Der Originalartikel von Gelman & Rubin [1] sowie das Lehrbuch zur Bayesianischen Datenanalyse von Gelman et al. [2] empfiehlt, den potenziellen Skalenverringerungsfaktor (PSRF) für jeden interessierenden Skalarparameter separat zu berechnen. Um Konvergenz abzuleiten, müssen alle PSRFs nahe bei 1 liegen. Es spielt keine Rolle, dass Ihre Parameter als Zufallsvektoren interpretiert werden. Ihre Komponenten sind Skalare, für die Sie PSRFs berechnen können.

Brooks & Gelman [3] haben eine multivariate Erweiterung des PSRF vorgeschlagen, die ich im nächsten Abschnitt dieser Antwort überprüfe. Um jedoch Gelman & Shirley [4] zu zitieren:

[...] Diese Methoden können manchmal einen Overkill darstellen: Einzelne Parameter können gut geschätzt werden, während die ungefähre Konvergenz von Simulationen einer multivariaten Verteilung sehr lange dauern kann.

Alternative: multivariate Erweiterung von Brooks & Gelman

$W$ $B$

\hat{V} = \frac{n - 1}{n} W + \frac{1}{n} B,

$\begin{equation} \hat{V} = \frac{n-1}{n}W + \frac{1}{n}B, \end{equation}$

n

$n$

\hat{V}, W

$\hat{V},W$

\hat{R} = max_{a} \frac{a^{T} \hat{V} a}{a^{T} W a} = \frac{n - 1}{n} + (\frac{m + 1}{m}) λ_{1},

$\begin{equation} \hat{R} = \max_a \frac{a^T\hat{V}a}{a^TWa} = \frac{n-1}{n} + \left(\frac{m+1}{m}\right)\lambda_1, \end{equation}$

m

$m$

λ_{1}

$\lambda_1$

W^{- 1} \hat{V} / n

$W^{-1}\hat{V}/n$

λ_{1} \to 0

$\lambda_1\rightarrow 0$

n

$n$

\hat{R}

$\hat{R}$

Verweise

[1] Gelman, Andrew und Donald B. Rubin. "Rückschluss aus iterativer Simulation mit mehreren Sequenzen." Statistical Science (1992): 457 & ndash; 472.

[2] Gelman, Andrew et al. Bayesianische Datenanalyse. CRC-Presse, 2013.

[3] Brooks, Stephen P. und Andrew Gelman. "Allgemeine Methoden zur Überwachung der Konvergenz von iterativen Simulationen." Journal of Computational and Graphical Statistics 7.4 (1998): 434 & ndash; 455.

[4] Gelman, Andrew und Kenneth Shirley. "Rückschluss aus Simulationen und Überwachung der Konvergenz". (Kapitel 6 in Brooks, Steve et al., Herausgeber Handbuch von Markov Chain Monte Carlo. CRC Press, 2011.)

Alle Artikel mit Ausnahme des Lehrbuchs [2] sind auf der Website von Andrew Gelman verfügbar .

— Juho Kokkala
quelle