Sind MCMC ohne Speicher?

18

Ich versuche zu verstehen, was Markov-Kette Monte Carlo (MCMC) von der französischen Wikipedia-Seite sind. Sie sagen, "dass die Markov-Ketten-Monte-Carlo-Methoden darin bestehen, einen Vektor $x_ {i}$ nur aus den Vektordaten $x_ {i-1}$ erzeugen, es ist daher ein Prozess" ohne Speicher "."

Les méthodes de Monte-Carlo par chaînes de Markov konsistent à générer un vecteur $x_{i}$ uniquement à partir de la donnée du vecteur $x_{{i-1}}$ ; c'est donc un processus "ohne Gedächtnis",

Ich verstehe nicht, warum sie sagen, dass MCMC "ohne Speicher" sind , sofern wir Informationen aus den Vektordaten $x_ {i-1}$ , um $x_i$ zu erzeugen .

mcmc

— IggyPass
quelle

3

Weil Sie sich an nichts über den Prozess "erinnern" müssen, außer an den letzten Zustand der Kette. Ich vermute, du brauchst noch etwas Gedächtnis, aber es ist nur eine Information.

— User2974951

wird nicht "erinnert"; Es ist die explizite Eingabe.

x_{i - 1}

$x_{i-1}$

— Chepner

28

Das bestimmende Merkmal einer Markov-Kette ist, dass die bedingte Verteilung ihres aktuellen Werts, die von früheren Werten abhängig ist, nur vom vorherigen Wert abhängt . So ist jede Markov-Kette "ohne Gedächtnis", insofern als nur der vorherige Wert die gegenwärtige bedingte Wahrscheinlichkeit beeinflusst und alle vorherigen Zustände "vergessen" werden. (Sie haben Recht, dass es nicht ganz ohne Speicher ist - schließlich hängt die bedingte Verteilung des aktuellen Werts vom vorherigen Wert ab.) Dies gilt für MCMC und auch für jede andere Markov-Kette.

— Setzen Sie Monica wieder ein
quelle

9

Wenn Sie diesen einen Schritt nach vorne machen, kann man sagen , die bedingte Verteilung der zukünftigen Werte abhängig Vergangenheit und Gegenwart Werte nur auf den Barwert abhängt und in diesem Sinne Erinnerung an die Vergangenheit ist nicht erforderlich , solange die aktuelle Position bekannt ist

— Henry

Mit der Ausnahme, dass Sie den Statusraum immer anpassen können, um eine endliche Menge an Informationen über die Vergangenheit zu speichern. Es ist immer noch markovisch, sich zum Beispiel auf Ihre letzten zehn Zustände zu verlassen, da Sie den Zustandsraum einfach erweitern können, um diese Informationen in "den vorherigen Zustand" aufzunehmen.

— David Richerby

15

Während wir die richtige Antwort haben, möchte ich die intuitive Semantik der Anweisung ein wenig erweitern. Stellen Sie sich vor, wir definieren unsere Indizes neu, sodass Sie den Vektor $x_{i+1}$ aus dem Vektor $x_{i}$ generieren . Moment, in dem $i$ metaphorisch als "die Gegenwart" betrachtet wird, und alle Vektoren, die "früher als" $x_{i}$ kommen, sind für die Berechnung des nächsten Vektors in der Zukunft irrelevant.

Durch diese einfache Umnummerierung wird es im intuitiven Sinne "völlig ohne Gedächtnis" - das heißt, es spielt überhaupt keine Rolle, wie das Markov-System zu seinem gegenwärtigen Zustand kam. Der gegenwärtige Zustand allein bestimmt zukünftige Zustände, ohne irgendwelche Informationen aus vergangenen ( $x_{i-n}$ ) Zuständen zu verwenden.

$x_{i}$ $x_{i-n}$

— rumtscho
quelle

5

Du wachst auf. Du hast keine Ahnung, wie du dahin gekommen bist, wo du bist. Sie schauen sich in Ihrer Umgebung um und treffen eine Entscheidung, was als nächstes zu tun ist, basierend auf den Informationen, die Sie zu diesem Zeitpunkt zur Verfügung haben. Das ist im Wesentlichen die gleiche Situation wie in MCMC.

$x_{i}$ $x_{i-1}$ $x_{i-1}$ $x_{i+1}$ $x_i$

— Dason
quelle

2

Nennen wir es die Kater-Methode

— IggyPass

@ThePassenger Nennen Sie es, wie Sie wollen. Bitte geben Sie das Aspirin weiter.

— Dason