Ich habe eine vage Vorstellung davon, was eine Nachrichtenübermittlungsmethode ist: ein Algorithmus, der eine Annäherung an eine Verteilung durch iteratives Erstellen von Annäherungen jedes der Faktoren der Verteilung erstellt, die von allen Annäherungen aller anderen Faktoren abhängig sind.
Ich glaube, dass beide Beispiele Variation Message Passing und Expectation Propagation sind . Was ist ein Message-Passing-Algorithmus expliziter / korrekter? Referenzen sind willkommen.
Antworten:
Da Sie nach Referenzen fragen, kann ich Kapitel 16 von David MacKay empfehlen Information Theory, Inference, and Learning Algorithms. (Sie müssen die vorherigen 15 Kapitel nicht lesen, um Kapitel 16 zu verstehen.) Das Buch kann kostenlos von der Website des Autors heruntergeladen werden (mit Genehmigung des Herausgebers).
Ein interessantes Beispiel ist die These von John Winn . Verwendet einen Message-Passing-Algorithmus für generisches Variational Ensemble Learning, mit dem sich Inferenzprobleme wie ICA und PCA einfach konstruieren lassen.
Vielleicht ist der Artikel über die Verbreitung von Überzeugungen hilfreich.
Der Artikel beschreibt anhand von zwei Aufzählungspunkten, wie "Nachrichten" in einem Faktordiagramm an Kanten weitergegeben werden. Diese "Nachrichtenübergabe" kann für jedes Diagramm durchgeführt werden. Für Bäume ist der Algorithmus insofern genau, als er die Berechnung der gewünschten Rand- und Gelenkverteilungen der Knoten im Baum ermöglicht. Iterationen des Algorithmus für allgemeine Graphen sind Versuche, Näherungen der gewünschten Rand- oder Gelenkverteilungen zu erzeugen.