Was genau läuft in einem Bayes'schen hierarchischen Modell falsch, wenn die Austauschbarkeit nicht zutrifft?

In vielen Lehrbüchern wird, wenn ein Bayes'sches Modell vorgestellt wird, beispielsweise ein klassisches Normal-Normal-Modell, kurz erwähnt, dass die Versuche austauschbar sein müssen. Ich frage mich, warum dies notwendig ist und was schief geht, wenn die Austauschbarkeit nicht funktioniert. Hat jemand irgendwelche prägnanten Antworten?

Austauschbarkeit ist nicht erforderlich. Es gibt Bayes'sche Modelle, in denen Beobachtungen nicht austauschbar sind. Zum Beispiel Modelle für die Zeitreihenanalyse und -vorhersage in der Wettervorhersage oder -finanzierung. Im Allgemeinen werden in solchen Modellen neuere Beobachtungen als relevanter für Rückschlüsse auf zukünftige angesehen. eine Art "verblassende Erinnerung". Austauschbarkeit kann daher für sie nicht angenommen werden. Es gibt eine Vielzahl von nicht austauschbaren Modellen. siehe die Referenzen unten.

Austauschbare Modelle sind oft einfacher zu handhaben, aber möglicherweise unangemessen. Anstelle von "falsch" oder "richtig" stellt sich die Frage, ob die Austauschbarkeit oder andere Annahmen, wie der oben erwähnte "verblassende Speicher", für die von Ihnen gemachten Schlussfolgerungen angemessener oder vernünftiger oder rechnerisch einfacher sind. Wir müssen oft ein Gleichgewicht zwischen diesen beiden Aspekten finden.

Es gibt kein "richtig" oder "falsch", weil es kein Experiment gibt, das uns sagen kann, ob ein Inferenzmodell "richtig" ist. Dies ist das grundlegende Thema der Induktion , über das viele, viele Autoren geschrieben haben; Ich empfehle die unten zitierten Werke von Hume, Johnson, Jeffreys, de Finetti und Jaynes. Wir können nur eine bestimmte Art der Induktion anwenden, die als statistisches Modell formalisiert ist, und dann sehen, ob wir damit zufrieden sind oder nicht. Und diese Zufriedenheit hängt von vielen Kriterien ab, von denen viele subjektiv sind.

Texte wie Bernardo & Smith: Bayesian Theory (Wiley 2000) konzentrieren sich mehr auf die Austauschbarkeit, aber wie sie selbst bemerken (§ 1.4.1), soll ihr Buch nicht alle Arten von Schlussfolgerungen in der Bayesian Wahrscheinlichkeitstheorie abdecken. Texte, die sich speziell auf nicht austauschbare Modelle konzentrieren, sind zum Beispiel:

• R. Prado, M. West: Zeitreihen: Modellierung, Berechnung und Inferenz (CRC 2010) - Dies sollte ein guter und aktueller Ausgangspunkt sein, wenn Sie bereits mit austauschbaren Modellen vertraut sind.

• A. Pole, M. West, J. Harrison: Angewandte Bayes'sche Vorhersage und Zeitreihenanalyse (Springer 1994)

• E. Greenberg: Einführung in die Bayesianische Ökonometrie (Cambridge 2008)

• A. Zellner: Eine Einführung in die Bayes'sche Inferenz in der Ökonometrie (Wiley 1996)

• GL Bretthorst: Bayesianische Spektrumanalyse und Parameterschätzung (Springer 1988) http://bayes.wustl.edu/glb/bib.html

• GE Box, GM Jenkins, GC Reinsel, GM Ljung: Zeitreihenanalyse: Prognose und Kontrolle (Wiley 2016), insbesondere Kap. 7

• W. Palma: Zeitreihen mit langem Gedächtnis: Theorie und Methoden (Wiley 2007), insbesondere Kap. 8

Siehe auch die zahlreichen Referenzen zu Zeitreihen, die Bernardo & Smith in § 5.6.5 geben.

In Bezug auf die Einführung sind einige aufschlussreiche Texte:

• D. Hume: Eine Abhandlung der menschlichen Natur: Ein Versuch, die experimentelle Methode des Denkens in ein moralisches Subjekt einzuführen (Oxford 1896) https://archive.org/details/treatiseofhumann00hume_0 , Buch I, § III.VI.

• WE Johnson: Wahrscheinlichkeit: die deduktiven und induktiven Probleme , Mind 41 n. 164 (1932), 409–423

• WIR Johnson: Logik. Teil II: Demonstrative Folgerung: deduktiv und induktiv (Cambridge 1922) https://archive.org/details/logic02john , Kapitel VIII und folgende

• WIR Johnson: Logik. Teil III: Die logischen Grundlagen der Wissenschaft (Cambridge 1924) https://archive.org/details/logic03john , der Anhang

• B. de Finetti: Voraussicht: Seine logischen Gesetze, seine subjektiven Quellen , in Kyburg, Smokler: Studien zur subjektiven Wahrscheinlichkeit (Krieger 1980), S. 53–118

• B. de Finetti: Wahrscheinlichkeit, Induktion und Statistik: Die Kunst des Ratens (Wiley 1972), Kapitel 9

• H. Jeffreys: Die gegenwärtige Position in der Wahrscheinlichkeitstheorie , Brit. J. Phil. Sci. 5 n. 20 (1955), 275–289

• H. Jeffreys: Scientific Inference (Cambridge 1973), Kap. ich

• H. Jeffreys: Wahrscheinlichkeitstheorie (Oxford 2003), § 1.0

• ET Jaynes: Wahrscheinlichkeitstheorie: Die Logik der Wissenschaft (Cambridge 2003) http://www-biba.inrialpes.fr/Jaynes/prob.html , http://omega.albany.edu:8008/JaynesBook.html , http: //omega.albany.edu:8008/JaynesBookPdf.html , § 9.4

Aus dem Repräsentationssatz wissen wir, dass die Austauschbarkeit im Wesentlichen nur eine Betriebsbedingung ist, die der bedingten IID-Form entspricht (was eine Gleichkorrelation zwischen den beobachtbaren Werten impliziert). Wenn dies nicht zutrifft, bedeutet dies nur, dass das Problem eine Struktur aufweist, die mit der bedingten IID-Form nicht kompatibel ist. Dies kann eine Art Autokorrelation oder eine andere auf Ordnung basierende korrelierte Form (im Gegensatz zur Äquikorrelation) oder eine andere Art von Effekt sein, der statistische Abhängigkeiten beinhaltet, die zwischen Paaren von Observablen nicht gleich sind.