Warum darf sich ein Bayesianer die Residuen nicht ansehen?

Im Artikel "Diskussion: Sollen Ökologen zu Bayesianern werden?" Brian Dennis gibt eine überraschend ausgewogene und positive Einschätzung der Bayes'schen Statistik, wenn es sein Ziel zu sein scheint, die Menschen davor zu warnen. In einem Absatz jedoch, ohne irgendwelche Zitate oder Begründungen, sagt er:

Sie sehen, Bayesianer dürfen sich ihre Residuen nicht ansehen. Es verstößt gegen das Wahrscheinlichkeitsprinzip, ein Ergebnis danach zu beurteilen, wie extrem es unter einem Modell ist. Für einen Bayesianer gibt es keine schlechten Modelle, nur schlechte Überzeugungen.

Warum darf sich ein Bayesianer die Residuen nicht ansehen? Was wäre das geeignete Zitat dafür (dh wen zitiert er)?

Dennis, B.
Diskussion: Sollen Ökologen zu Bayesianern werden?
Ecological Applications, Ecological Society of America , 1996 , 6, 1095 & ndash; 1103

Natürlich können sich die Bayesianer die Reste ansehen! Und natürlich gibt es in der Bayes'schen Analyse schlechte Modelle. Vielleicht haben ein paar Bayesianer in den 70ern solche Ansichten unterstützt (und ich bezweifle das), aber heutzutage werden Sie kaum einen Bayesianer finden, der diese Ansicht unterstützt.

Ich habe den Text nicht gelesen, aber Bayesianer verwenden Dinge wie Bayes-Faktoren, um Modelle zu vergleichen. Tatsächlich kann ein Bayesianer sogar die Wahrscheinlichkeit berechnen, dass ein Modell wahr ist, und das Modell auswählen, das wahrer ist. Oder ein Bayesianer kann über Modelle hinweg mitteln, um ein besseres Modell zu erhalten. Oder kann posterior prädiktive Kontrollen verwenden. Es gibt viele Möglichkeiten, ein Modell zu überprüfen, und jedes mag den einen oder anderen Ansatz bevorzugen, aber zu sagen, dass es in der Bayes'schen Analyse keine schlechten Modelle gibt, ist unsinnig.

Daher ist es höchstens angebracht zu sagen, dass Sie in einigen extremen Versionen des Bayesianismus (im Übrigen in extremen Versionen, die fast niemand in angewandten Einstellungen verwendet) nicht berechtigt sind, Ihr Modell zu überprüfen. Aber dann kann man sagen, dass man in einigen extremen Versionen von Frequentismus auch keine Beobachtungsdaten verwenden darf. Aber warum sollten wir Zeit damit verschwenden, diese albernen Dinge zu diskutieren, wenn wir diskutieren können, ob und wann wir in einem angewandten Umfeld Bayes'sche oder frequentistische Methoden anwenden sollten oder was auch immer? Das ist meiner bescheidenen Meinung nach wichtig.

Update: Das OP bat um einen Hinweis von jemandem, der die extreme Version von Bayes befürwortet. Da ich keine extreme Version von Bayes gelesen habe, kann ich diese Referenz nicht angeben. Aber ich würde vermuten, dass Savage eine solche Referenz sein könnte. Ich habe nie etwas von ihm gelesen, also kann ich mich irren.

ps .: Denken Sie an das Problem des "gut kalibrierten Bayesian" ( Dawid (1982), JASA , 77 , 379 ). Ein kohärenter subjektivistischer Bayes-Prognostiker kann nicht unkalibriert sein und würde daher sein Modell / seine Prognosen trotz aller Beweise, dass er unkalibriert ist, nicht überprüfen. Aber ich glaube nicht, dass jemand in der Praxis behaupten kann, so kohärent zu sein. Daher ist die Überprüfung des Modells wichtig.

ps2 .: Ich mag dieses Papier auch von Efron . Die vollständige Referenz ist: Efron, Bradley (2005). "Bayesianer, Frequentisten und Wissenschaftler." Journal of the American Statistical Association 100 (469).

Sie können schauen, aber nicht berühren. Schließlich sind die Residuen der Teil der Daten, der keine Informationen zu Modellparametern enthält, und deren Prioritäten drücken alle Unsicherheiten in Bezug auf diese aus. Sie können ihre Prioritäten nicht basierend auf den in den Daten angezeigten Werten ändern.

Angenommen, Sie passen ein Gauß'sches Modell an, stellen jedoch eine viel zu große Kurtosis in den Residuen fest. Vielleicht hätte Ihre vorherige Hypothese eine t-Verteilung mit einer Wahrscheinlichkeit ungleich Null über niedrige Freiheitsgrade sein sollen, aber das war es nicht - es war praktisch überall eine t-Verteilung mit einer Wahrscheinlichkeit null, außer bei unendlichen Freiheitsgraden. Nichts in der Wahrscheinlichkeit kann über Regionen der hinteren Dichte, in denen die vorherige Dichte Null ist, zu Wahrscheinlichkeiten ungleich Null führen. Der Gedanke, die Prioritäten basierend auf den Datenwahrscheinlichkeiten fortlaufend zu aktualisieren, funktioniert also nicht, wenn der ursprüngliche Prior falsch angegeben wird.

Wenn Sie die Bayes'sche Modellprüfung bei Google durchführen, sehen Sie natürlich, dass dies eine Parodie der tatsächlichen Bayes'schen Praxis ist. Dennoch ist es für Argumente vom Typ der Logik der Wissenschaft für die Überlegenheit des Bayesianismus aus philosophischen Gründen etwas schwierig . Andrew Gelmans Blog ist zu diesem Thema interessant.