Unterschied zwischen nicht informativen und unangemessenen Priors


10

Ich frage mich, was der Unterschied zwischen diesen beiden Arten von Priors ist:

  • Nicht informativ
  • Unsachgemäß

4
Es könnte hilfreich sein, wenn Sie hier einen Kontext angeben könnten. Was verstehst du schon davon? Gibt es einen bestimmten Punkt der Verwirrung?
Gung - Reinstate Monica


@ Tim danke. Ich suchte nach nicht informativ statt schwach informativ .
Bram

Antworten:


17

σdπΘ

Θdπ(θ)=+
Θ
Θdπ(θ)=1
  1. die Grenzen der ordnungsgemäßen Bayes'schen Verfahren, die nicht alle ordnungsgemäße Bayes'sche Verfahren sind;
  2. häufig optimale Verfahren wie in (Zulässigkeit) vollständigen Klassensätzen wie Walds;
  3. häufigste beste invariante Schätzer (da sie als Bayes-Schätzungen unter dem entsprechenden rechten Haar-Maß ausgedrückt werden können, normalerweise unangemessen);
  4. Prioritäten, die aus der Form der Wahrscheinlichkeitsfunktion abgeleitet sind, wie nicht informative Prioritäten (z. B. Jeffreys).

Θ(θ|x)dπ(θ)<+
(θ|x)dπ(θ)Θ(θ|x)dπ(θ)

Warnung: Ein Zweig der Bayes'schen Folgerung kommt mit unangemessenen Prioritäten nicht sehr gut zurecht, insbesondere beim Testen scharfer Hypothesen. Tatsächlich erfordern diese Hypothesen die Konstruktion von zwei vorherigen Verteilungen, eine unter der Null und eine unter der Alternative, die orthogonal sind. Wenn einer dieser Prioritäten nicht korrekt ist, kann er nicht normalisiert werden und der resultierende Bayes-Faktor ist unbestimmt.

δL(d,θ)dπ

argmindΘL(d,θ)(θ|x)dπ(θ)
L(d,θ)dπ(θ)ϖ(θ)ϖ(θ)
L(d,θ)dπ(θ)=L(d,θ)ϖ(θ)×ϖ(θ)dπ(θ)

Nicht informative Prioritäten sind Klassen von (richtigen oder unangemessenen) früheren Verteilungen, die anhand eines bestimmten Informationskriteriums bestimmt werden, das sich auf die Wahrscheinlichkeitsfunktion bezieht, wie z

  1. Laplace's unzureichender Grund flach vor;
  2. Jeffreys (1939) invariante Priors;
  3. Maximum Entropy (oder MaxEnt) Priors (Jaynes, 1957);
  4. Mindestbeschreibungslänge priors (Rissanen, 1987; Grünwald, 2005);
  5. Referenzprioren (Bernardo, 1979, 1781; Berger & Bernardo, 1992; Bernardo & Sun, 2012)
  6. Wahrscheinlichkeitsanpassungsprioren (Welsh & Peers, 1963; Scricciolo, 1999; Datta, 2005)

und weitere Klassen, von denen einige in Kass & Wasserman (1995) beschrieben sind. Der Name nicht informativ ist insofern eine Fehlbezeichnung, als kein Prior jemals vollständig nicht informativ ist. Siehe meine Diskussion in diesem Forum. Oder Larry Wassermans Schande . (Nicht informative Prioritäten sind meistens unangemessen.)


9

Ein nicht informativer Prior ist streng genommen keine vorherige Verteilung. Dies ist eine Funktion, bei der wir, wenn wir sie als Verteilung betrachten und die Bayes-Formel anwenden, eine bestimmte hintere Verteilung erhalten, die darauf abzielt, die in den Daten und nur in den Daten enthaltenen Informationen so gut wie möglich wiederzugeben. oder um eine gute häufig übereinstimmende Eigenschaft zu erreichen (dh ein -Posterior-glaubwürdiges Intervall ist ungefähr ein -Konfidenzintervall).95 %95%95%

Ein nicht informativer Prior ist oft "unangemessen". Eine Verteilung hat eine bekannte Eigenschaft: Ihr Integral ist gleich eins. Ein nicht informativer Prior gilt als unangemessen, wenn sein Integral unendlich ist (daher ist in einem solchen Fall klar, dass es sich nicht um eine Verteilung handelt).


3
Ich halte diese Definition eines "nicht informativen" vor für sehr restriktiv!
Xi'an

@ Xi'an Angesichts der Kürze des OP halte ich diese kurze Antwort für angemessen.
Stéphane Laurent

@ Xi'an Es ist ein Zitat von Bernardo (mehr oder weniger). Ich stimme zu ^^
Stéphane Laurent

1
@ Xi'an Ich bin noch nicht zu Hause, aber zB hier werden Referenzposterioren durch formale Verwendung des Bayes-Theorems mit einer Referenz-Vorfunktion erhalten . Benardo sagt Referenz vor Funktion , nicht Verteilung.
Stéphane Laurent

2
Ernsthafter @ Xi'an, du meinst, es ist restriktiv für nichtinformative Prioren von Bernardian? Das stimmt, und einige andere vielleicht. Ich weiß, dass Sie in diesem Thema mehr wissen als ich. Aber ich bin Bernardo-orientiert (und passende Priors).
Stéphane Laurent
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.