AIC & BIC Nummerninterpretation

23

Ich suche Beispiele für die Interpretation von AIC-Schätzungen (Akaike-Informationskriterium) und BIC-Schätzungen (Bayes-Informationskriterium).

Kann ein negativer Unterschied zwischen BICs als hintere Gewinnchance eines Modells gegenüber dem anderen interpretiert werden? Wie kann ich das in Worte fassen? Zum Beispiel kann der BIC = -2 bedeuten, dass die Chancen des besseren Modells gegenüber dem anderen Modell ungefähr . $e^2= 7.4$

Jeder grundlegende Rat wird von diesem Neuling geschätzt.

interpretation aic bic

— Juan
quelle

Werfen Sie einen Blick auf Kapitel 2. Abschnitt 2.6 - der teilweise in Google Books verfügbar ist - könnte Ihnen dabei helfen. books.google.se/… (Referenz: Modellauswahl und Inferenz

— mehrerer

6

fürModell einesaprioriModellsatzes zu recaled werden kann , wo das beste Modell des Modellsatzes wird . Wir können die -Werte verwenden, um die Beweiskraft ( ) für alle Modelle in der Modellmengezu schätzen, wobei gilt: $AIC$ $i$ $\mathsf{\Delta}_i=AIC_i-minAIC$ $\mathsf{\Delta}=0$ $\mathsf{\Delta}_i$ $w_i$ Dies wird oft als das "Beweisgewicht" für das Modellwenn dasA-priori-Modellsatzgegeben ist. Wennzunimmt, nimmtab, was nahelegt, dass das Modellweniger plausibel ist. Diese-Werte können als die Wahrscheinlichkeit interpretiert werden, dass das Modelldas beste Modell ist, wenn dieMengedera priori-Modelle gegeben ist. Wir könnten auch die relative Wahrscheinlichkeit von Modellgegenüber Modellalsberechnen

w_{i} = \frac{e^{(- 0.5 Δ_{i})}}{\sum_{r = 1}^{R} e^{(- 0.5 Δ_{i})}} .

$w_i = \frac{e^{(-0.5\mathsf{\Delta}_i)}}{\sum_{r=1}^Re^{(-0.5\mathsf{\Delta}_i)}}.$

i

$i$

Δ_{i}

$\mathsf{\Delta}_i$

w_{i}

$w_i$

i

$i$

w_{i}

$w_i$

i

$i$

i

$i$

j

$j$

. Wenn zum Beispiel

und

ist, könnte man sagen, dass das Modell

8-mal wahrscheinlicher ist als das Modell

.

w_{i} / w_{j}

$w_i/w_j$

w_{i} = 0.8

$w_i = 0.8$

w_{j} = 0.1

$w_j = 0.1$

i

$i$

j

$j$

Es ist zu beachten, dass wenn Modell 1 das beste Modell ist (kleinstes ). Burnham und Anderson (2002) bezeichnen dies als Evidenzrate. Diese Tabelle zeigt, wie sich die Evidenzrate im Vergleich zum besten Modell ändert. $w_1/w_2 = e^{0.5\Delta_2}$ $AIC$

Information Loss (Delta)    Evidence Ratio
0                           1.0
2                           2.7
4                           7.4
8                           54.6
10                          148.4
12                          403.4
15                          1808.0

Referenz

Burnham, KP und DR Anderson. 2002. Modellauswahl und Multimodell-Inferenz: ein praktischer informationstheoretischer Ansatz. Zweite Ausgabe. Springer, New York, USA.

Anderson, DR 2008. Modellbasierte Folgerung in den Biowissenschaften: ein Primer auf Beweisen. Springer, New York, USA.

— RioRaider
quelle

Würde es Ihnen etwas ausmachen zu klären, worauf sich

bezieht, insbesondere da der Index der Summe nicht in der Summation enthalten ist? Spannt

den Modellraum?

r

$r$

R

$R$

— Dopexxx

Das Modellset enthält R-Modelle.

— RioRaider

3

Ich glaube nicht, dass es so eine einfache Interpretation von AIC oder BIC gibt. Beides sind Größen, die die Log-Wahrscheinlichkeit annehmen und eine Strafe für die Anzahl der zu schätzenden Parameter auferlegen. Die spezifischen Strafen für AIC werden von Akaike in seinen Arbeiten erklärt, die 1974 beginnen. BIC wurde von Gideon Schwarz in seiner Arbeit von 1978 ausgewählt und ist durch ein Bayes'sches Argument motiviert.

— Michael R. Chernick
quelle

2

Die Strafe kann jedoch als eine vorherige Bevorzugung von Modellen einer bestimmten Größe interpretiert werden. Wenn Sie diesen Prior übernehmen (der einige informationstheoretische Begründungen hat), können Sie ein posteriores Odds Ratio direkt aus den IC-Werten berechnen. @RioRaider erwähnt auch Akaike-Gewichte, die Ihnen die Wahrscheinlichkeit geben, dass ein bestimmtes Modell in Bezug auf die KL-Divergenz das beste Modell aus der Menge ist. ( Ref --see p. 800).

— David J. Harris

1

Sie verwenden den BIC wahrscheinlich als Ergebnis der Annäherung an den Bayes-Faktor. Daher ziehen Sie eine vorherige Verteilung (mehr oder weniger) nicht in Betracht. BIC in einer Modellauswahlphase ist hilfreich, wenn Sie die Modelle vergleichen. Um den BIC und den Bayes-Faktor vollständig zu verstehen, empfehle ich dringend, einen Artikel (Abschnitt 4) zu lesen: http://www.stat.washington.edu/raftery/Research/PDF/socmeth1995.pdf , um das Wissen zu ergänzen durch: http: // www .stat.washington.edu / raftery / Research / PDF / kass1995.pdf

— Robert
quelle