Berücksichtigung diskreter oder binärer Parameter im Bayes'schen Informationskriterium

BIC bestraft basierend auf der Anzahl der Parameter. Was ist, wenn einige der Parameter binäre Indikatorvariablen sind? Zählen diese als vollständige Parameter? Aber ich kann Binärparameter zu einer diskreten Variablen kombinieren , die Werte in annimmt . Sollen diese als Parameter oder als ein Parameter gezählt werden? $m$ $\{0,1,...,2^m-1\}$ $m$

— grosse Bandbreite
quelle

Teilweise aufgrund dieser Ungenauigkeit in der "Anzahl der Parameter" in BIC führte DIC (das Abweichungsinformationskriterium ) eine effektive Anzahl von Parametern ein als wobei und Beachten Sie, dass dann datenabhängig ist. (Wie bereits erwähnt gibt die DIC auch eigene Probleme hat!)

p_{D} (x) = E [D (θ) | x] - D (E [θ | x])

$p_D(x) = \mathbb{E}[D(\theta)|x] - D(\mathbb{E}[\theta|x])$

D (θ) = - 2 \log f (x | θ)

$D(\theta)=-2\log f(x|\theta)$

DIC (x) = p_{D} (x) + E [D (θ) | x]

$\text{DIC}(x) = p_D(x) + \mathbb{E}[D(\theta)|x]$

p_{D} (x)

$p_D(x)$

— Xi'an
quelle

Ich bin also etwas verwirrt. Ich dachte, BIC sei eine Näherung von , die aus der MCMC berechnet werden kann Simulationen. Warum sollten wir dann den DIC berechnen?

E [l o g P (y | M o d e l)] = \log (\int P (y | θ) P_{m o d e l} (θ) d θ)

$E[log P(y|Model)] = \log(\int P(y|\theta)P_{model}(\theta)d\theta)$

— HighBandWidth

Ja, BIC ist eine Annäherung an die Grenzwahrscheinlichkeit. Es ist jedoch nur eine Annäherung, die zur "Wahrheit" konvergiert, wenn die Stichprobengröße bis unendlich wächst. Es ist daher nicht direkt Bayesianisch (verwendet zum einen nicht den Prior!) Und steht in keiner Beziehung zu MCMC (wo die Approximation vom Typ Monte Carlo ist: Wenn ich die Anzahl der Simulationen erhöhe, verbessert sich die Approximation). DIC wird von vielen (einschließlich B. Carlin und D. Spiegelhatler) als Bayesianer angesehen

— Xi'an

Ich denke meine Frage war, ist der DIC auch eine Annäherung an die marginale Modellwahrscheinlichkeit? Ich denke, ich sollte selbst darüber lesen, aber da wir darüber diskutierten, dachte ich, dies zu erklären würde die Antwort vollständiger machen. Vielen Dank!

— HighBandWidth