Normalisierungskonstante im Bayes-Theorem

15

$\Pr(\textrm{data})$

Pr (parameters ∣ data) = \frac{Pr (data ∣ parameters) Pr (parameters)}{Pr (data)}

$\Pr(\text{parameters} \mid \text{data}) = \frac{\Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\text{parameters})}{\Pr(\text{data})}$

wird als Normalisierungskonstante bezeichnet . Was genau ist das Was ist seine Aufgabe? Warum sieht es aus wie ? Warum hängt es nicht von den Parametern ab? $\Pr(data)$

probability bayesian

— Amateur
quelle

4

Wenn Sie

f (data | params) f (params)

$f(\text{data}|\text{params})f(\text{params})$ , integrieren Sie die Parameter, sodass das Ergebnis keinen von den Parametern abhängigen Ausdruck hat, auf die gleiche Weise wie

\int_{x = 0}^{x = 2} x y d x = 2 y

$\int_{x=0}^{x=2}xy\;dx = 2y$ hängt nicht von

x

$x$ .

— Henry

16

Der Nenner $\Pr(\textrm{data})$ wird erhalten, indem die Parameter aus der Verknüpfungswahrscheinlichkeit $\Pr(\textrm{data}, \textrm{parameters})$ . Dies ist die Grenzwahrscheinlichkeit der Daten und hängt natürlich nicht von den Parametern ab, da diese herausintegriert wurden.

Jetzt seit:

$\Pr(\textrm{data})$ hängt nicht von den Parametern ab, auf die man schließen möchte.
$\Pr(\textrm{data})$ ist im Allgemeinen in geschlossener Form schwer zu berechnen.

man verwendet oft die folgende Anpassung der Baye-Formel:

$\Pr(\textrm{parameters} \mid \textrm{data}) \propto \Pr(\textrm{data} \mid \textrm{parameters}) \Pr(\textrm{parameters})$

Grundsätzlich ist nichts anderes als eine "normalisierende Konstante", dh eine Konstante, die die posteriore Dichte zu einer einzigen integriert . $\Pr(\textrm{data})$

— Ocram
quelle

2

Was genau meinen Sie mit "durch Herausintegrieren der Parameter"? Was bedeutet es in diesem Zusammenhang genau, sich zu integrieren?

— nbro

2

@ nbro: Ich meine Pr (Daten) = Integral über die Parameter von Pr (Daten, Parameter)

— Ocram

2

Wenn wir die Bayes-Regel anwenden, möchten wir normalerweise auf die "Parameter" schließen, und die "Daten" sind bereits angegeben. Daher ist eine Konstante und wir können davon ausgehen, dass es sich nur um einen normalisierenden Faktor handelt. $\Pr(\textrm{data})$

— Hart
quelle