Bayes Theorem Intuition

22

Ich habe versucht, ein auf Intuition basierendes Verständnis des Bayes'schen Theorems in Bezug auf Prior , Posterior , Likelihood und marginale Wahrscheinlichkeit zu entwickeln. Dafür verwende ich die folgende Gleichung: wobei eine Hypothese oder einen Glauben darstellt und Daten oder Beweise darstellt. Ich habe das Konzept des Seitenzahns verstanden - es ist eine einheitliche Einheit, die die vorherige Überzeugung und die Wahrscheinlichkeit eines Ereignisses kombiniert . Was ich nicht verstehe, ist, was die Wahrscheinlichkeit bedeutet? Und warum ist das marginal

P (B | EIN) = \frac{P (EIN | B) P (B)}{P (EIN)}

$P(B|A) = \frac{P(A|B)P(B)}{P(A)}$

A

$A$

B

$B$
Wahrscheinlichkeit im Nenner?
Nachdem ich einige Ressourcen durchgesehen hatte, stieß ich auf folgendes Zitat:

Die Wahrscheinlichkeit ist das Gewicht des Ereignisses das durch das Auftreten von ... ist. Dies ist die hintere Wahrscheinlichkeit des Ereignisses , wenn das Ereignis eingetreten ist. $B$ $A$ $P(B|A)$ $B$ $A$

Die obigen 2 Aussagen scheinen mir identisch zu sein, nur auf verschiedene Arten geschrieben. Kann jemand bitte den Unterschied zwischen den beiden erklären?

bayesian likelihood intuition

— Anas Ayubi
quelle

4

Sie haben einen Tippfehler (oder ein Missverständnis). sollte die "Hypothese oder Überzeugung" sein, und sollte die "Daten oder Beweise" in Ihrer Formulierung sein.

B

$B$

A

$A$

— gung - Reinstate Monica

1

Siehe meine Antwort unter math.stackexchange.com/a/1943255/1505. So habe ich es intuitiv verstanden

— Lyndon White,

27

Zwar gibt es in Bayes Gesetz vier Komponenten sind, ziehe ich es in Bezug auf die drei konzeptuellen Komponenten zu denken:

\underset{2}{\underset{⏟}{P (B | EIN)}} = \underset{3}{\underset{⏟}{\frac{P (EIN | B)}{P (EIN)}}} \underset{1}{\underset{⏟}{P (B)}}

$\underbrace{P(B|A)}_2 = \underbrace{\frac{P(A|B)}{P(A)}}_3 \underbrace{P(B)}_1$

Das Vorherige ist das, was Sie über geglaubt haben, bevor Sie auf eine neue und relevante Information gestoßen sind (dh ). $B$ $A$
Die hintere ist , was Sie glauben (oder soll, wenn man rational) über nach einem neuen und relevanten Information gestoßen zu haben. $B$
Der Quotient aus der Wahrscheinlichkeit , dividiert durch die Randwahrscheinlichkeit der neuen Information Indizes die Aussage der neuen Informationen für Ihre Überzeugungen über . $B$

— gung - Wiedereinsetzung von Monica
quelle

19

Es gibt bereits einige gute Antworten, aber vielleicht kann dies etwas Neues hinzufügen ...

Ich denke immer an die Bayes-Regel in Bezug auf die Komponentenwahrscheinlichkeiten, die geometrisch in Bezug auf die Ereignisse und wie unten abgebildet verstanden werden können. $A$ $B$

Die Grenzwahrscheinlichkeiten und sind durch die Flächen der entsprechenden Kreise gegeben. Alle möglichen Ergebnisse werden durch , was der Menge von Ereignissen " oder " entspricht. Die gemeinsame Wahrscheinlichkeit entspricht dem Ereignis " und ". $P(A)$ $P(B)$ $P(A \cup B)=1$ $A$ $B$ $P(A \cap B)$ $A$ $B$

In diesem Rahmen können die bedingten Wahrscheinlichkeiten im Bayes-Theorem als Flächenverhältnisse verstanden werden. Die Wahrscheinlichkeit von gegebenem ist der Bruchteil von von , ausgedrückt als $A$ $B$ $B$ $A \cap B$ In ähnlicher Weisedie Wahrscheinlichkeit vongegebenbeträgt der Anteil andurch belegte,heißt

P (EIN | B) = \frac{P (EIN \cap B)}{P (B)}

$P(A\vert B)=\frac{P(A \cap B)}{P(B)}$

B

$B$

A

$A$

A

$A$

A \cap B

$A \cap B$

P (B | EIN) = \frac{P (EIN \cap B)}{P (EIN)}

$P(B\vert A)=\frac{P(A \cap B)}{P(A)}$

P (B | EIN) P (EIN) = P (EIN \cap B) = P (EIN | B) P (B)

$P(B\vert A)P(A)=P(A \cap B)=P(A\vert B)P(B)$

p (A)

$p(A)$

p (B)

$p(B)$

(Eine andere Art und Weise, die obige Diskussion zu verstehen, ist in meiner Antwort auf diese Frage unter dem Gesichtspunkt einer "Buchhaltungstabelle" gegeben.)

— GeoMatt22
quelle

9

@gung hat eine tolle Antwort. Ich würde ein Beispiel hinzufügen, um die "Initiation" in einem realen Beispiel zu erklären.

$H$ $A$ $E$ $B$

Die Formel lautet also

P (H | E) = \frac{P (E | H) P (H)}{P (E)}

$P(H|E) = \frac{P(E|H)P(H)}{P(E)}$

Beachten Sie, dass die gleiche Formel geschrieben werden kann wie

P (H | E) \propto P (E | H) P (H)

$P(H|E) \propto {P(E|H)P(H)}$

$\propto$ $P(E|H)$ $P(H)$ $P(E)$ $E$

$H \in \{0,1\}$

$1$ $1000$ $P(H=1)=0.001$ $P(H=0)=0.999$

$P(H|E)$

$E\in\{0,1\}$

$P(E=1|H=0)$ $P(E=1|H=1)$

$E=1$

— Haitao Du
quelle

P (H = 0)

$P(H=0)$

0.999

$0.999$

P (H = 1) = 0.001

$P(H=1)=0.001$

1

Beachten Sie, dass die Bayes-Regel lautet

$P(a|b)=\frac{P(b,a)}{P(b)}=\frac{P(b,a)}{P(b)P(a)}P(a)$

Beachten Sie das Verhältnis

\frac{P (b, ein)}{P (b) P (ein)} .

$\frac{P(b,a)}{P(b)P(a)}.$

$B \perp A$ $P(b,a)=P(b)P(a)$

Interessanterweise ist das Protokoll dieses Verhältnisses auch in gegenseitigen Informationen vorhanden:

ich (EIN | B) = \sum_{ein, b} P_{} (ein, b) Log \frac{P_{} (b, ein)}{P (b) P (ein)}

$I(A|B) = \sum_{a,b}P_{}(a,b)\mathbf{\log\frac{P_{}(b,a)}{P(b)P(a)}}$

— user0
quelle

0

$P(A,B)$

Wahrscheinlichkeit = Zeilenproportionen posterior = Spaltenproportionen

Prior und Marginal werden analog definiert, basieren jedoch auf "Summen" anstelle einer bestimmten Spalte

marginale = Zeilengesamtanteile prior = Spaltengesamtanteile

Ich finde das hilft mir.

— Wahrscheinlichkeitslogik
quelle