Akzeptieren die Bayesianer Kolmogorovs Axiome?

In der Regel wird die Wahrscheinlichkeitstheorie mit Kolgomorovs Axiomen unterrichtet. Akzeptieren die Bayesianer auch Kolmogorovs Axiome?

probability bayesian kolmogorov-axioms

— Handschriftlich
quelle

Die Bayes'sche Theorie folgt aus den Standardaxiomen der Wahrscheinlichkeit, daher aus den Kolmogorov-Axiomen.

— Xi'an

@ Xi'an: Dass subjektive Glaubensgrade durch Wahrscheinlichkeit dargestellt werden können, ist nicht so offensichtlich - daher die Frage, & Ramsey & de Finettis Arbeit.

— Scortchi

Deshalb bin ich ein "objektiver" Bayesianer und beginne mit früheren Verteilungen, die gemäß den Standards der Wahrscheinlichkeitstheorie definiert wurden ...

— Xi'an

Ich glaube, dass die Cox-Jaynes-Interpretation der Wahrscheinlichkeit eine strenge Grundlage für die Bayes'sche Wahrscheinlichkeit darstellt. (siehe meine Antwort). Es wäre jedoch schön, Xi'ans Meinung dazu zu haben.

— Gipfeltreffen

@Summit: danke aber ich fürchte ich interessiere mich nicht sehr für das thema ...!

— Xi'an

Antworten:

Meiner Meinung nach liefert die Cox-Jaynes-Interpretation der Wahrscheinlichkeit eine strenge Grundlage für die Bayes'sche Wahrscheinlichkeit:

Cox, Richard T. "Wahrscheinlichkeit, Häufigkeit und angemessene Erwartung." American Journal of Physics 14.1 (1946): 1-13.
Jaynes, Edwin T. Wahrscheinlichkeitstheorie: die Logik der Wissenschaft. Cambridge University Press, 2003.
Beck, James L. "Bayesianische Systemidentifikation basierend auf Wahrscheinlichkeitslogik." Strukturelle Kontrolle und Gesundheitsüberwachung 17.7 (2010): 825-847.

Die von Cox abgeleiteten Axiome der Wahrscheinlichkeitslogik sind:

(P1): ( Konvention) $\Pr[b|a]\ge0$
(P2): (Negationsfunktion) $\Pr[\overline{b}|a]=1-\Pr[b|a]$
(P3): (Konjunktionsfunktion) $\Pr[b\cap c|a]=\Pr[c|b\cap a]\Pr[b|a]$

Die Axiome P1-P3 implizieren Folgendes (Beck, James L. "Bayesianische Systemidentifikation basierend auf der Wahrscheinlichkeitslogik." Structural Control and Health Monitoring 17.7 (2010): 825-847):

(P4): a) ; b) ; c) $\Pr[b|b\cap c] = 1$ $\Pr[\overline{b}|b\cap c] = 0$ $\Pr[b|c]\in[0,1]$
(P5): a) , b) , wobei bedeutet, dass in , und bedeutet, dass gleich . $\Pr[a|c \cap (a \Rightarrow b)]\le\Pr[b|c\cap(a \Rightarrow b)]$ $\Pr[a|c\cap(a \Leftrightarrow b)] = \Pr[b|c\cap(a \Leftrightarrow b)]$ $a \Rightarrow b$ $a$ $c$ $a \Leftrightarrow b$ $a$ $b$
(P6): $\Pr[a \cup b|c] = \Pr[a|c]+\Pr[b|c]-\Pr[a\cap b|c]$
(P7): Angenommen, Satz besagt, dass einer der Sätze wahr ist, dann: b 1 , … , b N
- a) Marginalisierungssatz: $\Pr[a|c]=\sum_{n=1}^N P[a \cap b_n|c]$
- b) Gesamtwahrscheinlichkeitssatz: $\Pr[a|c] = \sum_{n=1}^N \Pr[a|b_n\cap c]\Pr[b_n|c]$
- c) Bayessatz: Für : $k=1,\ldots,N$ $\Pr[b_k|a\cap c] = \frac{\Pr[a|b_k\cap c]\Pr[b_k|c]}{\sum_{n=1}^N \Pr[a|b_n\cap c]\Pr[b_n|c]}$

Sie implizieren Kolmogorovs Logikerklärung, die als Sonderfall angesehen werden kann.

Bei meiner Interpretation eines Bayes'schen Standpunkts ist alles (implizit) immer von unserem Glauben und unserem Wissen abhängig.

Der folgende Vergleich stammt von Beck (2010): Bayesianische Systemidentifikation basierend auf der Wahrscheinlichkeitslogik

Der bayesianische Standpunkt

Die Wahrscheinlichkeit ist ein Maß für die Plausibilität einer Aussage auf der Grundlage bestimmter Informationen.

Wahrscheinlichkeitsverteilungen repräsentieren Zustände plausiblen Wissens über Systeme und Phänomene, nicht deren inhärente Eigenschaften.
Die Wahrscheinlichkeit eines Modells ist ein Maß für seine Plausibilität im Vergleich zu anderen Modellen in einer Menge.
Quantifiziert die Unsicherheit aufgrund fehlender Informationen pragmatisch, ohne zu behaupten, dass dies auf die Zufälligkeit der Natur zurückzuführen ist.

Die häufigste Sichtweise

Wahrscheinlichkeit ist die relative Häufigkeit des Auftretens eines inhärent zufälligen Ereignisses auf lange Sicht .

Wahrscheinlichkeitsverteilungen sind inhärente Eigenschaften zufälliger Phänomene.
Eingeschränkter Geltungsbereich, z. B. keine Bedeutung für die Wahrscheinlichkeit eines Modells.
Inhärente Zufälligkeit wird angenommen, kann aber nicht nachgewiesen werden.

Wie man Kolmogorovs Axiome aus den obigen Axiomen ableitet

Im folgenden Abschnitt 2.2 von [Beck, James L. "Bayes'sche Systemidentifikation basierend auf Wahrscheinlichkeitslogik." Strukturelle Kontrolle und Gesundheitsüberwachung 17.7 (2010): 825-847.] Ist zusammengefasst:

Im Folgenden verwenden wir: Wahrscheinlichkeitsmaß für Teilmenge einer endlichen Menge : $\Pr(A)$ $A$ $X$

[K1]: $\Pr(A)\ge 0, \forall A \subset X$
[K2]: $\Pr(X) = 1$
[K3]: wenn und disjunkt sind. $\Pr(A\cup B)=\Pr(A)+\Pr(B), \forall A,B \subset X$ $A$ $B$

Um (K1-K3) aus den Axiomen der Wahrscheinlichkeitstheorie abzuleiten, führte [Beck, 2010] Propositon , das angibt und das Wahrscheinlichkeitsmodell für spezifiziert . [Beck, 2010] führt außerdem . $\pi$ $x\in X$ $x$ $\Pr(A) = \Pr[x\in A|\pi]$

P1 impliziert K1 mit und $b=\{x\in A\}$ $c=\pi$
K2 folgt aus ; P4 (a) und besagen, dass . $\Pr[x\in X|\pi]=1$ $\pi$ $x\in X$
K3 kann von P6 abgeleitet werden: und sind disjunkt bedeutet, dass sich und gegenseitig ausschließen. Daher ist K3: $A$ $B$ $x\in A$ $x\in B$ $\Pr(x\in A\cup B|\pi)=\Pr(x\in A|\pi)+\Pr(x\in B|\pi)$

— Gipfel
quelle

Von Ihrem K3 gelangen Sie zu (endliche Additivität), aber nicht zu Kolmogorovs 3. Axiom, (abzählbare Additivität), wenn die Elemente eines Feldes sind und nicht nur Teilmengen einer endlichen Menge.

Pr (\cup_{i = 1}^{n} A_{i}) = \sum_{i = 1}^{n} Pr (A_{i})

$\Pr(\cup_{i=1}^n A_i)=\sum_{i=1}^n\Pr(A_i)$

Pr (\cup_{i = 1}^{\infty} A_{i}) = \sum_{i = 1}^{\infty} Pr (A_{i})

$\Pr(\cup_{i=1}^\infty A_i)=\sum_{i=1}^\infty\Pr(A_i)$

A

$A$

σ

$\sigma$

— Scortchi - Wiedereinsetzung von Monica

@ Scortchi KRKoch zitiert in seiner Einführung in die Bayesianische Statistik Bernardo und Smith (1994), Bayesian Theory, p. 105, als eine Quelle, die zeigt, wie man mit zählbarer Unendlichkeit umgeht. Ich habe es nicht überprüft, aber als Referenz kann es auch hier angegeben werden.

— gwr

Nach der Entwicklung der Wahrscheinlichkeitstheorie musste gezeigt werden, dass lockerere Konzepte, die dem Namen "Wahrscheinlichkeit" entsprachen, dem streng definierten Konzept entsprachen, das sie inspiriert hatten. "Subjektive" Bayes'sche Wahrscheinlichkeiten wurden von Ramsey und de Finetti berücksichtigt, die unabhängig voneinander zeigten, dass eine Quantifizierung des Glaubensgrades unter den Bedingungen von Vergleichbarkeit und Kohärenz (Ihre Überzeugungen sind kohärent, wenn niemand ein niederländisches Buch gegen Sie verfassen kann) erforderlich ist eine Wahrscheinlichkeit sein.

Unterschiede zwischen Axiomatisierungen sind größtenteils Geschmackssache in Bezug darauf, was definiert und was abgeleitet werden sollte. Aber zählbare Additivität ist eine von Kolmogorovs, die nicht von Cox oder Finetti abgeleitet werden kann, und wurde kontrovers diskutiert. Einige Bayesianer (z. B. de Finetti & Savage) hören bei der endlichen Additivität auf und akzeptieren daher nicht alle Axiome von Kolmogorov. Sie können gleichmäßige Wahrscheinlichkeitsverteilungen über unendliche Intervalle ohne Unangemessenheit erstellen. Andere folgen Villegas, indem sie ebenfalls monotone Kontinuität annehmen und daraus eine zählbare Additivität ziehen.

Ramsey (1926), "Wahrheit und Wahrscheinlichkeit", in Ramsey (1931), Die Grundlagen der Mathematik und andere logische Aufsätze

de Finetti (1931), "Sul significato soggettivo della probabilità", Fundamenta Mathematicæ , 17 , S. 298 - 329

Villegas (1964), "Über qualitative Wahrscheinlichkeits- Algebren", Ann. Mathematik. Statist. , 35 , 4. $\sigma$

— Scortchi - Wiedereinsetzung von Monica
quelle

Warum sollte sich meine Antwort nur mit objektiven Bayes'schen Wahrscheinlichkeiten befassen? Das wegweisende Werk von Cox (1946) befasst sich explizit mit dem Thema Subjektivität! Es ist ein sehr interessantes und leicht zu lesendes Papier. Ich halte es nicht für sinnvoll, zwischen "subjektiven" und "objektiven" Bayes'schen Wahrscheinlichkeiten zu unterscheiden: Alles ist implizit immer an die Person gebunden, die die Analyse durchführt -> und diesbezüglich "subjektiv".

— Gipfeltreffen

Zur Herleitung der Axiome sagte Kolmogorov von Cox: Ich bin zufrieden mit der Art und Weise, wie sie in Abschnitt 2.2 von Beck, James L. "Bayesianische Systemidentifikation basierend auf Wahrscheinlichkeitslogik", durchgeführt wird. Strukturelle Kontrolle und Gesundheitsüberwachung 17.7 (2010): 825-847.

— Gipfeltreffen

@Summit: (1) Du hast recht; Es ist vielmehr so, dass Ramsey & de Finettis dispositionelle Sichtweise der Wahrscheinlichkeit sie direkt in das "subjektive" Lager bringt, wohingegen die von Cox allgemeiner anwendbar ist. (2) Wollen Sie damit sagen, dass sich aus den Postulaten von Cox abzählbare Additivität ableiten lässt ?

— Scortchi - Wiedereinsetzung von Monica

Ich habe meine Antwort erweitert und freue mich auf Ihre Kommentare.

— Gipfeltreffen

@Summit: Danke - ich hoffe, Zeit zu finden, um meine noch halb so gründlich zu machen. Ich habe auf die Lücke zwischen Cox 'Theorem und den "vollständigen" Kolmogorov-Axiomen hingewiesen und denke, dass diese Frage besonders wichtig ist (obwohl ich sie bei der ersten Beantwortung völlig vergessen hatte). Jaynes hatte einige interessante Dinge über diese BTW zu sagen.

— Scortchi