Gilt der Bayes-Satz für Erwartungen?

18

Stimmt es , dass für zwei Zufallsvariablen und , $A$ $B$

E (A ∣ B) = E (B ∣ A) \frac{E (A)}{E (B)} ?

$E(A\mid B)=E(B\mid A)\frac{E(A)}{E(B)}?$

bayesian mathematical-statistics

— Tomka
quelle

3

Hmm ... ich denke nicht, dass diese beiden Seiten gleichwertig sind

— Jon

6

Wie in den Antworten ausgeführt, ist die Frage aufgrund der Integration von Zufallsvariablen auf der einen Seite, die die Konditionierungsvariablen auf der anderen Seite sind, wahrscheinlich bedeutungslos.

— Xi'an

25

\begin{matrix} (1) & E [A ∣ B] \overset{?}{=} E [B ∣ A] \frac{E [A]}{E [B]} \end{matrix}

$E[A\mid B] \stackrel{?}= E[B\mid A]\frac{E[A]}{E[B]} \tag 1$ Das mutmaßliche Ergebnis ist für unabhängige Zufallsvariablen trivial wahr und mit ungleich Null bedeutet.

(1)

$(1)$

A

$A$

B

$B$

Wenn , dann beinhaltet die rechte Seite von eine Division durch und so ist bedeutungslos. Es ist nicht relevant , ob und unabhängig sind oder nicht. $E[B]=0$ $(1)$ $0$ $(1)$ $A$ $B$

Im Allgemeinen gilt nicht für abhängige Zufallsvariablen, es können jedoch spezifische Beispiele für abhängige und die erfüllen . Beachten Sie, dass wir weiterhin darauf bestehen müssen, dass , andernfalls ist die rechte Seite von bedeutungslos. Bedenken Sie, dass eine Zufallsvariable ist , die zufällig eine Funktion der Zufallsvariablen , sagen wir während eine Zufallsvariable ist , die eine Funktion der ist Zufallsvariable , sagen wir $(1)$ $A$ $B$ $(1)$ $E[B]\neq 0$ $(1)$ $E[A\mid B]$ $B$ $g(B)$ $E[B\mid A]$ $A$ $h(A)$ . Also, ist ähnlich zu der Frage , ob $(1)$

\begin{matrix} (2) & g (B) \overset{?}{=} h (A) \frac{E [A]}{E [B]} \end{matrix}

$g(B)\stackrel{?}= h(A)\frac{E[A]}{E[B]} \tag 2$ kann eine wahre Aussage sein, und offensichtlich lautet die Antwort, dass nicht a sein kann Vielfaches von im Allgemeinen.

g (B)

$g(B)$

h (A)

$h(A)$

Meines Wissens gibt es nur zwei Sonderfälle, in denen kann. $(1)$

Wie oben erwähnt, für unabhängige Zufallsvariablen und , und sind degenerierte Zufallsvariablen (genannt Konstanten , die durch statistisch Analphabeten Menschen) , die gleich und ist, und dann , wenn , wir haben die Gleichheit in . $A$ $B$ $g(B)$ $h(A)$ $E[A]$ $E[B]$ $E[B]\neq 0$ $(1)$
Angenommen, am anderen Ende des Spektrums von der Unabhängigkeit ist wobei eine invertierbare Funktion ist und somit und vollständig abhängige Zufallsvariablen sind. In diesem Fall ist $A=g(B)$ $g(\cdot)$ $A=g(B)$ $B=g^{-1}(A)$ und so wird zu
$E [A ∣ B] = g (B), E [B ∣ A] = g^{- 1} (A) = g^{- 1} (g (B)) = B$ $E[A\mid B] = g(B), \quad E[B\mid A] = g^{-1}(A) = g^{-1}(g(B)) = B$ $(1)$ das genau gilt, wennwobeieine beliebige reelle Zahl ungleich Null sein kann. Somit giltimmer dann, wennein skalares Vielfaches von, und natürlich mussungleich Null sein (vgl.Michael Hardys Antwort). Die obige Entwicklung zeigt, dasseinelineareFunktion sein muss und dass füraffineFunktionenmit $g (B) \overset{?}{=} B \frac{E [A]}{E [B]}$ $g(B)\stackrel{?}= B\frac{E[A]}{E[B]}$ $g(x) = \alpha x$ $\alpha$ $(1)$ $A$ $B$ $E[B]$ $g(x)$ $(1)$ $g(x) = \alpha x + \beta$ $\beta \neq 0$ . Beachten Sie jedoch, dass Alecos Papadopolous in seiner Antwort und seine Kommentare danach behauptet , dass , wenn eine normale Zufallsvariable mit Nicht - Null - Mittelwert, dann für bestimmte Werte von und , dass er sieht, und erfüllt . Meiner Meinung nach ist sein Beispiel falsch. $B$ $\alpha$ $\beta\neq 0$ $A=\alpha B+\beta$ $B$ $(1)$

In einem Kommentar zu dieser Antwort, Huber hat vorgeschlagen , die symmetrische vermutete Gleichheit unter Berücksichtigung , wer von natürlich gilt immer für unabhängige Zufallsvariablen unabhängig von den Werten von und und für skalare Vielfache auch. Trivialer gilt natürlich für alle Zufallsvariablen und Mittelwert Null (unabhängig oder abhängig, skalares Vielfaches oder nicht; es spielt keine Rolle!): ist ausreichend für die Gleichheit in . Daher ist möglicherweise nicht so interessant wie

\begin{matrix} (3) & E [A ∣ B] E [B] \overset{?}{=} E [B ∣ A] E [A] \end{matrix}

$E[A\mid B]E[B] \stackrel{?}=E[B\mid A]E[A]\tag{3}$

E [A]

$E[A]$

E [B]

$E[B]$

A = α B

$A = \alpha B$

(3)

$(3)$

A

$A$

B

$B$

E [A] = E [B] = 0

$E[A]=E[B]=0$

(3)

$(3)$

(3)

$(3)$

(1)

$(1)$ als Diskussionsthema.

— Dilip Sarwate
quelle

9

+1. Um großzügig zu sein, könnte die Frage so interpretiert werden, dass gefragt wird, ob , wobei die Frage der Division durch Null verschwindet.

E (A | B) E (B) = E (B | A) E (A)

$E(A|B)E(B)=E(B|A)E(A)$

— Whuber

1

@whuber Danke. Meine Bearbeitung befasst sich mit der allgemeineren Frage, ob es möglich ist, .

E [A ∣ B] E [B] = E [B ∣ A] E [A]

$E[A\mid B]E[B]=E[B\mid A]E[A]$

— Dilip Sarwate

11

Das Ergebnis ist im Allgemeinen falsch. Lassen Sie uns das an einem einfachen Beispiel sehen. Es sei eine Binomialverteilung mit den Parametern und die Betaverteilung mit den Parametern , dh ein Bayes'sches Modell mit konjugiertem Prior. Berechnen Sie jetzt einfach die beiden Seiten Ihrer Formel. Die linke Seite ist , während die rechte Seite und die sind sicher nicht gleich. $X \mid P=p$ $n,p$ $P$ $(\alpha, \beta)$ $\DeclareMathOperator{\E}{\mathbb{E}} \E X \mid P = nP$

E (P ∣ X) \frac{E X}{E P} = \frac{α + X}{n + α + β} \frac{α / (α + β)}{n α / (α + β)}

$\E( P\mid X) \frac{\E X}{\E P} = \frac{\alpha+X}{n+\alpha+\beta} \frac{\alpha/(\alpha+\beta)}{n\alpha/(\alpha+\beta)}$

— kjetil b halvorsen
quelle

2

Der bedingte Erwartungswert einer Zufallsvariablen unter der Voraussetzung, dass eine Zahl ist, die davon abhängt, welche Zahl ist. Also nenne es Dann wird der bedingte erwartete Wert ist , eine Zufallsvariable , deren Wert vollständig durch den Wert der Zufallsvariablen bestimmt wird , . Also ist eine Funktion von und $A$ $B=b$ $b$ $h(b).$ $\operatorname{E}(A\mid B)$ $h(B),$ $B$ $\operatorname{E}(A\mid B)$ $B$ ist eine Funktion von . $\operatorname{E}(B\mid A)$ $A$

Der Quotient ist nur eine Zahl. $\operatorname{E}(A)/\operatorname{E}(B)$

Eine Seite Ihrer vorgeschlagenen Gleichheit wird also von und die andere von , sodass sie im Allgemeinen nicht gleich sein können. $A$ $B$

(Vielleicht sollte ich hinzufügen, dass sie im trivialen Fall gleich sein können, wenn die Werte von und sich gegenseitig bestimmen, wie zum Beispiel, wenn und , wenn $A$ $B$ $A = \alpha B, \alpha \neq 0$ $E[B]\neq 0$ Funktionen, die nur an wenigen Stellengleichsind, sind jedochnichtgleich.)

E [A ∣ B] = α B = E [B ∣ A] \cdot α = E [B ∣ A] \frac{α E [B]}{E [B]} = E [B ∣ A] \frac{E [A]}{E [B]} .

$E[A\mid B] = \alpha B = E[B\mid A]\cdot\alpha = E[B\mid A]\frac{\alpha E[B]}{E[B]} = E[B\mid A]\frac{E[A]}{E[B]}.$

— Michael Hardy
quelle

Du meinst, sie sind nicht unbedingt gleich? Ich meine, sie können gleich sein?

— BCLC

1

@ BCLC: Sie sind nur in trivialen Fällen gleich. Und zwei Funktionen, die an einigen Punkten gleich sind und an anderen nicht, sind nicht gleich.

— Michael Hardy

2

"Aber nur in diesem trivialen Fall können sie gleich sein" (Hervorhebung hinzugefügt) ist nicht ganz richtig. Betrachten Sie unabhängig

und

mit

. Dann ist

während

und so

A

$A$

B

$B$

E [B] \neq 0

$E[B]\neq 0$

E [A ∣ B] = E [A]

$E[A\mid B] = E[A]$

E [B ∣ A] = E [B]

$E[B\mid A] = E[B]$

E [B ∣ A] \frac{E [A]}{E [B]} = E [B] \frac{E [A]}{E [B]} = E [A] = E [A ∣ B] .

$E[B\mid A] \frac{E[A]}{E[B]} = E[B]\frac{E[A]}{E[B]} = E[A] = E[A\mid B].$

— Dilip Sarwate

@ DilipSarwate Ich wollte gerade sagen, dass haha!

— BCLC

Ich habe Ihre Antwort bearbeitet, um einige Details für den Fall hinzuzufügen, auf den Sie hingewiesen haben. Bitte machen Sie einen Rollback, wenn Ihnen die Änderungen nicht gefallen.

— Dilip Sarwate

-1

Der Ausdruck gilt sicherlich nicht im Allgemeinen. Zum Spaß zeige ich unten, dass, wenn und gemeinsam einer bivariaten Normalverteilung folgen und Mittelwerte ungleich Null haben, das Ergebnis gilt, wenn die beiden Variablen lineare Funktionen voneinander sind und denselben Variationskoeffizienten haben ( das Verhältnis der Standardabweichung zum Mittelwert) in absoluten Zahlen. $A$ $B$

Für gemeinsam Normalen haben wir

E (A ∣ B) = μ_{A} + ρ \frac{σ_{A}}{σ_{B}} (B - μ_{B})

$\operatorname{E}(A \mid B) = \mu_A + \rho \frac{\sigma_A}{\sigma_B}(B - \mu_B)$

und wir wollen aufzwingen

μ_{A} + ρ \frac{σ_{A}}{σ_{B}} (B - μ_{B}) = [μ_{B} + ρ \frac{σ_{B}}{σ_{A}} (A - μ_{A})] \frac{μ_{A}}{μ_{B}}

$\mu_A + \rho \frac{\sigma_A}{\sigma_B}(B - \mu_B) = \left[\mu_B + \rho \frac{\sigma_B}{\sigma_A}(A - \mu_A)\right]\frac{\mu_A}{\mu_B}$

⟹ μ_{A} + ρ \frac{σ_{A}}{σ_{B}} (B - μ_{B}) = μ_{A} + ρ \frac{σ_{B}}{σ_{A}} \frac{μ_{A}}{μ_{B}} (A - μ_{A})

$\implies \mu_A + \rho \frac{\sigma_A}{\sigma_B}(B - \mu_B) = \mu_A + \rho \frac{\sigma_B}{\sigma_A}\frac{\mu_A}{\mu_B}(A - \mu_A)$

Vereinfache und dann und ordne es neu an $\mu_A$ $\rho$

B = μ_{B} + \frac{σ_{B}^{2}}{σ_{A}^{2}} \frac{μ_{A}}{μ_{B}} (A - μ_{A})

$B = \mu_B +\frac{\sigma^2_B}{\sigma^2_A}\frac{\mu_A}{\mu_B}(A - \mu_A)$

Dies ist also die lineare Beziehung, die zwischen den beiden Variablen bestehen muss (sie sind also sicherlich abhängig, wobei der Korrelationskoeffizient absolut gleich eins ist), um die gewünschte Gleichheit zu erhalten. Was heißt das?

Erstens muss auch das befriedigt werden

E (B) \equiv μ_{B} = μ_{B} + \frac{σ_{B}^{2}}{σ_{A}^{2}} \frac{μ_{A}}{μ_{B}} (E (A) - μ_{A}) ⟹ μ_{B} = μ_{B}

$E(B) \equiv \mu_B = \mu_B+\frac{\sigma^2_B}{\sigma^2_A}\frac{\mu_A}{\mu_B}(E(A) - \mu_A) \implies \mu_B = \mu_B$

so wird dem Mittelwert von (oder von ) keine andere Einschränkung auferlegt, außer dass sie nicht Null sind. Auch eine Relation für die Varianz muss erfüllt sein, $B$ $A$

Var (B) \equiv σ_{B}^{2} = {(\frac{σ_{B}^{2}}{σ_{A}^{2}} \frac{μ_{A}}{μ_{B}})}^{2} Var (A)

$\operatorname{Var}(B) \equiv \sigma^2_B = \left(\frac{\sigma^2_B}{\sigma^2_A}\frac{\mu_A}{\mu_B}\right)^2\operatorname{Var}(A)$

⟹ {(σ_{A}^{2})}^{2} σ_{B}^{2} = {(σ_{B}^{2})}^{2} σ_{A}^{2} {(\frac{μ_{A}}{μ_{B}})}^{2}

$\implies \left(\sigma^2_A\right)^2\sigma^2_B = \left(\sigma^2_B\right)^2\sigma^2_A\left(\frac{\mu_A}{\mu_B}\right)^2$

⟹ {(\frac{σ_{A}}{μ_{A}})}^{2} = {(\frac{σ_{B}}{μ_{B}})}^{2} ⟹ ({cv}_{A})^{2} = ({cv}_{B})^{2}

$\implies \left(\frac{\sigma_A}{\mu_A}\right)^2 = \left(\frac{\sigma_B}{\mu_B}\right)^2 \implies (\text{cv}_A)^2 = (\text{cv}_B)^2$

⟹ | {cv}_{A} | = | {cv}_{B} |

$\implies |\text{cv}_A| = |\text{cv}_B|$

was gezeigt werden sollte.

Es ist zu beachten, dass die Gleichheit des Variationskoeffizienten in absoluten Zahlen ermöglicht, dass die Variablen unterschiedliche Varianzen aufweisen, und dass eine einen positiven Mittelwert und die andere einen negativen hat.

— Alecos Papadopoulos
quelle

1

A = α B

$A = \alpha B$

α

$\alpha$

1

A

$A$

B

$B$

A = α B

$A = \alpha B$

E [A ∣ B] = α B = A

$E[A\mid B] = \alpha B = A$

E [B ∣ A] = B

$E[B\mid A] = B$

E [B] \neq 0

$E[B]\neq 0$

E [A ∣ B] = α B = E [B ∣ A] \cdot α = E [B ∣ A] \frac{α E [B]}{E [B]} = E [B ∣ A] \frac{E [A]}{E [B]} .

$E[A\mid B] = \alpha B = E[B\mid A]\cdot\alpha = E[B\mid A]\frac{\alpha E[B]}{E[B]} = E[B\mid A]\frac{E[A]}{E[B]}.$

| c v_{A} | = | c v_{B} |

$|cv_A|=|cv_B|$

a Var X

$a\text{Var}X$

a Var (X)

$a\text{Var}(X)$

a Var X

$a\operatorname{Var}X$

a Var (X) .

$a\operatorname{Var}(X).$

A = a B

$A=aB$

2

B

$B$

E [B] = μ_{B} \neq 0

$E[B]=\mu_B\neq 0$

A = c B + d

$A=c B+d$

B = \frac{A - d}{c}

$B=\frac{A-d}{c}$

E [A ∣ B] = c B + d = A, E [B ∣ A] = \frac{A - d}{c} = B .

$E[A\mid B]=cB+d=A, E[B\mid A]=\frac{A-d}{c}=B.$

E [A ∣ B] = c B + d

$E[A\mid B]=cB+d$

E [B ∣ A] \cdot \frac{μ_{A}}{μ_{B}} = B \cdot \frac{μ_{A}}{μ_{B}}

$E[B\mid A]\cdot\frac{\mu_A}{\mu_B} =B\cdot\frac{\mu_A}{\mu_B}$

c B + d = B \cdot \frac{μ_{A}}{μ_{B}} ⟹ d = 0, c = \frac{μ_{A}}{μ_{B}}

$cB+d=B\cdot\frac{\mu_A}{\mu_B}\implies d=0,c=\frac{\mu_A}{\mu_B}$

A = c B = \frac{μ_{A}}{μ_{B}} B

$A=cB=\frac{\mu_A}{\mu_B}B$

B

$B$

A = c B

$A=cB$

A = c B + d, d \neq 0

$A=cB+d, d\neq 0$

A = c B + d, d \neq 0

$A=cB+d, d\neq 0$