Intuition für die bedingte Erwartung von

Sei ein Wahrscheinlichkeitsraum mit einer Zufallsvariablen und einer -algebra Wir können eine neue Zufallsvariable , die die bedingte Erwartung ist.$(\Omega,\mathscr{F},\mu)$$\xi:\Omega \to \mathbb{R}$$\sigma$$\mathscr{G}\subseteq \mathscr{F}$$E[\xi|\mathscr{G}]$

Was genau ist die Intuition, über ? Ich verstehe die Intuition für Folgendes:$E[\xi|\mathscr{G}]$

(i) wobei ein Ereignis ist (mit positiver Wahrscheinlichkeit).$E[\xi|A]$$A$

(ii) wobei eine diskrete Zufallsvariable ist.$E[\xi|\eta]$$\eta$

Aber ich kann mir nicht . Ich verstehe die Mathematik und ich verstehe, dass sie so definiert ist, dass die einfacheren Fälle, die wir uns vorstellen können, verallgemeinert werden. Dennoch finde ich diese Denkweise nicht sinnvoll. Es bleibt ein mysteriöses Objekt für mich.$E[\xi|\mathscr{G}]$

Beispielsweise sei ein Ereignis mit . Bilden Sie die -algebra , die von generiert wurde . Dann wäre gleich wenn und gleich wenn . Mit anderen Worten, if und if .$A$$\mu(A)>0$$\sigma$$\mathscr{G} = \{ \emptyset, A, A^c, \Omega\}$$A$$E[\xi|\mathscr{G}](\omega)$$\frac{1}{\mu(A)} \int_A \xi$$\omega \in A$& ohgr;∉AE$\frac{1}{\mu(A^c)} \int_{A^c} \xi$$\omega \not \in A$$E[\xi|\mathscr{G}](\omega) = E[\xi|A]$$\omega\in A$$E[\xi|\mathscr{G}](\omega) = E[\xi|A^c]$$\omega \in A^c$

Der verwirrende Teil ist das . Warum schreiben wir also nicht einfach ? Warum ersetzen wir durch abhängig davon, ob , aber nicht zulässig ist, durch zu ersetzen ?E [ ξ | G ] ( ω ) = E [ ξ | Ω ] = E [ ξ ] E [ ξ | G ] E [ ξ | A  oder  A c ] ω ∈ A E [ ξ | G ] E [ ξ $\omega \in \Omega$$E[\xi|\mathscr{G}](\omega) = E[\xi|\Omega] = E[\xi]$$E[\xi|\mathscr{G}]$$E[\xi| A\text{ or } A^c]$$\omega\in A$$E[\xi|\mathscr{G}]$$E[\xi]$

Hinweis. Erklären Sie dies bei der Beantwortung dieser Frage nicht anhand der strengen Definition der bedingten Erwartung. Ich verstehe das. Was ich verstehen möchte, ist, was die bedingte Erwartung berechnen soll und warum wir eins anstelle des anderen ablehnen.

Eine Möglichkeit , über bedingte Darstellung zu denken ist als Projektion auf die -Algebra G .$\sigma$$\mathscr{G}$

( aus Wikimedia Commons )

Dies gilt konsequent für quadratisch integrierbare Zufallsvariablen. in diesem Fall ist eigentlich die orthogonale Projektion der Zufallsvariablen ξ auf den Unterraum von L 2 ( Ω ), die aus Zufallsvariablen besteht, die in Bezug auf G messbar sind . Tatsächlich stellt sich heraus, dass dies in gewissem Sinne für L 1 -Zufallsvariablen durch Annäherung an L 2 -Zufallsvariablen zutrifft .$\mathbb{E}[\xi|\mathscr{G}]$$\xi$$L^2(\Omega)$$\mathscr{G}$$L^1$$L^2$

(Siehe die Kommentare für Referenzen.)

Betrachtet man Algebren als Repräsentation der verfügbaren Informationen (eine Interpretation, die in der Theorie stochastischer Prozesse unabdingbar ist), so bedeuten größere σ - Algebren mehr mögliche Ereignisse und damit mehr Informationen über mögliche Ergebnisse, während kleinere σ - Algebren bedeuten weniger mögliche Ereignisse und damit weniger Informationen über mögliche Ergebnisse.$\sigma-$$\sigma-$$\sigma-$

Daher bedeutet das Projizieren der messbaren Zufallsvariablen ξ auf die kleinere σ - Algebra G, dass wir unsere beste Schätzung für den Wert von ξ treffen, wenn man die begrenzteren Informationen von G berücksichtigt .$\mathscr{F}$$\xi$$\sigma-$$\mathscr{G}$$\xi$$\mathscr{G}$

Mit anderen Worten, wenn nur die Informationen von und nicht die gesamten Informationen von F , E [ ξ | gegeben sind G ] ist in einem strengen Sinne unsere bestmögliche Schätzung für das, was der Zufallsvariable ξ ist.$\mathscr{G}$$\mathscr{F}$$\mathbb{E}[\xi|\mathscr{G}]$$\xi$

In Bezug auf Ihr Beispiel denke ich, dass Sie zufällige Variablen und ihre Werte verwirren könnten. Eine Zufallsvariable ist eine Funktion, deren Domäne der Ereignisraum ist. Es ist keine Zahl. Mit anderen Worten, X : Ω → R , X ∈ { f | f : & OHgr; → R } , während für ein ω ∈ & OHgr; , X ( ω ) ∈ R .$X$$X: \Omega \to \mathbb{R}$$X \in \{f\ |\ f: \Omega \to \mathbb{R} \}$$\omega \in \Omega$$X(\omega)\in\mathbb{R}$

Die Notation für bedingte Erwartung ist meiner Meinung nach wirklich schlecht, weil es sich um eine Zufallsvariable handelt, dh auch um eine Funktion . Die (regelmäßige) Erwartung einer Zufallsvariablen ist dagegen eine Zahl . Die bedingte Erwartung einer Zufallsvariablen ist eine völlig andere Größe als die Erwartung derselben Zufallsvariablen, dh "prüft" nicht einmal mit E [ ξ ] .$\mathbb{E}[\xi|\mathscr{G}]$$\mathbb{E}[\xi]$

Mit anderen Worten, die Verwendung des Symbols , um sowohl die reguläre als auch die bedingte Erwartung zu kennzeichnen, ist ein sehr großer Missbrauch der Notation, der zu unnötiger Verwirrung führt.$\mathbb{E}$

Beachten Sie, dass ist eine Zahl (der Wert der Zufallsvariablen E [ ξ | G ], die mit dem Wert ω bewertet wird ), aber E [ ξ | Ω ] ist eine Zufallsvariable, stellt sich aber als konstante Zufallsvariable heraus (dh trivial entartet), da die durch Ω , { ∅ , Ω } erzeugte σ- Algebra$\mathbb{E}[\xi|\mathscr{G}](\omega)$$\mathbb{E}[\xi|\mathscr{G}]$$\omega$$\mathbb{E}[\xi|\Omega]$$\sigma$$\Omega$$\{ \emptyset, \Omega\}$ist trivial / degeneriert, und dann ist der konstante Wert dieser konstanten Zufallsvariablen technisch gesehen , wobei E reguläre Erwartung und damit eine Zahl, nicht bedingte Erwartung und damit keine Zufallsvariable bezeichnet.$\mathbb{E}[\xi]$$\mathbb{E}$

Sie scheinen auch verwirrt darüber zu sein, was die Notation bedeutet; technisch ist es nur möglich, an σ - algebren zu konditionieren , nicht an einzelne ereignisse, da wahrscheinlichkeitsmaße nur an vollständigen σ - algebren definiert werden, nicht an einzelne ereignisse. Somit ist E [ ξ | A ] ist nur eine (faule) Abkürzung für E [ ξ | σ ( A ) ] , wobei σ ( A ) für σ $\mathbb{E}[\xi|A]$$\sigma-$$\sigma-$$\mathbb{E}[\xi|A]$$\mathbb{E}[\xi|\sigma(A)]$$\sigma(A)$$\sigma-$Algebra, die durch das Ereignis erzeugt wird , das { ∅ , A , A c , Ω } ist . Man beachte , dass σ ( A ) = G = σ ( A c ) ; mit anderen Worten, E [ ξ | A ] , E [ ξ | G ] und E [ ξ | A c ] sind verschiedene Möglichkeiten, um genau dasselbe Objekt zu bezeichnen .$A$$\{ \emptyset, A, A^c, \Omega\}$$\sigma(A) = \mathscr{G} = \sigma(A^c)$$\mathbb{E}[\xi|A]$$\mathbb{E}[\xi|\mathscr{G}]$$\mathbb{E}[\xi|A^c]$

Abschließend möchte ich nur hinzufügen, dass die oben gegebene intuitive Erklärung erklärt, warum der konstante Wert der Zufallsvariablen ist nur die Zahl E [ ξ ] - die σ - Algebra { ∅ , Ω $\mathbb{E}[\xi|\Omega]=\mathbb{E}[\xi|\sigma(\Omega)]= \mathbb{E}[\xi| \{ \emptyset, \Omega\}]$$\mathbb{E}[\xi]$$\sigma-$$\{ \emptyset, \Omega\}$stellt die geringstmögliche Menge an Informationen dar, die wir haben könnten, im Grunde genommen keine Informationen. Unter diesen extremen Umständen ist die bestmögliche Schätzung, für welche Zufallsvariable die konstante Zufallsvariable ist, deren konstanter Wert E [ ξ ] ist .$\xi$$\mathbb{E}[\xi]$

Es ist zu beachten, dass alle konstanten Zufallsvariablen -Zufallsvariablen sind und alle in Bezug auf die triviale σ- Algebra { ∅ , Ω } messbar sind. Wir haben also tatsächlich die konstante Zufallsvariable E [ ξ ] als orthogonale Projektion von ξ auf den Unterraum von L 2 ( Ω ) , der aus zufälligen Variablen besteht, die in Bezug auf { ∅ , Ω } messbar sind , wie beansprucht.$L^2$$\sigma$$\{\emptyset, \Omega\}$$\mathbb{E}[\xi]$$\xi$$L^2(\Omega)$$\{\emptyset, \Omega\}$

Ich werde versuchen, das auszuarbeiten, was William vorgeschlagen hat.

Sei der Probenraum, in dem eine Münze zweimal geworfen wird. Definieren Sie den ran. var. ξ um die Nummer zu sein. von Köpfen, die im Experiment auftreten. Es ist klar, dass E [ ξ ] = 1 ist . Eine Art zu denken, was 1 , als eine Erwartung. value, represent ist die bestmögliche Schätzung für ξ . Wenn wir raten müssten, welchen Wert ξ annehmen würde, würden wir 1 annehmen . Dies liegt daran, dass E [ ( ξ - 1 ) 2 ] ≤ E [ ( ξ - a ) $\Omega$$\xi$$E[\xi] = 1$$1$$\xi$$\xi$$1$ für jede reelle Zahl a .$E[(\xi - 1)^2] \leq E[(\xi - a)^2]$$a$

Bezeichne mit den Fall, dass das erste Ergebnis ein Kopf ist. Sei G = { ∅ , A , A c , Ω } das σ- alg. gen. von A . Wir denken an G als Repräsentation dessen, was wir nach dem ersten Wurf wissen. Nach dem ersten Wurf traten entweder Köpfe auf oder es traten keine Köpfe auf. Wir befinden uns also entweder im Ereignis A oder A c nach dem ersten Wurf.$A = \{ HT, HH \}$$\mathscr{G} = \{ \emptyset, A, A^c, \Omega\}$$\sigma$$A$$\mathscr{G}$$A$$A^c$

Wenn wir im Fall sind , dann die bestmögliche Schätzung für ξ wäre E [ ξ | A ] = 1,5 , und wenn wir im Fall sind A c , dann ist die bestmögliche Schätzung für ξ wäre E [ ξ | A c ] = 0,5 .$A$$\xi$$E[\xi|A] = 1.5$$A^c$$\xi$$E[\xi|A^c] = 0.5$

Definieren Sie nun den ran. var. ist entweder 1,5 oder 0,5, abhängig davon, ob ω ∈ A ist oder nicht . Das lief. var. η , ist eine bessere Näherung als 1 = E [ ξ ], da E [ ( ξ - η ) 2 ] ≤ E [ ( ξ - 1 ) 2 ] ist .$\eta(\omega)$$1.5$$0.5$$\omega\in A$$\eta$$1 = E[\xi]$$E[(\xi - \eta)^2] \leq E[(\xi -1)^2]$

Was tut, ist die Antwort auf die Frage: Was ist die beste Schätzung von ξ nach dem ersten Wurf? Da wir die Information nach dem ersten Wurf nicht kennen, wird η von A abhängen . Sobald das Ereignis G uns offenbart ist, wird nach dem ersten Wurf der Wert von η bestimmt und liefert die bestmögliche Schätzung für ξ . $\eta$$\xi$$\eta$$A$$\mathscr{G}$$\eta$$\xi$

Das Problem bei der Verwendung von als eigene Schätzung, dh 0 = E [ ( ξ - ξ ) 2 ] ≤ E [ ( ξ - η ) 2 ], ist wie folgt. ξ ist nach dem ersten Wurf nicht gut definiert. Angenommen, das Ergebnis des Experiments ist ω, wobei das erste Ergebnis Kopf ist. Wir befinden uns im Ereignis A , aber was ist ξ ( ω ) = ? Wir wissen nicht , von nur den ersten Wurf, dass Wert für uns eindeutig ist, und so $\xi$$0=E[(\xi - \xi)^2] \leq E[(\xi - \eta)^2]$$\xi$$\omega$$A$$\xi(\omega)=?$$\xi$ist nicht gut definiert. Genauer gesagt, sagen wir, dass nicht G- messbar ist, dh sein Wert ist nach dem ersten Wurf nicht genau definiert. Somit ist η die bestmögliche Schätzung von ξ nach dem ersten Wurf.$\xi$$\mathscr{G}$$\eta$$\xi$

Vielleicht kann sich hier jemand ein komplexeres Beispiel aus dem Abtastraum mit ξ ( ω ) = ω und G einer nicht-trivialen σ- Algebra einfallen lassen.$[0,1]$$\xi (\omega) = \omega$$\mathscr{G}$$\sigma$

Sie fordern zwar auf, die formale Definition nicht zu verwenden, aber ich denke, dass die formale Definition wahrscheinlich die beste Art ist, sie zu erklären.

Wikipedia - bedingte Erwartung :

Dann ist eine als E ( X ∣ H ) bezeichnete bedingte Erwartung von X bei gegebenem eine beliebige H- messbare Funktion ( Ω → R n ), die erfüllt:$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle \operatorname {E} (X\mid {\mathcal {H}})$$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle \Omega \to \mathbb {R} ^{n}$

$\displaystyle \int _{H}\operatorname {E} (X\mid {\mathcal {H}})\;dP=\int _{H}X\;dP\qquad {\text{for each}}\quad H\in {\mathcal {H}}$

Erstens ist es eine messbare Funktion. Zweitens muss es die Erwartung über jede messbare (Unter-) Menge in H erfüllen . Also für ein Ereignis, A, der Sigma - Algebra ist { A , A C , ∅ , Ω } , so klar wird eingestellt , wie Sie in Ihrer Frage angegeben für & ohgr; & egr ; A / A c . In ähnlicher Weise listen wir für jede diskrete Zufallsvariable (und Kombinationen davon) alle primitiven Ereignisse auf und ordnen die Erwartung für dieses primitive Ereignis zu.$\displaystyle \scriptstyle {\mathcal {H}}$$\displaystyle \scriptstyle {\mathcal {H}}$$\{A,A^C,\emptyset, \Omega\}$$\omega \in A/A^c$

Betrachten wir nun eine Münze eine unendliche Anzahl von Zeiten zu werfen, wo ich bei jedem Wurf, erhalten Sie , wenn Ihre Münze Schwänze dann Ihre gesamten Gewinne ist sind X = & Sgr; ∞ i = 1$1/2^i$wobeici= 1 für Schwänze und 0 für Köpfe. Dann ist X eine echte Zufallsvariable für[0,1]. Nach n Münzwürfen, weiß man den Wert von X zu Genauigkeit1/2n,Beispiel nach 2 Münze wirft es in [0,1 / 4], [1 / 4,1 / 2], [1 / 2,3 / 4] oder [3 / 4,1] - Nach jedem Münzwurf wird Ihre Sigma-Algebra immer feiner und die bedingte Erwartung von X wird immer präziser.$X=\sum _{i=1}^\infty \frac{1}{2^i}c_i$$c_i$$[0,1]$$1/2^n$

Hoffentlich entfernt Sie dieses Beispiel einer Zufallsvariablen mit einem reellen Wert und einer Folge von Sigma-Algebren, die immer feiner werden (Filtration), von der rein ereignisbasierten Intuition, die Sie gewohnt sind, und verdeutlicht deren Zweck.