Sind die Zufallsvariablen

Können wir etwas über die Abhängigkeit einer Zufallsvariablen und eine Funktion einer Zufallsvariablen sagen? Zum Beispiel ist $X^2$ abhängig von $X$ ?

probability random-variable

— Rohit Banga
quelle

Wenn

X

$X$ und

f (X)

$f(X)$ unabhängig sind, ist

f (X)

$f(X)$ fast sicher konstant. Das heißt, es gibt

a

$a$ solche, dass

P (f (X) = a) = 1

$\mathbb P(f(X) = a) = 1$ .

— Kardinal

@ Kardinal-warum das nicht eine Antwort machen ?

— Karl

@ Cardinal, ich wollte John bitten, auf seinen Kommentar einzugehen. Ich nahm an, dass die betrachtete Funktion eine gegebene deterministische Funktion war. Dabei schrieb ich ein Argument für das von Ihnen angegebene Ergebnis auf. Alle Kommentare sind herzlich willkommen und geschätzt.

— NRH

Ja,

X^{2}

$X^2$ ist abhängig von

X

$X$ , denn wenn Sie

X

$X$ kennen, kennen Sie

X^{2}

$X^2$ .

X

$X$ und

Y

$Y$ sind nur dann unabhängig, wenn die Kenntnis des Wertes

X

$X$ Ihre Kenntnis der Verteilung von

nicht beeinflusst hat

Y

$Y$ .

— Henry

@iamrohitbanga: Wenn

X \in {- 1, 1}

$X \in \{-1,1\}$ dann ist

X^{2} = 1

$X^2 = 1$ fast sicher. Also,

X

$X$ ist unabhängig von

X^{2}

$X^2$ in diesem besonderen Fall.

— Kardinal

Antworten:

Hier ist ein Beweis für @ cardinals Kommentar mit einer kleinen Wendung. Wenn und unabhängig sind, dann ist $X$ $f(X)$ Wennergibt sich die Gleichung die die beiden Lösungen 0 und 1 hat. Somit ist

\begin{array}{lcl} P (X \in A \cap f^{- 1} (B)) & = & P (X \in A, f (X) \in B) \\ = & P (X \in A) P (f (X) \in B) \\ = & P (X \in A) P (X \in f^{- 1} (B)) \end{array}

$\begin{array}{lcl} P(X \in A \cap f^{-1}(B)) & = & P(X \in A, f(X) \in B) \\ & = & P(X \in A) P(f(X) \in B) \\ & = & P(X \in A) P(X \in f^{-1}(B)) \end{array}$

A = f^{- 1} (B)

$A = f^{-1}(B)$

P (f (X) \in B) = P (f (X) \in B)^{2},

$P(f(X) \in B) = P(f(X) \in B)^2,$

für alle

. Mehr kann man nicht sagen. Wenn

und

unabhängig sind, dann ist

eine Variable, so dass es für jedes

entweder in

oder in

mit Wahrscheinlichkeit 1 ist. Um mehr zu sagen, braucht man mehr Annahmen, zB dass Singleton-Mengen

sind messbar.

P (f (X) \in B) \in {0, 1}

$P(f(X) \in B) \in \{0, 1\}$

B

$B$

X

$X$

f (X)

$f(X)$

f (X)

$f(X)$

B

$B$

B

$B$

B^{c}

$B^c$

{b}

$\{b\}$

Einzelheiten auf der Ebene der Maßnahmetheorie scheinen jedoch nicht das Hauptanliegen des OP zu sein. Wenn reell ist und eine reelle Funktion ist (und wir verwenden beispielsweise die Borel -Algebra), folgt aus der Annahme von , dass die Verteilungsfunktion für die Verteilung von nur die nimmt Werte 0 und 1, daher gibt es ein bei dem von nach und $X$ $f$ $\sigma$ $B = (-\infty, b]$ $f(X)$ $b$ $0$ $1$ $P(f(X) = b) = 1$ .

Letztendlich lautet die Antwort auf die Frage des OP: und sind im Allgemeinen abhängig und nur unter ganz besonderen Umständen unabhängig. Darüber hinaus ist das Dirac-Maß für eine bedingte Verteilung von bei immer ist eine formale Möglichkeit zu sagen, dass Sie genau wissen, was , wenn Sie kennen. $X$ $f(X)$ $\delta_{f(x)}$ $f(X)$ $X = x$ $X = x$ $f(X)$ ist. Diese spezielle Form der Abhängigkeit mit einer entarteten bedingten Verteilung ist charakteristisch für Funktionen von Zufallsvariablen.

— NRH
quelle

(+1) Entschuldigung. Während ich meine Antwort verfasste, erhielt ich kein Update, das Sie ebenfalls eingereicht hatten. :)

— Kardinal

Lemma : Sei eine Zufallsvariable und sei eine (Borel-messbare) Funktion, so dass und unabhängig sind. Dann ist fast sicher konstant. Das heißt, es gibt etwas so dass . $X$ $f$ $X$ $f(X)$ $f(X)$ $a \in \mathbb R$ $\mathbb P(f(X) = a) = 1$

Der Beweis ist unten; aber zuerst einige Bemerkungen. Die Borel-Messbarkeit ist nur eine technische Bedingung, um sicherzustellen, dass wir Wahrscheinlichkeiten auf vernünftige und konsistente Weise zuordnen können. Die "fast sicher" Aussage ist auch nur eine technische Angelegenheit.

Das Wesen des Lemmas ist, dass, wenn wir wollen, dass und unabhängig sind, unsere einzigen Kandidaten Funktionen der Form $X$ $f(X)$ $f(x) = a$ .

Vergleichen Sie dies mit dem Fall von Funktionen , bei denen und nicht korreliert sind . Dies ist ein sehr viel schwächerer Zustand. Betrachten Sie in der Tat eine beliebige Zufallsvariable mit dem Mittelwert Null, einem endlichen absoluten dritten Moment und einer Symmetrie um Null. Nehmen Sie , wie im Beispiel in der Frage. Dann ist $f$ $X$ $f(X)$ $X$ $f(x) = x^2$ nicht korreliert. , also und $\mathrm{Cov}(X,f(X)) = \mathbb E Xf(X) = \mathbb E X^3 = 0$ $X$ $f(X) = X^2$

Im Folgenden gebe ich den einfachsten Beweis, den ich für das Lemma finden konnte. Ich habe es außerordentlich ausführlich gemacht damit alle Details so offensichtlich wie möglich sind. Wenn jemand Möglichkeiten zur Verbesserung oder Vereinfachung sieht, würde ich gerne davon erfahren.

Beweisidee : Wenn wir intuitiv kennen , dann kennen wir . Wir müssen also in , der von erzeugten Sigma-Algebra , ein Ereignis finden , das unser Wissen über mit dem von Beziehung setzt . Dann verwenden wir diese Informationen in Verbindung mit der angenommenen Unabhängigkeit von und zu zeigen, dass unsere verfügbaren Auswahlmöglichkeiten für stark eingeschränkt wurden. $X$ $f(X)$ $\sigma(X)$ $X$ $X$ $f(X)$ $X$ $f(X)$ $f$

Beweis von Lemma : Recall , dass und unabhängig sind , wenn und nur wenn für alle und , . Sei für eine messbare Borel-Funktion $X$ $Y$ $A \in \sigma(X)$ $B \in \sigma(Y)$ $\renewcommand{\Pr}{\mathbb P}\Pr(X \in A, Y \in B) = \Pr(X \in A) \Pr(Y \in B)$ $Y = f(X)$ $f$ so dass und unabhängig sind. Definiere . Dann ist und da $X$ $Y$ $\newcommand{\o}{\omega}A(y) = \{\o: f(X(\o)) \leq y\}$

A (y) = {ω : X (ω) \in f^{- 1} ((- \infty, y])}

$A(y) = \{\o: X(\o) \in f^{-1}((-\infty,y])\}$

(- \infty, y]

$(-\infty,y]$ is a Borel set and

f

$f$ is Borel-measurable, then

f^{- 1} ((- \infty, y])

$f^{-1}((-\infty,y])$ is also a Borel set. This implies that

A (y) \in σ (X)

$A(y) \in \sigma(X)$ (by definition(!) of

σ (X)

$\sigma(X)$ ).

Since $X$ and $Y$ are assumed independent and $A(y) \in \sigma(X)$ , then

P (X \in A (y), Y \leq y) = P (X \in A (y)) P (Y \leq y) = P (f (X) \leq y) P (f (X) \leq y),

$\Pr(X \in A(y), Y \leq y) = \Pr(X \in A(y)) \Pr(Y \leq y) = \Pr(f(X) \leq y) \Pr(f(X) \leq y) \>,$ and this holds for all

y \in R

$y \in \mathbb R$ . But, by definition of

A (y)

$A(y)$

P (X \in A (y), Y \leq y) = P (f (X) \leq y, Y \leq y) = P (f (X) \leq y) .

$\Pr(X \in A(y), Y \leq y) = \Pr(f(X) \leq y, Y \leq y) = \Pr(f(X) \leq y) \> .$ Combining these last two, we get that for every

y \in R

$y \in \mathbb R$ ,

P (f (X) \leq y) = P (f (X) \leq y) P (f (X) \leq y),

$\Pr(f(X) \leq y) = \Pr(f(X) \leq y) \Pr(f(X) \leq y) \>,$ so

P (f (X) \leq y) = 0

$\Pr(f(X) \leq y) = 0$ or

P (f (X) \leq y) = 1

$\Pr(f(X) \leq y) = 1$ . This means there must be some constant

a \in R

$a \in \mathbb R$ such that the distribution function of

f (X)

$f(X)$ jumps from zero to one at

a

$a$ . In other words,

f (X) = a

$f(X) = a$ almost surely.

NB: Note that the converse is also true by an even simpler argument. That is, if $f(X) = a$ almost surely, then $X$ and $f(X)$ are independent.

— cardinal
quelle

+1, I should be sorry - to steal your argument is not very polite. It's great that you spelled out the difference between independence and being uncorrelated in this context.

— NRH

No "stealing" involved, nor impoliteness. :) Though many of the ideas and comments are similar (as you'd expect for a question like this!), I think the two posts are nicely complementary. In particular, I like how at the beginning of your post you didn't constrain yourself to real-valued random variables.

— cardinal

@NRH accepting your answer as the initial part of your proof seems easier to grasp for a novice like me. Nevertheless +1 cardinal for your answer.

— Rohit Banga