Ich habe gehört, dass Verhältnisse oder Umkehrungen von Zufallsvariablen oft problematisch sind, wenn man keine Erwartungen hat. Warum das?

24

Der Titel ist die Frage. Mir wird gesagt, dass Verhältnisse und Umkehrungen von Zufallsvariablen oft problematisch sind. Gemeint ist, dass Erwartungen oft nicht existieren. Gibt es eine einfache, allgemeine Erklärung dafür?

— kjetil b halvorsen
quelle

24

Ich möchte eine sehr einfache, intuitive Erklärung anbieten. Es kommt darauf an, sich ein Bild anzuschauen: Der Rest dieses Beitrags erklärt das Bild und zieht daraus Schlussfolgerungen.

Hier ist , was es kommt darauf an: wenn es eine „Wahrscheinlichkeitsmasse“ ist konzentriert in der Nähe von $X=0$ , wird es zu viel Wahrscheinlichkeit in der Nähe von $1/X\approx \pm \infty$ , was seine Erwartung nicht definiert werden.

Anstatt ganz allgemein zu sein, konzentrieren wir uns auf Zufallsvariablen $X$ , die kontinuierliche Dichten $f_X$ in einer Nachbarschaft von $0$ . Angenommen, $f_X(0)\ne 0$ . Visuell bedeuten diese Bedingungen, dass der Graph von $f$ über der Achse um $0$ :

Die Kontinuität von um impliziert, dass wir für jede positive Höhe kleiner als und ausreichend klein ein Rechteck unter diesem Graphen ausschneiden können, das um zentriert ist, Breite und Höhe hat , wie gezeigt. Dies entspricht dem Ausdruck der ursprünglichen Verteilung als Mischung aus einer gleichmäßigen Verteilung (mit einem Gewicht von ) und allem, was übrig bleibt. $f_X$ $0$ $p$ $f_X(0)$ $\epsilon$ $x=0$ $2\epsilon$ $p$ $p\times 2\epsilon=2p\epsilon$

Mit anderen Worten, wir können uns folgendermaßen vorstellen: $X$

Zeichnen Sie mit der Wahrscheinlichkeit einen Wert aus einer Gleichverteilung . $2p\epsilon$ $(-\epsilon,\epsilon)$
Ziehen Sie andernfalls einen Wert aus der Verteilung, deren Dichte proportional zu . (Dies ist die Funktion, die rechts in gelb dargestellt ist.) $f_X - p I_{(-\epsilon,\epsilon)}$

( die Anzeigefunktion.) $I$

Schritt zeigt, dass für jede die Wahrscheinlichkeit, dass zwischen und überschreitet . Entsprechend ist dies die Chance, dass überschreitet . Anders ausgedrückt: Schreiben Sie für die Überlebensfunktion von $(1)$ $0 \lt u \lt \epsilon$ $X$ $0$ $u$ $p u / 2$ $1/X$ $1/u$ $S$ $1/X$

S (x) = Pr (1 / X > x),

$S(x) = \Pr(1/X \gt x),$

Das Bild zeigt für alle . $S(x) \gt p / (2x)$ $x \gt 1/\epsilon$

Wir sind jetzt fertig, weil diese Tatsache über impliziert, dass die Erwartung undefiniert ist. $S$ Vergleichen Sie die Integrale, die bei der Berechnung der Erwartung des positiven Teils von , : $1/X$ $(1/X)_{+} = \max(0, 1/X)$

E [(1 / X)_{+}] = \int_{0}^{\infty} S (x) d x > \int_{1 / ϵ}^{x} S (x) d x > \int_{1 / ϵ}^{x} \frac{p}{2 x} d x = \frac{p}{2} Log (x ϵ) .

$E[(1/X)_{+}] = \int_0^\infty S(x)dx \gt \int_{1/\epsilon}^x S(x)dx \gt \int_{1/\epsilon}^x \frac{p}{2x}dx = \frac{p}{2} \log(x\epsilon).$

(Dies ist ein rein geometrisches Argument: Jedes Integral stellt eine identifizierbare zweidimensionale Region dar, und alle Ungleichungen ergeben sich aus strengen Einschlüssen in diesen Regionen. In der Tat müssen wir nicht einmal wissen, dass das endgültige Integral ein Logarithmus ist: Es gibt einfache geometrische Argumente, die dieses Integral zeigen, gehen auseinander.)

Da die rechte Seite divergiert , wenn , divergiert, zu. Die Situation mit dem negativen Teil von ist dieselbe (weil das Rechteck um zentriert ist ), und dasselbe Argument zeigt die Erwartung, dass der negative Teil von divergiert. Folglich ist die Erwartung von selbst undefiniert. $x\to\infty$ $E[(1/X)_{+}]$ $1/X$ $0$ $1/X$ $1/X$

Im Übrigen zeigt dasselbe Argument, dass, wenn sich mit einer Wahrscheinlichkeit auf eine Seite von , wie z. B. eine Exponential- oder Gamma-Verteilung (mit einem Formparameter von weniger als ), die positive Erwartung immer noch divergiert, die negative Erwartung jedoch Null ist. In diesem Fall wird die Erwartung ist definiert, aber ist unendlich. $X$ $0$ $1$

— whuber
quelle

3

Habe ich Recht, wenn ich vermute, dass die Annahme

für das Ergebnis entscheidend ist? Ich meine, wir haben Fälle, in denen

zumindest für einen bestimmten Bereich von beteiligten Parametern Momente hat, und es scheint, dass es in Fällen ist, in denen

, wie Gamma / Inverse-Gamma

f_{X} (0) \neq 0

$f_X(0)\neq 0$

1 / X

$1/X$

f_{X} (0) = 0

$f_X(0) = 0$

— Alecos Papadopoulos

3

@ Alecos Nein, diese Annahme ist nicht entscheidend. Das und die Kontinuität von

bei

machen das Argument einfach, aber keines ist wesentlich. Betrachten wir ein

mit der Dichte

proportional zu

für

und

. Dies ist bei

kontinuierlich, aber

hat keine Erwartung.

f

$f$

0

$0$

X

$X$

f_{X}

$f_X$

- 1 / \log (x)

$-1/\log(x)$

0 < x < 1 / e

$0 \lt x \lt 1/e$

f_{X} (0) = 0

$f_X(0)=0$

0

$0$

1 / X

$1/X$

— whuber

14

Verhältnisse und Umkehrungen sind bei nichtnegativen Zufallsvariablen meistens von Bedeutung, daher gehe ich fast sicher davon aus, dass . Wenn dann eine diskrete Variable ist, die mit positiver Wahrscheinlichkeit den Wert Null annimmt, werden wir mit positiver Wahrscheinlichkeit durch Null dividieren, was erklärt, warum die Erwartung von nicht existiert. $X \ge 0$ $X$ $1/X$

Betrachten Sie nun den stetigen Verteilungsfall mit einer Zufallsvariablen mit der Dichtefunktion . Wir nehmen an, dass und dass stetig ist (zumindest bei Null). Dann gibt es eine so dass für . Der erwartete Wert von ist durch $X \ge 0$ $f(x)$ $f(0)>0$ $f$ $\epsilon > 0$ $f(x) > \epsilon$ $0 \le x < \epsilon$ $1/X$ Nun wollen wir Integrationsvariable ändern haben wir

E \frac{1}{X} = \int_{0}^{\infty} \frac{1}{x} f (x) d x

$\DeclareMathOperator{\E}{\mathbb{E}} \E \frac1{X} = \int_0^\infty \frac1{x} f(x)\; dx$

u = 1 / x

$u=1/x$

,

d u = - \frac{1}{x^{2}} d x

$du = -\frac1{x^2} \; dx$

Nun, unter der Annahme

auf

also

E \frac{1}{X} = - \int_{\infty}^{0} u f (\frac{1}{u}) (\frac{1}{u})^{2} d u = \int_{0}^{\infty} \frac{1}{u} f (\frac{1}{u}) d u

$\E \frac1{X} = -\int_{\infty}^0 u f(\frac1{u}) (\frac1{u})^2 \; du = \\ \int_0^\infty \frac1{u} f(\frac1{u}) \; du$

f (u) > ϵ

$f(u) > \epsilon$

[0, ϵ)

$[0,\epsilon)$

on

, damit haben wir

f (\frac{1}{u}) > 1 / ϵ

$f(\frac1{u}) > 1/\epsilon$

(1 / ϵ, \infty)

$(1/\epsilon, \infty)$

die zeigendass die Erwartung nicht existiert. Ein Beispiel, das diese Annahme erfüllt, ist die Exponentialverteilung mit Rate 1.

E \frac{1}{X} > ϵ \int_{1 / ϵ}^{\infty} \frac{1}{u} d u = \infty

$\E \frac1{X} > \epsilon \int_{1/\epsilon}^\infty \frac1{u}\; du =\infty$

Wir haben eine Antwort für Umkehrungen gegeben, was ist mit Verhältnissen? Sei das Verhältnis zweier nichtnegativer Zufallsvariablen. Wenn sie unabhängig sind, können wir schreiben $Z=Y/X$ Das reduziert sich also ziemlich auf den ersten Fall und es gibt nicht viel Neues zu sagen. Was ist, wenn sie abhängig sind, wobei die Fugendichte Dann erhalten wir (unter Verwendung derselben Substitution wie oben)

E Z = E \frac{Y.}{X} = E Y. \cdot E \frac{1}{x}

$\E Z = \E\frac{Y}{X}=\E Y \cdot \E\frac1{x}$

f (x, y) = f (x ∣ y) G (y)

$f(x,y) = f(x \mid y) g(y)$

und wir können wie oben über das innere Integral argumentieren. Das Ergebnis wird sein, dassdie Erwartung unendlichist, wenn die bedingte Dichte (gegebenes

) bei Null positiv und stetig ist, für eine Menge von

mit positiver Grenzwahrscheinlichkeit. Ich denke, es wird nicht einfach sein, Beispiele zu finden, bei denen die Grenzerwartung von

unendlich ist, aber die Erwartung des Verhältnisses

ist endlich, sofern keine perfekte Korrelation vorliegt. Es wäre schön, solche Beispiele zu sehen!

E \frac{Y.}{X} = \int_{0}^{\infty} y \int_{0}^{\infty} \frac{1}{x} f (x ∣ y) d x G (y) d y = \int_{0}^{\infty} y \int_{0}^{\infty} \frac{1}{u} f (\frac{1}{u} ∣ y) d u G (y) d y

$\E \frac{Y}{X} = \int_0^\infty y \int_0^\infty \frac1{x} f(x\mid y) \; dx \;g(y)\; dy = \\ \int_0^\infty y \int_0^\infty \frac1{u} f(\frac1{u}\mid y) \; du \; g(y) \; dy$

y

$y$

y

$y$

1 / X

$1/X$

Y / X

$Y/X$

— kjetil b halvorsen
quelle