CLT mit Zufallsvariablen, die nicht integrierbar sind

Aufgabe 15.5.1 aus Klenkes "Wahrscheinlichkeitstheorie: Ein umfassender Kurs" lautet wie folgt. Finden Sie eine Folge unabhängiger reeller Zufallsvariablen mit für alle so dass Ich bin mir nicht sicher, wie dies möglich ist, wenn der Mittelwert in diesem Fall nicht einmal definiert ist. Alle Fälle, die ich mir für Variablen mit undefiniertem Mittelwert vorstellen kann, erfüllen keinen zentralen Grenzwertsatz mit einer -Skalierung. Jede Hilfe wird geschätzt. $X_1, X_2, \ldots$ $\mathbb{E}[|X_n|]=\infty$ $n\in \mathbb{N}$

\frac{X_{1} + \dots + X_{n}}{\sqrt{n}} \overset{n \to \infty}{⟹} N (0, 1) .

$\frac{X_1+ \cdots + X_n}{\sqrt{n}} \stackrel{n \to \infty}{\Longrightarrow} N(0,1).$

\sqrt{n}

$\sqrt{n}$

self-study central-limit-theorem

— guest0877
quelle

Tipp: Reduzieren Sie die Konzepte auf ihre Grundelemente. Da das Normal das Herzstück des CLT ist, beginnen Sie mit dem Standard Normal . Modifizieren Sie sie dann so, dass (a) jeder einen unendlichen erwarteten absoluten Wert hat, während (b) der Änderungsbetrag mit schnell abnimmt , so dass in der Grenzdivision durch der modifizierte Teil "abgetötet" wird. Eine einfache Möglichkeit, eine Zufallsvariable zu ändern, besteht darin, eine weitere hinzuzufügen.

X_{i}

$X_i$

n

$n$

\sqrt{n}

$\sqrt{n}$

— whuber

@whuber Ist Ihr Punkt, dass die Zufallsvariablen nicht identisch verteilt sein sollen? Wenn sie es wären, würde ich dem OP zustimmen.

— Michael R. Chernick

@whuber Auch erfordert die Antwort, dass nur Xn den unendlichen Mittelwert hat.

— Michael R. Chernick

Ich denke, das "für alle n" bedeutet, dass alle Xi einen unendlichen absoluten Mittelwert haben. Ich versuche hier vorsichtig zu sein. Ich möchte Ihren Hinweis verstehen, aber nicht etwas sagen, das die Lösung für das OP verrät.

— Michael R. Chernick

@ Michael Wenn sie iid wären, wäre das Ergebnis nicht wahr. Die Idee ist, den Teil von zu machen, der bewirkt, dass die unendliche Erwartung mit zunehmendem immer weniger Chancen hat, . Ein guter Weg, dies zu tun, ist mit einer Mischung.

X_{n}

$X_n$

n

$n$

— whuber

Unter den vielen Möglichkeiten, dieses Problem zu lösen, scheint die Konstruktion der Sequenz durch Störung einer normalen Standardvariablen die einfachste und eleganteste zu sein.

Am Ende kommentiere ich den Zusammenhang mit dem zentralen Grenzwertsatz.

Charakteristische Funktionen

Erlauben Sie mir einen Exkurs, bevor ich eine Lösung vorstelle. Die Inspiration für die verwendete Technik stammt von der Idee, dass es mehr als einen Weg gibt, die Verteilung einer Zufallsvariablen zu beschreiben . Am gebräuchlichsten und direktesten ist seine Verteilungsfunktion . Eine indirekte, aber äußerst nützliche Alternative ist ihre charakteristische Funktion $X$ $F_X(x)=\Pr(X\le x)$

ψ_{X} (t) = E [e^{i t X}] = E [\cos (t X)] + i E [\sin (t X)] .

$\psi_X(t) = E\left[e^{itX}\right] = E\left[\cos(t X)\right] + i\, E\left[\sin(t X)\right].$

Da für alle , ist für jede Verteilung (und ihre Werte für alle dürfen nicht größer sein ). Darüber hinaus haben und genau dann die gleiche Verteilung, wenn sie die gleiche charakteristische Funktion haben. Noch besser ist Lévys Kontinuitätssatz: Eine Folge konvergiert in der Verteilung genau dann zu einer Zufallsvariablen wenn für jedes die Folge gegen einen Wert und die Funktion konvergiert $|e^{itX}|=1$ $t$ $\psi_F$ $F$ $t$ $1$ $X$ $Y$ $X_n$ $X$ $t$ $\phi_{X_n}(t)$ $\psi(t)$ $\psi$ ist kontinuierlich bei . (Alle charakteristischen Funktionen bei durchgehend sind ) . In diesem Fall ist die charakteristische Funktion von . $0$ $0$ $\psi$ $X$

Eine weitere schöne Eigenschaft charakteristischer Funktionen ist ihre Beziehung zu linearen Kombinationen: Wenn und Zufallsvariablen sind (auf demselben Wahrscheinlichkeitsraum und und reelle Zahlen sind, $X$ $Y$ $\alpha$ $\beta$

\begin{matrix} (1) & ψ_{α X + β Y} (t) = ψ_{X} (α t) ψ_{Y} (β t) . \end{matrix}

$\psi_{\alpha X+\beta Y}(t) = \psi_X(\alpha t)\psi_Y(\beta t).\tag{1}$

Dies macht charakteristische Funktionen (cfs) zu einem geeigneten Werkzeug für die Untersuchung von Störungen von Zufallsvariablen die durch Hinzufügen winziger Mengen anderer Zufallsvariablen erreicht werden, dh Zufallsvariablen der Form fürklein. $X$ $Y$ $X+\beta Y$ $|\beta|$

Lösung

Konstruktion einer Sequenz

Lassen Sie uns eine Lösung konstruieren, indem wir mit einer Standardnormalvariablen und eine unabhängige Folge mit derselben Verteilung wie . Dies hat offensichtlich die von uns gewünschte begrenzende Eigenschaft: Die Mittelwerte sind alle Standardnormal, daher ist der Mittelwert im Grenzwert Standardnormal. $Z$ $Z_1, Z_2, \ldots, Z_n, \ldots$ $Z$

Sein vgl. Ist

\begin{matrix} (2) & ψ_{Z} (t) = e^{- t^{2} / 2} . \end{matrix}

$\psi_Z(t) = e^{-t^2/2}.\tag{2}$

Wählen Sie für die Störungen eine Zufallsvariable mit unendlicher Erwartung. Für es praktisch , ein cf zu haben, mit dem man leicht arbeiten kann. Ich möchte die Lévy-Verteilung (auch bekannt als stabile Verteilung mit oder Inverse Gamma -Verteilung) vorschlagen, für die $Y$ $Y$ $\alpha=1/2,\ \beta=1$ $(1/2,1/2)$

ψ_{Y} (t) = e^{- \sqrt{| t |} (1 - i sgn (t))} .

$\psi_Y(t) = e^{-\sqrt{|t|}\,(1 - i \operatorname{sgn}(t))}.$

(Für ist ; für ) $t\gt 0$ $\operatorname{sgn}(t)=1$ $t \lt 0,$ $\operatorname{sgn}(t)=-1$

Diese Verteilung wird am und hat keine endlichen Momente. $(0,\infty)$

Zu dieser Folge von Standardnormalvariablen fügen wir immer kleinere positive Vielfache von . $(Z_n)$ $Y$ (Positivität ist nicht , erleichtert jedoch die Arbeit mit der Funktion .) Die zu bestimmende Folge von Vielfachen sei . Somit ist die Folge von Zufallsvariablen definiert als wobei eine iid-Folge von Zufallsvariablen mit der gleichen Verteilung wie . $\operatorname{sgn}$ $p_1,p_2,p_3,\ldots,$

X_{n} = Z_{n} + p_{n} Y_{n}

$X_n=Z_n + p_n Y_n$

(Y_{n})

$(Y_n)$

Y

$Y$

Intuition

Wir müssen uns Sorgen machen, ob die Störungen so schlimm sind, dass sie die Konvergenz zu einer Standardnormalverteilung ruinieren. Für diejenigen, die Erfahrung mit solch schwerfälligen Verteilungen haben, ist dies ein echtes Problem: Es wird immer eine positive Wahrscheinlichkeit geben, dass das kleine Stück das zu hinzugefügt wird, gelegentlich einen so großen Ausreißer einführt, dass es die Teilsumme überwältigt . Der gesamte Grund für die Verwendung charakteristischer Funktionen besteht darin, zu demonstrieren, dass dies auf lange Sicht nicht passieren wird, vorausgesetzt, wir reduzieren das Ausmaß der Störung ( ) ausreichend schnell. $Y_n$ $Z_n$ $S_n$ $p_n$

Formale Berechnungen

Erstens hat unendliche Erwartungen, weil $X_n$

E [X_{n}] = E [Z_{n} + p_{n} Y_{n}] = E [Z] + p_{n} E [Y] = p_{n} E [Y]

$E[X_n] = E[Z_n + p_n Y_n] = E[Z] + p_n E[Y] = p_n E[Y]$

muss unendlich sein, da unendlich ist. Somit erfüllt diese Sequenz alle Anforderungen des Problems. $E[Y]$ $(X_n)$

Wenden wir uns der Analyse der Teilmittel zu. Wiederholte Anwendung von auf den Teilmittelwert $(1)$

S_{n} = \frac{X_{1} + X_{2} + \dots + X_{n}}{\sqrt{n}}

$S_n = \frac{X_1 + X_2 + \cdots + X_n}{\sqrt{n}}$

gibt

\begin{matrix} (3) & \begin{aligned} ψ_{S_{n}} (t) & = [e^{- (t / \sqrt{n})^{2} / 2} ψ_{Y} (p_{1} t / \sqrt{n})] \dots [e^{- (t / \sqrt{n})^{2} / 2} ψ_{Y} (p_{n} t / \sqrt{n})] \\ = [e^{- (t / \sqrt{n})^{2} / 2} \dots e^{- (t / \sqrt{n})^{2} / 2}] [ψ_{Y} (p_{1} t / \sqrt{n}) \dots ψ_{Y} (p_{n} t / \sqrt{n})] \\ = e^{- t^{2} / (2 n) - t^{2} / (2 n) - \dots - t^{2} / (2 n)} e^{\sqrt{| p_{1} t / \sqrt{n} |} (- 1 + i sgn (p_{1} t / \sqrt{n})} \dots e^{\sqrt{| p_{n} t / \sqrt{n} |} (- 1 + i sgn (p_{n} t / \sqrt{n})} . \end{aligned} \end{matrix}

$\eqalign{ \psi_{S_n}(t) &= \left[e^{-(t/\sqrt{n})^2/2}\color{Blue}{\psi_Y(p_1 t/\sqrt{n})}\right] \cdots \left[e^{-(t/\sqrt{n})^2/2}\color{Blue}{\psi_Y(p_n t/\sqrt{n})}\right] \\ &= \left[e^{-(t/\sqrt{n})^2/2} \cdots e^{-(t/\sqrt{n})^2/2}\right] \left[\color{Blue}{\psi_Y(p_1t/\sqrt{n}) \cdots \psi_Y(p_nt/\sqrt{n})}\right] \\ &= e^{-t^2/(2n) - t^2/(2n) - \cdots - t^2/(2n)}\quad \color{Blue}{e^{\sqrt{|p_1t/\sqrt{n}|}(-1+i\operatorname{sgn}(p_1t/\sqrt{n})} \cdots e^{\sqrt{|p_nt/\sqrt{n}|}(-1+i\operatorname{sgn}(p_nt/\sqrt{n})} }.\tag{3} }$

Das Sammeln der schwarzen Potenzen von ergibt die Potenz während das Sammeln der blauen Potenzen (die aus den Störungen stammen) ergibt $e$ $-t^2/2$

\begin{matrix} (4) & \sum_{i = 1}^{n} \sqrt{| p_{i} t / \sqrt{n} |} (- 1 + i sgn (p_{i} t / \sqrt{n})) = \sqrt{| t |} (- 1 + i sgn (t)) \frac{\sum_{i = 1}^{n} \sqrt{p_{i}}}{n^{1 / 4}} \end{matrix}

$\sum_{i=1}^n \color{blue}{\sqrt{|p_it/\sqrt{n}|}(-1+i\operatorname{sgn}(p_it/\sqrt{n}))} = \sqrt{|t|}(-1+i\operatorname{sgn}(t))\frac{\sum_{i=1}^n \sqrt{p_i}}{n^{1/4}}\tag{4}$

weil und alle positiv sind. Seit , für jedes feste der Wert von auf Null, wenn zunimmt, vorausgesetztEine Möglichkeit, dies zu erreichen, besteht darin, die Summe der konvergieren zu lassen: Nehmen Sie zum Beispiel . Dann $n$ $p_i$ $|-1 + i\operatorname{sgn}(t)| \le \sqrt{2}$ $t$ $(4)$ $n$ $\sum_{i=1}^n\sqrt{p_i} = o(n^{-1/4}).$ $\sqrt{p_i}$ $p_i = 2^{-2i}$

\frac{1}{n^{1 / 4}} \sum_{i = 1}^{n} \sqrt{p_{i}} \leq \frac{1}{n^{1 / 4}} (1 / 2 + 1 / 4 + \dots + 1 / 2^{n} + \dots) = \frac{1}{n^{1 / 4}} \to 0.

$\frac{1}{n^{1/4}} \sum_{i=1}^n \sqrt{p_i} \le \frac{1}{n^{1/4}} (1/2+1/4+\cdots+1/2^n+\cdots) = \frac{1}{n^{1/4}}\to 0.$

Folglich konvergieren die blauen Terme , da das Exponential bei stetig ist , gegen : Sie beeinflussen die Grenze nicht. Wir schließen daraus, dass zu konvergiert . Da dies der Standard der Standardnormalverteilung ist, impliziert Lévys Kontinuitätssatz, dass zu einer Standardnormalverteilung, QED, konvergiert . $0$ $(3)$ $e^0=1$ $(\psi_{S_n})$ $\psi_X$ $S_n$

Bemerkungen

Die hier gezeigten Ideen können verallgemeinert werden. Wir brauchen nicht, dass Standard Normal ist. es genügt (nach dem üblichen zentralen Grenzwertsatz), dass sie mit dem Mittelwert Null und der Einheitsvarianz iid sind. Es sieht so aus, als hätten wir eine Erweiterung der CLT etabliert: Die Verteilung der Mittelwerte einer Folge unabhängiger Zufallsvariablen, auch solche mit unendlichen Erwartungen und Varianzen, kann (wenn angemessen standardisiert) zu einer Standardnormalverteilung konvergieren, vorausgesetzt, der "unendliche Teil" der Zufallsvariablen wird ausreichend schnell klein. $X_n$

— whuber
quelle