In verschiedenen Kontexten wird der zentrale Grenzwertsatz herangezogen , um die statistische Methode zu rechtfertigen , die wir anwenden möchten (z. B. Annäherung der Binomialverteilung an eine Normalverteilung). Ich verstehe die technischen Details, warum der Satz wahr ist, aber mir ist gerade eingefallen, dass ich die Intuition hinter dem zentralen Grenzwertsatz nicht wirklich verstehe.

Was ist die Intuition hinter dem zentralen Grenzwertsatz?

Laienerklärungen wären ideal. Wenn technische Details benötigt werden, gehen Sie bitte davon aus, dass ich die Konzepte von PDF, CDF, Zufallsvariablen usw. verstehe, aber keine Kenntnisse über Konvergenzkonzepte, charakteristische Funktionen oder irgendetwas, das mit Maßtheorie zu tun hat.

Ich entschuldige mich im Voraus für die Länge dieses Beitrags: Es ist etwas beunruhigt, dass ich ihn überhaupt öffentlich herausgebe, da das Durchlesen einige Zeit und Aufmerksamkeit in Anspruch nimmt und zweifelsohne typografische Fehler und Fehlintervalle aufweist. Aber hier ist es für diejenigen, die sich für das faszinierende Thema interessieren, in der Hoffnung, dass es Sie ermutigt, einen oder mehrere der vielen Teile des CLT zu identifizieren, um weitere Antworten auf Ihre eigenen Fragen zu erhalten.

---

Die meisten Versuche, die CLT zu "erklären", sind Illustrationen oder nur Wiederholungen, die bestätigen, dass sie wahr sind. Eine wirklich durchdringende, korrekte Erklärung müsste eine Menge Dinge erklären.

Bevor wir weiter darauf eingehen, wollen wir uns klar machen, was die CLT sagt. Wie Sie alle wissen, gibt es Versionen, die sich in ihrer Allgemeinheit unterscheiden. Der gemeinsame Kontext ist eine Folge von Zufallsvariablen, bei denen es sich um bestimmte Arten von Funktionen in einem gemeinsamen Wahrscheinlichkeitsraum handelt. Für intuitive Erklärungen, die rigoros bleiben, finde ich es hilfreich, sich einen Wahrscheinlichkeitsraum als eine Box mit unterscheidbaren Objekten vorzustellen. Es ist egal, was diese Objekte sind, aber ich werde sie "Tickets" nennen. Wir machen eine "Beobachtung" einer Schachtel, indem wir die Karten gründlich mischen und eine herausziehen; Dieses Ticket ist die Beobachtung. Nachdem wir es für eine spätere Analyse aufgezeichnet haben, senden wir es an die Box zurück, sodass sein Inhalt unverändert bleibt. Eine "Zufallsvariable" ist im Grunde eine Zahl, die auf jedes Ticket geschrieben ist.

Im Jahr 1733 betrachtete Abraham de Moivre den Fall einer einzelnen Box, in der die Nummern auf den Tickets nur Nullen und Einsen sind ("Bernoulli-Versuche"), wobei einige von jeder Nummer vorhanden waren. Er stellte sich physikalisch unabhängige Beobachtungen vor, die eine Folge von Werten x 1 , x 2 , ... , x n ergaben , die alle null oder eins sind. Die Summe dieser Werte ist y n = x 1 + x 2 + … + x $n$$x_1, x_2, \ldots, x_n$$y_n = x_1 + x_2 + \ldots + x_n$ist zufällig, weil die Terme in der Summe sind. Wenn wir diesen Vorgang also mehrmals wiederholen könnten, würden verschiedene Summen (ganze Zahlen von bis n ) mit verschiedenen Häufigkeiten auftreten - Proportionen der Gesamtsumme. (Siehe die folgenden Histogramme.)$0$$n$

Nun würde man erwarten - und es ist wahr - dass für sehr große Werte von alle Frequenzen ziemlich klein wären. Wenn wir so mutig (oder dumm) wären, zu versuchen, "ein Limit zu nehmen" oder " n auf ∞ gehen zu lassen ", würden wir richtig schließen, dass sich alle Frequenzen auf 0 reduzieren . Aber wenn wir einfach ein Histogramm zeichnen die Frequenzen, ohne dafür zu zahlen keine Aufmerksamkeit auf , wie ihre Achsen gekennzeichnet sind, sehen wir , dass die Histogramme für große n beginnen alle gleich aussehen: in gewissem Sinne diese Histogramme eine Grenze nähern , auch wenn die Frequenzen selbst gehen alle auf Null.$n$$n$$\infty$$0$$n$

Diese Histogramme zeigen die Ergebnisse der mehrmaligen Wiederholung des Verfahrens zur Ermittlung von . n ist die "Anzahl der Versuche" in den Titeln.$y_n$$n$

Die Einsicht hier ist, zuerst das Histogramm zu zeichnen und später seine Achsen zu beschriften . Mit großem deckt das Histogramm einen großen Wertebereich ab, der um n / 2 (auf der horizontalen Achse) zentriert ist, und ein verschwindend kleines Intervall von Werten (auf der vertikalen Achse), da die einzelnen Frequenzen ziemlich klein werden. Das Einpassen dieser Kurve in den Zeichenbereich erforderte daher sowohl ein Verschieben als auch ein erneutes Skalieren des Histogramms. Die mathematische Beschreibung hierfür ist, dass wir für jedes n einen zentralen Wert m n (nicht unbedingt eindeutig!) Wählen können, um das Histogramm und einen Skalenwert s n zu positionieren$n$$n/2$$n$$m_n$$s_n$(Nicht unbedingt einzigartig!), damit es in die Achsen passt. Dies kann mathematisch erfolgen, indem zu z n = ( y n - m n ) / s n geändert wird .$y_n$$z_n = (y_n - m_n) / s_n$

Denken Sie daran, dass ein Histogramm die Frequenzen durch Bereiche zwischen ihm und der horizontalen Achse darstellt. Die eventuelle Stabilität dieser Histogramme für große Werte von sollte daher in Bezug auf die Fläche angegeben werden. $n$ Wählen Sie also beliebiges Intervall von Werten aus, z. B. von a bis b > a, und verfolgen Sie mit zunehmendem Wert n den Bereich des Teils des Histogramms von z n , der sich horizontal über das Intervall erstreckt ( a , b ) . Die CLT gibt mehrere Werte an Dinge:$a$$b \gt a$$n$$z_n$$(a, b]$

1. Egal was und b sind,$a$$b$ wenn wir die Sequenzen und s n angemessen auswählen (in einer Weise, die nicht von a oder b abhängt ), nähert sich dieser Bereich tatsächlich einer Grenze, wenn n groß wird.$m_n$$s_n$$a$$b$$n$

2. Die Sequenzen und s n können auf eine Weise gewählt werden, die nur von n , dem Durchschnitt der Werte in der Box und einem gewissen Maß für die Streuung dieser Werte abhängt - aber von nichts anderem -, so dass unabhängig davon, was sich in der Box befindet In der Box ist das Limit immer gleich. (Diese Universalitätseigenschaft ist erstaunlich.)$m_n$$s_n$$n$

3. Speziell dieser Bereich begrenzt , ist die Fläche unter der Kurve zwischenaundb: Dies ist die Formel dieses universellen Grenzhistogramms.$y = \exp(-z^2/2) / \sqrt{2 \pi}$$a$$b$

   Die erste Verallgemeinerung des CLT fügt hinzu,

4. Wenn das Kästchen zusätzlich zu Nullen und Einsen Zahlen enthalten kann, gelten genau dieselben Schlussfolgerungen (vorausgesetzt, die Anteile extrem großer oder kleiner Zahlen im Kästchen sind nicht "zu groß", ein Kriterium, das eine präzise und einfache quantitative Aussage enthält). .

   Die nächste Verallgemeinerung, und vielleicht die erstaunlichste, ersetzt diese einzelne Schachtel mit Tickets durch eine bestellte, unendlich lange Reihe von Schachteln mit Tickets. Jede Box kann unterschiedliche Nummern in unterschiedlichen Anteilen auf ihren Tickets haben. Die Beobachtung erfolgt durch Ziehen eines Tickets aus der ersten Schachtel, x 2 aus der zweiten Schachtel und so weiter.$x_1$$x_2$

5. Genau die gleichen Schlussfolgerungen gelten, sofern der Inhalt der Kästchen "nicht zu unterschiedlich" ist (es gibt mehrere präzise, ​​aber unterschiedliche quantitative Charakterisierungen dessen, was "nicht zu unterschiedlich" bedeutet; sie ermöglichen einen erstaunlichen Spielraum).

Diese fünf Behauptungen müssen zumindest erklärt werden. Es gibt mehr. In allen Anweisungen sind mehrere interessante Aspekte des Setups enthalten. Zum Beispiel,

• Was ist das Besondere an der Summe ? Warum haben wir keine zentralen Grenzwertsätze für andere mathematische Zahlenkombinationen wie ihr Produkt oder ihr Maximum? (Es hat sich herausgestellt, dass dies der Fall ist, aber sie sind weder ganz so allgemein noch haben sie immer eine so klare und einfache Schlussfolgerung, es sei denn, sie können auf die CLT reduziert werden.) Die Sequenzen von und s n sind nicht eindeutig, aber sie sind fast einzigartig in dem Sinne, dass sie schließlich die Erwartung der Summe von n Tickets und die Standardabweichung der Summe (die in den ersten beiden Aussagen der CLT gleich $m_n$$s_n$$n$ mal die Standardabweichung der Box). $\sqrt{n}$

  Die Standardabweichung ist ein Maß für die Streuung von Werten, aber keineswegs das einzige und auch nicht das "natürlichste", weder historisch noch für viele Anwendungen. (Viele Menschen würden zum Beispiel so etwas wie eine absolute Abweichung vom Median wählen .)

• Warum erscheint die SD so wesentlich?

• Betrachten Sie die Formel für das Grenzhistogramm: Wer hätte erwartet, dass es eine solche Form annimmt? Es heißt, der Logarithmus der Wahrscheinlichkeitsdichte sei eine quadratische Funktion. Warum? Gibt es eine intuitive oder klare, überzeugende Erklärung dafür?

---

Ich gebe zu, dass ich nicht in der Lage bin, das endgültige Ziel zu erreichen, Antworten zu liefern, die einfach genug sind, um Srikants herausfordernde Kriterien für Intuitivität und Einfachheit zu erfüllen, aber ich habe diesen Hintergrund in der Hoffnung skizziert, dass andere inspiriert werden könnten, einige der vielen Lücken zu füllen. Ich denke, eine gute Demonstration muss sich letztendlich auf eine elementare Analyse stützen, wie Werte zwischen und β n = b s n + m n bei der Bildung der Summe x 1 + x 2 + entstehen können . + x $\alpha_n = a s_n + m_n$$\beta_n = b s_n + m_n$$x_1 + x_2 + \ldots + x_n$. Zurück zu der Single-Box-Version des CLT ist der Fall einer symmetrischen Verteilung einfacher zu handhaben: Der Median entspricht dem Mittelwert, sodass die 50% ige Chance besteht, dass kleiner als der Mittelwert der Box und die 50% ige Chance ist dass x i größer sein wird als sein Mittelwert. Außerdem sollten die positiven Abweichungen vom Mittelwert die negativen Abweichungen im Mittelwert ausgleichen , wenn n ausreichend groß ist. (Dies erfordert eine sorgfältige Begründung, nicht nur das Winken von Hand.) Daher sollten wir uns in erster Linie um das Zählen der Anzahl positiver und negativer Abweichungen kümmern und uns nur zweitrangig um ihre Größe kümmern .$x_i$$x_i$$n$ (Von all den Dingen, die ich hier geschrieben habe, ist dies möglicherweise die nützlichste, um eine Vorstellung davon zu bekommen, warum die CLT funktioniert. Die technischen Voraussetzungen, die erforderlich sind, um die Verallgemeinerungen der CLT wahr werden zu lassen, sind im Wesentlichen verschiedene Möglichkeiten, um die Möglichkeit auszuschließen, dass seltene große Abweichungen stören das Gleichgewicht genug, um das Auftreten des Grenzhistogramms zu verhindern.)

Dies zeigt bis zu einem gewissen Grad, warum die erste Verallgemeinerung des CLT nichts aufdeckt, was nicht in der ursprünglichen Bernoulli-Testversion von de Moivre enthalten war.

An diesem Punkt sieht es so aus, als ob es nichts anderes gibt, als ein wenig zu rechnen : Wir müssen die Anzahl der unterschiedlichen Arten zählen, in denen sich die Anzahl der positiven Abweichungen vom Mittelwert von der Anzahl der negativen Abweichungen um einen vorgegebenen Wert , wobei offenbar k eines von - n , - n + 2 , ... , n - 2 , n ist . Aber weil verschwindend kleine Fehler im Limit verschwinden, müssen wir nicht genau zählen; wir müssen nur die Zählungen annähern. Zu diesem Zweck reicht es aus, das zu wissen$k$$k$$-n, -n+2, \ldots, n-2, n$

$$\text{The number of ways to obtain } k \text{ positive and } n-k \text{ negative values out of } n$$

$$\text{equals } \frac{n-k+1}{k}$$

$$\text{times the number of ways to get } k-1 \text{ positive and } n-k+1 \text { negative values.}$$

(Das ist ein perfektes elementares Ergebnis, deshalb werde ich mich nicht darum kümmern, die Begründung aufzuschreiben.) Die maximale Frequenz tritt auf, wenn so nahe wie möglich an n / 2 liegt (auch elementar). Schreiben wir m = n / 2 . Dann wird relativ zur Maximalfrequenz die Frequenz von m + j + 1 positiven Abweichungen ( j ≥ 0 ) durch das Produkt geschätzt$k$$n/2$$m = n/2$$m+j+1$$j \ge 0$

$$\frac{m+1}{m+1} \frac{m}{m+2} \cdots \frac{m-j+1}{m+j+1}$$

$$=\frac{1 - 1/(m+1)}{1 + 1/(m+1)} \frac{1-2/(m+1)}{1+2/(m+1)} \cdots \frac{1-j/(m+1)}{1+j/(m+1)}.$$

135 Jahre bevor de Moivre schrieb, erfand John Napier Logarithmen, um die Multiplikation zu vereinfachen. Lassen Sie uns dies nutzen. Mit der Näherung

$$\log\left(\frac{1-x}{1+x}\right) \sim -2x,$$

Wir finden, dass das Log der relativen Häufigkeit ungefähr ist

$$-2/(m+1) - 4/(m+1) - \cdots - 2j/(m+1) = -\frac{j(j+1)}{m+1} \sim -\frac{j^2}{m}.$$

Da der kumulative Fehler proportional zu , sollte dies gut funktionieren, vorausgesetzt, j 4 ist im Verhältnis zu m 3 klein . Dies deckt einen größeren Wertebereich von j ab, als benötigt wird. (Es reicht aus, wenn die Approximation für j nur in der Größenordnung von √ funktioniert$j^4/m^3$$j^4$$m^3$$j$$j$ die asymptotisch ist viel kleiner alsm 3 / 4 .)$\sqrt{m}$$m^{3/4}$

---

Es ist klar, dass viel mehr Analysen dieser Art vorgelegt werden sollten, um die anderen Behauptungen in der CLT zu rechtfertigen, aber mir gehen Zeit, Raum und Energie aus und ich habe wahrscheinlich 90% der Leute verloren, die damit begonnen haben, dies trotzdem zu lesen. Diese einfache Annäherung lässt jedoch vermuten, dass de Moivre ursprünglich vermutet hatte, dass es eine universelle Grenzverteilung gibt, dass sein Logarithmus eine quadratische Funktion ist und dass der richtige Skalierungsfaktor proportional zu $s_n$ (weilj2/m=2j2/n=2(j/$\sqrt{n}$). $j^2/m = 2 j^2 / n = 2 (j/\sqrt{n})^2$ Es ist schwer vorstellbar, wie diese wichtige quantitative Beziehung erklärt werden könnte, ohne irgendeine Art von mathematischer Information und Argumentation aufzurufen. Alles andere würde die genaue Form der Grenzkurve zu einem völligen Rätsel machen.

Die schönste Animation, die ich kenne: http://www.ms.uky.edu/~mai/java/stat/GaltonMachine.html

Die einfachsten Wörter, die ich gelesen habe: http://elonen.iki.fi/articles/centrallimit/index.de.html

Wenn Sie die Ergebnisse dieser zehn Würfe zusammenfassen, ist das, was Sie erhalten, wahrscheinlich näher an 30-40 als das Maximum 60 (alle Sechser) oder andererseits das Minimum 10 (alle Sechser).

Der Grund dafür ist, dass Sie die Mittelwerte auf viel mehr verschiedene Arten als die Extreme erhalten können. Beispiel: Wenn zwei Würfel geworfen werden: 1 + 6 = 2 + 5 = 3 + 4 = 7, aber nur 1 + 1 = 2 und nur 6 + 6 = 12.

Das heißt: Auch wenn beim Werfen eines Würfels eine der sechs Zahlen gleich wahrscheinlich ist, sind die Extreme in Summe mehrerer Würfel weniger wahrscheinlich als Mittelwerte.

Intuition ist eine schwierige Sache. Noch kniffliger ist es, wenn die Theorie in unseren Händen hinter unserem Rücken liegt.

Bei der CLT dreht sich alles um winzige, unabhängige Störungen. "Summen" im Sinne der Stichprobe bedeuten "winzig" im Sinne einer endlichen Varianz (der Bevölkerung) und "Störungen" im Sinne eines Plus / Minus um einen zentralen (Bevölkerungs-) Wert.

Für mich ist das Gerät, das die Intuition am unmittelbarsten anspricht, die Quincunx oder "Galton Box", siehe Wikipedia (für "Bean Machine"?). Die Idee ist, einen winzigen kleinen Ball über das Gesicht eines Bretts zu rollen, das mit einem Gitter geschmückt ist von gleich beabstandeten Stiften. Auf dem Weg nach unten lenkt der Ball nach rechts und links (... zufällig, unabhängig) und sammelt sich am Boden. Im Laufe der Zeit sehen wir eine schöne glockenförmige Hügelform direkt vor unseren Augen.

Das CLT sagt dasselbe. Es ist eine mathematische Beschreibung dieses Phänomens (genauer gesagt, der Quincunx ist ein physikalischer Beweis für die normale Annäherung an die Binomialverteilung). Laut CLT verhält sich der Stichprobenmittelwert (richtig skaliert) genau so, wie der kleine Ball, der über das Gesicht von springt, solange sich unsere Bevölkerung nicht übermäßig schlecht benimmt (dh wenn die Enden der PDF-Datei dünn genug sind) Der Quincunx: Manchmal fällt er nach links ab, manchmal fällt er nach rechts ab, aber meistens landet er mittig in einer schönen Glockenform.

Die Majestät des CLT (für mich) ist, dass die Form der zugrunde liegenden Bevölkerung keine Rolle spielt. Die Form spielt nur insofern eine Rolle, als sie die Wartezeit (im Sinne der Stichprobengröße) festlegt.

Eine Beobachtung bezüglich des CLT kann die folgende sein. Wenn du eine Summe hast vieler zufälliger Komponenten haben und eine "kleiner als gewöhnlich" ist, wird dies meistens dadurch ausgeglichen, dass einige der anderen Komponenten "größer als gewöhnlich" sind. . Mit anderen Worten, negative Abweichungen und positive Abweichungen von den Komponentenmitteln gleichen sich in der Summation aus. Persönlich habe ich keine klare Vorstellung, warum genau die verbleibenden Abweichungen eine Verteilung bilden, die umso normaler aussieht, je mehr Begriffe Sie haben.

$$S = X_1 + X_2 + \ldots + X_n$$

Es gibt viele Versionen des CLT, einige stärker als andere, einige mit lockeren Bedingungen wie einer moderaten Abhängigkeit zwischen den Begriffen und / oder nicht identischen Verteilungen für die Begriffe. Im einfachsten zu beweisen Versionen der CLT wird der Nachweis über die Momenterzeugende Funktion basiert in der Regel (oder Laplace-Stieltjes - Transformation oder eine andere der Dichte entsprechende Transformation) der Summe . Wenn Sie dies als Taylor-Erweiterung schreiben und nur den dominantesten Begriff beibehalten, erhalten Sie die momenterzeugende Funktion der Normalverteilung. Für mich persönlich ergibt sich die Normalität aus einer Reihe von Gleichungen, und ich kann keine weitere Intuition liefern.$S$

Es sollte jedoch beachtet werden , dass die Verteilung der Summe, nie wirklich ist normal verteilt, noch hat die CLT behauptet , dass es sein würde. Wenn endlich ist, besteht noch ein gewisser Abstand zur Normalverteilung und wenn n $n$ sowohl der Mittelwert als auch die Varianz ebenfalls unendlich. Im letzteren Fall könnte man den Mittelwert der unendlichen Summe nehmen, aber dann erhält man eine deterministische Zahl ohne jegliche Varianz, die kaum als "normalverteilt" bezeichnet werden kann.$n=\infty$

Dies kann bei praktischen Anwendungen des CLT zu Problemen führen. In der Regel, wenn Sie an der Verteilung von S / n interessiert sind$S/n$ Nähe des Zentrums , funktioniert CLT einwandfrei. Die Konvergenz zum Normalen ist jedoch nicht überall einheitlich , und je weiter Sie sich vom Zentrum entfernen, desto mehr Begriffe benötigen Sie für eine vernünftige Annäherung.

Bei aller "Heiligkeit" des zentralen Grenzwertsatzes in der Statistik werden seine Grenzen oft nur allzu leicht übersehen. Im Folgenden gebe ich zwei Folien aus meinem Kurs, in denen ich darauf hinweise, dass CLT in jedem praktischen Anwendungsfall in den Schwänzen völlig versagt. Leider verwenden viele Menschen CLT speziell, um die Schwanzwahrscheinlichkeiten wissentlich oder auf andere Weise abzuschätzen.

Diese Antwort hofft, mit einfachen Rechentechniken (Taylor-Erweiterung der Ordnung 3) eine intuitive Bedeutung des zentralen Grenzwertsatzes zu geben. Hier ist der Umriss:

1. Was der CLT sagt
2. Ein intuitiver Beweis der CLT mit einfachen Berechnungen
3. Warum die Normalverteilung?

Wir werden ganz am Ende die Normalverteilung erwähnen; denn die Tatsache, dass die Normalverteilung irgendwann auftaucht, trägt nicht viel Intuition.

1. Was sagt der zentrale Grenzwertsatz? Mehrere Versionen des CLT

Es gibt mehrere gleichwertige Versionen des CLT. Die Lehrbuchaussage der CLT besagt, dass für jedes reelle $x$ und jede Folge von unabhängigen Zufallsvariablen $X_1,\cdots,X_n$ mit dem Mittelwert Null und der Varianz 1, Um zu verstehen, wasan der CLTuniversellundintuitiv ist, lassen Sie uns die Grenze für einen Moment vergessen. Die obige Aussage besagt, dass wennX1. ,…,Xn undZ1,…,Znsind zwei Folgen von unabhängigen Zufallsvariablen mit jeweils Null-Mittelwert und Varianz 1, dann E[f(X1+⋯+X

$$P\left(\frac{X_1+\cdots+X_n}{\sqrt n} \le x\right) \to_{n\to+\infty} \int_{-\infty}^x \frac{e^{-t^2/2}}{\sqrt{2\pi}} dt.$$ $X_1.,\ldots,X_n$$Z_1,\ldots,Z_n$ für jede Indikatorfunktionfder Form, für irgendein festes realesx, f(t)={1, wenn t<x0, wenn t≥x. Die vorherige Anzeige zeigt, dass die Grenze unabhängig von den jeweiligen Verteilungen vonX1,…,XnundZ1,…,Zn gleich ist $$E \left[ f\left(\tfrac{X_1+\cdots+X_n}{\sqrt n}\right) \right] - E \left[ f\left(\tfrac{Z_1+\cdots+Z_n}{\sqrt n}\right) \right] \to_{n\to+\infty} 0$$ $f$$x$ $$\begin{equation} f(t) = \begin{cases} 1 \text{ if } t < x \\ 0 \text{ if } t\ge x.\end{cases} \end{equation}$$ $X_1,\ldots,X_n$$Z_1,\ldots,Z_n$vorausgesetzt die Zufallsvariablen sind unabhängig mit Mittelwert Null, Varianz Eins.

Einige andere Versionen des CLT erwähnen die Klasse von Lipschtiz-Funktionen, die durch 1 begrenzt sind; Einige andere Versionen der CLT erwähnen die Klasse der glatten Funktionen mit einer begrenzten Ableitung der Ordnung $k$ . Betrachten Sie zwei Folgen $X_1,\ldots,X_n$ und $Z_1,\ldots,Z_n$ wie oben und für einige Funktionen $f$ das Konvergenzergebnis (CONV).

$$E \left[ f\left(\tfrac{X_1+\cdots+X_n}{\sqrt n}\right) \right] - E \left[ f\left(\tfrac{Z_1+\cdots+Z_n}{\sqrt n}\right) \right] \to_{n\to+\infty} 0 \tag{CONV}$$

Es ist möglich, die Äquivalenz ("wenn und nur wenn") zwischen den folgenden Aussagen festzustellen:

1. $f$$f(t)=1$$t < x$$f(t)=0$$t\ge x$$x$
2. $f:R\to R$
3. $C^{\infty}$
4. $f$$\sup_{x\in R} |f'''(x)| \le 1$

Jeder der 4 obigen Punkte besagt, dass die Konvergenz für eine große Klasse von Funktionen gilt. Durch ein technisches Näherungsargument kann man zeigen, dass die vier obigen Punkte äquivalent sind. Wir verweisen den Leser auf Kapitel 7, Seite 77 von David Pollards Buch A Benutzerhandbuch, um theoretische Wahrscheinlichkeiten zu messen , aus denen diese Antwort sehr inspiriert.

Unsere Annahme für den Rest dieser Antwort ...

$\sup_{x\in R} |f'''(x)| \le C$$C>0$$E[|X_i|^3]$$E[|Z_i|^3]$ sind endlich.

$E\left[ f\left( \tfrac{X_1+\cdots+X_n}{\sqrt n} \right) \right]$$X_1,...,X_n$

$X_1,\ldots,X_n$$Z_1,\ldots,Z_n$

$X_i$$Z_i$$W = Z_1+\cdots+Z_{n-1}$$h(x)=f(x/\sqrt n)$

$$\begin{align} h(Z_1+\cdots+Z_{n-1}+X_n) &= h(W) + X_n h'(W) + \frac{X_n^2 h''(W)}{2} + \frac{X_n^3/h'''(M_n)}{6} \\ h(Z_1+\cdots+Z_{n-1}+Z_n) &= h(W) + Z_n h'(W) + \frac{Z_n^2 h''(W)}{2} + \frac{Z_n^3 h'''(M_n')}{6} \\ \end{align}$$ $M_n$$M_n'$$X_n$$W$$E[X_n h'(W)]= E[X_n] E[h'(W)] =0$

$$\frac{(C/6)E[ |X_n|^3 + |Z_n|^3 ]}{(\sqrt n)^3}.$$ $C$$f'''$$(\sqrt{n})^3$$h'''(t) = f'''(t/\sqrt n)/(\sqrt n)^3$$X_n$$Z_n$

$X_{n-1}$$Z_{n-1}$$\tilde W= Z_1+Z_2+\cdots+Z_{n-2} + X_n$

$$\begin{align} h(Z_1+\cdots+Z_{n-2}+X_{n-1}+X_n) &= h(\tilde W) + X_{n-1} h'(\tilde W) + \frac{X_{n-1}^2 h''(\tilde W)}{2} + \frac{X_{n-1}^3/h'''(\tilde M_n)}{6}\\ h(Z_1+\cdots+Z_{n-2}+Z_{n-1}+X_n) &= h(\tilde W) + Z_{n-1} h'(\tilde W) + \frac{Z_{n-1}^2 h''(\tilde W)}{2} + \frac{Z_{n-1}^3/h'''(\tilde M_n)}{6}. \end{align}$$ $Z_{n-1}$$\tilde W$$X_{n-1}$$\tilde W$

$$\frac{(C/6)E[ |X_{n-1}|^3 + |Z_{n-1}|^3 ]}{(\sqrt n)^3}.$$ $Z_i$$X_i$$n$ $$\Big| E\left[ f\left( \tfrac{X_1+\cdots+X_n}{\sqrt n} \right) \right]-E\left[ f\left( \tfrac{Z_1+\cdots+Z_n}{\sqrt n} \right) \right] \Big| \le n \frac{(C/6)\max_{i=1,\ldots,n} E[ |X_i|^3 + |Z_i|^3 ]}{(\sqrt n)^3}.$$ $n$$X_1,\ldots,X_n$$Z_1,\ldots,Z_n$$X_i$$Z_i$$O(1/(\sqrt n)^3)$$X_i$$Z_i$$O(1/\sqrt n)$

$E\left[ f\left( \frac{X_1+\cdots+X_n}{\sqrt n} \right) \right]$$X_1,\ldots,X_n$$E[X_i]=E[Z_i]=0,E[Z_i^2]=E[X_i^2]=1$

3. Warum die Normalverteilung?

$E\left[ f\left( \frac{X_1+\cdots+X_n}{\sqrt n} \right) \right]$$X_i$$O(1/\sqrt n)$

$E\left[ f\left( \frac{X_1+\cdots+X_n}{\sqrt n} \right) \right]$

$X_1,\ldots,X_n$$(X_1+\cdots+X_n)/\sqrt n$

$N(0,1)$$Z_1,\ldots,Z_n$$N(0,1)$$\frac{Z_1+\cdots+Z_n}{\sqrt n}$$N(0,1)$$n$$Z\sim N(0,1)$

$$E\left[ f\left( \frac{Z_1+\cdots+Z_n}{\sqrt n} \right) \right] = E[ f(Z)],$$ $X_1,\ldots,X_n$$E[X_i]=0,E[X_i^2]=1$

$$\left| E\left[ f\left( \frac{X_1+\cdots+X_n}{\sqrt n} \right) \right] -E[f(Z) \right| \le \frac{\sup_{x\in R} |f'''(x)| \max_{i=1,\ldots,n} E[|X_i|^3 + |Z|^3]}{6\sqrt n}.$$

Ich habe es aufgegeben, eine intuitive Version zu entwickeln, und habe einige Simulationen entwickelt. Ich habe eine, die eine Simulation eines Quincunx zeigt, und einige andere, die Dinge zeigen, wie selbst eine verzerrte Verteilung der rohen Reaktionszeit normal wird, wenn Sie genug RTs pro Thema sammeln. Ich denke, sie helfen, aber sie sind neu in meiner Klasse in diesem Jahr und ich habe den ersten Test noch nicht benotet.

Eine Sache, die ich für gut hielt, war, auch das Gesetz der großen Zahlen zeigen zu können. Ich könnte zeigen, wie variabel die Dinge bei kleinen Stichprobengrößen sind, und dann zeigen, wie sie sich bei großen stabilisieren. Ich mache auch eine Menge anderer Demos. Ich kann die Wechselwirkung im Quincunx zwischen der Anzahl der zufälligen Prozesse und der Anzahl der Proben zeigen.

(Es hat sich als ein Segen herausgestellt, wenn ich in meiner Klasse keine Kreide oder weiße Tafel verwenden kann.)

Wenn Sie viele Histogramme mit zufälligen Verteilungen addieren, behalten Sie entweder die normale Verteilungsform bei, weil alle einzelnen Histogramme bereits diese Form haben, oder Sie erhalten diese Form, weil sich Schwankungen in den einzelnen Histogrammen gegenseitig aufheben, wenn Sie große hinzufügen Anzahl der Histogramme. Ein Histogramm einer zufälligen Verteilung einer Variablen ist bereits annähernd so verteilt, dass die Leute damit begonnen haben, die Normalverteilung zu nennen, weil sie so verbreitet ist und das ein Mikrokosmos des zentralen Grenzwertsatzes ist.

Dies ist nicht die ganze Geschichte, aber ich denke, es ist so intuitiv wie es nur geht.