Empirische CDF vs CDF

Ich lerne etwas über die empirische kumulative Verteilungsfunktion. Aber ich verstehe immer noch nicht

1. Warum heißt es "empirisch"?

2. Gibt es einen Unterschied zwischen Empirical CDF und CDF?

Sei eine Zufallsvariable.$X$

• Die kumulative Verteilungsfunktion ergibt das .$F(x)$$P(X \leq x)$
• Eine empirische kumulative Verteilungsfunktion ergibt basierend auf den Beobachtungen in Ihrer Stichprobe.$G(x)$$P(X \leq x)$

Die Unterscheidung besteht darin, welches Wahrscheinlichkeitsmaß verwendet wird. Für die empirische CDF verwenden Sie das Wahrscheinlichkeitsmaß, das durch die Häufigkeitszählungen in einer empirischen Stichprobe definiert ist.

Einfaches Beispiel (Münzwurf):

Sei eine Zufallsvariable, die das Ergebnis eines einzelnen Münzwurfs bezeichnet, wobei Köpfe und Schwänze bezeichnet.$X$$X=1$$X=0$

Der CDF für eine faire Münze ist gegeben durch:

$$F(x) = \left\{ \begin{array}{ll} 0 & \text{for } x < 0\\ \frac{1}{2} & \text{for } 0 \leq x < 1 \\1 & \text{for } 1 \leq x \end{array} \right.$$

Wenn Sie 2 Köpfe und 1 Schwanz umgedreht hätten, wäre die empirische CDF:

$$G(x) = \left\{ \begin{array}{ll} 0 & \text{for } x < 0\\ \frac{2}{3} & \text{for } 0 \leq x < 1 \\1 & \text{for } 1 \leq x \end{array} \right.$$

Die empirische CDF würde widerspiegeln, dass in Ihrer Stichprobe Ihrer Flips Köpfe waren.$2/3$

Ein weiteres Beispiel ( ist CDF für die Normalverteilung):$F$

Sei eine normalverteilte Zufallsvariable mit Mittelwert und Standardabweichung .$X$$0$$1$

Der CDF wird vergeben von:

$$F(x) = \int_{-\infty}^x \frac{1}{\sqrt{2\pi}} e^{\frac{-x^2}{2}}$$

Nehmen wir an, Sie hatten 3 IID-Draws und haben die Werte . Die empirische CDF wäre: $x_1 < x_2 < x_3$

$$G(y) = \left\{ \begin{array}{ll} 0 & \text{for } y < x_1\\ \frac{1}{3} & \text{for } x_1 \leq y < x_2 \\\frac{2}{3} & \text{for } x_2 \leq y < x_3 \\1 & \text{for } x_3 \leq y \end{array} \right.$$

Wenn genügend IID-Draws vorliegen (und bestimmte Regularitätsbedingungen erfüllt sind), würde die empirische CDF gegen die zugrunde liegende CDF der Population konvergieren.

Gibt es einen Unterschied zwischen Empirical CDF und CDF?

Ja, sie sind anders. Eine empirische cdf ist eine richtige cdf, aber empirische cdfs sind immer diskret, auch wenn sie nicht aus einer diskreten Distribution stammen, während die cdf einer Distribution andere Dinge als diskret sein können.

Wenn Sie eine Stichprobe so behandeln, als ob es sich um eine Population von Werten handelt, von denen jeder gleich wahrscheinlich ist (dh die Wahrscheinlichkeit 1 / n für jede Beobachtung), ist der cdf dieser Verteilung der ECDF der Daten.

Warum heißt es "empirisch"?

Es handelt sich um eine Schätzung der Bevölkerungszahl basierend auf der Stichprobe. Insbesondere wenn Sie die Anteile der Stichprobe an jedem einzelnen Datenwert behandeln und so behandeln, als ob es sich um eine Wahrscheinlichkeit in der Grundgesamtheit handelte, erhalten Sie den ECDF.

Empirisch hat eine Bedeutung wie "durch Beobachtung statt Theorie", und genau das bedeutet es in diesem Fall ... mithilfe der Beobachtungen die Verteilungsfunktion zu bestimmen.

Die empirische CDF wird aus einem tatsächlichen Datensatz erstellt (im folgenden Diagramm habe ich 100 Stichproben aus einer Standardnormalverteilung verwendet). Die CDF ist ein theoretisches Konstrukt - es ist das, was Sie sehen würden, wenn Sie unendlich viele Proben entnehmen könnten.

Die empirische CDF nähert sich in der Regel der CDF ziemlich gut an, insbesondere bei großen Stichproben (tatsächlich gibt es Theoreme darüber, wie schnell sie mit zunehmender Stichprobengröße zur CDF konvergiert).

Empirisch bauen Sie auf Daten und Beobachtungen auf. Angenommen, Sie möchten etwas über die Verteilung der Körpergröße von Menschen in einem Land erfahren. Sie beginnen mit der Messung von Personen und erstellen ein Histogramm, das einer Verteilung angenähert werden kann. Dann berechnen Sie den empirischen CDF.

Wenn Sie eine statistische Verteilung verwenden (eine deterministische Formel, die mit denselben Parametern genau dieselbe Ausgabe liefert), können Sie auch deren CDF berechnen.

$N(\mu=1.75\ \text{m},\sigma=0.1\ \text{m})$

Laut Dictionary.com umfassen die Definitionen von "empirisch":

abgeleitet von oder geleitet von Erfahrung oder Experiment.

Daher ist die empirische CDF die CDF, die Sie aus Ihren Daten erhalten. Dies steht im Gegensatz zu der theoretischen CDF (oft nur "CDF" genannt), die aus einem statistischen oder probabilistischen Modell wie der Normalverteilung erhalten wird.