Berechnung der erforderlichen Stichprobengröße, Genauigkeit der Varianzschätzung?

17

Hintergrund

Ich habe eine Variable mit einer unbekannten Verteilung.

Ich habe 500 Stichproben, möchte aber die Genauigkeit demonstrieren, mit der ich die Varianz berechnen kann, um beispielsweise zu argumentieren, dass eine Stichprobengröße von 500 ausreichend ist. Ich bin auch daran interessiert, die minimale Stichprobengröße zu kennen, die erforderlich wäre, um die Varianz mit einer Genauigkeit von zu schätzen . $X\%$

Fragen

Wie kann ich rechnen?

die Genauigkeit meiner Varianzschätzung bei einer Stichprobengröße von ? von ? $n=500$ $n=N$
Wie kann ich die minimale Anzahl von Stichproben berechnen, die erforderlich sind, um die Varianz mit einer Genauigkeit von abzuschätzen ? $X$

Beispiel

Abbildung 1 Dichteschätzung des Parameters basierend auf den 500 Proben.

Bildbeschreibung hier eingeben

Abbildung 2 Hier ist ein Diagramm der Stichprobengröße auf der x-Achse im Vergleich zu den Varianzschätzungen auf der y-Achse, die ich anhand von Teilstichproben aus der Stichprobe von 500 berechnet habe .

Die Schätzungen sind jedoch nicht unabhängig gültig, da die zur Schätzung der Varianz für verwendeten Stichproben nicht voneinander oder von den zur Berechnung der Varianz für verwendeten Stichproben unabhängig sind. $n \in [10,125,250,500]$ $n\in [20,40,80]$

Bildbeschreibung hier eingeben

— Abe
quelle

Beachten Sie jedoch, dass die Varianz undefiniert ist, wenn eine Komponente Ihrer unbekannten Verteilung eine Cauchy-Verteilung ist.

— Mike Anderson

@Mike Oder in der Tat unendlich viele andere Distributionen.

— Glen_b

10

Für iid Zufallsvariablen hat der unverzerrte Schätzer für die Varianz (der mit dem Nenner ) eine Varianz: $X_1, \dotsc, X_n$ $s^2$ $n-1$

V a r (s^{2}) = σ^{4} (\frac{2}{n - 1} + \frac{κ}{n})

$\mathrm{Var}(s^2) = \sigma^4 \left(\frac{2}{n-1} + \frac{\kappa}{n}\right)$

Dabei ist die überschüssige Kurtosis der Verteilung (Referenz: Wikipedia ). Nun müssen Sie auch die Kurtosis Ihrer Verteilung abschätzen. Sie können eine Menge verwenden, die manchmal als $\kappa$ $\gamma_2$ (auch von Wikipedia ):

γ_{2} = \frac{μ_{4}}{σ_{4}} - 3

$\gamma_2 = \frac{\mu_4}{\sigma_4} - 3$

Ich würde davon ausgehen , dass , wenn Sie als Schätzwert für und als Schätzwert für , dass Sie eine vernünftige Schätzung für bekommen , obwohl ich keine Garantie , dass es unvoreingenommen ist. Überprüfen Sie, ob die Abweichung zwischen den Teilmengen Ihrer 500 Datenpunkte angemessen ist und ob Sie sich darüber keine Gedanken mehr machen :) $s$ $\sigma$ $\gamma_2$ $\kappa$ $\mathrm{Var}(s^2)$

— Erik P.
quelle

Haben Sie eine Lehrbuchreferenz für den unvoreingenommenen Varianzschätzer? Ich weiß nicht, wohin ich mit Wikipedia gehen soll, um mehr Kontext zu erhalten.

— Abe

Ich habe meinen Standardtext Rice hier nicht dabei, daher kann ich die Seitenzahl nicht für Sie überprüfen, aber ich bin sicher, dass sie dort enthalten ist. Wikipedia schlägt vor, dass es auch erwähnt werden sollte in: Montgomery, DC und Runger, GC: Angewandte Statistik und Wahrscheinlichkeit für Ingenieure , Seite 201. John Wiley & Söhne New York, 1994.

— Erik P.

danke für deine hilfe dabei. Diese Antwort war sehr nützlich und informativ, um die Varianzunsicherheit zu quantifizieren. Ich habe die Gleichung am letzten Tag etwa zehnmal angewendet. Die Berechnung von

ist mit der Bibliothek einfach :

k a p p a

$kappa$ momentslibrary(moments); k <- kurtosis(x); n <- length(x); var(x)^2*(2/(n-1) + k/n)

— Abe

Hast du vielleicht die Seitenzahl aus dem Rice-Text gefunden? Ich kann es in Casella und Berger nicht finden. Eine primäre Referenz wäre noch besser, wenn Sie es wissen. Die Wikipedia-Seite ist insbesondere nicht referenziert.

— Abe

Hmmm ... sieht so aus, als hätte Rice die Formel auch nicht. Ich werde ein Auge darauf werfen, aber zu diesem Zeitpunkt habe ich überhaupt keine Referenz.

— Erik P.

15

Eine Varianz zu lernen ist schwer.

In vielen Fällen ist eine (möglicherweise überraschend) große Anzahl von Stichproben erforderlich, um eine Varianz gut abzuschätzen. Im Folgenden werde ich die Entwicklung für den "kanonischen" Fall einer normalen Stichprobe zeigen.

Angenommen, , sind unabhängige Zufallsvariablen. Wir suchen ein -Konfidenzintervall für die Varianz, so dass die Breite des Intervalls , dh die Breite beträgt der Punktschätzung. Wenn beispielsweise , dann ist die Breite des CI ist der halbe Wert der Punktschätzung, zum Beispiel , wenn $Y_i$ $i=1,\ldots,n$ $\mathcal{N}(\mu, \sigma^2)$ $100(1-\alpha)\%$ $\rho s^2$ $100\rho \%$ $\rho = 1/2$ , dann wäre das CI so etwas wie $s^2 = 10$ mit einer Breite von 5. Beachten Sie auch die Asymmetrie um die Punktschätzung. ( ist der unverzerrte Schätzer für die Varianz.) $(8,\,13)$ $s^2$

"Das" (eher "a") Konfidenzintervall für ist $s^2$ wo

\frac{(n - 1) s^{2}}{χ_{(n - 1)}^{2 (1 - α / 2)}} \leq σ^{2} \leq \frac{(n - 1) s^{2}}{χ_{(n - 1)}^{2 (α / 2)}},

$\frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} \leq \sigma^2 \leq \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(\alpha/2)}} \>,$

ist das

Quantil der Chi-Quadrat-Verteilung mit

Freiheitsgraden. (Dies ergibt sich aus der Tatsache, dass

eine zentrale Größe in einer Gaußschen Einstellung ist.)

χ_{(n - 1)}^{2 β}

$\chi_{(n-1)}^{2\;\beta}$

β

$\beta$

n - 1

$n-1$

(n - 1) s^{2} / σ^{2}

$(n-1)s^2/\sigma^2$

Wir wollen die Breite minimieren, so dass So bleiben wir lösen , so daß

L (n) = \frac{(n - 1) s^{2}}{χ_{(n - 1)}^{2 (α / 2)}} - \frac{(n - 1) s^{2}}{χ_{(n - 1)}^{2 (1 - α / 2)}} < ρ s^{2},

$L(n) = \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(\alpha/2)}} - \frac{(n-1) s^2}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} < \rho s^2 \>,$

n

$n$

(n - 1) (\frac{1}{χ_{(n - 1)}^{2 (α / 2)}} - \frac{1}{χ_{(n - 1)}^{2 (1 - α / 2)}}) < ρ .

$(n-1) \left(\frac{1}{\chi_{(n-1)}^{2\;(\alpha/2)}} - \frac{1}{\chi_{(n-1)}^{2\;(1-\alpha/2)}} \right) < \rho .$

$n = 65$ $\rho = 1$ $n = 5321$ $\rho = 0.1$

$n$ $n$

$n$ $\rho$

\hat{α} \approx \frac{\log 0.1 - \log 1}{\log 5321 - \log 65} = \frac{- \log 10}{\log \frac{5231}{65}} \approx - 0.525,

$\hat{\alpha} \approx \frac{\log 0.1 - \log 1}{\log 5321 - \log 65} = \frac{-\log 10}{\log \frac{5231}{65}} \approx -0.525 ,$

das ist leider entschieden langsam!

Dies ist eine Art "kanonischer" Fall, um Ihnen ein Gefühl für die Vorgehensweise bei der Berechnung zu vermitteln. Aufgrund Ihrer Diagramme sehen Ihre Daten nicht besonders normal aus. insbesondere scheint es eine merkliche Schräglage zu geben.

Dies sollte Ihnen jedoch eine Vorstellung davon geben, was Sie erwartet. Beachten Sie, dass zur Beantwortung Ihrer zweiten Frage zunächst ein Konfidenzniveau festgelegt werden muss, das ich in der obigen Entwicklung zu Demonstrationszwecken auf 99% festgelegt habe.

— Kardinal
quelle

n | ρ

$n|\rho$

r h o

$rho$

n = 65

$n=65$

ρ < 1

$\rho<1$

ρ

$\rho$

1 \times s^{2}

$1\times s^2$

ρ

$\rho$

1 %

$1\%$

s^{2}

$s^2$

@ Be, aktualisiert und hoffentlich im Prozess geklärt. In der Vorgängerversion gab es einen besonders schlechten Tippfehler. Das tut mir leid.

— Kardinal

Eine sehr nette Antwort, aber ich habe die von @Erik gewählt, weil sie besser auf mein Problem zutrifft (da mein Parameter nicht normalverteilt ist).

— Abe

@ Be: Kein Problem. Dafür gibt es das Häkchen. Meine Antwort sollte vor allem veranschaulichend sein. Soweit ich das beurteilen kann, scheint es immer noch das einzige zu sein, das beide Fragen beantwortet, und es wird (asymptotisch) auch in dem von Erik skizzierten Szenario korrekt sein. (+1 zu ihm vor gut einem Jahr.) :)

— Kardinal

s (s_{s})

$s(s_{s})$

s [l c l, u c l]

$s[lcl,ucl]$

1

Ich würde mich eher auf die SD als auf die Varianz konzentrieren, da diese auf einer Skala liegt, die leichter zu interpretieren ist.

Manchmal wird nach Konfidenzintervallen für SDs oder Varianzen gesucht, aber der Fokus liegt im Allgemeinen auf den Mitteln.

$s^2/\sigma^2$ $\sigma^2$ $\sigma$ $\sigma^2$

— Karl
quelle

(Diese Antwort kam hierher, nachdem eine doppelte, etwas anders eingerahmte Frage zusammengeführt wurde.)

— whuber

1

Die folgende Lösung wurde von Greenwood und Sandomire in einem JASA-Papier von 1950 angegeben.

$X_1,\dots,X_n$ $\mathrm{N}(\mu,\sigma^2)$ $\sigma$

S = \sqrt{\sum_{i = 1}^{n} \frac{(X_{i} - \bar{X})^{2}}{n - 1}},

$S=\sqrt{\sum_{i=1}^n\frac{(X_i-\bar{X})^2}{n-1}},$

S

$S$

σ

$\sigma$

0 < u < 1

$0<u<1$

Pr {S < (1 - u) \cdot σ} = a and Pr {S > (1 + u) \cdot σ} = b,

$\Pr\{S<(1-u)\cdot\sigma\}=a \quad\text{and}\quad \Pr\{S>(1+u)\cdot\sigma\}=b,$

γ = 1 - a - b

$\gamma=1-a-b$

Pr {\frac{(n - 1) S^{2}}{σ^{2}} < (n - 1) (1 - u)^{2}} = a

$\Pr\!\left\{ \frac{(n-1)S^2}{\sigma^2} < (n-1)(1-u)^2\right\} = a$

Pr {\frac{(n - 1) S^{2}}{σ^{2}} > (n - 1) (1 + u)^{2}} = b .

$\Pr\!\left\{ \frac{(n-1)S^2}{\sigma^2} > (n-1)(1+u)^2\right\} = b.$

(n - 1) S^{2} / σ^{2}

$(n-1)S^2/\sigma^2$

χ_{n - 1}^{2}

$\chi^2_{n-1}$

γ = F_{χ_{(n - 1)}^{2}} ((n - 1) (1 + u)^{2}) - F_{χ_{(n - 1)}^{2}} ((n - 1) (1 - u)^{2}),

$\gamma = F_{\chi^2_{(n-1)}}((n-1)(1+u)^2) - F_{\chi^2_{(n-1)}}((n-1)(1-u)^2),$

$n$ $\gamma$ $u$

R Code.

gamma <- 0.95
u <- 0.1
g <- function(n) pchisq((n-1)*(1+u)^2, df = n-1) - pchisq((n-1)*(1-u)^2, df = n-1) - gamma
cat("Sample size n = ", ceiling(uniroot(g, interval = c(2, 10^6))$root), "\n")

$u=10\%$ $\gamma=95\%$

Sample size n = 193

— Zen
quelle