Wie kann ich die Standardabweichung der Standardabweichung der Stichprobe von einer Normalverteilung ermitteln?

Vergib mir, wenn ich etwas ziemlich Offensichtliches verpasst habe.

Ich bin Physiker mit einer (Histogramm-) Verteilung, die sich um einen Mittelwert dreht, der sich einer Normalverteilung annähert. Der für mich wichtige Wert ist die Standardabweichung dieser Gaußschen Zufallsvariablen. Wie würde ich versuchen, den Fehler in der Standardabweichung der Stichprobe zu finden? Ich habe das Gefühl, dass es etwas mit dem Fehler auf jedem Bin im ursprünglichen Histogramm zu tun hat.

— Bräunen
quelle

Ein Hinweis wird unter stats.stackexchange.com/questions/26924 bereitgestellt . Im Allgemeinen kann der Abtastfehler einer Varianz in Bezug auf die ersten vier Momente der Verteilung berechnet werden, und daher kann der Abtastfehler der SD zumindest aus diesen Momenten geschätzt werden.

— whuber

Antworten:

Es hört sich so an, als würden Sie nach einer Berechnung der Standardabweichung der Standardabweichung der Stichprobe fragen. Das heißt, Sie fragen nach , wo ${\rm SD}(s) = \sqrt{ {\rm var}(s) }$

s = \sqrt{\frac{1}{n - 1} \sum_{i = 1}^{n} (X_{i} - \bar{X})},

$s = \sqrt{ \frac{1}{n-1} \sum_{i=1}^{n} (X_i - \overline{X}) },$

und ist die Probe Mittelwert. $X_1, ..., X_n \sim N(\mu, \sigma^2)$ $\overline{X}$

Erstens wissen wir aus den grundlegenden Eigenschaften der Varianz, dass

v a r (s) = E (s^{2}) - E (s)^{2}

${\rm var}(s) = E(s^2) - E(s)^2$

Da die Stichprobenvarianz unverzerrt ist, wissen wir, dass . In Warum ist die Standardabweichung der Stichprobe ein voreingenommener Schätzer von ? , wird berechnet, woraus wir schließen können $E(s^2) = \sigma^2$ $\sigma$ $E(s)$

E (s)^{2} = \frac{2 σ^{2}}{n - 1} \cdot {(\frac{Γ (n / 2)}{Γ (\frac{n - 1}{2})})}^{2}

$E(s)^2 = \frac{2 \sigma^2 }{n-1} \cdot \left( \frac{ \Gamma(n/2) }{ \Gamma( \frac{n-1}{2} ) } \right)^2$

deshalb

S D (s) = \sqrt{E (s^{2}) - E (s)^{2}} = σ \sqrt{1 - \frac{2}{n - 1} \cdot {(\frac{Γ (n / 2)}{Γ (\frac{n - 1}{2})})}^{2}}

${\rm SD}(s) = \sqrt{ E(s^2) - E(s)^2 } = \sigma \sqrt{ 1 - \frac{2}{n-1} \cdot \left( \frac{ \Gamma(n/2) }{ \Gamma( \frac{n-1}{2} ) } \right)^2 }$

— Makro
quelle

Guter Punkt. Ich habe eine Schätzung der Varianz von s ^ 2 erhalten. Die Quadratwurzel ergibt eine Schätzung der Standardabweichung von s ^ 2. Aber Sie haben die eigentliche Frage beantwortet, die darin bestand, die Standardabweichung von s zu erhalten. Ich würde annehmen, dass aus praktischen Gründen auch Sie σ durch s ersetzen würden, um eine Schätzung unter Verwendung der Formel zu erhalten.

— Michael R. Chernick

Ja, das stimmt, Sie können

durch

ersetzen, und diese Näherung funktioniert auch bei bescheidenen Stichprobengrößen gut - ich habe einige Tests mit

σ

$\sigma$

s

$s$

n = 20

$n=20$

— Makro

Die Größe hat eine Chi-Quadrat-Verteilung mit Freiheitsgraden, wenn die Proben unabhängig und mit derselben Normalverteilung verteilt sind. Diese Größe kann verwendet werden, um Konfidenzintervalle für die zu erhalten Varianz der Normalen und ihrer Standardabweichung. Wenn Sie die Rohwerte und nicht nur den zentralen Wert der Behälter haben, können Sie berechnen . $X=(n-1) s^2/\sigma^2$ $n-1$ $s^2$

Es ist bekannt, dass wenn eine Chi-Quadrat-Verteilung mit Freiheitsgraden hat, seine Varianz beträgt . Wenn wir dies und die Tatsache wissen, dass wir, dass eine Varianz von $X$ $n-1$ $2(n-1)$ $\mathrm{Var}(cX) = c^2 \mathrm{Var}(X)$ $s^2$ Obwohl unbekannt ist, können Sie es mit approximierenund haben eine ungefähre Vorstellung davon, wie die Varianz von ist.

\frac{2 (n - 1) σ^{4}}{(n - 1)^{2}} = \frac{2 σ^{4}}{n - 1} .

$\frac{2(n-1)\sigma^4}{(n-1)^2} =\frac{2\sigma^4}{n-1} \>.$

σ^{4}

$\sigma^4$

s^{4}

$s^4$

s^{2}

$s^2$

— Michael R. Chernick
quelle

Ich wollte dies am Anfang posten, aber das Problem, wie ich es hier sehe, ist, dass

unbekannt ist. Angesichts dieser Tatsache weiß ich nicht, ob es gültig ist,

zu approximieren, wenn wir nicht einmal die Stichprobengröße kennen. Ich erinnere mich, dass man zeigen kann, dass der vierte Moment ernsthafte Probleme mit Ausreißern haben kann.

σ^{2}

$\sigma^2$

s^{4} \approx σ^{4}

$s^4\approx \sigma^4$

— Néstor

ist ein konsistenter Schätzer von

(vorausgesetzt,

existiert), richtig @Nesp? Ich denke, das ist normalerweise gemeint, wenn Leute "ungefähre" oder "grobe Idee" sagten.

s^{4}

$s^4$

σ^{4}

$\sigma^4$

σ^{4}

$\sigma^4$

— Makro

Vielleicht ist der Schlafmangel, aber ist das nicht wie Zirkelschluss?

— Néstor

Wir gingen von Anfang an davon aus, dass die Daten aus einer Normalverteilung stammen, sodass es kein Ausreißerproblem gibt. Ich meinte grob, wie Macro es vorschlägt. Ich stimme zu, dass die Stichprobengröße beeinflusst, wie nahe s ^ 4 an σ ^ 4 liegt. Aber die Sorge um Ausreißer ist Nesp. Wenn Sie mich dafür herabgestimmt haben, finde ich das sehr unfair. Was ich vorgestellt habe, war die Standardmethode zum Schätzen der Standardabweichung für s ^ 2, wenn Daten NORMAL VERTEILT werden.

— Michael R. Chernick

@Nesp, Michael has given a consistent estimator of the variance of the sample standard deviation from a normally distributed sample - for large samples it will do well - simulate it and find out. I'm not sure why you think this is circular reasoning.

— Macro

There are several ways of quantifying the error of the standard deviation in the normal case. I am going to present the profile likelihood of $\sigma$ which can be used for approximating confidence intervals.

Let $x=(x_1,...,x_n)$ be a sample from a Normal $(\mu,\sigma)$ . The corresponding likelihood function is given by

L (μ, σ) \propto \frac{1}{σ^{n}} \exp (- \frac{1}{2 σ^{2}} \sum_{j = 1}^{n} (x_{j} - μ)^{2})

${\mathcal L}(\mu,\sigma) \propto \dfrac{1}{\sigma^n}\exp\left(-\dfrac{1}{2\sigma^2}\sum_{j=1}^n(x_j-\mu)^2\right)$

Then, the Maximum Likelihood Estimators are given by $(\hat\mu,\hat\sigma)=(\bar x,s)$ , where $s=\sqrt{\dfrac{1}{n}\sum_{j=1}^n(x_j-\bar x)^2}$ . Given that you are interested on quantifying the error on $\sigma$ , you can then calculate the normalised profile likelihood of this parameter as follows.

R_{p} (σ) = \frac{sup_{μ} L (μ, σ)}{L (\hat{μ}, \hat{σ})} = {(\frac{\hat{σ}}{σ})}^{n} \exp [\frac{n}{2} (1 - {(\frac{\hat{σ}}{σ})}^{2})]

$R_p(\sigma)=\dfrac{\sup_{\mu}{\mathcal L}(\mu,\sigma)}{{\mathcal L}(\hat\mu,\hat\sigma)} = \left(\dfrac{\hat\sigma}{\sigma}\right)^n\exp\left[\dfrac{n}{2}\left(1-\left(\dfrac{\hat\sigma}{\sigma}\right)^2\right)\right]$

Note that $R_p:{\mathbb R}_+\rightarrow (0,1]$ . An interval of level $0.147$ has an approximate confidence of $0.95$ . Next I attach an $R$ code that can be used for calculating these intervals. You can modify it accordingly in your context (or if you post the data I can include these changes).

data = rnorm(30)
n = length(data)
sg = sqrt(mean((data-mean(data))^2))
# Profile likelihood
rp = function(sigma) return( (sg/sigma)^n*exp(0.5*n*(1-(sg/sigma)^2))  )
vec = rvec = seq(0.5,1.5,0.01)
for(i in 1:length(rvec)) rvec[i] = rp(vec[i])
plot(vec,rvec,type="l")
rpc = function(sigma) return(rp(sigma)-0.147)
# Approximate 95% confidence interval
c(uniroot(rpc,c(0.7,0.8))$root,uniroot(rpc,c(1.1,1.3))$root)

An advantage of this sort of intervals is that they are invariant under transformations. In this case if you calculate an interval for $\sigma$ , $I=(L,U)$ , then the corresponding interval for $\sigma^2$ is simply $I^{\prime}=(L^2,U^2)$ .

I think he really just wanted the standard deviation of s.

— Michael R. Chernick