Wie berechnet man die gepoolte Varianz von zwei oder mehr Gruppen bei bekannten Gruppenvarianzen, Mittelwerten und Stichprobengrößen?

Angenommen, es gibt Elemente, die in zwei Gruppen aufgeteilt sind ( und ). Die Varianz der ersten Gruppe ist und die Varianz der zweiten Gruppe ist . Es wird angenommen, dass die Elemente selbst unbekannt sind, aber ich kenne die und . $m+n$ $m$ $n$ $\sigma_m^2$ $\sigma^2_n$ $\mu_m$ $\mu_n$

Gibt es eine Möglichkeit, die kombinierte Varianz zu berechnen ? $\sigma^2_{(m+n)}$

Die Varianz muss nicht unverzerrt sein, daher ist der Nenner und nicht . $(m+n)$ $(m+n-1)$

variance pooling

— user1809989
quelle

Wenn Sie sagen, dass Sie die Mittelwerte und Abweichungen dieser Gruppen kennen, handelt es sich um Parameter oder Stichprobenwerte? Wenn es sich um Stichprobenmittel / -abweichungen handelt, sollten Sie und nicht verwenden ...

μ

$\mu$

σ

$\sigma$

— Jonathan Christensen

Ich habe die Symbole nur als Darstellung verwendet. Ansonsten wäre es schwierig gewesen, mein Problem zu erklären.

— user1809989

Für Beispielwerte verwenden wir normalerweise lateinische Buchstaben (z B. und ). Griechische Buchstaben sind normalerweise für Parameter reserviert. Mit den "richtigen" (erwarteten) Symbolen können Sie klarer kommunizieren.

m

$m$

s

$s$

— Jonathan Christensen

Keine Sorge, dem folge ich ab sofort! Cheers

— user1809989

@Jonathan Da es sich nicht um Stichproben oder Schätzungen handelt, kann man zu Recht davon ausgehen, dass und der wahre Mittelwert und die Varianz der empirischen Verteilung eines Datenstapels sind, was die konventionelle Verwendung von Griechisch rechtfertigt Buchstaben statt lateinischer Buchstaben, um sich auf sie zu beziehen.

μ

$\mu$

σ^{2}

$\sigma^2$

— Whuber

Antworten:

Verwenden Sie die Definitionen des Mittelwerts

μ_{1 : n} = \frac{1}{n} \sum_{i = 1}^{n} x_{i}

$\mu_{1:n} = \frac{1}{n}\sum_{i=1}^n x_i$

und Stichprobenvarianz

σ_{1 : n}^{2} = \frac{1}{n} \sum_{i = 1}^{n} {(x_{i} - μ_{1 : n})}^{2} = \frac{n - 1}{n} (\frac{1}{n - 1} \sum_{i = 1}^{n} {(x_{i} - μ_{1 : n})}^{2})

$\sigma_{1:n}^2 = \frac{1}{n}\sum_{i=1}^n \left(x_i - \mu_{1:n}\right)^2 = \frac{n-1}{n}\left(\frac{1}{n-1}\sum_{i=1}^n \left(x_i - \mu_{1:n}\right)^2\right)$

(das letzte Glied in den Klammern ist der unvoreingenommene Varianzschätzer standardmäßig berechnet häufig in statistischer Software) auf die Summe der Quadrate findet alle Daten . Ordnen wir die Indizes so an, dass Elemente der ersten Gruppe und Elemente der zweiten Gruppe bezeichnen. Teilen Sie die Summe der Quadrate nach Gruppen auf und drücken Sie die beiden Teile anhand der Varianzen und Mittelwerte der Teilmengen der Daten erneut aus: $x_i$ $i$ $i=1,\ldots,n$ $i=n+1,\ldots,n+m$

\begin{aligned} (m + n) (σ_{1 : m + n}^{2} + μ_{1 : m + n}^{2}) & = \sum_{i = 1}^{1 : n + m} x_{i}^{2} \\ = \sum_{i = 1}^{n} x_{i}^{2} + \sum_{i = n + 1}^{n + m} x_{i}^{2} \\ = n (σ_{1 : n}^{2} + μ_{1 : n}^{2}) + m (σ_{1 + n : m + n}^{2} + μ_{1 + n : m + n}^{2}) . \end{aligned}

$\eqalign{ (m+n)(\sigma^2_{1:m+n} + \mu_{1:m+n}^2) &= \sum_{i=1}^{1:n+m} x_i^2 \\ &= \sum_{i=1}^n x_i^2 + \sum_{i=n+1}^{n+m} x_i^2 \\ &= n(\sigma^2_{1:n} + \mu_{1:n}^2) + m(\sigma^2_{1+n:m+n} + \mu_{1+n:m+n}^2). }$

Eine algebraische Lösung für in Bezug auf die anderen (bekannten) Größen ergibt $\sigma^2_{m+n}$

σ_{1 : m + n}^{2} = \frac{n (σ_{1 : n}^{2} + μ_{1 : n}^{2}) + m (σ_{1 + n : m + n}^{2} + μ_{1 + n : m + n}^{2})}{m + n} - μ_{1 : m + n}^{2} .

$\sigma^2_{1:m+n} = \frac{n(\sigma^2_{1:n} + \mu_{1:n}^2) + m(\sigma^2_{1+n:m+n} + \mu_{1+n:m+n}^2)}{m+n} - \mu^2_{1:m+n}.$

Natürlich kann unter Verwendung des gleichen Ansatzes auch als Gruppenmittel ausgedrückt werden. $\mu_{1:m+n} = (n\mu_{1:n} + m\mu_{1+n:m+n})/(m+n)$

Ein anonymer Teilnehmer weist darauf hin, dass die Lösung für ein gewichtetes Mittel von ist , wenn die Stichprobenmittelwerte gleich sind (so dass ) die Gruppenstichprobenvarianzen. $\mu_{1:n}=\mu_{1+n:m+n}=\mu_{1:m+n}$ $\sigma^2_{m+n}$

— whuber
quelle

Das Tag "Hausaufgaben" bedeutet nicht, dass die Frage elementar oder dumm ist. Es wird für Fragen zum Selbststudium verwendet, die sogar Fragen auf Forschungsebene enthalten können. Es unterscheidet routinemäßige, mehr oder weniger kontextfreie Fragen (wie sie normalerweise im Mathematikforum vorkommen) von bestimmten angewandten Fragen.

— Whuber

Ich kann Ihre erste Passage nicht verstehen:

Insbesondere erhalte ich

was

erfordert

n (σ^{2} + μ^{2}) = \sum (x - μ)^{2} + n μ^{2} \overset{?}{=} \sum x^{2}

$n(\sigma^2+\mu^2) = \sum (x - \mu)^2 + n\mu^2 \stackrel{?}{=} \sum x^2$

\sum [(x - μ)^{2} + μ^{2}] = \sum [x^{2} - 2 x μ]

$\sum [(x-\mu)^2+\mu^2] = \sum [x^2-2x\mu]$

μ = 0

$\mu = 0$ Vermisse ich etwas? Könnten Sie das bitte erklären?

— DarioP

\sum (x - μ)^{2} + n μ^{2} = (\sum x^{2} - 2 μ \sum x + n μ^{2}) + n μ^{2} = \sum x^{2} - 2 n μ^{2} + 2 n μ^{2} = \sum x^{2} .

$\sum(x-\mu)^2+n\mu^2=(\sum x^2 - 2\mu\sum x + n \mu^2)+n\mu^2 = \sum x^2 - 2n\mu^2 + 2n\mu^2 = \sum x^2.$

Oh yes, I did a stupid sign mistake in my derivation, now is clear, thanks!!

— DarioP

I guess this can be extended to an arbitrary number of samples as long as you have the mean and variance for each. Calculating pooled (biased) standard deviation in R is simply sqrt(weighted.mean(u^2 + rho^2, n) - weighted.mean(u, n)^2) where n, u and rho are equal-length vectors. E.g. n=c(10, 14, 9) for three samples.

— Jonas Lindeløv

In dieser Antwort verwende ich anstelle der in der Frage verwendeten Notation die Standardnotation für Stichprobenmittelwerte und Stichprobenabweichungen. Unter Verwendung der Standardnotation kann in O'Neill (2014) eine weitere Formel für die gepoolte Stichprobenvarianz von zwei Gruppen gefunden werden (Ergebnis 1):

\begin{aligned} s_{pooled}^{2} & = \frac{1}{n_{1} + n_{2} - 1} [(n_{1} - 1) s_{1}^{2} + (n_{2} - 1) s_{2}^{2} + \frac{n_{1} n_{2}}{n_{1} + n_{2}} ({\bar{x}}_{1} - {\bar{x}}_{2})^{2}] . \end{aligned}

$\begin{equation} \begin{aligned} s_\text{pooled}^2 &= \frac{1}{n_1+n_2-1} \Bigg[ (n_1-1) s_1^2 + (n_2-1) s_2^2 + \frac{n_1 n_2}{n_1+n_2} (\bar{x}_1 - \bar{x}_2)^2 \Bigg]. \\[10pt] \end{aligned} \end{equation}$

This formula works directly with the underlying sample means and sample variances of the two subgroups, and does not require intermediate calculation of the pooled sample mean. (Proof of result in linked paper.)

— Reinstate Monica
quelle

-3

Yes, given the mean, sample count, and variance or standard deviation of each of two or more groups of samples, you can exactly calculate the variance or standard deviation of the combined group.

This web page describes how to do it, and why it works; it also includes source code in Perl: http://www.burtonsys.com/climate/composite_standard_deviations.html

BTW, contrary to the answer given above,

\begin{aligned} n (σ^{2} + μ^{2}) \neq \sum_{i = 1}^{n} x_{i}^{2} \end{aligned}

$\eqalign{ n(\sigma^2 + \mu^2) \space\space \ne \space\space \sum_{i=1}^n x_i^2 }$

See for yourself, e.g., in R:

> x = rnorm(10,5,2)
> x
 [1] 6.515139 8.273285 2.879483 3.624233 6.199610 3.683164 4.921028 8.084591
 [9] 2.974520 6.049962
> Mittelwert (x)
[1] 5,320502
> sd (x)
[1] 2,007519
> Summe (x ** 2)
[1] 319,3486
> 10 * (Mittelwert (x) ** 2 + SD (x) ** 2)
[1] 323,3787

— Dave Burton
quelle

Das liegt daran, dass Sie den Faktor n-1 vergessen haben, z. B. versuchen Sie es mit n * (Mittelwert (x) ** 2 + sd (x) ** 2 / (n) * (n-1))

— user603

user603, wovon um alles in der welt sprichst du?

— Dave Burton

Dave, mathematics is a more reliable teacher than software. In this case R computes the unbiased estimate of the standard deviation rather than the standard deviation of the set of numbers. For instance, sd(c(-1,1)) returns 1.414214 rather than 1. Your example needs to use sqrt(9/10)*sd(x) in place of sd(x). Interpreting "

σ

$\sigma$ " as the SD of the data and "

μ

$\mu$ " as the mean of the data, your BTW remark is wrong. A program demonstrating this is n <- 10; x <- rnorm(n,5,2); m <- mean(x); s <- sd(x) * sqrt((n-1)/n); m2 <- sum(x^2); c(lhs=n * (m^2 + s^2), rhs=m2)

— whuber