Ermittlung des wahren Mittels aus verrauschten Beobachtungen

Ich habe eine große Menge von Datenpunkten der Form (Mittelwert, stdev). Ich möchte dies auf einen einzigen (besseren) Mittelwert und eine (hoffentlich) kleinere Standardabweichung reduzieren.

Offensichtlich konnte ich einfach berechnen berücksichtigt jedoch nicht die Tatsache, dass einige der Datenpunkte wesentlich genauer sind als andere. $\frac{\sum data_{mean}}{N}$

Vereinfacht ausgedrückt möchte ich einen gewichteten Durchschnitt dieser Datenpunkte bilden, weiß aber nicht, wie die Gewichtungsfunktion in Bezug auf die Standardabweichung aussehen soll.

normal-distribution repeated-measures weighted-mean

— Michael
quelle

Sie suchen einen linearen Schätzer für den Mittelwert der Form $\mu$

\hat{μ} = \sum_{i = 1}^{n} α_{i} x_{i}

$\hat{\mu} = \sum_{i=1}^{n} \alpha_i x_i$

wobei die Gewichte und die Beobachtungen sind. Ziel ist es, geeignete Werte für die Gewichte zu finden. Sei die wahre Standardabweichung von , die möglicherweise mit der geschätzten Standardabweichung übereinstimmt, die Sie wahrscheinlich haben. Angenommen, die Beobachtungen sind unvoreingenommen. das heißt, ihre Erwartungen sind alle gleich dem Mittelwert . In diesem Sinne können wir berechnen , dass die Erwartung von ist $\alpha_i$ $x_i$ $\sigma_i$ $x_i$ $\mu$ $\hat{\mu}$

E [\hat{μ}] = \sum_{i = 1}^{n} α_{i} E [x_{i}] = μ \sum_{i = 1}^{n} α_{ich}

$\mathbb{E}[\hat{\mu}] = \sum_{i=1}^{n} \alpha_i \mathbb{E}[x_i] = \mu \sum_{i=1}^{n} \alpha_i$

und (vorausgesetzt, die sind nicht korreliert) die Varianz dieses Schätzers ist $x_i$

Var [\hat{μ}] = \sum_{i = 1}^{n} α_{i}^{2} σ_{i}^{2} .

$\operatorname{Var}\left[\hat{\mu}\right] = \sum_{i=1}^{n} \alpha_i^2 \sigma_i^2.$

An diesem Punkt verlangen viele Leute, dass der Schätzer unvoreingenommen ist; Das heißt, wir möchten, dass seine Erwartung dem wahren Mittelwert entspricht. Dies impliziert, dass die Gewichte zu einer Einheit summieren müssen. Vorbehaltlich dieser Einschränkung wird die Genauigkeit des Schätzers (gemessen mit dem mittleren quadratischen Fehler) durch Minimierung der Varianz optimiert. Die einzigartige Lösung (leicht mit einem Lagrange-Multiplikator oder durch geometrische Neuinterpretation der Situation als Entfernungsminimierungsproblem zu erhalten) besteht darin, dass die Gewichte proportional zu . $\alpha_i$ $1/\sigma_i^2$ Die Summe-zu-Einheit-Beschränkung legt ihre Werte fest und ergibt

\hat{μ} = \frac{\sum_{i = 1}^{n} x_{i} / σ_{i}^{2}}{\sum_{i = 1}^{n} 1 / σ_{i}^{2}}

$\hat{\mu} = \frac{\sum_{i=1}^{n} x_i / \sigma_i^2}{\sum_{i=1}^{n} 1 / \sigma_i^2}$

und

Var [\hat{μ}] = \frac{1}{\sum_{i = 1}^{n} 1 / σ_{i}^{2}} = \frac{1}{n} {(\frac{1}{n} \sum_{i = 1}^{n} \frac{1}{σ_{i}^{2}})}^{- 1} .

$\operatorname{Var}\left[\hat\mu\right] = \frac{1}{\sum_{i=1}^{n} 1 / \sigma_i^2} = \frac{1}{n} \left(\frac{1}{n} \sum_{i=1}^n \frac{1}{\sigma_i^2}\right)^{-1}.$

In Worten,

the minimum-variance unbiased estimator of the mean is obtained by making the weights inversely proportional to the variances; the variance of that estimator is $1/n$ times the harmonic mean of the variances.

We usually do not know the true variances $\sigma_i$ . About all we can do is to make the weights inversely proportional to the estimated variances (the squares of your standard deviations) and trust this will work well.

— whuber
quelle

and related to this answer, also from whuber: stats.stackexchange.com/questions/9071/…

— Henry

What would happen if we do not "Assume the observations are unbiased"? With that statement you are saying that if infinite random individual measurements are add to the observation

x_{i}

$x_i$ we get the mean mu ?

— user1420303