Über die Existenz von UMVUE und die Wahl der Schätzer von

Sei eine Zufallsstichprobe aus der -Population, wobei . $(X_1,X_2,\cdots,X_n)$ $\mathcal N(\theta,\theta^2)$ $\theta\in\mathbb R$

Ich suche den UMVUE von . $\theta$

Die Fugendichte von beträgt $(X_1,X_2,\cdots,X_n)$

\begin{aligned} f_{θ} (x_{1}, x_{2}, \dots, x_{n}) & = \prod_{i = 1}^{n} \frac{1}{θ \sqrt{2 π}} \exp [- \frac{1}{2 θ^{2}} (x_{i} - θ)^{2}] \\ = \frac{1}{(θ \sqrt{2 π})^{n}} \exp [- \frac{1}{2 θ^{2}} \sum_{i = 1}^{n} (x_{i} - θ)^{2}] \\ = \frac{1}{(θ \sqrt{2 π})^{n}} \exp [\frac{1}{θ} \sum_{i = 1}^{n} x_{i} - \frac{1}{2 θ^{2}} \sum_{i = 1}^{n} x_{i}^{2} - \frac{n}{2}] \\ = g (θ, T (x)) h (x) \forall (x_{1}, \dots, x_{n}) \in R^{n}, \forall θ \in R \end{aligned}

$\begin{align} f_{\theta}(x_1,x_2,\cdots,x_n)&=\prod_{i=1}^n\frac{1}{\theta\sqrt{2\pi}}\exp\left[-\frac{1}{2\theta^2}(x_i-\theta)^2\right] \\&=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[-\frac{1}{2\theta^2}\sum_{i=1}^n(x_i-\theta)^2\right] \\&=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[\frac{1}{\theta}\sum_{i=1}^n x_i-\frac{1}{2\theta^2}\sum_{i=1}^nx_i^2-\frac{n}{2}\right] \\&=g(\theta,T(\mathbf x))h(\mathbf x)\qquad\forall\,(x_1,\cdots,x_n)\in\mathbb R^n\,,\forall\,\theta\in\mathbb R \end{align}$

wobei und. $g(\theta, T(\mathbf x))=\frac{1}{(\theta\sqrt{2\pi})^n}\exp\left[\frac{1}{\theta}\sum_{i=1}^n x_i-\frac{1}{2\theta^2}\sum_{i=1}^nx_i^2-\frac{n}{2}\right]$ $h(\mathbf x)=1$

Hier hängt von und von bis und ist unabhängig von . Nach dem Fisher-Neyman-Faktorisierungssatz ist die zweidimensionale Statistik $g$ $\theta$ $x_1,\cdots,x_n$ $T(\mathbf x)=\left(\sum_{i=1}^nx_i,\sum_{i=1}^nx_i^2\right)$ $h$ $\theta$ ist ausreichend für. $T(\mathbf X)=\left(\sum_{i=1}^nX_i,\sum_{i=1}^nX_i^2\right)$ $\theta$

Allerdings ist keine vollständige Statistik. Dies liegt daran, dass $T$

E_{θ} [2 {(\sum_{i = 1}^{n} X_{i})}^{2} - (n + 1) \sum_{i = 1}^{n} X_{i}^{2}] = 2 n (1 + n) θ^{2} - (n + 1) 2 n θ^{2} = 0 \forall θ

$E_{\theta}\left[2\left(\sum_{i=1}^n X_i\right)^2-(n+1)\sum_{i=1}^nX_i^2\right]=2n(1+n)\theta^2-(n+1)2n\theta^2=0\qquad\forall\,\theta$

und die Funktion ist nicht identisch Null. $g^*(T(\mathbf X))=2\left(\sum_{i=1}^n X_i\right)^2-(n+1)\sum_{i=1}^nX_i^2$

Aber ich weiß, dass eine minimal ausreichende Statistik ist. $T$

Ich bin nicht sicher, aber ich denke, dass für diese gekrümmte Exponentialfamilie möglicherweise keine vollständige Statistik existiert. Wie soll ich dann den UMVUE bekommen? Wenn keine vollständige Statistik vorhanden ist, kann ein unverzerrter Schätzer (wie in diesem Fall ), der eine Funktion der minimal ausreichenden Statistik ist, der UMVUE sein? (Verwandter Thread: Was ist die notwendige Bedingung, damit ein unverzerrter Schätzer UMVUE ist? ) $\bar X$

Was ist, wenn ich den besten linearen unverzerrten Schätzer (BLAU) von ? Kann das BLAUE das UMVUE sein? $\theta$

$T^*(\mathbf X)=a\bar X+(1-a)cS$ $\theta$ $c(n)=\sqrt{\frac{n-1}{2}}\frac{\Gamma\left(\frac{n-1}{2}\right)}{\Gamma\left(\frac{n}{2}\right)}$ $S^2=\frac{1}{n-1}\sum_{i=1}^n(X_i-\bar X)^2$ $E_{\theta}(cS)=\theta$ $\text{Var}(T^*)$ $T^*$ $\theta$ $T^*$ $\theta$

$\bar X$ $S$ $(\bar X,S^2)$ $\theta$

Bearbeiten:

$\theta$ $\mathcal N(\theta,a\theta^2)$ $a>0$

Schätzung des Mittelwerts einer Normalverteilung mit bekanntem Variationskoeffizienten durch Gleser / Healy.
Ein Hinweis zur Schätzung des Mittelwerts einer Normalverteilung mit bekanntem Variationskoeffizienten von RA Khan.
Eine Bemerkung zur Schätzung des Mittelwerts einer Normalverteilung mit bekanntem Variationskoeffizienten von RA Khan.
Dieser Kapitelauszug.

Die erste dieser Referenzen habe ich in dieser Übung aus Statistical Inference von Casella / Berger gefunden:

Meine Frage bezieht sich jedoch nicht auf diese Übung.

$\theta$

Unter der Annahme, dass es keinen einheitlichen unverzerrten Schätzer für die minimale Varianz gibt, was sollten unsere nächsten Kriterien für die Auswahl des 'besten' Schätzers sein? Suchen wir nach der minimalen MSE, der minimalen Varianz oder der MLE? Oder würde die Auswahl der Kriterien von unserem Schätzzweck abhängen?

$T_1$ $T_2$ $\theta$ $T_1$ $T_2$ $T_2$ $T_1$

$\theta$

Der folgende Auszug stammt aus der Theorie der Punktschätzung von Lehmann / Casella (zweite Ausgabe, Seite 87-88):

Es ist sehr wahrscheinlich, dass ich alles falsch verstanden habe, aber sagt der letzte Satz, dass unter bestimmten Bedingungen die Existenz einer vollständigen Statistik für die Existenz von UMVUE notwendig ist? Wenn ja, ist dies das Ergebnis, das ich mir ansehen sollte?

Das letzte Ergebnis von RR Bahadur, das am Ende erwähnt wird, bezieht sich auf diesen Hinweis.

Bei weiterer Suche habe ich ein Ergebnis gefunden, das besagt, dass keine vollständige Statistik existiert, wenn die minimal ausreichende Statistik nicht vollständig ist. Zumindest bin ich ziemlich davon überzeugt, dass es hier keine vollständige Statistik gibt.

$\bar X$

— HartnäckigAtom
quelle

Aktualisieren:

\hat{0} = \bar{X} - c S

$\hat 0 = \bar{X} - cS$

c

$c$

0

$0$

a

$a$

{(w_{1} (θ), \dots w_{k} (θ)}

$\{(w_1(\theta), \cdots w_k(\theta)\}$

R^{k}

$\mathbb R^k$

w_{1} (θ) = θ^{- 2}

$w_1(\theta) = \theta^{-2}$

w_{2} (θ) = θ^{- 1}

$w_2(\theta) = \theta^{-1}$

R^{2}

$R^2$

w_{1} (θ) = w_{2} (θ)^{2}

$w_1(\theta) = w_2(\theta)^2$

(\bar{X}, S^{2})

$(\bar{X}, S^2)$

θ

$\theta$

0

$0$

θ

$\theta$

Ein weiteres Update:

$\tilde\theta$ $Var(\tilde\theta) < Var(\hat\theta)$ $\theta \in \Theta$

$E(\hat\theta) = \theta$ $E(\hat 0) = 0$ $Cov(\hat\theta, \hat 0) < 0$ $\theta$

\tilde{θ} = \hat{θ} + b \hat{0}

$\tilde\theta = \hat\theta + b\hat0$

V a r (\tilde{θ}) = V a r (\hat{θ}) + b^{2} V a r (\hat{0}) + 2 b C o v (\hat{θ}, \hat{0})

$Var(\tilde\theta) = Var(\hat\theta) + b^2Var(\hat0) + 2bCov(\hat\theta,\hat0)$

M (θ) = \frac{- 2 C o v (\hat{θ}, \hat{0})}{V a r (\hat{0})}

$M(\theta) = \frac{-2Cov(\hat\theta, \hat0)}{Var(\hat0)}$

$\theta_0$ $M(\theta_0) > 0$ $b \in (0, M(\theta_0))$ $Var(\tilde\theta) < Var(\hat\theta)$ $\theta_0$ $\hat\theta$ $\quad \square$

$\hat\theta$ $\hat0$ $a$ $\hat\theta$ $\theta_0$ $\hat\theta$

Schauen wir uns Ihre Vorstellung von linearen Kombinationen genauer an.

\hat{θ} = a \bar{X} + (1 - a) c S

$\hat\theta = a \bar X + (1-a)cS$

$\hat\theta$

\begin{aligned} M S E (\hat{θ}) & = a^{2} V a r (\bar{X}) + (1 - a)^{2} c^{2} V a r (S) \\ = \frac{a^{2} θ^{2}}{n} + (1 - a)^{2} c^{2} [E (S^{2}) - E (S)^{2}] \\ = \frac{a^{2} θ^{2}}{n} + (1 - a)^{2} c^{2} [θ^{2} - θ^{2} / c^{2}] \\ = θ^{2} [\frac{a^{2}}{n} + (1 - a)^{2} (c^{2} - 1)] \end{aligned}

$\begin{align*} MSE(\hat\theta) &= a^2 Var(\bar{X}) + (1-a)^2 c^2 Var(S) \\ &= \frac{a^2\theta^2}{n} + (1-a)^2 c^2 \left[E(S^2) - E(S)^2\right] \\ &= \frac{a^2\theta^2}{n} + (1-a)^2 c^2 \left[\theta^2 - \theta^2/c^2\right] \\ &= \theta^2\left[\frac{a^2}{n} + (1-a)^2(c^2 - 1)\right] \end{align*}$

$a$ $n$

a_{o p t} (n) = \frac{c^{2} - 1}{1 / n + c^{2} - 1}

$a_{opt}(n) = \frac{c^2 - 1}{1/n + c^2 - 1}$

c^{2} = \frac{n - 1}{2} {(\frac{Γ ((n - 1) / 2)}{Γ (n / 2)})}^{2}

$c^2 = \frac{n-1}{2}\left(\frac{\Gamma((n-1)/2)}{\Gamma(n/2)}\right)^2$

$a$

$n\rightarrow \infty$ $a_{opt}\rightarrow \frac{1}{3}$

Es gibt zwar keine Garantie dafür, dass dies der UMVUE ist, aber dieser Schätzer ist der Schätzer für die minimale Varianz aller unverzerrten linearen Kombinationen der ausreichenden Statistiken.

— knrumsey
quelle

Danke für das Update. Ich bin C & B nicht als Lehrbuch gefolgt, sondern habe mir nur die Übungen angesehen.

— Hartnäckig

\hat{θ}

$\hat\theta$