Bedingungen für die Konvergenz des M-Schätzers zum wahren Mittelwert

10

Gegebene iid-Proben aus einer Gaußschen Verteilung und der M-Schätzer, , welche Eigenschaften auf reichen aus, um eine Wahrscheinlichkeit von zu gewährleisten ? Ist streng konvex und streng steigend ausreichend? $X_1,...,X_n \sim N(\mu,\sigma)$ $\mu_m = \underset{a}{\operatorname{argmin}} \sum\rho(|X_i-a|)$ $\rho$ $\mu_m \rightarrow \mu$ $\rho$

estimation

— Raupe
quelle

Da Sie

und dann

der Stichprobenmittelwert ist, bedeutet dies, dass es sogar nicht streng konvex sein könnte, sondern streng ja, also ... Ich würde entweder streng konvex oder streng steigend setzen, beides scheint ausreichend sein, müssen dies aber noch beweisen. Intuitiv strenge Konvexität gewährleistet ein einzigartiges globales Minimum, für eine strikte Erhöhung ist die Gauß-Annahme von Bedeutung.

ρ (x) = x

$\rho(x) = x$

μ_{m}

$\mu_m$

— Dmitrij Celov

1

Die Arbeit Asymptotics for Minimisers of Convex Process von Hjort und Pollard kann hier helfen, obwohl sie sich nicht auf Gaußsche Verteilungen spezialisiert hat und eine allgemeinere Form der Kontrastfunktion betrachtet, nämlich , obwohl ihre Notation . Zusätzlich zur Konvexität von in erfordern sie eine Expansion von in um in einem bestimmten Sinne, der mit der Datenverteilung zusammenhängt. Also nicht so einfach wie nur sagen $\rho(x,a)$ $g(y,t)$ $g$ $t$ $g$ $t$ $\theta_0$ $\rho$ ist konvex oder steigend, aber wenn Sie den Satz auf Gaußsche Verteilungen und auf die von Ihnen angegebene Form beschränken, können Sie möglicherweise einen noch saubereren Satz von Bedingungen erhalten. Ich werde ihren Satz hier der Vollständigkeit halber umschreiben, leicht umschrieben: $g$

Angenommen, wir haben

iid aus der Verteilung $Y,Y_{1},Y_{2},\ldots$ $F$
Interessanter Parameter $\theta_{0}=\theta(F)\in\cal{R}^{p}$
, wobei in konvex ist. $\theta_{0}\in\arg\min_{t\in\cal{R}^{p}}\mathbb{E} g(Y,t)$ $g(y,t)$ $t$
Wir haben eine "schwache Expansion" von in um : eine mit dem Mittelwert Null unter und $g(y,t)$ $t$ $\theta_{0}$ $g (y, θ_{0} + t) - g (y, θ_{0}) = D (y)^{T} t + R (y, t),$ $g(y,\theta_{0}+t)-g(y,\theta_{0})=D(y)^{T}t+R(y,t),$ $D(y)$ $F$ $E R (Y, t) = \frac{1}{2} t^{T} J t + o ({| t |}^{2}), as t \to 0$ $\mathbb{E} R(Y,t)=\frac{1}{2}t^{T}Jt+o(\left|t\right|^{2}),\mbox{ as }t\to0$ $J$
$\mbox{Var}[ R(Y,t) ]=o(\left|t\right|^{2})$ $t\to0$
$D(Y)$ $K=\int D(y)D(y)^{T}\, dF(y)$

$\hat{\theta}_{n}\in\arg\min_{\theta\in\cal{R}^{p}}\sum_{i=1}^{n}g(Y_{i},t)$ $\sqrt{n}$ $\theta_{0}$

\sqrt{n} ({\hat{θ}}_{n} - θ_{0}) \overset{d}{\to} N_{p} (0, J^{- 1} K J^{- 1}) .

$\sqrt{n}\left(\hat{\theta}_{n}-\theta_{0}\right)\stackrel{d}{\rightarrow}\mathcal{N}_{p}(0,J^{-1} K J^{-1}).$

— DavidR
quelle

0

Dies wird keine Antwort sein, da es Ihr Problem auf ein anderes reduzieren wird, aber ich denke, es könnte nützlich sein. Ihre Frage betrifft im Wesentlichen die Konsistenz des M-Schätzers. Zuerst können wir uns die allgemeinen Ergebnisse ansehen. Hier ist das Ergebnis aus dem Buch van der Vaart (Satz 5.7, Seite 45):

$M_n$ $M$ $\theta$ $\varepsilon>0$

sup_{θ \in Θ} | M_{n} (θ) - M (θ) | \overset{P}{\to} 0,

$\sup_{\theta\in\Theta}|M_n(\theta)-M(\theta)|\xrightarrow{P}0,$

sup_{θ : d (θ, θ_{0}) \geq ε} M (θ) < M (θ_{0}) .

$\sup_{\theta:d(\theta,\theta_0)\ge\varepsilon} M(\theta)<M(\theta_0).$

$\hat\theta_n$ $M_n(\hat\theta_n)\ge M_n(\theta_0)-o_P(1)$ $\theta_0$

$\theta_0=\mu$ $M(\theta)=E\rho(|X-\theta|)$ $M_n(\theta)=\frac{1}{n}\sum \rho(|X_i-\theta|)$

Die Schlüsselbedingung ist hier die einheitliche Konvergenz. Auf Seite 46 sagt van der Vaart

$\{m_\theta, \theta\in\Theta\}$ $m_\theta=\rho(|x-\theta|)$ $\Theta$ $\theta\to m_\theta(x)$ $x$

In Wooldridge wird dieses Ergebnis als Satz formuliert, der als einheitliches schwaches Gesetz großer Zahlen bezeichnet wird, Seite 347 (erste Ausgabe), Satz 12.1. Es werden nur die Messbarkeitsanforderungen zu den Angaben von van der Vaart hinzugefügt.

$\Theta=[\mu-C,\mu+C]$ $C$ $b$

| ρ (| x - θ |) | \leq b (x)

$|\rho(|x-\theta|)|\le b(x)$

$\theta\in\Theta$ $Eb(X)<\infty$

b (x) = sup_{θ \in Θ} | ρ (| x - θ |) | .

$b(x)=\sup_{\theta\in\Theta}|\rho(|x-\theta|)|.$

Wenn diese Funktion gute Eigenschaften hat, können Sie loslegen.

— mpiktas
quelle