Gegenbeispiel für die für die Konsistenz erforderliche ausreichende Bedingung

Wir wissen, dass wenn ein Schätzer ein unverzerrter Schätzer von Theta ist und seine Varianz gegen 0 tendiert, während n gegen unendlich tendiert, er ein konsistenter Schätzer für Theta ist. Dies ist jedoch eine ausreichende und keine notwendige Bedingung. Ich suche ein Beispiel für einen Schätzer, der konsistent ist, dessen Varianz jedoch nicht gegen 0 tendiert, da n gegen unendlich tendiert. Irgendwelche Vorschläge?

Ich bin froh zu sehen, dass meine (falsche) Antwort zwei weitere generiert und eine tote Frage in einen lebhaften Q & A-Thread verwandelt hat. Es ist also Zeit zu versuchen, etwas Wertvolles anzubieten, denke ich .

Betrachten Sie einen seriell korrelierten, kovarianzstationären stochastischen Prozess , mit Mittelwert und Autokovarianzen . Angenommen, (dies begrenzt die "Stärke" der Autokorrelation, da zwei Realisierungen des Prozesses zeitlich immer weiter entfernt sind). Dann haben wir dasμ { γ j } $\{y_t\},\;\; t=1,...,n$$\mu$$\{\gamma_j\},\;\; \gamma_j\equiv \operatorname{Cov}(y_t,y_{t-j})$$\lim_{j\rightarrow \infty}\gamma_j= 0$

$$\bar y_n = \frac 1n\sum_{t=1}^ny_t\rightarrow_{m.s} \mu,\;\; \text{as}\; n\rightarrow \infty$$

Das heißt, der Stichprobenmittelwert konvergiert im mittleren Quadrat zum wahren Mittelwert des Prozesses, und daher konvergiert er auch in der Wahrscheinlichkeit: Es handelt sich also um einen konsistenten Schätzer von .$\mu$

Die Varianz von kann gefunden werden$\bar y_n$

$$\operatorname{Var}(\bar y_n) = \frac 1n \gamma_0+\frac 2n \sum_{j=1}^{n-1}\left(1-\frac {j}{n}\right)\gamma_j$$

was leicht gezeigt wird, um auf Null zu gehen, wenn gegen unendlich geht.$n$

Lassen Sie uns nun unter Verwendung des Kommentars von Kardinal unseren Schätzer des Mittelwerts weiter randomisieren, indem wir den Schätzer betrachten

$$\tilde \mu_n = \bar y_n + z_n$$

Dabei ist ein stochastischer Prozess unabhängiger Zufallsvariablen, die auch von den unabhängig sind , wobei der Wert ( von uns anzugebender Parameter ) mit der Wahrscheinlichkeit der Wert mit der Wahrscheinlichkeit , und andernfalls Null. So hat Erwartungswert und Varianz$\{z_t\}$$y_i$$at$$a>0$$1/t^2$$-at$$1/t^2$$\{z_t\}$

$$E(z_t) = at\frac 1{t^2} -at\frac 1{t^2} + 0\cdot \left (1-\frac 2{t^2}\right)= 0,\;\;\operatorname{Var}(z_t) = 2a^2$$

Der erwartete Wert und die Varianz des Schätzers ist daher

$$E(\tilde \mu) = \mu,\;\;\operatorname{Var}(\tilde \mu) = \operatorname{Var}(\bar y_n) + 2a^2$$

Betrachten Sie die Wahrscheinlichkeitsverteilung von, :nimmt den Wert mit Wahrscheinlichkeit und den Wert mit Wahrscheinlichkeit . Damit$|z_n|$$P\left(|z_n| \le \epsilon\right),\;\epsilon>0$$|z_n|$$0$$(1-2/n^2)$$an$$2/n^2$

$$P\left(|z_n| <\epsilon\right) \ge 1-2/n^2 = \lim_{n\rightarrow \infty}P\left(|z_n| < \epsilon\right) \ge 1 = 1$$

was bedeutet, dass in der Wahrscheinlichkeit gegen konvergiert (während seine Varianz endlich bleibt). Deshalb$z_n$$0$

$$\operatorname{plim}\tilde \mu_n = \operatorname{plim}\bar y_n+\operatorname{plim} z_n = \mu$$

Daher bleibt dieser randomisierte Schätzer des Mittelwerts des stochastischen Prozesses konsistent. Aber seine Varianz geht nicht auf Null, wenn gegen unendlich geht, und er geht auch nicht gegen unendlich. $y$$n$

Abschließend, warum all die scheinbar nutzlose Ausarbeitung mit einem autokorrelierten stochastischen Prozess? Weil Kardinal sein Beispiel qualifiziert hat, indem er es "absurd" nannte, wie "nur um das mathematisch zu zeigen, können wir einen konsistenten Schätzer mit einer Ungleichheit ungleich Null und endlicher Varianz haben".
Ich wollte einen Hinweis geben, dass es nicht unbedingt eine Kuriosität ist, zumindest im Geiste: Es gibt Zeiten im wirklichen Leben, in denen neue Prozesse beginnen, von Menschen gemachte Prozesse, die damit zu tun haben, wie wir unser Leben und unsere Aktivitäten organisieren. Obwohl wir sie normalerweise entworfen haben und viel über sie sagen können, können sie dennoch so komplex sein, dass sie vernünftigerweise als stochastisch behandelt werden (die Illusion einer vollständigen Kontrolle über solche Prozesse oder eines vollständigen A-priori-Wissens über ihre Entwicklungsprozesse) Das kann eine neue Art des Handels oder der Produktion darstellen oder die Struktur von Rechten und Pflichten zwischen Menschen regeln. Dies ist nur eine Illusion. Auch neu seinWir haben nicht genügend akkumulierte Erkenntnisse, um verlässliche statistische Rückschlüsse auf ihre Entwicklung zu ziehen. Dann sind Ad-hoc- und vielleicht "suboptimale" Korrekturen dennoch ein tatsächliches Phänomen, wenn wir zum Beispiel einen Prozess haben, bei dem wir fest davon überzeugt sind, dass seine Gegenwart von der Vergangenheit abhängt (daher der automatisch korrelierte stochastische Prozess), aber wir tun es wirklich nicht wissen wie noch (daher die Ad-hoc-Randomisierung, während wir darauf warten, dass sich Daten ansammeln, um die Kovarianzen abzuschätzen). Und vielleicht würde ein Statistiker einen besseren Weg finden, um mit solch schwerwiegenden Unsicherheiten umzugehen - aber viele Unternehmen müssen in einem unsicheren Umfeld ohne den Nutzen solcher wissenschaftlicher Dienstleistungen funktionieren.

Was folgt, ist die erste (falsche) Antwort (siehe insbesondere Kardinals Kommentar)

Es gibt Schätzer, deren Wahrscheinlichkeit zu einer Zufallsvariablen konvergiert: Der Fall der "falschen Regression" kommt in den Sinn, wenn wir versuchen, zwei unabhängige Zufallsläufe (dh instationäre stochastische Prozesse) unter Verwendung einer gewöhnlichen Schätzung der kleinsten Quadrate aufeinander zu regressieren wird der OLS-Schätzer zu einer Zufallsvariablen konvergieren.

Aber ein konsistenter Schätzer mit Nicht-Null - Varianz ist nicht vorhanden, weil die Konsistenz wird definiert als die Konvergenz in der Wahrscheinlichkeit eines Schätzers auf einen konstantes , der durch Konzeption, Nullvarianz aufweist.

Nehmen Sie eine Stichprobe aus der Verteilung mit endlicher Erwartung und unendlicher Varianz ( z. B. Pareto mit ). Dann konvergiert der Stichprobenmittelwert aufgrund des Gesetzes oder großer Zahlen (was nur die Existenz erfordert) gegen die Erwartung von Mittelwert) und die Varianz wird unendlich sein.$\alpha\in(1,2]$

Lassen Sie mich ein Beispiel für eine Folge von Zufallsvariablen geben, die mit einer Wahrscheinlichkeit gegen Null konvergieren, jedoch mit unendlicher Varianz. Im Wesentlichen ist ein Schätzer nur eine Zufallsvariable. Mit ein wenig Abstraktion können Sie also sehen, dass die Konvergenz der Wahrscheinlichkeit zu einer Konstanten keine Varianz nahe Null bedeutet.

Betrachten Sie die Zufallsvariable auf wobei das betrachtete Wahrscheinlichkeitsmaß das Lebesgue-Maß ist. Es ist klar, dass aber für alle damit seine Varianz nicht auf Null geht.$\xi_n(x):=\chi_{[0,1/n]}(x)x^{-1/2}$$[0,1]$$P(\xi_n(x)>0)=1/n\to0$

$$\int\xi_n^2dP=\int_{0}^{1/n}x^{-1}dx=\log(x)\mid _{0}^{1/n}=\infty,$$ $n$

Stellen Sie jetzt einfach einen Schätzer zusammen, bei dem Sie mit wachsender Stichprobe den wahren Wert durch eine Ziehung von schätzen . Beachten Sie, dass dieser Schätzer für 0 nicht Um ihn jedoch zu machen, können Sie einfach mit gleicher Wahrscheinlichkeit 1/2 und als Schätzer verwenden. Das gleiche Argument für Konvergenz und Varianz gilt eindeutig.$\mu=0$$\xi_n$$\eta_n:=\pm\xi_n$

Bearbeiten: Wenn Sie ein Beispiel wünschen, in dem die Varianz endlich ist, nehmen Sie und betrachten Sie erneut wp 1/2.

$$\xi_n(x):=\chi_{[0,1/n]}(x)\sqrt{n},$$ $\eta_n:=\pm\xi_n$