Warum

Eine Folge von Schätzern für einen Parameter ist asymptotisch normal, wenn $U_n$ $\theta$ . (Quelle) Wir nennen danndie asymptotische Varianz von. Wenn diese Varianz gleich derCramer-Rao-Grenze ist, sagen wir, dass der Schätzer / die Sequenz asymptotisch effizient ist. $\sqrt{n}(U_n - \theta) \to N(0,v)$ $v$ $U_n$

Frage: Warum verwenden wir im Besonderen? $\sqrt{n}$

Ich weiß , daß für die Probe Mittelwert, $Var(\bar{X}) = \frac{\sigma^2}{n}$ und so normalisiert diese Wahl es. Aber da die obigen Definitionen für mehr als den Stichprobenmittelwert gelten, warum wählen wir immer noch die Normierung mit $\sqrt{n}$ .

estimation asymptotics efficiency

— ahnungslos
quelle

Für einen guten Schätzer sollte

Mittelwert

, wobei der Parameter geschätzt wird, und die Varianz von

sollte gegen

konvergieren,

die Verteilung von

sollte gegen eine entartete Verteilung mit einem einzelnen Atom bei

konvergieren . Es gibt jedoch viele verschiedene Möglichkeiten, wie diese Konvergenz auftreten kann, z. B.

oder

U_{n}

$U_n$

θ

$\theta$

U_{n}

$U_n$

0

$0$

U_{n}

$U_n$

θ

$\theta$

U_{n} \sim U (θ - 1 / n, θ + 1 / n)

$U_n \sim U(\theta-1/n,\theta+1/n)$

usw. Wir möchten das Soubriquetasymptotisch normalauf den letzteren Fallanwenden, aber nicht auf den ersteren Fall.

U_{n} \sim N (θ, v / n)

$U_n\sim N(\theta,v/n)$

— Dilip Sarwate

Effiziente Schätzer sind asymptotisch normal. en.wikipedia.org/wiki/…

— Khashaa

Könnte diese Frage besser als "asymptotische Normalität" als als "asymptotische Effizienz" bezeichnet werden? Mir ist nicht klar, wo "Effizienz" ein wesentlicher Aspekt der Frage wird und nicht nur der Kontext, in dem "asymptotische Normalität" aufgetreten ist.

— Silberfischchen

Man muss nur einen Beweis für die asymptotische Normalität von MLE prüfen! Die Quadratwurzel

soll einen zentralen Grenzwertsatz auf einen Stichprobenmittelwert anwenden!

n

$n$

— Megadeth

Antworten:

Wir kommen nicht dazu wählen . Der "normalisierende" Faktor ist im Wesentlichen ein "Varianzstabilisierender gegen etwas Endliches" Faktor, damit der Ausdruck nicht gegen Null oder gegen unendlich geht, wenn die Stichprobengröße gegen unendlich geht, sondern um eine Verteilung am Limit zu halten.

So muss es sein, was es in jedem Fall sein muss. Natürlich ist es interessant , dass in vielen Fällen zeigt sich, dass es hat zu sein $\sqrt n$ . (siehe aber auch @whubers Kommentar unten).

Ein Standardbeispiel, bei dem der Normalisierungsfaktor und nicht muss $n$ $\sqrt n$ ist, wenn wir ein Modell haben

y_{t} = β y_{t - 1} + u_{t}, y_{0} = 0, t = 1, . . ., T

$y_t = \beta y_{t-1} + u_t, \;\; y_0 = 0,\; t=1,...,T$

mit weißes Rauschen, und wir das Unbekannte schätzen durch Ordinary Least Squares. $u_t$ $\beta$

In diesem Fall ist der wahre Wert des Koeffizienten , dann ist der OLS-Schätzer konsistent und konvergiert mit dem üblichen $|\beta|<1$ rate. $\sqrt n$

Wenn jedoch stattdessen der wahre Wert (dh wir haben in Wirklichkeit einen reinen Zufallslauf), dann ist der OLS-Schätzer konsistent, konvergiert jedoch "schneller" mit der Rate (dies wird manchmal als "superkonsistenter" Schätzer bezeichnet - seitdem Ich denke, so viele Schätzer konvergieren mit der Rate $\beta=1$ $n$ ). In diesem Fall seine (nicht normal) Häufigkeitsverteilung zu erhalten, wirhabenmaßstabvon(wenn wir nur skalieren $\sqrt n$
$(\hat \beta - \beta)$ $n$ der Ausdruck geht auf Null). Hamilton Kapitel 17hat die Details. $\sqrt n$

— Alecos Papadopoulos
quelle

y_{t} = y_{t - 1} + u_{t}, u_{0} = 0

$y_t = y_{t-1}+u_t, u_0=0$

y_{0} = 0

$y_0=0$

1, 2,

$1, 2,$

y_{t} = β y_{t - 1} + u_{t}

$y_t = \beta y_{t-1}+u_t$

\hat{β}

$\hat{\beta}$

\sqrt{n}

$\sqrt{n}$

| β | < 1

$|\beta| < 1$ but when

β = 1

$\beta=1$ convergence is at rate

n

$n$ , or is it the case that in the model

y_{t} = β y_{t - 1} + u_{t}

$y_t = \beta y_{t-1}+u_t$ the convergence is always at rate

n

$n$ ? In short, what is the significance of the statement "and

β = 1

$\beta=1$ , i.e. a pure random walk."?

— Dilip Sarwate

@DilipSarwate Thanks. Updated. I believe it is clear now.

— Alecos Papadopoulos

(+1) It might be worthwhile and instructive to note that the choice of

\sqrt{n}

$\sqrt{n}$ (or

n

$n$ or whatever may be appropriate) is not unique. In its stead you may use any function

f (n)

$f(n)$ for which the limiting value of

f (n) / \sqrt{n}

$f(n)/\sqrt{n}$ equals unity. It is only in this broader sense that

f

$f$ "has to be whatever it has to be."

— whuber

@Khashaa The OP asked about asymptotic efficiency, but in the process, it was revealed that the OP might had the wrong impression about "normalizing" factors. This is a more fundamental issue, so I chose to cover this in my answer. Nothing is said in my answer about efficiency.

— Alecos Papadopoulos

Perhaps it is worth mentioning in your answer that the case with

n

$n$ rather than

\sqrt{n}

$\sqrt{n}$ is called "superconsistent"? Currently the only other mention of "superconsistent" on CV which the site's search function can pick up is another one by Alecos! I think it's a good idea to make Qs and As more search-friendly.

— Silverfish

You were on the right track with a sample mean variance intuition. Re-arrange the condition:

\sqrt{n} (U_{n} - θ) \to N (0, v)

$\sqrt{n}(U_n - \theta) \to N(0,v)$

(U_{n} - θ) \to \frac{N (0, v)}{\sqrt{n}}

$(U_n - \theta) \to \frac{N(0,v)}{\sqrt{n}}$

U_{n} \to N (θ, \frac{v}{n})

$U_n \to N(\theta,\frac{v}{n})$

The last equation is informal. However, it's in some way more intuitive: you say that the deviation of $U_n$ from $\theta$ is becoming more like a normal distribution when $n$ increases. The variance is shrinking, but the shape becomes closer to normal distribution.

In math they don't define the convergence to the changing right hand side ( $n$ is varying). That's why the same idea is expressed as the original condition, that you gave. In which the right hand side is fixed, and the left hand side converges to it.

— Aksakal
quelle

You could explain how you do the "re-arrangements". Like what properties you apply.

— mavavilj