Intuitive Erklärung / Motivation der stationären Verteilung eines Prozesses

In der Literatur waren Autoren häufig daran interessiert, die stationäre Verteilung eines Zeitreihenprozesses zu finden. Betrachten Sie beispielsweise den folgenden einfachen AR ( ) -Prozess : wobei . $1$ $\{X_t\}$

X_{t} = α X_{t - 1} + e_{t},

$X_t = \alpha X_{t-1} + e_t,$

e_{t} \overset{i i d}{\sim} f

$e_t\stackrel{iid}{\thicksim} f$

Was könnte möglicherweise die Motivation (en) sein, die stationäre Verteilung eines stochastischen Prozesses zu finden?

Welche anderen (theoretischen und praktischen) Analysen würde man möglicherweise mit der resultierenden stationären Verteilung durchführen?

Was ist (sind) das Problem (die Probleme), wenn die stationäre Verteilung nicht existiert? Wird der Prozess nutzlos?

Was ist, wenn die stationäre Verteilung existiert, aber keine geschlossene Form hat? Was sind die Nachteile, wenn man keinen Ausdruck in geschlossener Form hat?

— Schenkel
quelle

Ich denke, wir sind bis zu einem gewissen Grad an der stationären Verteilung eines AR-Prozesses interessiert, aus dem gleichen Grund, warum wir an der Verteilung eines iid-Prozesses interessiert sind. Vorausgesetzt, die stationäre Verteilung existiert, ist es dann die Randverteilung von , die uns den Mittelwert und die Varianz oder das Konfidenzintervall im Allgemeinen angibt. Tatsächlich interessiere ich mich nur für stationäre Kovarianzprozesse, weil ich mit der CLT die asymptotische Verteilung kenne, solange ich den Mittelwert und die Varianz kenne.

X_{t}

$X_{t}$

— Semibruin

In diesem Zusammenhang gibt es verschiedene Gründe für das Interesse an stationären Verteilungen, aber der wahrscheinlich wichtigste Aspekt ist, dass sie eng mit der Begrenzung von Verteilungen zusammenhängen. Bei den meisten Zeitreihenprozessen besteht ein enger Zusammenhang zwischen der stationären Verteilung und der begrenzenden Verteilung des Prozesses. Unter sehr breiten Bedingungen haben Zeitreihenprozesse, die auf IID-Fehlertermen basieren, eine stationäre Verteilung und konvergieren zu dieser stationären Verteilung als Grenzverteilung für jede von Ihnen angegebene Startverteilung. Das heißt, wenn Sie den Prozess längere Zeit laufen lassen, liegt seine Verteilung nahe an der stationären Verteilung, unabhängig davon, wie er gestartet wurde. Wenn Sie also Grund zu der Annahme haben, dass der Prozess schon lange ausgeführt wird,

In Ihrer Frage verwenden Sie das Beispiel eines AR ( ) -Zeitreihenprozesses mit IID-Fehlertermen mit einer beliebigen Randverteilung. Wenn dann ist dieses Modell eine wiederkehrende zeithomogene Markov-Kette, und ihre stationäre Verteilung kann durch Invertieren in einen MA- Prozess ( ) ermittelt werden: $1$ $|\alpha|<1$ $\infty$

X_{t} = \sum_{k = 0}^{\infty} α^{k} e_{t - k} e_{t} \sim IID f .

$X_t = \sum_{k=0}^\infty \alpha^{k} e_{t-k} \quad \quad \quad e_t \sim \text{IID }f.$

Wir können sehen, dass der Prozess eine gewichtete Summe einer unendlichen Kette von IID-Fehlertermen ist, bei denen die Gewichtungen exponentiell abnehmen. Die Grenzverteilung kann aus der Fehlerverteilung durch eine geeignete Faltung für diese gewichtete Summe erhalten werden. Im Allgemeinen hängt dies von der Form von und es kann sich um eine komplizierte Verteilung handeln. Es ist jedoch anzumerken, dass, wenn die Fehlerverteilung nicht stark schwankt und wenn so dass der Zerfall langsam ist, die Grenzverteilung aufgrund der Annäherung an die zentrale Grenze nahe an einer Normalverteilung liegt Satz . $f$ $f$ $\alpha \approx 1$

Praktische Anwendungen: In den meisten Anwendungen des AR ( ) eine normale Fehlerverteilung , was bedeutet, dass die stationäre Verteilung des Prozesses ist :: $1$ $e_t \sim \text{IID N}(0, \sigma^2)$

X_{t} \sim N (0, \frac{σ^{2}}{1 - α^{2}}) .

$X_t \sim \text{N} \Big( 0, \frac{\sigma^2}{1-\alpha^2} \Big).$

Unabhängig von der Startverteilung für den Prozess ist diese stationäre Verteilung die Grenzverteilung des Prozesses. Wenn wir Grund zu der Annahme haben, dass der Prozess über einen angemessenen Zeitraum ausgeführt wurde, wissen wir, dass der Prozess nahe an dieser Grenzverteilung konvergiert hat. Daher ist es sinnvoll anzunehmen, dass der Prozess dieser Verteilung folgt. Wie bei jeder Anwendung der statistischen Modellierung betrachten wir natürlich diagnostische Diagramme / Tests, um festzustellen, ob die Daten unsere angenommene Modellform verfälschen. Trotzdem passt dieses Formular zu einer breiten Klasse von Fällen, in denen das AR ( ) -Modell verwendet wird. $1$

Was ist, wenn keine stationäre Verteilung vorhanden ist? Es gibt bestimmte Zeitreihenprozesse, bei denen die stationäre Verteilung nicht vorhanden ist. Dies ist am häufigsten der Fall, wenn die Reihe einen festen periodischen Aspekt aufweist oder einen absorbierenden Zustand (oder andere nicht kommunizierende Zustandsklassen) aufweist. In diesem Fall gibt es möglicherweise keine einschränkende Verteilung, oder die einschränkende Verteilung ist möglicherweise eine marginale Verteilung, die über mehrere nicht kommunizierende Klassen aggregiert wird, was nicht allzu nützlich ist. Dies ist von Natur aus kein Problem - es bedeutet lediglich, dass Sie eine andere Art von Modell benötigen, das die instationäre Natur des Prozesses korrekt darstellt. Dies ist komplizierter, aber die statistische Theorie hat Mittel und Wege, um damit umzugehen.

— Ben - Monica wieder einsetzen
quelle

Vielen Dank, @Ben für die Antwort. Dies klärt einige meiner Zweifel. Sie haben gesagt, dass die stationäre Verteilung in verschiedenen statistischen Anwendungen verwendet werden kann. Bedeutet das, dass die stationäre Verteilung nützlich ist, wenn sie nur eine geschlossene Form hat? Wenn Sie etwas genauer erläutern, was passieren wird, wenn die stationäre Verteilung vorhanden ist, aber keine explizite Form hat?

— Shanks

Der übliche Fall besteht darin, eine Normalverteilung für die Fehlerterme anzunehmen, was dann zu einer normalverteilten stationären Verteilung für den Prozess führt. Dies hat auch den Vorteil, dass es sich um die Verteilung handelt, die aus dem CLT gebildet wird. Wenn Sie ein Modell mit einer stationären Verteilung verwenden, die nicht in geschlossener Form vorliegt, können Sie es simulieren oder mithilfe von Normalverteilungsmischungen eine Annäherung vornehmen. Es kommt selten vor, dass jemand einen nicht normalen Prozess verwendet.

— Ben - Reinstate Monica

Ich denke, die stationäre Verteilung wird nicht normal, wenn wir die autoregressive Funktion nur ein wenig komplizieren, sagen wir oder .

X_{t} = α X_{t - 1}^{2} + e_{t}

$X_t = \alpha X_{t-1}^2 + e_t$

X_{t} = α | X_{t - 1} | + e_{t}

$X_t = \alpha |X_{t-1}| + e_t$

— Shanks

Jetzt haben Sie eine andere Modellform und damit eine andere Frage.

— Ben - Reinstate Monica