Bedeuten nicht invertierbare MA-Modelle, dass der Effekt vergangener Beobachtungen mit der Entfernung zunimmt?

Update (25.06.2019): Titeländerung von " Sind nicht invertierbare MA-Modelle sinnvoll?" um es von Frage 333802 zu unterscheiden .

Bei der Überprüfung von MA ( ) -Modellen bin ich auf diese Folien gestoßen (Alonso und Garcia-Martos, 2012). Die Autoren geben an, dass alle MA-Prozesse zwar stationär sind, Sie aber nicht invertierbar sind $q$

" Die paradoxe Situation, in der die Wirkung vergangener Beobachtungen mit der Entfernung zunimmt. "

Dies kann durch die Zerlegung des MA (1) -Prozesses gesehen werden: in wobei eindeutig in eine Geschichte übersetzt wird, die immer mehr Einfluss auf die Gegenwart hat. Zwei Dinge daran stören mich:

y_{t} = ϵ_{t} - θ ϵ_{t - 1}

$y_t = \epsilon_t - \theta \epsilon_{t-1}$

y_{t} = ϵ_{t} - \sum_{i = 1}^{t - 1} θ^{i} y_{t - i} - θ^{t} ϵ_{0},

$y_t = \epsilon_t -\sum_{i=1}^{t-1} \theta ^i y_{t-i} - \theta^t \epsilon_0,$

| θ | > 1

$|\theta|>1$

Es ist nicht schwer, sich eine Situation vorzustellen, in der die Auswirkungen von etwas einmalig verzögert sind
Dieser Cross Validated Post hat eine Antwort, die besagt:

" Invertierbarkeit ist keine große Sache, da fast jedes nicht invertierbare Gaußsche MA (q) -Modell in ein invertierbares MA (q) -Modell geändert werden kann, das denselben Prozess darstellt. "

Stimmt es, dass die Wirkung vergangener Beobachtungen mit der Entfernung zunimmt? Wenn ja, sind die Modelle dadurch nicht für die Beschreibung von Phänomenen der realen Welt geeignet?

Update (09.11.2019) Fand dies im Text Zeitreihenanalyse und ihre Anwendungen (Shumway und Stoffer, Seite 85), der auch den Fall unterstützt, dass es nicht wirklich wichtig ist, ob ein MA-Modell nicht invertierbar ist, aber wir Möglicherweise möchten Sie der Einfachheit halber die nicht invertierbare Version des Modells auswählen.

time-series moving-average

— Ben Ogorek
quelle

Ich denke, eine Unterscheidung zwischen und kann wichtig sein. Ihr Text scheint sich auf den letzteren Fall zu konzentrieren, aber die Terminologie (nicht umkehrbar ) hilft nicht, zwischen den beiden zu unterscheiden. Wenn eine große Sache ist (nicht wahr ?), Während keine große Sache ist , ist die Frage schwer zu beantworten, wenn sie ausschließlich auf dem Begriff nicht umkehrbar basiert . Vielleicht könnten Sie den Beitrag bearbeiten, um dies hervorzuheben?

| θ | = 1

$|\theta|=1$

| θ | > 1

$|\theta|>1$

| θ | = 1

$|\theta|=1$

| θ | > 1

$|\theta|>1$

— Richard Hardy

@whuber, ich würde mich über einen weiteren Blick freuen, da ich den Titel geändert habe. Ich hoffe, dass ich durch die Konzentration auf die Eigenschaft des Einflusses historischer Datenpunkte einen neuen Raum geschaffen habe.

— Ben Ogorek

Antworten:

Keine große Sache - es ist stark stationär und nähert sich weißem Rauschen

Der nicht invertierbare -Prozess ist absolut sinnvoll und zeigt kein besonders seltsames Verhalten. Wenn wir die Gaußsche Version des Prozesses nehmen, haben wir für jeden Vektor , der aus aufeinanderfolgenden Beobachtungen besteht, mit Kovarianz: $\text{MA}(1)$ $\mathbf{y} = (y_1,...,y_n)$ $\mathbf{y} \sim \text{N}(\mathbf{0}, \mathbf{\Sigma})$

Σ \equiv \frac{σ^{2}}{1 + θ^{2}} [\begin{matrix} 1 + θ^{2} & - θ & 0 & \dots & 0 & 0 & 0 \\ - θ & 1 + θ^{2} & - θ & \dots & 0 & 0 & 0 \\ 0 & - θ & 1 + θ^{2} & \dots & 0 & 0 & 0 \\ ⋮ & ⋮ & ⋮ & ⋱ & ⋮ & ⋮ & ⋮ \\ 0 & 0 & 0 & \dots & 1 + θ^{2} & - θ & 0 \\ 0 & 0 & 0 & \dots & - θ & 1 + θ^{2} & - θ \\ 0 & 0 & 0 & \dots & 0 & - θ & 1 + θ^{2} \end{matrix}] .

$\mathbf{\Sigma} \equiv \frac{\sigma^2}{1+\theta^2} \begin{bmatrix} 1+\theta^2 & -\theta & 0 & \cdots & 0 & 0 & 0 \\ -\theta & 1+\theta^2 & -\theta & \cdots & 0 & 0 & 0 \\ 0 & - \theta & 1+\theta^2 & \cdots & 0 & 0 & 0 \\ \vdots & \vdots & \vdots & \ddots & \vdots & \vdots & \vdots \\ 0 & 0 & 0 & \cdots & 1+\theta^2 & -\theta & 0 \\ 0 & 0 & 0 & \cdots & -\theta & 1+\theta^2 & -\theta \\ 0 & 0 & 0 & \cdots & 0 & -\theta & 1+\theta^2 \\ \end{bmatrix}.$

Wie Sie sehen können, ist dies ein stark stationärer Prozess, und Beobachtungen, die mehr als eine Verzögerung voneinander entfernt sind, sind unabhängig, selbst wenn . Dies ist nicht überraschend, da solche Beobachtungen keinen Einfluss auf den zugrunde liegenden Prozess des weißen Rauschens haben. Es scheint kein Verhalten zu geben, bei dem "vergangene Beobachtungen mit der Entfernung zunehmen", und die von Ihnen angegebene Gleichung legt dies nicht fest (siehe unten für weitere Erörterungen). $|\theta|>1$

In der Tat als (was der extremste Fall des von Ihnen in Betracht gezogenen Phänomens ist) reduziert das Modell asymptotisch auf einen trivialen Prozess des weißen Rauschens. Dies ist völlig nicht überraschend, da ein großer Koeffizient für den ersten verzögerten Fehlerterm den Einheitskoeffizienten für den gleichzeitigen Fehlerterm dominiert und das Modell asymptotisch in Richtung der Form , die nur eine skalierte und verschobene Version des zugrunde liegenden Prozesses für weißes Rauschen ist. $|\theta| \rightarrow \infty$ $y_t \rightarrow \theta \epsilon_{t-1}$

Ein Hinweis zu Ihrer Gleichung: In die Gleichung in Ihrer Frage schreiben Sie den aktuellen Wert der beobachtbaren Zeitreihe als geometrisch ansteigende Summe vergangener Werte plus der verbleibenden Fehlerterme. Dies soll zeigen, dass "die Wirkung vergangener Beobachtungen mit der Entfernung zunimmt". Die Gleichung beinhaltet jedoch eine große Anzahl von stornierenden Begriffen. Um dies zu sehen, erweitern wir die in der Vergangenheit beobachtbaren Begriffe, um das Aufheben von Begriffen zu zeigen:

\begin{aligned} y_{t} & = ϵ_{t} - \sum_{i = 1}^{t - 1} θ^{i} y_{t - i} - θ^{t} ϵ_{0} \\ = ϵ_{t} - \sum_{i = 1}^{t - 1} θ^{i} (ϵ_{t - i} - θ ϵ_{t - i - 1}) - θ^{t} ϵ_{0} \\ = ϵ_{t} - (θ ϵ_{t - 1} - θ^{2} ϵ_{t - 2}) \\ - (θ^{2} ϵ_{t - 2} - θ^{3} ϵ_{t - 3}) \\ - (θ^{3} ϵ_{t - 3} - θ^{4} ϵ_{t - 4}) \\ - \dots \\ - (θ^{t - 1} ϵ_{1} - θ^{t} ϵ_{0}) . \end{aligned}

$\begin{equation} \begin{aligned} y_t &= \epsilon_t - \sum_{i=1}^{t-1} \theta^i y_{t-i} - \theta^t \epsilon_0 \\[6pt] &= \epsilon_t - \sum_{i=1}^{t-1} \theta^i (\epsilon_{t-i} - \theta \epsilon_{t-i-1}) - \theta^t \epsilon_0 \\[6pt] &= \epsilon_t - ( \theta \epsilon_{t-1} - \theta^2 \epsilon_{t-2} ) \\[6pt] &\quad \quad \quad \quad \quad \ \ \ - ( \theta^2 \epsilon_{t-2} - \theta^3 \epsilon_{t-3} ) \\[6pt] &\quad \quad \quad \quad \quad \quad \quad \quad \quad \quad - ( \theta^3 \epsilon_{t-3} - \theta^4 \epsilon_{t-4} ) \\[6pt] &\quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \ \ \ - \ \cdots \\[6pt] &\quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \quad \ \ \ - ( \theta^{t-1} \epsilon_1 - \theta^t \epsilon_0 ). \\[6pt] \end{aligned} \end{equation}$

Wir können aus dieser Erweiterung ersehen, dass die geometrisch ansteigende Summe vergangener Werte der beobachtbaren Zeitreihe nur dazu dient, den vorherigen Fehlerterm zu erhalten:

ϵ_{t - 1} = \sum_{i = 1}^{t - 1} θ^{i - 1} y_{t - i} + θ^{t - 1} ϵ_{0} .

$\epsilon_{t-1} = \sum_{i=1}^{t-1} \theta^{i-1} y_{t-i} + \theta^{t-1} \epsilon_0.$

Alles, was hier passiert, ist, dass Sie versuchen, den vorherigen Fehlerbegriff auf unangenehme Weise auszudrücken. Die Tatsache, dass eine lange Löschsumme geometrisch gewichteter Werte der Reihe gleich dem gewünschten Fehlerterm ist, zeigt nicht, dass vergangene Beobachtungen "einen Effekt" auf den gegenwärtigen Zeitreihenwert haben. Es bedeutet lediglich, dass Sie, wenn Sie in Form von ausdrücken möchten, die geometrisch gewichtete Summe der beobachtbaren Reihen nur addieren können. $\epsilon_{t-1}$ $\epsilon_0$

— Ben - Monica wieder einsetzen
quelle

Hallo Ben, ich stimme dem zu, was Sie getan haben, aber der Grund für die Nichtinveribilität ist, dass beim erneuten Schreiben als AR (1) die Modellantwort mehr von den Daten abhängt, die weiter von der Antwort entfernt sind, als von Daten, die dies sind näher. Dies ist für einen AR nicht intuitiv (1). Aber im Allgemeinen stimme ich aus praktischer Sicht zu, dass die Nichtinvertierbarkeit von MA nicht wichtig ist. Vielen Dank.

— mlofton

Ben, wenn du erklären könntest, warum die zweite Gleichung im ursprünglichen Beitrag nicht bedeutet, was ich denke (dass der Einfluss vergangener Beobachtungen auf den gleitenden Durchschnitt mit der Zeit zunimmt), dann wäre ich mit der Antwort zufrieden. Alles andere, was Sie sagen, macht Sinn.

— Ben Ogorek

@ Ben Ogorek: Ich habe einen zusätzlichen Abschnitt hinzugefügt, der sich mit dieser Gleichung befasst.

— Ben - Reinstate Monica

Gilt Ihre Antwort gleichermaßen für die Fälle von und ? Ich denke an eine Überdifferenzierung, die ergibt . Wenn ich mich richtig erinnere, wird es als ziemlich ernstes Problem angesehen (obwohl ich mich nicht an das genaue Argument erinnern kann).

| θ | = 1

$|\theta|=1$

| θ | > 1

$|\theta|>1$

θ = - 1

$\theta=-1$

— Richard Hardy

Okay, Ben, ich bin überzeugt. Ich fühle mich immer noch nicht 100% gut in Bezug auf die vorherige Erklärung des Fehlerbegriffs, aber mir wurde klar, dass Sie Recht haben müssen, nachdem Sie einige einfache Simulationen ausprobiert haben und nichts Seltsames in der Abhängigkeitsstruktur gesehen haben. Übrigens, das Kopfgeld verschwand in Luft, ich glaube, als die Frage wegen Doppelstatus geschlossen wurde, habe ich einige Ihrer alten Antworten überflogen und es dort wieder gut gemacht.

— Ben Ogorek

Ich halte es nicht für sinnvoll, nach einem Beispiel zu fragen, "aus der realen Welt, in der sie [nicht invertierbare MA-Modelle] vorkommen". Alles, was Sie beobachten, ist . Wie ich in dem Beitrag, auf den Sie verlinken, zu erläutern versuche, kann die gemeinsame Verteilung dieser Daten fast immer (außer in dem Fall, in dem das MA-Polynom eine oder mehrere Einheitswurzeln hat) identisch modelliert werden, wie es von einer Reihe von nicht invertierbaren Daten erzeugt wird MA-Modelle oder durch ein entsprechendes invertierbares MA-Modell. Anhand der Daten allein kann daher nicht festgestellt werden, ob der zugrunde liegende Mechanismus der "realen Welt" dem eines nicht invertierbaren oder invertierbaren Modells entspricht. Und ARIMA-Modelle sind ohnehin gar nicht als mechanistische Modelle des Datenerzeugungsprozesses gedacht. $y_1,y_2,\dots,y_n$

Dies läuft also nur darauf hinaus, den Parameterraum auf den von invertierbaren Modellen zu beschränken, um das Modell identifizierbar zu machen, mit dem zusätzlichen Vorteil, dass ein Modell leicht in AR- Form kann. $(\infty)$

— Jarle Tufto
quelle

Ich verstehe, was Sie sagen, dass dies keine Strukturmodelle sind. Sie versuchen nicht, die Welt explizit zu erklären. Der Ausdruck "macht Sinn" ist auch nicht sehr präzise. Vielleicht könnte ich umformulieren als: "Gibt es nicht invertierbare MA-Prozesse (im mathematischen Sinne)?" und "wenn ja, ähnelt der Datenerzeugungsprozess irgendetwas in der Natur?" Was mir Sorgen macht, ist, dass es eine künstliche Eigenschaft gibt, die mit zunehmendem Alter jünger wird und in der zweiten Gleichung oben zusammengefasst ist.

— Ben Ogorek

@ BenOgorek Ich denke, jeder Prozess in der Natur, der mechanistisch einen gleitenden Durchschnitt beinhaltet, könnte leicht einem nicht invertierbaren Modell entsprechen. Ein Spielzeugbeispiel ist mit Wurzeln .

y_{t} = ϵ_{t} + 3 ϵ_{t - 1} + ϵ_{t - 2}

$y_t=\epsilon_t+3\epsilon_{t-1}+\epsilon_{t-2}$ Mod(polyroot(c(1,3,1)))

— Jarle Tufto

Hallo Ben: Das Konzept des Invertierens (mit dem ich vertraut bin) besteht darin, zu prüfen, ob der MA als äquivalenter AR ( ) geschrieben werden kann. In der Gleichung, die das OP geschrieben hat, zeigt die Gleichung, dass für die weiter in der Vergangenheit eine größere haben , wenn die beibehalten und nicht in Epsilons umgewandelt werden Auswirkung auf die aktuelle Antwort , als die nähere . In Büchern, die ich gelesen habe, heißt es normalerweise, dass diese Art von Gleichung keine Bedeutung hat und grundsätzlich ignoriert wird.

\infty

$\infty$

y_{t - i}

$y_{t-i}$

a b s (θ) >= 1

$abs(\theta) >= 1$

y_{t - i}

$y_{t-i}$

y_{t}

$y_{t}$

y_{t - i}

$y_{t-i}$

— mlofton

Ben: Beachten Sie, dass ich nicht behaupte, dass mit einem MA (1) mit etwas nicht stimmt . In der Praxis sollte das Modell nicht problematisch sein, solange man sich nicht für das AR-Äquivalent interessiert. Es ist eher eine theoretische Frage, denke ich.

a b s (θ) > 1.0

$abs(\theta) > 1.0$

— mlofton