Zustandsraumdarstellung von ARMA (p, q) aus Hamilton


11

r=max(p,q+1)

yt−μ=ϕ1(yt−1−μ)+ϕ2(yt−2−μ)+...+ϕ3(yt−3−μ)+ϵt+θ1ϵt−1+...+θr−1ϵt−r+1.

ξt+1=[ϕ1ϕ2…ϕr−1ϕr10…00⋮⋮…0000…10]ξt+[ϵt+10⋮0]

und die Beobachtungsgleichung als:

yt=μ+[1θ1θ2…θr−1]ξt.

Ich verstehe nicht, was das in diesem Fall ist. Denn in seiner AR (p) -Darstellung ist es und in seiner MA (1) -Darstellung ist es .[ y t - μ y t - 1 - μ ⋮ y t - p + 1 - μ ] [ ϵ t ϵ t - 1 ]ξt[yt−μyt−1−μ⋮yt−p+1−μ][ϵtϵt−1]

Könnte mir das jemand etwas besser erklären?

Antworten:


10

Hamilton zeigt, dass dies eine korrekte Darstellung im Buch ist, aber der Ansatz mag etwas eingängig erscheinen. Lassen Sie mich daher zunächst eine allgemeine Antwort geben, die seine Modellierungsentscheidung motiviert, und dann seine Ableitung etwas näher erläutern.

Motivation :

Wie aus dem Lesen von Kapitel 13 hervorgeht, gibt es viele Möglichkeiten, ein dynamisches Modell in Form eines Zustandsraums zu schreiben. Wir sollten uns daher fragen, warum Hamilton diese besondere Darstellung gewählt hat. Der Grund ist, dass diese Darstellung die Dimensionalität des Zustandsvektors niedrig hält. Intuitiv würden Sie denken (oder zumindest würde ich), dass der Zustandsvektor für eine ARMA ( , ) mindestens die Dimension . Schließlich können wir nur aus der Beobachtung von den Wert von ableiten . Er zeigt jedoch, dass wir die Zustandsraumdarstellung auf eine clevere Weise definieren können, die den Zustandsvektor der Dimension von höchstens verlässtq p + q y t - 1 ϵ t - 1 r = max { p , q + 1 } p qpqp+qyt−1ϵt−1r=max{p,q+1}. Es kann für die rechnerische Implementierung wichtig sein, die Zustandsdimensionalität niedrig zu halten. Es stellt sich heraus, dass seine Zustandsraumdarstellung auch eine schöne Interpretation eines ARMA-Prozesses bietet: Der unbeobachtete Zustand ist ein AR ( ), während der MA ( ) -Teil aufgrund eines Messfehlers entsteht.pq

Ableitung :

Nun zur Ableitung. Beachten Sie zunächst, dass unter Verwendung der Lag-Operator-Notation der ARMA (p, q) definiert ist als: wobei wir für und für und weglassen, da mindestens . Wir müssen also nur zeigen, dass seine Zustands- und Beobachtungsgleichungen die obige Gleichung implizieren. Lassen Sie den Zustandsvektor sein nun auf der Suche Zustandsgleichung. Sie können die Gleichungen bis überprüfenϕ j = 0 j > p θ j = 0 j > q & thgr ; r r q + 1

(1−ϕ1L−…−ϕrLr)(yt−μ)=(1+θ1L+…+θr−1Lr−1)ϵt
ϕj=0j>pθj=0j>qθrrq+1 2r
ξt={ξ1,t,ξ2,t,…,ξr,t}⊤
2rBewegen Sie einfach die Einträge zu eine Periode vor und Verwerfen in dem Zustandsvektor bei . Die erste Gleichung, die ist daher die relevante. Schreiben Sie es auf: Da das zweite Element von das erste Element von und das dritte Element von ist das erste Element von ξ i - 1 , t + 1 ξ r , t t + 1 ξ i , t + 1 ξ 1 , t + 1 = ϕ 1 ξ 1 , t + ϕ 2 ξ 2 , t + … + ϕ r ξ r , t + ϵ t + 1 ξ tξi,tξi−1,t+1ξr,tt+1ξi,t+1
ξ1,t+1=ϕ1ξ1,t+ϕ2ξ2,t+…+ϕrξr,t+ϵt+1
ξt ξ t ξ t - 2ξt−1ξtξt−2und so weiter können wir dies umschreiben, indem wir die Notation des Verzögerungsoperators verwenden und das Verzögerungspolynom nach links verschieben (Gleichung 13.1.24 in H.): Der verborgene Zustand folgt also einem autoregressiven Prozess. In ähnlicher Weise lautet die Beobachtungsgleichung oder Dies sieht bisher nicht sehr nach einem ARMA aus, aber jetzt kommt das schöner Teil: Multipliziere die letzte Gleichung mit : y t = μ + ξ 1 , t + θ 1 ξ 2 , t + … + θ r - 1 ξ r - 1 , t y t - μ = ( 1
(1−ϕ1L−…−ϕrLr)ξ1,t+1=ϵt+1
yt=μ+ξ1,t+θ1ξ2,t+…+θr−1ξr−1,t
yt−μ=(1+θ1L+…+θr−1Lr−1)ξ1,t
(1−ϕ1L−…−ϕrLr)
(1−ϕ1L−…−ϕrLr)(yt−μ)=(1+θ1L+…+θr−1Lr−1)(1−ϕ1L−…−ϕrLr)yt
Aber aus der Zustandsgleichung (um eine Periode verzögert) haben wir ! Das Obige ist also äquivalent zu das ist genau das, was wir zeigen mussten! Das Zustandsbeobachtungssystem repräsentiert also die ARMA korrekt (p, q). Ich habe Hamilton wirklich nur paraphrasiert, aber ich hoffe, dass dies trotzdem nützlich ist.(1−ϕ1L−…−ϕrLr)ξ1,t=ϵt
(1−ϕ1L−…−ϕrLr)(yt−μ)=(1+θ1L+…+θr−1Lr−1)ϵt

Ich bin jedoch nicht ganz begeistert von der Interpretation des Staates. Wenn Sie die erste Zeile der Zustandsübergangsgleichung schreiben, scheint dies eine Gleichung zu sein, die mit dem angenommenen Modell in Konflikt steht. Ich finde es auch seltsam, dass Sie davon ausgehen, dass beobachtete Daten gleichzeitig verborgen / latent sind.
— Taylor

Sie haben Recht, der Zustand ist in der Tat nicht der gleiche wie . Vielen Dank für den Hinweis. Ich habe es korrigiert, sollte jetzt in Ordnung sein. Übrigens hätten wir im Allgemeinen Variablen im Zustandsvektor beobachten können, siehe zum Beispiel das AR (p) -Beispiel. Dort kann man sich die versteckte Variable als den Wert der nächsten Periode vorstellen, . ytyt+1
— Matthias Schmidtblaicher

Vielen Dank! Aber ich bin immer noch verwirrt darüber, was in dieser Zustandsraumdarstellung ist. Nicht zum Beispiel seine Definition von in Gleichung 13.1.15 und 13.1.14 für und AR (p) und MA (1) Prozess. Meine Verwirrung ist, wenn ich dies in Matlab setze, welche Zahlen bekomme ich in ? ξξξ
— dleal

Was hier verwirrend ist, ist, dass sich die Modellierung des Zustandsraums mit einem verborgenen Zustand befasst, während wir bei ARMA-Prozessen Variablen nicht als verborgen betrachten. Die Zustandsraumdarstellung und die (Kalman) Filtertechniken werden durch Herausfiltern des nicht beobachteten Zustands motiviert. Für ARMA-Prozesse verwenden wir nur die Formulierung von Zustandsraummodellen, damit wir die Parameter mithilfe des Kalman-Filters schätzen können. Daher definieren wir den verborgenen Zustand in 13.1.4 etwas willkürlich als Beobachtung nächsten Periode, während der Zustand in 13.1.22 eine neue Variable ist, die im ursprünglichen Modell nicht erscheint. yt+1
— Matthias Schmidtblaicher

Um Ihre Frage zu Matlab zu beantworten: Wenn Sie von einem ARMA (p, q) ausgehen, ist keine Variable, die in diesem Modell angezeigt wird. Die Zustandsraumdarstellung bietet jedoch tatsächlich eine andere Interpretation des ARMA (p, q): Der verborgene Zustand könnte die Variable sein, an der Sie interessiert sind, und die MA (q) -Struktur entsteht aufgrund eines Messfehlers. Sie können einen AR (1) aufschreiben und etwas weißes Rauschen hinzufügen, um zu sehen, dass eine ARMA-Struktur entsteht. ξ
— Matthias Schmidtblaicher

8

Dies ist das gleiche wie oben, aber ich dachte, ich würde eine kürzere, präzisere Antwort geben. Dies ist wiederum Hamiltons Darstellung für einen kausalen ARMA ( , ) -Prozess, wobei . Diese Zahl ist die Dimension des Zustandsvektors und wird benötigt, um die Anzahl der Zeilen der zu Der Status stimmt mit der Anzahl der Spalten der Beobachtungsmatrix überein. Das heißt, wir müssen auch die Koeffizienten auf Null setzen, wenn der Index zu groß ist.pqr=max(p,q+1)r(ξt,ξt−1,…,ξt−r+1)′

  1. Beobachtungsgleichung

ϕ(B)(yt−μ)=θ(B)ϵt(causality)⟺(yt−μ)=ϕ−1(B)θ(B)ϵt⟺yt=μ+ϕ−1(B)θ(B)ϵt⟺yt=μ+θ(B)ϕ−1(B)ϵt(letting ξt=ϕ−1(B)ϵt)⟺yt=μ+θ(B)ξt(this is where we need r)⟺yt=μ+[1θ1θ2…θr−1][ξtξt−1⋮ξt−r+1]⏟the state vector+0.
  1. Zustandsgleichung

ξt=ϕ−1(B)ϵt⟺ϕ(B)ξt=ϵt⟺(1−ϕ1B−⋯−ϕrBr)ξt=ϵt⟺ξt=ϕ1ξt−1+⋯+ϕrξt−r+ϵt⟺[ξtξt−1ξt−2⋮ξt−r+1]=[ϕ1ϕ2ϕ3⋯ϕr100⋯0010⋯0⋮⋮⋱⋯000⋯10][ξt−1ξt−2⋮ξt−r]+[ϵt0⋮0].

1
Dies macht endlich klar, woher diese Zustandsgleichungen kommen. Ich denke, es so zu sagen, ist didaktisch viel besser, als nur diese zufällig erscheinenden Gleichungen mit dem Hinweis zu versehen, dass es sich als richtig herausstellt.
— Alex

@CowboyTrader ja, das stimmt. Zumindest für diese ARMA-Darstellung. Es gibt einige andere.
— Taylor

@CowboyTrader nein, aber ich würde sagen, dass dies ein vernünftiges Gefühl ist, da die Literatur zu Zustandsraummodellen auf Filterung ausgerichtet ist. Es gibt rekursive Vorhersagegleichungen für lineare Gaußsche Zustandsraummodelle, aber Sie erhalten das Filtermaterial als zusätzlichen Bonus.
— Taylor

@CowboyTrader zögern Sie nicht, mir eine E-Mail zu senden. Ich weiß, dass nicht jeder ausführliche Diskussionen in Kommentaren liebt, daher könnte es einfacher sein, dies zu tun.
— Taylor

Ich sehe, dass es bewiesen ist, aber könnten Sie bitte helfen, etwas Intuition zu geben? Was sind die Zustandsvariablen, was ist der Zustandsvektor t = 0?
— Frank
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.