AR (1) -Prozess mit heteroskedastischen Messfehlern


13

1. Das Problem

Ich habe einige Messungen einer Variablen yt , wobei t=1,2,..,n , für die ich eine Verteilung fyt(yt) die über MCMC erhalten wurde. Der Einfachheit halber nehme ich an, dass es sich um einen Gaußschen Mittelwert von μt und Varianz σt2 .

Ich habe ein physikalisches Modell für diese Beobachtungen, sagen wir , aber die Residuen scheinen korreliert zu sein; Insbesondere habe ich physikalische Gründe zu der Annahme, dass ein -Prozess ausreicht, um die Korrelation zu berücksichtigen, und ich plane, die Koeffizienten der Anpassung über MCMC zu erhalten, für die ich die Wahrscheinlichkeit benötige . Ich denke, die Lösung ist ziemlich einfach, aber ich bin mir nicht sicher (es scheint so einfach, dass ich glaube, etwas zu verpassen).g(t)rt=μtg(t)AR(1)

2. Ableiten der Wahrscheinlichkeit

Ein AR(1) -Prozess mit dem Mittelwert Null kann wie folgt geschrieben werden:

Xt=ϕXt1+εt,   (1)
wobei ich annehmeεtN(0,σw2) . Die zu schätzenden Parameter sind daher θ={ϕ,σw2} (in meinem Fall muss ich auch die Parameter des Modells g ( t ) addieren )g(t), aber das ist nicht das Problem). Was ich beobachte, jedoch ist die Variable
Rt=Xt+ηt,   (2)
, wo ich gehe davon aus ηtN(0,σt2) und die σt2 sind bekannt (die Messfehler) . Da Xt ein Gauß-Prozess ist, ist auch Rt . Insbesondere weiß ich, dass
X1N(0,σw2/[1ϕ2]),
daher ist
R1N(0,σw2/[1ϕ2]+σt2).
Die nächste Herausforderung besteht darin,Rt|Rt1 fürt1 . Um die Verteilung dieser Zufallsvariablen abzuleiten, ist zu beachten, dass mit Gl. (2) Ich kann X t schreiben
Xt1=Rt1ηt1.   (3)
Unter Verwendung von Gl. (2) und unter Verwendung der Definition von Gl. (1) Ich kann schreiben,
Rt=Xt+ηt=ϕXt1+εt+ηt.
Mit Gl. (3) in diesem letzten Ausdruck erhalte ich dann also R t | R t - 1 =φ( r t - 1 - η t - 1 )+ ε t + η t , und daher R t | R t - 1N(
Rt=ϕ(Rt1ηt1)+εt+ηt,
Rt|Rt1=ϕ(rt1ηt1)+εt+ηt,
Schließlich kann ich die Wahrscheinlichkeitsfunktion schreiben als L ( & thgr; ) = f R 1 ( R 1 = r 1 ) n t = 2 f R t | R t - 1 ( R t = r | R t - 1 = r
Rt|Rt1N(ϕrt1,σw2+σt2ϕ2σt12).
wobeif()die Verteilungen der Variablen sind, die ich gerade definiert habe, dh, wobei σ 2 = σ 2 w / [1- ϕ 2 ]+ σ 2 t , f R 1 ( R 1 = r 1 )= 1
L(θ)=fR1(R1=r1)t=2nfRt|Rt1(Rt=rt|Rt1=rt1),
f()σ2=σw2/[1ϕ2]+σt2, und Definierenσ2(t)=σ 2 w +σ 2 t -φ2σ 2 t - 1 , fRt| Rt-1(Rt=rt|Rt-1=rt-1)=1
fR1(R1=r1)=12πσ2exp(r122σ2),
σ2(t)=σw2+σt2ϕ2σt12
fRt|Rt1(Rt=rt|Rt1=rt1)=12πσ2(t)exp((rtϕrt1)22σ2(t))

3. Fragen

  1. Ist meine Ableitung in Ordnung? Ich habe keine anderen Ressourcen zum Vergleichen als Simulationen (die zu stimmen scheinen), und ich bin kein Statistiker!
  2. MA(1)ARMA(1,1)ARMA(p,q)

Ich habe keine Lösung für Sie. Aber ich denke, das ist eine Art Fehler in Variablen Problem. Ich habe dieses Zeug in Macroeconomic Theory von Thomas Sergent (1980er Jahre) gesehen. Vielleicht möchten Sie sich das mal ansehen.
Metrics

Danke für die Eingabe, @Metrics. Ich werde das Buch überprüfen!
Néstor

Antworten:


1
  1. RtRt1ϕrt1ϕx^t1x^t1Xx^t1rt1σwϕXσηRX

  2. σηZ=1d=c=0Ht=ση,t2T=ϕR=1Q=σw2


Hallo Jamie, danke für deinen Input. Ein paar Kommentare: 1. Da bin ich mir nicht sicher. Es war tatsächlich mein erster Lösungsversuch, aber sowohl meine Intuition als auch meine Simulationen stimmen dem nicht zu. Die Sache ist, dass ich eigentlich nicht beobachte Xt, Ich beobachte Rt; Können Sie (arithmetisch) beweisen, dass das bedingte Mittel der Zufallsvariablen ist?Rt|Rt1=rt1 (note that it is not Rt|Xt1=xt1) is actually ϕx^t1? 2. Can you elaborate on the application of the Kalman filter to this particular problem?
Néstor

Hi Nestor, I've edited the answer to respond to your comments. Hope that helps.
Jamie Hall

Hi Jamie: about the second point, that's ok, thanks :-)! However, I still can't see your first point. Can you point me to a formal derivation? In particular, I would like to know what part of my reasoning is wrong (and why)!
Néstor

You skipped a step: the distribution of X1 given R1. It's N(σx,12(σx,12+ση,12)r1,σx,22), where σx,12 is the variance you calculated in the first step, and σx,22 is twice the harmonic mean of σx,12 and ση,12. (This is just like Bayesian updating with two Gaussian pdfs.) Your equation (3) is formally correct, but you're throwing away information by using that instead of p(Xt1|R1:t1).
Jamie Hall

-1

Honestly, you should code this in BUGs or STAN and not worry about it from there. Unless this is a theoretical question.


2
(-1) To this response; this is clearly a theoretical question ;-). Consider improving why you think I should code it in BUGs or STAN and what it does have to do with the original question?
Néstor
Durch die Nutzung unserer Website bestätigen Sie, dass Sie unsere Cookie-Richtlinie und Datenschutzrichtlinie gelesen und verstanden haben.
Licensed under cc by-sa 3.0 with attribution required.