Modellfehlerbegriffe mit gleitendem Durchschnitt

17

Dies ist eine grundlegende Frage zu Box-Jenkins MA-Modellen. Wie ich es verstehe, ist ein MA - Modell im Grunde eine lineare Regression von Zeitreihenwerten $Y$ gegen vorherige Fehlerterme $e_t,..., e_{t-n}$ . Das heißt, die Beobachtung $Y$ wird zuerst gegen ihre vorherigen Werte zurückgebildet $Y_{t-1}, ..., Y_{t-n}$ und dann ein oder mehr $Y - \hat{Y}$ sind Werte wie die Fehler - Terme für das MA - Modell verwendet.

Aber wie werden die Fehlerterme in einem ARIMA-Modell (0, 0, 2) berechnet? Wenn das MA-Modell ohne autoregressiven Teil und damit ohne geschätzten Wert verwendet wird, wie kann ich möglicherweise einen Fehlerbegriff haben?

— Robert Kubrick
quelle

1

Nein, ich denke, Sie verwechseln die Definition eines MA (n) - Modells, bei dem die Regression nur in Bezug auf die

, mit ihrer Schätzung, bei der die

aus den Daten geschätzt werden .

e_{t - i}

$e_{t-i}$

e_{t - i}

$e_{t-i}$

— Xi'an

1

Das Hauptproblem in Ihrer Frage ist, dass Sie sagen, dass das MA-Modell im Grunde eine lineare Regression ist. Dies ist einfach nicht wahr, da wir Fehlerbedingungen nicht beachten.

— mpiktas

Ich denke , dass der Fehlerterm ist eigentlich

, wobei

ist

oder einfach

. Aus diesem Grund wird eine Parameterschätzung des MA-Modells aus einem wiederkehrenden Muster in der partiellen

Autokorrelationsfunktion abgeleitet, dh dem Verhalten der Residuen. Die AR-Parameterschätzung basiert stattdessen auf einem wiederkehrenden Muster von acf (Y).

Y_{t} - \hat{Y_{t}}

$Y_t - \hat{Y_t}$

\hat{Y}

$\hat{Y}$

E (Y | Y_{t, . . ., t - n})

$E(Y|Y_{t,...,t-n})$

Y_{t} - Y_{t - 1}

$Y_t - Y_{t-1}$

Y

$Y$

— Robert Kubrick

20

MA-Modellschätzung:

Nehmen wir eine Serie mit 100 Zeitpunkten an und sagen wir, dies ist durch ein MA (1) -Modell ohne Achsenabschnitt gekennzeichnet. Dann ist das Modell gegeben durch

y_{t} = ε_{t} - θ ε_{t - 1}, t = 1, 2, \dots, 100 (1)

$y_t=\varepsilon_t-\theta\varepsilon_{t-1},\quad t=1,2,\cdots,100\quad (1)$

Der Fehlerterm wird hier nicht beachtet. Um dies zu erreichen, haben Box et al. Die Zeitreihenanalyse: Forecasting and Control (3. Ausgabe) , Seite 249 , legt nahe, dass der Fehlerterm rekursiv berechnet wird durch:

ε_{t} = y_{t} + θ ε_{t - 1}

$\varepsilon_t=y_t+\theta\varepsilon_{t-1}$

Der Fehlerterm für ist also: Nun können wir dies nicht berechnen, ohne den Wert von . Um dies zu erhalten, müssen wir die anfängliche oder vorläufige Schätzung des Modells berechnen, siehe Box et al. des genannten Buches, Abschnitt 6.3.2 Seite 202 besagen, dass, $t=1$

ε_{1} = y_{1} + θ ε_{0}

$\varepsilon_{1}=y_{1}+\theta\varepsilon_{0}$

θ

$\theta$

Es hat sich gezeigt , dass die ersten Autokorrelationen von MA ( ) -Prozesses sind ungleich Null und kann , wie in Bezug auf die Parameter des Modells geschrieben werden $q$ $q$ Der obige Ausdruck für in Termen liefert Gleichungen in Unbekannten. Vorläufige Schätzungen von s können erhalten werden, indem Schätzungen für in der obigen Gleichung eingesetzt werden
$ρ_{k} = \frac{- θ_{k} + θ_{1} θ_{k + 1} + θ_{2} θ_{k + 2} + \dots + θ_{q - k} θ_{q}}{1 + θ_{1}^{2} + θ_{2}^{2} + \dots + θ_{q}^{2}} k = 1, 2, \dots, q$ $\rho_k=\displaystyle\frac{-\theta_{k}+\theta_1\theta_{k+1}+\theta_2\theta_{k+2}+\cdots+\theta_{q-k}\theta_q}{1+\theta_1^2+\theta_2^2+\cdots+\theta_q^2}\quad k=1,2,\cdots, q$ $\rho_1,\rho_2\cdots,\rho_q$ $\theta_1,\theta_2,\cdots,\theta_q$ $q$ $q$ $\theta$ $r_k$ $\rho_k$

Es ist zu beachten, dass die geschätzte Autokorrelation ist. Weitere Informationen finden Sie in Abschnitt 6.3 - Erste Schätzungen für die Parameter . Lesen Sie hierzu bitte weiter. Angenommen, wir erhalten die anfängliche Schätzung . Dann ist weiteres Problem ist, dass wir für keinen Wert haben $r_k$ $\theta=0.5$

ε_{1} = y_{1} + 0.5 ε_{0}

$\varepsilon_{1}=y_{1}+0.5\varepsilon_{0}$

ε_{0}

$\varepsilon_0$ da

bei 1 beginnt und wir daher

nicht berechnen können . Zum Glück gibt es zwei Methoden, um dies zu erreichen,

t

$t$

ε_{1}

$\varepsilon_1$

Bedingte Wahrscheinlichkeit
Bedingungslose Wahrscheinlichkeit

Laut Box et al. In Abschnitt 7.1.3 auf Seite 227 können die Werte von als Näherung durch Null ersetzt werden, wenn $\varepsilon_0$ $n$ moderat oder groß ist. Bei dieser Methode handelt es sich um die bedingte Wahrscheinlichkeit. Andernfalls wird die bedingungslose Wahrscheinlichkeit verwendet, wobei der Wert von durch Rückvorhersage erhalten wird, Box et al. empfehlen diese Methode. Weitere Informationen zur Rückvorhersage finden Sie in Abschnitt 7.1.4 auf Seite 231 . $\varepsilon_0$

Nach dem Erhalten der anfänglichen Schätzungen und des Wertes von $\varepsilon_0$ wir ; , können wir schließlich mit der rekursiven Berechnung des Fehlerausdrucks fortfahren. Als letztes müssen Sie den Parameter des Modells schätzen. Denken Sie daran, dass dies nicht mehr die vorläufige Schätzung ist. $(1)$

Bei der Schätzung des Parameters ; verwende ich das Verfahren der nichtlinearen Schätzung, insbesondere den Levenberg-Marquardt-Algorithmus, da MA-Modelle für seinen Parameter nichtlinear sind. $\theta$

Insgesamt kann ich Ihnen sehr empfehlen, Box et al. Zeitreihenanalyse: Prognose und Kontrolle (3. Auflage) .

— Al-Ahmadgaid Asaad
quelle

r_{k}

$r_k$

4

Y_{t} = - \sum_{i = 1}^{q} ϑ_{i} e_{t - i} + σ e_{t}, e_{t} \overset{iid}{\sim} N (0, 1)

$Y_t = -\sum_{i=1}^q \vartheta_i e_{t-i} + \sigma e_t,\quad e_t\stackrel{\text{iid}}{\sim} \mathcal{N}(0,1)$

q

$q$

— Xi'an
quelle

1

e_{t}

$e_t$

e_{t}

$e_t$

q

$q$

1

Warum enthält Ihre Formel ein Minus? Normalerweise gilt das Minus für AR-Modelle. Mathematisch ist das kein Thema, ich bin nur gespannt, da ich in MA-Modellen noch nie Minus gesehen habe.

— mpiktas

3

e_{t}

$e_t$

1

@mpiktas Danke, das gibt einige Hintergrundinformationen zum Fehlerbegriff, aber ich bin mir immer noch nicht sicher, woher der Innovationsprozess kommt. Damit eine Innovation existiert, muss irgendwo eine Prognose erstellt werden ( en.wikipedia.org/wiki/Innovation_ ( Signalverarbeitung)). Is the optimal

Y

$Y$ Prognose einfach

E (Y)

$E(Y)$ , das ist der Mittelwert der Serie?

— Robert Kubrick

1

Sie sagen "die Beobachtung $Y$ wird zuerst gegen seine vorherigen Werte regressiert $Y_{t−1},...,Y_{t−n}$ and then one or more $Y−\hat{Y}$ values are used as the error terms for the MA model." What I say is that $Y$ is regressed against two predictor series $e_{t-1}$ and $e_{t−2}$ yielding an error process $e_t$ which will be uncorrelated for all i=3,4,,,,t .We then have two regression coefficients: $\theta_1$ representing the impact of $e_{t-1}$ and $\theta_2$ representing the impact of $e_{t-2}$ . Thus $e_t$ is a white noise random series containing n-2 values. Since we have n-2 estimable relationships we start with the assumption that e1 and e2 are equal to 0.0 . Now for any pair of $\theta_1$ and $\theta_2$ we can estimate the t-2 residual values. The combination that yields the smallest error sum of squares would then be the best estimates of $\theta_1$ and $\theta_2$ .

— IrishStat
quelle

What are the 2 other predictor series? I am asking because when I look at the literature I have it's never clearly specified. Are these 2 other series unrelated to

Y

$Y$ ? I had the impression that all ARIMA formulation is limited to the

Y

$Y$ series.

— Robert Kubrick

1

The 2 predictors are the lags of the error terms. Since these are not known a priori since we do not know the error terms before we begin is why this has to be treated by non-linear estimation.The confusion you are having is that a model that is finite in the past ( i.e. an AR MODEL ) is potentially infinite in the errors AND a model that is finite in the errors ( i.e. an MA MODEL) is potentially infinite in the past of Y.The reason one selects an AR MODEL versus an MA MODEL is for parsimony. Sometimes we construct an ARMA MODEL which blends both the history of Y and the history of the errors.

— IrishStat

1

As I commented in the other answer, what I am still missing is what's the optimal forecast for

Y

$Y$ , which is used to calculate the innovation

e_{t - n}

$e_{t-n}$ .

— Robert Kubrick

1

See my post here for an explanation of how to understand the disturbance terms in a MA series.

You need different estimation techniques to estimate them. This is because you cannot first get the residuals of a linear regression and then include the lagged residual values as explanatory variables because the MA process uses the residuals of the current regression. In your example you are making two regression equations and using residuals from one into the other. This is not what an MA process is. It cannot be estimated with OLS.

— JoeDanger
quelle