ACF- und PACF-Formel

Ich möchte einen Code zum Plotten von ACF und PACF aus Zeitreihendaten erstellen. Genau wie dieses erzeugte Diagramm aus Minitab (unten).

Ich habe versucht, die Formel zu durchsuchen, aber ich verstehe sie immer noch nicht gut. Würde es Ihnen etwas ausmachen, mir die Formel und deren Verwendung zu sagen? Was ist die horizontale rote Linie in den obigen ACF- und PACF-Diagrammen? Wie lautet die Formel?

Danke,

Autokorrelationen

Die Korrelation zwischen zwei Variablen ist definiert als:$y_1, y_2$

$$\rho = \frac{\hbox{E}\left[(y_1-\mu_1)(y_2-\mu_2)\right]}{\sigma_1 \sigma_2} = \frac{\hbox{Cov}(y_1, y_2)}{\sigma_1 \sigma_2} \,,$$

wobei E der Erwartungsoperator ist, sind und die für und und sind ihre Standardabweichungen.$\mu_1$$\mu_2$$y_1$$y_2$$\sigma_1, \sigma_2$

Im Kontext einer einzelnen Variablen, dh Autokorrelation , ist die ursprüngliche Reihe und ist eine verzögerte Version davon. Nach der obigen Definition können Beispielautokorrelationen der Ordnung erhalten werden, indem der folgende Ausdruck mit der beobachteten Reihe , wird :$y_1$$y_2$$k=0,1,2,...$$y_t$$t=1,2,...,n$

$$\rho(k) = \frac{\frac{1}{n-k}\sum_{t=k+1}^n (y_t - \bar{y})(y_{t-k} - \bar{y})}{ \sqrt{\frac{1}{n}\sum_{t=1}^n (y_t - \bar{y})^2}\sqrt{\frac{1}{n-k}\sum_{t=k+1}^n (y_{t-k} - \bar{y})^2}} \,,$$

Dabei ist der Stichprobenmittelwert der Daten.$\bar{y}$

Teilweise Autokorrelationen

Partielle Autokorrelationen messen die lineare Abhängigkeit einer Variablen, nachdem die Auswirkungen anderer Variablen, die sich auf beide Variablen auswirken, beseitigt wurden. Beispielsweise misst die partielle Autokorrelation der Ordnung die Auswirkung (lineare Abhängigkeit) von auf nachdem die Auswirkung von sowohl auf als auch auf .$y_{t-2}$$y_t$$y_{t-1}$$y_t$$y_{t-2}$

Jede partielle Autokorrelation könnte als eine Reihe von Regressionen der Form erhalten werden:

$$\tilde{y}_t = \phi_{21} \tilde{y}_{t-1} + \phi_{22} \tilde{y}_{t-2} + e_t \,,$$

Dabei ist die ursprüngliche Reihe abzüglich des Stichprobenmittelwerts, . Die Schätzung von ergibt den Wert der partiellen Autokorrelation der Ordnung 2. Wenn die Regression um zusätzliche Verzögerungen erweitert wird, ergibt die Schätzung des letzten Terms die partielle Autokorrelation der Ordnung .$\tilde{y}_t$$y_t - \bar{y}$$\phi_{22}$$k$$k$

Eine alternative Methode zur Berechnung der partiellen Autokorrelationen der Stichprobe besteht darin, das folgende System für jede Ordnung lösen :$k$

$$\begin{eqnarray} \left(\begin{array}{cccc} \rho(0) & \rho(1) & \cdots & \rho(k-1) \\ \rho(1) & \rho(0) & \cdots & \rho(k-2) \\ \vdots & \vdots & \vdots & \vdots \\ \rho(k-1) & \rho(k-2) & \cdots & \rho(0) \\ \end{array}\right) \left(\begin{array}{c} \phi_{k1} \\ \phi_{k2} \\ \vdots \\ \phi_{kk} \\ \end{array}\right) = \left(\begin{array}{c} \rho(1) \\ \rho(2) \\ \vdots \\ \rho(k) \\ \end{array}\right) \,, \end{eqnarray}$$

Dabei sind die Beispielautokorrelationen. Diese Zuordnung zwischen den Probenautokorrelationen und den Teilautokorrelationen ist als Durbin-Levinson-Rekursion bekannt . Dieser Ansatz ist zur Veranschaulichung relativ einfach zu implementieren. Zum Beispiel können wir in der R-Software die partielle Autokorrelation der Ordnung 5 wie folgt erhalten:$\rho(\cdot)$

# sample data
x <- diff(AirPassengers)
# autocorrelations
sacf <- acf(x, lag.max = 10, plot = FALSE)$acf[,,1]
# solve the system of equations
res1 <- solve(toeplitz(sacf[1:5]), sacf[2:6])
res1
# [1]  0.29992688 -0.18784728 -0.08468517 -0.22463189  0.01008379
# benchmark result
res2 <- pacf(x, lag.max = 5, plot = FALSE)$acf[,,1]
res2
# [1]  0.30285526 -0.21344644 -0.16044680 -0.22163003  0.01008379
all.equal(res1[5], res2[5])
# [1] TRUE

Vertrauensbereiche

Konfidenzbänder können als Wert der Stichproben-Autokorrelationen berechnet werden , wobei das Quantil in der Gaußschen Verteilung, zB 1,96 für 95% -Konfidenzbänder.$\pm \frac{z_{1-\alpha/2}}{\sqrt{n}}$$z_{1-\alpha/2}$$1-\alpha/2$

Manchmal werden Konfidenzbänder verwendet, die mit zunehmender Reihenfolge zunehmen. In diesem Fall können die Bänder definiert werden als .$\pm z_{1-\alpha/2}\sqrt{\frac{1}{n}\left(1 + 2\sum_{i=1}^k \rho(i)^2\right)}$

"Ich möchte einen Code zum Plotten von ACF und PACF aus Zeitreihendaten erstellen".

Obwohl das OP ein bisschen vage ist, ist es möglicherweise eher auf eine Rezeptcodierungsformulierung als auf eine lineare Algebramodellformulierung ausgerichtet.

---

Das ACF ist ziemlich einfach: Wir haben eine Zeitreihe und erstellen im Grunde genommen mehrere "Kopien" (wie in "Kopieren und Einfügen"), wobei wir verstehen, dass jede Kopie um einen Eintrag aus der vorherigen Kopie versetzt wird, weil das Anfangsdaten enthalten Datenpunkte, während die vorherige Zeitreihenlänge (die den letzten Datenpunkt ausschließt) nur beträgt . Wir können praktisch so viele Kopien erstellen, wie Zeilen vorhanden sind. Jede Kopie ist mit dem Original korreliert, wobei zu berücksichtigen ist, dass wir identische Längen benötigen. Zu diesem Zweck müssen wir das hintere Ende der ursprünglichen Datenreihe weiter beschneiden, um sie vergleichbar zu machen. Um zum Beispiel die Anfangsdaten mit zu korrelieren, wir die letzten$t$$t-1$$ts_{t-3}$$3$Datenpunkte der ursprünglichen Zeitreihe (die ersten chronologisch).$3$

Beispiel:

Wir erstellen eine Zeitserie mit einem zyklischen Sinusmuster, das einer Trendlinie und Rauschen überlagert ist, und zeichnen den R-generierten ACF auf. Ich habe dieses Beispiel aus einem Online-Beitrag von Christoph Scherber erhalten und nur das Rauschen hinzugefügt:

x=seq(pi, 10 * pi, 0.1)
y = 0.1 * x + sin(x) + rnorm(x)
y = ts(y, start=1800)

Normalerweise müssten wir die Daten auf Stationarität testen (oder sehen uns nur die obige Grafik an), aber wir wissen, dass es einen Trend gibt. Lassen Sie uns diesen Teil überspringen und direkt zum absteigenden Schritt gehen:

model=lm(y ~ I(1801:2083))
st.y = y - predict(model)

Jetzt sind wir bereit, diese Zeitreihe zu erstellen, indem wir zuerst die ACF mit der acf()Funktion in R generieren und dann die Ergebnisse mit der von mir zusammengestellten provisorischen Schleife vergleichen:

ACF = 0                  # Starting an empty vector to capture the auto-correlations.
ACF[1] = cor(st.y, st.y) # The first entry in the ACF is the correlation with itself (1).
for(i in 1:30){          # Took 30 points to parallel the output of `acf()`
  lag = st.y[-c(1:i)]    # Introducing lags in the stationary ts.
  clipped.y = st.y[1:length(lag)]    # Compensating by reducing length of ts.
  ACF[i + 1] = cor(clipped.y, lag)   # Storing each correlation.
}
acf(st.y)                            # Plotting the built-in function (left)
plot(ACF, type="h", main="ACF Manual calculation"); abline(h = 0) # and my results (right).

---

IN ORDNUNG. Das war erfolgreich Auf zum PACF . Viel kniffliger zu hacken ... Hier geht es darum, die ersten ts ein paarmal zu klonen und dann mehrere Zeitpunkte auszuwählen. Anstatt nur mit der anfänglichen Zeitreihe zu korrelieren, setzen wir alle Zwischenzeiten zusammen und führen eine Regressionsanalyse durch, damit die durch die vorherigen Zeitpunkte erklärte Varianz ausgeschlossen (kontrolliert) werden kann. Wenn wir uns zum Beispiel auf die PACF konzentrieren, die zum Zeitpunkt , behalten wir , , und sowie , und wir bilden durch$ts_{t-4}$$ts_t$$ts_{t-1}$$ts_{t-2}$$ts_{t-3}$$ts_{t-4}$$ts_t \sim ts_{t-1} + ts_{t-2} + ts_{t-3}+ts_{t-4}$ den Ursprung und nur den Koeffizienten für :$ts_{t-4}$

PACF = 0          # Starting up an empty storage vector.
for(j in 2:25){   # Picked up 25 lag points to parallel R `pacf()` output.
  cols = j        
  rows = length(st.y) - j + 1 # To end up with equal length vectors we clip.

  lag = matrix(0, rows, j)    # The storage matrix for different groups of lagged vectors.

for(i in 1:cols){
  lag[ ,i] = st.y[i : (i + rows - 1)]  #Clipping progressively to get lagged ts's.
}
  lag = as.data.frame(lag)
  fit = lm(lag$V1 ~ . - 1, data = lag) # Running an OLS for every group.
  PACF[j] = coef(fit)[j - 1]           # Getting the slope for the last lagged ts.
}

Und schließlich noch einmal nebeneinander zeichnen, R-generierte und manuelle Berechnungen:

Dass die Idee neben wahrscheinlichen Rechenproblemen richtig ist, kann man im Vergleich PACFdazu sehen pacf(st.y, plot = F).

---

Code hier .

Nun, in der Praxis haben wir Fehler (Rauschen) gefunden, die durch Die Konfidenzbänder helfen Ihnen herauszufinden, ob ein Pegel nur als Rauschen betrachtet werden kann (weil etwa 95% der Rauschanteile in den Bändern liegen).$e_t$

Hier ist ein Python-Code zur Berechnung von ACF:

def shift(x,b):
    if ( b <= 0 ):
        return x
    d = np.array(x);
    d1 = d
    d1[b:] = d[:-b]
    d1[0:b] = 0
    return d1

# One way of doing it using bare bones
# - you divide by first to normalize - because corr(x,x) = 1
x = np.arange(0,10)
xo = x - x.mean()

cors = [ np.correlate(xo,shift(xo,i))[0]  for i in range(len(x1)) ]
print (cors/cors[0] )

#-- Here is another way - you divide by first to normalize
cors = np.correlate(xo,xo,'full')[n-1:]
cors/cors[0]