Welche neuronale Netzwerktopologie soll Korrelationen zwischen Zeitreihen lernen?

Ich habe zwei (oder mehr im Prinzip) 1xN-Zeitreihen und möchte eine NN trainieren, um den nächsten Wert von beiden vorherzusagen. Ich kann sie als 2xN-Matrix anordnen und ein Fenster aus dieser Matrix als Eingabe in das NN einspeisen, bin mir aber nicht sicher, wie ich das NN selbst strukturieren soll.

Ich habe eine NN mit Windungen erstellt, die mit einer einzelnen Serie einen recht anständigen Job machen können, aber ich möchte serienübergreifende Korrelationen ausnutzen. Mit welcher Topologie kann der NN Korrelationen zwischen den Zeitreihen feststellen?

Es hängt ein wenig davon ab, nach welchen Korrelationen Sie suchen. Erwarten Sie eine Korrelation, die zu jedem Zeitschritt / Fenster vorhanden ist, oder einen anderen Korrelationsgrad pro Zeitschritt / Fenster? Führen Sie eine Klassifizierungs- oder eine Regressionsaufgabe durch? Manchmal erfordert die Vorhersage des nächsten Werts eine Klassifizierung, aber ich gehe davon aus, dass Sie vorerst nach einer Regression suchen.

Versuchen Sie als Ausgangspunkt, jede dieser Sequenzen separat als Eingabe für ein wiederkehrendes neuronales Netzwerk zu speisen (beginnen Sie mit einem einfachen LSTM und reduzieren Sie es, wenn es übertrieben ist). Ich mag Ihren Vorschlag, Fenster zu überlappen.

Zum Beispiel (Pseudocode-ish):

series_1 = 1, 2, 3, ..., 100

series_2 = 5, 6, 7, ..., 200

input_1 = Input(series_1,       window_size)

input_2 = Input(series_2, window_size)

layer_1 = LSTM(input_1, input_2)

final_layer = fully_connected(layer_1)

Sie sollten auf jeden Fall eine LSTM-RNN- oder GRU-RNN- Implementierung überprüfen . Der zweite ist einfacher zu verstehen und weniger rechenintensiv.

Ein wertvolles Beispiel ist:

https://machinelearningmastery.com/multivariate-time-series-forecasting-lstms-keras/

Sie können die Korrelation explizit als nn-Eingabe bereitstellen, wie in der lokalen Korrelationsverfolgung in Zeitreihen berechnet , wobei der Code über Vlads Blog verfügbar ist .

Ich habe auch einen Artikel gelesen (leider kann ich mich nicht an den Titel oder die Namen der Autoren für eine Google-Suche erinnern), in dem eine Vorhersage der zukünftigen Korrelation ein explizites nn-Ziel als Teil eines multivariaten Ziels ist. Die Autoren behaupteten, die Einbeziehung der Korrelation als Ziel zu verbessern, verbesserte die Genauigkeit des nicht korrelierenden Teils des multivariaten Ziels.