Statistiken und Big Data neural-networks

2

Werden beim Deep Learning Zeilensuchmethoden eingesetzt? Warum nicht?

Viele Online-Tutorials befassen sich mit dem Gradientenabstieg und fast alle verwenden eine feste Schrittgröße (Lernrate ). Warum wird die Zeilensuche nicht verwendet (z. B. Backtracking-Zeilensuche oder exakte Zeilensuche)?αα\alpha

18 machine-learning neural-networks optimization deep-learning

3

Wie wirkt sich die Chargengröße auf die Konvergenz von SGD aus und warum?

Aus vielen Diskussionen habe ich ähnliche Schlussfolgerungen gezogen, dass die Konvergenz von SGD mit zunehmender Minibatch-Größe tatsächlich schwieriger / schlechter wird, zum Beispiel in diesem Artikel und in dieser Antwort . Ich habe auch von Leuten gehört, die im frühen Stadium Tricks wie kleine Lernraten oder Losgrößen einsetzten, um diese …

18 machine-learning neural-networks optimization gradient-descent sgd

2

Sollten Trainingsmuster, die zufällig für Mini-Batch-Trainingsnetze gezogen wurden, ersatzlos gezogen werden?

Wir definieren eine Epoche, in der alle verfügbaren Trainingsmuster durchlaufen wurden, und die Mini-Batch-Größe als die Anzahl der Muster, über die wir den Durchschnitt bilden, um die Aktualisierungen der Gewichte / Vorspannungen zu finden, die zum Abstieg des Gradienten erforderlich sind. Meine Frage ist, ob wir aus den Trainingsbeispielen ersatzlos …

18 machine-learning neural-networks optimization deep-learning

1

Optimale Konstruktion von Tagesmerkmalen in neuronalen Netzen

Während ich an einem Regressionsproblem arbeitete, begann ich über die Darstellung des Merkmals "Wochentag" nachzudenken. Ich frage mich, welcher Ansatz besser abschneiden würde: ein Merkmal; Wert 1/7 für Montag; 2/7 für Dienstag ... 7 Funktionen: (1, 0, 0, 0, 0, 0, 0) für Montag; (0, 1, 0, 0, 0, 0, …

18 machine-learning neural-networks feature-construction

3

Was ist der Unterschied zwischen Conv1D und Conv2D?

Ich wollte durch die keras Faltung docs , und ich habe zwei Arten von convultuion Conv1D und Conv2D gefunden. Ich habe eine Websuche durchgeführt und das ist, was ich über Conv1D und Conv2D verstehe. Conv1D wird für Sequenzen und Conv2D für Bilder verwendet. Ich dachte immer, dass Faltungsnetzwerke nur für …

18 machine-learning neural-networks conv-neural-network keras

1

Quiz: Teilen Sie dem Klassifikator die Entscheidungsgrenze mit

Gegeben sind die 6 Entscheidungsgrenzen unten. Entscheidungsgrenzen sind violette Linien. Punkte und Kreuze sind zwei verschiedene Datensätze. Wir müssen uns entscheiden, welches ein ist: Lineare SVM Kernelized SVM (Polynomkern der Ordnung 2) Perceptron Logistische Regression Neuronales Netzwerk (1 versteckte Schicht mit 10 gleichgerichteten Lineareinheiten) Neuronales Netzwerk (1 versteckte Schicht mit …

17 machine-learning self-study classification neural-networks svm

4

Wie erklärt man die Regularisierung von Schulabbrechern in einfachen Worten?

Wie würden Sie vorgehen, wenn Sie eine halbe Seite haben, um den Ausfall zu erklären ? Welches sind die Gründe für diese Technik?

17 neural-networks deep-learning regularization dropout

2

Was ist eine intuitive Erklärung für Echo State Networks?

Ich bin neu bei Recurrent Neural Networks (RNN) und lerne immer noch die Konzepte. Ich verstehe auf abstrakter Ebene, dass ein Echo State Network (ESN) eine Folge von Eingaben, dh ein Signal, (erneut) erzeugen kann , selbst nachdem die Eingabe entfernt wurde. Ich fand den Artikel in Scholarpedia jedoch zu …

17 neural-networks

1

Ist der R-Quadrat-Wert zum Vergleichen von Modellen geeignet?

Ich versuche, das beste Modell zu finden, um die Preise für Automobile vorherzusagen. Dabei verwende ich die Preise und Funktionen, die auf Websites für Kleinanzeigen für Automobile verfügbar sind. Dazu verwendete ich einige Modelle aus der Scikit-Learn-Bibliothek und neuronale Netzwerkmodelle aus Pybrain und Neurolab. Der Ansatz, den ich bisher verwendet …

17 machine-learning neural-networks random-forest r-squared elastic-net

4

Was bedeutet "Freiheitsgrad" in neuronalen Netzen?

In Bishops Buch "Pattern Classification and Machine Learning" beschreibt es eine Technik zur Regularisierung im Kontext neuronaler Netze. Ich verstehe jedoch keinen Absatz, der beschreibt, dass während des Trainings die Anzahl der Freiheitsgrade mit der Komplexität des Modells zunimmt. Das relevante Zitat ist das folgende: Eine Alternative zur Regularisierung zur …

17 machine-learning neural-networks regularization degrees-of-freedom

2

Verwendung des neuronalen Netzes für den Handel an der Börse

Ich bin in das Gebiet der neuronalen Netze eingetaucht und habe mich für sie begeistert. Ich habe endlich ein Anwendungsframework zum Testen von Handelssystemen an Börsen entwickelt und werde jetzt mein erstes neuronales Netzwerk darin implementieren. Sehr einfach und primitiv, nicht für den echten Handel gedacht, nur für den Anfang. …

17 machine-learning neural-networks

2

Unterschied zwischen Abtastwerten, Zeitschritten und Merkmalen im neuronalen Netz

Ich gehe den folgenden Blog im neuronalen LSTM-Netzwerk durch: http://machinelearningmastery.com/understanding-stateful-lstm-recurrent-neural-networks-python-keras/ Der Autor formt den Eingabevektor X als [Beispiele, Zeitschritte, Merkmale] für unterschiedliche Konfigurationen von LSTMs um. Der Autor schreibt In der Tat sind die Buchstabenfolgen Zeitschritte eines Merkmals und keine Zeitschritte einzelner Merkmale. Wir haben dem Netzwerk mehr Kontext gegeben, …

17 neural-networks lstm rnn tensorflow tensor

3

Warum brauchen wir Autoencoder?

Vor kurzem habe ich Autoencoder studiert. Wenn ich richtig verstanden habe, ist ein Autoencoder ein neuronales Netzwerk, bei dem die Eingangsschicht mit der Ausgangsschicht identisch ist. Das neuronale Netzwerk versucht also, die Ausgabe unter Verwendung der Eingabe als goldenen Standard vorherzusagen. Was ist der Nutzen dieses Modells? Was sind die …

17 neural-networks autoencoders

4

Über CNN, Kernel und Skalierungs- / Rotationsinvarianz

Ich habe ein paar Fragen, die mich bezüglich des CNN verwirren. 1) Die mit CNN extrahierten Merkmale sind skalierungs- und drehungsinvariant. 2) Die Kerne, die wir zur Faltung mit unseren Daten verwenden, sind bereits in der Literatur definiert? Was für ein Kernel sind das? ist es für jede Anwendung anders?

17 neural-networks deep-learning conv-neural-network

3

Lernen neuronale Netze eine Funktion oder eine Wahrscheinlichkeitsdichtefunktion?

Die Frage klingt vielleicht etwas seltsam, weil ich statistische Inferenz und neuronale Netze noch nicht kenne. Bei Klassifizierungsproblemen mit neuronalen Netzen wollen wir eine Funktion lernen , die den Raum der Eingänge auf den Raum der Ausgänge abbildet : x yf∗f∗f^*xxxyyy f∗(x;θ)=yf∗(x;θ)=yf^*(x; \theta) = y Passen wir die Parameter ( …

17 machine-learning neural-networks

Als «neural-networks» getaggte Fragen