Data Science neural-network

3

Ich möchte abschätzen können, ob ein vorgeschlagenes Modell klein genug ist, um auf einer GPU mit einer bestimmten Speichermenge trainiert zu werden Wenn ich eine einfache CNN-Architektur wie diese habe: Input: 50 x 50 x 3 C1: 32 3x3-Kernel mit Polsterung (ich denke in Wirklichkeit sind sie tatsächlich 3x3x3 angesichts …

9 machine-learning neural-network convnet parameter-estimation gpu

1

Verstärkungslernen mit neuronalen Netzen verstehen (Q-Learning)

Ich versuche, Verstärkungslernen und Markov-Entscheidungsprozesse (MDP) zu verstehen, wenn ein neuronales Netz als Funktionsnäherungswert verwendet wird. Ich habe Schwierigkeiten mit der Beziehung zwischen dem MDP, in dem die Umgebung auf probabilistische Weise untersucht wird, wie dies auf Lernparameter zurückgeführt wird und wie die endgültige Lösung / Richtlinien gefunden werden. Kann …

9 machine-learning neural-network q-learning

1

Grundlegendes zu Ausfall und Gefälle

Ich schaue mir an, wie man Dropout in einem tiefen neuronalen Netzwerk implementiert, und fand etwas, das nicht intuitiv ist. In der Vorwärtsphase fallen Dropout-Maskenaktivierungen mit einem zufälligen Tensor von 1s und 0s an, um das Netz zu zwingen, den Durchschnitt der Gewichte zu lernen. Dies hilft dem Netz, besser …

9 neural-network deep-learning gradient-descent

3

Fragen zu LSTM-Zellen, -Einheiten und -Eingaben

Ich versuche zu lernen, wie LSTMNetzwerke funktionieren, und selbst wenn ich die Grundlagen verstehe, sind mir die Details der internen Struktur nicht klar. Auf diesem Blog- Link habe ich dieses Schema einer LSTMArchitektur gefunden Wo anscheinend jeder Kreis einer einzelnen LSTMEinheit wie dieser entsprechen sollte Ist das richtig? Ist jede …

9 machine-learning neural-network deep-learning lstm

1

Batch-Normalisierung verstehen

In dem Artikel Batch-Normalisierung: Beschleunigen des tiefen Netzwerktrainings durch Reduzieren der internen Kovariatenverschiebung ( hier ) Bevor der Prozess der Batch-Normalisierung erläutert wird, wird versucht, die damit verbundenen Probleme zu erklären (ich verstehe nicht, was genau hier angesprochen wird) . Auszug aus Abschnitt 2, Abs. 2: Wir könnten in Betracht …

8 neural-network deep-learning batch-normalization

1

Kostenfunktion für die ordinale Regression unter Verwendung neuronaler Netze

Was ist die beste Kostenfunktion, um ein neuronales Netzwerk für die Durchführung einer ordinalen Regression zu trainieren , dh um ein Ergebnis vorherzusagen, dessen Wert auf einer beliebigen Skala existiert, bei der nur die relative Reihenfolge zwischen verschiedenen Werten von Bedeutung ist (z. B. um vorherzusagen, welche Produktgröße ein Kunde …

8 neural-network cost-function

1

R, Keras: Wie bekomme ich die Ausgabe einer versteckten Ebene?

Ich verwende ein Paket Kerasin R, um ein neuronales Netzwerk zu erstellen . Wie kann ich die Ausgabe aus einer verborgenen Ebene extrahieren? Ich habe ein Beispiel in Python gefunden, aber ich habe nur keine Ahnung, wie ich das in R machen soll.

8 neural-network r keras

2

Warum zerstört eine Überanpassung nicht die neuronalen Netze für die MNIST-Klassifizierung?

Ich habe ein einfaches neuronales Netzwerk (NN) für die MNIST-Klassifizierung. Es enthält 2 versteckte Schichten mit jeweils 500 Neuronen. Daher sind die Abmessungen des NN: 784-500-500-10. ReLU wird in allen Neuronen verwendet, Softmax wird am Ausgang verwendet und Kreuzentropie ist die Verlustfunktion. Was mich verwundert ist, warum Überanpassung den NN …

8 machine-learning neural-network classification overfitting

1

Maschinelles Lernen: Gedichte schreiben

Ich bin ein Student des maschinellen Lernens und in diesen Tagen habe ich versucht zu lernen, wie man die TensorFlow-Bibliothek benutzt. Ich habe verschiedene Tutorials und Versuche mit Tensorflow durchlaufen und dachte, der beste Weg, dies wirklich zu lernen, wäre, es in einem kleinen eigenen Projekt zu verwenden. Ich habe …

8 machine-learning neural-network tensorflow

1

Fragen beim Übergang vom Vanilla Neural Network zum Recurrent Neural Network

Ich habe kürzlich erfahren, wie ein neuronales Vanille-Netzwerk mit einer bestimmten Anzahl von Eingaben, versteckten Knoten und der gleichen Anzahl von Ausgaben wie Eingaben funktionieren würde. Ich habe mir verschiedene Beiträge angesehen, die sich jetzt auf wiederkehrende neuronale Netze beziehen, und ich verstehe das Konzept dahinter, aber ich verstehe bestimmte …

8 machine-learning python neural-network rnn

1

Warum ist "Tiefe = semantische Repräsentation" in neuronalen Faltungsnetzen?

Ich habe mir online einige Videos über Faltungsnetzwerke angesehen, und der Redner diskutierte das Konzept, einen Filter über ein Bild zu führen. Er sagte, und es wird auch im Bild unten gezeigt, dass "Tiefe = semantische Darstellung". Das hört sich gut an, aber ich bin mir nicht sicher, was genau …

8 neural-network dimensionality-reduction convnet

2

Was ist eine LSTM-LM-Formulierung?

Ich lese diesen Artikel "Sequence to Sequence Learning mit neuronalen Netzen" http://papers.nips.cc/paper/5346-sequence-to-sequence-learning-with-neural-networks.pdf Unter "2. Das Modell" steht: Das LSTM berechnet diese bedingte Wahrscheinlichkeit, indem es zuerst die feste dimensionale Darstellung v der Eingabesequenz (x1, ..., xT) erhält, die durch den letzten verborgenen Zustand des LSTM gegeben ist, und dann die …

8 machine-learning neural-network nlp rnn machine-translation

1

Unterschied: Neuronales Replikator-Netzwerk vs. Autoencoder

Ich studiere derzeit Artikel über die Erkennung von Ausreißern mithilfe von RNNs (Replicator Neural Networks) und frage mich, was der besondere Unterschied zu Autoencodern ist. RNNs scheinen für viele als der heilige Gral der Erkennung von Ausreißern / Anomalien zu gelten, aber die Idee scheint ziemlich alt zu sein, da …

8 neural-network anomaly-detection autoencoder outlier

1

Verwenden neuronaler Netze zum Extrahieren mehrerer Parameter aus Bildern

Ich möchte mithilfe eines neuronalen Netzwerks Parameter aus einem Bild extrahieren. Beispiel: Bei einem Bild einer Mauer sollte der NN die Breite und Höhe der Steine, die Farbe und die Rauheit extrahieren. Ich kann Bilder für bestimmte Parameter generieren, um das NN zu trainieren, und möchte damit die Parameter aus …

8 neural-network deep-learning computer-vision

1

Gibt es eine Domäne, in der Spiking Neural Networks andere Algorithmen übertreffen (Non-Spiking)?

Ich lese über Reservoir-Computing- Techniken wie Echo State Networks und Liquid State Machines . Beide Verfahren umfassen das Zuführen von Eingaben zu einer Population zufällig (oder nicht) verbundener Spike-Neuronen und einen relativ einfachen Auslesealgorithmus, der die Ausgabe erzeugt (z. B. lineare Regression). Die Neuronenpopulationsgewichte werden entweder festgelegt oder über eine …

8 machine-learning classification neural-network deep-learning svm

Als «neural-network» getaggte Fragen