Als «neural-network» getaggte Fragen

Ich habe dieses Beispiel eines LSTM-Sprachmodells auf Github (Link) durchgearbeitet . Was es im Allgemeinen macht, ist mir ziemlich klar. Aber ich habe immer noch Schwierigkeiten zu verstehen, was das Aufrufen contiguous()bewirkt, was im Code mehrmals vorkommt. Beispielsweise werden in Zeile 74/75 der Codeeingabe und Zielsequenzen des LSTM erstellt. Daten …

90 neural-network  deep-learning  lstm  pytorch  contiguous 

Ich habe festgestellt, dass ein häufiges Auftreten während des Trainings NANeingeführt wird. Oft scheint es durch Gewichte in inneren Produkt- / vollständig verbundenen oder Faltungsschichten, die explodieren, eingeführt zu werden. Tritt dies auf, weil die Gradientenberechnung explodiert? Oder liegt es an der Gewichtsinitialisierung (wenn ja, warum hat die Gewichtsinitialisierung diesen …

85 machine-learning  neural-network  deep-learning  caffe  gradient-descent 

Klassifizierungsprobleme wie die logistische Regression oder die multinomiale logistische Regression optimieren einen entropieübergreifenden Verlust. Normalerweise folgt die Kreuzentropieschicht der Softmax- Schicht, die eine Wahrscheinlichkeitsverteilung erzeugt. Im Tensorflow gibt es mindestens ein Dutzend verschiedener Kreuzentropieverlustfunktionen : tf.losses.softmax_cross_entropy tf.losses.sparse_softmax_cross_entropy tf.losses.sigmoid_cross_entropy tf.contrib.losses.softmax_cross_entropy tf.contrib.losses.sigmoid_cross_entropy tf.nn.softmax_cross_entropy_with_logits tf.nn.sigmoid_cross_entropy_with_logits ... Welches funktioniert nur für die binäre Klassifizierung …

83 python  tensorflow  neural-network  logistic-regression  cross-entropy 

Derzeit verwende ich den folgenden Code: callbacks = [ EarlyStopping(monitor='val_loss', patience=2, verbose=0), ModelCheckpoint(kfold_weights_path, monitor='val_loss', save_best_only=True, verbose=0), ] model.fit(X_train.astype('float32'), Y_train, batch_size=batch_size, nb_epoch=nb_epoch, shuffle=True, verbose=1, validation_data=(X_valid, Y_valid), callbacks=callbacks) Es fordert Keras auf, das Training abzubrechen, wenn sich der Verlust in zwei Epochen nicht verbessert hat. Aber ich möchte das Training beenden, nachdem …

82 python  machine-learning  neural-network  conv-neural-network  keras 

Ich versuche zu verstehen, was der TimeDistributed-Wrapper in Keras macht. Ich verstehe, dass TimeDistributed "eine Ebene auf jede zeitliche Schicht einer Eingabe anwendet". Aber ich habe einige Experimente durchgeführt und die Ergebnisse erhalten, die ich nicht verstehen kann. Kurz gesagt, in Verbindung mit der LSTM-Schicht erzielen TimeDistributed und Just Dense …

82 python  machine-learning  keras  neural-network  deep-learning 

Ich versuche, einer Tensorflow-Variablen in Python einen neuen Wert zuzuweisen. import tensorflow as tf import numpy as np x = tf.Variable(0) init = tf.initialize_all_variables() sess = tf.InteractiveSession() sess.run(init) print(x.eval()) x.assign(1) print(x.eval()) Aber die Ausgabe, die ich bekomme, ist 0 0 Der Wert hat sich also nicht geändert. Was vermisse ich?

78 python  tensorflow  neural-network  deep-learning  variable-assignment 

Geschlossen. Diese Frage entspricht nicht den Richtlinien für Stapelüberlauf . Derzeit werden keine Antworten akzeptiert. Möchten Sie diese Frage verbessern? Aktualisieren Sie die Frage so dass es beim Thema für Stack - Überlauf. Geschlossen vor 2 Jahren . Verbessere diese Frage Ich suche nach einer Methode zur Berechnung der Anzahl …

76 machine-learning  neural-network  deep-learning  artificial-intelligence 

Könnte mir bitte jemand erklären, wie man die Verzerrung während der Backpropagation aktualisiert? Ich habe einige Bücher gelesen, kann aber keine Bias-Aktualisierung finden! Ich verstehe, dass Bias eine zusätzliche Eingabe von 1 ist, an die ein Gewicht gebunden ist (für jedes Neuron). Es muss eine Formel geben.

74 math  machine-learning  artificial-intelligence  neural-network 

Ich trainiere ein Netzwerk für die Bildlokalisierung mit dem Adam-Optimierer, und jemand schlägt mir vor, den exponentiellen Zerfall zu verwenden. Ich möchte das nicht versuchen, weil der Adam-Optimierer selbst die Lernrate verringert. Aber dieser Typ besteht darauf und er sagte, dass er das schon einmal getan hat. Soll ich das …

74 neural-network  tensorflow 

Das Kopfgeld läuft in 4 Stunden ab . Antworten auf diese Frage erhalten eine Prämie von +150 . Sirjay sucht nach einer Antwort von einer seriösen Quelle . Ich habe ein neuronales LSTM (RNN) -Netzwerk mit überwachtem Lernen zur Vorhersage des Datenbestands erstellt. Das Problem ist, warum es auf seinen …

15 python  tensorflow  machine-learning  keras  neural-network 

Ich habe ein generatives gegnerisches Netzwerk, in dem der Diskriminator mit der MSE minimiert wird und der Generator maximiert werden sollte. Weil beide Gegner sind, die das entgegengesetzte Ziel verfolgen. generator = Sequential() generator.add(Dense(units=50, activation='sigmoid', input_shape=(15,))) generator.add(Dense(units=1, activation='sigmoid')) generator.compile(loss='mse', optimizer='adam') generator.train_on_batch(x_data, y_data) Was muss ich anpassen, um ein Generatormodell zu …

11 python  tensorflow  keras  neural-network  maximize 

Ich versuche, die Parameter eines neuronalen Netzmodells zu aktualisieren / zu ändern und dann den Vorwärtsdurchlauf des aktualisierten neuronalen Netzes im Berechnungsdiagramm zu haben (unabhängig davon, wie viele Änderungen / Aktualisierungen wir vornehmen). Ich habe diese Idee ausprobiert, aber wann immer ich es tue, setzt pytorch meine aktualisierten Tensoren (innerhalb …

10 python  machine-learning  neural-network  pytorch 

Problemzusammenfassung und Frage Ich versuche, einige der Daten in einem Objekt zu betrachten, die aufgelistet, aber nicht indiziert werden können. Ich bin noch neu in Python, aber ich verstehe nicht, wie das möglich ist. Wenn Sie es aufzählen können, warum können Sie dann nicht auf die gleiche Weise wie beim …

10 python  tensorflow  neural-network  kaggle 

Ich habe einen Fehler bezüglich (Keras, das TensorFlow 2.0 nicht unterstützt. Wir empfehlen die Verwendung tf.kerasoder alternativ ein Downgrade auf TensorFlow 1.14.) Empfehlungen. Vielen Dank import keras #For building the Neural Network layer by layer from keras.models import Sequential #To randomly initialize the weights to small numbers close to 0(But …

9 python  tensorflow  keras  neural-network  tf.keras 

Ich lerne, Gekkos Gehirnmodul für Deep-Learning-Anwendungen zu verwenden. Ich habe ein neuronales Netzwerk eingerichtet, um die Funktion numpy.cos () zu lernen und dann ähnliche Ergebnisse zu erzielen. Ich bekomme eine gute Passform, wenn die Grenzen meines Trainings sind: x = np.linspace(0,2*np.pi,100) Aber das Modell fällt auseinander, wenn ich versuche, die …

9 neural-network  deep-learning  gekko