Programmierung backpropagation

20

Welche Rolle spielt die Verzerrung in neuronalen Netzen?

Mir ist der Gradientenabstieg und der Back-Propagation-Algorithmus bekannt. Was ich nicht verstehe ist: Wann ist die Verwendung eines Bias wichtig und wie verwenden Sie ihn? ANDWenn ich zum Beispiel die Funktion abbilde, wenn ich 2 Eingänge und 1 Ausgang verwende, gibt es nicht die richtigen Gewichte. Wenn ich jedoch 3 …

806 machine-learning neural-network artificial-intelligence backpropagation

1

Im Trainings-Neuronalen Netzwerk treten extrem kleine oder NaN-Werte auf

Ich versuche, eine neuronale Netzwerkarchitektur in Haskell zu implementieren und auf MNIST zu verwenden. Ich benutze das hmatrixPaket für die lineare Algebra. Mein Trainingsrahmen wird mit dem pipesPaket erstellt. Mein Code wird kompiliert und stürzt nicht ab. Das Problem ist jedoch, dass bestimmte Kombinationen von Schichtgröße (z. B. 1000), Minibatch-Größe …

328 algorithm haskell neural-network backpropagation

1

ND Convolution Backprogation

Für meine Ausbildung versuche ich, eine N-dimensionale Faltungsschicht in einem Faltungsnetzwerk zu implementieren. Ich möchte eine Backpropagation-Funktion implementieren. Ich bin mir jedoch nicht sicher, wie ich dies am effizientesten tun kann. Zur Zeit benutze ich signal.fftconvolve: Falten Sie im Vorwärtsschritt den Filter und den Kernel vorwärts über alle Filter. Falten …

8 python conv-neural-network convolution backpropagation

Als «backpropagation» getaggte Fragen