Wie unterscheidet sich ein tiefes neuronales Netzwerk von anderen neuronalen Netzwerken?

Wie unterscheidet sich ein neuronales Netzwerk mit dem Adjektiv "tief" von anderen ähnlichen Netzwerken?

— Kenorb
quelle

Der Unterschied liegt hauptsächlich in der Anzahl der Schichten.

Lange Zeit glaubte man, dass "1-2 versteckte Schichten für die meisten Aufgaben ausreichen", und es war unpraktisch, mehr als das zu verwenden, da das Trainieren neuronaler Netze sehr rechenintensiv sein kann.

Heutzutage sind Computer in der Lage, viel mehr zu leisten. Daher haben die Menschen angefangen, Netzwerke mit mehr Schichten zu verwenden, und festgestellt, dass sie für einige Aufgaben sehr gut funktionieren.

Das Wort "tief" dient lediglich der Unterscheidung dieser Netzwerke von den traditionellen "flacheren" Netzwerken.

— Entzauberter Lurker
quelle

Wenn ich "tiefes Lernen" richtig verstanden habe, gibt es einige Parameter (Gewichte), die miteinander verknüpft sind, wodurch sich der Parameterraum verringert. Normale NNs können das nicht.

— Raphael

@ Raphael, re: some parameters (weights) that are tied together, thus reducing the parameter spacemeinst du Faltungsneurale Netze?

— Publicgk

@publicgk Das habe ich gesehen, ja.

— Raphael

Ich habe immer gehört, "Deep Learning" ist, wenn Sie sehr große Datensätze verwenden. Ist dies ein Fehler und die Größe der Daten spielt keine Rolle - oder wird mit vertieftem Lernen ein Zusammenhang mit riesigen Datenmengen hergestellt, da dies für das Training erforderlich ist.

— Steven Sagona

Ich möchte darauf hinweisen, dass dieser "Glaube", dass ein neuronales Netzwerk mit nur einer verborgenen Schicht jede Funktion berechnen kann, tatsächlich bewiesen ist (siehe z . B. neuralnetworksanddeeplearning.com/chap4.html ). Ich denke, Sie hätten ein bisschen mehr erklären sollen, warum mehr als eine versteckte Ebene dann "praktisch" ist.

— Nr.

Ein tiefes neuronales Netzwerk ist nur ein (Feed-Forward-) neuronales Netzwerk mit vielen Schichten.

Deep-Believe-Netzwerke, Deep-Boltzman-Netzwerke usw. werden jedoch nicht als (umstrittene) Deep-Neural-Netzwerke angesehen, da ihre Topologie unterschiedlich ist (sie haben ungerichtete Netzwerke in ihrer Topologie).

Siehe auch: /stats//a/59854/84191 .

— Dawny33
quelle