Statistiken und Big Data sigmoid-curve

4

Warum ist Tanh als Aktivierungsfunktion fast immer besser als Sigmoid?

In Andrew Ngs Kurs über Neuronale Netze und tiefes Lernen über Coursera sagt er, dass die Verwendung von fast immer der Verwendung von vorzuziehen ist .tanhtanhtanhsigmoidsigmoidsigmoid Der Grund, den er angibt, ist, dass die Ausgaben mit center um 0 statt mit 's 0,5 erfolgen, und dies "erleichtert das Lernen für …

33 machine-learning neural-networks backpropagation sigmoid-curve

3

Relu vs Sigmoid vs Softmax als versteckte Schicht Neuronen

Ich habe mit einem einfachen neuronalen Netzwerk mit nur einer ausgeblendeten Ebene von Tensorflow gespielt und dann verschiedene Aktivierungen für die ausgeblendete Ebene ausprobiert: Relu Sigmoid Softmax (na ja, normalerweise wird Softmax in der letzten Schicht verwendet.) Relu bietet die beste Zuggenauigkeit und Validierungsgenauigkeit. Ich bin mir nicht sicher, wie …

22 machine-learning neural-networks conv-neural-network tensorflow sigmoid-curve

3

Logistische Funktion mit Steigung, aber ohne Asymptoten?

Die logistische Funktion hat einen Ausgabebereich von 0 bis 1 und die asymptotische Steigung ist auf beiden Seiten Null. Was ist eine Alternative zu einer Logistikfunktion, die an ihren Enden nicht vollständig abgeflacht ist? Wessen asymptotische Steigungen nähern sich Null, aber nicht Null, und die Reichweite ist unendlich?

8 sigmoid-curve

Als «sigmoid-curve» getaggte Fragen