Computerwissenschaften neural-networks

2

Warum scheinen neuronale Netze mit Einschränkungen ihrer Topologie eine bessere Leistung zu erbringen?

Backprop-Netzwerke, die vollständig miteinander verbunden sind (mindestens Schicht für Schicht mit mehr als 2 verborgenen Schichten), sind universelle Lerner. Leider lernen sie oft nur langsam und neigen zu Überanpassung oder zu unangenehmen Verallgemeinerungen. Beim Herumalbern mit diesen Netzwerken habe ich beobachtet, dass das Beschneiden einiger Kanten (so dass deren Gewicht …

29 machine-learning network-topology neural-networks

1

Was ist die Temperatur in LSTM (und in neuronalen Netzen im Allgemeinen)?

Einer der Hyperparameter für LSTM-Netzwerke ist die Temperatur. Was ist es?

25 machine-learning neural-networks

4

Was ist der Unterschied zwischen einem neuronalen Netzwerk, einem Deep Learning System und einem Deep Belief Network?

Was ist der Unterschied zwischen einem neuronalen Netzwerk, einem Deep Learning System und einem Deep Belief Network? Soweit ich mich recht erinnere, handelt es sich bei Ihrem neuronalen Grundnetz um eine Sache mit drei Schichten, und Deep Belief Systems wurde als übereinander gestapelte neuronale Netze beschrieben. Ich habe bis vor …

23 machine-learning neural-networks boltzmann-machine

1

Effizientes Berechnen oder Approximieren der VC-Dimension eines neuronalen Netzwerks

Mein Ziel ist es, das folgende Problem zu lösen, das ich durch seine Eingabe und Ausgabe beschrieben habe: Eingang: Ein gerichteter azyklischer Graph mit Knoten, Quellen und Senke ( ).GGGmmmnnn111m > n ≥ 1m>n≥1m > n \geq 1 Ausgabe: Die VC-Dimension (oder eine Annäherung davon) für das neuronale Netzwerk mit …

19 algorithms complexity-theory machine-learning neural-networks vc-dimension

2

Was sind die Kritikpunkte bezüglich der Leistung von HTM?

Ich habe erst kürzlich etwas über die Existenz dieses hierarchischen Zeitgedächtnisses (HTM) gelernt . Ich habe bereits das Dokument Hierarchical Temporal Memory: Concepts, Theory and Terminology (von Jeff Hawkins und Dileep George) gelesen , das ziemlich einfach zu verstehen scheint, aber eine rote Fahne ist, dass das Dokument weder einer …

16 neural-networks hierarchical-temporal-memory

2

Müssen neuronale Netze immer konvergieren?

Einführung Schritt eins Ich habe ein standardmäßiges neuronales Backpropegating-Netzwerk geschrieben und mich zum Testen für eine XOR-Zuordnung entschieden. Es ist ein 2-2-1-Netzwerk (mit Tanh-Aktivierungsfunktion) X1 M1 O1 X2 M2 B1 B2 Zu Testzwecken habe ich das obere mittlere Neuron (M1) manuell als UND-Gatter und das untere Neuron (M2) als ODER-Gatter …

16 machine-learning neural-networks

3

Was ist der Unterschied zwischen mehrschichtigem Perzeptron und mehrschichtigem neuronalen Netzwerk?

Wann sagen wir, dass ein künstliches neuronales Netzwerk ein mehrschichtiges Perceptron ist ? Und wann sagen wir, dass ein künstliches neuronales Netzwerk mehrschichtig ist ? Bezieht sich der Begriff Perzeptron auf die Lernregel zur Aktualisierung der Gewichte? Oder handelt es sich um Neuroneneinheiten?

13 neural-networks perceptron

2

Wie kodiere ich ein Datum als Eingabe in ein neuronales Netzwerk?

Ich benutze neuronale Netze, um eine Zeitreihe vorherzusagen. Die Frage, mit der ich jetzt konfrontiert bin, ist, wie ich Datum / Uhrzeit / Seriennummer codiere. jedes Eingangssatzes als Eingang für das neuronale Netzwerk? Soll ich 1 von C verwenden kodieren (verwendet für die Codierung von Kategorien) , wie hier ? …

12 machine-learning artificial-intelligence neural-networks

1

Google DeepDream ausgearbeitet

Ich habe auf dieser Site einige Fragen zu Deep Dream gesehen, aber keine von ihnen scheint tatsächlich darüber zu sprechen, was DeepDream speziell tut. Soweit ich festgestellt habe, scheinen sie die Zielfunktion und auch die Backpropagation geändert zu haben, sodass sie das Eingabebild aktualisieren, anstatt die Gewichte zu aktualisieren. Ich …

12 machine-learning artificial-intelligence neural-networks image-processing computer-vision

4

Entwicklung künstlicher neuronaler Netze zur Lösung von NP-Problemen

Ich habe kürzlich einen wirklich interessanten Blogeintrag aus dem Google Research Blog gelesen, in dem es um neuronale Netze geht. Grundsätzlich nutzen sie diese neuronalen Netze zur Lösung verschiedener Probleme wie der Bilderkennung. Sie verwenden genetische Algorithmen, um die Gewichte der Axone zu "entwickeln". Im Grunde ist meine Idee die …

10 machine-learning np neural-networks p-vs-np genetic-algorithms

1

Die Bedeutung des Rabattfaktors für das verstärkte Lernen

Nachdem ich die Erfolge von Google Deepmind in Ataris Spielen gelesen habe , versuche ich, das Q-Learning und die Q-Netzwerke zu verstehen, aber ich bin ein bisschen verwirrt. Die Verwirrung entsteht im Konzept des Abzinsungsfaktors. Kurze Zusammenfassung dessen, was ich verstehe. Ein tiefes Faltungs-Neuronales Netzwerk wird verwendet, um den Wert …

10 artificial-intelligence neural-networks reinforcement-learning

2

Bezieht sich die Rechenleistung neuronaler Netze auf die Aktivierungsfunktion?

Es ist erwiesen, dass neuronale Netze mit rationalen Gewichten die Rechenleistung der Universal Turing Machine besitzen Turing-Berechenbarkeit mit neuronalen Netzen besitzen . Nach allem, was ich bekomme, scheint die Verwendung von realwertigen Gewichten noch mehr Rechenleistung zu bringen, obwohl ich mir dessen nicht sicher bin. Gibt es jedoch eine Korrelation …

10 computability neural-networks

1

Wie viele Schichten sollte ein neuronales Netzwerk haben?

Gibt es irgendwelche Vorteile, wenn mehr als zwei verborgene Schichten in einem neuronalen Netzwerk vorhanden sind? Ich habe einige Orte gesehen, die es empfehlen, andere beweisen, dass es keinen Vorteil gibt. Welcher ist richtig?

10 artificial-intelligence neural-networks neural-computing

1

Wie funktioniert der Momentum-Term für den Backpropagation-Algorithmus?

Sollte bei der Aktualisierung der Gewichte eines neuronalen Netzwerks unter Verwendung des Backpropagation-Algorithmus mit einem Impulsausdruck die Lernrate auch auf den Impulsausdruck angewendet werden? Die meisten Informationen, die ich über die Verwendung von Momentum finden konnte, sehen ungefähr so aus: W.'ich= W.ich- α Δ W.ich+ μ Δ W.i - 1Wi′=Wi−αΔWi+μΔWi−1W_{i}' …

9 machine-learning neural-networks

3

Wann sollte ich über k nächsten Nachbarn hinausgehen?

Für viele maschinelle Lernprojekte, die wir durchführen, beginnen wir mit dem Klassifikator k Nearest Neighbor. Dies ist ein idealer Startklassifikator, da wir normalerweise genügend Zeit haben, um alle Entfernungen zu berechnen, und die Anzahl der Parameter begrenzt ist (k, Entfernungsmetrik und Gewichtung). Dies hat jedoch häufig den Effekt, dass wir …

9 neural-networks classification

Als «neural-networks» getaggte Fragen