Die heißen Themen von heute könnten die kalte, feuchte Asche von morgen sein. Beispielsweise hat die Konvergenzgeschwindigkeit von CNN- und LSTM-Ansätzen, insbesondere in Kombination, erhebliche Aufmerksamkeit von grundlegenden RNN-Designs abgelenkt.
Ebenso könnten die kalten Themen von heute die brennende Glut von morgen sein. Natürlich bleiben einige der kalten Themen kalt. Der Sweet Spot könnte darin bestehen, diejenigen zu identifizieren, die wärmer werden und wahrscheinlich nachhaltige Bausteine für die zukünftige Technologie darstellen.
Restaufmerksamkeitsnetzwerke
Restaufmerksamkeitsnetzwerke wie LSTM-Netzwerke sind eine Verbesserung gegenüber RNNs, die einen anderen Ansatz verwenden. Da Aufmerksamkeitsnetzwerke darauf ausgelegt sind, Ressourcen zu schonen, konvergieren sie entweder schneller oder erfordern weniger Hardware und Netzwerk, um die parallele Ausführung zu unterstützen.
- Residual Attention Network für die Bildklassifizierung , Fei Wang et al., 2017
- Schauen Sie genauer hin, um besser zu sehen: Wiederkehrende Aufmerksamkeit Faltungsneurales Netzwerk für feinkörnige Bilderkennung , Jianlong Fu et al., 2017
- VideoWhisper: Auf dem Weg zu diskriminierendem, unbeaufsichtigtem Lernen von Videofunktionen mit aufmerksamkeitsbasierten wiederkehrenden neuronalen Netzen , Na Zhao, 2017
- Hierarchisches Netzwerk für wiederkehrende Aufmerksamkeit für die Generierung von Antworten Chen Xing , Wei Wu et al., 2017
Automatisierte Entwicklung nicht kartesischer Modelle
Die Erforschung der Automatisierung der Modellierung ist der Schlüssel für viele KI-Anwendungen. Einige der in der Entwicklung befindlichen Algorithmen extrahieren nicht einfach Tensoren von Merkmalen (Arrays, Matrizen, Würfel und Hyperwürfel), sondern entwickeln gerichtete oder assoziative Graphmodelle mit oder ohne zulässigen Zyklen.
- Hierarchisches selbstorganisierendes
Kartensystem zur Klassifizierung von Aktionen Z Gharaee, P. Gärdenfors, M. Johnsson, ICAART, 2017
- Laufzeitmodellierung für benutzerzentrierte intelligente Cyber-Physical-Human-Anwendungen , Lorena Castañeda Bueno, 2017
- Untersuchung der topologischen Eigenschaften komplexer Netzwerke zur Modellierung kurzer schriftlicher Texte , Diego R. Amancio, 2015
- Schema-Zusammenfassung in der Auswahl verknüpfter Daten für Empfehlungssysteme , Azzurra Ragone et. al., 2017
Signaltopologien, die Gleichgewichte unterstützen
Viele ignorieren die Bedeutung von GANs, nicht weil sie interessante Dinge mit Bildern tun können, sondern weil sie von der einfachen Topologie des Signalpfads abweichen, bei der die Konvergenz eines trainierten Parametersatzes über eine eindimensionale Anordnung von Schichten und Blöcken von erreicht wird Schichten.
Die diskriminierenden und generativen Komponenten im GAN-Design werden in einer anderen AI Stack Exchange-Frage zu * Grundlegendes zur GAN-Verlustfunktion ausführlich beschrieben . Obwohl die Erzeugung von Bildern aus dem GAN-Ansatz und seinen konzeptionellen Kindern eine neue Fähigkeit im künstlichen Netzwerkraum zeigt, ist die Breite dieser Bedeutung für mehrere Netzwerke möglicherweise nicht sofort offensichtlich. Es ist kein Stapel in der Tiefe von Schichten, sondern ein Stapel von zwei tiefen Netzwerken in einer Topologie von acht, konzeptionell ähnlich einem Möbius-Streifen.
Diese Topologie schafft ein Gleichgewicht zwischen zwei Netzwerken, dem generativen (G) und dem diskriminativen (D). Sein Designer nannte es eine kontroverse Beziehung, weil G und D gegensätzliche Rollen spielen. Ihre Aktion im System ist jedoch tatsächlich kollaborativ und schafft ein Gleichgewicht, das einem chemischen Gleichgewicht oder einer Symbiose in der Biologie sehr ähnlich ist, so dass ein bestimmtes Ziel erreicht wird. Dies könnte die vielversprechendste Richtung in der heutigen KI aufzeigen.
Das Entwerfen von Signaltopologien, die zusätzliche Formen der Zusammenarbeit und Symbiose zwischen Netzwerken unterstützen, wobei jedes Netzwerk eine Komponente ist, die ihre Rolle in Verbindung mit anderen Komponentennetzwerken lernt, sodass das Aggregatsystem seine Funktion lernt und Formen künstlicher Intelligenz synthetisieren kann, die DNNs nicht können.
Regelbasierte Systeme und tiefe Netzwerke sind hinsichtlich des Signalflusses eindimensional. An sich können sich die bemerkenswertesten Merkmale des menschlichen Gehirns niemals annähern.
Parallele Verarbeitung mit GPUs als DSPs
VLSI-Implementierungen von Spiking-Netzwerken sind wichtig, und es gibt jetzt Implementierungen wie https://github.com/Hananel-Hazan/bindsnet , die die GPU-Hardwarebeschleunigung nutzen, um sie zu untersuchen, ohne auf die von großen Unternehmen entwickelten VLSI-Chips zuzugreifen.
Spracherkennung und -synthese für End-to-End-TTS
Das jüngste Aufkommen herausragender Synthesetechnologien mit Systemen wie Googles WaveNet hat die Tür zu genaueren TTS-Anwendungen (Text-to-Sound) geöffnet, so dass es wahrscheinlich ein guter Zeitpunkt ist, Experte für Sprachaufzeichnung für die Verwendung in Trainingsbeispielsätzen zu werden Eine schlechte Zeit, um ein individuelles Sprachproduktionshaus mit Live-Lautsprechern zu eröffnen.
Automatisierte Fahrzeuge
Automatisierte Fahrzeuge verschiedener Typen benötigen Experten für Fahrzeugphysik, Automobilbau, Luftfahrt und Konsumgüter für eine breite Palette von Fahrzeugtypen mit starken wirtschaftlichen und sicherheitstechnischen Anreizen für die Halbautomatisierung und Vollautomatisierung.
- Marslander
- Verbraucherdrohnen
- Industriedrohnen
- Militärische Drohnen
- Passagierflugzeug
- Personenkraftwagen
- Limousinen
- Züge
- Rollstühle
- Lieferfahrzeuge
- Automatisierte Lebensmittelverteilung
- Reparaturroboter für Kernkraftwerke
- Reparaturroboter für die elektrische Verteilung
Zusammenfassung
Es mag schwierig sein, im Voraus herauszufinden, welche der heißen Technologien in der KI in fünf Jahren dominieren werden oder welche der Erwärmungstechnologien dann glühend heiß sein werden, aber die oben genannten sind solide Technologien, die ein bedeutendes frühes Versprechen zeigen und für die es ein hohes Geschäft gibt. Industrie- und Verbraucheranforderungen.