Was sind die Kritikpunkte bezüglich der Leistung von HTM?

Ich habe erst kürzlich etwas über die Existenz dieses hierarchischen Zeitgedächtnisses (HTM) gelernt . Ich habe bereits das Dokument Hierarchical Temporal Memory: Concepts, Theory and Terminology (von Jeff Hawkins und Dileep George) gelesen , das ziemlich einfach zu verstehen scheint, aber eine rote Fahne ist, dass das Dokument weder einer Begutachtung unterzogen wird noch zu erklären versucht, warum arbeiten Sie im Detail.

Ich habe versucht, mich nach unabhängigen Quellen umzusehen. Ich habe ein paar Artikel gefunden, in denen die Leistung mit der anderer verglichen wird, aber keiner erklärt, warum die Leistung gut ist (oder nicht). Ich bemerkte einige Kommentare, in denen behauptet wurde, dass sie von Mainstream-Experten abgelehnt wurden, konnte aber keine wirklichen Kritikpunkte finden.

Was sind die Kritikpunkte bezüglich der Leistung von HTM? Da HTM generisch sein soll, sollte jede domänenspezifische Kritik mit einem grundlegenderen Problem in Verbindung gebracht werden.

Darüber hinaus stehen eine Vielzahl von Trainingsdaten zur Verfügung, die auch für mehrmonatige Trainingseinheiten ausreichen. Grundsätzlich sind Kritikpunkte zu Umfang oder Dauer der Ausbildung nicht relevant.

Die Kritik an Jeff Hawkins wird in dem folgenden Aufsatz aus http://www.theregister.co.uk/2014/03/29/hawkins_ai_feature/ gut zusammengefasst.

Ich selbst glaube, dass die HTM-Theorie ein enormes Potenzial hat und eine Grundlage für echte Maschinenintelligenz sein wird. IBM hat kürzlich angekündigt, die HTM-Theorie zu unterstützen, und das Cortical Learning Center mit rund hundert Mitgliedern ins Leben gerufen.

http://www.technologyreview.com/news/536326/ibm-tests-mobile-computing-pioneers-controversial-brain-algorithms/

Dillep George, Mitbegründer von Numenta, hat das Startup Vicarious ins Leben gerufen, was sehr viel Geld einbrachte, was auf ein Potenzial der HTM-Theorie schließen lässt.

Quelle: Kritik an Jeff Hawkins , The Register

Seine medienaffine, selbstbewusste Herangehensweise scheint bei anderen Wissenschaftlern ein schlechtes Gefühl hervorgerufen zu haben, die zu Recht darauf hinweisen, dass Hawkins nicht viel publiziert hat und auch nicht viele Ideen für sich selbst erfunden hat.

Numenta hatte auch Probleme, teilweise aufgrund von Hawkins 'eigenwilliger Sicht auf die Funktionsweise des Gehirns.

Zum Beispiel verließ Numenta-Mitbegründer Dileep George 2010 das Unternehmen, um seine eigene Firma Vicarious zu gründen und einige der niedrig hängenden Früchte auf dem vielversprechenden Gebiet der KI zu pflücken. Soweit wir wissen, ergab sich diese einvernehmliche Trennung aus einer Meinungsverschiedenheit zwischen George und Hawkins, da George zu einem mathematischeren und Hawkins zu einem biologischeren Ansatz tendierte.

Hawkins ist auch wegen einer kleinen Trübsal der Intelligenz reingekommen, als der Psychologieprofessor der NYU, Gary Marcus, Numentas Ansatz in einem New Yorker Artikel mit der Überschrift Steamrolled by Big Data ablehnte.

Andere Wissenschaftler, die El Reg für diesen Artikel interviewt hatte, wollten nicht zitiert werden, da sie der Ansicht waren, dass Hawkins Mangel an begutachteten Papieren in Verbindung mit seiner unternehmerischen Persönlichkeit die Glaubwürdigkeit seines gesamten Ansatzes beeinträchtigte.

Hawkins wendet sich gegen diese Kritik und glaubt, dass sie auf eine Meinungsverschiedenheit zwischen ihm und der KI-Intelligenz zurückzuführen ist.

"Dies sind komplexe biologische Systeme, die nicht nach mathematischen Prinzipien entworfen wurden, [die] nur sehr schwer vollständig zu formalisieren sind", sagte er.

Ich habe HTM für eine Weile studiert. Es ist irgendwie cool. Das Standardverhalten eines HTM ist die Analyse von Zeitdaten. Andererseits benötigen Sie heutzutage ein "ausgefallenes" neuronales Netzwerk (z. B. ein wiederkehrendes neuronales Netzwerk), um ein Sequenz-zu-Sequenz-Problem (z. B. einen Chatbot) zu modellieren. Aber HTM kann natürlich auf diese Art von Problemen angewendet werden!

Ich plane eine Art interaktives Fernsehen damit zu machen, mit Steuerdaten, die mit den visuellen Daten gesendet werden, und dann die visuellen Daten auf die Steuerdaten zu beschränken (das ist möglich, aber erwarte nicht, dass es plötzlich von einem neuen Video träumt, das passiert nicht). Aber ich muss sagen, das Coolste daran ist, dass das Video, mit dem Sie es unterrichten, bei der Wiedergabe nicht herauskommt, sondern die typischste Version davon zeigt, nämlich die Art des Verstehens und des tatsächlichen Realisierens cool. Das ist ein bisschen wie der Traum, den man daraus macht.

Wenn Sie HTM mit Text verwenden,

1. es speichert buchstaben,
2. dann produziert es Silben.
3. dann nimmt es diese Silben und erzeugt Gemeinsamkeit daraus,
4. dann bildet es Wörter aus den gemeinsamen Silben,
5. dann nimmt es diese Worte und bestimmt, was sie gemeinsam haben,
6. dann bildet es möglicherweise größere Wörter,
7. dann bildet es Gruppen von Wörtern,
8. dann bildet es Gruppen von Sätzen

Jedes Mal, wenn es eine Ebene höher geht, "vergisst" es etwas mehr, nur um die Gruppen vielleicht fester zusammenzuhalten. Diese tiefer verwurzelten Gruppen werden ein wenig anders abgespielt als die darin abgespielte Schallplatte. Und diese Wiedergabe wurde nicht von vielen Leuten gesehen.

Ich frage mich, ob es überhaupt eigene Sätze gibt.

Dadurch wächst der Satz etwas langsamer, viel besser. Es ist viel schwieriger, als nichts zu vergessen und die Aufnahme einfach flach abzuspielen. Ich würde sagen, je langsamer Ihr Satz wächst, desto besser haben Sie es gemacht. Wenn es also mehr Möglichkeiten gibt, Typizität zu finden, sollten Sie es tun.