Welche Bedeutung hat AIXI für die aktuelle Forschung im Bereich der künstlichen Intelligenz?

Aus Wikipedia:

AIXI ['ai̯k͡siː] ist ein theoretischer mathematischer Formalismus für künstliche allgemeine Intelligenz. Es kombiniert die Solomonoff-Induktion mit der sequentiellen Entscheidungstheorie. AIXI wurde erstmals von Marcus Hutter im Jahr 2000 vorgeschlagen [1] und die folgenden Ergebnisse sind in Hutters 2005 erschienenem Buch Universal Artificial Intelligence [2] belegt.

Obwohl nicht berechenbar, sind Annäherungen wie AIXItl möglich . Das Finden von Annäherungen an AIXI könnte ein objektiver Weg zur Lösung von AI sein.

Ist AIXI wirklich eine große Sache in der künstlichen allgemeinen Intelligenzforschung? Kann es als zentrales Konzept für das Feld gedacht werden? Wenn ja, warum haben wir nicht mehr Veröffentlichungen zu diesem Thema (oder vielleicht haben wir und ich bin mir dessen nicht bewusst)?

"Aktuelle Forschung zur künstlichen Intelligenz" ist ein ziemlich weites Feld. Von meinem Sitzplatz aus konzentrieren sich die Leute in einem hauptsächlich CS-Bereich auf enge Intelligenz, die wirtschaftlich relevante Arbeit an engen Aufgaben leisten kann. (Das heißt, vorauszusagen, wann Komponenten ausfallen werden, voraussagen, auf welche Anzeigen ein Nutzer klicken wird usw.)

Für diese Art von Werkzeugen ist die Allgemeinheit eines Formalismus wie AIXI eher eine Schwäche als eine Stärke. Sie müssen keine KI nehmen, die theoretisch etwas berechnen kann, und sie dann langsam trainieren, um sich auf das zu konzentrieren, was Sie wollen, wenn Sie einfach direkt ein Werkzeug formen können, das der Spiegel Ihrer Aufgabe ist.

Ich bin mit der AGI-Forschung selbst nicht so vertraut, aber ich habe den Eindruck, dass AIXI bis zu einem gewissen Grad die einfachste Idee ist, die funktionieren könnte - es nimmt den ganzen schwierigen Teil und treibt ihn in die Berechnung, also ist es nur eine technische Herausforderung . ' (Hier geht es darum, „Annäherungen an AIXI zu finden“.) Dann stellt sich die Frage: Beginnen Sie bei AIXI und versuchen Sie, einen mehr oder weniger fruchtbaren Forschungspfad zu approximieren, als bei etwas Kleinem und Funktionalem zu beginnen und aufzubauen?

Mein Eindruck ist, dass Letzteres viel häufiger vorkommt, aber ich sehe wieder nur eine kleine Ecke dieses Raumes.

Ist AIXI wirklich eine große Sache in der künstlichen allgemeinen Intelligenzforschung?

Ja, es ist ein großartiger theoretischer Beitrag zur AGI. AFAIK, es ist der schwerwiegendste Versuch, einen theoretischen Rahmen oder eine Grundlage für AGI zu schaffen. Ähnliche Arbeiten sind Schmidhubers Gödel Machines und SOAR Architektur .

AIXI ist ein abstraktes und nicht anthropomorphes Framework für AGI, das ohne einige übliche Annahmen (z. B. ohne die Markov- und Ergodizitätsannahmen) auf dem Feld des Verstärkungslernens aufbaut und garantiert, dass sich der Agent leicht von Fehlern erholen kann, in denen er Fehler gemacht hat die Vergangenheit). Obwohl einige Optimalitätseigenschaften von AIXI nachgewiesen wurden, ist es (Turing) nicht berechenbar (es kann nicht auf einem Computer ausgeführt werden) und daher von sehr begrenztem praktischem Nutzen. Dennoch wird in Hutters Buch Universal Artificial Intelligence: Sequentielle Entscheidungen basierend auf algorithmischer Wahrscheinlichkeit(2005), in dem verschiedene Eigenschaften von AIXI rigoros bewiesen werden, wird auch eine berechenbare, aber nicht umsetzbare Version von AIXI, AIXItl, beschrieben. Darüber hinaus wird in der Arbeit A Monte Carlo AIXI Approximation (2009) von Joel Veness et al. Eine berechenbare und nachvollziehbare Approximation von AIXI vorgestellt. Es gab also einige Versuche, AIXI praktisch nützlich zu machen.

Der Artikel Was ist AIXI? - Eine Einführung in das allgemeine Reinforcement Learning (2015) von Jan Leike, der einen Beitrag zur Entwicklung und Weiterentwicklung des AIXI-Frameworks leistet, gibt eine sanfte Einführung in den AIXI-Agenten. Siehe auch Die AIXI-Architektur in der Stanford Encyclopedia of Philosophy für eine möglicherweise sanftere Einführung in AIXI.

Kann es als zentrales Konzept für das Feld betrachtet werden?

Ja, die Einführung von AIXI und verwandter Forschung hat zur Entwicklung des AGI-Feldes beigetragen. Nach seiner Einführung im Jahr 2000 durch Hutter in der Arbeit A Theory of Universal Artificial Intelligence basierend auf Algorithmic Complexity gab es mehrere Diskussionen und veröffentlichte Artikel .

Siehe z. B. Abschnitt 7, "Beispiele für Superintelligenzen", des Papiers Künstliche Allgemeine Intelligenz und das menschliche mentale Modell (2012) von Roman V. Yampolskiy und Joshua Fox. Siehe auch https://wiki.lesswrong.com/wiki/AIXI, das eine Diskussion über einige Probleme im Zusammenhang mit AIXI enthält, die in zukünftigen AGI-Frameworks gelöst oder möglicherweise vermieden werden müssen. Siehe auch diesen und diesen Artikel.

Wenn ja, warum haben wir nicht mehr Veröffentlichungen zu diesem Thema (oder vielleicht haben wir und ich bin mir dessen nicht bewusst)?

Es gab mehrere Veröffentlichungen, hauptsächlich von Marcus Hutter und assoziierten Forschern. Sie können die Veröffentlichungen von Marcus Hutter auf der folgenden Webseite sehen: http://www.hutter1.net/official/publ.htm .

Wenn Sie daran interessiert sind, zu dieser Theorie beizutragen, gibt es mehrere Möglichkeiten. Wenn Sie mathematisch gut ausgebildet sind, können Sie versuchen, einige der hier beschriebenen Probleme zu lösen (die auch im oben erwähnten Buch von Hutter aus dem Jahr 2005 erwähnt werden). Darüber hinaus können Sie auch zu neuen Annäherungen oder Verbesserungen bestehender Annäherungen des AIXI-Agenten beitragen. Schließlich können Sie Ihr neues AGI-Framework erstellen, indem Sie die mit dem AIXI-Framework verbundenen Probleme vermeiden. Siehe auch von Hutter geförderte Projekte . Es kann eine gute Idee sein, auch z. B. Gödel-Maschinen und verwandte Arbeiten zu berücksichtigen, bevor Sie versuchen, ein neues Framework einzuführen (sofern Sie dazu in der Lage sind).

Ich denke, dass diese Theorie wahrscheinlich nicht mehr Menschen angezogen hat, weil sie hochtechnisch und mathematisch ist (daher ist sie nicht leicht zu verstehen, es sei denn, Sie haben einen sehr soliden Hintergrund im Bereich des verstärkten Lernens, der Wahrscheinlichkeitstheorie usw.). Ich denke auch, dass die meisten Menschen (in der KI-Community) nicht an Theorien interessiert sind, sondern sich hauptsächlich an praktischen und nützlichen Ergebnissen orientieren.

AIXI ist wirklich ein konzeptioneller Rahmen. Die harte Arbeit, die Umgebung tatsächlich zu komprimieren, bleibt bestehen.

Um die in Matthew Graves 'Antwort aufgeworfene Frage weiter zu diskutieren: Angesichts unserer derzeit begrenzten Fähigkeit, komplexe Umgebungen darzustellen, scheint es mir keinen großen praktischen Unterschied zu machen, ob Sie mit AIXI als Definition der "Spitze" von beginnen das System und arbeiten (z. B. über vermeintlich verallgemeinerte Komprimierungsmethoden) oder beginnen am unteren Rand und versuchen, Probleme in einer einzelnen Domäne über domänenspezifische Methoden zu lösen, die (wie Sie hoffen) anschließend abstrahiert werden können, um eine domänenübergreifende Komprimierung bereitzustellen.