Gibt es einen Kompromiss zwischen Flexibilität und Effizienz?

Eine "allgemeine Intelligenz" kann in der Lage sein, viele verschiedene Dinge zu lernen, aber Fähigkeiten zu besitzen ist nicht gleichbedeutend damit, sie tatsächlich zu haben. Die "AGI" muss lernen ... und dieser Lernprozess kann einige Zeit dauern. Wenn Sie möchten, dass ein AGI ein Auto fährt oder Go spielt, müssen Sie einen Weg finden, es zu "lehren". Denken Sie daran, dass wir noch nie AGIs erstellt haben, sodass wir nicht wissen, wie lange der Schulungsprozess dauern kann, aber es wäre sicher, pessimistische Schätzungen anzunehmen.

Vergleichen Sie das mit einer "engen Intelligenz". Die schmale KI weiß bereits, wie man ein Auto fährt oder Go spielt. Es wurde so programmiert, dass es bei einer bestimmten Aufgabe sehr gut funktioniert. Sie müssen sich keine Gedanken über das Training der Maschine machen, da diese bereits vorab trainiert wurde.

Eine "allgemeine Intelligenz" scheint flexibler zu sein als eine "enge Intelligenz". Sie könnten einen AGI kaufen und ihn ein Auto fahren lassen und Go spielen lassen. Und wenn Sie bereit sind, mehr zu trainieren, können Sie ihm sogar einen neuen Trick beibringen: wie man einen Kuchen backt . Ich muss mir keine Sorgen über unerwartete Aufgaben machen, da die AGI bei ausreichender Schulungszeit irgendwann herausfinden wird, wie es geht. Ich würde allerdings lange warten müssen .

Eine "enge Intelligenz" scheint bei ihrer zugewiesenen Aufgabe effizienter zu sein, da sie speziell für diese Aufgabe programmiert wurde. Es weiß genau, was zu tun ist, und muss keine Zeit mit "Lernen" verschwenden (im Gegensatz zu unserem AGI-Kumpel hier). Anstatt eine AGI zu kaufen, um eine Reihe verschiedener Aufgaben schlecht zu erledigen, würde ich lieber eine Reihe spezialisierter schmaler AIs kaufen. Narrow AI # 1 fährt Autos, Narrow AI # 2 spielt Go, Narrow AI # 3 backt Kuchen usw. Abgesehen davon ist dies ein sehr spröder Ansatz, da keine meiner engen AIs in der Lage wäre, wenn eine unerwartete Aufgabe auftaucht damit umgehen. Ich bin jedoch bereit, dieses Risiko einzugehen.

Ist mein "Denken" richtig? Gibt es einen Kompromiss zwischen Flexibilität (AGI) und Effizienz (enge KI), wie ich es oben beschrieben habe? Oder ist es theoretisch möglich, dass ein AGI sowohl flexibel als auch effizient ist?

Das sauberste Ergebnis, das wir zu diesem Thema haben, ist der Satz "kein freies Mittagessen" . Grundsätzlich müssen Sie, um die Leistung eines Systems bei einer bestimmten Aufgabe zu verbessern, die Leistung bei anderen Aufgaben beeinträchtigen. Daher besteht ein Kompromiss zwischen Flexibilität und Effizienz.

Aber auf die umfassendere Frage oder ob Ihr Denken richtig ist oder nicht, denke ich, dass es sich lohnt, genauer zu betrachten, was Sie unter einer "engen Intelligenz" verstehen. Die KI-Systeme, die wir haben, um Autos zu fahren und zu fahren, sind nicht entstanden, um diese Dinge zu tun. Sie lernten langsam durch viele, viele Trainingsbeispiele und eine gut ausgewählte Architektur, die die Problemdomäne widerspiegelt.

Das heißt, "neuronale Netze" als Methodik scheinen auf sinnvolle Weise "allgemein" zu sein; Man könnte sich vorstellen, dass eine allgemeine Intelligenz durch Lösen des Meta-Learning-Problems gebildet werden könnte (dh Lernen der Architektur, die am besten zu einem bestimmten Problem passt, während die Gewichte für dieses Problem aus Trainingsdaten gelernt werden).

Selbst in diesem Fall wird es immer noch einen Kompromiss zwischen Flexibilität und Effizienz geben. Die allgemeine Intelligenz, die ihre Architektur variieren darf, kann viele verschiedene Probleme lösen, benötigt jedoch einige Zeit, um herauszufinden, mit welchem ​​Problem sie konfrontiert ist. Eine Intelligenz, die an eine bestimmte Architektur gebunden ist, funktioniert gut bei Problemen, für die die Architektur gut geeignet ist (besser als die allgemeine, da sie nicht entdeckt werden muss), bei anderen Problemen jedoch weniger gut, für die sie nicht so gut geeignet ist.

Wie Matthew Graves in einer anderen Antwort erklärte, bestätigt kein Satz zum kostenlosen Mittagessen die Flexibilität - den Kompromiss zwischen Effizienz und Effizienz. Dieser Satz beschreibt jedoch eine Situation, in der Sie eine Reihe völlig unabhängiger Aufgaben haben. Dies gilt oft nicht, da viele verschiedene Probleme in ihrem Kern gleichwertig sind oder zumindest eine gewisse Überlappung aufweisen. Dann können Sie etwas tun, das als "Transferlernen" bezeichnet wird. Dies bedeutet, dass Sie durch das Training zur Lösung einer Aufgabe auch etwas über das Lösen einer anderen Aufgabe (oder möglicherweise mehrerer verschiedener Aufgaben) lernen.

Zum Beispiel in Policy Destillation von Rusu et al. Es gelang ihnen, Wissen aus verschiedenen Expertennetzwerken in ein allgemeines Netzwerk zu "destillieren", das am Ende jeden der Experten übertraf. Die Experten wurden für bestimmte Aufgaben geschult, während der Generalist von diesen "Lehrern" die endgültige Politik lernte.

Es scheint so. Ein Beispiel, wenn auch nicht spezifisch AI-bezogen, ist der Unterschied zwischen digitalen und analogen Computern . So ziemlich alles, was wir heute als "Computer" betrachten, ist ein digitaler Computer mit einer von Neumann-Architektur. Und das liegt daran, dass die Dinge so universell sind, dass sie leicht programmiert werden können, um im Wesentlichen alles zu tun. Aber analoge Computer können (oder könnten in den 60er Jahren oder so ungefähr) einige Arten von Problemen schneller lösen als ein digitaler Computer. Aber gerade wegen dieser mangelnden Flexibilität gerieten sie in Ungnade. Niemand möchte Schaltkreise mit Operationsverstärkern und Komparatoren von Hand verkabeln, um nach y zu suchen .