Welche Auswirkungen haben Gödels Theoreme auf die KI-Forschung?

Anmerkung: Meine Erfahrung mit Gödels Theorem ist sehr begrenzt: Ich habe Gödel Escher Bach gelesen; überflog die erste Hälfte der Einführung in Gödels Satz (von Peter Smith); und ein paar zufällige Sachen hier und da im Internet. Das heißt, ich verstehe die Theorie nur vage.

Meiner bescheidenen Meinung nach gehören Gödels Unvollständigkeitssatz (und seine vielen verwandten Sätze, wie das Halting-Problem und der Löbs-Satz) zu den wichtigsten theoretischen Entdeckungen.

Es ist jedoch etwas enttäuschend zu bemerken, dass es nicht so viele (zumindest meines Wissens) theoretische Anwendungen der Theoreme gibt, was wahrscheinlich zum Teil auf 1. die stumpfe Natur des Beweises 2. die starken philosophischen Implikationen zurückzuführen ist, die die Menschen nicht haben bereit, leicht zu verpflichten.

Trotzdem gibt es immer noch einige Versuche, die Theoreme in einer Philosophie des Geistes / KI-Kontexts anzuwenden. Aus meinem Kopf:

Das Lucas-Penrose-Argument : Das argumentiert, dass der Verstand nicht auf einem formalen System (wie im Computer) implementiert ist. (Kein sehr strenger Beweis)

Anscheinend verwendet ein Teil der Forschung bei MIRI Löbs Thereom, obwohl das einzige mir bekannte Beispiel die Zusammenarbeit von Löbian-Agenten ist.

Das sind alles wirklich cool, aber gibt es noch ein paar Beispiele? Vor allem solche, die von der akademischen Gemeinschaft ernsthaft in Betracht gezogen werden.

(vgl. Was sind die philosophischen Implikationen von Gödels erstem Unvollständigkeitssatz für SE?)

Auf jeden Fall gibt es viele Implikationen für die KI, einschließlich:

1. Die Folgerung mit der Logik erster Ordnung ist halbentscheidbar. Dies ist eine große Enttäuschung für alle, die Logik als primäres KI-Werkzeug verwenden wollten.

2. Die grundsätzliche Gleichwertigkeit zweier logischer Anweisungen erster Ordnung ist nicht zu entscheiden, was sich auf wissensbasierte Systeme und Datenbanken auswirkt. Beispielsweise ist die Optimierung von Datenbankabfragen aus diesem Grund ein unentscheidbares Problem.

3. Die Gleichwertigkeit zweier kontextfreier Grammatiken ist nicht zu entscheiden, was ein Problem für die formale sprachliche Herangehensweise an die Sprachverarbeitung darstellt

4. Bei der Planung in AI ist es für einige Planungssprachen, die in der Praxis benötigt werden, nicht entscheidend, nur einen realisierbaren Plan zu finden.

5. Bei der automatischen Programmerstellung sehen wir uns mit einer Reihe von Entscheidbarkeitsergebnissen konfrontiert, da jede vernünftige Programmiersprache so leistungsfähig ist wie eine Turing-Maschine.

6. Schließlich sind alle nicht trivialen Fragen zu einem expressiven Computer-Paradigma, wie zum Beispiel Pertinetze oder zellulare Automaten, unentscheidbar.

Ich habe dazu vor etwa zwanzig Jahren einen ausführlichen Artikel verfasst, der in Engineering Applications of Artificial Intelligence 12 (1999) 655-659 veröffentlicht wurde . Es ist ziemlich technisch und Sie können es vollständig auf meiner persönlichen Website lesen , aber hier ist das Fazit:

Oben wurde gezeigt, dass es unendlich viele Beweiskonstruktionen zu Gödels Theorem gibt - im Gegensatz zu der einzigen, die bisher in Diskussionen über künstliche Intelligenz verwendet wurde. Obwohl alle Konstruktionen, die tatsächlich offenbart wurden, von einem Computer nachgeahmt werden können, ist es offensichtlich, dass es Konstruktionen gibt, die noch nicht offenbart wurden. Unsere Analyse hat gezeigt, dass es Konstruktionen geben kann, die nur von einem Menschen entdeckt werden können. Dies ist ein kleines und definitiv unbeweisbares „Vielleicht“, das von den Grenzen der menschlichen Vorstellungskraft abhängt.

Menschen, die sich für die mathematische Gleichwertigkeit von Mensch und Maschine einsetzen, müssen sich daher letztendlich auf ihren Glauben an einen begrenzten Verstand verlassen, was impliziert, dass ihre Schlussfolgerung in ihrer Annahme enthalten ist. Andererseits müssen Menschen, die für die Überlegenheit des Menschen eintreten, diese Überlegenheit in ihren mathematischen Argumenten annehmen und letztendlich nur die Schlussfolgerung ziehen, die bereits von Anfang an in ihrem Argumentationssystem vorhanden war.

Es ist also nicht möglich, mathematisch fundierte Argumente über die Beziehung zwischen dem menschlichen Verstand und der Turing-Maschine zu liefern, ohne eine Annahme über den menschlichen Verstand zu treffen, die gleichzeitig die Schlussfolgerung des Arguments ist. Daher ist die Angelegenheit nicht zu entscheiden.

Haftungsausschluss: Ich habe die Wissenschaft seitdem verlassen, daher kenne ich mich mit zeitgenössischem Denken nicht aus.

Ich fand diesen Artikel des Mathematikers und Philosophen Solomon Feferman über Gödels Gibbs-Vortrag von 1951 über bestimmte philosophische Konsequenzen der Unvollständigkeitssätze , während ich den folgenden Wikipedia-Artikel las

Philosophie der künstlichen Intelligenz ,

Wessen Abstract gibt uns (wie erwartet) einen guten Überblick darüber, was in demselben Thema behandelt wird:

Dies ist eine kritische Analyse des ersten Teils von Gödels Gibbs-Vorlesung von 1951 über bestimmte philosophische Konsequenzen der Unvollständigkeitssätze.

Gödels Diskussion ist in eine Unterscheidung zwischen objektiver und subjektiver Mathematik gefasst , wonach die erstere aus den Wahrheiten der Mathematik im absoluten Sinne und die letztere aus allen menschlich nachweisbaren Wahrheiten besteht.

Die Frage ist, ob diese zusammenfallen; Wenn dies der Fall ist, kann kein formales axiomatisches System (oder keine Turing-Maschine ) die mathematisierenden Möglichkeiten des menschlichen Denkens erfassen, und wenn nicht, gibt es absolut unlösbare mathematische Probleme der diophantinen Form.

Entweder ... der menschliche Verstand ... übertrifft die Kräfte einer endlichen Maschine unendlich, oder es gibt absolut unlösbare diophantische Probleme.

Das könnte zumindest philosophisch für die Forschung in der KI von Interesse sein. Ich fürchte, dieses Papier ähnelt möglicherweise dem Artikel, auf den Sie in Bezug auf die philosophischen "Versuche" oder Argumente von Lucas und Penrose verweisen.