Ist die Singularität ernst zu nehmen?

10

Der Begriff Singularität wird in Mainstream-Medien häufig zur Beschreibung visionärer Technologien verwendet. Es wurde von Ray Kurzweil in einem populären Buch The Singularity Is Near: When Humans Transcend Biology (2005) vorgestellt.

Kurzweil gibt in seinem Buch einen Ausblick auf eine mögliche Zukunft der Menschheit, die Nanotechnologie, Computer, genetische Veränderung und künstliche Intelligenz umfasst. Er argumentiert, dass Moores Gesetz Computern ein exponentielles Wachstum ermöglichen wird, das zu einer Superintelligenz führt.

Wird die technologische Singularität von KI-Entwicklern ernst genommen oder ist diese Theorie nur eine Menge populärer Hype?

— Bucky Rogerson
quelle

Die Debatte um Singularität ist ein Unterthema in der sogenannten neoludditischen Bewegung. Das ist eine philosophische Debatte über technologischen Fortschritt mit einer pessimistischen Perspektive. Bill Joy hat in den 2000er Jahren einen berühmten Aufsatz veröffentlicht, in dem er sich gegen Technologie ausspricht. Die Neoludditenbewegung ist eine Art Anti-Ideologie für das stärker-schneller-klügere Denken des Silicon Valley. Singularität ist eine Mischung aus Pro- und Kontra-Technologie-Ideologie mit dem Ziel, die Debatte zu moderieren.

— Manuel Rodriguez

2

Ich denke, es wird Ihnen wirklich schwer fallen, eine solide wissenschaftliche Grundlage für KI zu finden, die darauf hindeutet, dass Singularität sogar aus der Ferne möglich ist.

— Andreas Storvik Strauman

Sie könnten an diesem Q & A interessiert sein: ai.stackexchange.com/questions/7337/…

— Neil Slater

8

Ich kann sagen, dass es unter KI-Forschern, mit denen ich interagiere, weitaus häufiger als wilde Spekulation als als feststehende Tatsache angesehen wird.

Dies wird durch Umfragen unter KI-Forschern bestätigt . 80% glauben, dass in "mehr als 50 Jahren" oder "nie" starke Formen der KI auftauchen werden, und nur wenige Prozent glauben, dass solche Formen der KI "nahe" sind.

Softwareentwickler sind nicht dasselbe wie KI-Forscher, und ich habe festgestellt, dass der Singularity-Mythos unter Entwicklern viel weiter verbreitet ist. Es hat einen schönen Klang: Computer werden immer schneller, irgendwann sind sie schneller als Gehirne, an diesem Punkt simulieren wir nur Gehirne. Bald darauf simulieren wir etwas Besseres als das Gehirn.

Ich vermute, dass die Gründe, warum KI-Forscher weniger optimistisch sind, in der Tatsache begründet sind, dass wir immer noch kein gutes Verständnis der menschlichen Intelligenz oder sogar genug Verständnis des Gehirns haben, um es zu simulieren. Zum Beispiel haben wir in den letzten zwei Wochen bisher unbekannte Arten von Gehirnzellen entdeckt . Dies erweckt den (richtigen) Eindruck, dass wir, selbst wenn wir einen ausreichend schnellen Computer hätten, überhaupt nicht in der Lage sind, ein menschliches Gehirn genau zu simulieren. Wir wissen nicht wirklich, was ein menschliches Gehirn ist.

Selbst wenn wir das wüssten, sind Simulationen notwendigerweise verlustbehaftet. Wir haben möglicherweise keine guten Simulationstechniken. Selbst wenn wir gute Techniken hätten, könnten wir das Gehirn simulieren und feststellen, dass sich unsere Simulation aus Gründen, die wir nicht verstehen, nicht wie erwartet verhält. Dies ist sehr wahrscheinlich bei der Simulation neuer Systeme. In gewissem Sinne ähneln Befürworter der Singularität Menschen, die vorhersagen, dass die Wetterkontrolle in den 1940er Jahren nahe war. Schließlich konnten wir schon damals einfache Wettermuster simulieren und Prognosen erstellen, die so funktionierten. Wie viel komplexer könnte es wirklich sein, perfekte Prognosen zu erstellen?

— John Doucette
quelle

2

Diese Aussage liest sich wie der Beginn eines kommenden KI-Winters, in dem KI-Forscher ihre Träume vom Bau intelligenter Maschinen ablehnen und zugeben, dass sie nichts zu bieten haben. Ich denke, wir können die Realität etwas optimistischer beschreiben. Im Blue-Brain-Projekt ist Unsterblichkeit eines der Ziele und kann mit Nanobots erreicht werden. Sie können den Geist von einem Gehirn in ein anderes Gehirn kopieren. Laut Futuristen wird dies im Jahr 2030 Realität. Zumindest die Europäische Union hält dies für sinnvoll und unterstützt das Projekt mit 1 Milliarde US-Dollar. Ist dieser Betrag ernst genug?

— Manuel Rodriguez

2

@ ManuelRodriguez Ich denke, es ist weniger ein Winter als eine realistische und ausgereifte Sicht auf die Technologie. Wir wirklich können und wirklich sind gerade jetzt viele schwere Probleme mit KI - Lösung. Es ist unvernünftig, davon zu Unsterblichkeit, Nanobots und Gehirnkopien zu springen. Vielleicht haben wir irgendwann solche Dinge, aber diese Technologien sind nicht einmal annähernd funktionsfähig. Die Unterstützung für die Grundlagenforschung zu ihnen ist gut, aber es ist nicht so, dass die KI in den 50er und 60er Jahren zu wenig Geld hatte. Geld auszugeben bedeutet nicht, dass wir in 10 Jahren Unsterblichkeit und geklonte Gehirne haben werden. Die Idee ist lächerlich.

— John Doucette

Ich sage nicht, dass ich persönlich innerhalb von 10 Jahren an Unsterblichkeit glaube. Ich möchte nur klarstellen, dass sogenannte „Whole Brain Emulation“ -Projekte wie das EU Human Brain Project (1 Milliarde USD), die US BRAIN Initiative (insgesamt 4,5 Milliarden USD) und das China Brain Project (200 Millionen USD) Singularität aufweisen als ihr Ziel. Die Regierung würde nicht so viel für Forschung ausgeben, wenn sie Zweifel daran haben, dass Nanobots möglich sind.

— Manuel Rodriguez

@ ManuelRodriguez Sicher würden sie. Selbst ein gescheitertes Projekt, das viel Geld kostet, kann zu sehr wertvoller Forschung führen.

— Wald

3

Es gibt mindestens einen sehr wichtigen und seriösen KI-Wissenschaftler, der anscheinend an die Schaffung einer echten künstlichen allgemeinen Intelligenz und möglicherweise Superintelligenz glaubt: Jürgen Schmidhuber, Mitautor des LSTM , neben vielen anderen wichtigen Beiträgen. Tatsächlich gründete er kürzlich NNAISENSE für diesen ultimativen Zweck, nämlich den Aufbau einer künstlichen allgemeinen Intelligenz für allgemeine Zwecke. In seinem Vortrag Wenn kreative Maschinen den Menschen überholen, spricht Schmidhuber bei TEDxLausanne über die Singularität (auch als Omega bekannt ). Siehe auch seinen Webartikel Is Converging History? Nochmal? (2012) oder das Papier2006: 75 Jahre KI feiern - Geschichte und Ausblick: die nächsten 25 Jahre (2007).

— nbro
quelle

Dies ist wahr, aber er ist definitiv in der Minderheit der KI-Forscher. Es ist wahr, dass Schmidhuber gut anerkannt ist, aber ich glaube nicht, dass die meisten KI-Forscher seine Ansichten zu diesem Element der KI ernst nehmen.

— John Doucette

1

@ JohnDoucette Ja, ich stimme dir zu. Ich wollte nur auf diesen interessanten Ausnahmefall hinweisen.

— nbro

0

Um auf der gleichen Seite zu sein, sollten Sie Referenzen zur "technologischen Singularität" angeben, da diese mehrere Bereiche umfasst (Mathematik, Statistik, Wissenschaftstheorie, Erkenntnistheorie, Soziologie, Politik, Wirtschaft, um nur einige zu nennen).

Wenn Sie Konzepte im Zusammenhang mit adj + ai betrachten (wobei adj = {schwach, stark, voll, schmal, ...}), ist der Atem der Spekulation im Allgemeinen ziemlich groß und feurig , also als Entwickler (wo für Entwickler I. Angenommen, Sie arbeiten an Codierungsproblemen, nicht am Projektmanager bei Google X und dergleichen.) Ich würde mir keine Sorgen machen, es sei denn, Sie genießen während einer Pause mit Ihren Kollegen eine Tasse Tee.

— Ale
quelle