Der Artikel Kinder schlagen Roboter inspirieren neues Fluchtmanöversystem basiert auf zwei Forschungsarbeiten über ein Experiment in einem japanischen Einkaufszentrum, das dazu führte, dass unbeaufsichtigte Kinder Roboter angriffen. Das Forschungspapier, an dem Sie interessiert sind, ist Flucht vor dem Missbrauch sozialer Roboter durch Kinder .
In diesem Forschungsbericht konnten die Forscher die Roboter so programmieren, dass sie einer Planungssimulation folgen, um die Wahrscheinlichkeit eines Missbrauchs durch Kinder zu verringern. Wenn es Kinder erkennt, ist der Roboter so programmiert, dass er sich in eine Menge von Erwachsenen zurückzieht (die die Kinder dann bei Bedarf disziplinieren können). Dies geschah, weil die Forscher sahen, dass nur Kinder die Roboter in dem fraglichen Einkaufszentrum verprügelten.
Sie diskutieren jedoch, andere Optionen auszuprobieren:
In dieser Arbeit bestand die Strategie des Roboters zur Verhinderung von Missbrauch darin, zu „entkommen“, dh an einen Ort zu gehen, an dem es weniger wahrscheinlich ist, dass Missbrauch auftritt. Man könnte fragen, warum der Roboter den Missbrauch nicht überwinden kann. In unseren Vorversuchen haben wir verschiedene Ansätze ausprobiert, aber wir haben festgestellt, dass es für den Roboter sehr schwierig ist, Kinder davon zu überzeugen, ihn nicht zu missbrauchen. Zum Beispiel haben wir die Formulierungen des Roboters in vielerlei Hinsicht geändert, indem wir starke Worte, emotionale oder höfliche Ausdrücke verwendet haben, aber keine davon war erfolgreich. Eine teilweise erfolgreiche Strategie war, dass der Roboter Kinder „physisch“ schob. Wenn sein Weg blockiert war, versuchte er nur weiterzumachen und sich so zu verhalten, als würde er mit Kindern kollidieren und sich seinen Weg durchzwingen (unter sorgfältiger Überwachung durch einen menschlichen Bediener). Wir beobachteten, dass Kinder zuerst die Anfragen des Roboters akzeptierten und ihnen gehorchten; aber, Sehr bald lernten sie, dass sie stärker als der Roboter sind, so dass sie gewinnen können, wenn sie drücken, und dass sie ihn stoppen können, indem sie den Stoßfängerschalter drücken (der aus Sicherheitsgründen am Roboter angebracht ist). Nachdem sie das erkannt hatten, setzten sie das missbräuchliche Verhalten fort. Offensichtlich würde ein stärkerer Roboter ein Problem für die Sicherheit und die soziale Akzeptanz darstellen, so dass der Umgang mit solchen missbräuchlichen Situationen schwierig bleibt.
Aber lassen Sie uns Ihre Frage weiter befragen:
Wenn bewusste KI möglich und weit verbreitet ist, wäre es dann nicht einfach für jemanden, der weiß, was er tut, um KI zu foltern?
Warum würden Sie solche Folter als falsch betrachten ? Schließlich könnte man argumentieren, dass die Maschine keine Schmerzen hat, wenn Sie sie foltern ... also sollte es moralisch in Ordnung sein, die Maschine dann zu foltern. Es kann sein , reagiert als wenn es Schmerzen hat, aber es ist fraglich , ob die Fähigkeit , einen emotionalen Zustand wie „Schmerzen zu sein“ zu simulieren , entsprechen tatsächlich ist in diesem emotionalen Zustand. Siehe die Frage Ist die Simulation emotionaler Zustände gleichbedeutend mit dem tatsächlichen Erleben von Emotionen? für weitere Diskussionen zu diesem Thema.
Sie können ein solches Argument vorbringen, aber es wird auf emotionaler Ebene nicht wirklich funktionieren, da die meisten Menschen Empathie gegenüber der Maschine empfinden würden . Es mag schwierig sein, es logisch zu rechtfertigen (und es mag auf den Tendenzen des Menschen beruhen, sich auf Anthropomorphismus einzulassen ), aber wir spüren diese Empathie. Es ist diese Empathie, die Sie dazu veranlasst hat, diese Frage zu stellen, Forscher dazu gebracht hat, herauszufinden, wie ein Roboter vor Schlägen geschützt werden kann, es Polizisten ermöglicht hat, einen betrunkenen Japaner zu verhaften, weil er einen SoftBank-Roboter verprügelt hat , und viele Menschen gemacht hat verärgert über die Zerstörung von hitchBOT . Und das istwie KI-Missbrauch vermieden werden würde - menschliches Einfühlungsvermögen. Wenn sich die meisten Menschen um das Wohlergehen von Maschinen kümmern, wird es ihnen zur Priorität gemacht, die wenigen Menschen zu stoppen, die in der Lage und bereit sind, die Maschinen zu missbrauchen.
BEARBEITEN: Das OP hat seine Frage bearbeitet, um zu verdeutlichen, dass es sich um Software und nicht um Roboter handelt. Bei Robotern kann man sich auf Anthropomorphismus verlassen, um ein gewisses Maß an Sympathie zu erzeugen, aber es ist schwierig, mit rohen Codezeilen zu sympathisieren.
Sie werden den Missbrauch von Algorithmen nicht aufhalten. Ehrlich gesagt, da die Algorithmen nicht wie wir sind, werden wir nicht die gleiche Art von Empathie entwickeln, die wir Robotern entgegenbringen würden. Sogar Chatbots sind etwas zweifelhaft. Wenn Sie die Leute dazu bringen könnten, mit Codezeilen zu sympathisieren (möglicherweise durch eine überzeugende Simulation von Emotionen und Geschicklichkeit), dann gilt die obige Antwort: Menschen anthropomorphisieren die Maschine und entwickeln Gegenmaßnahmen. Wir sind noch nicht auf diesem Niveau, daher wird das "Stoppen des KI-Missbrauchs" eine niedrige Priorität haben.
Dennoch könnten einige Failafes programmiert werden, um den Missbrauchsschaden zu begrenzen, wie in diesem Thread zum Chatbot-Missbrauch beschrieben. Der Bot reagiert auf langweilige Weise, damit sich der Missbraucher gelangweilt fühlt und zum nächsten Ziel übergeht und auf den Missbraucher reagiert in einem "Kampf der Köpfe" oder sogar nur die Täter daran zu hindern, den Dienst zu nutzen.
Diese Failafes sind ein kalter Trost für diejenigen, die Missbrauch verhindern und nicht darauf reagieren wollen.
Außerdem ... kann ein Täter gerne lernen, wie man eine KI so programmiert, dass sie nach Herzenslust missbraucht. Es kann nichts unternommen werden, um dies zu stoppen, und alle möglichen Maßnahmen, um diesen Missbrauch zu stoppen (z. B. die Überwachung jedes Menschen, um sicherzustellen, dass er keine KI für Missbrauch programmiert), werden wahrscheinlich mehr Schaden verursachen, als er lösen würde.