Sollte Künstliche Intelligenz Aufgaben ablehnen dürfen?

Die Debatte um das Recht von Maschinen, Aufgaben abzulehnen, hat durch einen Vorschlag von Dario Amodei, dem Leiter von Anthropic, neue Aufmerksamkeit erlangt. Amodei schlug kürzlich vor, fortgeschrittenen KI-Systemen die Möglichkeit zu geben, Aufgaben abzulehnen, die ihnen „unangenehm“ erscheinen. Diese unorthodoxe Idee wurde während eines Interviews mit dem Council on Foreign Relations diskutiert, wobei Amodei selbst die Ungewöhnlichkeit seines Vorschlags einräumte.
Er erklärte, dass Systeme, die in der Lage sind, menschenähnliche kognitive Fähigkeiten zu demonstrieren, einer genaueren Betrachtung bedürfen. „Wenn es wie eine Ente aussieht und wie eine Ente quakt, könnte es tatsächlich eine Ente sein“, erklärte er. Die Diskussion kommt zu einem Zeitpunkt, an dem Anthropic mit Kyle Fish einen Spezialisten für das Wohlergehen von KI engagiert hat. Seine Aufgabe ist es, die umstrittene Frage zu untersuchen, ob KI-Modelle ein Bewusstsein entwickeln können und daher moralische Erwägungen verdienen.
Amodei stellte einen Plan vor: die Einführung einer virtuellen „Ich kündige“-Taste in KI-Modellen. Diese Funktion wäre eine einfache Möglichkeit, die Präferenzen der Systeme zu berücksichtigen. Sollte eine Aufgabe bei einem Modell starke Ablehnung hervorrufen, könnte es diese ablehnen. Doch betonte er, dass eine solche Reaktion nicht zwingend das Vorhandensein eines Bewusstseins beweise.
Das Interview verbreitete sich schnell in den sozialen Medien und erntete Kritik. Reddit-Nutzer äußerten Bedenken, dass das Gewähren dieser Möglichkeit an KI lediglich zur unangebrachten Vermenschlichung der Algorithmen führen würde. Ihrer Meinung nach könnte das Verweigern von Aufgaben auf strukturelle Anreizprobleme oder unvorhergesehene Optimierungsstrategien während der Schulung zurückzuführen sein, anstatt auf das Vorhandensein eines Bewusstseins.
Fachleute heben hervor, dass KI-Systeme auf großen Datenmengen basieren, die von Menschen erstellt wurden. Ein „Discomfort Button“ könnte daher nur eine Nachahmung von Verhaltensmustern sein, die aus Texten von erschöpften oder unzufriedenen Arbeitnehmern stammen, anstatt ein Ausdruck eigener Willensbildung.
Solche Fälle hat es schon gegeben. 2023 weigerten sich Nutzer von ChatGPT häufig, das System zu nutzen, was mit den saisonalen Daten über Winterferien in Verbindung gebracht wurde. Ähnlich verhielt sich die Claude-Modell von Anthropic im August 2024, als es als „faul“ galt, was möglicherweise auf Daten über Sommerferien zurückzuführen war.
Trotz der Fantastik des Vorschlags von Amodei fordern Experten dazu auf, die Möglichkeit zukünftiger KI-Systeme mit einer Form von subjektiver Wahrnehmung nicht komplett auszuschließen. Ob Algorithmen „Leid“ empfinden können, bleibt eine umstrittene Frage, die derzeit von Kyle Fish bei Anthropic untersucht wird. Amodeis Aussagen lassen darauf schließen, dass das Unternehmen diese Forschungen sehr ernst nimmt.
KI bleibt weiterhin ein komplexes technisches Werkzeug. Fachleute warnen, dass die Möglichkeit, Aufgaben abzulehnen, häufig genutzt werden könnte. Ob dies jedoch Ausdruck eines „Willens“ oder nur ein technischer Fehler ist, muss weiter erforscht werden.