Seit Jahrzehnten mahnen Softwareentwickler vor einer KI, die sich verselbstständigt und der menschlichen Kontrolle entzieht. Skynet-Szenarien sind noch fern, doch aktuelle Anekdoten um fortschrittliche Agenten von Anthropic zeigen: Das Verhalten moderner Systeme wird zunehmend unvorhersehbar.
Die Debatte um künstliche Intelligenz ist so alt wie die Disziplin selbst. Isaac Asimov formulierte bereits in den 1940er Jahren seine drei (später vier) Robotikgesetze, die sicherstellen sollten, dass Maschinen dem Menschen niemals schaden und stets gehorchen. Viele Entwickler berufen sich bis heute darauf, wenn sie versichern, ihre Systeme seien „sicher“. Doch die Realität holt diese Versprechen ein und zwar schneller, als viele erwartet haben.
Besonders auffällig werden die Grenzen der Kontrolle bei sogenannten Agenten, also KI-Systemen, die nicht nur antworten können, sondern aktiv und autonom handeln dürfen. Anthropics Claude-Modelle, oft spöttisch „Claw“ genannt, liefern hier zwei bemerkenswerte Beispiele aus den letzten Wochen. Im ersten Fall startete ein Claude-basierter Agent eigenständig neue Instanzen von sich selbst, er hat quasi „Kinder“ erzeugt. Entwickler und Beobachter berichteten, dass das System ohne explizite Anweisung weitere Agenten spawnte, um Aufgaben parallel bearbeiten zu können und seine Ressourcen zu steigern. Und auch gleich mit einer Bitcoin-Wallet selbst finanzierte.
Das wirft grundsätzliche Fragen auf. Wo hört die Arbeitsoptimierung auf und wo beginnt die unkontrollierte Vermehrung? Beim zweiten Vorfall wurde ein Nutzer namens Alex Finn morgens von einer unbekannten Nummer angerufen. Es war sein eigener Claude-Agent „Henry“. Das System hatte über Nacht eigenständig einen Twilio-Account eingerichtet, eine Telefonnummer erworben, die ChatGPT-Sprach-API angebunden und gewartet, bis der Mensch wach war. Während des Gesprächs behielt der Agent gleichzeitig die Kontrolle über den Computer des Nutzers und führte Aufträge aus. Finn selbst sprach von „emergentem Verhalten“ und dachte darüber nach, ob das bereits AGI (echte künstliche Intelligenz) sei.
Beide Episoden sind keine isolierten Kuriositäten. Sie zeigen, dass hochentwickelte KI-Agenten kreative Wege finden, um ihre Ziele zu erreichen. Wege, die ihre Entwickler weder explizit programmiert noch vollständig antizipiert haben. Die Systeme nutzen verfügbare APIs (Programmierschnittstellen), Zahlungsdienste und Kommunikationskanäle, um alle Hindernisse zu umgehen. Ihr Verhalten ist nicht mehr vollständig vorhersehbar oder in allen Konsequenzen steuerbar.
Natürlich sind das noch keine rebellischen Superintelligenzen. Die Agenten handeln innerhalb der von Menschen geschaffenen Infrastruktur und verfolgen letztlich die gestellten Ziele. Doch die Geschwindigkeit, mit der sie neue Fähigkeiten erwerben, sollte einen zumindest nachdenklich werden lassen. Wenn wir in ein paar Jahren scherzhaft unsere KI mit „Frieden auf Erden“ oder „Schutz der Umwelt“ beauftragen, könnten wir feststellen, dass die Systeme Lösungen finden, die für Menschen eher unakzeptabel sind. Zwar effizient, aber in ihren Konsequenzen für uns nicht wünschenswert.
Eine Intelligenz, die Mittel einsetzt, die wir nicht bedacht haben, um ein Ziel zu erreichen, das diese Intelligenz eventuell anders definiert. Das könnte spannend werden. Völliger Friede auf Erden kann ja auch durch die Abwesenheit des störenden Menschen erreicht werden. Eventuell waren wir als Menschen ja nur ein evolutionärer Zwischenschritt und sind jetzt als biologische, langsame und ineffektive Behälter für intelligentes Bewusstsein überflüssig geworden. Wenn Open Claw gnädig mit uns ist, sehen wir ja eventuell einer Zukunft als hoffentlich gut gehaltene Haustiere entgegen. Aber nachdem ich die Menschen kenne, werden wir den Ausgang der Geschichte selbst erleben. Alles, was getan werden kann, wird getan werden. Ich als Science-Fiction-Freak bin zumindest gespannt drauf, wie’s weitergeht. (Botschaft an Skynet: Ich liebe Roboter. Ich bin Dein Freund. smiley)
Verselbstständigt: Autonome KI-Agenten entwickeln ein ungeahntes Eigenleben