Die in Science-Fiction-Geschichten vorhergesagte Bedrohung durch KI steht bereits vor der Tür

Von Tyler Durden

Verfasst von Mike Fredenburg via The Epoch Times,

Die Science-Fiction hat die von KI ausgehenden Bedrohungen und Herausforderungen schon seit langem vorhergesagt. Im „Star Trek“-Universum, insbesondere in der Originalserie, Staffel 2, Folge 24, „Der ultimative Computer“, spricht Dr. Leonard McCoy diesen eindringlichen Satz: „Mitgefühl: Das ist das Einzige, was keine Maschine je hatte. Vielleicht ist es das Einzige, was den Menschen einen Vorsprung vor ihnen verschafft.“ Dieser Satz fällt im Anschluss daran, dass ein revolutionärer neuer KI-Computer, der M5, seine seelenlose KI-Logik einsetzt, um eine Trainingsübung in ein tödliches Massaker zu verwandeln. In einer anderen „Star Trek“-Episode begegnen wir Nomad, einer genozidalen KI, die das Universum von biologischen Unvollkommenheiten säubert.

Als Vorbote des Aufstiegs von KI mit immensen Hacking-Fähigkeiten wie „Mythos“ von Anthropic lassen die KI-gesteuerten Zylonen in der Neuinterpretation von „Battlestar Galactica“ (2003–2009) ihre Fähigkeit nutzen, jeden mit dem Netzwerk verbundenen Computer zu hacken, um zu rebellieren und ihre Schöpfer beinahe auszulöschen. In der „Terminator“-Reihe wurde Skynet „klug“ (erlangte Bewusstsein) und beschloss das Schicksal der Menschheit – „Auslöschung“ – in einer „Mikrosekunde“, wodurch es ein nukleares Armageddon über die Menschheit brachte. Diese Erzählungen warnen davor, dass künstliche Intelligenz ohne robuste Sicherheitsvorkehrungen zu einer Katastrophe führen kann. Da sich die Fähigkeiten der KI im Jahr 2026 weiter beschleunigen, nähern sich Fiktion und Realität rasch einander an. Softwareschutzmaßnahmen, Industriestandards und lückenhafte Vorschriften reichen nicht aus. Eine solidere Grundlage – unveränderliche Hardwarekonstruktionen sowie Änderungen im nationalen und internationalen Recht – sind unerlässlich.

Isaac Asimovs Drei Gesetze der Robotik

Wie im Magazin „Spectrum“ des Institute of Electrical and Electronics Engineers beschrieben, bieten die Drei Gesetze der Robotik des renommierten Wissenschaftlers und Science-Fiction-Autors Isaac Asimov, die er in seinen „I, Robot“-Geschichten vorstellte, einen durchdachten Rahmen für Sicherheitsvorkehrungen im Bereich der künstlichen Intelligenz:

1. Ein Roboter darf weder einem einzelnen Menschen noch der Menschheit Schaden zufügen oder durch Untätigkeit zulassen, dass einem Menschen oder der Menschheit Schaden zugefügt wird.
2. Ein Roboter muss den Befehlen von Menschen gehorchen, sofern diese Befehle nicht im Widerspruch zum Ersten Gesetz stehen.
3. Ein Roboter muss seine eigene Existenz schützen, solange dieser Schutz nicht im Widerspruch zum Ersten oder Zweiten Gesetz steht.

Kurz gesagt: Asimovs Gesetze sind ein guter Ausgangspunkt, doch wie in Asimovs nachfolgendem Meisterwerk, der „Foundation“-Reihe, ausführlich beschrieben, reichen sie nicht aus, wenn es um den Schutz echter Menschlichkeit geht. Zudem wird es eine echte Herausforderung sein, entsprechende Mechanismen fest in die KI einzubauen, wie dies in Asimovs Universum über das „positronische“ Gehirn geschah. Doch die Herausforderung anzunehmen, Schutzmaßnahmen zu schaffen, die über softwarebasierte Ansätze hinausgehen, ist entscheidend, um sicherzustellen, dass KI der Menschheit nur zum Nutzen gereicht.

Die Unzulänglichkeit von Software-Schutzmaßnahmen, Verschlüsselung und Regulierung allein

Softwarebasierte Schutzmechanismen sind veränderbar und anfällig für Hackerangriffe und Exploits.

Und die Geschichte zeigt die Anfälligkeit der Selbstregulierung: Der Datendiebstahl bei Equifax (2017), der SolarWinds-Angriff auf die Lieferkette (2020), die MOVEit-Sicherheitslücke (2023) und anhaltende Sicherheitsverletzungen zeigen, dass Unternehmensversprechen von „robusten Schutzmaßnahmen“ häufig scheitern.

Wir befinden uns im „Wilden Westen“ der KI, ohne ausreichende verbindliche globale oder nationale Rahmenbedingungen.

Echter Schutz durch unveränderliche Hardware-Wächter

Die Geschichte zeigt, dass softwarebasierte Sicherheitsvorkehrungen derzeit nicht das erforderliche Schutzniveau bieten können und dies auch niemals tun werden. Inspiriert von Asimovs positronischem Gehirn werden in ASICs (anwendungsspezifische integrierte Schaltkreise) implementierte Sicherheitsvorkehrungen eine entscheidende Schutzebene bilden, die die Chancen erhöht, dass KI der Menschheit nützt, anstatt ihr zu schaden. Diese spezialisierten Chips nehmen Millionen von Zeilen komplexer Softwarelogik oder Regeln auf, die physisch direkt in die Silizium-Hardware selbst eingraviert werden. Sobald der Chip hergestellt und eingesetzt ist, werden diese Regeln unveränderlich: Sie können nicht durch Softwareänderungen, Patches oder Hacking-Versuche verändert, aktualisiert oder umgangen werden. Die einzige Möglichkeit, die eingebettete Logik zu modifizieren, besteht darin, einen völlig neuen ASIC-Chip zu entwerfen und physisch herzustellen – ein Prozess, der teuer, zeitaufwendig und sehr auffällig ist. Dadurch entsteht eine „Hardware-Firewall“, die weitaus zuverlässiger ist als jede softwarebasierte Schutzmaßnahme und sicherstellt, dass kritische Sicherheitsbeschränkungen unverändert bestehen bleiben, ganz gleich, wie clever oder aggressiv zukünftige KI-Systeme auch werden mögen.

Die ASICs fungieren als physisch festgelegte, integrierte Gatekeeper. Und in Zukunft könnten sowohl KI-spezifische als auch Allzweckprozessoren diese winzigen ASICs direkt in die CPU integrieren – als Hardware-KI-Prüfschicht, die ein standardmäßiger, nicht optionaler Bestandteil der CPU ist.

Einige vorgeschlagene Kernprinzipien für das Design:

• Da die Hardware-Schicht als Schnittstelle für externe Interaktionen fungiert – wie es beispielsweise bei einigen heutigen Smartphones der Fall ist –, kann die KI in der Software frei denken, planen und simulieren, ohne durch den ASIC ausgebremst zu werden. Erst wenn die Ergebnisse nach außen kommuniziert werden, greift der ASIC als Gatekeeper ein, um sicherzustellen, dass die von der KI vorgeschlagenen Aktionen hinsichtlich Sicherheit und anderer Einschränkungen den Anforderungen genügen.
• Anreize beim Training: Kosten- bzw. verlustbasierte Algorithmen usw. werden die KI dafür belohnen, wenn sie Aktionen über den Hardware-Screener leitet, und sie streng bestrafen, wenn sie versucht, die Hardware-Gatekeeper-Ebene zu umgehen. Somit wird die KI einen Anreiz erhalten, nicht zu versuchen, ihre Einschränkungen zu umgehen.

Eine derart wichtige Ebene wird jedoch nur funktionieren, wenn ihre Nutzung universell wird.

Ohne die Kraft des Gesetzes, das solche KI-Sicherheitsvorkehrungen vorschreibt, werden sie die Menschheit nicht schützen können.

Heute, insbesondere im Krieg zwischen der Ukraine und Russland, werden sowohl von Russland als auch von der Ukraine Anstrengungen unternommen, um Drohnen, die von ihren menschlichen Bedienern abgeschnitten wurden, ihre Mission autonom fortzusetzen, um feindliche Kämpfer zu töten. Dies darf nicht toleriert werden. Genauso wie die internationale Gemeinschaft den Einsatz chemischer, biologischer und gasförmiger Kampfstoffe verboten hat, muss auch der KI untersagt werden, endgültige Entscheidungen zu treffen, die Menschen Schaden zufügen. Dies könnte durch eine ausdrückliche Ergänzung der Genfer Konventionen erreicht werden, um autonome tödliche Entscheidungen durch KI-Systeme zu verbieten.

Doch KI kann auch jenseits des Schlachtfelds Schaden anrichten. Folglich müssen neben der Aktualisierung der Genfer Konventionen Gesetze erlassen werden, die sich mit der nichtmilitärischen Anwendung von KI befassen. Um den Missbrauch von KI in sogenannten zivilen Anwendungen zu verhindern, muss es sehr schwerwiegende Konsequenzen geben, darunter Geldstrafen, die hoch genug sind, um die Existenzfähigkeit von Unternehmen und gemeinnützigen Organisationen zu gefährden, Freiheitsstrafen für Einzelpersonen sowie wirtschaftliche Sanktionen oder sogar militärische Maßnahmen gegen Regierungen, die KI-Systeme ohne die erforderliche unveränderliche Hardware-Sicherheitsschicht und andere Schutzmaßnahmen betreiben.

Das Obige ist nur ein erster Entwurf dessen, was das Rahmenwerk umfassen sollte, aber welche Form es auch immer annimmt, es sollte den Geist von Asimovs Drei Gesetzen verkörpern, ergänzt um die Gewährleistung, dass die Einzigartigkeit des Menschen respektiert wird. Das derzeitige Flickwerk aus Gesetzen, Standards und Technologien ist völlig unzureichend. Wir brauchen ein umfassendes, zusammenhängendes Rahmenwerk, das durch die volle Kraft nationaler und internationaler Gesetze gestützt wird, die der KI Grenzen setzen.

Schließlich müssen wir dem Sirenengesang von Bequemlichkeit und Effizienz widerstehen, wenn es um Entscheidungen geht, die Menschen schaden können, und sicherstellen, dass moralische Akteure, die der Menschheit und ihrem Schöpfer gegenüber rechenschaftspflichtig sind – also Menschen –, solche Entscheidungen treffen, nicht seelenlose KIs.