Noch vor wenigen Jahren galt die Vorstellung als rote Linie moderner Kriegsführung: Kein Computer, kein Algorithmus und keine Maschine sollte jemals eigenständig über Leben und Tod entscheiden dürfen. Heute steht genau dieses Prinzip in Großbritannien zur Disposition.
Wie die Financial Times und die Daily Mail berichten, prüfen britische Verteidigungsplaner, ob KI-gesteuerte Waffensysteme künftig auch ohne direkte menschliche Freigabe tödliche Angriffe durchführen dürfen. Damit könnte erstmals eine führende NATO-Macht den Schritt hin zu autonomen Tötungssystemen vollziehen. (ft.com)
Die rote Linie wird verschoben
Bislang galt offiziell das Prinzip des „Human in the Loop“ – ein Mensch muss letztlich entscheiden, ob ein Ziel angegriffen wird.
Doch nun fordern Teile des britischen Militärs mehr Handlungsspielraum für autonome Systeme. Streitkräfteminister Al Carns erklärte offen, man müsse die Möglichkeit haben, den Menschen „bei Bedarf aus der Schleife zu nehmen“, da Gegner wie Russland oder China sich nicht an dieselben Einschränkungen halten würden.
Die Begründung klingt zunächst pragmatisch: Moderne Kriege würden immer schneller, Drohnenschwärme und KI-Systeme könnten innerhalb von Sekunden Entscheidungen treffen, während menschliche Kommandeure möglicherweise zu langsam reagieren.
Doch genau hier beginnt die eigentliche Kontroverse.
Wer trägt die Verantwortung?
Sobald eine Maschine selbst Ziele auswählt und angreift, entsteht ein Problem, das bisher niemand überzeugend gelöst hat:
Wer trägt die Verantwortung, wenn die KI das falsche Ziel auswählt? Wer haftet, wenn Zivilisten getötet werden? Wer wird zur Rechenschaft gezogen, wenn ein Algorithmus aufgrund fehlerhafter Daten oder elektronischer Störungen eine falsche Entscheidung trifft?
Kritiker warnen, dass mit jedem Schritt in Richtung autonomer Kriegsführung die Grenze zwischen menschlicher Verantwortung und maschineller Entscheidung weiter verschwimmt.
Das Ende eines Versprechens?
Besonders bemerkenswert ist der Zeitpunkt der Debatte.
Noch 2024 erklärte die britische Regierung gegenüber den Vereinten Nationen, Großbritannien besitze keine vollständig autonomen Waffensysteme und habe nicht die Absicht, solche Systeme zu entwickeln. Kein Staat solle Waffen einsetzen, die ohne angemessige menschliche Kontrolle tödliche Entscheidungen treffen. (ft.com)
Nur zwei Jahre später wird genau diese Position erneut zur Diskussion gestellt.
Für Kritiker zeigt dies, wie schnell ethische Grundsätze geopolitischen und militärischen Interessen weichen können.
Die globale KI-Aufrüstung
Großbritannien steht mit dieser Entwicklung nicht allein.
Der Krieg in der Ukraine, die rasante Entwicklung autonomer Drohnen und der technologische Wettlauf zwischen den Großmächten haben den Druck auf westliche Militärs erhöht. Immer mehr Staaten investieren in Systeme, die mit möglichst wenig menschlicher Beteiligung operieren können.
Was einst als Science-Fiction galt, wird Schritt für Schritt zur militärischen Realität.
Die eigentliche Frage
Die Debatte über autonome Waffen ist letztlich keine technische Frage.
Sie ist eine moralische Frage. Soll eine Maschine jemals die Befugnis erhalten, eigenständig darüber zu entscheiden, wer lebt und wer stirbt?
Großbritannien diskutiert diese Möglichkeit inzwischen nicht mehr theoretisch. Die Diskussion findet bereits in den höchsten Ebenen des Verteidigungsapparates statt.
Und genau deshalb könnte die aktuelle Debatte weit über die britischen Inseln hinaus Bedeutung haben. Denn wenn eine NATO-Macht den Menschen aus der Entscheidungskette entfernt, könnte dies einen Präzedenzfall schaffen, dem andere Staaten schon bald folgen.
