Was jahrelang als düstere Zukunftsvision galt, könnte bereits Realität geworden sein. Nach Berichten von New Scientist und Tom’s Hardware sollen ukrainische Streitkräfte bereits 2024 vollständig autonome Drohnen eingesetzt haben, die russische Soldaten ohne menschliche Steuerung oder Eingriffsmöglichkeiten getötet haben. Sollte sich dies bestätigen, wäre damit eine rote Linie überschritten worden, vor der Wissenschaftler, Ethiker und die Vereinten Nationen seit Jahren warnen. (Tom’s Hardware)
Die beteiligten Drohnen befanden sich laut den Berichten im sogenannten „Terminator-Modus“. Zehn KI-gesteuerte Quadrokopter wurden demnach mehrere Kilometer hinter die Front geschickt. Nach dem Start gab es keine Verbindung mehr zu den Geräten, keinen Videostream, keinen Operator und keine Möglichkeit, den Angriff abzubrechen. Die Maschinen suchten ihre Ziele selbstständig und entschieden eigenständig über Leben und Tod. Ein ukrainischer Entwickler erklärte dazu: „Alles, was sie sahen, wurde getötet.“
Die letzte menschliche Entscheidung verschwindet
Bisher galt bei den meisten modernen Waffensystemen ein Grundsatz: Der Mensch entscheidet letztlich über den Einsatz tödlicher Gewalt. Selbst bei bewaffneten Drohnen sitzt ein Operator vor einem Bildschirm und gibt den Feuerbefehl.
Die nun beschriebenen Systeme funktionieren anders. Der Mensch definiert lediglich die Mission. Danach übernimmt die Maschine. Sie erkennt Ziele, bewertet Situationen und führt Angriffe eigenständig aus. Experten sprechen von „Human out of the loop“ – der Mensch befindet sich nicht mehr im Entscheidungsprozess.
Damit stellt sich eine Frage, auf die bislang niemand eine Antwort hat: Wer trägt die Verantwortung, wenn eine Maschine einen Menschen tötet?
Der Programmierer? Der Kommandeur? Der Hersteller? Der Staat?
Das Ende des menschlichen Krieges
Der eigentliche Schock liegt nicht darin, dass Drohnen Menschen töten. Das geschieht seit Jahren. Neu ist, dass offenbar erstmals Maschinen selbst entschieden haben, wen sie töten.
Was heute noch als einzelner Test beschrieben wird, könnte morgen zum Standard werden. Ukrainische Unternehmen entwickeln bereits größere autonome Schwärme, während die USA, China, Russland und andere Staaten massiv in KI-Waffensysteme investieren. Die amerikanische Luftwaffe beschafft derzeit neue autonome Kampfdrohnen, und zahlreiche westliche Armeen arbeiten an vergleichbaren Programmen. (Wall Street Journal)
Die Ukraine selbst plant inzwischen zehntausende unbemannte Systeme und ersetzt zunehmend Soldaten durch Roboter auf dem Schlachtfeld.
Die Schwelle sinkt dramatisch
Besonders gefährlich ist dabei die Kombination aus künstlicher Intelligenz und billiger Massenproduktion.
Früher waren moderne Waffen teuer und auf wenige Staaten beschränkt. Autonome Drohnen kosten dagegen oft nur wenige tausend Dollar. Sie können in großen Stückzahlen produziert und als Schwärme eingesetzt werden.
Kritiker warnen deshalb, dass autonome Waffen zu einer Art „Atomwaffe des kleinen Mannes“ werden könnten. Ein Staat, eine Miliz oder sogar eine Terrorgruppe könnte künftig über tausende KI-gesteuerte Tötungsmaschinen verfügen.
Die Politik kommt zu spät
Während die Technologie immer schneller voranschreitet, hinken Gesetze und internationale Regeln hinterher. Bis heute existiert kein verbindliches internationales Verbot autonomer Tötungssysteme.
Die Vereinten Nationen fordern seit Jahren eine Regulierung. Zahlreiche Wissenschaftler warnen vor sogenannten Killerrobotern. Doch auf den Schlachtfeldern scheint die Entwicklung längst weiter zu sein als die politischen Debatten. (smallwarsjournal.com)
Was das für den Bürger bedeutet
Der eigentliche Wendepunkt besteht nicht darin, dass eine Drohne selbstständig einen Soldaten angreift. Die größere Frage lautet: Wo endet diese Technologie?
Systeme, die Ziele erkennen, Bewegungsmuster analysieren und selbstständig Entscheidungen treffen, könnten künftig auch zur Grenzüberwachung, inneren Sicherheit oder Massenüberwachung eingesetzt werden. Gesichtserkennung, Verhaltensanalyse und autonome Systeme entwickeln sich inzwischen parallel.
Was heute auf dem Schlachtfeld getestet wird, landet oft Jahre später im zivilen Bereich.
Die eigentliche Botschaft dieser Berichte lautet deshalb nicht, dass einige Soldaten durch Drohnen getötet wurden. Sie lautet: Die Menschheit könnte gerade die Schwelle überschritten haben, an der Maschinen erstmals selbst entschieden haben, wer lebt und wer stirbt.
Und wenn diese Schwelle einmal überschritten ist, gibt es möglicherweise keinen Weg zurück.
