Während in vielen Ländern noch darüber diskutiert wird, ob künstliche Intelligenz bei der Gesichtserkennung eingesetzt werden sollte, geht Japan bereits einen Schritt weiter. Dort werden Systeme entwickelt und getestet, die nicht nur erkennen sollen, wer sich an einem Bahnhof befindet, sondern auch was die Person möglicherweise vorhat.
Die neue Generation von KI-Überwachung analysiert Sicherheitskameras in Echtzeit und versucht vorherzusagen, ob sich jemand in einer psychischen Krise befindet oder möglicherweise einen Suizidversuch plant. Wissenschaftler sprechen inzwischen von „Suicide Risk Assessment“ – einer automatisierten Risikobewertung menschlichen Verhaltens anhand von Videoaufnahmen. (arXiv)
Was wie ein Instrument zur Rettung von Menschenleben klingt, wirft zugleich grundlegende Fragen über die Zukunft der Überwachung auf.
Denn erstmals geht es nicht mehr darum, Straftaten oder konkrete Handlungen zu erkennen. Die KI soll vielmehr Absichten, Verhaltensmuster und psychische Zustände interpretieren. Sie beobachtet, wie lange jemand auf einem Bahnsteig steht, wie er sich bewegt, welche Wege er nimmt, ob er auffällig oft den Bahnsteig wechselt oder sich ungewöhnlich nahe an Gleisen aufhält. Aus diesen Daten errechnet das System einen Risikowert.
Damit überschreitet die Technologie eine Grenze, die bislang vielen als unantastbar galt.
Die Kamera beobachtet nicht mehr nur das Verhalten. Sie versucht, die Gedanken dahinter zu erraten.
Japan gilt seit Jahren als Vorreiter bei der Nutzung technologischer Mittel zur Suizidprävention. Bahnsteigtüren, spezielle Beleuchtungssysteme und umfangreiche Videoüberwachung werden bereits eingesetzt. Nun kommt die künstliche Intelligenz hinzu, die aus Millionen Stunden von Überwachungsaufnahmen lernen soll, gefährdete Personen frühzeitig zu erkennen und Sicherheitspersonal zu alarmieren. (一般社団法人社会構想デザイン機構（ISVD）)
Befürworter argumentieren, dass jede verhinderte Tragödie den Einsatz rechtfertigt. Kritiker warnen dagegen vor einer Entwicklung hin zu einer Gesellschaft, in der Algorithmen zunehmend darüber entscheiden, welche Menschen als Risiko gelten.
Denn dieselbe Technologie, die heute Suizidgefährdete erkennen soll, könnte morgen für andere Zwecke eingesetzt werden.
- Wer wirkt nervös?
- Wer verhält sich „ungewöhnlich“?
- Wer zeigt Anzeichen von Aggression?
- Wer könnte protestieren oder etwas ähliches planen?
- Wer könnte eine Straftat begehen? Usw.
Sobald eine KI beginnt, menschliches Verhalten zu bewerten und Wahrscheinlichkeiten für zukünftige Handlungen zu berechnen, entsteht ein völlig neues Überwachungsmodell: Nicht mehr die Tat steht im Mittelpunkt, sondern die Vorhersage.
Genau hier sehen Datenschützer und Bürgerrechtler die eigentliche Brisanz. Die technische Infrastruktur, die heute zur Prävention aufgebaut wird, kann zur Kontrolle genutzt werden.
Die Entwicklung erinnert an andere aktuelle Projekte. KI analysiert bereits Menschenmengen in Saudi-Arabien, bewertet Verhalten in Smart Cities und soll künftig sogar über WLAN-Signale erkennen können, wer sich in einem Raum befindet. Schritt für Schritt entstehen Systeme, die nicht nur beobachten, sondern interpretieren und prognostizieren.
Japan könnte damit einen Vorgeschmack auf eine Zukunft liefern, in der Überwachung nicht mehr nur dokumentiert, was Menschen getan haben. Sondern vorhersagen soll, was sie als Nächstes tun werden.
In Japan beobachtet jetzt die KI, ob Sie sich das Leben nehmen könnten