KI-gestützte Überwachung verlagert sich von der Fahndung nach Verdächtigen hin zur Kartierung des Alltagslebens und verwandelt alltägliche Mobilität in einen Strom von Verhaltensdaten.
Ken Macon
Polizeibehörden in ganz Großbritannien experimentieren mit künstlicher Intelligenz, die die Bewegungen von Autofahrern automatisch überwachen und kategorisieren kann, indem sie das landesweit umfangreiche Kennzeichenerkennungssystem nutzt.
Interne Unterlagen, die von Liberty Investigates und The Telegraph eingesehen wurden, zeigen, dass drei der neun regionalen Einheiten für organisierte Kriminalität in England und Wales ein von Faculty AI entwickeltes Programm testen. Dieses soll aus Fahrzeugbewegungsdaten lernen und Fahrten erkennen, die Algorithmen als „verdächtig“ einstufen.
Seit Jahren erfasst das automatische Kennzeichenerkennungssystem (ANPR) täglich mehr als 100 Millionen Fahrzeugerfassungen, meist um zu überprüfen, ob ein bestimmtes Kennzeichen in einem bestimmten Gebiet aufgetaucht ist.
Die neue Initiative ändert diese Logik grundlegend. Statt einzelne Kennzeichen zu überprüfen, wird die Software darauf trainiert, komplette Routen nachzuverfolgen und nach Verhaltensmustern zu suchen, die jenen von kriminellen Netzwerken ähneln, die für den sogenannten „County-Lines“-Drogenhandel bekannt sind.
Das Projekt mit dem Namen Operation Ignition stellt eine Veränderung von Umfang und Anspruch dar.
Im Gegensatz zu herkömmlichen Warnsystemen, bei denen Beamte manuell „Fahrzeuge von Interesse“ markieren, lernt das Machine-Learning-Modell aus vergangenen Daten und erstellt selbst eine Liste potenzieller Zielobjekte.
Offizielle Dokumente räumen ein, dass dieser Prozess „Millionen von [Fahrzeugkennzeichen]“ betreffen könnte und dass die gewonnenen Informationen künftige Entscheidungen über den ethischen und operativen Einsatz solcher Technologien beeinflussen könnten.
Was als vom Innenministerium finanzierter Test im Nordwesten begann – mit Merseyside, Greater Manchester, Cheshire, Cumbria, Lancashire und Nordwales – hat sich inzwischen auf drei regionale Einheiten für organisierte Kriminalität ausgeweitet.
Die Behörden bezeichnen dies als technisches Experiment, doch die Dokumente deuten auf langfristige Pläne für eine landesweite Einführung hin.
Bürgerrechtsorganisationen warnen, dass solche Systeme selten auf ihren ursprünglichen Zweck beschränkt bleiben.
Jake Hurfurt von Big Brother Watch sagte: „Das britische ANPR-Netzwerk ist bereits eines der größten Überwachungsnetze der Welt und verfolgt jeden Tag die Fahrten von Millionen unschuldiger Menschen. Der Einsatz von KI zur Analyse der Millionen erfassten Kennzeichen wird dieses Überwachungsnetz nur noch invasiver machen. Die Überwachung und Analyse so vieler Fahrten betrifft die Privatsphäre aller und birgt das Potenzial, der Polizei zu ermöglichen, mit einem Klick zu analysieren, wie wir uns alle im Land bewegen.“
Er fügte hinzu, dass die Bekämpfung organisierter Drogenrouten zwar ein legitimes Ziel sei, „aber es besteht eine reale Gefahr der Zweckentfremdung – ANPR wurde als Anti-Terror-Maßnahme eingeführt und wird nun zur Durchsetzung von Verkehrsregeln genutzt. Die Frage ist nicht, ob die Polizei versuchen sollte, Banden zu stoppen, sondern wie diese nächste Generation der Kennzeichenerfassung künftig eingesetzt werden könnte.“
Die Such- und Profilierungs-App wurde von Faculty AI entwickelt, einem britischen Technologieunternehmen mit engen Verbindungen zu Regierungsprojekten.
Das Unternehmen, das während der Vote-Leave-Kampagne mit Dominic Cummings zusammenarbeitete, hat seitdem Datenanalyse-Tools für den NHS und das Verteidigungsministerium entwickelt.
Faculty geriet kürzlich in den Fokus, nachdem es beauftragt worden war, Software zu entwickeln, die soziale Medien nach „besorgniserregenden“ Beiträgen durchsucht, die später zur Überwachung von Online-Debatten über Unterkünfte für Asylsuchende eingesetzt wurde.
Faculty lehnte eine Stellungnahme zu seiner Rolle in der ANPR-Initiative ab.
Der Chief Constable Chris Todd, Vorsitzender des Daten- und Analyse-Ausschusses des National Police Chiefs’ Council, bezeichnete das System als „einen klein angelegten, explorativen, operativen Machbarkeitsnachweis für den potenziellen Einsatz von Machine Learning in Verbindung mit ANPR-Daten“.
Er sagte, der Test nutze „nur eine sehr kleine Teilmenge der ANPR-Daten“ und betonte, dass „Datenschutz- und Sicherheitsmaßnahmen bestehen und ein Ethikgremium eingerichtet wurde, um die Arbeit zu überwachen“.
William Webster, der Beauftragte für Biometrie- und Überwachungskameras, erklärte, das Innenministerium konsultiere zu neuen rechtlichen Regelungen für digitale und biometrische Polizeiinstrumente, einschließlich ANPR.
„Aufsicht ist ein zentraler Bestandteil dieses Rahmens“, sagte er und fügte hinzu, dass Tests dieser Art in einem „sicheren Raum“ stattfinden sollten, der „Transparenz und Rechenschaftspflicht von Beginn an“ gewährleiste.
Ein Sprecher des Innenministeriums erklärte, die App sei „darauf ausgelegt, Ermittlungen gegen schwere und organisierte Kriminalität zu unterstützen“ und werde derzeit „in kleinem Maßstab“ mit „einer kleinen Teilmenge der vom nationalen ANPR-Netz gesammelten Daten“ getestet.
Aus Sicht des Datenschutzes liegt die Sorge nicht nur in der Erfassung von Bewegungsdaten, sondern auch in dem, was daraus abgeleitet werden kann.
Indem Millionen von Fahrten zu Verhaltensmodellen verknüpft werden, könnte das System letztlich eine Echtzeit-Karte der Bewegungen der Bevölkerung im ganzen Land erstellen.
Sobald diese analytische Fähigkeit Teil der routinemäßigen Polizeiarbeit wird, könnte die Unterscheidung zwischen der Überwachung von Verdächtigen und der Überwachung der Bürger vollständig verschwimmen.
Britische Polizei testet KI-System zur Verfolgung «verdächtiger» Fahrten