Paul Birch
Angesichts der jüngsten Enthüllungen über den Einsatz künstlicher Intelligenz (KI) durch die West Midlands Police zur Fabrikation von Informationen über israelische Fußballfans könnte man meinen, dass die Polizei beim breiteren Einsatz solcher Technologien etwas zurückhaltender wäre. Doch das ist ein Irrtum.
In einem kürzlich geführten Interview mit dem Telegraph erklärte Sir Andy Marsh, Leiter des College of Policing, dass die Polizei derzeit bis zu 100 Projekte prüfe, bei denen Beamtinnen und Beamte KI zur Kriminalitätsbekämpfung einsetzen könnten. Dazu gehöre auch der Einsatz sogenannter „prädiktiver Analysen“, um Straftäter ins Visier zu nehmen, bevor sie zuschlagen – eine deutliche Erinnerung an den Film Minority Report aus dem Jahr 2002. Ziel sei es laut Innenministerin Shabana Mahmood, die „Augen des Staates“ „zu jeder Zeit“ auf Kriminelle zu richten. Dies soll in einem kommenden Weißbuch zur Polizeireform weiter ausgeführt werden.
Die Ausweitung des KI-Einsatzes in der britischen Polizeiarbeit wird fortlaufend als Innovation, Effizienz und Schutz verkauft. In Wirklichkeit markiert sie jedoch einen entscheidenden Schritt hin zu einer Gesellschaft, in der Freiheit als ein zu managendes Risiko betrachtet wird. Verpackt in die Sprache von Sicherheit und Reform steht KI für eine stille, aber tiefgreifende Veränderung der Beziehung des Staates zu seinen Bürgern: vom Hüter des Rechts zum dauerhaften Überwacher von Verhalten.
Jeder Polizeibereich verfügt bereits über eine Intelligence-Einheit, die für „prädiktive Analysen“ zuständig ist. Straftaten, die in polizeiliche Datenbanken eingehen, werden von Analysten ausgewertet, die anschließend Berichte und Briefings zu Kriminalitätsschwerpunkten und Ähnlichem erstellen. Entsprechend können Polizeiressourcen gezielt zu einem bestimmten Ort und zu einer bestimmten Zeit entsandt werden, um Straftaten zu bekämpfen oder zu verhindern. KI kann ein Team ausgebildeter Fachleute, die Daten sorgfältig prüfen, niemals angemessen ersetzen. Sie kann dies jedoch vermutlich zu einem Bruchteil der Kosten tun – was für die meisten Führungskräfte wichtiger ist als Bürgerrechte. Weniger Minority Report als vielmehr Heath-Robinson.
Das grundlegende Unrecht liegt auf der Hand. Polizeiarbeit in einer angeblich freien Gesellschaft reagiert auf bereits begangene Straftaten oder setzt auf Prävention durch gut sichtbare, uniformierte Streifen. Sogenannte prädiktive Polizeiarbeit kehrt diese Logik um, indem sie die Macht des Staates auf alle richtet – fast alle davon haben nichts Illegales getan. Grundlage sind statistische IT-Vermutungen darüber, was sie möglicherweise tun könnten. Dies ist keine bloße technische Anpassung der Polizeiarbeit, wie manche glauben machen wollen; es ist eine vollständige Schwerpunktverlagerung hin zu einer Situation, in der jeder potenziell schuldig ist, bis seine Unschuld bewiesen ist. Massenüberwachung (denn genau das ist es) wird ohne Anklage, ohne Prozess und ohne Urteil auferlegt, da es keine formale Beschuldigung gibt.
Verteidiger dieses Ansatzes behaupten, es gebe keine Bedrohung für die individuelle Freiheit. Das ist offenkundig falsch. Freiheit wird überall dort ausgehöhlt, wo sich der Staat dauerhaft in das Leben eines Menschen einschreibt. Ständige Beobachtung ist eine Form sanften Zwangs. Zu wissen, dass die eigenen Bewegungen, Kontakte und Verhaltensweisen vom Staat erfasst und bewertet werden, kommt Zwang gleich. Eine Gesellschaft, in der Bürger sich so verhalten müssen, als würden sie ständig beobachtet, ist nicht frei; sie ist lediglich geordnet.
Noch schlimmer ist, dass dieses System jede echte Form von Verantwortlichkeit zerstört. Entscheidungen, die früher identifizierbaren Beamten zugeordnet werden konnten, werden dem System oder dem Programm zugeschrieben. Wenn Fehler auftreten – was unvermeidlich ist –, wird es kein unterscheidendes menschliches Urteil geben, um das System zu hinterfragen, da die Anwender sich zunächst mit großer Wahrscheinlichkeit der Maschine unterordnen werden. Macht diffundiert nach oben in Institutionen und nach außen zu Softwareentwicklern im privaten Sektor, während der Bürger in einer Art rechtlichem Niemandsland zurückbleibt und einem nicht anfechtbaren Prozess gegenübersteht. Ein Algorithmus kann nicht ins Kreuzverhör genommen oder beschämt werden.
Auch die Behauptung, diese Systeme seien objektiv, ist gefährlich. KI wird keine Wahrheit entdecken; sie wird frühere Polizeidaten durchforsten, vergangene Fehler verfestigen und sie mit mathematischer Gewissheit durchsetzen. Historische Fehlentscheidungen werden zu zukünftigen Risikokennzahlen.
Niemand in der Regierung bezeichnet die Einführung von KI als Experiment. Überwachungsinfrastruktur zieht sich niemals zurück. Jede Datenbank, jede Kamera und jeder Algorithmus, die für die schlimmsten Straftäter geschaffen werden, werden im Laufe der Zeit unweigerlich auch für eine breitere Nutzung verfügbar. Heute richtet sich der Fokus auf gewalttätige oder notorische Kriminelle; morgen könnten es Demonstrationsorganisatoren oder jene sein, die von der politischen Klasse als Problem angesehen werden. Wir haben dies bereits bei der Überwachung sozialer Medien und dem Einsatz sogenannter Non-Crime Hate Incidents gesehen. Wie kann man der Polizei bei einer derart transformativen Technologie vertrauen?
Effizienz ist die letzte Lüge. Jede angenommene Verringerung von Papierarbeit, bessere Zielgenauigkeit und reibungslosere Abläufe rechtfertigen keine Ausweitung staatlicher Überwachung. Und ohnehin hat die Einführung neuer Technologien während meiner Zeit bei der Polizei niemals die Bürokratie reduziert – sie hat sie lediglich vom Papier auf den Bildschirm verlagert und oft sogar vergrößert. Schnelles Unrecht ist kein Fortschritt.
Die Verankerung des Einsatzes künstlicher Intelligenz in der gesamten britischen Strafverfolgung wird jede Anonymität im öffentlichen Raum abschaffen und durch permanente Identifizierbarkeit ersetzen. Jede Reise wird nachvollziehbar, jedes Treffen aufzeichnungsfähig, jede Abweichung von der Norm potenziell verdächtig. Ja, dies geschieht bereits im Rahmen polizeilicher Ermittlungen – jedoch, um die Bewegungen und Verhaltensweisen identifizierbarer Verdächtiger festzustellen, nicht um die gesamte Bevölkerung allgemein zu überwachen.
Dies ist keine Polizeiarbeit mit Zustimmung im Sinne der ursprünglichen Peelian Principles; es ist Polizeiarbeit durch Omnipräsenz – und anders als beim Ansehen eines Hollywoodfilms werden wir nicht einfach aufstehen und gehen können, wenn es uns nicht gefällt.
