Gesichtserkennung, Tracking, chinesische Technik: Ein neuer Report zeigt, wie rasant staatliche Überwachung wächst – ohne Belege für mehr Sicherheit.
Die Sorge vor der Möglichkeit KI-gestützter Massenüberwachung ist der Hintergrund der Auseinandersetzung zwischen dem Pentagon und dem KI-Unternehmen Anthropic.
Nachdem das Pentagon Druck auf Anthropic ausgeübt hatte, seine Sicherheitseinschränkungen fallen zu lassen, weigerte sich das Unternehmen aus Sorge, dass ihre KI zur flächendeckenden Überwachung der eigenen Bevölkerung und für den Einsatz in Waffensystemen ohne menschliches Eingreifen genutzt werden könnte.
OpenAI nutzte die Gunst der Stunde und erhielt den Zuschlag des Pentagons. Dabei gestand Open AI-Chef Sam Altman ein, dass die Nutzung der eigenen KI durch das Verteidigungsministerium nicht kontrolliert werden könne.
Als Konsequenz der Entscheidung kündigte die ranghohe Managerin von OpenAI Caitlin Kalinowski. Währenddessen hat die US-Regierung entschieden, Anthropic zukünftig als Strafe bei der Vergabe von Aufträgen für die Regierung auszuschließen, woraufhin die Firma die Regierung nun verklagt hat.
Ein Blick nach Afrika
Vor diesem Hintergrund, der offenbart, mit welcher Härte um die Vormachtstellung der KI und deren Nutzung gerungen wird – ohne jede gesellschaftliche und parlamentarische Debatte – ist der aktuelle Report des britischen Institute of Development Studies über die Ausbreitung KI-unterstützter Massenüberwachung in Afrika brisant.
Elf afrikanische Länder wurden untersucht: Ägypten, Algerien, Kenia, Mauritius, Mosambik, Nigeria, Ruanda, Sambia, Senegal, Uganda und Zimbabwe. In allen Ländern wird KI-gestützte Massenüberwachung eingesetzt.
Ausgaben für Gesichtserkennungstechnologien und Fahrzeugttracking belaufen sich auf über zwei Milliarden US-Dollar, wobei die tatsächliche Summe deutlich höher liegen dürfte, weil viele Investitionen geheim sind und in zwei Ländern überhaupt keine offiziellen Zahlen vorliegen.
Allein Nigeria hat über 470 Millionen US-Dollar für KI-unterstützte Gesichtserkennung und automatische Nummernschilderkennung ausgegeben.
Der mit Abstand größte Lieferant von KI-Überwachungstechnologien an afrikanische Regierungen ist China. Chinesische Unternehmen verkaufen die Technologie häufig als Gesamt-Paket, das CCTV-Systeme, Gesichtserkennung, biometrische Datenerfassung und Kameras zur Verfolgung von Fahrzeugbewegungen umfasst. Oftmals wird der Kauf durch Kredite von chinesischen Banken finanziert.
Verhältnismäßigkeit
Gemeinhin werden die Ausgaben mit dem Wunsch begründet, die Kriminalität zu senken und Terrorismus zu verhindern. Der Co-Autor des Reports, Wairagala Wakabi, warnt aber:
„Diese groß angelegte und invasive KI-unterstützte Überwachung öffentlicher Räume ist weder ‚legal, notwendig noch verhältnismäßig‘ im Hinblick auf das legitime Ziel der Gewährleistung von Sicherheit. Die Geschichte zeigt uns, dass dies das neueste Instrument ist, mit dem Regierungen in die Privatsphäre der Bürger eingreifen und die Bewegungs- und Meinungsfreiheit einschränken.“
Verbrechensbekämpfung
Inwiefern das eigentliche Ziel der KI-unterstützten Massenüberwachung tatsächlich die Verbrechens- und Terrorbekämpfung ist, darf bezweifelt werden. Der Report stellt fest, dass die Massenüberwachung sogar in Ländern durchgeführt wird, „die weder einer terroristischen Bedrohung noch schwerer Kriminalität ausgesetzt sind“.
Ein besonders gravierender Punkt des Reports:
„Wir haben keine Hinweise darauf gefunden, dass KI-gestützte Überwachung in Afrika zu einem Rückgang von Terrorismus oder Schwerverbrechen geführt hat. Während die rasante Zunahme der staatlichen Überwachung der Bürger häufig als Sicherheitsmaßnahme gerechtfertigt wird, haben wir in unserer Untersuchung keine Hinweise darauf gefunden, dass die Überwachung zu einer Zunahme der Verurteilungen von Terroristen oder Schwerverbrechern geführt hat.“
Freiheit
Die Konsequenz auf die Bevölkerung sieht der Report kritisch:
„Die rasante Ausweitung der Überwachung (…) hat einen ‚abschreckenden Effekt‘, der Bürger und Journalisten zur Selbstzensur veranlasst, die effektive Freiheit einschränkt, die Wahrheit gegenüber den Machthabern auszusprechen und Regierungen zur Rechenschaft zu ziehen, und die Bewegungs- und Vereinigungsfreiheit einschränkt.“
Yosr Jouini Roberts, Co-Autorin des Reports, weist darauf hin, dass die Massenüberwachung Menschen daran hindern könnten, ihr Demonstrationsrecht in Anspruch zu nehmen:
„Wir wissen, dass viele Demonstranten bei öffentlichen Versammlungen festgenommen wurden. Wir wissen nicht mit Sicherheit, ob dies aufgrund der Kameras geschah, aber es hat eine abschreckende Wirkung – weil es passieren könnte – auf die Bereitschaft der Menschen, an öffentlichen Versammlungen teilzunehmen.“
Proteste
Tatsächlich kommt ein Bericht im Journal of Human Rights Practise im Jahr 2023 zum Schluss:
„Auf der Grundlage empirischer Untersuchungen in Simbabwe und Uganda wird aufgezeigt, wie staatliche Überwachung das Verhalten der Menschen einschränkt, was erhebliche Auswirkungen auf Rechte hat, die für die individuelle Entwicklung und das Funktionieren der Demokratie von wesentlicher Bedeutung sind, insbesondere das Recht auf freie Meinungsäußerung und das Recht auf Versammlungsfreiheit.“
Ein Bericht von Amnesty International weist auf die Rolle der Technik hin, die die kenianische Regierung während der Proteste im Jahr 2024 und 2025 eingesetzt hat:
„Die kenianischen Behörden reagierten (…) mit gewaltsamen Maßnahmen gegen junge Menschen, die ihr Recht auf freie Meinungsäußerung und friedliche Versammlung ausübten, indem sie sie online einschüchterten, bedrohten, zu Hass aufstachelten und unrechtmäßig überwachten. Prominente Stimmen in den sozialen Medien wurden verhaftet oder verschwanden gewaltsam.“
Schätzungen zufolge kam es zu mindestens 3.000 willkürliche Verhaftungen, 83 Fällen von Verschleppungen und 128 Morden.
Auf der Suche nach der Balance
Bulelani Jili, Assistenzprofessor an der Georgetown University, betonte gegenüber dem Guardian:
„Die eigentliche Herausforderung besteht (…) nicht einfach darin, ob die Überwachung reguliert wird, sondern wie Gesellschaften das Gleichgewicht zwischen Sicherheit, Rechenschaftspflicht und bürgerlichen Freiheiten aushandeln, sobald diese Technologien tiefgreifend institutionalisiert sind.“