Seymour Hersh

Ich bin in letzter Zeit viel gereist und habe letzte Woche in Venedig eine Architekturausstellung besucht, die ein preisgekröntes Projekt namens Calculating Empires feierte, entwickelt von zwei Akademikern: Kate Crawford von der USC Annenberg und Microsoft Research sowie Vladan Joler von der Universität Novi Sad in Serbien.

Ihre Ausstellung, die sich über Dutzende von großen Tafeln erstreckte, zeigte das Wachstum von Technologie und Macht seit 1500.

Sie zeichnete die Geschichte der Waffen nach – vom Schießpulver bis zur Atombombe und darüber hinaus zu Mikrodrohnen und autonomer Cyberkriegsführung. Die Botschaft, die ich daraus zog – und es war unmöglich, sie nicht zu ziehen –, war, dass die Muster der Vergangenheit, wenn es keine grundlegende Veränderung des menschlichen Verhaltens gibt, unweigerlich in einen totalen Atomkrieg münden könnten. Beängstigendes Zeug.

Ich erfuhr auch, dass Kate Crawford eine der frühen Wissenschaftlerinnen war, die sich mit künstlicher Intelligenz beschäftigten und vor den Gefahren dieser Technologie in den falschen Händen warnten. Im Jahr 2021 veröffentlichte sie Atlas of AI bei Yale University Press. Es ist eine Geschichte und Analyse der künstlichen Intelligenz, die – so wie ich sie lese – als dringende Warnung gedacht war, dass KI viel zu schnell unter Amerikas Milliardären und Militärs Fuß gefasst hat, die damit versuchen, die Weltwirtschaft neu zu formen und zu dominieren.

Crawfords Buch ist dicht, aber gut lesbar. Sie argumentiert, dass die Kontrolle über KI nicht, wie bisher, in den Händen pensionierter amerikanischer Generäle und Milliardäre liegen sollte, deren oberstes Ziel es ist, die enorme Macht der Spitzentechnologie zur Verbesserung von Waffen einzusetzen und dabei enorme Profite einzustreichen.

„Weder künstlich noch intelligent“

Am verblüffendsten ist für mich Crawfords Behauptung, dass KI „weder künstlich noch intelligent“ sei. [Ihre Betonung.] Sie schreibt:

„Vielmehr ist künstliche Intelligenz sowohl verkörpert als auch materiell, gemacht aus natürlichen Ressourcen, Brennstoff, menschlicher Arbeit, Infrastrukturen, Logistik, Geschichten und Klassifikationen. KI-Systeme sind nicht autonom, rational oder in der Lage, irgendetwas zu erkennen, ohne intensive, rechenaufwändige Trainings mit großen Datensätzen oder vordefinierten Regeln und Belohnungen. Tatsächlich hängt die künstliche Intelligenz, wie wir sie kennen, von einem viel breiteren Gefüge politischer und sozialer Strukturen ab. Und aufgrund des Kapitals, das zum Aufbau von KI im großen Maßstab erforderlich ist, und der Perspektiven, die sie optimiert, sind KI-Systeme letztlich so konzipiert, dass sie bestehenden dominanten Interessen dienen. In diesem Sinne ist künstliche Intelligenz ein Register der Macht.“

Crawford macht deutlich, dass KI nicht nur ein technisches Feld ist, sondern auch soziale und wirtschaftliche Konsequenzen mit sich bringt. Auf einer „grundlegenden Ebene“, schreibt sie, „ist KI technische und soziale Praktiken, Institutionen und Infrastrukturen, Politik und Kultur. Rechnerische Logik und verkörperte Arbeit sind tief miteinander verknüpft. KI-Systeme spiegeln und erzeugen sowohl soziale Beziehungen als auch Weltverständnisse.“

Begriffsdebatten: KI vs. Maschinelles Lernen

Sie merkt an, dass der Begriff „künstliche Intelligenz“ in der Informatikgemeinschaft Unbehagen auslösen könne. Der Ausdruck war über die Jahrzehnte hinweg mal in, mal out – und wird heute häufiger im Marketing als in der Forschung benutzt.

„Maschinelles Lernen“ sei in der Fachliteratur gebräuchlicher.

Crawford erklärt, dass der Begriff „KI“ meist dann verwendet werde, wenn Forscher „Presseaufmerksamkeit für ein neues wissenschaftliches Ergebnis suchen“ oder „wenn Risikokapitalgeber mit ihren Scheckbüchern auftauchen.“

„Das Ergebnis ist, dass der Begriff sowohl verwendet als auch abgelehnt wird – auf Weisen, die seine Bedeutung im Fluss halten. […] Ich benutze ‚KI‘, um über die massive industrielle Formation zu sprechen, die Politik, Arbeit, Kultur und Kapital umfasst. Wenn ich von maschinellem Lernen spreche, meine ich eine Reihe technischer Ansätze (die in Wahrheit ebenfalls sozial und infrastrukturell sind, auch wenn selten so darüber gesprochen wird).“

KI ist zutiefst politisch

Das Kernargument von Crawfords Buch lautet: KI ist im Wesentlichen politisch – auf eine Weise, die den meisten Nutzern verborgen bleibt.

Sie erklärt:

„Es gibt erhebliche Gründe, warum das Feld so stark auf das Technische fokussiert ist – algorithmische Durchbrüche, inkrementelle Produktverbesserungen und größere Bequemlichkeit. Die Machtstrukturen an der Schnittstelle von Technologie, Kapital und Governance profitieren von dieser engen, abstrahierten Analyse. Um zu verstehen, wie KI grundlegend politisch ist, müssen wir über neuronale Netze und statistische Mustererkennung hinausgehen und stattdessen fragen, was optimiert wird, und für wen, und wer entscheidet. Dann können wir die Implikationen dieser Entscheidungen nachzeichnen.“

Vorschau

In der kommenden Woche werde ich über die ökologischen und sozialen Kosten der stetig expandierenden KI-Einrichtungen schreiben. Ein dritter Teil wird sich mit den amerikanischen Milliardären befassen, die sich die Kontrolle über die KI-Welt gesichert haben – wer sie sind und was sie wollen, wie Crawford es einschätzt.