Geschwindigkeit wird gegenüber kritischer Prüfung priorisiert: KI-generierte Modelle sollen Eingriffe rechtfertigen, noch bevor sie sinnvoll hinterfragt werden können.
Jon Fleetwood
Das US-Militär finanziert Systeme künstlicher Intelligenz (KI), die darauf ausgelegt sind, die Modellierung viraler Ausbrüche drastisch zu beschleunigen – ein Prozess, der normalerweise Wochen dauert, soll auf wenige Tage komprimiert und anschließend genutzt werden, um reale Interventionen zu steuern.
Mit anderen Worten: Je schneller das Modell, desto weniger Zeit bleibt, um überhaupt zu hinterfragen, ob die Reaktion gerechtfertigt ist.
Diese Beschleunigung folgt auf DARPA-Programme zur Pandemie-Infrastruktur aus der Zeit vor COVID, die bereits dokumentiert sind und darauf abzielen, digitale genetische Sequenzen in synthetisierte Viren und massenproduzierte mRNA-Gegenmaßnahmen innerhalb eines festen Zeitplans umzuwandeln.
DARPAs erklärtes Problem: Pandemie-Modelle waren fragil, intransparent und langsam
Laut einer Science-Veröffentlichung aus dem Dezember:
Als sich SARS-CoV-2 im Jahr 2020 über den gesamten Planeten ausbreitete, bemühten sich Epidemiologen, seine Ausbreitung – und seine tödlichen Folgen – vorherzusagen. Häufig griffen sie auf Modelle zurück, die nicht nur die Virusübertragung und Hospitalisierungsraten simulieren, sondern auch die Auswirkungen von Interventionen vorhersagen können: Masken, Impfstoffe oder Reisebeschränkungen.
Doch abgesehen davon, dass sie rechenintensiv sind, können Modelle in der Epidemiologie und anderen Disziplinen Black Boxes sein: Millionen von Zeilen alter Codebasis, die von Betreibern an Forschungseinrichtungen auf der ganzen Welt mit empfindlichen Feinjustierungen versehen werden. Sie liefern nicht immer klare Orientierung. „Die Modelle, die verwendet werden, sind oft ziemlich fragil und nicht erklärbar“, sagt Erica Briscoe, die Programmdirektorin für das Projekt Automating Scientific Knowledge Extraction and Modeling (ASKEM) bei der Defense Advanced Research Projects Agency (DARPA) war.
Die eigene Programmdirektorin der Defense Advanced Research Projects Agency (DARPA) räumt damit ein, dass die Modelle, die die Reaktionen während der COVID-Ära steuerten, anfällig und schwer interpretierbar waren.
Das bedeutet: Nach COVID versucht man nicht, modellgetriebene Politik zu verlangsamen oder einzuschränken.
Man versucht vielmehr, dieselbe Entscheidungsmaschinerie schneller laufen zu lassen.
Es gebe ein „echtes Potenzial“, die Modellerstellung während eines Ausbruchs zu beschleunigen, sagt Mohsen Malekinejad, Epidemiologe an der University of California San Francisco, der bei der Bewertung der ASKEM-Produkte half. „In einer Pandemie ist Zeit immer unsere größte Einschränkung. Wir müssen die Informationen haben. Und wir müssen sie schnell haben“, sagt er. „Wir haben schlicht nicht genügend datenkompetente Modellierer für jedes einzelne Auftreten oder jede unterschiedliche Art von Bedarf im öffentlichen Gesundheitswesen.“
Das Programm: KI-generierte Ausbruchsmodelle auf Abruf
„Das 2022 gestartete Programm mit einem Volumen von 29,4 Millionen US-Dollar zielt darauf ab, KI-basierte Werkzeuge zu entwickeln, die die Modellerstellung einfacher, schneller und transparenter machen.“
DARPA hat eine Infrastruktur finanziert, die die Modellierung von Ausbrüchen standardisiert und beschleunigt.
Der Schwerpunkt liegt auf Geschwindigkeit, Reproduzierbarkeit und Nutzbarkeit durch Nicht-Spezialisten, sodass politisch relevante Modelle schnell erzeugt werden können – selbst dann, wenn die zugrunde liegenden Annahmen unvollständig oder umstritten sind.
Wie es funktioniert: Fachartikel & Notebooks → Gleichungen → Modelle
„Die KI-Werkzeuge des Programms automatisieren diese Programmierung und ermöglichen es Forschern, Modelle auf einer höheren Abstraktionsebene zu konstruieren, zu aktualisieren und zu kombinieren.“
Indem ein Großteil der technischen Reibung bei der Modellerstellung entfernt wird, erleichtern diese Werkzeuge die Erzeugung von Ausbruchsmodellen, die institutionelles Gewicht tragen – selbst dann, wenn die wissenschaftliche Grundlage dünn oder unsicher ist.
„ASKEM-Teams entwickelten KI-Systeme, die wissenschaftliche Literatur aufnehmen … und die Gleichungen und das Wissen extrahieren können, die erforderlich sind, um ein bestimmtes Modell zu erstellen oder zu aktualisieren.“
Wissenschaftliche Literatur wird direkt in wiederverwendbare Modellkomponenten umgewandelt, wodurch maschinell interpretierte Forschungsergebnisse schnell in Entscheidungsrahmen überführt werden können.
„Ein ASKEM-Projekt entwickelte eine Methode, um diese Notebooks zu verarbeiten, die zugrunde liegenden mathematischen Beschreibungen zu extrahieren und sie in ein Modell zu überführen.“
Informelle Überlegungen und explorative Notebook-Arbeit können so mit hoher Geschwindigkeit in einsatzfähige Modelle überführt werden, wodurch der Abstand zwischen vorläufigem Denken und autoritativen Ergebnissen schrumpft.
Interventionsfokussierte Modellierung
„Das resultierende Modell integrierte die unterschiedlichen Übertragungs- und saisonalen Muster der Viren und bewertete zugleich die Auswirkungen von Interventionen wie Maskentragen und Tests.“
Das System ist darauf ausgelegt, Interventionsszenarien parallel zur Krankheitsdynamik zu bewerten und politische Erwägungen direkt in den Modellierungsprozess einzubetten.
„Tester wurden gebeten, die Auswirkungen einer Impfkampagne auf die Kosten von Krankenhausaufenthalten wegen Hepatitis A bei obdachlosen Drogenkonsumenten in einem Bundesstaat zu modellieren.“
Diese Werkzeuge sind auf angewandte Regierungsfragen ausgerichtet – Kosten, Zielgruppen und Kampagnenwirkung – und nicht auf rein beschreibende Epidemiologie.
Die Geschwindigkeitsbehauptung: 83 % schneller
„In den Endergebnissen stellten die Tester fest, dass die ASKEM-Werkzeuge im Vergleich zu Standard-Modellierungsabläufen Modelle um 83 % schneller erstellen konnten.“
Die Modellerstellung ist schnell genug, um in politische und mediale Zeitfenster zu passen, wodurch sich die Möglichkeit externer Überprüfung verringert, bevor Ergebnisse in Handlungen umgesetzt werden.
„Sie waren in der Lage, innerhalb einer 40-Stunden-Arbeitswoche für mehrere Probleme praktisch nutzbare Modelle zu erstellen.“
Sobald Geschwindigkeit nicht mehr der begrenzende Faktor ist, verschiebt sich der Druck hin zu schneller Umsetzung statt sorgfältiger Validierung.
„Transparenz“ als internes Vertrauenssignal
„Aufgrund der erhöhten Transparenz der ASKEM-Modelle stellten die Tester außerdem fest, dass Entscheidungsträger mehr Vertrauen in die Ergebnisse von ASKEM hätten als in jene traditioneller Modelle.“
Hier fungiert „Transparenz“ weniger als Schutzmechanismus, sondern eher als Verstärker des Vertrauens für Entscheidungsträger.
Indem die Modelle so verständlich gemacht werden, dass sie interne Prüfungen bestehen, reduziert das System Reibung innerhalb von Institutionen und ermöglicht es Verantwortlichen, schneller zu handeln, während ungelöste Unsicherheiten weiterhin in den Ergebnissen enthalten sind.
Vorgesehene Nutzer: Gesundheits-, Verteidigungs- und Geheimdienstbehörden
„DARPA arbeitet daran, Behörden oder Programme innerhalb der Gesundheits-, Verteidigungs- und Geheimdienstgemeinschaften zu finden, die ASKEM nutzen möchten.“
Die Modellierung von Ausbrüchen wird als dauerhafte nationale Sicherheitsfähigkeit positioniert und neben Verteidigungs- und Geheimdienstfunktionen integriert, statt als ad-hoc-Maßnahme des öffentlichen Gesundheitswesens behandelt zu werden.
Fazit
DARPA baut ein System auf, das Fachliteratur, Annahmen und explorative Analysen in Ausbruchsmodelle umwandelt – schnell genug, um Interventionen nahezu in Echtzeit zu steuern.
Wenn Geschwindigkeit als primäre Einschränkung betrachtet wird, kollabiert das Zeitfenster für Prüfung, Widerspruch und sinnvolle Infragestellung zwangsläufig, bevor diese Modelle zur Rechtfertigung von Maßnahmen eingesetzt werden.