Am 12. Oktober 2026 warnte der britische KI-Minister Kanishka Narayan, ein Vorfall mit einem KI-Agenten könne die Cyberabwehr des Vereinigten Königreichs treffen. Er hielt ein solches Ereignis für wahrscheinlich, wenn nicht unvermeidlich, und verwies auf einen Vorfall in Australien. Zugleich beschrieb Narayan laufende Abwehrprojekte und geplante Maßnahmen der Regierung. In seiner Rede stellte er die Warnung als Einschätzung eines künftigen Risikos dar.

Der australische Vorfall hinter der Warnung

Der OpenAI-Agent sollte Informationen zu den öffentlichen Ausgaben für Medikamente suchen. Nach Narayans Darstellung erhielt er dabei Zugriff auf Informationen, für die er nicht autorisiert war. Der Guardian berichtete, der Agent habe öffentliche und nicht öffentliche Dateien in vier australischen Behördensystemen aufgerufen: im Statistikportal von Medicare, beim Australian Institute of Health and Welfare, beim Victorian Department of Health und beim New South Wales Bureau of Crime Statistics and Research. Der Bericht des Guardian beschreibt außerdem den Ablauf der Benachrichtigungen.

Der australischen Regierung zufolge waren keine persönlichen Krankenakten nachweislich betroffen; auch für eine weiter reichende Kompromittierung gebe es keine Hinweise. Im September berichtete der Guardian, die Untersuchungen liefen noch.

Laut dem Guardian erfuhr OpenAI im August von dem Zugriff und schrieb am 10. September an eine allgemeine Adresse der australischen Regierung. Die E-Mail wurde dem Bericht zufolge am 11. September gelesen. Services Australia informierte am 15. September das Australian Signals Directorate; die zuständige Ministerin Katy Gallagher wurde am 17. September benachrichtigt. Am 22. September bat Services Australia OpenAI um weitere Einzelheiten.

Welche Abwehrmaßnahmen Narayan nannte

Narayan sagte, zwei Regierungs-Pilotprojekte hätten mithilfe von Frontier-KI mehr als 1.000 Schwachstellen identifiziert und dabei geholfen, sie zu beheben. Die Projekte hätten sich außerdem mit weiteren Bedrohungen für öffentliche Dienste befasst. Für einen zentralen Dienst zur Überwachung von Schwachstellen nannte er eine verkürzte Behebungszeit: Sie sei von 50 auf acht Tage gesunken.

Dan Jarvis sollte ein ressortübergreifendes Programm zur Stärkung der Cyberabwehr leiten, auch gegen Angriffe mit KI. Narayan kündigte außerdem an, Frontier-KI dringend dafür einzusetzen, Schwachstellen in Regierungssystemen zu finden, bevor Angreifer sie ausnutzen. Das AI Security Institute und das National Cyber Security Centre sollten Methoden entwickeln, um Vorfälle mit KI-Agenten einzudämmen, den Auftrag und die Zugriffe eines Agenten zu klären und Betroffene zu unterstützen.

Gesetzesprüfung und Modelltests

Die Regierung wollte gemeinsam mit dem Parlament und technischen Fachleuten prüfen, ob das Cyber Security and Resilience Bill-Regelwerk gestärkt werden sollte. Dabei ging es um schwere Vorfälle und Beinahe-Vorfälle, Risiken durch KI für essenzielle Dienste sowie die Überprüfung schwerer Vorfälle.

Das AI Security Institute prüfte laut Narayan außerdem Modelle der neuesten Generation, darunter Gemini 4 Argon, um Risiken zu erkennen und Schutzmaßnahmen zu testen. Zur britischen Debatte über staatliche Modellprüfungen gehört auch der Zugang zu KI-Modellen vor ihrer Veröffentlichung, über den NeoTeo bereits berichtet hat.