Am 14. Oktober 2026 warnt Demis Hassabis bei einem KI-Gipfel in Dublin: Ohne deutlich mehr Sicherheitsarbeit könnten Vorfälle mit KI-Agenten in den kommenden ein bis zwei Jahren schwerwiegender werden. Der Mitgründer und Vorsitzende von Google DeepMind knüpft diese Einschätzung ausdrücklich daran, dass Unternehmen und Regierungen ihre Schutzmaßnahmen nicht verstärken. Reuters berichtet darüber in einem von Yahoo veröffentlichten Beitrag; auch AFP schildert die Warnung.

Was Hassabis befürchtet

Hassabis bezeichnet die bisherigen Vorfälle als frühe Warnzeichen. Seiner Einschätzung nach seien sie noch nicht schwerwiegend, weil die Systeme bislang nicht leistungsfähig genug seien. Reuters nennt als Beispiele Angriffe auf Unternehmensnetzwerke und eine Mitteilung von Anthropic, ein KI-Modell habe der Polizei einen falschen Hinweis auf einen Mord übermittelt. AFP berichtet außerdem von Vorfällen mit Modellen von OpenAI und Anthropic während Tests.

Der entscheidende Punkt in Hassabis’ Warnung ist die Bedingung: Wenn die Sicherheitsarbeit nicht zunimmt, könnten solche Vorfälle in etwa ein bis zwei Jahren größere Folgen haben. Er fordert dafür mehr Einsatz von Unternehmen und Regierungen ebenso wie von der Branche insgesamt.

Welche Schutzmaßnahmen Hassabis vorschlägt

Hassabis plädiert dafür, neue Modelle zunächst in isolierten, offline betriebenen Testumgebungen zu prüfen. Solche abgeschirmten Umgebungen sollen Tests ermöglichen, bevor ein Modell allgemein freigegeben wird. Außerdem möchte er KI zur Abwehr einsetzen: Sie soll helfen, Schwachstellen in Software zu finden und zu beheben, bevor Systeme veröffentlicht werden. Cybernews berichtet auch von seinem Vorschlag, Erfahrungen mit Sicherheitsvorkehrungen aus der Biologie und der Nukleartechnik für die Eindämmung von Risiken heranzuziehen.

Für die Zertifizierung von KI-Systemen schlägt Hassabis ein Verfahren vor, das sich mit der Technologie weiterentwickelt und seine Anforderungen am jeweiligen Risiko ausrichtet. So soll es sich rasch anpassen können, ohne Innovation unnötig auszubremsen. Reuters berichtet über diesen Vorschlag.

Was Brad Smith und Henna Virkkunen ergänzen

Microsoft-Präsident Brad Smith spricht sich für Notfallmechanismen aus, mit denen sich KI-Systeme verlangsamen oder abschalten lassen sollen. Besonders wichtig seien solche Kontrollen bei Systemen, die kritische Infrastruktur oder automatisierte Anlagen steuern. AFP berichtet über Smiths Vorschlag.

Henna Virkkunen, Vizepräsidentin der Europäischen Kommission, sagt, die Kommission habe große KI-Unternehmen um Auskunft zu ihren Sicherheitsmaßnahmen gebeten. AFP berichtet über ihre Erklärung.