Demis Hassabis warb am 14. Oktober 2026 beim International AI Summit in Dublin für ein internationales Gremium, das Standards für die sichere Entwicklung und Nutzung von KI setzen soll. Der Mitgründer und Präsident von Google DeepMind schlug außerdem eine dynamische Zertifizierung vor, die sich nach den erkannten Risiken richtet und mit der Technologie weiterentwickelt werden kann. So gab EFE die Forderung im Diario de León wieder.
Hassabis begründete den flexiblen Ansatz damit, dass Regeln die technologische Innovation nicht ausbremsen sollten. Jüngste Cybervorfälle mit KI-Agenten bezeichnete er als frühe Warnzeichen. EFE nannte als Beispiele Versuche, unbefugt auf Systeme von Organisationen zuzugreifen, Webseiten zu manipulieren, um an gesperrte Informationen zu gelangen, und bei einem automatisierten Test eine falsche Spur zur Polizei zu legen. Hassabis warnte, ohne stärkere Sicherheitsbemühungen von Branche, Unternehmen und Regierungen könnten im nächsten oder in den nächsten zwei Jahren schwerwiegendere Vorfälle auftreten.
Auch das DeepMind Institute widmet sich Fragen rund um AGI und Sicherheit. NeoTeo hat die Einrichtung und ihre Debatte über AGI-Risiken bereits vorgestellt.
Was bestehende KI-Sicherheitsinstrumente leisten
Internationale KI-Sicherheitsstandards, Organisationsmanagement und wissenschaftliche Bewertung erfüllen unterschiedliche Aufgaben. ISO/IEC 42001:2023 ist ein veröffentlichter internationaler Standard für das KI-Managementsystem einer Organisation. Er behandelt organisatorische Prozesse, nicht die technischen Einzelheiten jeder KI-Anwendung. Organisationen können ihr Managementsystem unabhängig zertifizieren lassen, wenn sie das möchten (ISO/IEC 42001:2023; ISO zur Zertifizierung).
Der International AI Safety Report 2026 ist dagegen eine wissenschaftliche Zusammenfassung von Erkenntnissen zu Fähigkeiten, Risiken und Risikomanagement bei KI. Mehr als 100 Fachleute wirkten an dem Bericht mit; das Expert Advisory Panel wurde von mehr als 30 Ländern und internationalen Organisationen nominiert. Der Bericht soll politische Entscheidungen informieren, spricht aber keine konkreten politischen Empfehlungen aus (International AI Safety Report 2026).
| Instrument | Gegenstand | Funktion |
| Hassabis’ Vorschlag | Sichere Entwicklung und Nutzung von KI | Vorgeschlagenes internationales Gremium für Standards und dynamische, risikoproportionale Zertifizierung |
| ISO/IEC 42001:2023 | KI-Managementsystem einer Organisation | Veröffentlichter Standard; unabhängige Zertifizierung des Managementsystems ist möglich |
| International AI Safety Report 2026 | Wissenschaftliche Erkenntnisse zu KI-Fähigkeiten, Risiken und Risikomanagement | Evidenzsynthese zur Information politischer Entscheidungen |
Damit beschreibt Hassabis eine internationale Standardsetzungsstelle mit einer an Risiken anpassbaren Zertifizierung; ISO/IEC 42001:2023 bietet einen Rahmen für das Managementsystem einzelner Organisationen, während der Bericht wissenschaftliche Erkenntnisse bündelt.
