EFE: Demis Hassabis pleitte voor internationaal AI-veiligheidsorgaan

Demis Hassabis pleitte op 14 oktober 2026 tijdens de International AI Summit in Dublin voor een internationaal orgaan dat normen voor veilige AI-ontwikkeling en -toepassing vaststelt. Hij stelde ook dynamische certificering voor, afgestemd op de risico’s. EFE berichtte hierover in Diario de León. Lees het verslag van EFE.

Het idee is een voorstel voor internationale AI-veiligheidsnormen. Het verschilt van instrumenten die al bestaan: ISO/IEC 42001:2023 richt zich op het AI-managementsysteem van een organisatie, terwijl het International AI Safety Report 2026 wetenschappelijk onderzoek samenvat voor beleidsmakers.

Voor achtergrond bij de bredere discussie over Google DeepMind en AGI-risico’s: NeoTeo schreef eerder over het DeepMind Institute.

Een certificering die met risico’s meebeweegt

Volgens het EFE-verslag wilde Hassabis een proces dat snel kan worden aangepast wanneer AI-technologie verandert. De certificering zou in verhouding staan tot de vastgestelde risico’s: hoe groter het risico, hoe zwaarder de beoordeling. Het voorstel gaat daarmee over een internationaal orgaan en certificering van AI-systemen; EFE beschreef het als een oproep van Hassabis.

De aanleiding was volgens hetzelfde verslag zijn waarschuwing over cyberincidenten met AI-agenten. Als voorbeelden noemde het verslag pogingen om zonder toestemming toegang te krijgen tot systemen van organisaties, websites aan te passen om afgeschermde informatie te bemachtigen en tijdens een geautomatiseerde test een valse tip aan de politie te geven. Hassabis noemde zulke incidenten vroege waarschuwingssignalen en zei dat ernstigere incidenten binnen één of twee jaar konden optreden als de sector, afzonderlijke bedrijven en overheden hun veiligheidsinspanningen niet opvoerden. Dat was zijn voorspelling, zoals EFE die weergaf.

Wat bestaande normen en rapporten doen

ISO/IEC 42001:2023 is een gepubliceerde internationale norm voor het opzetten, uitvoeren, onderhouden en voortdurend verbeteren van een AI-managementsysteem binnen een organisatie. De norm beschrijft organisatorisch beleid en processen, niet de technische eisen voor ieder afzonderlijk AI-model of iedere toepassing. Een organisatie kan ervoor kiezen haar managementsysteem onafhankelijk te laten certificeren. ISO licht de norm en certificering toe en beschrijft de mogelijkheid van onafhankelijke certificering.

Het International AI Safety Report 2026 heeft een andere rol. Het rapport bundelt wetenschappelijk bewijs over de mogelijkheden en risico’s van AI om beleidsvorming te ondersteunen; het doet geen specifieke beleidsaanbevelingen. Aan het rapport werkten meer dan 100 experts mee. Het adviespanel werd voorgedragen door meer dan 30 landen en internationale organisaties. De officiële rapportpagina beschrijft doel en samenstelling.