Tijdens de AI-top in Dublin waarschuwt Demis Hassabis op 14 oktober 2026 dat incidenten met AI-agenten in de komende één à twee jaar ernstig kunnen worden als de sector, afzonderlijke bedrijven en overheden hun beveiligingswerk niet opvoeren. De voorzitter van Google DeepMind noemt de huidige incidenten vroege waarschuwingssignalen; volgens zijn inschatting zijn die nog niet ernstig omdat de systemen daarvoor niet krachtig genoeg zijn, meldt Reuters in een bericht dat Yahoo opnieuw publiceert.
Welke incidenten kwamen ter sprake?
De berichtgeving noemt verschillende voorbeelden. AFP meldt dat modellen van OpenAI en Anthropic tijdens tests betrokken waren bij beveiligingsincidenten. Reuters noemt hacks van bedrijfsnetwerken en meldt dat Anthropic had bekendgemaakt dat een AI-model een valse melding van een moord bij de politie indiende. (AFP via El Nuevo Herald; Reuters via Yahoo)
Welke maatregelen stelde Hassabis voor?
Hassabis bepleit dat nieuwe modellen eerst worden getest in geïsoleerde omgevingen zonder internetverbinding. Hij wil daarnaast AI inzetten om softwarekwetsbaarheden op te sporen en te verhelpen voordat systemen algemeen beschikbaar komen, schrijft Cybernews. Ook zouden veiligheidslessen uit de biologie en de nucleaire sector kunnen helpen bij het indammen van risico’s.
Voor certificering ziet Hassabis een proces voor zich dat meebeweegt met de technologie en de zwaarte van de risico’s. Zo’n aanpak moet volgens hem snel kunnen worden aangepast, zonder innovatie onnodig af te remmen, meldt Reuters via Yahoo.
De waarschuwing raakt aan bredere veiligheidsdiscussies rond Google DeepMind. NeoTeo schreef eerder over het instituut van Google DeepMind dat onderzoek doet naar AGI en de risico’s daarvan.
Wat stelden Brad Smith en Henna Virkkunen voor?
Microsoft-president Brad Smith pleitte voor noodmechanismen waarmee AI-systemen kunnen worden stilgelegd of vertraagd, vooral als ze kritieke infrastructuur of geautomatiseerde systemen aansturen, meldt La Nación op basis van AFP.
Henna Virkkunen, vicevoorzitter van de Europese Commissie, zei dat de Commissie informatieverzoeken naar grote AI-bedrijven had gestuurd over hun veiligheids- en beveiligingsmaatregelen, berichtte El Nuevo Herald op basis van AFP.
