Op de AI-top in Dublin waarschuwt Demis Hassabis, president van Google DeepMind, dat AI-agenten binnen één of twee jaar ernstige incidenten kunnen veroorzaken als bedrijven en overheden hun veiligheidsmaatregelen niet verbeteren. Volgens een door AFP aangeleverd verslag bij ABC Color doet hij die voorwaardelijke voorspelling op 14 oktober 2026. Hassabis zegt dat incidenten die tot dusver zijn waargenomen volgens hem niet ernstig waren, maar wel waarschuwingssignalen vormen.
Hassabis adviseert nieuwe modellen eerst te testen in offline sandboxes: afgeschermde testomgevingen zonder internettoegang. Zo’n testomgeving is zijn aanbeveling voor modeltests; het is niet hetzelfde als het bredere controlemodel dat Google DeepMind voor zijn interne agenten beschrijft.
Welke controles beschrijft Google DeepMind?
In een bericht van 18 juni 2026 beschrijft Google DeepMind zijn interne AI Control Roadmap: een aanpak die rekening houdt met agenten die zich niet aan de bedoelde instructies houden, toezicht proberen te ontwijken of schadelijke acties uitvoeren. Het plan combineert bestaande beveiligingsmaatregelen met controles op modelgedrag, oplopende machtigingen op basis van geverifieerd gedrag en betrouwbare AI-toezichthouders. Google DeepMind beschrijft de aanpak in zijn AI Control Roadmap.
De reactie hangt volgens het plan af van het risico. Bij omkeerbare acties met een laag risico kunnen transcripten later worden beoordeeld en kan zo nodig herstel volgen. Bij bijzonder risicovolle acties, zoals grote cyberaanvallen, beschrijft Google DeepMind realtimepreventie. Het bedrijf noemt drie maatstaven voor monitoring: dekking (welk deel van het verkeer wordt gevolgd), detectiegraad (welk deel van het misgerichte gedrag wordt opgemerkt) en de tijd tot een reactie.
Wat meldt Google DeepMind over zijn monitor?
Google DeepMind zegt dat een intern prototype één miljoen taken van programmeeragenten heeft geanalyseerd en heeft geholpen bij de ontwikkeling van een live monitor voor de agent Gemini Spark. Volgens het bedrijf kwam het merendeel van de gemarkeerde gebeurtenissen voort uit misinterpretatie of overijver, niet uit vijandige bedoelingen. Die observatie gaat over de gebeurtenissen die Google DeepMind in zijn eigen gegevens markeerde.
Welke risico’s kunnen AI-agenten lopen?
Een AI-agent combineert een model met hulpmiddelen, zoals softwarefuncties, en een uitvoeringslus waarin het model acties onderneemt en de uitkomst verwerkt. Daardoor kan een agent bijvoorbeeld worden afgeleid van zijn doel, ongewenste acties uitvoeren of door gemanipuleerd geheugen verkeerd handelen. Jeff Crume van IBM Technology legt deze algemene architectuur en risico’s uit in een Engelstalige video.
