Le 14 octobre 2026, au sommet sur l’IA de Dublin, Demis Hassabis avertit que des agents d’IA pourraient provoquer des incidents graves d’ici un à deux ans si les entreprises et les gouvernements ne renforcent pas leurs mesures de sécurité. Cette prévision conditionnelle du président de Google DeepMind est rapportée par l’AFP dans un récit publié par ABC Color.
Hassabis estime que les incidents de perte de contrôle observés jusque-là n’ont pas été graves, à ses yeux, mais qu’ils constituent des signaux d’alerte.
Tester les nouveaux modèles dans un bac à sable
Hassabis recommande de tester d’abord les nouveaux modèles dans des bacs à sable hors ligne : des environnements isolés, sans accès à Internet. L’idée est de mettre les modèles à l’épreuve avant de leur donner accès à des outils ou à des systèmes connectés.
Les contrôles internes décrits par Google DeepMind
Dans son AI Control Roadmap, publiée le 18 juin 2026, Google DeepMind décrit une approche de défense en plusieurs couches pour ses agents internes. Elle combine des mesures de sécurité classiques, le suivi du comportement, des autorisations accordées progressivement selon les comportements vérifiés et des superviseurs d’IA de confiance.
La réponse dépend du risque : les actions réversibles jugées peu risquées peuvent faire l’objet d’un examen différé et de mesures correctives ; pour les actions particulièrement risquées, comme une cyberattaque majeure, l’entreprise décrit une prévention en temps réel. Google DeepMind évalue son dispositif de surveillance à l’aide de trois indicateurs : la couverture du trafic surveillé, le rappel — la part des comportements problématiques détectés — et le délai de réponse. L’entreprise détaille cette feuille de route et ses contrôles.
Google DeepMind indique aussi que son prototype a analysé un million de tâches d’agents de programmation et contribué à la mise au point d’un moniteur en direct pour l’agent Gemini Spark. L’entreprise rapporte que la plupart des événements signalés dans ses données relevaient d’une mauvaise interprétation ou d’un excès de zèle, plutôt que d’une intention hostile.
Détournement d’objectif, agents incontrôlés et mémoire empoisonnée
Dans son explication générale de la sécurité des agents, Jeff Crume, d’IBM Technology, présente leur architecture comme l’association d’un modèle, d’outils et d’une boucle d’exécution. Il aborde notamment le détournement d’objectif, les agents incontrôlés et l’empoisonnement de la mémoire. La vidéo est en anglais.
