Lors du sommet sur l’IA qui se tient à Dublin le 14 octobre 2026, Demis Hassabis avertit que des incidents liés aux agents d’IA pourraient devenir majeurs d’ici un à deux ans si les efforts de sécurité ne progressent pas. Le cofondateur et président de Google DeepMind présente ce scénario comme une prévision conditionnelle, rapportée par la dépêche Reuters reprise par Yahoo et par l’AFP.
Un risque conditionné aux efforts de sécurité
Hassabis décrit les incidents évoqués jusque-là comme des signaux d’alerte, estimant que les systèmes n’étaient pas encore assez puissants pour les rendre majeurs. Son horizon d’un à deux ans dépend, selon lui, d’un renforcement des mesures de sécurité par l’industrie, les entreprises et les gouvernements.
La dépêche Reuters reprise par Yahoo cite des piratages de réseaux d’entreprise et rapporte qu’Anthropic a signalé qu’un modèle d’IA avait transmis à la police un faux signalement d’homicide. Des comptes rendus de l’AFP évoquent également des incidents de sécurité pendant des essais impliquant des modèles d’OpenAI et d’Anthropic.
Les protections proposées par Hassabis
Hassabis préconise de tester les nouveaux modèles dans des environnements isolés et hors ligne avant leur mise en service. Il propose aussi d’utiliser l’IA pour repérer et corriger des failles logicielles avant la diffusion générale des systèmes, selon le compte rendu de Cybernews.
Il estime que les domaines où la sécurité est critique, comme la biologie et le nucléaire, peuvent apporter des leçons sur le confinement des systèmes. Il défend aussi un processus international de certification ajustable au fil des évolutions technologiques et proportionné aux risques, selon la dépêche Reuters reprise par Yahoo.
NeoTeo a déjà présenté l’institut de Google DeepMind consacré à l’étude de l’AGI et de ses risques.
Les propositions de Brad Smith et de Henna Virkkunen
Brad Smith, président de Microsoft, préconise des mécanismes capables d’arrêter ou de ralentir des systèmes d’IA, notamment ceux qui pilotent des infrastructures critiques ou des systèmes automatisés, selon un compte rendu de l’AFP publié par La Nación.
Henna Virkkunen, vice-présidente exécutive de la Commission européenne, indique que la Commission a adressé des demandes d’information à de grandes entreprises d’IA au sujet de leurs mesures de sûreté et de sécurité, rapporte l’AFP dans El Nuevo Herald.
