Geoffrey Hinton estime à 10 à 20 % le risque que l’intelligence artificielle provoque l’extinction de l’humanité dans les décennies à venir. Il présente ce chiffre comme l’expression d’un danger sérieux, pas comme la prédiction d’un événement précis. Dans un entretien publié par The Guardian le 13 octobre 2026, le chercheur a défendu son estimation. Jensen Huang, PDG de Nvidia, l’avait contestée lors d’un entretien avec Ezra Klein le 23 septembre, estimant qu’elle ne reposait pas sur des bases scientifiques.

Ce que recouvre l’estimation de Hinton

Les 10 à 20 % correspondent à l’estimation personnelle de Hinton concernant le risque que l’IA entraîne l’extinction de l’humanité au cours des prochaines décennies. Le chiffre exprime la gravité qu’il attribue à ce risque; il ne prédit ni un événement particulier ni sa date. Huang, lui, a critiqué à la fois cette estimation et les prédictions de Hinton.

La controverse porte donc sur la manière d’évaluer le risque. La lettre sur l’IA et la cybersécurité propose, elle, des garde-fous concrets pour les modèles capables d’opérations cyber.

Isoler d’abord les modèles, encadrer leurs actions en ligne

La lettre recommande aux organisations qui développent, déploient ou testent ces modèles d’adopter immédiatement un confinement renforcé. Le confinement consiste à limiter les ressources et les actions accessibles à un système. Comme précaution initiale, le texte préconise de garder les modèles hors réseau — une mesure appelée « air gap », ou isolation du réseau.

Pour un modèle connecté à Internet, la lettre recommande de limiter les actions autorisées en tenant compte de la capacité actuellement réduite à prévoir si ses actions pourraient provoquer une défaillance de sécurité. Le principe porte donc sur les permissions accordées au modèle autant que sur son isolement : plus il peut agir, plus il faut prendre en compte la difficulté d’anticiper les conséquences de ces actions.

Le texte considère que les incidents de sécurité peuvent révéler des problèmes d’alignement — un décalage entre les objectifs d’un système et ceux qui lui sont assignés — ou des lacunes dans les pratiques de cybersécurité. Il préconise de renforcer à la fois l’alignement et les protections qui maintiennent les modèles dans leur environnement contrôlé. La lettre originale sur l’IA et la cybersécurité détaille ces recommandations.

Un organisme international reste une proposition

La lettre propose de créer un organisme international, en consultation avec les gouvernements et des spécialistes de l’IA et de la cybersécurité. Il aurait pour rôle d’élaborer des pratiques de référence pour l’alignement et le confinement, y compris des méthodes permettant un accès plus large que l’isolation complète du réseau. Le texte recommande aussi de recenser les défaillances de confinement et de signaler les incidents à cet organisme, avec l’objectif de les rendre publics à terme.

NeoTeo avait déjà consacré un article à l’appel en faveur d’une supervision internationale de l’IA avancée.