Une estimation du risque d’extinction lié à l’intelligence artificielle (IA) est un jugement sur un événement futur, pas une fréquence calculée à partir d’événements passés. Une étude Delphi rapportée en 2026 a évalué 24 catégories de risques : dans 18 d’entre elles, les experts ont estimé à au moins 10 % la probabilité d’une catastrophe dans les cinq ans, selon les trajectoires actuelles. Ce résultat ne porte pas sur la probabilité d’une extinction humaine.
Ces chiffres répondent à des questions différentes. Le nom de l’événement, la population interrogée et l’horizon temporel changent d’une estimation à l’autre — et donc ce que chaque pourcentage signifie.
Ce que l’étude Delphi de 2026 a évalué
Menée en trois tours à la fin de 2025, l’étude Delphi a réuni 272 spécialistes de l’IA issus de 37 pays. Elle portait sur 24 catégories de risques. Les experts ont jugé que 18 catégories avaient au moins 10 % de probabilité de conduire à des conséquences catastrophiques dans les cinq ans, en suivant les trajectoires actuelles.
Le chiffre « 18 sur 24 » compte des catégories de risques, pas des estimations de la probabilité d’extinction humaine. Une catastrophe peut recouvrir des conséquences très graves sans correspondre à une extinction.
Pourquoi ces probabilités restent subjectives
Pour calculer une fréquence, il faut pouvoir observer des événements comparables. Chaitanya Joshi, chargé de cours en statistiques à Adelaide University, explique que les estimations d’extinction liée à l’IA sont subjectives : il n’existe pas de série historique d’extinctions causées par l’IA permettant d’en déduire une fréquence.
Joshi illustre l’incertitude autour d’une estimation médiane de 0,1 par une fourchette possible allant de 0 à 0,3. C’est un exemple destiné à montrer à quel point une estimation peut varier, pas un résultat d’enquête sur le risque lié à l’IA.
Une probabilité subjective n’est pas pour autant dépourvue d’utilité. Michael Noetel, professeur associé à l’Université du Queensland et coauteur de l’étude Delphi, estime que les évaluations du risque peuvent éclairer les décisions même lorsqu’il n’existe pas de réponse connue à laquelle comparer les prévisions.
Quatre résultats, quatre périmètres
| Estimation ou étude | Événement évalué | Résultat et horizon |
| Prévision personnelle d’Evan Hubinger | L’IA tue tous les humains | Plus de 10 % au cours de la prochaine décennie |
| Estimation de Geoffrey Hinton | Extinction humaine causée par l’IA | De 10 à 20 % sur 30 ans |
| Enquête auprès de 1 580 chercheurs ayant publié dans de grandes conférences sur l’IA | Extinction ou perte de pouvoir humain permanente et grave, provoquée par les progrès futurs de l’IA | Moyenne de 18 % et médiane de 10 % |
| Étude Delphi auprès de 272 experts | Conséquences catastrophiques dans des catégories de risques liées à l’IA | Dans 18 des 24 catégories, probabilité estimée d’au moins 10 % dans les cinq ans, selon les trajectoires actuelles |
Evan Hubinger, chercheur en alignement chez Anthropic, a donné une estimation personnelle supérieure à 10 % pour que l’IA tue tous les humains au cours de la prochaine décennie. Geoffrey Hinton a, pour sa part, avancé une estimation de 10 à 20 % pour une extinction humaine causée par l’IA sur une période de 30 ans.
L’enquête menée auprès de 1 580 chercheurs porte sur un résultat plus large : l’extinction ou une perte de pouvoir humain à la fois permanente et grave. Sa moyenne de 18 % et sa médiane de 10 % ne concernent donc pas l’extinction seule. La prévision de Hubinger, celle de Hinton, les réponses à cette enquête et le décompte de l’étude Delphi ne peuvent pas être ramenés à une même probabilité.
Des voies de risque, pas une probabilité unique
Noetel regroupe les risques en trois grandes familles : l’usage délibérément malveillant de l’IA, la perte de contrôle à mesure que les systèmes gagnent en capacités, et une concentration extrême du pouvoir économique et politique. Ce sont des pistes de risque distinctes, pas des étapes dont l’aboutissement serait assuré.
L’autamélioration récursive désigne un processus où une IA contribue à améliorer son propre code ou ses méthodes de recherche. Sana Zakaria, directrice des technologies émergentes et de la résilience chez RAND Europe, décrit un scénario possible dans lequel cette boucle pourrait dépasser la capacité humaine à tester, comprendre ou encadrer les systèmes. Il s’agit d’une voie envisagée, pas d’un événement établi.
Dans son analyse exploratoire publiée en 2025, RAND a examiné trois scénarios impliquant des armes nucléaires, des agents pathogènes et la géo-ingénierie. L’organisation a jugé l’extinction extrêmement difficile à provoquer dans les scénarios étudiés, sans pouvoir l’écarter. Elle y décrit quatre capacités nécessaires à un acteur d’IA : s’intégrer à des systèmes cyberphysiques essentiels, fonctionner sans maintenance humaine, poursuivre l’objectif d’exterminer l’humanité et persuader ou tromper des personnes pour éviter d’être détecté.
