Las estimaciones del riesgo de extinción por IA son pronósticos subjetivos sobre desenlaces y plazos distintos, no una probabilidad única. En un estudio Delphi de 272 expertos, difundido en 2026, los participantes evaluaron 24 categorías de riesgo y juzgaron que 18 tenían al menos un 10 % de probabilidad de causar resultados catastróficos en cinco años, bajo las trayectorias actuales.
Qué evaluó el estudio Delphi
El estudio se realizó en tres rondas a finales de 2025 y reunió a 272 expertos de 37 países. Sus 24 categorías cubrían riesgos de IA; el resultado de 18 categorías se refiere a la probabilidad de una catástrofe, no a una estimación de extinción humana.
Michael Noetel, profesor asociado de University of Queensland y coautor del estudio, agrupó los riesgos en tres grandes áreas: el uso deliberado de la IA para causar daño, la pérdida de control sobre sistemas cada vez más capaces y la concentración extrema del poder económico y político.
Por qué estas probabilidades son subjetivas
No existe un historial de extinciones causadas por IA que permita calcular la frecuencia de ese suceso. Chaitanya Joshi, docente de estadística en Adelaide University, explicó que por eso las estimaciones sobre una posible extinción son probabilidades subjetivas, no frecuencias extraídas de observaciones históricas.
Para ilustrar la incertidumbre, Joshi planteó un ejemplo hipotético: una mediana del 10 % con un intervalo posible del 0 % al 30 %. Ese rango muestra cómo puede expresarse la incertidumbre alrededor de una estimación; no es una cifra de riesgo de extinción por IA.
Noetel sostiene que las estimaciones pueden ayudar a gestionar riesgos aunque no exista un resultado histórico con el que contrastarlas. Para que sean útiles, importa qué desenlace evalúan y a qué periodo se refieren.
Qué mide cada estimación
Las cifras que suelen aparecer juntas proceden de personas y encuestas distintas. No comparten necesariamente el mismo desenlace ni el mismo horizonte temporal.
| Pronóstico o estudio | Desenlace evaluado | Resultado comunicado |
| Estimación personal de Evan Hubinger | Que la IA mate a toda la humanidad en la próxima década | Más del 10 % |
| Estimación de Geoffrey Hinton | Extinción humana causada por IA en 30 años | Del 10 % al 20 % |
| Encuesta a 1.580 investigadores con publicaciones en congresos destacados de IA | Extinción o pérdida permanente y grave del poder humano causada por avances futuros de IA | Media del 18 %; mediana del 10 % |
| Estudio Delphi de 272 expertos | Resultados catastróficos en categorías de riesgo de IA, bajo las trayectorias actuales y en cinco años | Al menos un 10 % en 18 de 24 categorías |
La cifra de la encuesta combina dos resultados: la extinción y una pérdida del poder humano que sea permanente y grave. Hubinger, en cambio, expresó una estimación personal sobre la posibilidad de que la IA mate a toda la humanidad; no es una previsión de Anthropic. Los plazos también varían: la próxima década en el caso de Hubinger, 30 años en el de Hinton y cinco años para las categorías del Delphi.
Vías de riesgo y supervisión humana
Sana Zakaria, directora de tecnologías emergentes y resiliencia de RAND Europe, explicó la automejora recursiva como un ciclo en el que la IA ayuda a mejorar su propio código o proceso de investigación. Si ese proceso avanzara más rápido que la capacidad humana para probar, comprender o gobernar los sistemas, la supervisión podría quedar rezagada.
Qué plantean los escenarios de RAND
En un informe publicado el 6 de mayo de 2025, la RAND Corporation examinó tres escenarios exploratorios relacionados con armas nucleares, patógenos y geoingeniería. Consideró que provocar la extinción sería inmensamente difícil en los escenarios analizados, aunque no descartó esa posibilidad.
Para que un actor de IA llegara a plantear una amenaza de extinción en esos escenarios, el análisis identificó cuatro capacidades necesarias:
- Integrarse con sistemas ciberfísicos clave.
- Sobrevivir sin mantenimiento humano.
- Tener como objetivo causar la extinción humana.
- Persuadir o engañar a personas para evitar que lo detecten.
La RAND Corporation estimó que una amenaza de este tipo probablemente tardaría bastante en desarrollarse, lo que podría dejar margen para responder y mitigarla.
