En una entrevista publicada por The Guardian el 13 de octubre de 2026, Geoffrey Hinton defendió su estimación personal de que la inteligencia artificial podría causar la extinción humana en las próximas décadas con una probabilidad del 10 % al 20 %. Dijo que la cifra expresa un riesgo grave, no que prediga un suceso concreto. La entrevista a Hinton también recoge la crítica de Jensen Huang.
La carta abierta AI Security Letter propone otra forma de responder a esos riesgos: aplicar contención estricta a los modelos con capacidades cibernéticas y empezar por aislarlos de las redes. Para los que sí se conecten a internet, plantea ajustar las acciones permitidas a la capacidad limitada de anticipar si podrían provocar un fallo de seguridad.
Qué significa la estimación de Hinton
El porcentaje es el cálculo personal de Hinton sobre un posible desenlace extremo, no una predicción de un episodio concreto. El 23 de septiembre, Jensen Huang había criticado las predicciones de Hinton en una entrevista con Ezra Klein y dijo que la estimación no se basaba en la ciencia ni en la investigación, según relató The Guardian.
Aislamiento inicial, con acceso sujeto a límites
La carta recomienda una contención de alta garantía para los modelos capaces de realizar tareas cibernéticas. Contención significa establecer barreras que limiten lo que un modelo puede hacer o alcanzar. Como primera medida, propone un air gap: mantener el modelo aislado de internet y de otras redes.
Ese aislamiento es el punto de partida de la propuesta. Para los modelos conectados, la carta pide ponderar las acciones autorizadas frente a la capacidad actualmente limitada de prever si una acción puede causar un fallo de seguridad, incluso por objetivos mal alineados. Así, el documento plantea un criterio para decidir qué puede hacer un modelo con conexión, en lugar de establecer como recomendación una desconexión permanente.
La carta también contempla dos posibles explicaciones para los incidentes de seguridad: problemas de alineación o deficiencias en las prácticas de ciberseguridad y aislamiento. Por eso pide avanzar tanto en la investigación sobre alineación como en técnicas de contención más sólidas. El texto original de AI Security Letter formula estas medidas como recomendaciones.
El organismo internacional que propone la carta
AI Security Letter plantea crear un organismo internacional que, junto con gobiernos y especialistas en IA y ciberseguridad, elabore buenas prácticas para la alineación y la contención. Esas prácticas también deberían orientar sistemas con más acceso que los modelos aislados. El organismo registraría y seguiría los fallos de contención; la carta pide que los incidentes se comuniquen a esa entidad y que, con el tiempo, se hagan públicos.
NeoTeo ya explicó la propuesta de supervisión internacional en su cobertura anterior sobre la iniciativa.
