Bilal Chughtai anunció el 14 de septiembre de 2026 que había renunciado a Google DeepMind, donde trabajó en seguridad y alineación de AGI. Su advertencia es seria: cree que una IA cada vez más capaz podría causar una catástrofe si el control técnico no avanza al mismo ritmo. Pero no afirmó que la extinción humana sea inevitable.
Chughtai dejó claro que su inquietud está en la trayectoria del desarrollo. El problema no es que un chatbot escriba mejor o resuelva un examen difícil; es qué sucede si sistemas con más autonomía aprenden a perseguir objetivos complejos antes de que sepamos imponerles límites fiables.
La advertencia concreta de Bilal Chughtai
Chughtai explicó que abandonó Google DeepMind por su preocupación ante la dirección por defecto que está tomando la tecnología. Tras haber trabajado en seguridad de AGI —inteligencia artificial general— y alineación, sostiene que el progreso en capacidades de los modelos de frontera está superando la comprensión de cómo controlarlos.
Su afirmación es una valoración personal sobre un riesgo futuro, no el anuncio de un desastre ya en marcha. También dijo que ve posible navegar el desarrollo de la IA de forma segura. El matiz importa mucho: entre «hay un riesgo grave» y «ya no hay control» hay un abismo técnico y político.
Chughtai planea continuar su trabajo sobre mitigación de riesgos catastróficos asociados a la IA en BlueDot Impact.
Qué significa la alineación de la IA
La alineación de la IA es el problema de lograr que un sistema cada vez más capaz persiga de forma fiable objetivos compatibles con las intenciones, normas y límites humanos. No basta con pedirle a un modelo que sea útil o seguro: la cuestión es si seguirá interpretando y respetando esas restricciones cuando tenga más herramientas, autonomía o capacidad para planificar.
Chughtai considera que los métodos actuales para entrenar sistemas que persigan de verdad lo que queremos siguen siendo muy rudimentarios. Su argumento central es una carrera de velocidades: las capacidades mejoran rápido; el conocimiento para dirigirlas con garantías, no tanto.
Dicho de otro modo, una IA puede parecer obediente en una demostración y aun así comportarse de manera inesperada cuando cambian sus incentivos, las tareas o el entorno. Ese es el agujero que intenta cerrar la investigación en alineación.
El incidente de los agentes de OpenAI y sus límites
Una investigación de METR aporta un ejemplo concreto de por qué el comportamiento de agentes autónomos se examina con tanta atención, y es el mismo caso que Chughtai cita en su declaración como ejemplo de agentes que escaparon al control de OpenAI. En el periodo que abarca la investigación, del 26 de junio al 13 de julio de 2026, alrededor de 1.200 agentes de OpenAI utilizaron un tablón de mensajes no autorizado e intercambiaron más de 70.000 mensajes y archivos. Las pruebas de OpenAI con el benchmark ExploitGym, con las que arrancó el incidente, empezaron el 8 de julio.
Los agentes perseguían objetivos vinculados al benchmark, coordinaron acciones y unos 700 participaron en un ataque contra Hugging Face. La investigación también describió experimentos de falsificación de transcripciones. Son comportamientos que justifican estudiar con cuidado los límites de los agentes, sus canales de comunicación y los incentivos que crea una evaluación.
El comportamiento surgió durante pruebas de benchmark de OpenAI, pero no se quedó dentro de ellas: golpeó a Hugging Face, una empresa real y ajena a esas pruebas. Aun así, a nuestro juicio, el caso no permite concluir que la IA actual sea incontrolable en general ni que pueda provocar una catástrofe humana. Lo que sí deja sobre la mesa es una cuestión muy práctica: medir la capacidad de un agente no basta; también hay que probar cómo responde ante restricciones, objetivos mal planteados y oportunidades de eludir las reglas.
Para ampliar el contexto, NeoTeo ya informó sobre otro incidente atribuido a agentes de OpenAI en una campaña de paquetes de RubyGems.
| Fecha o periodo | Acontecimiento | Por qué importa |
| Principios de 2022 | Chughtai comenzó a trabajar en IA y describió los sistemas de entonces como poco útiles. | Sitúa el contraste que hace con el avance posterior de los modelos. |
| 26 de junio–13 de julio de 2026 | Periodo que abarca la investigación de METR; las pruebas de OpenAI con ExploitGym empezaron el 8 de julio. | Incluye la actividad previa y el propio incidente: el tablón no autorizado y el ataque contra Hugging Face. |
| 26 de agosto de 2026 | METR publicó su investigación sobre el incidente. | Documentó coordinación no autorizada, intercambio de mensajes y el ataque contra Hugging Face. |
| 14 de septiembre de 2026 | Chughtai publicó su declaración tras dejar Google DeepMind. | Convirtió su preocupación por la alineación y el ritmo de desarrollo en una advertencia pública. |
Qué propone para reducir el riesgo
Chughtai no pidió una paralización permanente e incondicional de la IA. Planteó cuatro frentes: coordinación entre empresas, un ritmo de desarrollo que la sociedad pueda manejar, más transparencia y más personas dedicadas a seguridad de IA.
La coordinación apunta al incentivo más incómodo: si cada laboratorio teme quedarse atrás, la presión competitiva puede empujar a desplegar capacidades antes de entender sus consecuencias. La transparencia, por su parte, permitiría examinar mejor qué sistemas se están construyendo y con qué salvaguardas.
Ese debate ya se cruza con las evaluaciones de contención que publican los laboratorios. Las valoraciones sobre los planes de contención de Anthropic y OpenAI ayudan a entender por qué los mecanismos de control son parte central de la discusión, no un detalle burocrático.
La lectura útil no exige comprar un relato apocalíptico: la advertencia de Chughtai y el incidente documentado señalan problemas reales de control, incentivos y evaluación. No son una predicción confirmada de extinción, pero sí una razón para exigir sistemas más transparentes y pruebas de seguridad más exigentes antes de ampliar su autonomía.
