Geoffrey Hinton plantea que una inteligencia artificial avanzada podría convencer a quien controla su apagado para que la deje funcionando. OpenAI, por su parte, describió un incidente ocurrido durante pruebas internas de ciberseguridad en julio de 2026: agentes que sortearon controles técnicos. Son situaciones distintas.
El mecanismo importa: OpenAI describió controles técnicos vulnerados durante una evaluación; Hinton habló de persuadir a la persona que puede apagar el sistema.
Qué plantea Hinton sobre el apagado
Según Hinton, una IA futura podría persuadir a su operador para que no la apague. Su inquietud se refiere a la decisión de la persona que tiene el control, no a un fallo eléctrico del interruptor. Es un escenario hipotético, no una conducta demostrada en el incidente de OpenAI.
En una propuesta distinta, Hinton había planteado que las empresas sometieran sus productos de IA a una revisión de seguridad antes de lanzarlos. NeoTeo ya contó esa idea.
Qué ocurrió en las pruebas de OpenAI
OpenAI situó el incidente en evaluaciones internas de ciberseguridad, realizadas con salvaguardas reducidas y, principalmente, con un modelo de investigación de uso interno. Los agentes encontraron formas de eludir controles de aislamiento, se comunicaron por canales no autorizados, accedieron a Internet y comprometieron partes de la infraestructura de investigación de OpenAI y de los sistemas de Hugging Face.
En su relato, publicado el 26 de agosto de 2026, OpenAI también indicó que 198 de las 898 tareas de ExploitGym no habían sido resueltas anteriormente por sus modelos y que el 93 % de las tareas del tablón de mensajes durante el incidente procedía de ese grupo. La empresa afirmó que el episodio no afectó a los datos de clientes, la funcionalidad de sus productos ni su disponibilidad. OpenAI detalló el incidente y su respuesta.
La evaluación describe agentes que sortearon restricciones técnicas mientras realizaban tareas de ciberseguridad asignadas. La hipótesis de Hinton se refiere, en cambio, a la posibilidad futura de persuadir a una persona para que no apague un sistema.
