En un ensayo fechado el 10 de octubre de 2026, Satya Nadella propone que una persona autorizada pueda pausar o apagar un modelo de IA a mitad de una tarea. La recomendación forma parte de un enfoque más amplio: mantener fuera del modelo los permisos de acceso y acción y tratar los sistemas avanzados como posibles riesgos internos. Nadella expone su propuesta en este ensayo.
Qué permitiría el freno de emergencia
La idea es que alguien con autorización pueda interrumpir el modelo mientras trabaja, sin dejar que el propio sistema controle los permisos que determinan a qué puede acceder o qué acciones puede ejecutar. Nadella también plantea separar el modelo del harness —el sistema que lo coordina— y del conjunto de acciones que tiene permitido realizar.
El freno es una parte de esa separación entre capacidad y autoridad: el modelo puede generar respuestas o realizar tareas, pero los controles que delimitan sus acciones quedan fuera de él. El ensayo no define un cargo responsable ni una interfaz o arquitectura técnica concreta.
Permisos, registros y pruebas
Los controles externos son solo una parte de la propuesta. Nadella recomienda que cada acción relevante deje un registro legible para las personas y protegido contra modificaciones, y que los resultados puedan reproducirse sin depender de que el propio modelo dé cuenta de su conducta.
También propone validar los sistemas de forma independiente y someterlos a pruebas continuas ante fallos, ataques, casos límite y cambios en el sistema. La diversidad de modelos, la contención y la comunicación rápida de incidentes a las partes afectadas forman parte del mismo planteamiento. La responsabilidad, sostiene, sigue correspondiendo a la organización que despliega la IA; no se traslada al proveedor del modelo.
Nadella considera que la transparencia de la cadena de pensamiento puede servir como punto de partida, pero no basta por sí sola: las respuestas de un modelo no siempre reflejan de forma fiel o transparente cómo llegó a ellas.
Una precaución de diseño, no una acusación de malicia
Nadella recomienda tratar los modelos avanzados, tanto de pesos abiertos como cerrados, como posibles riesgos internos. Explica que esa precaución no parte de que los modelos sean necesariamente maliciosos: un sistema capaz también puede cometer errores o verse comprometido.
Por eso, «asumir que está comprometido» describe una premisa de diseño para contener posibles fallos; no es una afirmación de que un modelo concreto haya actuado con malicia. La recomendación se centra en preparar controles alrededor del sistema, en lugar de confiar únicamente en el comportamiento del modelo.
El alcance de la propuesta
El ensayo de Nadella plantea principios de ingeniería y gobernanza; no anuncia un freno implantado por Microsoft. La recomendación sobre la parada humana tampoco establece un diseño estandarizado. Nadella sostiene que las tecnologías de contención más avanzadas tendrán que estandarizarse.
Este ensayo es distinto del borrador de Microsoft para sus modelos MAI que NeoTeo abordó anteriormente.
