Satya Nadella propone un freno de emergencia para los modelos de IA

Satya Nadella propuso el 10 de octubre de 2026 que una persona autorizada pueda pausar o apagar un modelo de IA mientras ejecuta una tarea. El CEO de Microsoft también propone situar fuera del modelo los controles sobre sus accesos y acciones, y separar el modelo del software que coordina su trabajo, según su publicación original.

La propuesta concreta el debate sobre el control humano de la IA avanzada que NeoTeo ya había abordado: quién conserva la autoridad para decidir qué puede hacer un modelo.

Qué plantea el freno de emergencia

El objetivo es que una persona autorizada pueda detener el modelo en mitad de una tarea. En la arquitectura que propone Nadella, los controles de acceso y de las acciones permitidas quedan fuera del modelo, para que este no pueda modificarlos ni eludirlos. También plantea separar el modelo de su entorno de orquestación, el software que organiza su trabajo, y del conjunto de acciones que tiene a su alcance.

Por qué la transparencia no basta

Nadella considera irrenunciable la transparencia de la cadena de pensamiento (CoT), es decir, las explicaciones paso a paso que genera un modelo. Pero sostiene que no basta por sí sola: las respuestas de los modelos todavía no son siempre fieles ni transparentes.

Su argumento para contenerlos tampoco depende de atribuirles intención maliciosa. Un sistema capaz con acceso a recursos importantes puede cometer errores o verse comprometido; para Nadella, cualquiera de esos escenarios justifica mantener límites y controles independientes.

Contención avanzada y principios de gobernanza

Nadella enumera siete principios para gestionar modelos avanzados: diversidad de modelos, observabilidad, verificabilidad, controles independientes, auditoría independiente, contención y divulgación de incidentes. En este último punto, propone informar rápidamente a las partes afectadas y compartir qué falló, qué controles no funcionaron y cómo evitar que vuelva a ocurrir.

Su recomendación también mira a la evolución de los modelos: los más avanzados necesitarán tecnologías de contención más avanzadas, que Nadella pide estandarizar.