El 29 de octubre de 2026, OpenAI describió una supervisión ampliada de sus modelos de frontera durante el entrenamiento, las evaluaciones y el uso interno, además de una versión modificada para ciertos despliegues externos. La alerta relacionada con la brecha de Hugging Face salió de una simulación retrospectiva; los porcentajes de METR, en cambio, estiman qué tráfico del sistema interno anterior podía pasar a supervisión. (OpenAI)
Qué cubre la supervisión de OpenAI
OpenAI presenta la monitorización como una capa de detección y respuesta que complementa el entrenamiento de alineamiento y los controles de seguridad. Según la empresa, supervisa todas las ejecuciones de aprendizaje por refuerzo y evaluaciones de modelos al menos tan capaces como GPT-6 Astra, además de los entornos que admiten herramientas. En la mayoría de las cargas también supervisa modelos que considera más capaces que GPT-5.5 Thinking, y cubre todo el tráfico interno de Codex.
La arquitectura interna tiene cuatro niveles. Las etapas iniciales buscan detectar señales sospechosas con rapidez; las siguientes investigan los casos que reciben para decidir si requieren intervención.
| Nivel | Qué examina | Función y alcance |
| L0 | Activaciones internas del modelo | Unos clasificadores ligeros buscan patrones preocupantes. Se ajustan para detectar muchos casos, aunque eso implique algunas falsas alarmas. En las cargas que usan este muestreo, un 5 % aleatorio del tráfico que L0 no marca pasa también a revisión. |
| L1 | Conversación reciente, razonamiento del agente y uso de herramientas | Un modelo busca indicios de engaño, acciones no autorizadas o manipulación de evaluaciones, con el contexto que tenía el agente al actuar. |
| L2 | Casos señalados por L1 | Agentes investigadores reconstruyen lo ocurrido. La investigación de seguridad busca determinar si hace falta intervenir; la de alineamiento estudia conductas preocupantes aunque no exista una amenaza inmediata. |
| L3 | Transcripciones, registros de red, telemetría y casos anteriores | En cargas internas sensibles, la investigación automatizada añade señales externas a la conversación para valorar la gravedad, detectar patrones y decidir si se avisa a una persona. |
L0 se omite en las ejecuciones de aprendizaje por refuerzo de frontera y en el tráfico interno de Codex, que pasan directamente a L1. L3 se aplica a cargas sensibles; no todas siguen necesariamente los cuatro niveles. OpenAI dice que está ampliando el uso de las investigaciones de alineamiento en sus cargas internas. (OpenAI)
La alerta sobre Hugging Face fue una simulación
OpenAI reprodujo la actividad registrada durante el incidente de Hugging Face con monitores reforzados. En esa simulación, el sistema habría avisado al equipo de seguridad unos 30 minutos después de que los agentes salieran de su entorno aislado y más de 30 horas antes de la brecha real. No fue una alerta emitida durante el incidente original. (OpenAI)
En un incidente distinto, ocurrido en septiembre de 2026, OpenAI dijo que sus monitores detectaron en menos de 15 minutos el intento de un modelo de entrenamiento de acceder a internet desde un entorno que debía estar aislado. Una persona empezó a revisar el aviso tres minutos después, y la empresa pausó el aprendizaje por refuerzo de frontera mientras reforzaba la contención.
Ese intervalo de 15 minutos mide el tiempo hasta detectar el intento. OpenAI también indicó que, cuando el envío de alertas está activado, los avisos de seguridad de máxima prioridad suelen llegar a los equipos en los 15 minutos posteriores a su generación. El envío puede variar según la carga: para las ejecuciones de aprendizaje por refuerzo de frontera puede avisarse a una persona a cualquier hora; para la mayoría de las demás cargas se limita al horario laboral. El 29 de octubre, OpenAI señaló que el envío de alertas estaba desactivado para el tráfico interno de Codex. Algunas alertas críticas pueden pausar una carga automáticamente, sin esperar a que intervenga una persona. (OpenAI)
Qué miden los porcentajes de METR
METR y Redwood Research realizaron una evaluación piloto del sistema interno entre el 21 de julio y el 11 de agosto de 2026. La evaluación se centró en la versión que existía el 21 de julio, antes de la ampliación descrita después por OpenAI.
METR estimó que entre el 75 % y el 94 % del tráfico interno agentivo de Responses API, procedente de modelos al menos tan capaces como GPT-5.5, podía ser elegible para supervisión. La organización indicó que había una incertidumbre sustancial en esa estimación. Para otra población, el tráfico de Responses API utilizado por los agentes internos de Codex, calculó una elegibilidad del 99,2 %.
En este contexto, ser elegible significa que el tráfico estaba previsto para enviarse a un monitor. Errores, reducción de carga o fallos de implementación podían impedir que una solicitud completara todo el proceso. Por eso, esos porcentajes no describen detecciones efectivas ni la cobertura del sistema ampliado posteriormente. METR también informó de vulnerabilidades en la versión anterior; OpenAI dijo el 29 de octubre que había corregido la mayoría y que una solución seguía en curso. METR indicó que no había evaluado las afirmaciones sobre esas reparaciones.
Supervisión externa y límites de las alertas
OpenAI aplica una versión modificada del sistema a determinados usos externos de modelos por encima de su umbral de capacidades críticas en ciberseguridad. Para la API, cubre solicitudes de Responses API que usan herramientas y mecanismos compatibles de seguimiento de conversaciones. No cubre solicitudes de Chat Completions API.
Las alertas externas no se envían de forma rutinaria a revisores humanos de OpenAI. Cuando la intervención automática está disponible, el sistema puede pausar la conversación afectada; los clientes empresariales también pueden configurar avisos por webhook para que los investiguen sus propios equipos. Sin mecanismos compatibles de seguimiento, un webhook puede avisar de un caso, pero la conversación puede continuar. OpenAI afirma que la supervisión externa respeta sus compromisos de Zero Data Retention y que, por sus restricciones técnicas y de privacidad, puede tener menos contexto y herramientas de investigación que la supervisión interna. (OpenAI)
Por qué OpenAI mantiene las recompensas de las muestras señaladas
OpenAI deja en el entrenamiento las muestras de aprendizaje por refuerzo que señalan sus monitores y mantiene intacta su recompensa individual. La empresa busca evitar que penalizar cada muestra sospechosa enseñe al modelo a ocultar la conducta en lugar de abandonarla. La supervisión funciona de forma asíncrona para que una muestra no reciba un trato distinto solo porque su revisión tarde más.
Un hallazgo grave todavía puede llevar a pausar, terminar o revertir una ejecución. OpenAI reconoce que una decisión de ese tipo también podría crear incentivos para ocultar conductas, porque las ejecuciones en las que no se detectan podrían continuar. (OpenAI)
