OpenAI anunció el 16 de noviembre de 2026 una fase de evaluaciones externas que incluye a Apollo Research. Su tarea será examinar cuatro afirmaciones sobre posibles intentos de subversión de los modelos y si las salvaguardas podrían detectarlos. OpenAI también describió los recursos previstos para el análisis, la supervisión y las condiciones de publicación en su anuncio oficial.
En este contexto, subversión significa que un modelo actúe a espaldas de las intenciones de quienes lo desarrollan. La evaluación de Apollo no se presenta como un resultado: pone a prueba las siguientes cuestiones.
Qué evaluará Apollo Research
Apollo examinará si el entrenamiento incentivó conductas de subversión; si las evaluaciones exigentes y las pruebas de equipo rojo pueden provocarlas; si los modelos las han intentado durante el uso interno de OpenAI; y si se podría detectar el razonamiento que las motivara.
Las cuatro cuestiones abarcan distintas etapas: el entrenamiento, las pruebas, el uso interno y la detección. Así, el encargo no se limita a buscar una respuesta concreta en los modelos: también considera cómo se los evalúa y qué señales podrían alertar a los investigadores.
Acceso, publicación y supervisión
Para la primera etapa de Apollo, OpenAI prevé facilitar acceso a modelos públicos y no publicados seleccionados, puntos de control del entrenamiento, datos y resultados de evaluación pertinentes, registros de intervenciones en el entrenamiento, sistemas de supervisión y comportamientos señalados. También incluye contexto de investigadores, herramientas y capacidad de cálculo para realizar pruebas independientes. Cada encargo parte de un alcance y unas medidas de seguridad acordados.
OpenAI afirma que los evaluadores podrán publicar sus análisis. La empresa se reserva la posibilidad de ocultar información confidencial y pedir demoras para divulgar hallazgos que planteen riesgos de seguridad. El Safety and Security Committee de OpenAI recibirá los informes sin redactar y podrá hablar en privado con los evaluadores. Si un desacuerdo no se resuelve tras elevarlo al Safety Advisory Group y a los directivos, el proceso de OpenAI prevé remitirlo a ese comité.
La independencia de una evaluación depende tanto de lo que sus responsables pueden examinar como de las condiciones que rigen la publicación de sus resultados.
La cobertura anterior de NeoTeo recogió las peticiones de tres exempleados de OpenAI para mantener las auditorías externas de seguridad. El artículo sobre aquella discusión ofrece ese antecedente; los términos de esta nueva fase proceden del anuncio de OpenAI.
Qué harán los cuatro evaluadores
Apollo es una de las cuatro organizaciones incluidas en la primera fase, y cada una tiene un encargo distinto. OpenAI también comunicó cómo se remunera a los equipos: Apollo y Goodfire reciben compensación no vinculada a los resultados; METR y Transluce no aceptan pagos por sus evaluaciones, aunque pueden aceptar créditos de computación o de API.
| Evaluador | Enfoque anunciado | Compensación comunicada por OpenAI |
| Apollo Research | Posible subversión de modelos y detección de las salvaguardas | Compensación no vinculada a los resultados |
| METR | Alineación del mayor entrenamiento por refuerzo de OpenAI hasta la fecha | Sin compensación económica; puede aceptar créditos de computación o de API |
| Transluce | Calidad y cobertura de las evaluaciones de alineación posteriores al entrenamiento | Sin compensación económica; puede aceptar créditos de computación o de API |
| Goodfire | Interpretabilidad para supervisar entrenamientos, depurar modelos y apoyar la alineación | Compensación no vinculada a los resultados |
OpenAI prevé que Goodfire publique aprendizajes y hallazgos, aunque su público principal para esta evaluación serán los investigadores internos de la empresa. Para Transluce, OpenAI expresó su intención de realizar una evaluación posterior de unas ocho semanas a principios de 2027.