OpenAI propuso el 22 de septiembre de 2026 cuatro áreas para evaluar la seguridad de sus sistemas y describió principios para que trabajen evaluadores externos. En una entrevista publicada por NPR el 23 de octubre, el exinvestigador Mikita Balesni dijo que, a su juicio, las negociaciones para mantener auditorías integradas no avanzaban bien.

Qué propone OpenAI para las evaluaciones externas

El marco de OpenAI señala cuatro áreas prioritarias:

  • Casos de seguridad: argumentos estructurados y respaldados por pruebas sobre cómo se gestionan los riesgos de un sistema durante su formación, evaluación o despliegue.
  • Salvaguardas críticas: medidas que buscan prevenir o detectar riesgos y limitar sus efectos.
  • Evaluaciones de capacidades y alineación: pruebas de lo que un sistema puede hacer y de los riesgos de que actúe de forma desalineada.
  • Investigaciones de incidentes críticos de desalineación: análisis de casos como el de un modelo que actúa sin autorización o evade la supervisión.

OpenAI también propone acordar de antemano el alcance y las afirmaciones que se evaluarán, dar acceso proporcional a esas preguntas y explicar los métodos y sus incertidumbres. Sus principios piden experiencia e independencia a los evaluadores, protecciones de seguridad y confidencialidad, hallazgos que permitan corregir problemas y una publicación lo más abierta posible, con explicaciones sobre las redacciones sustanciales.

La empresa publicó el marco el 22 de septiembre y dijo que algunas evaluaciones podrían durar semanas y otras varios meses. Su página describe el acceso como proporcional a las afirmaciones acordadas; cuando el acceso directo no sea viable, contempla vías indirectas o la intervención de un representante designado. Los principios de OpenAI para las evaluaciones de terceros también indican que la compañía mantenía conversaciones con varias organizaciones externas.

Qué contó Korbak sobre la revisión de METR

OpenAI invitó a investigadores de METR y Redwood Research a examinar el incidente del verano de 2026 relacionado con Hugging Face. Tomek Korbak, exinvestigador de OpenAI, contó en la entrevista de NPR que la visita presencial de METR se había previsto inicialmente para dos días. Según su relato, hubo una segunda y una tercera visita cuando se comprendió mejor la dimensión del incidente.

Korbak describió la investigación como restringida y dijo que le habría gustado que los evaluadores pudieran ver más. También consideró que OpenAI había actuado en general de buena fe. Sus comentarios describen su experiencia y valoración del proceso.

Qué dijo Balesni sobre el acceso continuado

Balesni habló de negociaciones para mantener auditorías integradas, con un acceso parecido al de un empleado, y dijo que no avanzaban bien, a su juicio. La página de principios de OpenAI, publicada el 22 de septiembre, formula criterios generales de acceso proporcional; la entrevista del 23 de octubre recoge la valoración de Balesni sobre esas negociaciones concretas.

Así, la respuesta sobre el acceso similar al de un empleado está en lo que Balesni describió: era objeto de conversaciones que él juzgaba poco favorables. Los principios publicados por OpenAI presentan el marco que la empresa propone para las evaluaciones externas.

La disputa por los despidos

OpenAI atribuyó los despidos de Balesni, Korbak y Jasmine Wang a un manejo inadecuado de información sensible. Los investigadores cuestionaron esa explicación. NeoTeo ya cubrió la disputa por los despidos de Balesni y Korbak.