Em 16 de novembro de 2026, a OpenAI anunciou acordos com Apollo Research, METR, Transluce e Goodfire para uma primeira fase de avaliações externas de segurança. Cada organização examinará uma frente diferente, com acesso definido para o respectivo trabalho, segundo o protocolo publicado pela OpenAI.
Para entender o alcance de uma avaliação, observe o que cada equipe examina e quais regras governam seu acesso e a publicação dos resultados.
O que cada organização vai avaliar
As quatro equipes receberam frentes de trabalho diferentes. A tabela reúne os escopos anunciados pela OpenAI; uma avaliação adicional da METR continua preliminar, enquanto a etapa mais ampla com a Transluce é uma intenção para o início de 2027.
| Organização | Foco anunciado | Escopo ou prazo |
| Apollo Research | Alegações sobre subversão de modelos | Quatro alegações em duas etapas: se o treinamento incentivou a subversão; se avaliações ou testes adversariais podem provocá-la; se modelos tentaram fazê-la durante o uso interno; e se o raciocínio associado seria detectável. |
| METR | Comportamento desalinhado em uma execução de aprendizado por reforço | A avaliação inicial se concentra em uma execução específica, descrita pela OpenAI como a maior da empresa até então, e em registros relacionados, como checkpoints amostrados, etapas de treinamento e avaliação e monitoramento. Uma avaliação mais ampla de monitores está em fase preliminar, à espera de acordo sobre o escopo. |
| Transluce | Qualidade e cobertura de avaliações de alinhamento após o treinamento | A OpenAI e a Transluce pretendem realizar uma etapa adicional de cerca de oito semanas no início de 2027, com acesso mais amplo. |
| Goodfire | Interpretabilidade, monitoramento de execuções de treinamento, depuração e alinhamento | Os pesquisadores da OpenAI são o público principal dos resultados; a Goodfire também prevê publicar aprendizados da colaboração. |
A avaliação da Apollo Research divide a subversão em perguntas sobre incentivos, comportamento observado em testes e uso interno, e possibilidade de detectar o raciocínio por trás dessas ações. Já o trabalho inicial da METR fica restrito a uma execução de aprendizado por reforço. A OpenAI diz que esse escopo é mais estreito do que a pesquisa ampla sobre desalinhamento que a METR havia proposto.
Como funcionam o acesso e as conversas com funcionários
O acesso é combinado para cada avaliação, de acordo com seus objetivos e necessidades. Conforme o trabalho, os recursos podem incluir checkpoints selecionados de modelos, código-fonte, dados de treinamento e avaliação, sistemas de monitoramento, documentação técnica e conversas com pesquisadores e engenheiros. A OpenAI também diz que os avaliadores podem solicitar acesso adicional; quando o acesso direto puder expor propriedade intelectual sensível, a empresa pode considerar alternativas.
Para consultar informações confidenciais sensíveis, os avaliadores trabalham presencialmente nos escritórios da OpenAI e usam dispositivos da empresa. As conversas com funcionários são autorizadas pela OpenAI e ficam sob sigilo: podem contribuir para a avaliação, mas não podem ser publicadas nem atribuídas aos funcionários. Os avaliadores podem solicitar declarações atestadas pela empresa e publicar essas declarações ou informar que a OpenAI se recusou a atestá-las.
Publicação dos resultados e supervisão
Os avaliadores podem publicar suas conclusões, mas a OpenAI reserva o direito de eliminar informações confidenciais e pode pedir adiamentos para uma divulgação responsável. O Comitê de Segurança e Proteção do conselho da OpenAI Foundation recebe relatórios sem cortes e pode conversar em particular com os avaliadores. Se uma divergência não for resolvida após passar pelo Grupo Consultivo de Segurança e por executivos da OpenAI, ela é encaminhada ao comitê.
A OpenAI informou ainda que a Apollo Research e a Goodfire recebem pagamentos que não dependem dos resultados das avaliações. A METR e a Transluce não recebem remuneração financeira por esse trabalho, embora possam aceitar créditos de API ou recursos de computação.
Críticas apontam limites no acesso
Em reportagem publicada em 18 de novembro, a NPR relatou que Sydney Von Arx, fundadora do grupo de pesquisa em segurança de IA Nightingale, considerou estreitos os escopos de acesso. Von Arx disse que, na sua avaliação, apenas dois avaliadores pareciam poder conversar com funcionários e que nenhum tinha acesso ao Slack interno. A NPR também relatou que, no processo da Apollo, a OpenAI precisa ser envolvida antes de conversas substantivas com funcionários que não estejam previamente autorizados.
A OpenAI disse à NPR que os avaliadores podem pedir conversas com funcionários adicionais e explicou como podem solicitar declarações da empresa sobre informações obtidas informalmente. As regras publicadas pela empresa dizem que as conversas autorizadas ficam sob sigilo e que a própria OpenAI define quais funcionários podem participar. Von Arx apresentou suas observações como crítica às condições do programa, não como resultado de uma auditoria concluída. (NPR)
A NPR também relatou que Sam Altman havia prometido, em setembro de 2026, acesso semelhante ao de funcionários para avaliadores independentes. A crítica de Von Arx diz respeito à distância entre essa promessa, tal como relatada pela NPR, e os limites descritos para as avaliações. O anúncio da OpenAI apresenta acordos, escopos e protocolos; não divulga resultados concluídos.