Em 16 de novembro de 2026, a OpenAI anunciou acordos com quatro avaliadores independentes. A Apollo Research examinará se modelos podem agir contra a intenção de seus desenvolvedores e se as salvaguardas conseguiriam detectar esse comportamento. A OpenAI também descreveu o acesso previsto e as regras de supervisão e publicação do trabalho em seu anúncio da primeira fase de avaliações integradas.

A avaliação externa também estava entre as demandas de três ex-pesquisadores de segurança da OpenAI. Relembre a carta e a resposta da empresa; esse episódio é um contexto anterior, separado dos termos do novo programa.

O que a Apollo Research vai avaliar

A OpenAI organizou o escopo da Apollo em torno de quatro questões sobre possível subversão — quando um modelo age secretamente contra as intenções de quem o desenvolveu:

  • O treinamento incentivou esse tipo de comportamento?
  • Avaliações robustas e testes de equipe vermelha conseguem provocá-lo?
  • Modelos tentaram agir assim durante o uso interno?
  • O raciocínio por trás de uma tentativa seria detectável?

São questões para investigação, não resultados. Na primeira etapa, a OpenAI prevê dar à Apollo acesso a modelos públicos e ainda não lançados, checkpoints de treinamento, dados e resultados de avaliação relevantes, registros de intervenções no treinamento, sistemas de monitoramento e comportamentos sinalizados. A lista também inclui contexto de pesquisadores, ferramentas e capacidade computacional para testes independentes.

A OpenAI diz que cada avaliação tem escopo, recursos e medidas de segurança acordados, e que os avaliadores podem seguir as evidências e ajustar seus métodos dentro desse escopo. Assim, a lista de materiais descreve o acesso previsto para o trabalho da Apollo, não um acesso sem limites.

Como funcionam a publicação e a supervisão

A OpenAI afirma que os avaliadores mantêm independência para publicar suas avaliações. A empresa pode ocultar informações confidenciais e pedir adiamentos de divulgação responsável quando uma descoberta representar riscos de segurança. Conversas com funcionários autorizados são reservadas e não podem ser publicadas nem atribuídas a pessoas específicas. Os avaliadores podem pedir declarações atestadas por outro processo e informar se a OpenAI se recusar a atestá-las.

A avaliação combina acesso para testar, possibilidade de publicar e uma instância que recebe os relatórios integrais.

O OpenAI Safety and Security Committee, comitê independente do conselho da OpenAI Foundation, receberá os relatórios sem cortes e poderá conversar em particular com os avaliadores. Segundo a OpenAI, divergências passam pelo Safety Advisory Group e por executivos; se não forem resolvidas, seguem para o comitê.

O que cada avaliador fará

As quatro organizações têm atribuições diferentes. A OpenAI também informou que Apollo Research e Goodfire recebem remuneração não condicionada aos resultados; METR e Transluce não aceitam pagamento por suas avaliações, embora possam aceitar créditos de computação ou de API.

AvaliadorTrabalho anunciadoRemuneração informada pela OpenAI
Apollo ResearchAvaliar as quatro questões sobre subversão, treinamento, avaliações, uso interno e detecção.Remunerada, sem vínculo entre pagamento e resultado.
METRAvaliar o alinhamento do maior treinamento por aprendizado por reforço da OpenAI até então e possíveis falhas que testes ou monitores não detectem. Uma avaliação mais ampla de monitores ainda dependia de acordo sobre o escopo no anúncio.Não aceita remuneração financeira pela avaliação; pode aceitar créditos de computação ou de API.
TransluceExaminar a qualidade e a cobertura das avaliações de alinhamento após o treinamento. A OpenAI manifestou a intenção de uma etapa posterior de cerca de oito semanas no início de 2027.Não aceita remuneração financeira pela avaliação; pode aceitar créditos de computação ou de API.
GoodfireUsar pesquisa de interpretabilidade para analisar o funcionamento interno dos modelos, monitorar treinamentos, depurar e apoiar o alinhamento. A avaliação tem como público principal pesquisadores internos da OpenAI; a Goodfire também publicará resultados e aprendizados.Remunerada, sem vínculo entre pagamento e resultado.