Em 16 de novembro de 2026, a OpenAI anunciou acordos com quatro avaliadores independentes. A Apollo Research examinará se modelos podem agir contra a intenção de seus desenvolvedores e se as salvaguardas conseguiriam detectar esse comportamento. A OpenAI também descreveu o acesso previsto e as regras de supervisão e publicação do trabalho em seu anúncio da primeira fase de avaliações integradas.
A avaliação externa também estava entre as demandas de três ex-pesquisadores de segurança da OpenAI. Relembre a carta e a resposta da empresa; esse episódio é um contexto anterior, separado dos termos do novo programa.
O que a Apollo Research vai avaliar
A OpenAI organizou o escopo da Apollo em torno de quatro questões sobre possível subversão — quando um modelo age secretamente contra as intenções de quem o desenvolveu:
- O treinamento incentivou esse tipo de comportamento?
- Avaliações robustas e testes de equipe vermelha conseguem provocá-lo?
- Modelos tentaram agir assim durante o uso interno?
- O raciocínio por trás de uma tentativa seria detectável?
São questões para investigação, não resultados. Na primeira etapa, a OpenAI prevê dar à Apollo acesso a modelos públicos e ainda não lançados, checkpoints de treinamento, dados e resultados de avaliação relevantes, registros de intervenções no treinamento, sistemas de monitoramento e comportamentos sinalizados. A lista também inclui contexto de pesquisadores, ferramentas e capacidade computacional para testes independentes.
A OpenAI diz que cada avaliação tem escopo, recursos e medidas de segurança acordados, e que os avaliadores podem seguir as evidências e ajustar seus métodos dentro desse escopo. Assim, a lista de materiais descreve o acesso previsto para o trabalho da Apollo, não um acesso sem limites.
Como funcionam a publicação e a supervisão
A OpenAI afirma que os avaliadores mantêm independência para publicar suas avaliações. A empresa pode ocultar informações confidenciais e pedir adiamentos de divulgação responsável quando uma descoberta representar riscos de segurança. Conversas com funcionários autorizados são reservadas e não podem ser publicadas nem atribuídas a pessoas específicas. Os avaliadores podem pedir declarações atestadas por outro processo e informar se a OpenAI se recusar a atestá-las.
A avaliação combina acesso para testar, possibilidade de publicar e uma instância que recebe os relatórios integrais.
O OpenAI Safety and Security Committee, comitê independente do conselho da OpenAI Foundation, receberá os relatórios sem cortes e poderá conversar em particular com os avaliadores. Segundo a OpenAI, divergências passam pelo Safety Advisory Group e por executivos; se não forem resolvidas, seguem para o comitê.
O que cada avaliador fará
As quatro organizações têm atribuições diferentes. A OpenAI também informou que Apollo Research e Goodfire recebem remuneração não condicionada aos resultados; METR e Transluce não aceitam pagamento por suas avaliações, embora possam aceitar créditos de computação ou de API.
| Avaliador | Trabalho anunciado | Remuneração informada pela OpenAI |
| Apollo Research | Avaliar as quatro questões sobre subversão, treinamento, avaliações, uso interno e detecção. | Remunerada, sem vínculo entre pagamento e resultado. |
| METR | Avaliar o alinhamento do maior treinamento por aprendizado por reforço da OpenAI até então e possíveis falhas que testes ou monitores não detectem. Uma avaliação mais ampla de monitores ainda dependia de acordo sobre o escopo no anúncio. | Não aceita remuneração financeira pela avaliação; pode aceitar créditos de computação ou de API. |
| Transluce | Examinar a qualidade e a cobertura das avaliações de alinhamento após o treinamento. A OpenAI manifestou a intenção de uma etapa posterior de cerca de oito semanas no início de 2027. | Não aceita remuneração financeira pela avaliação; pode aceitar créditos de computação ou de API. |
| Goodfire | Usar pesquisa de interpretabilidade para analisar o funcionamento interno dos modelos, monitorar treinamentos, depurar e apoiar o alinhamento. A avaliação tem como público principal pesquisadores internos da OpenAI; a Goodfire também publicará resultados e aprendizados. | Remunerada, sem vínculo entre pagamento e resultado. |