Em 20 de outubro de 2026, a Model Evaluation and Threat Research (METR) publicou uma análise da seção sobre desalinhamento em situações de alto risco do relatório de riscos da Anthropic, de agosto. A revisão se baseou exclusivamente nesse documento e não usou o acesso interno que a Anthropic anunciou cinco dias antes. Para os modelos avaliados, a melhor estimativa da METR foi de baixo risco de dano catastrófico por desalinhamento, sobretudo porque suas capacidades eram limitadas.
O que a revisão da METR examinou
A avaliação cobriu modelos implantados interna ou externamente antes de 15 de julho de 2026, entre eles Mythos 5 e um modelo de uso interno chamado “Model 2”. A METR disse que não tinha o novo acesso ao conduzir a revisão, que havia sido combinada antes do anúncio da Anthropic.
O contexto para a proposta de avaliadores externos apareceu antes no debate sobre o ritmo de desenvolvimento da IA. A NeoTeo abordou essa iniciativa em sua cobertura anterior sobre Dario Amodei.
O que a Anthropic ofereceu à METR
Em 15 de outubro, a Anthropic anunciou que havia começado a dar a seis funcionários da METR equipamentos da empresa, espaço de escritório e acesso a sistemas internos. A empresa descreveu esse acesso como semelhante ao concedido às suas próprias equipes de avaliação de riscos. Também afirmou que a equipe incorporada trabalha sob padrões de segurança da Anthropic e acordos executáveis, e fica isolada do restante da equipe da METR.
A Anthropic descreveu três níveis de avaliação. Eles diferem nas regras para publicar resultados; o acesso semelhante ao de funcionários faz parte do arranjo de nível 3 da METR.
| Nível | Regras de publicação descritas pela Anthropic |
| 1 | A publicação precisa da aprovação da Anthropic. |
| 2 | O avaliador pode publicar sem aprovação prévia, sujeito a cortes específicos, e pode comentar se considera os cortes justificados. |
| 3, METR | A METR pode publicar sem veto da Anthropic, sujeita a cortes em categorias definidas. A empresa decide se uma informação se enquadra nessas categorias. A METR pode fazer certas declarações sobre o acesso e as informações recebidas. |
Entre as categorias de corte citadas pela Anthropic estão informações de clientes, material protegido pelo sigilo entre advogado e cliente e detalhes da arquitetura dos modelos. Assim, o direito de publicação anunciado para a METR convive com limites específicos e com a decisão da Anthropic sobre quando eles se aplicam.
O que a METR concluiu e recomendou
A estimativa de baixo risco da METR se restringe aos modelos cobertos pelo relatório. A organização atribuiu esse resultado principalmente às capacidades limitadas dos modelos, e não às salvaguardas ou ao treinamento de alinhamento. Também alertou que os métodos do relatório talvez não identificassem de forma confiável um nível de risco mais alto.
A METR recomendou testes adversariais mais abrangentes, de ponta a ponta, do sistema de monitoramento assíncrono da Anthropic. A proposta inclui testar se um agente persistente conseguiria encontrar caminhos menos monitorados ou interferir no monitoramento. A METR também recomendou incluir na análise de riscos a possibilidade de sistemas de IA influenciarem decisões da Anthropic relacionadas à segurança.
