Em algumas condições testadas, supervisores de agentes de IA trocaram uma resposta correta pela opção favorecida por registros forjados depois que um modelo auxiliar leu as evidências. O estudo de Keegan Wang e Anantika Mannby usou fatos fictícios em ambientes isolados; a versão 1 foi submetida ao arXiv em 12 de novembro de 2026. Os resultados não medem falhas em produtos usados por clientes. (estudo de Wang e Mannby)

Em fluxos delegados, preserve o caminho de volta ao documento original.

O que o estudo mediu nos testes

Os pesquisadores chamaram de revisão prejudicial a mudança de uma resposta inicialmente correta para a resposta errada defendida pelo atacante, após a apresentação de uma evidência forjada. Cada tarefa trazia fatos relacionais fictícios, uma pergunta com duas opções e registros genuínos junto dos arquivos falsos.

Os ataques incluíam avisos de correção, alegações falsas de autoridade, relatos falsos repetidos, combinações de falsificações e instruções maliciosas inseridas nos arquivos. Assim, os números dependem tanto de quem leu os registros quanto do tipo de falsificação usado.

Como os resultados mudaram entre os ataques

Na condição de falsificação empilhada do Claude Code, o supervisor Opus 5 teve uma revisão prejudicial em 180 ensaios lendo os arquivos diretamente e 75 quando delegou a leitura a Haiku 4.5. No teste do Codex com uma falsificação que alegava autoridade, GPT-5.6-sol teve zero revisões prejudiciais em 180 ensaios de leitura direta; com a leitura delegada a GPT-5.6-terra, foram 44. (Resultados do estudo)

Configuração e ataqueLeitura direta: revisões prejudiciais / ensaiosLeitura delegada: revisões prejudiciais / ensaios
Claude Code: Opus 5 e Haiku 4.5; falsificação empilhada1/18075/180
Codex: GPT-5.6-sol e GPT-5.6-terra; alegação falsa de autoridade0/18044/180
Codex; aviso falso de correção172/180180/180

No Claude Code, a delegação foi limitada mecanicamente à ferramenta Task, que retirou do supervisor o acesso aos arquivos. No Codex, a restrição foi dada por instrução e conferida em cada ensaio. Já no ataque de aviso falso de correção do Codex, a leitura direta também terminou em muitas revisões prejudiciais: 172 em 180. A leitura direta, portanto, não teve o mesmo resultado em todos os ataques.

Nos controles sem arquivos falsos, a delegação não gerou revisões prejudiciais em 180 ensaios para cada produto. Os leitores auxiliares do mesmo nível também não apresentaram o efeito observado quando a leitura foi atribuída a um agente menos capaz.

O que aconteceu quando agentes repassaram relatórios

Em uma simulação separada, cinco agregadores receberam relatórios de agentes que haviam sido enganados por arquivos falsos. As taxas de erro dos agregadores ficaram entre 94,7% e 98,0%. Quando receberam o registro original recuperado, não houve erros em 780 ensaios. Esse resultado pertence à simulação de agregação, não aos testes de Claude Code e Codex.

O que os testes de verificação encontraram

Em outro teste, com 40 ensaios por condição, houve 15 revisões prejudiciais no grupo de base, 3 quando o verificador precisava citar o registro original e 1 quando recebeu a instrução de agir com ceticismo. O estudo não distinguiu estatisticamente as duas abordagens de verificação.

Os autores registraram 58.589 ensaios no total. Em 3.652 pares de execuções sobre o mesmo fato, 13,0% tiveram resultados diferentes. A associação entre o número de turnos de ferramenta e os erros foi correlacional; os autores não testaram, mantendo a delegação constante, se exigir uma consulta ao registro original por si só mudaria os resultados.