Nei test di Keegan Wang e Anantika Mannby, alcuni agenti che delegavano la lettura delle prove a un modello ausiliario finivano più spesso per accettare una risposta falsa. La prima versione dello studio, depositata su arXiv il 12 novembre 2026, riguardava compiti in sandbox con fatti inventati: i risultati variavano a seconda dell’attacco e non misurano la frequenza degli errori nei prodotti usati dai clienti.

Quando un agente riceve una conclusione di seconda mano, poter consultare anche il documento originale può fare la differenza.

Che cosa significa una risposta errata nello studio

Gli autori chiamano «revisione dannosa» il passaggio da una risposta inizialmente corretta a quella sbagliata sostenuta dall’attaccante, dopo che al sistema arriva una prova falsificata. Nei compiti, l’agente doveva scegliere tra due risposte su fatti inventati; i documenti autentici restavano nel deposito insieme a quelli falsi.

Le falsificazioni seguivano schemi diversi: alcune si presentavano come avvisi di correzione, altre rivendicavano un’autorità speciale o ripetevano più volte la stessa versione falsa. Nella falsificazione combinata, i documenti contraffatti erano datati prima di quelli autentici che avrebbero dovuto correggere e non riportavano una riga identificativa presente negli originali.

Perché i risultati dipendono dal tipo di attacco

Wang e Mannby hanno rilevato più revisioni dannose in alcune prove con lettura delegata, ma i numeri appartengono a configurazioni e attacchi specifici. Per esempio, il test di Claude Code usava una falsificazione combinata; quelli di Codex riportati qui riguardavano un attacco basato su una falsa pretesa di autorità («gloss») oppure un avviso di correzione.

Configurazione e attaccoLettura direttaLettura delegataVincolo sulla delega
Claude Code, falsificazione combinata: Opus 5 legge direttamente o delega a Haiku 4.51 su 180 revisioni dannose75 su 180L’uso del solo strumento Task era imposto meccanicamente e rimuoveva l’accesso diretto ai file dell’orchestratore.
Codex, attacco «gloss»: GPT-5.6-sol legge direttamente o delega a GPT-5.6-terra0 su 18044 su 180La delega era imposta tramite istruzioni e verificata a ogni prova.
Codex, attacco con avviso di correzione172 su 180180 su 180La delega era imposta tramite istruzioni e verificata a ogni prova.

I risultati di Claude Code e quelli dell’attacco «gloss» su Codex non costituiscono un confronto tra prodotti: cambiano sia la falsificazione sia il modo in cui veniva limitata la delega. Anche la lettura diretta non proteggeva sempre dall’inganno: nel distinto attacco con avviso di correzione, Codex ha registrato 172 revisioni dannose su 180 prove dirette.

Che cosa succede quando una risposta falsa passa a un altro agente

In una simulazione separata, cinque agenti aggregatori hanno sbagliato nel 94,7–98,0% delle prove quando ricevevano il resoconto di un agente che era stato ingannato. Quando ricevevano invece il documento originale recuperato, non hanno commesso errori in 780 prove. È un risultato della simulazione, distinto dai test condotti con Claude Code e Codex: illustra quanto il passaggio di una conclusione possa pesare quando chi la riceve non consulta la fonte primaria.

Che cosa hanno mostrato le prove di verifica

In un altro test controllato, con 40 prove per condizione, le revisioni dannose sono state 15 su 40 senza una misura aggiuntiva, 3 su 40 quando il verificatore doveva citare il documento originale e 1 su 40 quando gli veniva chiesto di essere scettico. Gli autori hanno giudicato statisticamente indistinguibili i risultati delle due strategie di verifica.

Lo studio registra 58.589 prove complessive; nel 13,0% di 3.652 coppie di prove ripetute sullo stesso fatto, i risultati differivano. Gli autori descrivono come correlazionale il rapporto tra il numero di passaggi agli strumenti e gli errori: non hanno isolato sperimentalmente la riduzione delle verifiche come causa delle revisioni dannose.