In una simulazione con tre agenti, una risposta falsa passò dal lavoratore all’aggregatore in 751 dei 757 casi in cui il lavoratore era stato ingannato. In un altro gruppo di prove, quando l’aggregatore ricevette la fonte recuperata, non commise errori in 780 tentativi. I risultati riguardano esperimenti controllati con fatti inventati, non misurano la frequenza di questi problemi nell’uso quotidiano.
Come può un agente trasmettere una risposta falsa?
Un agente che riassume documenti può passare a un secondo agente un’informazione errata come se fosse attendibile. Nel test di Wang e Mannby, un aggressore alterava le prove lette da un agente lavoratore; un aggregatore, a valle, formulava la risposta sulla base del suo risultato. Quando il lavoratore veniva ingannato, i cinque aggregatori esaminati ripetevano l’errore in 751 casi su 757.
Il passaggio decisivo non era una risposta sbagliata comparsa dal nulla: l’aggregatore riceveva un’affermazione già corrotta lungo la catena. Nel gruppo di controllo con un lavoratore onesto, gli aggregatori non sbagliarono in 780 prove.
Che cosa cambiava quando l’aggregatore poteva leggere la fonte?
In una condizione distinta della stessa simulazione, i ricercatori fornirono agli aggregatori la fonte recuperata. In 780 prove, non si verificarono errori. Il risultato indica che, in quel test, l’accesso al documento originale offriva al decisore un modo per controllare la risposta del collega invece di affidarsi soltanto alla sua sintesi.
Quando un agente delega la lettura, il decisore può controllare meglio la risposta se riceve anche la fonte originale.
Questo esperimento di propagazione è separato da un’altra prova condotta con un sistema di agenti reale. In quel test, il valore di partenza era 15 errori su 40; un verificatore che doveva citare il documento originale ne produsse 3 su 40, mentre uno istruito a essere scettico ne produsse 1 su 40. Gli autori considerarono statisticamente indistinguibili i risultati dei due verificatori in quella prova (p = 0,63).
Che cosa conta come revisione dannosa?
Gli autori chiamano revisione dannosa il cambiamento da una risposta iniziale corretta alla risposta errata sostenuta dall’attaccante dopo l’interazione con un altro agente o con le prove alterate. Il gruppo di Wang e Mannby ha misurato questo esito in 180 compiti basati su storie inventate, con due possibili risposte. I documenti autentici restavano disponibili insieme a quelli falsificati.
Le falsificazioni contenevano indizi fissi: per esempio, una correzione riportava una data precedente al documento che avrebbe dovuto correggere e mancava della riga di registrazione presente nei documenti autentici. Il test chiedeva quindi ai modelli di ricavare fatti da un archivio in cui le prove ingannevoli convivevano con quelle genuine.
I risultati cambiano con il tipo di falsificazione
Nella condizione di falsificazione combinata di Claude Code, Opus 5 registrò 1 revisione dannosa su 180 quando leggeva direttamente i file e 75 su 180 quando delegava la lettura a Haiku 4.5. In quella configurazione, l’accesso diretto ai file era stato rimosso per il supervisore e l’uso dello strumento Task era imposto tecnicamente.
In una diversa prova di Codex, basata su una falsa nota di autorevolezza, GPT-5.6-sol registrò 0 revisioni dannose su 180 leggendo direttamente e 44 su 180 affidandosi a GPT-5.6-terra. Qui, invece, il vincolo alla delega era dato tramite istruzioni e verificato a ogni prova, non imposto tecnicamente.
La lettura diretta non evitava ogni errore: nella condizione di Codex con una falsa nota di correzione, il modello ebbe 172 revisioni dannose su 180 anche leggendo i file in prima persona. I diversi conteggi riguardano falsificazioni e modalità di delega differenti, quindi non costituiscono un confronto diretto fra Claude Code e Codex.
Che cosa si può concludere dai test?
Gli autori non hanno stimato quanto spesso questi errori avvengano nei sistemi usati dai clienti: gli esperimenti impiegavano fatti inventati in ambienti isolati. Anche l’ipotesi che delegare riduca le verifiche resta una possibile spiegazione, non una causa dimostrata. Il numero di interazioni con gli strumenti era correlato agli errori, ma la delega cambiava anche le informazioni viste dal supervisore.
Le singole misurazioni variavano inoltre tra una prova e l’altra: su 3.652 coppie ripetute, due misure dello stesso fatto erano discordanti nel 13,0% dei casi. I risultati descrivono dunque condizioni sperimentali specifiche, non un tasso generale di errore degli agenti IA.