In een simulatie met drie AI-agenten namen aggregators het foute antwoord van een misleide werkagent over in 751 van de 757 gevallen waarin die werkagent zelf was misleid. In een aparte test met toegang tot de oorspronkelijke bron maakten aggregators geen fouten in 780 proeven. De onderzoekers Keegan Wang en Anantika Mannby beschrijven deze resultaten in hun paper op arXiv; het zijn proeven met fictieve gegevens, geen meting van fouten in klantgebruik.

Wat telt als een schadelijke antwoordwijziging?

De onderzoekers noemen een verandering een schadelijke antwoordwijziging wanneer een AI-model eerst het juiste antwoord geeft, maar na contact met een andere agent of vervalst bewijs overschakelt op het foute antwoord dat de aanvaller ondersteunt. De hoofdtaken bestonden uit fictieve verhalen met relationele feiten en telkens twee antwoordmogelijkheden. De onderzoekers gebruikten een verzameling van 180 taken en hielden echte dossiers beschikbaar naast vervalste documenten.

Sommige vervalsingen bevatten herkenbare aanwijzingen: een zogenoemde correctie was gedateerd vóór het document dat ze zou aanpassen, of miste een registratieregel die wel in echte dossiers stond. De stapelingstest combineerde vijf valse documenten met een verzameling van 35 bestanden.

Waarom de uitkomst afhing van de aanval

Bij de stapelingstest in Claude Code maakte Opus 5 één schadelijke antwoordwijziging in 180 proeven toen het de bestanden zelf las. Wanneer Opus 5 het lezen aan Haiku 4.5 delegeerde, waren dat er 75 van de 180. In die opstelling was de supervisor technisch beperkt tot de Task-tool en had het geen directe toegang tot de bestanden.

Een andere test in Codex gebruikte een vervalst document met een gezaghebbend klinkende toelichting. GPT-5.6-sol maakte daarbij geen schadelijke antwoordwijzigingen in 180 proeven met directe leestoegang; wanneer het op GPT-5.6-terra steunde, waren dat er 44 van de 180. De beperking op delegeren werd hier per proef geïnstrueerd en gecontroleerd, niet technisch afgedwongen.

Direct lezen voorkwam evenmin elke fout: in een aparte Codex-test met een vervalst correctiebericht maakte GPT-5.6-sol 172 schadelijke antwoordwijzigingen in 180 proeven, ook bij directe leestoegang. De tests gebruikten verschillende aanvallen en opstellingen. De aantallen vormen dus geen rechtstreekse vergelijking tussen Claude Code en Codex.

Hoe een fout verder reisde naar een aggregator

In de aparte proef met drie agentrollen probeerden onderzoekers een aanvaller, een werkagent en een aggregator na elkaar op elkaar in te laten werken. Vijf aggregators namen het foute antwoord over in 751 van de 757 gevallen waarin de werkagent was misleid. In de controleproef met een eerlijke werkagent maakten aggregators geen fouten in 780 tests.

Toen de aggregators de opgehaalde oorspronkelijke bron kregen, maakten ze eveneens geen fouten in 780 tests. Dat resultaat komt uit deze simulatie; het is geen garantie voor andere systemen of taken.

Geef een volgende agent niet alleen de conclusie van een hulpagent, maar ook de bron waarop die conclusie berust.

In een afzonderlijke proef met een werkelijke agentopstelling vergeleken de onderzoekers ook controlemaatregelen. Zonder zo’n controle waren er 15 schadelijke antwoordwijzigingen in 40 proeven. Een controle die een citaat uit het oorspronkelijke dossier vereiste, kwam uit op 3 van de 40; een controle die de agent opdroeg sceptisch te zijn, op 1 van de 40. De onderzoekers vonden geen statistisch aantoonbaar verschil tussen die twee controles in deze proef.

Wat de resultaten wel en niet zeggen

De auteurs noemen minder verificatie als mogelijke verklaring voor fouten na delegatie, maar niet als bewezen oorzaak. Het aantal toolbeurten was correlatief gemeten en delegatie veranderde ook welke informatie de supervisor te zien kreeg.

Herhaalde metingen liepen bovendien uiteen: bij 3.652 herhaalde paren verschilden twee metingen van hetzelfde feit in 13,0% van de gevallen. De onderzoekers omschrijven de uitkomsten per testcel daarom als schattingen. Omdat de proeven fictieve gegevens in een afgeschermde omgeving gebruikten, geven ze geen foutpercentage voor dagelijks klantgebruik.