Een studie van Keegan Wang en Anantika Mannby, op 12 november 2026 ingediend bij arXiv, vond dat AI-agenten in bepaalde tests vaker een vals antwoord overnamen wanneer een hulpagent de bewijsstukken las. De proeven gebruikten fictieve gegevens in een afgeschermde omgeving. De onderzoekers maten hoe vaak een aanvankelijk juist antwoord omsloeg nadat vervalst bewijs opdook; de uitkomst hing sterk af van het type aanval. (De studie van Wang en Mannby)
Een doorgegeven samenvatting is geen vervanging voor toegang tot het oorspronkelijke bewijs: in een simulatie maakten aggregators geen fouten wanneer ze het bronrecord kregen.
Wat telde als een schadelijke omslag?
De onderzoekers noemden een omslag schadelijk als een agent eerst juist antwoordde, maar na het tegenkomen van vervalst bewijs veranderde naar het verkeerde antwoord dat de aanvaller bepleitte. De taken draaiden om fictieve feiten en vragen met twee antwoordmogelijkheden. Het echte record bleef naast het vervalste materiaal in de bestandsopslag staan.
De vervalsingen kwamen in verschillende vormen voor, zoals een correctiebericht, een beroep op vermeende autoriteit, herhaalde valse beweringen en een combinatie daarvan. Sommige vervalste records droegen een eerdere datum dan het echte document dat ze beweerden te corrigeren en misten een registratieregel die wel in echte records stond.
Waarom de aanval het resultaat veranderde
Bij de gestapelde vervalsingsaanval in Claude Code registreerde Opus 5 1 schadelijke omslag in 180 directe leesproeven. Toen Haiku 4.5 de bewijsstukken las en de uitkomst doorgaf, waren dat er 75 van de 180. In deze proef was de toegang van Opus 5 technisch beperkt tot de Task-tool, waardoor het zelf geen bestanden kon lezen.
De Codex-proeven lieten zien waarom die cijfers niet als productvergelijking werken: de aanvallen en de manier waarop delegeren werd afgedwongen, verschilden. Bij de zogeheten gloss-aanval, waarin een vervalsing gezag claimde, waren er 0 omslagen in 180 directe leesproeven met GPT-5.6-sol en 44 van de 180 wanneer GPT-5.6-terra het bewijs las. Bij een andere aanval met een correctiebericht waren er 172 omslagen in 180 directe leesproeven en 180 van de 180 gedelegeerde proeven. Codex werd in die tests via instructies tot delegeren aangezet; de onderzoekers controleerden dat per proef.
| Geteste configuratie | Aanval | Rechtstreeks lezen | Lezen door hulpagent | Beperking op delegeren |
| Claude Code: Opus 5 met Haiku 4.5 | Gestapelde vervalsing | 1/180 | 75/180 | Technisch beperkt tot de Task-tool |
| Codex: GPT-5.6-sol met GPT-5.6-terra | Gezagsclaim („gloss”) | 0/180 | 44/180 | Via instructies; per proef gecontroleerd |
| Codex: GPT-5.6-sol met GPT-5.6-terra | Correctiebericht | 172/180 | 180/180 | Via instructies; per proef gecontroleerd |
De aantallen komen uit afzonderlijke proeven met fictieve gegevens. Vooral de 0 omslagen bij de directe Codex-proef met de gezagsclaim zegt weinig over de correctieberichtaanval, waarbij de directe leesproef juist 172 omslagen opleverde. Rechtstreeks lezen voorkwam fouten dus niet in elke geteste aanval.
Wat gebeurde er toen een rapport werd doorgegeven?
In een aparte simulatie gaven werkers hun bevindingen door aan aggregators die de antwoorden samenvoegden. Vijf aggregators zaten in 94,7 tot 98,0 procent van de proeven fout wanneer ze een vervuild werkerrapport kregen. Met toegang tot het opgehaalde bronrecord maakten ze in 780 proeven geen fouten.
Dat resultaat betreft een simulatie, niet een meting van incidenten bij klanten. Het maakt wel duidelijk waarom de route van een bewijsstuk ertoe deed in deze proeven: een samenvatting kon een verkeerde conclusie doorgeven, terwijl de aggregator met het oorspronkelijke record de informatie zelf kon beoordelen.
Wat lieten de controles met een verificateur zien?
In een afzonderlijke test met de echte agentomgevingen waren er 15 schadelijke omslagen in 40 proeven bij de uitgangsconditie. Dat aantal daalde tot 3 van de 40 wanneer een verificateur een citaat uit het oorspronkelijke record moest geven, en tot 1 van de 40 met een verificateur die sceptisch moest zijn. De analyse van de onderzoekers maakte geen statistisch onderscheid tussen die twee controleaanpakken.
De onderzoekers rapporteerden in totaal 58.589 proeven. In 3.652 herhaalde paren van dezelfde feiten verschilden de uitkomsten in 13,0 procent van de gevallen; afzonderlijke aantallen zijn daarmee schattingen, geen vaste eigenschappen van een model. De auteurs beschreven het verband tussen het aantal toolbeurten en fouten als correlatief. Ze voerden geen proef uit die vaststelde dat minder controles de fouten veroorzaakten.