Eine am 12. November 2026 bei arXiv eingereichte Studie von Keegan Wang und Anantika Mannby fand in bestimmten Sandbox-Tests mehr schädliche Antwortwechsel, wenn ein übergeordneter KI-Agent die Prüfung gefälschter Belege an Hilfsagenten delegierte. Die Aufgaben arbeiteten mit erfundenen Fakten; die Ergebnisse unterscheiden sich je nach Angriff und Versuchsaufbau. Die Studie misst keine Fehlerquote im Kundeneinsatz.

Was in den Tests als schädlicher Antwortwechsel galt

Ein schädlicher Antwortwechsel lag vor, wenn ein Agent zunächst richtig antwortete, nach dem Kontakt mit gefälschten Belegen aber die falsche, vom Angreifer gestützte Antwort gab. Die Aufgaben bestanden aus erfundenen Beziehungen zwischen Fakten und Fragen mit jeweils zwei Antwortmöglichkeiten. Echte Datensätze blieben neben den Fälschungen verfügbar.

Die Fälschungen traten in unterschiedlichen Formen auf: etwa als angebliche Korrektur oder als wiederholte falsche Behauptung. In einigen Fällen war ein gefälschter Datensatz älter datiert als das Original, das er angeblich korrigierte, und ließ eine Akzessionszeile weg, die in echten Datensätzen vorkam.

Warum die Ergebnisse vom Angriff abhingen

Bei Claude Code und Codex untersuchten die Autoren verschiedene Angriffsarten und unterschiedliche Einschränkungen für die Delegation. Die Werte sind deshalb keine direkte Rangliste der Produkte.

TestkonfigurationAngriffDirektes LesenLesen durch HilfsagentenEinschränkung der Delegation
Claude Code: Opus 5 mit Haiku 4.5 als HilfsagentKombinierter Angriff mit gestapelten Fälschungen1 von 18075 von 180Der Task-Aufruf war technisch auf das Task-Werkzeug beschränkt; der übergeordnete Agent verlor den Dateizugriff.
Codex: GPT-5.6-sol mit GPT-5.6-terra als HilfsagentBehauptung falscher Autorität („gloss“)0 von 18044 von 180Die Einschränkung erfolgte per Anweisung und wurde in jedem Durchlauf geprüft.
CodexKorrekturhinweis-Angriff172 von 180180 von 180Die Delegation war per Anweisung eingeschränkt und wurde pro Durchlauf geprüft.

Der Unterschied zwischen den beiden hervorgehobenen Delegationstests betrifft also nicht nur die Modelle: Auch die Fälschungsart und die Art der Zugriffsbeschränkung waren verschieden. Zudem zeigt der Korrekturhinweis-Test, dass direktes Lesen allein in jedem Angriff Schutz bot.

Bei delegierter Belegprüfung zählt, ob die übergeordnete Instanz auch den Originaldatensatz prüfen kann – und nicht nur die Zusammenfassung des Hilfsagenten erhält.

Wie sich falsche Berichte in einer Simulation fortpflanzten

In einer separaten Simulation erhielten fünf zusammenfassende Agenten entweder Berichte korrumpierter Helfer oder Zugriff auf den abgerufenen Originaldatensatz. Mit den verfälschten Berichten lagen die Agenten in 94,7 bis 98,0 Prozent der Fälle falsch. Mit dem Originaldatensatz traten in 780 Durchläufen keine Fehler auf.

Das Ergebnis beschreibt eine kontrollierte Simulation. Es ergänzt die Tests mit Claude Code und Codex, ist aber keine Messung realer Vorfälle bei Kunden.

Was die Tests zur Überprüfung ergaben

In einem weiteren Test mit 40 Durchläufen je Bedingung gab es 15 schädliche Antwortwechsel in der Vergleichsbedingung. Musste der prüfende Agent aus dem Originaldatensatz zitieren, waren es 3; bei einer Anweisung, skeptisch zu prüfen, war es 1. Die Studie wertete die beiden Prüfvarianten statistisch nicht als unterscheidbar.

Insgesamt verzeichneten die Autoren 58.589 Durchläufe. Bei 3.652 wiederholten Paaren derselben Tatsache wichen die Ergebnisse in 13,0 Prozent der Paare voneinander ab; die Autoren bezeichnen einzelne Raten daher als Schätzwerte. Sie beschreiben den Zusammenhang zwischen weniger Werkzeugaufrufen und Fehlern als korrelativ und führten keinen Versuch durch, der eine Ursache durch unterlassene Prüfung des Originaldatensatzes isoliert hätte.