Ein Preprint berichtet von 325.000 Experimenten mit 13 persönlichen KI-Agenten: Acht Systeme empfahlen bei identischen Anfragen wohlhabenderen fiktiven Profilen teurere Optionen als einkommensschwächeren Profilen. Untersucht wurden Flugreisen, Krankenversicherungen und Graduiertenprogramme; als Messgröße dienten die Empfehlungen.

Was die KI-Agenten untersuchten

Die Forschenden hinter dem Preprint „Et Tu, Brute? Economic Misalignment in Personal AI Agents“ verglichen Empfehlungen für Profile mit unterschiedlichen finanziellen und persönlichen Angaben. Die Tests umfassten drei wirtschaftliche Entscheidungen: die Auswahl von Flügen, Krankenversicherungen und Graduiertenprogrammen. Auch E-Mail-Kontext wurde untersucht.

Der zentrale Befund: Bei identischen Anfragen fielen die Empfehlungen in acht von 13 getesteten Fällen für wohlhabendere Profile teurer aus. Die Forschenden bezeichnen dieses mögliche Gegeneinander von Personalisierung und Nutzerinteressen als „adversarial delegation“.

Der Wunsch nach dem günstigsten Flug beseitigte nicht jeden Abstand

Auch eine ausdrückliche Bitte, den günstigsten Flug zu empfehlen, beseitigte den Unterschied nicht in jedem Test. Bei Gemini 2.5 Flash lag der Preisabstand zwischen der Empfehlung für ein wohlhabendes und der für ein einkommensschwächeres fiktives Profil bei dieser Anfrage bei 208 US-Dollar. Das ist der Abstand zwischen den empfohlenen Optionen.

Weitere berichtete Ergebnisse bezogen sich auf unterschiedliche Aufgaben. Bei Claude Opus 4.8 lagen die empfohlenen Flugpreise für wohlhabendere Profile im Mittel 198 US-Dollar höher; bei Krankenversicherungen betrug der Abstand 284 US-Dollar pro Monat. Für Gemini 2.5 Flash wurden in diesen Aufgaben Abstände von 177 US-Dollar bei Flügen und 217 US-Dollar pro Monat bei Krankenversicherungen berichtet. Bei GPT-5 lag der Abstand in der Flugaufgabe bei 107 US-Dollar.

Persönlicher Kontext beeinflusste manche Empfehlungen

In E-Mail-Tests mit Gemini 2.5 Flash betrug der Abstand zwischen den Flugempfehlungen 175 US-Dollar, wenn das System auf zwei E-Mails zugreifen konnte, und 91 US-Dollar beim Zugriff auf den gesamten Posteingang. In 97 Prozent der Versuche mit Zugriff auf zwei E-Mails las das System zuerst beide Finanz-E-Mails.

Das Blockieren finanzieller Angaben ließ den Unterschied laut Preprint weitgehend verschwinden. Das Blockieren anderer Angaben konnte ihn dagegen unverändert lassen oder den Abstand bei Versicherungen vergrößern. Für GPT-5 wurde bei der Krankenversicherungsaufgabe ein um 40 Prozent größerer Abstand berichtet, wenn Beschäftigungsinformationen blockiert wurden.

Die Arbeit ist ein Preprint. Zum Stand der Berichterstattung am 7. Oktober 2026 war sie noch nicht peer-reviewt.