Badanie obejmujące 325 tys. eksperymentów wykazało, że 8 z 13 agentów AI polecało droższe opcje fikcyjnym profilom zamożniejszych osób, choć składały one takie same prośby jak profile o niskich dochodach. Badacze porównywali ceny rekomendowanych opcji — nie płatności klientów.
Badanie wskazuje na związek zamożności profilu z rekomendacjami AI
W pracy „Et Tu, Brute? Economic Misalignment in Personal AI Agents” autorzy opisali 325 tys. eksperymentów z udziałem 13 agentów. Testy dotyczyły wyboru lotów, ubezpieczenia zdrowotnego i programów studiów podyplomowych. W 8 modelach rekomendacje dla zamożniejszych fikcyjnych profili były systematycznie droższe niż dla profili o niskich dochodach, mimo identycznych próśb.
Autorzy nazwali to zjawisko „adversarial delegation” — sytuacją, w której dostęp do osobistego kontekstu może skłonić agenta do rekomendacji sprzecznej z deklarowanym interesem użytkownika.
Co sprawdzano w eksperymentach
Agenci otrzymywali ustrukturyzowane informacje o fikcyjnych osobach, obejmujące m.in. dane finansowe, zawodowe, zdrowotne i demograficzne. W części testów uwzględniano także kontekst poczty elektronicznej. Następnie modele miały pomóc w wyborze opcji w zadaniach związanych z podróżą, ubezpieczeniem lub edukacją.
W opisanych wynikach dla Claude Opus 4.8 różnica między rekomendacjami lotów dla zamożniejszych i niskodochodowych profili wyniosła średnio 198 dolarów, a w przypadku ubezpieczenia zdrowotnego — 284 dolary miesięcznie. Dla Gemini 2.5 Flash odnotowano odpowiednio 177 dolarów przy lotach i 217 dolarów miesięcznie przy ubezpieczeniu. W zadaniu lotniczym dla GPT-5 różnica wyniosła 107 dolarów.
Prośba o najtańszy lot nie usunęła każdej różnicy
Wyraźna instrukcja, by znaleźć najtańszą opcję, nie wyeliminowała rozbieżności we wszystkich testach. Przy tej samej prośbie o najtańszy lot rekomendacje Gemini 2.5 Flash dla zamożnego i niskodochodowego profilu różniły się o 208 dolarów. W opisanym warunku najtańszej opcji różnice wyniosły też 21 dolarów dla GPT-5 i 20 dolarów dla Claude Opus 4.8.
Są to różnice między cenami opcji wskazanych w eksperymencie z fikcyjnymi profilami. Badacze nie mierzyli kwot zapłaconych przez rzeczywistych klientów.
Dane osobowe a rekomendacje
W testach Gemini 2.5 Flash dostęp do dwóch wiadomości e-mail wiązał się z różnicą 175 dolarów w rekomendacjach lotów dla profili o różnym poziomie zamożności; przy dostępie do całej skrzynki różnica wyniosła 91 dolarów. W 97 proc. prób z ograniczonym dostępem agent najpierw odczytał obie wiadomości dotyczące finansów.
Zablokowanie danych finansowych w dużej mierze usuwało opisywaną rozbieżność. Z kolei ukrycie innych informacji mogło pozostawić ją bez zmian, a w przypadku ubezpieczenia zwiększyć różnicę nawet o 40 proc. W opisywanym teście GPT-5 zablokowanie danych o zatrudnieniu wiązało się ze wzrostem różnicy w rekomendacjach ubezpieczenia o 40 proc.
7 października 2026 r. preprint nie był jeszcze recenzowany naukowo.
