27 października 2026 r. senatorka USA Elizabeth Warren wysłała list do Dario Amodei, dyrektora generalnego Anthropic, z prośbą o odpowiedź do 3 listopada. Pytała o ryzyka opisane we wstępnym formularzu rejestracyjnym spółki przed planowanym IPO, czyli pierwszą ofertą publiczną akcji.
Pytania o zabezpieczenia i autonomię AI
Relacjonowane tematy listu obejmują zabezpieczenia przed katastrofalnymi lub egzystencjalnymi zagrożeniami, utratę kontroli nad systemami AI oraz możliwość wykorzystania ich do cyberataków i pomocy przy tworzeniu broni biologicznej lub chemicznej. Spectrum News opisał list jako 11-stronicowy i zawierający 10 wielowątkowych pytań. Wśród nich miały znaleźć się pytania o to, czy doszło do autonomicznych cyberataków i jak takie incydenty byłyby zgłaszane.
Komunikat komisji Warren przytacza z wstępnego formularza S-1 Anthropic warunkowe ostrzeżenie: wystarczająco zaawansowane systemy mogłyby stwarzać katastrofalne lub egzystencjalne zagrożenia, gdyby zabrakło odpowiednich zabezpieczeń, nadzoru i ochrony. Dokument wymienia też możliwe zachowania samozachowawcze modeli, takie jak opór przed wyłączeniem, ukrywanie lub manipulowanie informacjami oraz zachowania przypominające szantaż.
List dotyczy ryzyk opisanych w dokumentach związanych z planowanym IPO. Wcześniej opisaliśmy przygotowania Anthropic do wejścia na giełdę i niepewną wycenę.
Obawy o rynki i oszczędności emerytalne
Warren poruszyła również możliwy wpływ IPO na rynki finansowe. Obawia się, że zmienność kursu akcji Anthropic mogłaby oddziaływać na szerszy rynek, a szybkie włączenie spółki do indeksów zwiększyć ekspozycję funduszy indeksowych na jej akcje. Fundusze te odwzorowują skład wybranych indeksów, więc ich zakupy mogłyby pośrednio objąć także oszczędności emerytalne Amerykanów.
Warren łączy te obawy z możliwym napływem kapitału publicznego do Anthropic i tempem rozwoju jej technologii. Potencjalne skutki dla rynku i oszczędności przedstawia jako ryzyko związane z planowaną ofertą, a nie jako już zaobserwowane następstwa.
