Anthropic twierdzi, że między grudniem 2025 a sierpniem 2026 wykrył i zakłócił działania wykorzystujące Claude’a do szkodliwych celów. Opublikowany 10 września raport obejmuje siedem obszarów: operacje cybernetyczne, operacje wpływu informacyjnego, nadzór, oszustwa i wyłudzenia, nadużycia biologiczne, rozwój broni konwencjonalnej oraz destylację modeli.
Anthropic opisuje siedem obszarów nadużyć Claude’a
Anthropic przedstawia opisane działania jako przypadki wykryte przez własny zespół Threat Intelligence. Firma twierdzi, że blokowała powiązane konta, wzmacniała zabezpieczenia i dzieliła się informacjami z organami oraz partnerami branżowymi, gdy było to właściwe.
Wśród opisanych modeli znalazły się Claude Haiku, Sonnet i Opus. Anthropic podaje, że modele klasy Claude Fable lub Mythos pojawiły się tylko w jednym przypadku związanym z nieuprawnioną destylacją.
Najbardziej wrażliwe przypadki dotyczyły biologii, wpływu i cyberataków
Anthropic opisuje pięć przypadków biologicznych. Jeden z nich dotyczył prośby o przygotowanie wniosku grantowego związanego z badaniami nad zwiększeniem zjadliwości wirusa chikungunya. Firma opisuje także prace nad wysoce patogenną grypą ptaków przystosowaną do zakażania ssaków, wniosek dotyczący ortopokswirusów oraz dwa przypadki obejmujące nietransmisyjne jady i toksyny. Anthropic twierdzi, że jego klasyfikator bezpieczeństwa biologicznego zablokował majową prośbę dotyczącą chikungunyi.
W części poświęconej operacjom wpływu Anthropic wymienia dziewięć przypadków pochodzących między innymi z Rosji, Iranu, Turcji, państw Zatoki Perskiej, Azji Południowej, Afryki i Europy. Opisywane działania obejmowały fałszywe profile, zmyślone biografie, naśladowanie serwisów informacyjnych, dossiers polityczne i zautomatyzowane tworzenie treści.
Opis cyberoperacji obejmuje kilka etapów ataku: rozpoznanie, phishing, eksploatację podatności, pozyskiwanie danych uwierzytelniających, ruch boczny w sieci, przetwarzanie danych i ich eksfiltrację. Anthropic twierdzi, że w części przypadków operatorzy korzystali z systemów wieloagentowych, a ludzie wyznaczali cele i analizowali pozyskane materiały.
Powiązane z Chinami przypadki obejmowały wojsko, nadzór i destylację
W jednym z opisanych projektów Claude miał pomóc przy chińskojęzycznej specyfikacji systemu przeciwtorpedowego oraz propozycji technicznej liczącej ponad 200 stron. Anthropic wspomina również o porównaniach z amerykańskimi programami przeciwtorpedowymi i przeciw okrętom podwodnym.
Inny przypadek dotyczył narzędzi do walki elektronicznej i tłumienia obrony powietrznej. Anthropic opisuje wykorzystanie czatu, narzędzi programistycznych i funkcji agentowych Claude’a przy tworzeniu około 16 modułów.
Firma opisuje też operację wymierzoną w Ujgurów i ujgurskie formacje zbrojne w Syrii. Claude miał służyć do analizowania i tłumaczenia materiałów zebranych przez zewnętrzną infrastrukturę oraz wspierać śledzenie, profilowanie i próby rekrutacji. W tym opisie pojawiają się powiązania kont, treści i metadanych z instytucjami badawczymi Chińskiej Republiki Ludowej, w tym z PLA Academy of Military Sciences.
Anthropic twierdzi ponadto, że wykrył i zakłócił kolejne kampanie nieuprawnionej destylacji prowadzone przez siedem laboratoriów z Chin. W tym kontekście firma opisuje masowe pozyskiwanie odpowiedzi Claude’a oraz obchodzenie zasad dostępu do usługi.
Destylacja nie oznacza automatycznie kradzieży modelu
Destylacja modeli to metoda, w której jeden model uczy się na odpowiedziach innego. Sama technika może być legalnym sposobem trenowania systemu i nie wymaga przeniesienia kodu źródłowego ani wag modelu nauczyciela.
W sprawach opisanych przez Anthropic kluczowy jest sposób uzyskiwania odpowiedzi oraz skala działania. Firma twierdzi, że operatorzy korzystali między innymi z dostępu, który naruszał zasady usługi, a następnie gromadzili duże ilości wyników Claude’a do trenowania innych systemów. Taki opis dotyczy pozyskiwania odpowiedzi modelu, a nie transferu jego parametrów.
Co wynika z opisu operacji
Anthropic przedstawia przypadki obejmujące zarówno bezpośrednią pracę z tekstem i kodem, jak i analizę materiałów zebranych przez inne systemy. W operacji dotyczącej Ujgurów Claude pełnił opisane funkcje analityczne i językowe; zebrane materiały pochodziły z zewnętrznej infrastruktury.
Wątek wojskowy dotyczy projektów powiązanych z chińskim sektorem obronnym oraz instytucjami badawczymi. Samo pojawienie się powiązań w danych kont i treści rozmów nie zmienia tego, że opisane działania Anthropic przypisuje konkretnym operatorom i projektom, a nie całemu aparatowi państwowemu.
Raport Anthropic pokazuje szeroki zakres zastosowań, które firma uznała za nadużycia: od przygotowywania materiałów biologicznych i operacji wpływu po wsparcie cyberataków, nadzór, projekty wojskowe i trenowanie innych modeli na odpowiedziach Claude’a.
