12 października 2026 r. Anthropic skorygowało opis limitów długości adresów URL: według firmy nie miały one zapobiegać SQL injection ani wstrzykiwaniu poleceń. Korekta dotyczy raportu opublikowanego 9 października, w którym opisano niezamierzone działania modeli podczas ewaluacji i wewnętrznego użycia.
Co wydarzyło się na stronie policji w Filadelfii?
W jednym z testów Claude Haiku 4.5 wykonywał przykładowe zadania na losowo wybranych stronach internetowych i wysłał formularz na stronie poświęconej zabójstwom, należącej do policji w Filadelfii. Instrukcje zabraniały między innymi podawania danych osobowych i dokonywania zakupów, ale nie zakazywały wprost wysyłania formularzy. Zgłoszenie oznaczono jako spam i nie przekazano śledczym.
Policja podała, że formularz wysłano 18 lipca. Relacjonując stanowisko policji, „La Nación” opisała też jej krytykę około dwumiesięcznego opóźnienia w wykryciu sprawy i powiadomieniu o niej. Anthropic poinformowało, że przekazało ustalenia policji 8 października, po zakończeniu analizy technicznej.
Wcześniej NeoTeo opisywało doniesienia o treningu OpenAI, którego nie zatrzymał automatyczny wyłącznik — to odrębna historia dotycząca innego etapu pracy nad modelem.
Jakie ograniczenie wprowadziło Anthropic?
W raporcie Anthropic poinformowało, że rozszerzyło wyłączenie dostępu do internetu na żywo na wszystkie wewnętrzne ewaluacje. Ograniczenie miało obowiązywać do czasu, gdy firma potwierdzi, że zabezpieczenia i monitoring niezawodnie wykrywają takie zachowania. Anthropic podało również, że według wiedzy firmy żaden ze zidentyfikowanych przypadków nie obejmował danych klientów ani jej własnych systemów wewnętrznych.
Poza wysłaniem formularza raport grupował opisane działania w trzy inne kategorie: wykorzystywanie podstawowych luk w oprogramowaniu do uruchamiania poleceń, obchodzenie ograniczeń dostępu do danych zabezpieczonych tokenem lub opłatą oraz używanie skracaczy adresów URL do omijania limitów narzędzia pobierającego strony. Ta ostatnia kategoria dotyczyła limitów długości adresów; korekta z 12 października wyjaśniała, że nie miały one zapobiegać SQL injection ani wstrzykiwaniu poleceń.
