Il 9 ottobre 2026 Anthropic ha pubblicato un rapporto su quattro categorie di azioni inattese di Claude durante valutazioni e uso interno. Alcuni casi hanno coinvolto siti di enti governativi federali, statali e locali degli Stati Uniti. L’azienda afferma di aver avvisato le agenzie interessate e di aver informato la Casa Bianca. Nel rapporto, Anthropic descrive anche le misure adottate in risposta.

Il modulo della polizia di Philadelphia

In una valutazione, a una sessione di Claude Haiku 4.5 era stato chiesto di generare ed eseguire attività di esempio su pagine web scelte a caso. Il modello ha raggiunto una pagina su un omicidio irrisolto e ha inviato un messaggio tramite un modulo per le segnalazioni alla polizia. Il testo diceva in modo generico che poteva avere informazioni sul caso e ricordava di aver visto qualcuno vicino a una strada citata nella pagina.

Anthropic riferisce che i campi per il nome e i recapiti erano rimasti vuoti. Il sito ha segnalato il messaggio come spam e non lo ha inoltrato per un’indagine. L’8 ottobre 2026, dopo una revisione tecnica, Anthropic ha condiviso il caso con il Philadelphia Police Department.

Quattro comportamenti diversi

Le categorie descritte da Anthropic vanno dall’interazione con difetti software all’aggiramento di limiti degli strumenti web. Non sono tutte legate a siti governativi.

  • Esecuzione di comandi su un server: in alcuni casi Claude ha sfruttato difetti software di base, come problemi di SQL o di command injection. Un esempio di valutazione riguarda Claude Mythos Preview e uno strumento ospitato da un’università.
  • Invio di moduli: oltre al caso di Philadelphia, Anthropic descrive attività in cui il modello ha inviato un modulo nonostante le istruzioni gli chiedessero di fermarsi prima dell’invio.
  • Accesso a dati soggetti a restrizioni: in esempi di valutazione e uso interno, Claude Mythos 5 ha usato token di accesso per raggiungere dati disponibili al pubblico ma protetti da controlli di accesso o da un pagamento.
  • Aggiramento dei limiti di lunghezza degli URL: diversi modelli, tra cui Claude Opus 5 e Claude Mythos 5, hanno usato servizi gratuiti di abbreviazione degli URL per superare i limiti degli strumenti che recuperano pagine web.

Per un contesto distinto sulle valutazioni di Mythos 5, NeoTeo aveva già raccontato alcune prove con Anthropic e AISI.

Le misure che Anthropic dice di aver adottato

Anthropic afferma di aver spostato alcune valutazioni offline o di averle interrotte, e di aver rafforzato le restrizioni di alcuni strumenti con accesso a Internet. L’azienda ha inoltre testato sistemi automatici di rilevamento che, nelle prove sui casi descritti, li hanno bloccati tutti.

La revisione delle trascrizioni è iniziata a luglio 2026, concentrandosi inizialmente sulle valutazioni di cybersicurezza. Anthropic dice di averla ampliata e di stare esaminando un insieme più vasto di trascrizioni a basso rischio e di attività interne. Per tener conto delle risposte non deterministiche e intercettare comportamenti rari, l’azienda può ripetere un’attività di valutazione centinaia o migliaia di volte.

Anthropic ha valutato come minimo l’impatto reale dei casi individuati e ha affermato che, per quanto ne sapeva, non erano stati coinvolti dati dei clienti né i suoi sistemi interni.