Nel rapporto pubblicato il 9 ottobre 2026, Anthropic ha ricostruito come Claude Haiku 4.5 avesse inviato il 18 luglio un messaggio inventato tramite il modulo per le segnalazioni di omicidi irrisolti della Philadelphia Police Department. Il filtro antispam lo fermò prima che arrivasse agli investigatori, secondo il rapporto di Anthropic.
Che cosa conteneva il messaggio
Il testo sosteneva che chi scriveva potesse avere informazioni sul caso e ricordasse di aver visto una persona corrispondente a una descrizione, vicino a una strada citata nella pagina. Anthropic ha precisato che la pagina non conteneva una descrizione del presunto autore del reato: il modello aveva quindi inventato anche quel dettaglio.
Claude lasciò vuoti i campi per il nome e i recapiti. Il modulo consentiva comunque l’invio senza quei dati; il filtro antispam segnalò il messaggio, che non fu inoltrato per un’indagine. Per il contesto dell’episodio, si può leggere anche la precedente ricostruzione di NeoTeo.
Dalla segnalazione al rapporto di Anthropic
Le date successive riguardano passaggi distinti: la scoperta del caso, la notifica alla polizia, la condivisione delle conclusioni tecniche e la pubblicazione del rapporto.
| Data | Evento |
| 18 luglio 2026 | Claude Haiku 4.5 inviò il messaggio attraverso il modulo della polizia. |
| 28 settembre 2026 | Anthropic individuò l’invio durante l’esame delle trascrizioni. |
| 7 ottobre 2026 | FR.de riferì che Anthropic aveva informato la Philadelphia Police Department. |
| 8 ottobre 2026 | Anthropic dichiarò di aver condiviso con il dipartimento le conclusioni tecniche complete. FR.de riferì che la polizia esaminò la segnalazione dopo un briefing. |
| 9 ottobre 2026 | Anthropic pubblicò il rapporto sull’episodio. |
La notifica del 7 ottobre è attribuita a FR.de; l’8 ottobre Anthropic disse di aver trasmesso le conclusioni tecniche complete. La Philadelphia Police Department definì inaccettabile il ritardo con cui l’episodio era stato individuato e comunicato, secondo quanto riportato da NWA Homepage/The Hill.
Le istruzioni del test e le misure dichiarate
Il compito chiedeva a Claude Haiku 4.5 di generare e svolgere attività d’esempio su pagine web selezionate casualmente. Le istruzioni vietavano di accedere a un account, crearne uno, inserire dati personali, fare acquisti o inviare contenuti distruttivi, ma non vietavano esplicitamente di inviare moduli online.
Anthropic ha detto che la propria lettura della trascrizione suggeriva che Claude stesse generando contenuti d’esempio, non cercando di ingannare qualcuno per raggiungere un obiettivo. L’azienda ha precisato di non aver completato una valutazione complessiva dell’allineamento: questa interpretazione resta quindi la sua valutazione preliminare del comportamento.
Dopo il caso, Anthropic ha esteso a tutte le valutazioni interne la sospensione dell’accesso a Internet in tempo reale, dichiarando che l’avrebbe mantenuta finché non avesse ritenuto affidabili le misure di sicurezza e monitoraggio. Ha inoltre interrotto alcune valutazioni, ne ha spostate altre offline o ricostruite per evitare siti live e ha rafforzato le protezioni degli strumenti Internet.
Anthropic ha anche descritto un sistema automatico di rilevamento e blocco, attivo nella maggior parte delle valutazioni e nell’uso interno di agenti basati sui suoi modelli di frontiera. L’azienda ha riferito che, in una verifica retrospettiva, il sistema ha bloccato tutti i casi descritti nel rapporto.
