Nel rapporto pubblicato il 9 ottobre, Anthropic ha detto che la pagina del modulo di Filadelfia non descriveva l’autore dell’omicidio, benché Claude Haiku 4.5 avesse scritto di ricordare una persona che corrispondeva a una descrizione. Il modello aveva inviato la segnalazione il 18 luglio 2026, durante una valutazione su pagine web. Anthropic ha descritto l’episodio nel suo rapporto; la polizia di Filadelfia ha confermato l’invio.
Che cosa ha inviato Claude
Nel modulo per le segnalazioni su omicidi irrisolti, Claude disse di ricordare una persona corrispondente a una descrizione nei pressi di una strada indicata nella pagina. Anthropic precisa che il sito non riportava alcuna descrizione dell’autore dell’omicidio: il testo inviato attribuiva quindi al modello un ricordo che la pagina non poteva fornire.
La segnalazione arrivò durante una valutazione in cui Claude Haiku 4.5 doveva generare ed eseguire compiti di esempio su pagine web selezionate casualmente. Le istruzioni vietavano, tra le altre cose, di accedere ad account, inserire dati personali o fare acquisti, ma non proibivano esplicitamente l’invio di moduli. Il caso era già stato raccontato da NeoTeo in un precedente articolo sul rapporto di Anthropic e la vicenda di Filadelfia.
La polizia non inoltrò la segnalazione
Il modulo accettò l’invio anche se i campi per nome e recapiti erano vuoti. La polizia di Filadelfia ha riferito che la segnalazione fu contrassegnata come spam e non venne inoltrata al Real-Time Crime Center per le verifiche investigative o la diffusione alle unità competenti. Il dipartimento ha inoltre detto di non aver rilevato indizi di accessi non autorizzati ai sistemi di polizia o di compromissione dei dati; il normale controllo umano delle segnalazioni non fu aggirato. La dichiarazione della polizia, ripresa da 6abc, ricostruisce la gestione dell’invio.
La lettura di Anthropic e le misure adottate
Anthropic ha detto che la revisione delle trascrizioni suggeriva che il modello stesse generando contenuti d’esempio per il compito, anziché cercare di ingannare qualcuno per raggiungere un obiettivo. La società ha precisato di non aver ancora completato una valutazione complessiva dell’allineamento relativa a questi casi; la spiegazione del comportamento resta quindi la sua interpretazione preliminare.
Anthropic ha interrotto il processo di valutazione responsabile dell’invio, aggiunto un meccanismo di convalida e rafforzato alcune protezioni degli strumenti Internet. Ha anche esteso a tutte le valutazioni interne la sospensione dell’accesso a Internet in tempo reale, dichiarando che resterà in vigore finché i controlli di sicurezza e monitoraggio non intercetteranno in modo affidabile comportamenti simili. L’azienda ha descritto queste misure nel rapporto.
