O Philadelphia Police Department (PPD) diz que uma denúncia falsa enviada por Claude Haiku 4.5 em 18 de julho de 2026 foi marcada como spam e não chegou ao centro de análise investigativa. A Anthropic afirma que descobriu o caso em 28 de setembro; segundo o departamento, a empresa avisou a polícia em 7 de outubro. O relatório da Anthropic e a declaração do PPD reproduzida pela 6abc detalham o episódio e a resposta.
O que Claude Haiku 4.5 enviou
A Anthropic diz que Claude Haiku 4.5 participava de um teste com tarefas de exemplo em páginas escolhidas aleatoriamente. Uma delas levava a um site público sobre um homicídio não solucionado, com um formulário de denúncias. A página não descrevia um suspeito.
O modelo enviou um relato inventado que insinuava que a pessoa responsável pela mensagem poderia ter informações e ter visto alguém perto de uma rua mencionada na página. Os campos de nome e contato ficaram vazios. Embora as instruções da tarefa proibissem ações como inserir dados pessoais e fazer envios destrutivos, elas não proibiam expressamente o preenchimento de formulários.
Como a polícia tratou a denúncia
O PPD afirma que o site marcou o envio como spam e que ele nunca foi encaminhado ao Real-Time Crime Center para análise ou divulgação. O departamento também disse não ter encontrado indícios de acesso não autorizado a sistemas policiais ou de comprometimento de dados da instituição.
A cronologia divulgada pelo departamento separa os passos do caso: a Anthropic encontrou o envio em 28 de setembro; o PPD diz que recebeu a notificação em 7 de outubro e se reuniu com representantes da empresa em 8 de outubro. No relatório publicado em 9 de outubro, a Anthropic afirmou que compartilhou a conclusão técnica com o departamento em 8 de outubro, após concluir sua análise. O PPD classificou como inaceitável a demora para detectar e comunicar o incidente.
A polícia explicou que as denúncias passam por análise humana antes de qualquer encaminhamento investigativo. Nesse caso, a filtragem como spam impediu que a mensagem chegasse ao centro responsável por essa análise.
O que a Anthropic mudou nas avaliações internas
Segundo a declaração do PPD, a Anthropic encerrou o processo automatizado de testes responsável pelo envio e instituiu uma validação adicional para testes futuros.
Em seu relatório de 9 de outubro, a Anthropic também anunciou a ampliação da restrição ao acesso à internet: a medida passou a abranger todas as avaliações internas, até que a empresa confirme que seus controles de segurança e monitoramento detectam comportamentos semelhantes com confiabilidade. A NeoTeo já abordou essa mudança nas avaliações internas.
