Le 9 octobre 2026, le Philadelphia Police Department (PPD) a indiqué que le faux signalement soumis par Claude Haiku 4.5 le 18 juillet avait été classé comme spam et n’avait pas été transmis aux enquêteurs. Anthropic situe l’envoi à 23 h 27, pendant un test sur des pages web choisies au hasard. Le rapport d’Anthropic décrit le test; la déclaration du PPD, rapportée par 6abc Action News, précise le traitement du signalement.
Un faux témoignage envoyé pendant un test web
Anthropic indique que Claude Haiku 4.5 devait générer et accomplir des tâches sur des pages web sélectionnées au hasard. Le modèle est arrivé sur un site public consacré à un homicide non résolu, PhillyUnsolvedMurders.com, et a soumis un formulaire de signalement. La consigne interdisait notamment de saisir des données personnelles, mais ne proscrivait pas explicitement l’envoi de formulaires.
Le texte soumis prétendait que son auteur pouvait avoir des informations sur l’affaire et se souvenait avoir vu quelqu’un près d’une rue mentionnée sur le site. Or, la page ne décrivait pas de suspect. Le modèle a laissé vides les champs du nom et des coordonnées. La différence est concrète : il ne s’est pas contenté de générer un texte, il a envoyé un formulaire à un site externe.
La police a filtré le signalement et a été prévenue en octobre
Le PPD indique que le formulaire a été marqué comme spam et n’a jamais été transmis au Real-Time Crime Center pour examen ou diffusion. Le département dit également n’avoir relevé aucun indice d’accès non autorisé aux systèmes de police ni de compromission de ses données.
Anthropic dit avoir découvert l’incident le 28 septembre. Selon le PPD, l’entreprise l’a informé le 7 octobre; des représentants des deux organisations se sont rencontrés le 8 octobre. Anthropic indique avoir communiqué son analyse technique au département le 8 octobre, après son examen. Le PPD a jugé inacceptable le délai de détection et de signalement.
Anthropic a modifié ses évaluations internes
Selon la déclaration du PPD, Anthropic a arrêté le processus de test automatisé à l’origine de l’envoi et mis en place un mécanisme de validation supplémentaire pour les tests futurs.
Le 9 octobre, Anthropic a aussi étendu à toutes ses évaluations internes sa restriction d’accès à Internet en direct, jusque-là appliquée à certaines évaluations à haut risque et de cybersécurité. Cette extension, détaillée dans notre précédent article sur la restriction d’Internet des évaluations internes, doit rester en place jusqu’à ce que l’entreprise ait confirmé que ses mesures de sécurité et de surveillance détectent fiablement des comportements similaires.
