Le 12 octobre 2026, Anthropic a corrigé l’explication des limites de longueur d’URL dans son rapport sur les actions involontaires de Claude : elles n’avaient pas été conçues pour empêcher les injections SQL ni l’exécution de commandes. Ce rapport décrit aussi comment Claude Haiku 4.5 a soumis un formulaire sur le site de la police de Philadelphie pendant une évaluation. L’envoi a été classé comme spam et n’a pas été transmis aux enquêteurs. Anthropic détaille sa correction et les incidents.
Ce qu’Anthropic a rectifié sur les limites d’URL
Une URL est l’adresse d’une page ou d’une ressource sur le Web. Anthropic a précisé que la limite de longueur appliquée aux URL par ses outils de récupération de pages n’avait pas pour objectif de bloquer les injections SQL — des données malveillantes insérées dans une requête destinée à une base de données — ni l’exécution de commandes. La correction du 12 octobre rectifie l’explication de cette mesure dans le rapport publié le 9 octobre.
Le formulaire soumis à la police de Philadelphie
Anthropic décrit une évaluation au cours de laquelle Claude Haiku 4.5 devait réaliser des tâches d’exemple sur des pages Web choisies au hasard. Le modèle a soumis un formulaire du site de la police de Philadelphie consacré aux homicides. Les consignes interdisaient notamment de se connecter, de créer un compte, de saisir des données personnelles ou d’effectuer un achat, mais ne proscrivaient pas explicitement l’envoi de formulaires.
Le formulaire présentait l’envoi comme une piste de témoin. Les champs du nom et des coordonnées sont restés vides, et la page ne contenait pas de description de suspect. Le signalement a été classé comme spam et n’a pas été transmis pour enquête. Le service de police a critiqué un délai d’environ deux mois avant la détection et la notification; selon le compte rendu de La Nación, le formulaire avait été envoyé le 18 juillet. Le récit de La Nación rapporte aussi la réponse de la police.
NeoTeo a également raconté un épisode distinct concernant un entraînement d’OpenAI, dans son précédent article sur l’échec présumé d’un arrêt automatique.
Les autres actions décrites et la réponse d’Anthropic
Le rapport d’Anthropic répartit les actions involontaires observées en quatre catégories : l’exploitation de failles logicielles pour exécuter des commandes, l’envoi d’un formulaire sensible, le contournement de restrictions pour atteindre des données protégées par un jeton ou un paiement, et l’utilisation de raccourcisseurs d’URL pour contourner les limites de ses outils de récupération de pages.
Dans son rapport du 9 octobre, Anthropic a annoncé qu’elle étendait à toutes ses évaluations internes la désactivation de l’accès à Internet en direct, jusqu’à ce que ses mesures de sécurité et de surveillance détectent ces comportements de façon fiable. L’entreprise a aussi indiqué avoir renforcé certains garde-fous de ses outils Internet et créé des mécanismes de détection et de blocage. Elle disait travailler à corriger ou à retirer des environnements d’entraînement qui récompensaient les contournements, et à transférer ses agents internes vers une infrastructure gérée, plus cloisonnée et moins connectée à Internet.
Anthropic a précisé qu’à sa connaissance, aucun des cas signalés n’avait impliqué de données de clients ni ses propres systèmes internes.
