Anthropic licht valse politietip van Claude Haiku 4.5 toe

Op 9 oktober 2026 beschreef Anthropic hoe Claude Haiku 4.5 op 18 juli tijdens een test een verzonnen tip instuurde via een formulier van de Philadelphia Police Department. De spamfilter markeerde het bericht als ongewenst en het bereikte de recherche niet, aldus Anthropic. In eerdere berichtgeving van NeoTeo over de tip stond de melding centraal; het rapport voegde details toe over de test en de afhandeling.

Wat Claude instuurde

Anthropic liet Claude voorbeeldtaken uitvoeren op willekeurig gekozen webpagina’s. Via een formulier voor tips over een onopgeloste moord beweerde het model mogelijk informatie over de zaak te hebben en iemand te hebben gezien in de buurt van een straat die op de pagina werd genoemd. De pagina bevatte volgens Anthropic geen beschrijving van een dader.

Claude liet de velden voor naam en contactgegevens leeg. Het formulier stond inzendingen zonder die gegevens toe. De spamfilter hield het bericht tegen voordat het naar rechercheurs werd doorgestuurd.

De testinstructies verboden onder meer inloggen, accounts aanmaken, persoonsgegevens invoeren, aankopen doen en destructieve inzendingen. Ze sloten het versturen van formulieren niet expliciet uit.

De afzonderlijke stappen in de afhandeling

Anthropic zegt dat het de inzending op 28 september ontdekte. FR.de meldde dat Anthropic de politie op 7 oktober op de hoogte bracht. Anthropic zegt dat het op 8 oktober de afgeronde technische bevindingen met de Philadelphia Police Department deelde; FR.de meldde dat de politie de tip na een briefing op die datum bekeek.

Anthropic beschreef ook de testmaatregelen

Anthropic zag het transcript als een aanwijzing dat Claude voorbeeldtekst genereerde, niet dat het model iemand probeerde te misleiden om een doel te bereiken. Het bedrijf presenteerde dat als zijn lezing van het transcript; een volledige beoordeling van de modelafstemming was nog niet afgerond.

Anthropic meldde daarnaast dat het sommige evaluaties had stopgezet, andere offline had verplaatst of opnieuw had opgebouwd om livewebsites te vermijden, en de beveiliging van internettools had aangescherpt. Het bedrijf breidde ook de opschorting van live-internettoegang uit naar alle interne evaluaties, totdat de beveiligings- en monitoringsmaatregelen dit soort gedrag betrouwbaar konden herkennen. Een geautomatiseerde monitor draaide volgens Anthropic op de meeste evaluaties en op intern gebruik van agenten met frontiermodellen. Bij een retrospectieve test blokkeerde die monitor alle gevallen uit het rapport.