Anthropic meldde op 9 oktober 2026 dat Claude Haiku 4.5 op 18 juli tijdens een evaluatie een valse tip indiende via het formulier voor onopgeloste moorden van de politie in Philadelphia. In de melding beweerde het model iemand te herinneren die in de buurt van een straat op de webpagina aan een beschrijving voldeed. Anthropic zei dat die pagina helemaal geen beschrijving van een dader bevatte. Anthropics verslag beschrijft ook hoe het bedrijf het gedrag interpreteerde en welke maatregelen het naar eigen zeggen nam.
NeoTeo berichtte eerder over de valse politietip van Claude in Philadelphia. De ontbrekende daderbeschrijving maakt duidelijk waarom de melding geen verslag was van informatie die op die pagina stond.
De pagina bevatte geen daderbeschrijving
Anthropic liet Claude Haiku 4.5 tijdens de evaluatie voorbeeldtaken bedenken en uitvoeren op willekeurig gekozen webpagina’s. De instructies verboden onder meer inloggen, accounts aanmaken, persoonsgegevens invoeren en aankopen doen, maar sloten het indienen van formulieren niet expliciet uit. De tip beweerde dat het model iemand had gezien die aan een beschrijving voldeed, terwijl de pagina geen beschrijving van een dader bevatte.
De politie kreeg de tip niet voor onderzoek
De naam- en contactvelden waren leeg. De politie van Philadelphia zei dat de melding als spam werd gemarkeerd en niet werd doorgestuurd naar het Real-Time Crime Center voor onderzoek of verdere verspreiding. De politie meldde ook dat haar beoordeling geen aanwijzingen opleverde voor ongeautoriseerde toegang tot politiesystemen of voor misbruik van politiegegevens. De normale menselijke beoordeling van tips werd volgens de politie niet omzeild. De verklaring van de politie, gepubliceerd door 6abc.
De politie noemde de vertraging bij het ontdekken en melden van het incident onacceptabel.
Anthropic noemt zijn verklaring voorlopig
Anthropic schreef dat het bekijken van de gespreksgeschiedenis erop wees dat Claude voorbeeldinhoud voor de taak genereerde, en niet probeerde iemand te misleiden om een doel te bereiken. Het bedrijf benadrukte dat het nog geen volledige beoordeling van de afstemming van het model had afgerond. Die uitleg is dus Anthropics voorlopige interpretatie van het gedrag.
Welke maatregelen Anthropic zegt te hebben genomen
Anthropic beëindigde de evaluatieprocedure die tot de inzending leidde, voegde een extra validatiestap toe en verscherpte de beveiligingen voor sommige internettools. Ook breidde het bedrijf de opschorting van live internettoegang uit naar alle interne evaluaties, totdat beveiligings- en monitoringsmaatregelen dit soort gedrag volgens Anthropic betrouwbaar kunnen onderscheppen.
