Anthropic meldt vijf gevallen waarin Claude is gebruikt voor biologisch onderzoek dat mogelijk gevaarlijke toepassingen kon ondersteunen. Het bedrijf zegt de activiteit te hebben verstoord, accounts te hebben beperkt, veiligheidsmaatregelen te hebben aangescherpt en informatie te hebben gedeeld waar dat passend was. Er is geen aanwijzing dat Claude zelf een biologisch wapen heeft gebouwd, getest of ingezet.
Anthropic meldt vijf gevallen met Claude
De bekendmaking gaat over vijf biologische-misbruikgevallen waarin Claude volgens Anthropic werd ingezet voor onderzoek, analyse, planning, subsidievoorbereiding en interpretatie. Dat is een serieus veiligheidsprobleem, maar het is iets anders dan aantonen dat er een biologisch wapen is geproduceerd.
Anthropic maakte de namen van de betrokken onderzoekers, instellingen en landen niet bekend. Het bedrijf zegt bovendien niet te kunnen vaststellen of de onderzoekers kwaad in de zin hadden. Biologisch onderzoek heeft vaak een dual-usekarakter: dezelfde kennis kan bijdragen aan vaccins, behandelingen en ziektebewaking, maar ook relevant zijn voor gevaarlijker toepassingen.
Waar het onderzoek over ging
De gemelde gevallen betroffen biologisch onderzoek rond virussen en toxines. Details over de afzonderlijke gevallen zijn niet voldoende om daaruit vaststaande conclusies over de bedoelingen van de onderzoekers of over fysieke experimenten te trekken.
Dat onderscheid is belangrijk. Een AI-model kan helpen bij het ordenen van informatie, het voorbereiden van een subsidieaanvraag of het analyseren van wetenschappelijke vragen. Geen van die functies bewijst op zichzelf dat er een laboratoriumexperiment, productieproces of inzet van een wapen heeft plaatsgevonden.
Waarom biologische vragen lastig te classificeren zijn
Een veiligheidssysteem moet hier niet alleen naar losse woorden kijken, maar ook naar de context en de opeenvolging van verzoeken. Een vraag over virale evolutie kan passen binnen legitiem onderzoek. Een vergelijkbare vraag kan tegelijk relevant zijn voor het gevaarlijker maken van een ziekteverwekker. Die overlap maakt automatische classificatie bijzonder ingewikkeld.
Daarom is “biologisch onderzoek” geen bruikbaar synoniem voor “wapenontwikkeling”. De betekenis hangt af van het doel, de combinatie van vragen en de verdere handelingen van de gebruiker. In deze gevallen kon Anthropic die intentie niet betrouwbaar vaststellen.
Gemelde pogingen om veiligheidsmaatregelen te omzeilen
Bij de beschreven activiteit zouden gebruikers verschillende constructies hebben gebruikt om toegangs- en veiligheidsmaatregelen te ontwijken. Genoemd worden onder meer omgeleide internetverbindingen, tussenverkopers, anonieme accounts, privé-e-mailadressen en accountnetwerken.
Die werkwijze vergrootte de zorgen rond de activiteit, maar bewijst niet dat alle veiligheidsmaatregelen faalden of dat gebruikers op elk verzoek antwoord kregen. Het laat vooral zien dat toegangsblokkades niet het enige verdedigingsmechanisme kunnen zijn wanneer een systeem wereldwijd beschikbaar is.
Wat Anthropic deed — en wat niet is aangetoond
Anthropic zegt de relevante accounts te hebben verstoord, geblokkeerd of beperkt. Daarnaast zegt het bedrijf de veiligheidsmaatregelen te hebben versterkt en informatie te hebben gedeeld met autoriteiten en andere partijen waar dat passend was.
Heeft Claude zelfstandig een biologisch wapen gebouwd of ingezet? Nee. De beschreven activiteit betreft hulp bij onderzoek en voorbereiding; er is geen aanwijzing voor autonome fysieke actie, productie, testen of inzet.
Heeft Anthropic kwade intentie bewezen? Nee. Het bedrijf zegt juist dat het onderscheid tussen schadelijk en legitiem dubbel-gebruikonderzoek in deze gevallen niet betrouwbaar kon worden gemaakt.
De bredere bestuurskwestie
De uitdaging ligt daarmee niet alleen bij een chatbotfilter. Ook accountcontrole, dreigingsanalyse, informatie-uitwisseling en toezicht spelen een rol. Andy Weber van de Council on Strategic Risks benadrukte in een interview dat biologische risico’s zowel van statelijke als niet-statelijke actoren kunnen komen en pleitte voor meer aandacht voor biodefensie.
Dat is analyse, geen bewijs dat een van de vijf gevallen aan een specifieke staat of organisatie kan worden toegeschreven. Juist omdat de betrokken partijen niet zijn geïdentificeerd en de fysieke gevolgen niet zijn aangetoond, blijft de belangrijkste les bescheidener maar concreet: AI kan wetenschappelijke voorbereiding versnellen, terwijl de grens tussen nuttig en gevaarlijk gebruik contextafhankelijk blijft.
Voor Anthropic betekent dat strengere waarborgen en het delen van dreigingsinformatie. Voor beleidsmakers betekent het dat bedrijfsfilters alleen de bredere vraag naar toezicht en biologische paraatheid niet oplossen. En voor gebruikers is de kern helder: deze vijf gevallen wijzen op potentieel misbruik van Claude, niet op een aangetoond biologisch wapen dat door Claude is gebouwd.
