Anthropic ha segnalato cinque casi in cui Claude sarebbe stato usato per attività di ricerca biologica potenzialmente pericolose. L’azienda ha dichiarato di aver interrotto o limitato gli account coinvolti, rafforzato le protezioni e condiviso informazioni con autorità e altri operatori quando opportuno. La vicenda non dimostra però che sia stata costruita, testata o distribuita un’arma biologica, né che Claude abbia agito autonomamente nel mondo fisico.
Cinque casi segnalati, ma nessuna arma biologica dimostrata
L’attività descritta da Anthropic si colloca tra dicembre 2025 e agosto 2026. I cinque casi riguardano l’uso di Claude per pianificazione della ricerca, preparazione di proposte, analisi e interpretazione in ambito biologico. Sono attività che possono accelerare il lavoro scientifico, ma che diventano sensibili quando riguardano agenti patogeni o tossine.
La distinzione decisiva è questa: Claude sarebbe stato impiegato come assistente informativo e analitico. Non risultano invece produzione fisica, sperimentazione, distribuzione di un’arma biologica o un’azione autonoma del modello. Il salto dalla risposta testuale a un risultato nel mondo reale richiede comunque persone, strutture, materiali e competenze: elementi che la vicenda non documenta come esito di questi cinque casi.
Che cosa riguardava la ricerca biologica
Le descrizioni pubbliche collegano i casi a lavori su virus e tossine, ma il punto comune è più importante dell’elenco dei singoli temi: si trattava di conoscenze con un possibile impiego benefico e, allo stesso tempo, di un potenziale uso pericoloso.
La stessa informazione può aiutare a sviluppare vaccini, terapie o sistemi di sorveglianza delle malattie. In un contesto diverso, può invece contribuire a rendere un patogeno più pericoloso o a riprogettare una tossina. Per un filtro automatico, il problema non è solo riconoscere una parola proibita: è capire l’intenzione, il contesto e la combinazione delle richieste senza bloccare anche attività scientifiche legittime.
Perché l’intenzione è così difficile da valutare
Anthropic ha dichiarato di non aver stabilito se le persone coinvolte volessero causare danni oppure stessero svolgendo ricerca legittima a duplice uso. La segnalazione riguarda quindi un rischio potenziale, non un verdetto sulle intenzioni dei ricercatori.
È una differenza tutt’altro che accademica. Una richiesta su un virus, una tossina o una tecnica di laboratorio può nascere da un progetto medico, da un’attività di sorveglianza o da un tentativo di uso improprio. Un sistema di sicurezza deve intervenire abbastanza presto da ridurre il rischio, ma senza trasformare ogni ricerca sensibile in una prova di colpevolezza.
I tentativi di aggirare le protezioni
Le descrizioni degli episodi riferiscono anche tentativi di eludere i controlli attraverso infrastrutture instradate dagli Stati Uniti, rivenditori, piattaforme di terze parti, account anonimi, indirizzi email privati e gruppi di account. Questi elementi hanno aumentato la difficoltà di collegare le richieste a un’identità e a un contesto affidabili.
Il dato utile, per chi osserva la sicurezza dell’IA, è il modello di abuso: una protezione applicata a un singolo servizio può essere messa alla prova quando l’accesso passa da intermediari o da più account. Questo non significa che ogni tentativo abbia avuto successo, né che gli utenti abbiano ottenuto tutte le risposte cercate.
Che cosa ha fatto Anthropic
Anthropic ha dichiarato di aver interrotto l’attività, vietato o limitato gli account interessati, rafforzato le misure di sicurezza e condiviso informazioni con autorità e partner del settore quando appropriato. I modelli indicati per i casi biologici sono Claude Haiku, Claude Sonnet e Claude Opus.
Le persone, le istituzioni e i Paesi coinvolti non sono stati identificati. Non è stata inoltre dimostrata un’intenzione malevola, una sperimentazione fisica o la costruzione di un’arma. Per questo è più corretto parlare di casi di possibile abuso biologico e di assistenza alla ricerca potenzialmente pericolosa, non di programmi di armamento confermati.
Il problema non si risolve con un solo filtro
La vicenda sposta la discussione dalla sola capacità del modello alla gestione dell’intero ecosistema: controllo degli account, rilevamento dei comportamenti anomali, collaborazione tra aziende e autorità e supervisione sulle decisioni che incidono su attività scientifiche sensibili.
Un filtro aziendale può bloccare una richiesta, ma non decide da solo quali rischi una società debba accettare e quali debba impedire. La gestione della ricerca biologica a duplice uso coinvolge anche istituzioni scientifiche, regole pubbliche e investimenti nella prevenzione e nella sorveglianza delle malattie.
Il punto, dunque, non è che Claude abbia costruito un’arma biologica: questo non è ciò che mostrano i cinque casi segnalati. Il punto è che un modello generalista può entrare in attività scientifiche dove il confine tra assistenza legittima e rischio concreto dipende dal contesto. Ed è proprio quel confine, più che una singola risposta, a rendere la sicurezza dell’IA una questione ancora aperta.
