Il 15 settembre 2026, Liu Shengyu, ingegnere dei sistemi di apprendimento automatico associato a DeepSeek V4.1, ha lanciato un avvertimento sul possibile controllo dell’IA più avanzata o dell’intelligenza artificiale generale (AGI) da parte di Anthropic. Ha descritto quello scenario come una concentrazione pericolosa del potere e lo ha paragonato, in termini ipotetici, all’eventualità che la Germania nazista avesse ottenuto la tecnologia della bomba atomica prima degli Alleati.
La disputa non riguarda un solo problema. Liu Shengyu concentra l’attenzione su accesso, apertura e controllo; Dario Amodei, CEO di Anthropic, sulla velocità con cui aumentano le capacità dei modelli e sul tempo disponibile per sviluppare le relative protezioni.
La critica di Liu riguarda concentrazione e accesso
Liu Shengyu ha scritto di non fidarsi di Anthropic o OpenAI per rendere l’intelligenza di frontiera aperta e accessibile a costi contenuti. La sua alternativa è un modello in cui l’intelligenza più avanzata possa essere disponibile a tutti in modo aperto ed economico.
Il paragone storico usato da Liu è quindi il punto più forte della sua presa di posizione, ma il suo ragionamento parte da una condizione: se Anthropic arrivasse a controllare l’IA più avanzata o l’AGI, una simile concentrazione potrebbe produrre conseguenze estremamente gravi. La formulazione riguarda uno scenario futuro e ipotetico, non una dichiarazione sul possesso attuale di un sistema di AGI.
L’apertura, però, non equivale automaticamente a maggiore sicurezza. La posizione di Liu collega l’accessibilità alla riduzione del potere concentrato, mentre la sicurezza dei modelli richiede valutazioni diverse: controlli, interpretabilità, protezione operativa e supervisione. Le due questioni possono incrociarsi, ma non sono la stessa cosa.
La proposta di Anthropic punta a rallentare e controllare
A settembre Dario Amodei ha sostenuto che il ritmo di miglioramento delle capacità dell’IA dovrebbe rallentare abbastanza da permettere alla ricerca sulla sicurezza di tenere il passo. Per Amodei, “rallentare” non significa fermare l’addestramento o interrompere il progresso tecnico: significa guadagnare tempo mentre i modelli diventano più potenti.
Il suo piano si articola in tre direzioni:
- Valutatori indipendenti integrati, con accesso continuativo, simile a quello dei dipendenti, agli strumenti, agli ambienti di lavoro e ai processi rilevanti di un’azienda di IA di frontiera.
- Coordinamento tra le aziende dei Paesi democratici, per definire standard di sicurezza e limiti allo sviluppo senza controlli adeguati.
- Coordinamento internazionale più ampio, anche tra governi democratici e autoritari, con misure di verifica considerate necessarie.
Amodei ha collegato il rischio più tecnico al miglioramento ricorsivo: un sistema di IA che contribuisce a costruire la generazione successiva, accelerando così il ciclo di sviluppo. Secondo la sua proposta, anche uno o due anni aggiuntivi prima di raggiungere livelli critici di capacità potrebbero essere impiegati per migliorare l’allineamento e i test.
Due rischi collegati, ma non identici
| Protagonista | Rischio principale | Risposta proposta |
| Liu Shengyu, DeepSeek | La concentrazione dell’IA più avanzata in poche aziende, con accesso limitato e costi elevati | Intelligenza di frontiera aperta e accessibile |
| Dario Amodei, Anthropic | La crescita delle capacità e il miglioramento ricorsivo potrebbero superare sicurezza e supervisione | Sviluppo più lento, valutatori indipendenti e coordinamento internazionale |
Il punto d’incontro è la governance: entrambi discutono di chi debba stabilire le regole per i sistemi più potenti. La divergenza è nella priorità. Liu teme soprattutto che il controllo resti nelle mani di pochi soggetti privati; Amodei teme che la corsa alle capacità lasci troppo poco tempo per capire e contenere i rischi.
La proposta di Amodei ha ricevuto anche una lettura critica: concentrare la definizione degli standard nelle aziende di frontiera potrebbe aumentare la loro influenza sul settore. È una contestazione politica alla struttura del piano, non una prova delle motivazioni personali di Amodei.
Le dimissioni di Jacob Coxon e la stima di Evan Hubinger
La discussione si è intrecciata con le dimissioni di Jacob Coxon, ex ricercatore di Anthropic che aveva lavorato anche presso OpenAI. Dopo tre anni in Anthropic, Coxon ha criticato la corsa verso sistemi capaci di migliorarsi autonomamente e ha sostenuto che le aziende stiano sviluppando l’IA più rapidamente di quanto procedano le misure di sicurezza.
Evan Hubinger, responsabile dell’Alignment Science di Anthropic, ha espresso una valutazione personale superiore al 10% sul rischio che l’IA provochi l’estinzione umana entro il prossimo decennio. Si tratta della sua stima individuale, legata allo scenario di sistemi di IA molto più avanzati e al miglioramento ricorsivo, non di una previsione condivisa dall’intero settore.
Hubinger ha inoltre distinto il rischio dei modelli attuali da quello che associa a una futura superintelligenza: secondo la sua valutazione, il pericolo più grave riguarda l’eventualità che sistemi capaci di contribuire alla propria evoluzione raggiungano livelli di capacità difficili da controllare.
