Il 15 settembre 2026 Liu Shengyu, ingegnere dei sistemi di machine learning di DeepSeek, ha lanciato un avvertimento su uno scenario ipotetico: se Anthropic arrivasse a controllare l’IA più avanzata o l’intelligenza artificiale generale (AGI), il potere potrebbe concentrarsi in modo pericoloso. Il 16 settembre la discussione si è allargata alle posizioni di Dario Amodei, Jacob Coxon ed Evan Hubinger. Il punto non è che Anthropic controlli l’AGI: la questione è chi dovrebbe avere accesso ai sistemi più potenti e quanto rapidamente dovrebbero evolvere.
L’avvertimento di Liu riguarda concentrazione e accesso
Liu Shengyu lavora sui sistemi di machine learning di DeepSeek ed è associato al modello V4.1. Nel suo intervento, presentato in un post in cinese, ha detto di non fidarsi di Anthropic o OpenAI per rendere l’IA di frontiera aperta e accessibile a costi contenuti.
Per descrivere il rischio di una concentrazione estrema, Liu ha paragonato l’eventualità a quella in cui la Germania nazista avesse ottenuto la tecnologia della bomba atomica prima degli Alleati. È un’analogia attribuita a Liu e riferita a una possibilità futura: non dimostra che l’AGI esista, che Anthropic la controlli o che l’azienda intenda causare danni.
La sua alternativa è una forma di accesso aperto e conveniente all’intelligenza artificiale più avanzata. Ma apertura e sicurezza non sono sinonimi: la posizione di Liu riguarda la distribuzione del potere, mentre non offre una dimostrazione comparativa secondo cui un approccio aperto sarebbe automaticamente più sicuro di quello di Anthropic.
La proposta di Amodei punta su velocità e supervisione
Nel settembre 2026 Dario Amodei, amministratore delegato di Anthropic, ha proposto di rallentare il ritmo con cui aumentano le capacità dei modelli. “Rallentare” non significa fermare l’addestramento o lo sviluppo tecnico: per Amodei significa lasciare più tempo a sicurezza, allineamento, interpretabilità e test per tenere il passo.
Il piano descritto da Amodei comprende tre elementi:
- Valutatori indipendenti integrati, con accesso continuativo e simile a quello di dipendenti agli strumenti, agli ambienti di lavoro e ai processi rilevanti dell’azienda.
- Coordinamento tra le aziende di frontiera nei Paesi democratici, per definire standard di sicurezza e limiti allo sviluppo senza controlli adeguati.
- Coordinamento internazionale più ampio, anche tra governi democratici e autoritari, con problemi di verifica esplicitamente considerati.
Amodei collega il rischio tecnico soprattutto al miglioramento ricorsivo: sistemi capaci di contribuire alla costruzione della generazione successiva potrebbero accelerare la crescita delle capacità oltre la velocità con cui i controlli riescono ad adattarsi.
Due rischi collegati, ma non identici
Liu e Amodei discutono entrambi di governance dell’IA, ma partono da problemi diversi e propongono risposte differenti.
| Attore e organizzazione | Rischio principale | Risposta proposta | Che cosa descrive la posizione |
| Liu Shengyu, DeepSeek | Concentrazione dell’IA più avanzata presso poche aziende, in particolare Anthropic | Accesso aperto e conveniente all’intelligenza di frontiera | Il controllo esclusivo potrebbe rafforzare una gerarchia di potere |
| Dario Amodei, Anthropic | Crescita delle capacità e miglioramento ricorsivo più rapidi della sicurezza | Rallentamento, valutatori integrati e coordinamento tra aziende e governi | La supervisione dovrebbe avere il tempo di accompagnare lo sviluppo |
La distinzione è importante: rendere i modelli più accessibili affronta il problema della concentrazione, ma non risolve da solo quello dell’allineamento. Allo stesso modo, rallentare lo sviluppo può dare più tempo ai controlli, ma non risponde automaticamente alla domanda su chi decida le regole o possa accedere ai sistemi.
Le dimissioni di Coxon e la stima di Hubinger aggiungono il tema del rischio estremo
La disputa è arrivata mentre Jacob Coxon, ex ricercatore di Anthropic che aveva lavorato anche presso OpenAI, lasciava Anthropic dopo tre anni. Coxon ha accusato le aziende di IA di correre verso sistemi capaci di auto-migliorarsi, sostenendo che la sicurezza non stia avanzando allo stesso ritmo.
Evan Hubinger, responsabile di Alignment Science presso Anthropic, ha risposto che personalmente valuta superiore al 10% la possibilità che l’IA provochi l’estinzione umana entro il prossimo decennio. Quel numero è una sua valutazione personale: non è una probabilità misurata, una previsione verificata o una stima condivisa dall’intero settore.
Il suo distinguo è netto: secondo Hubinger, il rischio dei modelli attuali sarebbe basso; la preoccupazione riguarderebbe soprattutto una futura superintelligenza sviluppata attraverso il miglioramento ricorsivo.
Il punto della disputa
La controversia del settembre 2026 mette sul tavolo due domande che spesso vengono fuse in una sola. La prima è politica: il potere sull’IA più avanzata dovrebbe restare concentrato in poche aziende o essere distribuito attraverso modelli più accessibili? La seconda è tecnica: lo sviluppo delle capacità sta procedendo più rapidamente della sicurezza e della supervisione?
Liu Shengyu ha acceso il dibattito sulla prima domanda con uno scenario ipotetico e un paragone volutamente estremo. Amodei ha risposto con una proposta concreta per la seconda: più tempo, valutatori indipendenti e coordinamento. Nessuna delle due posizioni trasforma l’AGI in una realtà già dimostrata; insieme mostrano perché la governance dell’IA non sia soltanto una gara tra modelli, ma anche una disputa su potere, accesso e controllo.
