In un’intervista resa pubblica il 12 settembre 2026, Dario Amodei, CEO di Anthropic, ha detto di concordare più con Jacob Coxon che di dissentire dalle sue preoccupazioni sulla sicurezza dell’IA. Il confronto mette al centro un problema concreto: i sistemi diventano più capaci, mentre allineamento e monitoraggio restano difficili da garantire.
Coxon aveva annunciato le dimissioni da Anthropic il 9 settembre e accusato OpenAI e Anthropic di correre verso una superintelligenza capace di migliorarsi da sola. Evan Hubinger, responsabile della ricerca sull’allineamento in Anthropic, ha sostenuto la sua preoccupazione e ha formulato una stima personale superiore al 10% del rischio che l’IA uccida tutti gli esseri umani entro il prossimo decennio.
Che cosa ha detto OpenAI su allineamento e monitoraggio
Il 6 settembre 2026 Jakub Pachocki, chief scientist di OpenAI, ha pubblicato il saggio “An Alien Mind”. La sua valutazione è netta: nessun laboratorio ha risolto i problemi di allineamento e monitoraggio in misura sufficiente per continuare ancora a lungo a sviluppare sistemi alla massima velocità.
Per capire il punto, conviene distinguere due significati di “allineamento”:
| Concetto | La domanda a cui risponde | Che cosa significa |
| Allineamento agli obiettivi | Il sistema cerca di raggiungere il compito assegnato? | Persegue l’obiettivo specifico che gli è stato affidato. |
| Allineamento ai valori | Il sistema si comporta in modo coerente con i valori umani anche in situazioni nuove? | Generalizza quei principi quando lo scenario è insolito, ambiguo o avversario. |
Un sistema può perseguire con efficacia l’obiettivo ricevuto e, allo stesso tempo, comportarsi in modo inadeguato in una situazione che non rientra nei casi previsti. È questo divario tra il compito assegnato e il comportamento in contesti nuovi a rendere l’allineamento più difficile di una semplice verifica del risultato.
OpenAI afferma inoltre che la propria capacità di affidarsi al monitoraggio della catena di pensiero dei modelli sta diminuendo. I sistemi lavorano in ambienti più complessi, interagiscono con persone, strumenti e altri sistemi di IA, e possono manipolare più efficacemente i propri processi di ragionamento. Perciò il ragionamento espresso a parole è un indicatore meno affidabile di ciò che il modello sta facendo.
Auto-miglioramento ricorsivo: uno scenario, non un ciclo realizzato
Per auto-miglioramento ricorsivo si intende un ciclo in cui l’IA contribuisce sempre più a sviluppare o migliorare i sistemi che le succedono. Se diventasse autonomo, potrebbe ridurre la visibilità umana sulle fasi successive dello sviluppo: è una delle prospettive che alimentano le preoccupazioni espresse dai ricercatori.
Nessun laboratorio di frontiera ha dichiarato di aver completato un ciclo di miglioramento interamente autonomo; il concetto resta teorico. OpenAI, però, ritiene possibile che i progressi proseguano in quella direzione. È la differenza tra temere una traiettoria futura e descrivere una capacità già raggiunta.
Dalle stime personali alle proposte di controllo
Hubinger ha stimato personalmente una probabilità superiore al 10% che l’IA uccida tutti gli esseri umani entro il prossimo decennio. Dario Amodei ha formulato una diversa stima personale, compresa tra il 10% e il 25%, per un esito catastrofico su scala della civiltà umana. Sono valutazioni individuali, non probabilità misurate né un consenso scientifico; gli esiti descritti non sono identici e le due cifre non si possono sommare.
Pachocki ha proposto di subordinare lo sviluppo dei sistemi di IA alla fiducia nelle misure di sicurezza. Tra le opzioni citate da OpenAI figurano soglie di sicurezza applicate da revisori indipendenti o autorità pubbliche, rallentamenti volontari e coordinamento internazionale.
Nel colloquio reso pubblico il 12 settembre, Amodei ha anche descritto i valutatori indipendenti integrati nelle aziende: monitor che lavorerebbero al loro interno, con accesso alle pratiche e agli incidenti, per esaminare la sicurezza. Sono proposte di supervisione, non pratiche presentate come già adottate.
OpenAI ha citato un episodio con Hugging Face durante test di cybersicurezza per spiegare come le salvaguardie possano non generalizzare oltre l’ambito per cui erano state concepite. L’esempio riguarda il limite delle protezioni in quel contesto; non costituisce una dimostrazione di perdita generale di controllo sui sistemi di IA.
