Le stime sul rischio di estinzione legata all’IA sono giudizi soggettivi, non frequenze ricavate da eventi passati. Un’indagine Delphi descritta nel 2026 ha rilevato che gli esperti valutavano almeno al 10% la probabilità di esiti catastrofici in 18 delle 24 categorie di rischio considerate, nell’arco di cinque anni e secondo le traiettorie attuali.
Quel risultato riguarda categorie di rischio e possibili catastrofi: non indica una probabilità di estinzione umana. Le altre percentuali citate riguardano persone, gruppi di ricercatori ed esiti diversi; metterle insieme come se fossero un’unica previsione sarebbe fuorviante.
Che cosa ha valutato lo studio Delphi
Lo studio Delphi si è svolto in tre round a fine 2025 e ha coinvolto 272 esperti di IA provenienti da 37 Paesi. Nel 2026 sono stati riportati i loro giudizi su 24 categorie di rischio. In 18 casi gli esperti hanno valutato almeno al 10% la probabilità di esiti catastrofici entro cinque anni, ipotizzando il proseguimento delle traiettorie attuali.
Il 10% si riferisce quindi alla probabilità di una catastrofe associata a una categoria, non a una probabilità complessiva di estinzione causata dall’IA. È una distinzione importante: il numero di categorie oltre la soglia non è il numero di stime sull’estinzione.
Perché queste probabilità sono soggettive
Per Chaitanya Joshi, docente di statistica all’Adelaide University, le stime sull’estinzione sono probabilità soggettive: non esiste una frequenza storica di estinzioni causate dall’IA da usare per calcolarle. Un numero come il 10% esprime dunque il giudizio di chi formula la previsione, non il risultato di un conteggio di eventi già osservati.
Joshi ha illustrato l’incertezza con un esempio ipotetico: una stima mediana del 10% potrebbe accompagnarsi a un intervallo da zero al 30%. Non è un risultato del sondaggio, ma un modo per mostrare quanto una stima puntuale possa convivere con una fascia di incertezza ampia.
Stime diverse, esiti diversi
Le percentuali cambiano significato a seconda di chi le formula, di quale esito considera e dell’orizzonte temporale. Ecco che cosa misura ciascuna delle principali stime riportate:
| Stima | Esito considerato | Risultato riportato |
| Valutazione personale di Evan Hubinger | Possibilità che l’IA uccida tutti gli esseri umani entro il prossimo decennio | Oltre il 10% |
| Stima attribuita a Geoffrey Hinton | Estinzione umana causata dall’IA nell’arco di 30 anni | Dal 10% al 20% |
| Sondaggio su 1.580 ricercatori che avevano pubblicato nei principali eventi sull’IA | Estinzione oppure una perdita di potere umano altrettanto grave e permanente | Media: 18%; mediana: 10% |
| Studio Delphi su 272 esperti e 24 categorie | Esiti catastrofici nelle categorie di rischio entro cinque anni, secondo le traiettorie attuali | In 18 categorie, probabilità valutata almeno al 10% |
La stima di Evan Hubinger, ricercatore di alignment in Anthropic, è personale e riguarda l’eventualità che l’IA uccida tutti gli esseri umani. Geoffrey Hinton ha formulato una stima del 10–20% per l’estinzione causata dall’IA nell’arco di 30 anni: l’orizzonte è diverso.
Nel sondaggio sui 1.580 ricercatori, la media del 18% e la mediana del 10% riguardano un esito più ampio dell’estinzione: includono anche una perdita di potere umano grave e permanente. Il Delphi, invece, valuta categorie di rischio e catastrofi entro cinque anni. Perciò le quattro righe non sono misure intercambiabili né compongono una probabilità condivisa dagli esperti.
Dai rischi alle possibili traiettorie
Michael Noetel, coautore dello studio Delphi, ha riassunto tre grandi gruppi di rischio: l’uso deliberato dell’IA per scopi dannosi, la perdita di controllo su sistemi sempre più capaci e la concentrazione estrema del potere economico e politico. Sono possibili percorsi di rischio, non esiti già avvenuti.
L’automiglioramento ricorsivo è uno dei meccanismi ipotizzati: un sistema usa l’IA per migliorare il proprio codice o il proprio processo di ricerca, e i miglioramenti possono accelerare i passaggi successivi. Sana Zakaria, direttrice delle tecnologie emergenti e della resilienza di RAND Europe, ha descritto come questa dinamica potrebbe superare la capacità umana di testare, comprendere o governare i sistemi.
In un’analisi esplorativa del 2025, RAND ha esaminato scenari che coinvolgono armi nucleari, agenti patogeni e geoingegneria. Nei casi considerati, l’estinzione sarebbe estremamente difficile da provocare, ma non è stata esclusa. Perché un attore basato sull’IA potesse creare una minaccia di estinzione, RAND indica quattro capacità: integrarsi con sistemi ciberfisici fondamentali, sopravvivere senza manutentori umani, perseguire l’obiettivo di estinguere l’umanità e persuadere o ingannare le persone per evitare di essere individuato.
