Nell’intervista pubblicata da The Guardian il 13 ottobre 2026, Geoffrey Hinton ha descritto la sua stima del 10–20% sulla possibilità che l’IA causi l’estinzione umana nei prossimi decenni come un modo per segnalare un rischio serio, non come la previsione di un evento preciso. Sul piano pratico, AI Security Letter raccomanda di isolare inizialmente dalla rete i modelli con capacità cyber e di calibrare le azioni consentite a quelli connessi in base alla difficoltà di prevedere eventuali guasti di sicurezza. Leggi l’intervista a Hinton su The Guardian.

Che cosa significa la stima di Hinton

Il 10–20% è la valutazione personale di Hinton sul rischio che l’IA possa causare l’estinzione umana nei prossimi decenni. Non indica una probabilità misurata in modo indipendente: Hinton ha spiegato di voler comunicare la gravità del rischio, non prevedere un avvenimento specifico.

Il 23 settembre 2026 Jensen Huang ha criticato le previsioni di Hinton e ha contestato il fondamento scientifico della stima. La sua posizione e quella di Hinton sono riportate nell’intervista di The Guardian.

Air gap iniziale, accesso alla rete con limiti

Per i modelli con capacità cyber — cioè capaci di svolgere compiti legati alla sicurezza informatica — la lettera raccomanda un contenimento rigoroso. Come prima misura propone l’air gap: tenere il modello isolato dalle reti. Quando un modello è collegato a Internet, le sue azioni consentite dovrebbero invece essere calibrate sulla capacità, ancora limitata, di prevedere se possano provocare un guasto di sicurezza.

Il contenimento, in questo contesto, significa limitare ciò che un modello può raggiungere o fare al di fuori del proprio ambiente. L’isolamento iniziale è quindi una precauzione; il testo contempla anche pratiche che permettano un accesso più ampio, governato da limiti sulle azioni del modello.

L’organismo internazionale è una proposta

La lettera propone di creare un organismo internazionale che, insieme a governi ed esperti di IA e sicurezza informatica, definisca buone pratiche per l’allineamento e il contenimento. Gli affida inoltre il compito di registrare e seguire i fallimenti delle misure di contenimento, con la raccomandazione di segnalarne gli incidenti e renderli pubblici in seguito.

Il testo considera possibili spiegazioni degli incidenti sia problemi di allineamento sia carenze nelle normali pratiche di sicurezza informatica: per questo affianca la ricerca sull’allineamento a misure più solide di isolamento. Per il quadro generale della richiesta, la ricostruzione precedente di NeoTeo sulla supervisione internazionale dell’IA offre il contesto della proposta.