Demis Hassabis ha avvertito che un sistema di IA capace di migliorarsi senza revisione umana potrebbe comportare rischi maggiori. La sua è una preoccupazione condizionale: nell’intervista a Masters of Scale, andata in onda il 6 novembre 2026, ha indicato garanzie formali, possibili limiti alle capacità e test di robustezza fra le salvaguardie da considerare, secondo il resoconto pubblicato da La Razón il 16 novembre. Il resoconto riferisce uno scenario possibile, non un incidente già avvenuto.

Che cosa significa auto-miglioramento ricorsivo

L’auto-miglioramento ricorsivo, o RSI, descrive qui sistemi che usano i propri risultati per migliorarsi. La distinzione decisiva, nell’avvertimento attribuito a Hassabis, è tra l’IA che assiste un ingegnere e un ciclo potenzialmente chiuso in cui il sistema si migliora senza che una persona esamini il lavoro e ne progetti i passaggi.

Nella fase attuale descritta da Hassabis, l’IA aiuta l’ingegnere, ma una persona continua a revisionare e progettare. Il rischio che solleva riguarda invece il possibile passaggio a un ciclo senza quel controllo. La supervisione umana è quindi il punto che separa l’assistenza dall’autonomia prospettata nel suo scenario.

Un sistema che impara dai propri risultati non implica, da solo, che i miglioramenti diventino esponenziali: la velocità dipende da come funziona il ciclo e da ciò che riesce a verificare.

La RSI comporta una crescita esponenziale?

Il termine, da solo, non stabilisce una velocità di miglioramento. Nella discussione su r/agi dedicata all’auto-miglioramento ricorsivo, alcuni commenti ipotizzano un ciclo di feedback accelerato; altri considerano possibili colli di bottiglia, rendimenti decrescenti o progressi più lenti. Sono interpretazioni e ipotesi dei partecipanti, non misurazioni di un sistema né una conclusione tecnica condivisa.

Hassabis ha indicato matematica, programmazione e giochi come ambiti in cui i risultati possono essere verificati. Un esito controllabile può fornire un criterio per valutare il lavoro di un sistema, ma il suo esempio non dimostra che la RSI proceda a un ritmo specifico o che debba accelerare.

Quali salvaguardie ha indicato Hassabis

Nel resoconto, Hassabis ha citato garanzie formali, possibili limiti alle capacità dei sistemi e test per verificare la robustezza delle misure di sicurezza. Ha inoltre sollevato il problema di seguire gruppi di agenti che potrebbero collaborare: quando più sistemi interagiscono, diventa più complesso ricostruire che cosa stiano facendo e monitorarne il comportamento.

Per un contesto più ampio sui suoi avvertimenti relativi agli agenti di IA e alla sicurezza, NeoTeo aveva già pubblicato un approfondimento sui rischi segnalati da Hassabis.