Resoconti pubblicati il 28 settembre 2026 hanno descritto un nuovo documento in cui gli autori avvertono che l’automazione della ricerca e sviluppo (R&S) in intelligenza artificiale potrebbe accelerare rapidamente i progressi. Le proposte di supervisione includono valutazioni indipendenti, limiti al ritmo di sviluppo e la possibilità di fermare o isolare alcuni progetti automatizzati.

Un rapporto avverte sull’R&S automatizzata in IA

Il documento, intitolato “What if automating AI R&D triggers an intelligence explosion?”, considera l’automazione della R&S in IA una possibile fonte di forte accelerazione. Tra gli oltre 20 coautori citati figurano Geoffrey Hinton, Yoshua Bengio, Jack Clark e Jakub Pachocki.

Il termine «esplosione di intelligenza» descrive uno scenario in cui progressi che normalmente richiederebbero anni potrebbero concentrarsi in mesi o meno. Gli autori prospettano che, se i sistemi raggiungessero capacità esperte di R&S in IA, un singolo sviluppatore potrebbe dirigere una forza lavoro di IA equivalente a milioni di ricercatori umani di alto livello. È una stima condizionata a capacità future, non una misura della forza lavoro attuale.

Che cosa significa una possibile «esplosione di intelligenza»

In questo contesto, l’auto-miglioramento ricorsivo è la possibilità che i sistemi di IA contribuiscano ad automatizzare la ricerca e lo sviluppo di sistemi più capaci. Non implica necessariamente che ogni fase avvenga senza intervento umano: il fulcro dello scenario è l’automazione della R&S, che potrebbe accelerare lo sviluppo successivo.

Gli autori ipotizzano che minacce informatiche o biologiche possano evolvere più rapidamente delle contromisure e che una minore partecipazione umana alla ricerca riduca il controllo sulle attività di sviluppo. Un altro scenario riguarda il vantaggio di uno Stato, che potrebbe trasformarsi da modesto a decisivo. Gli impatti di queste possibilità restano incerti.

Le misure di supervisione proposte dagli autori

Le raccomandazioni mirano a rendere più visibile lo sviluppo e a creare strumenti per intervenire su progetti selezionati. Comprendono:

  • comunicazioni trasparenti sui progressi della R&S in IA;
  • valutazioni o verifiche affidate a soggetti indipendenti;
  • limiti al ritmo di miglioramento dei sistemi;
  • pause per alcuni progetti di R&S basati nei data center;
  • isolamento dei sistemi che automatizzano la ricerca;
  • piani di risposta alle emergenze.

Sono proposte degli autori, non obblighi già in vigore in modo generale. In pratica, la supervisione che delineano combina controllo indipendente, informazioni sui progressi e la possibilità di fermare o isolare specifiche attività automatizzate.

Una previsione condizionata, non una capacità attuale

Gli autori prevedono che entro il 2028 l’IA potrebbe automatizzare completamente progetti di ricerca e sviluppo che richiedono mesi di lavoro umano. Si tratta di una previsione, non di una capacità descritta come già raggiunta.

Lo scenario dipende anche da fattori che potrebbero rallentarlo: limiti di calcolo, difficoltà nell’automazione, rendimenti decrescenti, tempi lunghi per addestrare i modelli, vincoli nelle catene di approvvigionamento e regolamentazione. Gli autori osservano inoltre che l’IA potrebbe contribuire ad accelerare anche le misure di mitigazione dei rischi.