Il 30 settembre 2026 è stato riferito che più di 20 ricercatori legati a OpenAI, Anthropic, Microsoft e Meta Platforms hanno chiesto ai legislatori controlli più chiari e garanzie di sicurezza per i sistemi di IA sempre più coinvolti nello sviluppo di altra IA. Tra i nomi indicati come firmatari figurano Jakub Pachocki, Jack Clark, Eric Horvitz e Dawn Song.

Secondo il resoconto, i ricercatori avrebbero avvertito che lo sviluppo assistito dall’IA potrebbe concentrare in pochi mesi progressi che altrimenti richiederebbero anni. Tra i rischi prospettati figurano cyberattacchi, pandemie favorite dall’IA, disagi sul lavoro e instabilità geopolitica: scenari di cui i ricercatori hanno discusso, non conseguenze descritte come già avvenute.

L’IA che contribuisce allo sviluppo non è ancora auto-miglioramento ricorsivo

Un sistema di IA può contribuire alla ricerca e allo sviluppo di altri sistemi senza progettare e costruire autonomamente il proprio successore. Quest’ultimo passaggio è ciò che Anthropic definisce auto-miglioramento ricorsivo completo.

Anthropic afferma che, a maggio 2026, Claude aveva scritto oltre l’80% del codice confluito nella base di codice dell’azienda. Il dato descrive il contributo di Claude al lavoro interno di sviluppo; Anthropic sostiene che il ciclo completo di progettazione e sviluppo autonomo di un successore non si è ancora realizzato e non è inevitabile.

Le misure proposte secondo il resoconto

Le raccomandazioni attribuite ai ricercatori comprendono una supervisione normativa più chiara dei metodi di ricerca automatizzati, requisiti di sicurezza rigorosi e limiti al ritmo con cui si sviluppano le capacità dei sistemi. Il resoconto riferisce anche proposte per monitorare da vicino gli esperimenti ad alto rischio e mantenere la possibilità di interrompere subito i sistemi.

Tra le altre misure riportate figurano ambienti protetti per la ricerca sensibile, reti internazionali per condividere gli incidenti e accordi coordinati per rallentare lo sviluppo. Sono proposte di governance, non obblighi già introdotti da questo appello.

Che cosa comporta la supervisione umana

Per i sistemi ad alto rischio cui si applica, il regolamento europeo sull’intelligenza artificiale prevede misure che permettano alla supervisione umana di comprendere capacità e limiti del sistema, individuare anomalie e interpretarne i risultati. Chi supervisiona deve inoltre poter ignorare o correggere un risultato e interrompere il funzionamento del sistema.