La dichiarazione del segretario al Tesoro statunitense Scott Bessent, resa pubblica il 21 settembre, riferiva che funzionari di Stati Uniti e Cina avevano discusso un possibile meccanismo di dialogo sull’IA e un sistema per notificare gli incidenti con implicazioni per la sicurezza nazionale. L’idea è condividere informazioni sui rischi prima che un episodio venga scambiato per un attacco e alimenti la rivalità tra le due potenze.
Il possibile dialogo tra Stati Uniti e Cina
Secondo quanto riferito da Bessent, i funzionari hanno discusso un canale per affrontare i rischi dell’intelligenza artificiale e notificare gli incidenti che potrebbero coinvolgere la sicurezza nazionale. Una comunicazione tempestiva servirebbe a chiarire che cosa è accaduto prima che un governo reagisca a un episodio attribuito all’altro.
È un ambito circoscritto di cooperazione: il dialogo riguarderebbe incidenti e rischi specifici, mentre la competizione tecnologica tra Stati Uniti e Cina continua a fare da sfondo alle discussioni sull’IA.
Perché un incidente di IA potrebbe aggravare la crisi
Il rischio descritto è la misattribuzione: attribuire per errore un’azione al soggetto sbagliato. Per esempio, un’intrusione informatica legata all’IA o una risposta difensiva automatizzata potrebbe essere interpretata come un attacco sponsorizzato dall’altro Paese. Una ritorsione prima di aver chiarito l’origine dell’episodio potrebbe far salire la tensione.
È uno scenario ipotetico, non la descrizione di una crisi tra Stati Uniti e Cina già avvenuta. Proprio per ridurre il rischio di una reazione affrettata, le proposte di comunicazione puntano a creare un modo diretto per discutere gli incidenti.
Le proposte per tenere sotto controllo l’IA militare
Il 9 settembre Melanie W. Sisson e Tianjiao Jiang hanno pubblicato un commento sul controllo umano dell’IA militare. Alle proposte legate a quel dibattito sono associate tre misure: stabilire limiti relativi ai sistemi nucleari statunitensi e cinesi, mantenere il controllo umano sulle operazioni informatiche con conseguenze gravi e creare un canale militare diretto per comunicare sugli incidenti legati all’IA.
Quest’ultimo canale servirebbe a discutere un episodio prima che inneschi una ritorsione. È un’idea diversa da una notifica rivolta più in generale agli incidenti di IA con possibili implicazioni per la sicurezza nazionale: entrambe riguardano la comunicazione, ma la prima è pensata per le crisi militari.
Sicurezza e competizione tecnologica
Il confronto sulla sicurezza dell’IA comprende anche proposte diverse da quelle militari. Dario Amodei, amministratore delegato di Anthropic, ha sostenuto di rallentare la crescita delle capacità dei modelli di frontiera, così che il lavoro sulla sicurezza possa tenere il passo. Questa proposta riguarda il ritmo dello sviluppo dell’IA; le misure associate al commento di Sisson e Jiang si concentrano invece sul controllo umano e sulla comunicazione tra governi in caso di rischio militare.
