Il 18 novembre 2026 il governatore Gavin Newsom ha annunciato le raccomandazioni della California per rafforzare la sicurezza dell’intelligenza artificiale. Il rapporto della California Government Operations Agency, datato 16 novembre, propone che lo Stato possa ordinare un intervento d’emergenza contro una minaccia catastrofica imminente se lo sviluppatore rifiuta di contenerla. Sono proposte legislative, non poteri già in vigore. L’annuncio del governatore accompagna un rapporto con le raccomandazioni operative.
La California ha già approvato le leggi SB 813 e AB 1405, che pongono le basi per la verifica indipendente e la supervisione dei revisori dell’IA. Il nuovo rapporto suggerisce di ampliare quel quadro con controlli continuativi, obblighi di segnalazione più estesi e una procedura d’emergenza.
L’intervento straordinario proposto richiede due condizioni insieme: un pericolo imminente e il rifiuto dello sviluppatore di contenerlo.
Quando potrebbe intervenire lo Stato?
Secondo il rapporto, i funzionari dovrebbero poter emettere un ordine se hanno motivi credibili per ritenere imminente un rischio catastrofico o un grave evento di perdita di controllo, e lo sviluppatore non interviene per contenere il pericolo. L’ordine avrebbe effetto immediato in attesa del controllo giudiziario; lo sviluppatore potrebbe contestarlo e chiedere un provvedimento cautelare temporaneo.
La raccomandazione prevede anche un limite all’intervento: lo Stato dovrebbe scegliere la misura più circoscritta che possa funzionare e revocare l’ordine quando il pericolo non è più imminente. Non si tratta quindi di un potere generale di spegnere qualsiasi sistema di IA.
Che cosa comporterebbero i protocolli di contenimento?
Il rapporto propone protocolli verificati su più livelli, non un unico interruttore. Le misure potrebbero riguardare la capacità di calcolo, gli agenti IA, gli accessi interni e la distribuzione del modello. Gli sviluppatori dovrebbero inoltre individuare i responsabili, coordinarsi con soggetti esterni come fornitori di servizi cloud e di energia e stabilire quando sia sicuro ripristinare i sistemi.
Le verifiche dovrebbero mettere alla prova anche possibili ostacoli all’arresto, come il tentativo di copiare i pesi di un modello, e controllare se soggetti esterni possano raggiungere i comandi. Un dirigente senior dell’azienda certificherebbe l’efficacia del protocollo.
Per i modelli open-weight, gli obblighi di arresto proposti riguarderebbero soltanto le distribuzioni sotto il controllo dello sviluppatore. Chi pubblica i pesi non può disattivare una copia ospitata e gestita da altri.
Chi svolgerebbe i controlli indipendenti?
Il rapporto raccomanda una supervisione continuativa dei grandi sviluppatori di modelli di frontiera da parte di organizzazioni indipendenti di verifica (IVO) autorizzate. Questi organismi avrebbero accesso alle persone e alle informazioni pertinenti e condividerebbero con lo Stato valutazioni senza omissioni. La proposta prevede che la California stabilisca requisiti di competenza, indipendenza e rigore per autorizzare le IVO e possa revocarne la licenza se non li rispettano.
Il rapporto propone inoltre standard statali di base per sicurezza, protezione e trasparenza. Le IVO contribuirebbero a definire e aggiornare le specifiche tecniche e i test usati per verificare il rispetto degli standard.
Quali sarebbero i termini per segnalare gli incidenti?
Per la maggior parte degli incidenti critici di sicurezza, il rapporto propone di ridurre il termine di segnalazione da 15 giorni a 48 ore. Per i rischi catastrofici imminenti resterebbe il termine di 24 ore. L’ampliamento delle segnalazioni includerebbe gravi eventi di perdita di controllo, anche durante l’uso interno o esterno, tentativi di furto dei pesi dei modelli e un canale per comunicare i mancati incidenti.
Le raccomandazioni riguardano anche l’automazione della ricerca e sviluppo dell’IA. Lo Stato monitorerebbe indicatori come la quota di capacità di calcolo destinata a queste attività e potrebbe porre limiti allo sviluppo ricorsivo dei sistemi se ritenesse che un livello di automazione comporti un rischio catastrofico.