Nel saggio del 10 ottobre 2026, Satya Nadella propone che una persona autorizzata possa mettere in pausa o spegnere un modello di IA mentre sta svolgendo un’attività. Il freno d’emergenza rientra in un’idea più ampia: lasciare permessi e controllo delle azioni fuori dal modello, così che la sua capacità di elaborare informazioni non coincida con l’autorità di agire. Nadella illustra la proposta nel suo saggio.
Che cosa dovrebbe fare il freno d’emergenza
Nella proposta di Nadella, chi è autorizzato dovrebbe poter interrompere il modello anche a lavoro in corso. Non si tratta di un interruttore universale per tutta l’IA: il principio riguarda il controllo sul singolo sistema che un’organizzazione mette in funzione e sulle azioni che gli consente di compiere.
Il punto è separare tre elementi: il modello, il software che coordina il suo funzionamento e l’insieme delle azioni che gli sono consentite. Se il modello può ragionare e suggerire un’azione, non dovrebbe per questo decidere da solo quali risorse consultare o quali operazioni eseguire. I permessi devono restare sotto il controllo di sistemi esterni.
Permessi, registri e verifiche indipendenti
Il freno è un tassello, non l’intero sistema di salvaguardie. Nadella propone registri leggibili dalle persone e a prova di manomissione per le azioni rilevanti, così da poter ricostruire che cosa è accaduto senza affidarsi al modello per raccontare il proprio comportamento.
La sua proposta comprende anche verifiche indipendenti e test continui su errori, attacchi e casi limite, ripetuti quando cambia il sistema. A queste misure affianca la diversità dei modelli, il contenimento e la comunicazione degli incidenti alle persone coinvolte, insieme a informazioni su che cosa è andato storto e su come evitare che accada di nuovo.
La responsabilità, nella visione di Nadella, resta a chi adotta il sistema: l’organizzazione non può delegarla al fornitore del modello. NeoTeo ha già raccontato un documento distinto di Microsoft, la bozza di codice Humanist AI per i modelli MAI. Leggi l’articolo sulla bozza.
Una precauzione, non un’accusa
Nadella suggerisce di trattare i modelli di frontiera, sia a pesi aperti sia chiusi, come possibili rischi interni. La ragione è prudenziale: un sistema capace può commettere errori o essere compromesso. Il saggio precisa che questa impostazione non presuppone che i modelli siano necessariamente malevoli.
Anche la trasparenza della catena di ragionamento, secondo Nadella, è un punto di partenza e non basta da sola: le risposte dei modelli non sono sempre fedeli o trasparenti. Per questo la proposta affida la sicurezza a controlli esterni, registri e verifiche, anziché alla sola capacità del modello di spiegare le proprie decisioni.
