In zijn essay van 10 oktober 2026 pleit Microsoft-CEO Satya Nadella ervoor dat een bevoegd persoon een geavanceerd AI-model midden in een taak kan pauzeren of stilleggen. De toegangsrechten en toegestane handelingen moeten volgens Nadella buiten het model zelf worden geregeld. Het is een aanbeveling over ontwerp en bestuur, geen aankondiging van een Microsoft-functie. Nadella’s essay
Wat de voorgestelde noodrem moet doen
Nadella wil dat een bevoegd persoon kan ingrijpen terwijl een model een taak uitvoert. Die menselijke stopmogelijkheid hoort bij een bredere grens tussen wat een model kan en wat het daadwerkelijk mag doen: toegangs- en actiecontroles moeten buiten het model liggen.
Waarom bevoegdheden en controles buiten het model staan
Een model kan informatie verwerken en voorstellen doen; het systeem eromheen bepaalt de bevoegdheden en toegestane acties. Nadella wil het model daarom scheiden van de software die het aanstuurt en van de actieruimte waarbinnen het werkt. Zo ligt de zeggenschap over toegang en handelen buiten het model zelf. Nadella’s essay
Daarbij horen ook controleerbare registraties en doorlopende tests. Nadella bepleit manipulatiebestendige, voor mensen leesbare vastlegging van betekenisvolle modelacties. Ook moeten organisaties het volledige systeem onafhankelijk en voortdurend testen op fouten, aanvallen, uitzonderingssituaties en veranderingen.
Een overtuigend klinkende uitleg van het model is daarbij niet genoeg. Nadella beschouwt transparantie over de redeneerstappen als een beginpunt, maar niet als een betrouwbare, zelfstandige controle: de uitvoer is volgens hem niet consequent getrouw of transparant. Hij pleit daarnaast voor het delen van incidenten met betrokkenen, met uitleg over wat misging, welke controles faalden en hoe herhaling kan worden voorkomen. Dit zijn aanbevelingen voor organisaties die AI inzetten, geen beschrijving van een ingevoerd controlesysteem. Nadella’s essay
Een voorzorgsmaatregel, geen beschuldiging
Nadella stelt voor om geavanceerde modellen met gesloten én open gewichten als mogelijke insider-risico’s te behandelen. Dat betekent niet dat modellen volgens hem noodzakelijkerwijs kwaadaardig zijn: ook een capabel systeem kan fouten maken of gecompromitteerd raken. De aanname van mogelijke compromittering is een voorzorgsprincipe voor het ontwerp, geen melding dat een specifiek model is getroffen. Nadella’s essay
Wie mag de noodrem bedienen?
Nadella spreekt over een bevoegd persoon. Hij wijst geen specifieke functie aan; de organisatie moet dus bepalen wie die bevoegdheid krijgt. Zijn essay presenteert de noodrem als een ontwerpaanbeveling en kondigt geen Microsoft-implementatie of gestandaardiseerde technische bediening aan.
NeoTeo schreef eerder over een afzonderlijk Microsoft-ontwerp: een gedragscode voor MAI-modellen. Dat voorstel gaat over het beoogde gedrag van die modellen; Nadella’s essay richt zich op externe bevoegdheden en de mogelijkheid om een model tijdens een taak stil te leggen.
