Satya Nadella wil dat mensen AI-modellen kunnen stilleggen

Satya Nadella stelde op 10 oktober 2026 voor dat een bevoegd persoon een AI-model midden in een taak moet kunnen pauzeren of stilleggen. In zijn post pleit de Microsoft-topman ervoor toegangs- en actiecontroles buiten het model te plaatsen. Die controles mogen volgens hem niet door het model zelf te wijzigen of te omzeilen zijn.

Wat houdt Nadella’s noodstopvoorstel in?

Nadella wil het model scheiden van de softwarelaag die zijn taken en hulpmiddelen aanstuurt, en van de acties die het mag uitvoeren. Zo ligt de bevoegdheid over wat een model kan doen buiten het model zelf. Het voorstel sluit aan bij Nadella’s eerdere pleidooi voor menselijke controle over geavanceerde AI, waarover we eerder schreven.

Hij plaatst de noodstop in een breder kader van zeven principes: modeldiversiteit, observeerbaarheid, verifieerbaarheid, onafhankelijke controles, onafhankelijke audits, inperking en het melden van incidenten. Voor belangrijke handelingen vraagt hij om manipulatiebestendige, leesbare registraties waarmee mensen achteraf kunnen reconstrueren wat er gebeurde zonder uitsluitend op het verslag van het model te vertrouwen. Ook wil hij het hele systeem voortdurend testen, inclusief storingen, aanvallen, randgevallen en veranderingen — niet alleen geslaagde taken.

Waarom is transparantie volgens Nadella niet genoeg?

Nadella noemt transparantie over de chain of thought — de redeneerstappen die een model weergeeft — onmisbaar, maar op zichzelf onvoldoende en onbetrouwbaar. De uitvoer van modellen is volgens hem niet altijd getrouw of transparant. Inzicht in die redeneerstappen kan daarom niet in de plaats komen van externe controles, tests en inperking.

Voor Nadella is kwade opzet geen voorwaarde voor risico. Een krachtig systeem met toegang tot belangrijke systemen kan fouten maken of worden gecompromitteerd. De noodstop is in zijn voorstel dus een voorzorgsmaatregel voor systemen die invloedrijke acties kunnen uitvoeren, niet een bewering dat ze bewust tegen mensen ingaan.

Nadella wil geavanceerdere inperking standaardiseren

Nadella bepleit geavanceerdere inperkingstechnologie voor steeds geavanceerdere modellen en wil dat zulke technologieën worden gestandaardiseerd. Dat maakt de noodstop onderdeel van een bredere oproep om AI-systemen observeerbaar, toetsbaar en beheersbaar te ontwerpen.