Satya Nadella schlägt in einem auf den 10. Oktober 2026 datierten Essay vor, dass eine befugte Person ein KI-Modell während einer Aufgabe pausieren oder abschalten können soll. Zugriffs- und Handlungskontrollen sollen außerhalb des Modells liegen. Nadella empfiehlt damit einen vorsorglichen Sicherheitsansatz für leistungsfähige KI-Systeme.
Was Nadellas KI-Notbremse leisten soll
Die Notbremse soll einen Eingriff ermöglichen, während ein Modell eine Aufgabe bearbeitet. Nadella trennt dabei die Fähigkeiten eines Modells von der Befugnis, auf Daten zuzugreifen und Aktionen auszuführen: Diese Kontrolle soll außerhalb des Modells liegen. Dazu gehört auch, das Modell von der Ablaufsteuerung und dem festgelegten Handlungsspielraum zu trennen.
Berechtigungen, Protokolle und Prüfungen
Externe Berechtigungen legen fest, worauf ein Modell zugreifen und welche Aktionen es ausführen darf. Zusätzlich empfiehlt Nadella manipulationssichere, menschenlesbare Protokolle für alle wichtigen Modellaktionen. Ergebnisse sollen sich nachvollziehen lassen, ohne dass man dafür auf die Selbstauskunft des Modells angewiesen ist.
Zur Empfehlung gehören außerdem unabhängige Prüfungen und fortlaufende Tests auf Fehler, Angriffe, Grenzfälle und Veränderungen am System. Nadella spricht sich auch für unterschiedliche Modelle und dafür aus, Betroffene zügig über Vorfälle zu informieren – einschließlich der ausgefallenen Kontrollen und möglicher Schritte gegen eine Wiederholung.
Auch Chain-of-Thought-Transparenz, also die Ausgabe eines nachvollziehbaren Gedankengangs, reicht Nadella zufolge allein nicht aus. Modellausgaben seien nicht durchgehend getreu oder transparent.
Vorsichtsannahme statt Behauptung über böswillige Modelle
Nadella empfiehlt, besonders leistungsfähige Modelle mit offenen und geschlossenen Gewichten als mögliche Insider-Risiken zu behandeln. Das bedeutet nicht, dass sie zwangsläufig böswillig sind: Sie können Fehler machen oder kompromittiert werden. „Als kompromittiert annehmen“ ist in diesem Zusammenhang eine Vorsichtsannahme für die Gestaltung der Schutzmaßnahmen, keine Aussage über ein bestimmtes Modell.
Eine Empfehlung für Organisationen
Nadella richtet seinen Vorschlag an Organisationen, die fortgeschrittene KI einsetzen. Eine befugte Person soll die Möglichkeit haben, ein Modell mitten in einer Aufgabe zu pausieren oder abzuschalten. Der Essay formuliert damit eine Empfehlung zur Kontrolle und Eindämmung von KI-Systemen.
Ein früherer NeoTeo-Beitrag behandelte Microsofts Entwurf für kontrollierbare MAI-Modelle. Nadellas Essay setzt einen anderen Schwerpunkt: die externen Kontrollen, mit denen Organisationen den Zugriff und die Aktionen leistungsfähiger Modelle begrenzen sollen.
