Satya Nadella, Chairman und CEO von Microsoft, hat am 13. September 2026 eine klare Bedingung für fortgeschrittene KI formuliert: Sie müsse der Menschheit nutzen und unter menschlicher Kontrolle bleiben. Mit diesem Grundsatz verbindet er ein bewusstes Entwicklungstempo, eingebettete Evaluatoren und eine breiter angelegte Governance. Microsoft kündigte außerdem eine öffentliche Konsultation zu einem Verhaltenskodex für eigene MAI-Modelle für den 14. September 2026 an.
Nadellas Bedingung für Superintelligenz
Für Nadella ist menschliche Kontrolle keine nachträgliche Sicherheitsfunktion, sondern eine Voraussetzung dafür, Superintelligenz überhaupt anzustreben. Menschen sollen für KI-Systeme verantwortlich bleiben und die Aufsicht über sie behalten. Das passt zum bestehenden Verantwortungsverständnis von Microsoft, erweitert es aber auf besonders leistungsfähige künftige Systeme.
Der entscheidende Punkt: Nadella spricht nicht von einem vollständigen Entwicklungsstopp. Er unterstützt ein bewusstes Tempo, damit die Ausrichtung von KI auf menschliche Ziele als Designziel berücksichtigt wird. Gleichzeitig sollen die Vorteile von KI möglichst breit zugänglich sein. Das ist ein Plädoyer für kontrollierte Entwicklung – nicht für einen pauschalen Stillstand und auch nicht für ungebremste Beschleunigung.
Bewusstes Tempo und eingebettete Evaluatoren
Mit „eingebetteten Evaluatoren“ meint Nadella ein Aufsichtsmodell, bei dem Prüfer in Entwicklungsumgebungen für KI-Systeme eingebunden sind und Sicherheitsmaßnahmen laufend bewerten können. So könnte aus einem abstrakten Sicherheitsprinzip ein Bestandteil des Entwicklungsprozesses werden.
Die Idee ist relevant, weil eine einmalige Prüfung kaum ausreicht, wenn sich Modelle, Trainingsverfahren und Einsatzgebiete laufend verändern. Entscheidend wäre deshalb, wie solche Evaluatoren arbeiten: Welche Systeme dürfen sie einsehen? Wem berichten sie? Können sie eine Entwicklung stoppen oder nur Empfehlungen abgeben? Für Nadellas öffentliche Position sind diese institutionellen Details nicht ausgearbeitet. Der Begriff beschreibt bislang vor allem einen vorgeschlagenen Mechanismus der Aufsicht.
Breiter Zugang statt Kontrolle durch wenige Akteure
Nadella stellt seine Forderung nach Kontrolle in einen größeren politischen und wirtschaftlichen Rahmen. Die Entwicklung fortgeschrittener KI soll nicht von einer kleinen Gruppe bestimmt werden. Länder, unterschiedliche Fachrichtungen und Hochschulen sollen an der Governance beteiligt sein.
Dazu kommt ein bewusst pluralistisches Modell für die Technik selbst: Geschlossene und Open-Source-Modelle sollen nebeneinander bestehen können. Für Unternehmen fordert Nadella außerdem mehr Unabhängigkeit von einzelnen Anbietern. Sie sollten ihre eigenen Wissensbestände, kontinuierlichen Lernprozesse und Modellgewichte kontrollieren können.
| Politische Dimension | Microsofts dargestellte Position | Praktische Bedeutung |
| Menschliche Kontrolle | Fortgeschrittene KI soll der Menschheit nutzen und unter menschlicher Kontrolle bleiben. | Menschen sollen Verantwortung tragen und die Aufsicht behalten. |
| Entwicklungstempo | Nadella unterstützt ein bewusstes Tempo, um die Ausrichtung auf menschliche Ziele zu verbessern. | Sicherheitsarbeit soll Teil der Entwicklung sein, ohne einen pauschalen Stopp zu verlangen. |
| Evaluierung | Eingebettete Evaluatoren sollen KI-Systeme in Entwicklungsumgebungen prüfen. | Aufsicht würde näher an den Entwicklungsprozess rücken. |
| Governance | Länder, Fachrichtungen und Hochschulen sollen neben Unternehmen beteiligt sein. | Die Regeln für fortgeschrittene KI sollen nicht bei wenigen Akteuren liegen. |
| Modellökosystem | Geschlossene und Open-Source-Modelle sollen nebeneinander bestehen. | Organisationen sollen Auswahl und Kontrolle auf mehreren Ebenen behalten. |
| Unternehmenskontrolle | Unternehmen sollen Wissen, Lernprozesse und Modellgewichte selbst kontrollieren können. | Abhängigkeit von einem einzelnen Modellanbieter soll begrenzt werden. |
Microsofts bestehender Rahmen für verantwortungsvolle KI
Microsoft führt verantwortungsvolle KI bereits entlang von sechs Prinzipien: Fairness, Zuverlässigkeit und Sicherheit, Datenschutz und Sicherheit, Inklusion, Transparenz sowie Rechenschaftspflicht. Dazu gehören Werkzeuge und Verfahren wie Folgenabschätzungen, Leitlinien für die Gestaltung von Mensch-KI-Systemen, Red-Teaming sowie Evaluierungs- und Governance-Werkzeuge.
Dieser Rahmen liefert den institutionellen Hintergrund für Nadellas Aussagen. Er ist aber nicht dasselbe wie ein Nachweis dafür, dass die neu vorgeschlagenen Evaluatoren bereits mit festgelegten Rechten arbeiten. Prinzipien und Werkzeuge beschreiben einen bestehenden Ansatz; die konkrete Ausgestaltung der neuen Vorschläge ist eine eigene Frage.
Auch Microsoft AI verfolgt mit „Humanist Superintelligence“ eine klar begrenzte Vorstellung fortgeschrittener KI. Das Konzept setzt auf problem- und domänenspezifische Systeme mit begrenzter Autonomie und dem Ziel, die Kontrolle beim Menschen zu halten. Es geht damit nicht um eine unbeschränkte, völlig autonome Entität, sondern um leistungsfähige Systeme mit eingeplanten Grenzen.
Der angekündigte MAI-Verhaltenskodex
Microsoft kündigte an, am 14. September 2026 einen Verhaltenskodex für eigene MAI-Modelle zur öffentlichen Konsultation vorzulegen. Der angekündigte Kodex soll den Rahmen für die First-Party-Modelle von Microsoft AI bilden.
