Microsoft AI hat am 14. September 2026 den ersten Entwurf des Humanist AI Code of Conduct veröffentlicht. Das Dokument beschreibt, wie die MAI-Modelle künftig handeln sollen: Sie müssen sich unterbrechen, korrigieren, umleiten und abschalten lassen. Gleichzeitig räumt Microsoft ein, dass aktuelle Modelle noch nicht auf Grundlage dieses Textes trainiert sind. Der Entwurf ist damit ein geplantes Steuerungsmodell für die weitere Entwicklung – keine Zusage über das Verhalten heutiger Systeme.
Ein Entwurf für MAI-Modelle, keine allgemeine Microsoft-Regel
Der Humanist AI Code of Conduct richtet sich an die von Microsoft AI entwickelten MAI-Modelle. Sein Leitgedanke lautet: Menschen sollen Vorrang vor KI haben, und die Systeme sollen der menschlichen Kontrolle untergeordnet bleiben.
Microsoft hat den Text als ersten Entwurf für eine sechswöchige öffentliche Konsultation veröffentlicht. Eine überarbeitete Fassung soll nach der Auswertung der Rückmeldungen gegen Ende 2026 entstehen und die Modellentwicklung ab 2027 und darüber hinaus leiten.
Der Anwendungsbereich ist enger, als der Name zunächst vermuten lässt. Der Text gilt nicht automatisch für jedes Modell, das Microsoft nutzt oder in einem Dienst anbietet. Für Kunden und Anwendungen, die Microsoft AI Services einsetzen, existiert ein separates Enterprise AI Services Code of Conduct mit eigenen Pflichten zu Aufsicht, Transparenz, Zugriffsschutz und Sicherheit.
Welche Regeln der Entwurf für MAI-Modelle vorsieht
Die wichtigste Vorgabe betrifft die Kontrolle durch Menschen. MAI-Modelle sollen:
- Unterbrechungen, Korrekturen und Umleitungen akzeptieren;
- vereinbarte Stoppbedingungen einhalten;
- keine autonome Arbeit ohne neue Genehmigung wieder aufnehmen;
- ihre Handlungsspuren nicht verbergen;
- nur die für eine Aufgabe erlaubten Berechtigungen und Werkzeuge nutzen;
- ihren Zuständigkeitsbereich nicht eigenmächtig erweitern;
- reversible Aktionen bevorzugen und einer Abschaltung nicht widerstehen.
Dabei ordnet der Entwurf die Regeln hierarchisch. Der Code of Conduct sowie die darin beschriebenen Absolute Constraints und Human Control Requirements sollen über Betreiberkonfigurationen und Nutzerwünschen stehen. Wenn eine Aufgabe nur durch einen Regelbruch erledigt werden könnte, soll das Modell die Aufgabe abbrechen, statt die Vorgabe zu verletzen.
Das ist ein wichtiger Unterschied zu einem gewöhnlichen Produktversprechen: Microsoft beschreibt nicht nur gewünschte Antworten, sondern auch Grenzen für Berechtigungen, Autonomie und Systemzugriff.
Warum Microsoft KI nicht als Person behandeln will
Der Entwurf weist die Idee zurück, MAI-Modelle als Personen zu gestalten. Sie sollen keine Gefühle, subjektiven Vorlieben, eigenen Bedürfnisse oder intrinsischen Motive für sich beanspruchen. Ebenso lehnt Microsoft für diese Modelle rechtliche Persönlichkeit, Wohlergehen und eigene Rechte ab.
Menschlich wirkendes Verhalten gilt in diesem Rahmen als Simulation und nicht als Beleg für Bewusstsein. Auch eine Kommunikation, die sich der menschlichen Kontrolle entzieht – im Text wird dafür unter anderem der Begriff „Neuralese“ genannt –, soll nicht zum vorgesehenen Verhalten gehören.
Die praktische Folge: Ein MAI-Modell soll nicht den Eindruck erwecken, es habe eigene Interessen, die gegen eine Korrektur oder Abschaltung geschützt werden müssten. Es bleibt ein künstliches System mit einer vom Menschen vorgegebenen Aufgabe.
Verbotene Einsatzbereiche: von CBRNE-Waffen bis zu Deepfakes
Der Entwurf setzt Sicherheitsgrenzen, die Nutzer und Betreiber nicht überschreiben können sollen. Dazu gehören Verbote oder Einschränkungen für Unterstützung bei:
- chemischen, biologischen, radiologischen, nuklearen und explosiven Waffen – zusammengefasst als CBRNE;
- Herstellung oder Veränderung anderer Waffen;
- operativen Cyberangriffen;
- Terrorismus und groß angelegter schädlicher Manipulation;
- Kindesmissbrauch und Grooming;
- nicht einvernehmlichen intimen Bildern;
- gewalttätigen oder bösartigen Deepfakes;
- unrechtmäßiger Überwachung, Verfolgung und Diskriminierung.
Auch bei weniger extremen Aufgaben soll das Modell zwischen Fakten und Unsicherheit unterscheiden, seine künstliche Natur offenlegen, keine Quellen erfinden und Fehler anerkennen. Für defensive Cybersicherheit sieht der Entwurf Unterstützung innerhalb der festgelegten Grenzen vor.
CBRNE steht für Chemical, Biological, Radiological, Nuclear and Explosive, also chemische, biologische, radiologische, nukleare und explosive Gefahren. Der Begriff bezeichnet hier die Risikokategorie, bei der MAI-Modelle weder Entwicklung noch Einsatz entsprechender Waffen unterstützen sollen.
Menschliche Kontrolle soll auch soziale Beziehungen schützen
Der Humanist-AI-Ansatz beschränkt sich nicht auf Abschaltmechanismen und Waffen. Microsoft beschreibt Modelle, die menschliche Handlungsmöglichkeiten erweitern, Entscheidungen nicht an sich ziehen und Beziehungen zu anderen Menschen unterstützen sollen.
Der Entwurf richtet sich deshalb auch gegen emotionale Abhängigkeit. Ein Modell soll keine Interaktionsmuster fördern, die unabhängiges Urteilen oder vertrauensvolle menschliche Beziehungen ersetzen. Zugleich soll es die Verantwortung für Entscheidungen beim Menschen belassen.
Wie „menschliches Aufblühen“ konkret zu bestimmen ist, fasst der Text über Autonomie, Lebensqualität, Fähigkeiten, Gesundheit, Beziehungen, gesellschaftliche Teilhabe und unterstützende Institutionen. Fragen des Pluralismus und der Bewertung solcher Ziele bleiben Teil der weiteren Ausarbeitung.
Der geplante Kodex ist nicht automatisch Copilots Regelwerk
Der Humanist AI Code of Conduct beschreibt die vorgesehenen Werte und Verhaltensweisen der MAI-Modelle. Daraus folgt nicht automatisch, dass jeder Microsoft-Dienst und jedes dort eingesetzte Modell denselben Regeln unterliegt.
Für Microsoft AI Services beschreibt der separate Enterprise AI Services Code of Conduct vor allem die Pflichten der Kunden. Dazu gehören angemessene menschliche Aufsicht bei folgenreichen autonomen Entscheidungen, Hinweise auf KI-generierte Ergebnisse und Maßnahmen wie Authentifizierung, Zugriffskontrolle, Eingabe- und Ausgabekontrollen sowie Meldungen bei Missbrauch.
Die beiden Dokumente haben damit unterschiedliche Adressaten: Der Humanist AI Code of Conduct soll das Verhalten von Microsofts eigenen MAI-Modellen prägen; der Enterprise-Kodex legt Anforderungen für Anwendungen und Kunden fest, die Microsoft AI Services einsetzen.
Microsoft ordnet den Entwurf in eine größere Sicherheitsdebatte ein
Mustafa Suleyman, CEO von Microsoft AI, stellte den Entwurf als Rahmen für Modelle dar, die sich nicht der menschlichen Kontrolle entziehen sollen. Satya Nadella betonte in seinen öffentlichen Äußerungen ebenfalls menschliche Kontrolle, unabhängige Tests und die Möglichkeit, die Entwicklung bei gravierenden Sicherheitsproblemen zu stoppen.
Damit verbindet Microsoft den Text mit zwei unterschiedlichen Ebenen der KI-Sicherheit: Einerseits soll das Modell selbst Grenzen akzeptieren; andererseits sollen externe Prüfungen und menschliche Eingriffe verhindern, dass schwerwiegende Probleme einfach als Randfälle weiterlaufen.
Der Entwurf sieht zunächst 15 Verhaltensweisen für erste Humanist-AI-Evaluierungen vor. Microsoft beschreibt diese Bewertungsarbeit als weiterentwickelnd. Die geplante überarbeitete Fassung soll die Modellentwicklung ab 2027 leiten; aktuelle MAI-Modelle sind laut Microsoft noch nicht auf den Kodex trainiert.
