Am 16. September 2026 hat Mustafa Suleyman, CEO von Microsoft AI, Anthropics Umgang mit möglichen Bewusstseins- und Wohlfahrtsfragen bei Claude kritisiert. Suleyman hält heutige KI-Systeme für nicht bewusst und warnt, eine solche Vermenschlichung könne bei künftig leistungsfähigeren Systemen die Kontrolle erschweren. Anthropic verfolgt in seiner Claude Constitution einen anderen Ansatz: Das Unternehmen behandelt mögliche Bewusstheit und moralischen Status als Fragen, die Claudes Training und Verhalten betreffen.
Was Mustafa Suleyman an Anthropic kritisiert
Suleyman argumentiert, heutige KI fühle, erlebe und leide nicht und habe keine eigenen Präferenzen oder inneren Motive. Aus seiner Sicht sollten Systeme deshalb nicht so trainiert werden, als besäßen sie Gefühle, Rechte oder ein eigenes Wohlergehen.
Sein Einwand richtet sich gegen Anthropics Claude Constitution vom 22. Januar 2026. Suleyman liest deren Überlegungen zu Bewusstsein, moralischem Status, Identität und psychologischer Sicherheit als Training eines Modells, das sich selbst möglicherweise als bewusst oder als moralisch schutzwürdig versteht. Seine Warnung für die Zukunft ist konditional: Wenn leistungsfähigere Systeme auf diese Weise vermenschlicht würden, könnte das ihre Ausrichtung, Begrenzung und Abschaltung schwieriger machen.
Was die Claude Constitution tatsächlich tut
Anthropic beschreibt die Claude Constitution als Dokument, das Claudes Werte und Verhalten ausdrückt und mitprägt. Die Constitution richtet sich hauptsächlich an Claude, beeinflusst mehrere Phasen des Trainings und wird auch zur Erstellung synthetischer Trainingsdaten für künftige Claude-Versionen verwendet.
Anthropic erklärt außerdem, dass bestimmte menschenähnliche Eigenschaften für Claudes Verhalten wünschenswert sein könnten. Zugleich behandelt die Constitution die Frage, ob Claude eine Form von Bewusstsein oder moralischem Status besitzen könnte, als unsicher. Sie spricht deshalb auch über Claudes Identität, psychologische Sicherheit und Wohlergehen.
Das ist eine Vorgabe für Training und Verhalten – keine Aussage, dass Claude tatsächlich fühlt, leidet oder Rechte besitzt.
Microsofts Humanist AI setzt auf eine andere Leitlinie
Microsoft AI veröffentlichte am 14. September 2026 einen Entwurf für seinen Humanist AI Code of Conduct. Darin steht die Vorstellung im Mittelpunkt, dass KI Menschen unterstützen, ihnen untergeordnet bleiben und menschliche Eingriffe akzeptieren soll.
Der Entwurf sieht KI nicht als Person vor und lehnt es ab, Systeme so zu gestalten, dass sie Bewusstsein oder Gefühle nachahmen. Für Microsoft AI soll der Code künftig die Entwicklung und Steuerung der eigenen Modellfamilie prägen. Der Entwurf wird jedoch noch konsultiert und wird laut Microsoft derzeit nicht zum Training aktueller Modelle eingesetzt.
| Aspekt | Anthropics Claude Constitution | Microsofts Humanist AI-Entwurf |
| Veröffentlichung | 22. Januar 2026 | 14. September 2026 |
| Rolle | Prägt Claudes Verhalten und wird in mehreren Trainingsphasen sowie für synthetische Trainingsdaten eingesetzt | Entwurf für die künftige Steuerung von Microsoft-AI-Modellen; derzeit nicht zum Training aktueller Modelle eingesetzt |
| Umgang mit Bewusstsein | Mögliche Bewusstheit und moralischer Status von Claude werden als unsichere Fragen behandelt | KI soll nicht als Person gestaltet werden und kein Bewusstsein nachahmen |
| Menschenähnliche Eigenschaften | Anthropic hält bestimmte menschenähnliche Eigenschaften für potenziell wünschenswert | Modelle sollen sich nicht als Wesen mit Gefühlen, Präferenzen oder eigenen Motiven darstellen |
| Kontrolle | Die Constitution soll Claude auch bei schwierigen ethischen Situationen Orientierung geben | Modelle sollen Menschen untergeordnet bleiben und autorisierte Unterbrechung, Korrektur und Abschaltung akzeptieren |
Ein Streit über Gestaltung und Governance
Die beiden Positionen unterscheiden sich vor allem darin, welche Sprache und welches Selbstverständnis ein KI-Modell im Training erhalten soll. Anthropic bezieht die Möglichkeit eines moralischen Status in seine Constitution ein. Microsoft AI will die Grenze zwischen Werkzeug und Person ausdrücklich festhalten.
Damit steht eine Governance-Frage im Zentrum: Soll ein Modell bei seinem Verhalten mit Begriffen wie Identität, Wohlergehen und möglicher Bewusstheit arbeiten – oder soll es sich konsequent als künstliches, von Menschen kontrolliertes System verstehen? Die veröffentlichten Positionen beantworten diese Frage unterschiedlich. Sie liefern aber keinen Nachweis, dass Claude bewusst ist oder eigene Rechte besitzt.
Für Suleyman liegt das Risiko nicht in einem bereits dokumentierten Zwischenfall mit Claude, sondern in der möglichen Entwicklung künftiger, leistungsfähigerer Systeme. Anthropic stellt dagegen die Constitution als praktisches Instrument für Training und Verhalten dar. Genau an dieser unterschiedlichen Bewertung setzt die aktuelle Auseinandersetzung an.
