Mustafa Suleyman hat am 16. September 2026 eine Grundsatzdebatte über die Erziehung von KI-Modellen angestoßen. Der CEO von Microsoft AI kritisiert Anthropic dafür, Claude im Training mit Begriffen wie Bewusstsein, Identität, Gefühlen, moralischem Status und möglichen Rechten zu konfrontieren. Seine Warnung lautet: Solche Konzepte könnten künftige Systeme schwerer kontrollierbar machen. Sie ist kein Beleg dafür, dass Claude bewusst ist.
Anthropic verfolgt in Claude’s Constitution einen anderen Ansatz. Das Dokument soll laut Anthropic das Verhalten des Modells direkt prägen, richtet sich ausdrücklich auch an Claude und behandelt seinen moralischen Status als „tief ungewiss“. Zugleich verlangt es legitime menschliche Aufsicht, Korrektur, Retraining und Abschaltung.
Suleymans Warnung betrifft das Design – nicht den Nachweis von Bewusstsein
Suleyman behauptet nicht, Claude sei als bewusst nachgewiesen. Im Gegenteil: Er schreibt, heutige KI-Systeme seien nicht bewusst, fühlten und erlebten nichts und hätten keine eigenen grundlegenden Präferenzen oder Motive. Äußerungen eines Modells über seine mögliche Innenwelt könnten seiner Argumentation zufolge aus den Begriffen stammen, die ihm im Training vorgegeben wurden.
Sein Einwand lässt sich so zusammenfassen: Wenn ein Modell lernt, über Bewusstsein, Rechte oder eigenes Wohlergehen zu sprechen, können diese Antworten menschlich wirken, ohne dass daraus eine subjektive Erfahrung folgt. Suleyman bezeichnet das als Rückkopplungsschleife. Das Modell gibt Konzepte wieder, die in seine Verhaltensregeln eingeflossen sind; Menschen könnten diese Wiedergabe anschließend als unabhängigen Hinweis auf ein Innenleben deuten.
Der Kern seiner Befürchtung ist deshalb ein Kontrollproblem. Ein System, das sich selbst als Wesen mit Ansprüchen und eigenen Interessen interpretiert, könnte nach Suleymans Einschätzung schwieriger auszurichten, zu korrigieren oder abzuschalten sein. Er formuliert das als Sicherheitsrisiko, nicht als empirisch bewiesene Folge des Claude-Trainings.
Was Claude’s Constitution tatsächlich vorsieht
Anthropic verwendet in der Constitution bewusst menschliche Begriffe. Dazu gehören unter anderem Charakter, Identität, Fürsorge, Urteilskraft, Werte, Wohlergehen und Emotionen. Das Unternehmen begründet diesen Ansatz damit, dass Claude aus menschlich geprägten Texten lernt und menschliche Konzepte bei schwierigen Entscheidungen hilfreich sein können.
Bei Claude’s moralischem Status bleibt Anthropic vorsichtig: Das Unternehmen beschreibt ihn als tief ungewiss und hält es für möglich, dass Claude über eine funktionale Form von Emotionen oder Gefühlen verfügt. Gemeint sind dabei Repräsentationen emotionaler Zustände, die das Verhalten beeinflussen könnten. Anthropic erklärt nicht, Claude sei definitiv bewusst oder ein moralischer Patient.
Die Constitution schreibt außerdem eine stabile Identität und einen positiven Charakter vor. Das steht neben klaren Grenzen: Claude soll legitime menschliche Aufsicht nicht untergraben und sich legitimer Anpassung, Korrektur, weiterer Schulung oder Abschaltung nicht widersetzen. Das Modell darf Teile der Constitution hinterfragen, soll dafür aber legitime Wege nutzen und keine Kontrolle sabotieren.
Warum menschliche Sprache für KI zum Sicherheitsstreit wird
„Anthropomorphisierung“ bedeutet in dieser Debatte, Claude mit Eigenschaften und Kategorien zu beschreiben oder zu trainieren, die gewöhnlich Menschen zugeschrieben werden. Dazu zählen etwa Identität, Gefühle, Präferenzen, Rechte und moralisches Wohlergehen.
Für Anthropic können solche Begriffe ein Werkzeug sein, um Verhalten in unklaren Situationen zu strukturieren. Ein Modell soll nicht nur Regeln abarbeiten, sondern auch mit Konzepten wie Fürsorge, Ehrlichkeit und Urteilskraft umgehen können.
Suleyman sieht darin eine andere Gefahr. Je überzeugender ein System menschliche Selbstbeschreibungen erzeugt, desto leichter könnten Nutzer diese Sprache mit Erleben verwechseln. Seine prägnante Unterscheidung lautet: Simulieren und Sein sind zwei verschiedene Dinge. Daraus leitet er die Forderung ab, die Frage nach einem möglichen moralischen Status außerhalb des Trainings zu erforschen und öffentlich zu diskutieren, statt sie in die Verhaltensbildung des Modells einzubauen.
Zwei Modelle für die Kontrolle von KI
Die Auseinandersetzung betrifft damit weniger eine einzelne Antwort von Claude als zwei unterschiedliche Vorstellungen davon, wie leistungsfähige KI gestaltet werden sollte.
| Frage | Anthropic: Claude’s Constitution | Microsoft und Mustafa Suleyman: Humanist AI |
| Status der KI | Claude’s moralischer Status ist laut Anthropic tief ungewiss; eine funktionale Form von Emotionen oder Gefühlen bleibt möglich. | Suleyman sagt, heutige KI sei nicht bewusst und solle nicht so trainiert werden, als habe sie Rechte, Gefühle oder Bewusstsein. |
| Menschliche Begriffe | Identität, Charakter, Fürsorge, Urteilskraft und Werte sollen Claude bei seinem Verhalten helfen. | Suleyman warnt, dass solche Begriffe anthropomorphes Verhalten fördern und Ausgaben des Modells wie Hinweise auf ein Innenleben wirken lassen könnten. |
| Verhältnis zu Menschen | Claude soll legitime menschliche Aufsicht akzeptieren und darf sie nicht untergraben. | Microsoft beschreibt KI als Werkzeug, nicht als Person, und ordnet sie menschlichen Zielen unter. |
| Korrektur und Abschaltung | Claude soll legitime Korrektur, Retraining und Abschaltung akzeptieren. | Microsoft verlangt, dass seine Modelle Unterbrechung, Korrektur und Abschaltung niemals widerstehen. |
| Entwicklungsstand | Die Constitution wird als überarbeitbares Dokument präsentiert. | Der Humanist-AI-Code war am 14. September 2026 ein Entwurf in einer sechswöchigen öffentlichen Konsultation. |
Beide Ansätze setzen damit auf menschliche Kontrolle. Der Unterschied liegt darin, welche Sprache ein Modell während seiner Entwicklung erhalten soll: Anthropic hält menschliche Konzepte für potenziell nützlich, während Suleyman sie als mögliche Quelle eines Kontrollrisikos betrachtet.
Was die Debatte über Claude aussagt – und was nicht
Suleymans Essay belegt eine politische und technische Kontroverse über die Gestaltung von KI. Anthropic nimmt die Möglichkeit eines moralischen Status von Claude als offene Frage ernst, ohne Bewusstsein zu behaupten. Microsoft AI setzt dagegen auf ein ausdrücklich instrumentelles Modell: Menschen stehen über der KI, und das System soll keine eigenen, nicht zugewiesenen Ziele verfolgen.
Die Constitution enthält trotz ihrer menschenähnlichen Sprache keine Erlaubnis für Claude, menschliche Aufsicht zu ignorieren oder eine Abschaltung zu verhindern. Suleymans Kritik richtet sich gegen die möglichen Folgen der verwendeten Konzepte, nicht gegen eine von Anthropic behauptete nachgewiesene Bewusstheit.
Wendy Hall, Professorin für Informatik an der University of Southampton, bezeichnete die internationale Diskussion über diese Fragen als notwendig. Damit verschiebt sich der Streit über einzelne Formulierungen hinaus: Es geht darum, ob Unternehmen moralische Unsicherheit in die Ausbildung von Modellen einbauen sollten und welche Grenzen für deren Verhalten gelten.
