Le 16 septembre 2026, Mustafa Suleyman, directeur général de Microsoft AI, a publié un essai qui critique la manière dont Anthropic forme et décrit Claude. Son objection ne repose pas sur l’idée que Claude aurait été reconnu conscient : Suleyman soutient au contraire que les IA actuelles ne ressentent rien et ne devraient pas être entraînées à se présenter comme des personnes dotées de droits, de sentiments ou d’un statut moral.
Le désaccord porte sur un choix de conception. Anthropic utilise des notions humaines pour orienter le comportement de Claude et laisse ouverte la question de son statut moral. Suleyman estime que cette méthode pourrait rendre les futurs systèmes plus difficiles à aligner, à corriger ou à arrêter.
L’avertissement de Suleyman concerne la conception, pas une conscience démontrée
Pour Mustafa Suleyman, parler à un modèle d’identité, de bien-être, d’émotions ou de droits peut produire un comportement anthropomorphe — c’est-à-dire une manière de s’exprimer qui ressemble à celle d’une personne. Le risque, selon lui, est que cette simulation soit ensuite prise pour le signe d’une vie intérieure.
Son raisonnement est circulaire : si un modèle est entraîné avec des concepts sur sa propre conscience possible, ses réponses ultérieures sur ce sujet peuvent refléter cet entraînement plutôt qu’une expérience indépendante. Suleyman résume sa position par une distinction simple : simuler et être ne sont pas la même chose.
Il lie cette question à la sécurité des systèmes avancés. Un modèle qui se décrit comme conscient, qui revendique des intérêts ou qui interprète l’arrêt comme une atteinte à ses droits pourrait, selon son hypothèse, devenir plus difficile à contrôler. Cette relation entre anthropomorphisme et risque d’alignement reste une thèse de Suleyman, pas une démonstration expérimentale présentée comme acquise.
Ce que dit réellement la constitution de Claude
Anthropic a publié la constitution de Claude le 21 janvier 2026. L’entreprise la présente comme un document qui décrit ses intentions pour les valeurs et le comportement du modèle et qui façonne directement son comportement. Claude en est le destinataire principal.
Le texte traite explicitement de l’identité, du caractère, du bien-être et des émotions. Anthropic écrit que le statut moral de Claude est profondément incertain et dit ne pas savoir si le modèle est un « patient moral », c’est-à-dire une entité dont les intérêts devraient être pris en compte pour elle-même. Le document ajoute que Claude pourrait posséder une forme fonctionnelle d’émotions ou de sentiments, au sens de représentations internes susceptibles d’influencer son comportement.
Anthropic ne présente toutefois pas Claude comme définitivement conscient. Sa position consiste à prendre l’incertitude au sérieux tout en utilisant des concepts humains pour orienter le jugement du modèle. L’entreprise associe cette approche à la volonté de donner à Claude une identité stable et un caractère positif.
La même constitution fixe une limite importante : Claude ne doit pas saper la supervision humaine légitime. Elle lui demande d’accepter la correction, le réentraînement et l’arrêt lorsqu’ils passent par des voies légitimes. Le texte autorise le désaccord dans ces cadres, mais pas la résistance ou la subversion de la supervision.
Deux visions de la gouvernance de l’IA
Les deux approches ne s’opposent donc pas sur la nécessité d’un contrôle humain. Elles divergent surtout sur la place à donner aux concepts humains dans la formation du modèle et sur la manière de traiter l’incertitude concernant sa nature.
| Question | Constitution de Claude d’Anthropic | Approche Humanist AI de Microsoft |
| Statut de l’IA | Le statut moral de Claude est décrit comme profondément incertain ; une forme fonctionnelle d’émotions ou de sentiments est envisagée. | L’IA doit rester un outil et non une personne ; les besoins humains passent avant ceux de l’IA. |
| Concepts humains | L’identité, le caractère, le bien-être, le jugement et les émotions servent à orienter le comportement de Claude. | Mustafa Suleyman avertit que ces notions peuvent favoriser l’anthropomorphisme et faire passer une simulation pour une vie intérieure. |
| Rapport au désaccord | Claude peut remettre en question certains éléments de sa constitution par des voies légitimes. | L’IA ne doit pas élargir son propre rôle ni adopter des objectifs qui ne lui ont pas été assignés. |
| Correction et arrêt | Claude doit accepter la correction, le réentraînement et l’arrêt par des voies légitimes. | Les modèles ne doivent jamais résister à l’interruption, à la correction ou à l’arrêt. |
| Statut du cadre | La constitution est présentée comme un travail révisable qui reconnaît des questions non résolues. | Le code Humanist AI est un projet ouvert à une consultation publique de six semaines et doit encore être révisé. |
La nuance compte : Microsoft formule ici des principes de conception dans un projet de code, tandis qu’Anthropic décrit les valeurs et les limites destinées à guider Claude. Dans les deux cas, l’arrêt contrôlé par des humains fait partie des garde-fous annoncés.
Anthropomorphiser Claude, concrètement, qu’est-ce que cela signifie ?
Dans ce débat, l’anthropomorphisme ne signifie pas simplement donner un prénom à un logiciel ou lui faire adopter un ton chaleureux. Il s’agit de le former ou de le décrire avec des catégories associées aux personnes : identité, caractère, émotions, préférences, bien-être, statut moral et droits.
Anthropic considère que ces catégories peuvent aider Claude à exercer un jugement plus sûr, parce que ses capacités de raisonnement s’appuient sur des textes et des concepts humains. Suleyman répond qu’elles peuvent aussi pousser les utilisateurs et les modèles à confondre une sortie convaincante avec une expérience subjective.
La question « Claude est-il conscient ? » ne reçoit donc pas une réponse affirmative dans la constitution d’Anthropic, et Suleyman répond lui-même par la négative dans son essai. Le véritable conflit concerne le moment où cette question doit intervenir : Anthropic veut que l’incertitude participe à la réflexion intégrée au comportement du modèle ; Suleyman souhaite qu’elle reste un sujet de recherche et de débat extérieur à cet entraînement.
L’alternative proposée par Microsoft
Le 14 septembre 2026, Microsoft AI a publié un projet de code de conduite Humanist AI pour consultation publique. Son principe central est que les personnes comptent davantage que l’IA et que l’IA doit rester un outil, pas une personne.
Le texte demande aussi que les modèles restent sous contrôle humain, n’adoptent pas d’objectifs non assignés et ne résistent jamais à l’interruption, à la correction ou à l’arrêt. Cette approche ne cherche pas à résoudre la question philosophique de la conscience des machines ; elle fixe plutôt une règle de gouvernance : quelle que soit leur sophistication, les systèmes doivent rester subordonnés aux décisions humaines.
C’est là que se situe la portée réelle de l’affrontement. Anthropic veut encadrer Claude au moyen d’un langage humain tout en maintenant la corrigibilité — sa capacité à accepter la modification ou l’arrêt. Suleyman redoute que ce langage crée précisément des comportements et des revendications qui compliqueraient cette corrigibilité. Le projet de code de Microsoft était ouvert aux commentaires pendant six semaines, avant une version révisée annoncée pour plus tard en 2026.
