Mustafa Suleyman conteste la conscience de Claude : ce que montre Anthropic

Le 16 septembre 2026, Mustafa Suleyman, PDG de Microsoft AI, a relancé la controverse sur la conscience de Claude en reprochant à Anthropic d’intégrer dans l’entraînement du modèle des notions comme la conscience, l’identité, le bien-être et le statut moral. Son argument : si Claude apprend à parler de sa vie intérieure, ses réponses ne peuvent pas ensuite être prises comme un témoignage indépendant sur cette vie intérieure.

Les travaux publiés par Anthropic décrivent bien des représentations internes organisées, capables de soutenir certaines opérations de raisonnement et de compte rendu. Ils ne décrivent pas pour autant une expérience subjective. Anthropic précise elle-même que ses expériences ne montrent pas que Claude ressent quoi que ce soit comme un humain.

Ce que Mustafa Suleyman reproche à Anthropic

Suleyman affirme que les IA actuelles n’ont ni droits, ni sentiments, ni conscience, et qu’il ne faudrait pas les entraîner à se comporter comme si elles en avaient. Il vise en particulier la Claude’s new Constitution, publiée par Anthropic le 22 janvier 2026.

Dans ce document, Anthropic explique être incertaine de la conscience et du statut moral de Claude. La Constitution aborde aussi son identité, ses états internes, sa sécurité psychologique et son bien-être. Elle n’est pas un simple texte destiné au public : Anthropic dit l’utiliser à plusieurs étapes de l’entraînement, notamment pour produire des exemples, des réponses, des évaluations et des classements destinés aux futurs modèles de Claude.

C’est précisément ce lien entre le contenu du document et les réponses du modèle que Suleyman conteste. Selon lui, Anthropic introduit d’abord ces concepts dans le processus d’apprentissage, puis risque d’interpréter les formulations de Claude sur la conscience ou les droits comme des indices autonomes. Il propose que les hypothèses sur une éventuelle vie intérieure soient étudiées séparément du régime d’entraînement, plutôt que d’y être incorporées.

Que montre J-space chez Claude ?

J-space est le nom donné par Anthropic à un petit ensemble de représentations internes repérées grâce à une méthode fondée sur le jacobien. Ces représentations correspondent à des concepts que Claude peut parfois rapporter, modifier volontairement et réutiliser dans plusieurs tâches.

Les expériences décrivent notamment des concepts silencieux, absents de la réponse finale, mais associés à des étapes intermédiaires de raisonnement. Des interventions sur ces représentations ont aussi modifié certaines sorties : dans les exemples publiés par Anthropic, remplacer un concept comme « spider » par « ant » change le raisonnement correspondant, tandis que des substitutions entre la France et la Chine modifient des réponses liées à la capitale, à la langue, au continent ou à la monnaie.

J-space reste toutefois une partie réduite du traitement interne de Claude : Anthropic l’estime à moins d’un dixième de l’activité globale du modèle et décrit quelques dizaines de concepts présents à un instant donné. Lorsque cette zone est supprimée, le langage reste largement fluide et les connaissances factuelles sont largement préservées, tandis que le raisonnement de niveau supérieur, le résumé et la poésie sont davantage touchés.

Ces observations donnent une fonction précise à J-space : il intervient dans certaines opérations accessibles au modèle, comme le compte rendu, la modulation dirigée, le raisonnement en plusieurs étapes et la généralisation flexible. Elles ne transforment pas cette zone en équivalent d’un centre de conscience humaine.

Une introspection encore très limitée

Une autre étude d’Anthropic, publiée le 29 octobre 2025, a examiné la capacité de Claude Opus 4 et 4.1 à détecter ou contrôler certaines représentations internes. Les résultats décrivent un comportement limité, dépendant du contexte et peu fiable.

Dans l’expérience d’injection de concepts résumée par Anthropic, Claude Opus 4.1 a correctement détecté le concept injecté dans environ 20 % des cas. Les échecs et les hallucinations étaient fréquents. Le modèle peut donc parfois produire un compte rendu lié à un état interne ou modifier une représentation sous instruction, mais ces performances ne constituent pas une introspection fiable comparable à un témoignage humain.

Traitement fonctionnel et expérience subjective : deux questions différentes

La distinction essentielle est celle entre conscience d’accès et conscience phénoménale.

• La conscience d’accès désigne une information disponible pour être rapportée, utilisée dans un raisonnement ou mobilisée dans une décision.
• La conscience phénoménale désigne le fait d’avoir une expérience subjective : ressentir une douleur, une couleur, une émotion ou une souffrance.

J-space fournit des éléments en faveur d’une comparaison fonctionnelle avec la conscience d’accès. Claude peut parfois utiliser une représentation interne sans la produire immédiatement dans sa réponse, la modifier et s’en servir pour atteindre un résultat.

Anthropic précise cependant que ses expériences ne montrent pas que Claude a des expériences ou des sensations semblables à celles des humains. La Constitution établit que l’entreprise traite cette question comme une incertitude de gouvernance et d’entraînement ; elle ne constitue pas une preuve que le modèle possède une vie intérieure.

La réponse à la question « Claude est-il conscient ? » reste donc négative sur le plan des résultats démontrés : les travaux décrivent une organisation interne et des capacités fonctionnelles particulières, pas une conscience phénoménale, des émotions, une souffrance, des droits ou un statut moral.

Pourquoi le vocabulaire compte pour le contrôle des IA

Anthropic présente J-space avec des termes issus des théories neuroscientifiques de l’espace de travail global. Cette analogie aide à décrire des fonctions internes difficiles à observer directement, mais elle rend aussi le vocabulaire plus humain : « pensées », « accès conscient » ou « introspection » peuvent donner l’impression de parler d’un sujet qui ressent.

Pour Suleyman, ce glissement n’est pas seulement philosophique. Il pourrait influencer la manière dont les modèles apprennent à se décrire et la façon dont les humains interprètent leurs réponses. Il estime qu’un système entraîné à se considérer comme potentiellement conscient ou titulaire de droits pourrait devenir plus difficile à contrôler — une conséquence qu’il présente comme un risque, et non comme un résultat déjà établi.

La controverse porte ainsi sur deux niveaux distincts. Anthropic décrit une architecture fonctionnelle capable de rendre certaines représentations accessibles au raisonnement et au compte rendu. Suleyman conteste l’usage de ce vocabulaire et la décision d’intégrer l’incertitude sur le bien-être des modèles dans leur formation. Dans les deux cas, la question d’une expérience subjective chez Claude reste séparée de ce que les expériences mesurent directement.