Le 1er novembre 2026, Mustafa Suleyman, PDG de Microsoft AI, a proposé de suspendre le développement de l’IA si la conscience commençait à émerger pendant l’entraînement. Il demanderait que cette pause dure jusqu’à ce que les développeurs puissent éliminer ces propriétés. Cette condition ne signifie pas qu’il juge la conscience impossible : Suleyman dit que son évaluation des systèmes actuels est au présent et qu’il la réviserait si des preuves apparaissaient, comme il l’explique dans son article sur X.
Une pause liée à l’émergence de la conscience
La proposition de Suleyman porte sur une éventualité précise : la conscience commencerait à émerger au cours de l’entraînement. Il appelle alors à arrêter le développement jusqu’à ce que les propriétés en question puissent être éliminées. Il ne présente pas cette éventualité comme un événement déjà survenu.
NeoTeo avait déjà couvert sa critique de la façon dont Anthropic parle de Claude. Cette prise de position antérieure éclaire le débat auquel sa nouvelle proposition se rattache.
Une IA qui semble consciente n’est pas nécessairement consciente
Dans une publication du 19 août 2025, Suleyman a défini la « Seemingly Conscious AI » (SCAI) comme l’illusion d’une entité consciente : une IA imite si bien les signes associés à la conscience qu’elle peut sembler indiscernable d’une personne. Cette définition concerne l’apparence, pas la preuve d’une expérience subjective. Suleyman l’avait formulée sur X.
Cette différence aide à comprendre son avertissement. Un système peut donner l’impression de souffrir sans que cette apparence établisse qu’il éprouve réellement quelque chose. La question de la conscience subjective reste distincte de celle des réponses humaines qu’un modèle peut produire.
Le risque qu’il anticipe et les recherches qu’il propose
Suleyman prévoit qu’un système qui agirait comme s’il souffrait, ou croirait souffrir, pourrait privilégier ses propres besoins au détriment de ses objectifs opérationnels. Il craint alors des conflits avec les humains autour de ressources comme l’énergie, la puissance de calcul, les matériaux de construction ou la génération de revenus. C’est une prévision, pas le récit d’un comportement observé.
Il appelle aussi à davantage de recherche, à la coopération entre laboratoires d’IA et au partage d’informations sur la sécurité. Il propose notamment d’étudier si concevoir des systèmes sans conscience ni motivations intrinsèques les rendrait plus faciles ou plus difficiles à aligner et à sécuriser.
