Le 13 septembre 2026, Satya Nadella a posé une condition claire à la poursuite de la superintelligence : l’IA doit aider l’humanité et rester sous contrôle humain. Le PDG de Microsoft associe cette ligne à un développement plus mesuré, à des évaluateurs intégrés dans les environnements de travail sur l’IA et à une gouvernance qui ne serait pas concentrée entre les mains de quelques acteurs.
La condition de Nadella pour la superintelligence
Pour Satya Nadella, le contrôle humain n’est pas un simple garde-fou ajouté à la fin du développement. Il doit faire partie de l’objectif de conception des systèmes avancés. Dans cette vision, les personnes restent responsables des systèmes d’IA et doivent pouvoir les superviser.
Cette position s’inscrit dans une ambition qui n’est pas celle d’un arrêt général de l’intelligence artificielle. Nadella défend plutôt un rythme délibéré : progresser assez prudemment pour améliorer l’alignement entre le comportement des modèles et les objectifs humains, tout en diffusant largement les bénéfices de l’IA.
Rythme délibéré et évaluateurs intégrés
Un évaluateur intégré serait placé au sein d’un environnement de développement de l’IA, avec un accès continu permettant d’examiner les mesures de sécurité et leur application. L’idée est de transformer des principes généraux — comme la sécurité ou la responsabilité — en mécanismes de supervision concrets.
Le terme ne décrit toutefois pas, à lui seul, une organisation précise. Il ne dit pas qui nomme ces évaluateurs, à quelles informations ils ont accès, à qui ils rendent compte ni quelle décision ils peuvent prendre face à un système problématique. Ces paramètres seront déterminants : un contrôle utile doit pouvoir comprendre l’action proposée et intervenir avant son exécution, pas seulement conserver une trace après coup.
Microsoft ne demande donc pas un moratoire inconditionnel. La position défendue par Nadella combine un rythme plus mesuré, un travail d’alignement et la poursuite des bénéfices de l’IA. La nuance est importante : ralentir certaines étapes pour mieux les encadrer n’équivaut pas à suspendre tout développement.
Une gouvernance qui ne serait pas réservée à quelques acteurs
Nadella défend aussi une participation plus large à la gouvernance de l’IA avancée. Il cite les pays, les disciplines et le monde universitaire, avec l’idée que les décisions ne devraient pas être contrôlées par un petit groupe d’entreprises ou d’organisations.
Sa position comprend trois autres éléments :
- les modèles propriétaires et les modèles open source doivent pouvoir coexister ;
- les entreprises doivent conserver la maîtrise de leurs connaissances et de leurs boucles d’apprentissage continues ;
- elles doivent pouvoir contrôler les poids des modèles qu’elles utilisent, plutôt que dépendre entièrement d’un seul fournisseur.
Ici encore, il s’agit d’une orientation politique et industrielle, pas de la description d’une nouvelle instance de gouvernance déjà opérationnelle.
| Dimension | Position déclarée par Microsoft | Conséquence pratique |
| Contrôle humain | L’IA avancée doit aider l’humanité et rester sous contrôle humain. | Les personnes doivent conserver la responsabilité et la supervision des systèmes. |
| Rythme de développement | Satya Nadella défend un rythme délibéré pour mieux travailler l’alignement. | La position ne correspond ni à un moratoire général ni à une accélération sans garde-fous. |
| Évaluation | Nadella soutient l’idée d’évaluateurs intégrés aux environnements de développement. | La supervision doit intervenir pendant la conception, avec des règles d’accès et d’autorité clairement définies. |
| Gouvernance | Les pays, les disciplines et le monde universitaire doivent participer aux décisions. | La gouvernance de l’IA ne devrait pas dépendre d’un groupe restreint d’acteurs. |
| Modèles et entreprises | Les modèles ouverts et fermés doivent coexister, tandis que les entreprises gardent le contrôle de leurs connaissances et de leurs poids. | Les organisations cherchent à réduire leur dépendance à un fournisseur unique. |
Le cadre de Microsoft pour une IA responsable
Microsoft dispose déjà d’un cadre de responsabilité autour de six principes : équité, fiabilité et sécurité, confidentialité et sécurité, inclusivité, transparence et responsabilité. Ce dernier principe relie directement l’IA à la supervision humaine : des personnes doivent rester responsables des systèmes et de leurs effets.
L’entreprise présente également des outils consacrés aux évaluations d’impact, à la conception des interactions entre humains et IA, au red teaming — des tests destinés à faire ressortir des comportements indésirables — ainsi qu’à l’évaluation et à la gouvernance.
Microsoft AI a par ailleurs décrit une vision baptisée Humanist Superintelligence. Elle privilégie une IA orientée vers des domaines précis, limitée et contrôlable, plutôt qu’une entité autonome sans frontières clairement définies. Cette vision donne un contexte aux propos de Nadella : la puissance du système ne devrait pas supprimer les limites qui permettent aux humains de le diriger.
Le code de conduite MAI reste une étape annoncée
Microsoft avait prévu de publier le 14 septembre 2026 un code de conduite destiné à ses propres modèles MAI, afin de le soumettre à une consultation publique. Cette annonce place le document au cœur de la prochaine étape de la politique de l’entreprise.
