Dans un essai daté du 10 octobre 2026, Satya Nadella propose qu’une personne autorisée puisse mettre un modèle d’IA en pause ou l’arrêter au milieu d’une tâche. Les permissions et les contrôles sur ses actions seraient placés hors du modèle. Nadella présente cette mesure comme une recommandation de sécurité, pas comme une fonctionnalité déployée par Microsoft.
Ce que ferait le frein d’urgence
L’idée est de pouvoir interrompre un modèle pendant qu’il travaille, plutôt que de lui laisser la maîtrise de ses propres limites. Pour Nadella, la capacité d’un modèle et l’autorité de décider ce qu’il peut consulter ou faire doivent rester séparées.
Cette séparation concerne aussi le harness, c’est-à-dire le système qui orchestre le modèle, et l’espace d’action qui définit les opérations auxquelles il a accès. La personne autorisée pourrait donc interrompre la tâche, tandis que les permissions et les garde-fous seraient gérés à l’extérieur du modèle.
Des contrôles externes, des traces et des tests
Le frein n’est qu’un élément de la recommandation. Nadella préconise aussi des journaux d’activité lisibles par des humains et protégés contre les modifications. Les organisations devraient pouvoir reconstituer les actions importantes sans demander au modèle de certifier lui-même ce qu’il a fait.
Il recommande également une validation indépendante et des tests continus portant sur les défaillances, les attaques, les cas limites et les changements apportés au système. L’objectif est d’évaluer l’ensemble du dispositif, pas seulement le modèle. Nadella évoque aussi la diversité des modèles et la divulgation rapide des incidents aux personnes concernées.
La transparence de la chaîne de pensée — le raisonnement présenté par un modèle — peut servir de point de départ, mais ne suffit pas à garantir un comportement fiable. Nadella estime que les réponses des modèles ne sont pas systématiquement fidèles ni transparentes.
Un principe de précaution, pas une accusation
Traiter les modèles les plus avancés, à poids ouverts comme fermés, comme des risques internes ne signifie pas leur attribuer une intention malveillante. Nadella fonde cette précaution sur la possibilité qu’un système capable commette une erreur ou soit compromis. Son essai ne désigne aucun modèle comme compromis.
La responsabilité reste, selon lui, celle des organisations qui déploient ces systèmes : elles ne peuvent pas la déléguer au fournisseur du modèle. La proposition repose ainsi sur des limites fixées à l’extérieur de l’IA et sur la capacité humaine à intervenir en cours de tâche.
NeoTeo a également consacré un article à un autre texte de Microsoft, le projet de code de conduite pour ses modèles MAI, dans cette publication antérieure.
