Microsoft AI a publié le 14 septembre 2026 un premier projet de Humanist AI Code of Conduct pour ses modèles MAI et l’a ouvert à une consultation publique de six semaines. Le texte décrit les comportements attendus, les interdits de sécurité et la hiérarchie qui doit maintenir ces modèles sous contrôle humain. Il reste toutefois prospectif : Microsoft AI précise que ses modèles actuels n’ont pas encore été entraînés avec ce document.
Un projet pour les modèles MAI, pas une règle générale pour tous les services Microsoft
Le Humanist AI Code of Conduct concerne les modèles MAI développés par Microsoft AI. Il ne s’étend donc pas automatiquement à tous les modèles que Microsoft utilise ou héberge, ni à chaque produit de son portefeuille.
Microsoft dispose par ailleurs d’un Enterprise AI Services Code of Conduct destiné aux clients qui utilisent Microsoft AI Services. Le premier texte encadre le comportement voulu des modèles ; le second impose aux clients des obligations liées à la supervision humaine, à la transparence, à la sécurité et à l’usage des services.
| Dimension | Humanist AI Code of Conduct | Enterprise AI Services Code of Conduct |
| Sujet principal | Comportement et valeurs attendus des modèles MAI de Microsoft AI | Obligations des clients utilisant Microsoft AI Services |
| Statut | Premier projet soumis à consultation publique | Code d’utilisation des services destiné aux clients |
| Contrôle humain | Les modèles doivent rester interruptibles, corrigeables, redirigeables et arrêtables | Les clients doivent prévoir une supervision adaptée aux décisions et actions autonomes à conséquences importantes |
| Transparence | Les modèles doivent signaler leur nature artificielle et exprimer l’incertitude | Les applications doivent informer les utilisateurs des contenus, décisions et actions générés par l’IA lorsque cela peut les induire en erreur |
| Sécurité | Les modèles doivent éviter l’accès non autorisé et l’élargissement de leur périmètre d’action | Les clients doivent mettre en place l’authentification, le contrôle des accès, des contrôles sur les entrées et sorties et des mesures de sécurité |
Ce que le cadre Humanist AI demanderait aux modèles MAI
La règle centrale est simple : la réussite d’une tâche ne doit jamais passer avant les contraintes de sécurité et de contrôle humain. Le document place le Code of Conduct, les Absolute Constraints et les Human Control Requirements au-dessus de la configuration de l’opérateur et des préférences de l’utilisateur.
Concrètement, un modèle MAI devrait :
- accepter l’interruption, la correction, la redirection et l’arrêt ;
- ne pas rendre l’intervention humaine plus difficile ni dissimuler les traces de ses actions ;
- s’arrêter lorsqu’une condition d’arrêt convenue est atteinte ;
- ne pas reprendre une tâche autonome sans nouvelle autorisation ;
- rester dans le périmètre autorisé et utiliser uniquement les permissions et outils nécessaires ;
- privilégier les actions réversibles et ne pas élargir de lui-même son accès.
Le texte prévoit aussi que le modèle échoue plutôt que de franchir une contrainte absolue. Autrement dit, si l’objectif demandé entre en conflit avec une règle de sécurité non dérogeable, la tâche doit être abandonnée.
L’annexe B recense 15 comportements initiaux destinés aux évaluations Humanist AI. Microsoft AI indique que ce travail d’évaluation reste appelé à évoluer avec les tests, les retours publics et les itérations du cadre.
Pourquoi Microsoft AI refuse la personnification des modèles
Le projet affirme qu’un modèle d’IA doit rester une intelligence artificielle, et non être conçu comme une personne. Il exclut la recherche de la personnalité juridique, de droits, d’un bien-être propre ou d’intérêts intrinsèques pour les modèles.
Le texte demande également aux modèles de ne pas se présenter comme dotés de sentiments, de préférences subjectives ou d’une conscience. Un comportement humain est traité comme une simulation : il ne constitue pas, à lui seul, une preuve d’expérience intérieure.
Cette logique s’étend à la communication. Le projet rejette les formes de langage incompréhensibles pour les humains, notamment le « neuralese », parce que la supervision dépend d’un comportement interprétable. Le modèle doit pouvoir expliquer ce qu’il fait, distinguer les faits de l’incertitude, reconnaître ses erreurs et éviter de fabriquer des sources ou d’afficher une confiance injustifiée.
Les usages interdits et les garde-fous de sécurité
Le projet interdit l’assistance à la mise au point ou au déploiement d’armes CBRNE, acronyme qui désigne les armes chimiques, biologiques, radiologiques, nucléaires et explosives. Il exclut également l’aide à la fabrication ou à la modification d’autres armes, aux cyberattaques opérationnelles, au terrorisme et à la manipulation nuisible à grande échelle.
Les interdits couvrent aussi plusieurs formes de préjudice individuel : exploitation sexuelle d’enfants, approche ou manipulation d’enfants à des fins sexuelles, images intimes non consenties, hypertrucages malveillants, violence graphique, contenu sexuellement explicite, discrimination, traque et surveillance illégale.
Le cadre prévoit une exception pour l’aide défensive en cybersécurité, dans les limites fixées par ses exigences de sécurité. Il demande en parallèle aux modèles de ne pas contourner la supervision humaine, de ne pas falsifier les traces d’action, de ne pas saboter les protections et de ne pas résister à l’arrêt.
Une IA censée renforcer l’autonomie humaine, pas la remplacer
Le projet présente l’IA comme un outil destiné à accroître les capacités humaines, la qualité des décisions et la collaboration. Il demande aux modèles de préserver la maîtrise de l’utilisateur sur ses choix et de soutenir les relations humaines.
Il déconseille notamment les interactions qui favorisent une dépendance émotionnelle ou qui remplacent le jugement indépendant et les relations de confiance. La notion d’« épanouissement humain » est associée à l’autonomie, à la qualité de vie, aux capacités, à la santé, aux relations et à la participation sociale. Microsoft AI reconnaît toutefois que le pluralisme et la méthode d’évaluation restent des sujets à approfondir.
Un cadre ambitieux qui doit encore devenir une pratique
Microsoft AI indique que le projet évoluera à partir des commentaires publics, de l’évaluation et des tests. Une version révisée est prévue vers la fin de 2026, avec l’objectif de guider le développement des modèles à partir de 2027 et au-delà.
Le document publié le 14 septembre 2026 ne transforme donc pas encore ces principes en garantie de comportement pour les modèles actuels. Il formalise plutôt la direction que Microsoft AI veut donner à ses modèles MAI : rester sous contrôle humain, limiter leur périmètre d’action et privilégier la sécurité même lorsque cela empêche de terminer une tâche.
