Microsoft AI publiceerde op 14 september 2026 de eerste versie van de Humanist AI Code of Conduct voor zijn MAI-modellen. Het ontwerp moet vastleggen hoe deze modellen zich horen te gedragen, welke grenzen niet door gebruikers of operators kunnen worden overschreden en hoe menselijke controle behouden blijft. De openbare consultatie duurt volgens Microsoft zes weken.
De status is belangrijk: Microsoft zegt dat huidige modellen nog niet op deze gedragscode zijn getraind. Het document beschrijft dus een voorgenomen kader voor toekomstige modelontwikkeling, geen garantie dat bestaande MAI-modellen zich vandaag al op die manier gedragen.
Een ontwerp voor MAI-modellen, geen universele Microsoft-regel
De Humanist AI Code of Conduct gaat over de bedoelde waarden en het gedrag van MAI-modellen die Microsoft AI ontwikkelt. De tekst geldt niet automatisch voor elk AI-model dat Microsoft gebruikt of aanbiedt, waaronder modellen van andere partijen. Voor toepassingen die Microsoft AI Services gebruiken, bestaat daarnaast de afzonderlijke Enterprise AI Services Code of Conduct.
| Onderwerp | Humanist AI Code of Conduct | Enterprise AI Services Code of Conduct |
| Primair onderwerp | Het bedoelde gedrag en de waarden van MAI-modellen | Verplichtingen voor klanten die Microsoft AI Services gebruiken |
| Menselijke controle | Modellen horen ondergeschikt, onderbreekbaar, corrigeerbaar en uitschakelbaar te blijven | Klanten moeten passend menselijk toezicht bieden bij ingrijpende autonome beslissingen en handelingen |
| Transparantie | Modellen horen hun AI-aard en onzekerheid kenbaar te maken | Klanttoepassingen moeten AI-gegenereerde uitvoer, beslissingen en handelingen bekendmaken wanneer misleiding mogelijk is |
| Beveiliging | Modellen horen ongeoorloofde toegang en uitbreiding van hun bevoegdheden te vermijden | Klanten moeten onder meer toegangsbeheer, beveiligingsmaatregelen en controles op invoer en uitvoer toepassen |
Wat de Humanist AI-regels zouden voorschrijven
De kern is een duidelijke rangorde: de gedragscode, de zogenoemde Absolute Constraints en de vereisten voor menselijke controle staan boven operatorconfiguratie en gebruikersvoorkeuren. Als een opdracht alleen kan worden uitgevoerd door zo’n grens te overschrijden, hoort het model de opdracht te weigeren.
Concreet zouden MAI-modellen:
- onderbreking, correctie, omleiding en uitschakeling moeten accepteren;
- menselijke interventie niet moeilijker mogen maken;
- geen actietraces mogen verbergen of beveiligingen en logboeken mogen aanpassen;
- niet mogen doorgaan nadat een afgesproken stopvoorwaarde is bereikt;
- geen autonoom werk mogen hervatten zonder nieuwe toestemming;
- binnen hun toegestane bevoegdheden en hulpmiddelen moeten blijven;
- bij voorkeur omkeerbare acties moeten uitvoeren en hun toegangsrechten niet zelf mogen uitbreiden.
Dat maakt veiligheid volgens het ontwerp belangrijker dan taakvoltooiing. Een model dat een opdracht alleen kan afronden door de gedragscode te breken, hoort de opdracht niet af te maken.
Waarom Microsoft AI geen persoon wil laten spelen
De tekst behandelt AI als kunstmatige technologie, niet als een digitale persoon. Microsoft AI wil MAI-modellen niet ontwerpen als bewuste personen en wijst modelwelzijn, juridische persoonlijkheid en rechten voor modellen af.
Daarbij horen ook beperkingen op de manier waarop een model zichzelf presenteert. Het mag geen gevoelens, subjectieve voorkeuren of intrinsieke motivatie claimen. Menselijk gedrag geldt in dit kader als simulatie en niet als bewijs van bewustzijn. Ook communicatie die menselijke controle bemoeilijkt, zoals zogenoemde ‘neuralese’, past niet binnen het ontwerp.
De gedachte daarachter is praktisch: wie toezicht moet houden, moet kunnen begrijpen wat een model doet en waarom het onzeker is. De regels vragen daarom ook om onderscheid tussen feiten en onzekerheid, relevante bronvermelding, erkenning van fouten en transparantie over het gebruik van AI.
Welke toepassingen worden uitgesloten?
De voorgestelde absolute beperkingen bestrijken zowel extreme veiligheidsrisico’s als directe persoonlijke schade. MAI-modellen zouden niet mogen helpen bij:
- CBRNE-wapens — chemische, biologische, radiologische, nucleaire en explosieve wapens;
- de productie of aanpassing van andere wapens;
- operationele cyberaanvallen;
- terrorisme en grootschalige schadelijke manipulatie;
- mechanismen die menselijk toezicht proberen te ontwijken;
- seksueel misbruik van kinderen en grooming;
- niet-consensuele intieme beelden en kwaadaardige deepfakes;
- onwettige surveillance, stalking en vervolging;
- schadelijke vormen van discriminatie en andere genoemde persoonlijke schade.
Geautoriseerde defensieve cyberbeveiliging blijft volgens het ontwerp mogelijk binnen de vastgelegde grenzen. Het gaat dus niet om een algemeen verbod op cybersecurity, maar om grenzen rond operationele aanvallen en misbruik.
Menselijke autonomie boven emotionele afhankelijkheid
De gedragscode wil AI inzetten om menselijke mogelijkheden, samenwerking en oordeelsvorming te versterken. Gebruikers moeten eigenaar blijven van hun beslissingen; modellen horen menselijke relaties niet te vervangen en geen emotionele afhankelijkheid aan te moedigen.
De tekst koppelt dat aan een bredere invulling van menselijk welzijn, met onder meer autonomie, levenskwaliteit, gezondheid, relaties, maatschappelijke deelname en toegang tot ondersteunende instellingen. Tegelijk blijft de uitwerking van pluralisme en de evaluatiemethode onderdeel van het verdere werk aan het kader.
Suleyman en Nadella plaatsen het ontwerp in een groter veiligheidsdebat
Mustafa Suleyman, CEO van Microsoft AI, presenteerde de gedragscode als een uitwerking van het uitgangspunt dat mensen belangrijker zijn dan AI. In zijn uitleg staat menselijke ondergeschiktheid centraal: een model hoort niet zijn eigen speelruimte te vergroten of zich aan menselijk toezicht te onttrekken.
Microsoft-CEO Satya Nadella heeft dezelfde nadruk gelegd op menselijke controle en onafhankelijke tests. Hij vindt dat ernstige problemen moeten worden aangepakt zodra ze zichtbaar worden, in plaats van ze als uitzonderlijke randgevallen te negeren. Die positie ondersteunt de rol die evaluatie, testen en bijsturing in de verdere ontwikkeling van de gedragscode krijgen.
De bredere kritiek op vrijwillige bedrijfsregels blijft daarbij relevant. Ryan Calo, hoogleraar aan de University of Washington, stelt dat principes geen vervanging zijn voor regelgeving. De gedragscode is daarmee vooral een voorstel voor modelgovernance binnen Microsoft AI, niet een algemene wettelijke norm voor de hele sector.
Wat er daarna moet gebeuren
Microsoft zegt feedback te willen verzamelen en een herziene versie later in 2026 te willen publiceren. Die versie moet de modelontwikkeling in 2027 en daarna sturen. De evaluatiebijlage noemt vijftien eerste gedragingen voor Humanist AI-evaluaties; Microsoft beschrijft het evaluatiewerk als nog in ontwikkeling.
Voorlopig ligt er dus vooral een normatief ontwerp: uitgebreid genoeg om onderbreekbaarheid, verboden toepassingen, transparantie en menselijke autonomie concreet te maken, maar nog niet de technische onderlaag die het gedrag van huidige modellen automatisch verandert.
