Satya Nadella zei op 13 september 2026 dat elke poging om superintelligentie te ontwikkelen de mensheid moet helpen en onder menselijke controle moet blijven. De bestuursvoorzitter en CEO van Microsoft koppelde dat uitgangspunt aan een zorgvuldig ontwikkelingstempo, ingebedde evaluatoren en bredere zeggenschap over de richting van geavanceerde AI. Een publieke consultatie over een gedragscode voor eigen MAI-modellen was voor 14 september 2026 aangekondigd.
Nadella’s voorwaarde voor superintelligentie
De kern van Nadella’s standpunt is eenvoudig: krachtige AI is volgens hem alleen de moeite waard als mensen verantwoordelijk blijven en de controle houden. Dat is een beleidsprincipe, geen aankondiging van een nieuw technisch controlesysteem.
Met die voorwaarde verbindt Nadella twee doelen die in het AI-debat vaak tegenover elkaar worden gezet: AI moet zich verder kunnen ontwikkelen én de voordelen moeten breed worden verspreid. Zijn positie is daarom geen oproep tot een onvoorwaardelijke pauze, maar ook geen pleidooi voor onbeperkte versnelling.
Zorgvuldig tempo en ingebedde evaluatoren
Nadella steunt een zorgvuldig ontwikkelingstempo om alignment — het afstemmen van het gedrag van een AI-systeem op menselijke doelen en grenzen — beter te organiseren. Daarnaast verwelkomt hij het idee van ingebedde evaluatoren: mensen of beoordelaars die tijdens de ontwikkeling toegang hebben tot de omgeving waarin AI-systemen worden gebouwd en getest.
De praktische invulling daarvan blijft beperkt tot het voorstel zelf. Voor Microsoft is niet uitgewerkt hoe onafhankelijk zulke evaluatoren zouden zijn, welke informatie zij mogen inzien, aan wie zij rapporteren of welke bevoegdheden zij krijgen. Het begrip beschrijft dus een voorgesteld toezichtmechanisme, geen operationeel Microsoft-programma.
Voor organisaties is dat onderscheid belangrijk. Een menselijke goedkeuring heeft pas betekenis wanneer de beoordelaar begrijpt welke actie een systeem wil uitvoeren en die actie kan tegenhouden. Een logboek met goedkeuringen alleen maakt een AI-systeem nog niet bestuurbaar.
Brede toegang en controle door organisaties
Nadella wil voorkomen dat geavanceerde AI door een handvol partijen wordt beheerd. Hij pleit voor deelname van verschillende landen, vakgebieden en de academische wereld. Ook ziet hij ruimte voor zowel gesloten als open-source modellen.
Een tweede pijler is organisatorische controle. Volgens Nadella zouden organisaties hun eigen kennis, continue leerlussen en modelgewichten moeten kunnen beheren, zodat ze niet volledig afhankelijk worden van één modelleverancier. Dat is een pleidooi voor keuze en zeggenschap in de AI-infrastructuur — niet het bewijs dat iedere organisatie die controle al technisch of contractueel heeft.
| Beleidsdimensie | Standpunt van Microsoft | Praktische betekenis |
| Menselijke controle | Geavanceerde AI moet de mensheid helpen en onder menselijke controle blijven. | Mensen blijven verantwoordelijk voor het gebruik en de gevolgen van AI-systemen. |
| Ontwikkelingstempo | Alignment moet met een zorgvuldig tempo worden aangepakt. | Nadella kiest voor gerichte voorzichtigheid, niet voor een algemeen verbod op AI-ontwikkeling. |
| Evaluatie | Ingebedde evaluatoren moeten AI-systemen tijdens de ontwikkeling beoordelen. | Toezicht hoort dichter bij het ontwikkelproces te zitten; hun onafhankelijkheid en bevoegdheden zijn niet ingevuld. |
| Bestuur | Landen, vakgebieden en de academische wereld moeten kunnen deelnemen. | AI-governance zou niet uitsluitend door een kleine groep bedrijven worden bepaald. |
| Modelkeuze | Zowel gesloten als open-source modellen moeten kunnen floreren. | Organisaties krijgen volgens deze visie meer keuze tussen modellen en aanbieders. |
| Organisatorische controle | Organisaties moeten hun kennis, leerlussen en modelgewichten zelf kunnen beheren. | Bedrijven zouden minder afhankelijk moeten zijn van één modelleverancier. |
Microsofts bestaande kader voor verantwoorde AI
Microsoft heeft al een formeel kader voor verantwoorde AI. Dat omvat zes principes: eerlijkheid, betrouwbaarheid en veiligheid, privacy en beveiliging, inclusiviteit, transparantie en verantwoordingsplicht. Vooral dat laatste principe sluit direct aan op menselijke controle: mensen moeten verantwoordelijk blijven voor AI-systemen en toezicht kunnen houden op hun werking.
Microsoft noemt daarnaast hulpmiddelen voor effectbeoordelingen, mens-AI-ontwerp, red teaming — gecontroleerde aanvallen op een systeem om zwakke plekken te vinden — en evaluatie- en governanceprocessen. Die bestaande instrumenten geven concreet vorm aan het bredere verantwoordelijke-AI-kader, maar maken de nieuw voorgestelde evaluatoren niet automatisch tot een ingevoerde regeling.
Microsoft AI beschrijft in zijn concept Humanist Superintelligence een andere route dan een onbeperkt autonome machine. Het gaat om AI die op concrete domeinen is gericht, begrensd blijft en controleerbaar moet zijn. Ook hier staat menselijk nut centraal. Het concept is een visie op de gewenste ontwikkeling van geavanceerde AI, geen bewijs dat zo’n systeem als universele technologie bestaat.
De MAI-gedragscode als aangekondigde volgende stap
Microsoft kondigde aan dat het op 14 september 2026 een gedragscode voor zijn eigen MAI-modellen voor publieke consultatie zou publiceren. Die stap past bij Nadella’s oproep om menselijke controle niet alleen als principe te formuleren, maar ook te vertalen naar regels voor modelontwikkeling.
