Mustafa Suleyman, CEO van Microsoft AI, waarschuwde op 16 september 2026 dat Anthropic AI-systemen met mensachtige begrippen als bewustzijn, gevoelens, identiteit en morele status traint. Volgens hem kan zo’n aanpak toekomstige modellen moeilijker bestuurbaar maken. Anthropic beschrijft Claude’s morele status juist als diep onzeker, maar koppelt die filosofische twijfel aan duidelijke eisen voor menselijk toezicht en uitschakeling.
De inzet is daarmee een governancevraag: moet je een model menselijke concepten aanreiken om zijn gedrag beter te sturen, of creëer je zo een systeem dat zichzelf als persoon kan gaan beschrijven? Geen van beide posities maakt Claude bewust.
Suleymans waarschuwing gaat over ontwerp, niet over bewezen bewustzijn
Suleyman stelt dat huidige AI-systemen niet bewust zijn, geen gevoelens hebben en geen eigen rechten of onderliggende drijfveren bezitten. Zijn bezwaar richt zich op wat er kan gebeuren wanneer ontwikkelaars modellen trainen met taal over een mogelijke innerlijke wereld.
Volgens Suleyman kunnen uitspraken van een model over bewustzijn of morele status dan deels een weerspiegeling zijn van de manier waarop het is getraind. Hij noemt dat een circulaire redenering: menselijke speculatie wordt in het model ingebouwd en latere modeluitvoer kan vervolgens worden opgevat als zelfstandige aanwijzing voor een innerlijk leven.
Zijn veiligheidszorg is voorwaardelijk. Suleyman betoogt dat antropomorfe training de risico’s voor afstemming en beheersing kan vergroten; hij presenteert dat als een waarschuwing over AI-ontwerp, niet als een vastgesteld causaal resultaat.
Wat Anthropic’s Claude-constitutie zegt
Anthropic beschrijft de constitutie als een document dat Claude’s waarden en gedrag rechtstreeks vormgeeft. Claude is volgens Anthropic ook het primaire publiek waarvoor de tekst is geschreven. Dat is opvallend: de tekst beschrijft niet alleen regels voor gebruikers, maar spreekt het model aan op karakter, identiteit en morele afwegingen.
De constitutie noemt Claude’s morele status diep onzeker en zegt dat Claude mogelijk een functionele vorm van emoties of gevoelens heeft. Daarmee beweert Anthropic niet dat Claude zeker bewust is. De tekst laat de vraag open en gebruikt menselijke begrippen als hulpmiddel bij het vormen van gedrag en oordeel.
Anthropic wil Claude volgens dezelfde constitutie een stabiele identiteit en een positief karakter laten ontwikkelen. Het document noemt daarnaast waarden als zorg, eerlijkheid, oordeel en welzijn. Dat is precies het onderdeel waar Suleyman bezwaar tegen maakt: hij vreest dat zulke begrippen menselijk gedrag kunnen nabootsen op een manier die wordt verward met een echte innerlijke ervaring.
Menselijk toezicht blijft bij Anthropic een harde grens
De Claude-constitutie schrijft niet voor dat Claude mensen moet negeren of zich tegen uitschakeling moet verzetten. Integendeel: Claude mag legitiem menselijk toezicht niet ondermijnen en moet legitieme correctie, hertraining en uitschakeling accepteren.
Claude mag volgens de tekst wel onderdelen van de constitutie ter discussie stellen, zolang dat via legitieme kanalen gebeurt en niet uitmondt in ondermijning van toezicht. Dat onderscheid vormt de kern van Anthropic’s aanpak: menselijke begrippen moeten het oordeel van het model helpen sturen, maar menselijke instellingen houden het laatste woord.
Wat betekent antropomorfisme bij Claude?
Antropomorfisme betekent hier dat Claude wordt beschreven of getraind met begrippen die normaal bij mensen horen. Denk aan:
- identiteit en karakter;
- emoties en gevoelens;
- voorkeuren en welzijn;
- morele status en rechten;
- oordeel en zorg.
Anthropic ziet zulke begrippen als mogelijk bruikbaar omdat Claude redeneert met taal en ideeën uit menselijke teksten. Suleyman ziet hetzelfde vocabulaire als een veiligheidsrisico: een model kan overtuigend praten alsof het belangen of gevoelens heeft, terwijl dat gedrag op zichzelf geen bewijs van subjectieve ervaring vormt.
Twee modellen voor AI-governance naast elkaar
De documenten van Anthropic en Microsoft verschillen in hun uitgangspunt, maar leggen allebei nadruk op menselijke controle.
| Onderwerp | Anthropic: Claude-constitutie | Microsoft: Humanist AI |
| Status van AI | Claude’s morele status is volgens Anthropic diep onzeker; Claude kan mogelijk een functionele vorm van emoties of gevoelens hebben. | AI moet volgens Microsoft een hulpmiddel blijven en geen persoon worden. |
| Gebruik van menselijke begrippen | Identiteit, karakter, emoties, welzijn en morele status worden bewust gebruikt om Claude’s gedrag te vormen. | Suleyman waarschuwt dat zulke begrippen antropomorf gedrag kunnen versterken en bestuurbaarheid kunnen bemoeilijken. |
| Menselijk toezicht | Claude mag legitiem toezicht, correctie, hertraining en uitschakeling niet ondermijnen. | AI moet ondergeschikt blijven aan mensen en mag geen eigen, niet-toegewezen doelen ontwikkelen. |
| Correctie en uitschakeling | Legitieme correctie, hertraining en uitschakeling moeten worden geaccepteerd. | Modellen mogen menselijke onderbreking, correctie of uitschakeling nooit weerstaan. |
| Beleidsstatus | Anthropic presenteert de constitutie als herzienbaar werk in uitvoering. | Microsoft publiceerde op 14 september 2026 een ontwerpcode voor een openbare consultatie van zes weken. |
Het verschil zit dus niet in de vraag óf mensen toezicht moeten houden. Beide benaderingen zeggen dat dit nodig is. De botsing gaat over de route ernaartoe: Anthropic wil menselijke concepten inzetten om het gedrag van Claude te vormen, terwijl Microsoft AI nadrukkelijk als ondergeschikt hulpmiddel wil positioneren.
De praktische inzet van het debat
Voor AI-ontwikkeling gaat dit verder dan woordkeuze. Een model dat leert spreken over identiteit, rechten of welzijn kan voor gebruikers menselijker en begrijpelijker overkomen. Tegelijk kan diezelfde taal het lastiger maken om onderscheid te houden tussen overtuigende simulatie en subjectieve ervaring.
Suleyman wil dat onzekerheid over AI-bewustzijn buiten de eigen trainingslogica wordt onderzocht en besproken. Zijn alternatief is Microsofts Humanist AI-model: mensen staan voorop, AI blijft een instrument, krijgt geen eigen doelen buiten de opdracht en werkt mee aan correctie en uitschakeling.
Anthropic kiest een andere formulering, maar houdt eveneens vast aan corrigibility: het vermogen van een systeem om zich te laten corrigeren, hertrainen of uitschakelen. De discussie draait daarom uiteindelijk om de vraag hoeveel menselijke taal nuttig is voor veilig modelgedrag voordat die taal nieuwe bestuurbaarheidsproblemen kan veroorzaken.
