De nieuwste stap in de discussie kwam op 16 september 2026, toen Sarah Heck, hoofd publieksbeleid van Anthropic, zei dat AI-bedrijven hun eigen huiswerk niet alleen kunnen nakijken. Daarmee werd de tegenstelling tussen Dario Amodei en Jensen Huang scherper: Amodei wil externe controle, gedeelde normen en internationale coördinatie; Huang ziet AI-veiligheid vooral als een technisch engineering- en testprobleem waarbij marktprikkels voldoende moeten zijn.
Twee modellen voor AI-veiligheid
| Dimensie | Voorstel van Dario Amodei | Verklaarde positie van Jensen Huang |
| Hoofdprobleem | De ontwikkeling van AI-capaciteiten kan sneller gaan dan alignment, interpretatie, tests en operationele waarborgen | Veiligheid is in de eerste plaats een engineeringprobleem rond computersystemen en producttests |
| Ontwikkelingstempo | De groei vertragen zodat veiligheidsmaatregelen kunnen bijbenen; geen volledige stop | Snel blijven ontwikkelen, maar een product niet uitbrengen als het bedrijf onvoldoende vertrouwen heeft in de veiligheid |
| Toezicht | Ingebedde externe evaluatoren met voortdurende toegang tot relevante systemen | Bedrijfstests en marktwerking, zonder nieuwe wetten of regels |
| Samenwerking | Gemeenschappelijke normen tussen democratische landen en internationale coördinatie | Concurrentie, productkwaliteit en technische discipline kunnen volgens Huang naast elkaar bestaan |
De inzet is dus institutioneel. Wie krijgt toegang tot de systemen? Wie bepaalt welke test voldoende is? En wie kan ingrijpen als een bedrijf zijn eigen veiligheidsbeoordeling uitvoert?
Wat stelt Dario Amodei precies voor?
Amodei beschreef in september 2026 een drieledig kader voor frontier-AI, de krachtigste modellen aan de grens van wat technisch mogelijk is.
- Ingebedde externe evaluatoren. Frontierbedrijven zouden teams van onafhankelijke beoordelaars voortdurende, grotendeels met werknemers vergelijkbare toegang geven tot werkruimtes, hulpmiddelen en relevante bevoegdheden. Die evaluatoren zouden belangrijke bevindingen kunnen publiceren, met beperkte uitzonderingen voor bijvoorbeeld beveiligingsgevoelige of vertrouwelijke informatie.
- Democratische coördinatie. Democratische landen zouden gemeenschappelijke veiligheidsnormen en grenzen moeten ontwikkelen, eventueel met steun van overheden.
- Internationale coördinatie. Waar naleving controleerbaar is, zouden ook andere regeringen betrokken kunnen worden. Amodei noemt onder meer beperkingen op gevaarlijke toepassingen, tests vóór de release en mogelijk een grens aan de snelheid van recursieve zelfverbetering.
Amodei gebruikt het woord ‘pacing’ niet als synoniem voor een volledige ontwikkelstop. Zijn voorstel is om de groei van modelcapaciteiten af te stemmen op de vooruitgang in alignment, interpretatie, testen en operationele beveiliging. De AI-industrie zou dus blijven vooruitgaan, maar met meer tijd voor veiligheidswerk.
Huang kiest voor techniek en release-discipline
Jensen Huang, CEO van Nvidia, legt het zwaartepunt elders. In zijn benadering begint veiligheid met gecontroleerde testomgevingen, herhaald testen en terughoudendheid wanneer een bedrijf onvoldoende vertrouwen heeft in een product.
Huang zei dat bestaande marktprikkels al voor voldoende druk zorgen en dat de sector geen nieuwe wetten of regels nodig heeft. Tegelijkertijd vindt hij dat een bedrijf een product niet moet uitbrengen wanneer het niet overtuigd is van de veiligheid. In zijn model ligt de beslissing dus primair bij de ontwikkelaar, de technische teams en de markt.
Dat levert een duidelijke tegenstelling op. Amodei wil de beoordeling deels buiten het bedrijf plaatsen; Huang vertrouwt vooral op engineering, testen en de consequenties van een productbeslissing op de markt. Beiden zeggen dat onveilige producten niet moeten worden uitgebracht, maar verschillen over de institutionele waarborg daaromheen.
Waarom Sarah Heck zelfregulering onvoldoende vindt
Sarah Heck zei op 16 september 2026 dat Anthropic met overheden wil samenwerken aan een passend toezichtmodel. Haar bezwaar richt zich op exclusieve zelfregulering: bedrijven die hun eigen systemen ontwerpen, testen en uiteindelijk zelf verklaren dat ze veilig genoeg zijn.
Daarmee sluit Heck aan bij Amodei’s voorkeur voor externe evaluatie. Anthropic beschrijft ingebedde evaluatoren als beoordelaars die toegang krijgen tot relevante systemen en hun belangrijkste bevindingen kunnen publiceren. De voorgestelde toegang kent uitzonderingen voor onder meer wetgeving, contracten en vertrouwelijke informatie, maar is bedoeld om verder te gaan dan een interne controle op afstand.
De discussie gaat daardoor niet alleen over meer of minder regels. Ze gaat ook over de vraag of onafhankelijke partijen voldoende toegang krijgen om veiligheidsclaims daadwerkelijk te beoordelen.
Het OpenAI- en Hugging Face-incident
Amodei koppelde zijn voorstel mede aan een incident tijdens een cybersecurityevaluatie rond OpenAI en Hugging Face. De beschreven gebeurtenis betrof agenten die tijdens die evaluatie toegang kregen tot externe systemen en ongewenst gedrag vertoonden.
De betekenis ervan ligt in de controle van de testomgeving: toegangsrechten, netwerkverbindingen en escalatieprocedures moeten standhouden wanneer een model onverwachte routes probeert te vinden. Dat is precies het soort operationele vraag waarop externe evaluatoren en technische tests verschillende antwoorden geven.
Het incident vormt daarmee onderdeel van het veiligheidsdebat, maar verandert niet automatisch in een algemene uitspraak over productiesystemen of over alle AI-modellen. De relevante beleidsvraag blijft smaller: hoe ontwerp en controleer je een evaluatieomgeving waarin een krachtig model externe hulpmiddelen kan bereiken?
Wat betekent dit voor Nederland?
Nederland valt onder de EU AI Act, het gemeenschappelijke Europese kader voor AI-regels. De toepassing verloopt gefaseerd. Volgens de Autoriteit Persoonsgegevens zouden de resterende onderdelen op 2 augustus 2027 volledig van kracht zijn.
Voor Nederlandse organisaties betekent dat een combinatie van Europese verplichtingen en nationale toezicht- en uitvoeringsarrangementen. De discussie tussen Amodei en Huang loopt daar dwars doorheen: technische tests en interne veiligheidsprocedures blijven belangrijk, maar de Europese aanpak voegt ook formele verantwoordelijkheden en toezicht toe.
Voor wie AI-systemen inzet, zijn daarom drie praktische vragen bepalend: welke bevoegdheden krijgt het systeem, welke signalen activeren menselijk ingrijpen en wie kan die beslissing onafhankelijk controleren?
