Op 15 september 2026 waarschuwde Liu Shengyu, een machine-learningsysteemingenieur bij DeepSeek, voor de gevolgen als Anthropic de meest geavanceerde AI of kunstmatige algemene intelligentie (AGI) zou beheersen. Op 16 september werd die waarschuwing verbonden met een bredere discussie over de snelheid van AI-ontwikkeling en de vraag wie zulke systemen moet controleren. Het gaat om een hypothetisch scenario, niet om een vaststelling dat AGI bestaat of dat Anthropic daarover beschikt.
Liu waarschuwt voor concentratie en beperkte toegang
Liu Shengyu stelde dat geavanceerde intelligentie volgens hem voor iedereen open en betaalbaar zou moeten zijn. Hij zei Anthropic en OpenAI niet te vertrouwen om dat uitgangspunt te garanderen. Zijn vergelijking was extreem: hij zette een hypothetische situatie waarin Anthropic de meest geavanceerde AI of AGI controleert naast nazi-Duitsland dat vóór de geallieerden over atoombomtechnologie zou beschikken.
Die vergelijking is Liu’s politieke en persoonlijke oordeel. Ze bewijst niet dat Anthropic AGI heeft bereikt, dat het bedrijf de krachtigste AI ter wereld beheerst of dat het schade wil veroorzaken. Ze maakt wel duidelijk welk risico Liu centraal stelt: niet alleen wat AI kan, maar ook wie toegang krijgt tot de systemen en de macht krijgt om hun ontwikkeling te bepalen.
Open toegang is daarbij niet hetzelfde als bewezen veiligheid. Liu presenteert betaalbaarheid en openheid als antwoord op geconcentreerde macht; een vergelijkende veiligheidsbeoordeling van de aanpak van DeepSeek en Anthropic volgt daar niet uit.
Amodei wil AI vertragen, niet stilleggen
Dario Amodei, CEO van Anthropic, benadert het probleem vanuit een andere hoek. In september 2026 stelde hij dat de verbetering van AI-capaciteiten voldoende moet vertragen om veiligheidswerk, afstemming, interpretatie en tests te laten bijbenen. Hij zei daarbij dat dit geen stop op modeltraining of technische vooruitgang betekent.
Zijn voorstel bestaat uit drie onderdelen:
- Ingebedde evaluatoren: onafhankelijke externe teams zouden doorlopend, met toegang die vergelijkbaar is met die van medewerkers, de relevante hulpmiddelen, werkruimtes en processen van een AI-bedrijf kunnen beoordelen.
- Coördinatie tussen democratische landen: frontierbedrijven zouden gemeenschappelijke veiligheidsnormen en grenzen aan ongecontroleerde vooruitgang moeten afspreken.
- Wereldwijde coördinatie: democratische en autoritaire regeringen zouden moeten proberen samen te werken, met aandacht voor de vraag hoe zulke afspraken gecontroleerd kunnen worden.
Amodei koppelt zijn voorstel aan het risico van recursieve zelfverbetering: AI die helpt om de volgende generatie AI te bouwen. Zijn redenering is dat extra tijd voor evaluatie en afstemming de risico’s kan verkleinen voordat systemen kritieke capaciteitsniveaus bereiken.
Twee risico’s, twee oplossingen
De discussie wordt overzichtelijker wanneer je de twee hoofdargumenten uit elkaar houdt. Liu legt de nadruk op macht en toegang; Amodei op snelheid en toezicht.
| Actor en organisatie | Belangrijkste risico | Voorgestelde reactie | Wat de positie inhoudt |
| Liu Shengyu / DeepSeek | Geconcentreerde controle over de meest geavanceerde AI kan te veel macht bij enkele bedrijven leggen. | Open en betaalbare toegang tot geavanceerde intelligentie. | De waarschuwing gaat over eigendom, toegang en machtsverdeling; ze is hypothetisch. |
| Dario Amodei / Anthropic | Snelle capaciteitsgroei en recursieve zelfverbetering kunnen veiligheidswerk en toezicht voorbijstreven. | Tragere vooruitgang, ingebedde evaluatoren en nationale en internationale coördinatie. | Het voorstel gaat over tempo, evaluatie en afstemming; het betekent volgens Amodei geen stop op AI-ontwikkeling. |
De twee standpunten raken elkaar bij governance, maar zijn niet hetzelfde. Een systeem kan breed toegankelijk zijn zonder dat daarmee de veiligheid is aangetoond. Omgekeerd kan extra toezicht de machtsvraag niet automatisch oplossen — zeker niet als een klein aantal bedrijven de belangrijkste systemen blijft ontwikkelen.
Coxon en Hubinger leggen de interne spanning bloot
De discussie kreeg extra gewicht door waarschuwingen uit de kring rond Anthropic. Jacob Coxon nam ontslag bij Anthropic na drie jaar onderzoek bij OpenAI en Anthropic en waarschuwde dat bedrijven richting zelfverbeterende superintelligentie racen. Dat is zijn beoordeling van de ontwikkeling, geen vastgestelde voorspelling over wat er zal gebeuren.
Evan Hubinger, hoofd Alignment Science bij Anthropic, zei dat hij persoonlijk de kans dat AI binnen het volgende decennium tot het uitsterven van de mens leidt op meer dan 10 procent schat. Dat percentage is een persoonlijke inschatting van Hubinger, geen gemeten kans en geen consensus onder AI-onderzoekers.
Daarmee ontstaat een ongemakkelijke combinatie: sommige mensen binnen de frontier-AI-sector beschrijven zeer ernstige risico’s, terwijl bedrijven tegelijk blijven zoeken naar manieren om de ontwikkeling voort te zetten. Liu richt zijn kritiek op de concentratie van die macht. Amodei wil vooral tijd kopen voor veiligheidswerk.
Wat deze controverse wél duidelijk maakt
De waarschuwing van Liu Shengyu is nieuws omdat ze een concrete machtsvraag op tafel legt: wie bepaalt wie toegang krijgt tot de krachtigste AI? Amodei’s voorstel stelt een andere vraag: hoe voorkom je dat capaciteiten sneller groeien dan evaluatie en toezicht?
Geen van beide posities maakt van AGI een huidige realiteit, en Liu’s vergelijking is geen bewijs dat Anthropic AGI beheerst. Evenmin volgt uit zijn voorkeur voor open en betaalbare modellen dat die automatisch veiliger zijn. De inzet van het debat is uiteindelijk dubbel: wie de frontier-AI controleert én hoeveel tijd de samenleving krijgt om haar risico’s te begrijpen.
