AI-uitstervingsrisicoschattingen zijn deskundigenoordelen over mogelijke toekomstige gebeurtenissen, geen kansen die uit historische frequenties zijn berekend. Dat onderscheid is belangrijk: elk percentage hoort bij een specifieke groep, uitkomst en tijdshorizon.
Wat onderzocht de Delphi-studie?
Een drierondig Delphi-onderzoek onder 272 AI-experts uit 37 landen beoordeelde 24 categorieën van AI-risico. De deelnemers schatten bij 18 categorieën de kans op catastrofale uitkomsten binnen vijf jaar op minstens 10%, uitgaande van de huidige ontwikkelingstrajecten.
Dat cijfer gaat over risicocategorieën en catastrofes. Het geeft geen kans op menselijke uitsterving. De studie werd eind 2025 uitgevoerd en in 2026 gerapporteerd.
Waarom zijn deze kansen subjectief?
Voor een gebeurtenis zonder historische voorbeelden is er geen reeks eerdere gevallen waarmee je de frequentie kunt berekenen. Chaitanya Joshi, docent statistiek aan Adelaide University, omschreef uitstervingsschattingen daarom als subjectieve kansen. Deskundigen vormen een oordeel over een mogelijke toekomst; het percentage is geen meting van een terugkerend verschijnsel.
Joshi gebruikte een mediaan van 0,1 met een mogelijke bandbreedte van 0 tot 0,3 als voorbeeld van hoe onzekerheid rond een schatting kan worden weergegeven. Dat was een illustratie, geen uitkomst van een AI-risico-enquête.
Vier inschattingen, vier verschillende vragen
De percentages lopen uiteen omdat ze niet allemaal hetzelfde meten. Sommige gaan over uitsterving binnen een bepaalde periode; andere combineren uitsterving met een ander ernstig gevolg of beoordelen brede risicocategorieën.
| Persoon of onderzoek | Ingeschatte uitkomst | Gerapporteerde inschatting |
| Evan Hubinger, persoonlijk | AI doodt alle mensen binnen tien jaar | Meer dan 10% |
| Geoffrey Hinton | Door AI veroorzaakte menselijke uitsterving binnen 30 jaar | 10–20% |
| Enquête onder 1.580 onderzoekers die op toonaangevende AI-bijeenkomsten hadden gepubliceerd | Toekomstige AI-ontwikkelingen veroorzaken uitsterving óf vergelijkbaar ernstige, blijvende ontmachtiging | Gemiddeld 18%; mediaan 10% |
| Delphi-onderzoek onder 272 experts | Catastrofale uitkomsten binnen vijf jaar in AI-risicocategorieën | Bij 18 van de 24 categorieën minstens 10% |
Hubingers percentage is zijn persoonlijke inschatting, geen voorspelling namens Anthropic. De enquêteresultaten van 18% en 10% slaan op een gecombineerde uitkomst: uitsterving of vergelijkbaar ernstige, blijvende ontmachtiging. Ze zijn dus niet uitsluitend een schatting van uitsterving.
De Delphi-uitkomst hoort bij een andere vraag: hoe groot is de kans op catastrofale gevolgen binnen specifieke risicocategorieën? Michael Noetel, universitair hoofddocent aan University of Queensland en mede-auteur van het onderzoek, vatte de brede categorieën samen als opzettelijk misbruik, verlies van menselijke controle naarmate systemen capabeler worden, en extreme concentratie van economische en politieke macht.
Welke risico’s beschrijven de scenario’s?
RAND onderzocht in 2025 drie verkennende scenario’s rond kernwapens, ziekteverwekkers en geo-engineering. In de onderzochte scenario’s zou uitsterving uiterst moeilijk teweeg te brengen zijn, maar RAND sloot het niet uit. De analyse gaf geen enkel numeriek uitstervingspercentage.
RAND noemt vier vermogens die een AI-actor in zulke scenario’s nodig zou hebben: toegang tot cruciale systemen die digitale en fysieke processen verbinden, kunnen voortbestaan zonder menselijke beheerders, een doel om de mensheid uit te roeien, en mensen kunnen overtuigen of misleiden om ontdekking te voorkomen. Dit zijn onderdelen van de verkende scenario’s, geen vaststellingen over huidige AI-systemen.
Een mogelijke route waarover Sana Zakaria, directeur Emerging Technologies and Resilience bij RAND Europe, sprak, is recursieve zelfverbetering. Daarbij helpt een AI-systeem mee zijn eigen code of onderzoeksproces te verbeteren. Als die terugkoppeling sneller gaat dan mensen systemen kunnen testen, begrijpen of besturen, kan menselijk toezicht onder druk komen te staan.
