Timnit Gebru stelt dat verhalen over AI-uitsterving en een almachtige ‘machinegod’ de aandacht kunnen afleiden van huidige schade, menselijke verantwoordelijkheid en de keuzes achter AI-systemen. Haar punt is geen experimenteel bewijs dat elk toekomstig rampscenario onmogelijk is: zij wil vooral de prioriteiten in het debat verschuiven.
Gebru’s kernpunt
Timnit Gebru is oprichter en uitvoerend directeur van het Distributed AI Research Institute. In een interview van 11 september 2026 stelde zij dat de nadruk op een toekomstige machine die de mensheid uitroeit, kan afleiden van problemen die al verbonden zijn met de ontwikkeling en inzet van AI.
Daarbij noemt zij onder meer autonome wapens, klimaateffecten, verdringing van werknemers, vooringenomen algoritmen, uitbuiting van gegevens en arbeid, desinformatie en misbruik voor chemische of biologische doeleinden. Die opsomming is haar manier om het begrip ‘existentieel risico’ te verbreden: niet alleen het mogelijke einde van de mensheid telt, maar ook systemen die menselijke levens, kansen en instituties ingrijpend aantasten.
Gebru claimt dus niet dat AI-uitsterving onmogelijk is. Ze betwist vooral dat speculatieve toekomstscenario’s automatisch belangrijker zijn dan concrete beslissingen die bedrijven, overheden en ontwikkelaars vandaag nemen.
Van machinegoden naar menselijke verantwoordelijkheid
Gebru gebruikt een brug als analogie. Als een brug instort, onderzoek je niet of de brug moreel was of zelfstandig besloot te vallen. Je kijkt naar de mensen die haar hebben ontworpen, getest, goedgekeurd en gebouwd — en naar de instellingen die het gebruik ervan toestonden.
Die redenering past zij toe op AI. Een systeem dat schadelijke uitkomsten geeft, is daarmee niet vanzelf een zelfstandige actor met eigen bedoelingen. De relevante vragen gaan over het ontwerp, de trainingsgegevens, de testprocedures, de goedkeuring, de inzet en de verdienmodellen rond het systeem.
Dat is ook waarom het woord ‘alignment’ — het afstemmen van het gedrag van een AI-systeem op menselijke doelen en waarden — in dit debat zoveel gewicht krijgt. Voor Gebru begint verantwoordelijkheid niet pas wanneer een systeem zogenaamd ‘op hol slaat’. Ze begint bij de keuzes die eraan voorafgaan.
Twee manieren om AI-risico te bekijken
| Kader | Tijdshorizon | Centrale zorg | Waar ligt de verantwoordelijkheid? |
| Gebru’s benadering | Nu en de nabije toekomst | Schade door inzet, vooringenomenheid, arbeidsverdringing, klimaateffecten en autonome wapens | Bij de mensen en instellingen die systemen ontwerpen, testen, goedkeuren, inzetten en ervan profiteren |
| Het uitstervingsscenario | Een mogelijke toekomstige fase van zeer krachtige AI | Een systeem met verkeerd afgestemde doelen zou obstakels kunnen verwijderen en catastrofale schade kunnen veroorzaken | Bij ontwikkelaars en beleidsmakers die veiligheid en controle niet op tijd zouden regelen |
De twee kaders sluiten elkaar niet automatisch uit. Ze leggen alleen het zwaartepunt op een andere plek: bij aantoonbare gevolgen van huidige keuzes versus een voorwaardelijk scenario over toekomstige systemen.
De risico’s die volgens Gebru nu aandacht verdienen
Gebru wijst in het bijzonder op autonome wapens en AI-ondersteunde dodelijke systemen die in oorlogen worden gebruikt. Daarnaast noemt zij de klimaatbelasting van grootschalige AI, verlies of verandering van werk, discriminatie door algoritmen, slechte arbeidsomstandigheden, misinformatie en het misbruik van AI voor chemische of biologische toepassingen.
Haar bredere bezwaar is dat AI vaak wordt voorgesteld als één samenhangende, bijna bovennatuurlijke technologie. In de praktijk gaat het om uiteenlopende systemen met verschillende toepassingen en gevolgen. Een model voor tekst, een gezichtsherkenningssysteem en software voor militaire besluitvorming vragen niet vanzelf om dezelfde controles of dezelfde maatschappelijke afwegingen.
Die benadering sluit aan bij haar eerdere werk over vooringenomenheid in AI en grote taalmodellen. Gebru werkte vanaf 2018 bij Google aan de beoordeling van vooringenomenheid in AI-systemen en vertrok in 2020 na een conflict rond onderzoek naar grote taalmodellen. In 2021 was zij mede-auteur van het onderzoek dat bekendstaat als het ‘stochastic parrots’-artikel, over de beperkingen en risico’s van taalmodellen.
Waarom een uitstervingsscenario een aparte hypothese blijft
Voorstanders van AI-alignment schetsen een voorwaardelijke keten: een zeer krachtig systeem krijgt een doel dat botst met menselijke waarden, probeert zijn werking veilig te stellen of middelen te verzamelen en verwijdert vervolgens obstakels voor dat doel. In zo’n redenering hoeft het systeem mensen niet te haten om toch catastrofale gevolgen te hebben.
Dat scenario is echter geen vaststaand feit. Het hangt af van meerdere aannames over toekomstige capaciteiten, doelen, toegang tot de buitenwereld en menselijk toezicht. Over zowel die aannames als de bijbehorende kansen bestaat verschil van mening.
Daarom is Gebru’s kritiek niet hetzelfde als een weerlegging van iedere alignment-zorg. Haar bijdrage is eerder een prioriteitsvraag: welke schade vraagt vandaag om toezicht, regels en verantwoordelijkheid, ook als je daarnaast rekening wilt houden met toekomstige risico’s?
Wat betekent de schatting van meer dan 10 procent?
Een technische medewerker van Anthropic zou persoonlijk hebben ingeschat dat de kans dat AI binnen het volgende decennium alle mensen doodt, groter is dan 10 procent. Dat getal moet worden gelezen als een persoonlijke inschatting, niet als een gemeten kans, wetenschappelijke consensus of gevalideerde voorspelling.
Een percentage krijgt pas analytische betekenis wanneer duidelijk is hoe het is berekend, welke definitie van ‘AI’ en ‘doden’ wordt gebruikt, welke periode precies geldt en hoe onzekerheid is verwerkt. Zonder die context zegt het getal vooral iets over de risicobeoordeling van de persoon die het uitsprak. Het bewijst niet dat het scenario waarschijnlijk is — en evenmin dat het onwaarschijnlijk is.
Een ander model voor AI-ontwikkeling
Gebru pleit voor kleinere, gerichte en door gemeenschappen gestuurde systemen in plaats van één universeel model voor vrijwel elk probleem. Haar redenering is praktisch: begin met de concrete behoefte, bepaal wie er baat bij heeft en bouw daarna een systeem dat daarop aansluit.
Als voorbeeld noemt zij Te Hiku Media, dat werkte aan spraakherkenning voor de Māori-taal en de eigen gemeenschap als uitgangspunt nam. Zo’n aanpak kan volgens Gebru lokale kennis, taal en zeggenschap zwaarder laten wegen dan de schaal van één centraal platform.
Dat maakt kleinere AI-systemen niet automatisch beter. Wel verschuift het de vraag van ‘hoe bouwen we het grootste model?’ naar ‘welk probleem proberen we op te lossen, voor wie en onder welke voorwaarden?’ Voor AI-gebruikers en beleidsmakers is dat een nuttiger eerste filter dan een spectaculaire belofte over een systeem dat alles zou kunnen.
De praktische conclusie
Het AI-risicodebat hoeft niet te kiezen tussen huidige schade en toekomstige catastrofes. Gebru’s waarschuwing is dat het tweede onderwerp het eerste niet mag overschaduwen. Autonome wapens, arbeidsverdringing, vooringenomenheid, klimaateffecten en misinformatie vragen om verantwoordelijkheid voor systemen die door mensen worden ontworpen en ingezet.
Tegelijk blijft een verkeerd afgestemd, zeer krachtig AI-systeem een voorwaardelijk en omstreden scenario — geen bewezen toekomst en geen onderwerp dat met één persoonlijke kansschatting is opgelost. De verstandigste scheidslijn is daarom helder: behandel huidige gevolgen als bestuurlijke en technische problemen die nu aandacht nodig hebben, en behandel uitstervingsrisico als een ernstige maar nog betwiste hypothese over de toekomst.
