Een nieuw rapport waarschuwt dat automatisering van AI-onderzoek en -ontwikkeling de vooruitgang sterk kan versnellen. De auteurs stellen toezichtmaatregelen voor en schetsen een mogelijke ‘intelligentie-explosie’ als scenario, niet als vaststaande ontwikkeling.
Wat bedoelen de auteurs met een ‘intelligentie-explosie’?
AI-onderzoek en -ontwikkeling (AI-R&D) omvat het werk waarmee nieuwe AI-systemen worden onderzocht en gebouwd. Zelfverbetering kan ontstaan wanneer AI-systemen helpen dat werk te automatiseren en zo de ontwikkeling van krachtigere systemen versnellen.
De auteurs gebruiken ‘intelligentie-explosie’ voor een mogelijke versnelling waarbij vooruitgang die anders jaren zou kosten, in maanden of minder plaatsvindt. In een van de geschetste scenario’s zou één ontwikkelaar, als AI systemen met expertise in AI-R&D bereikt, een AI-werkkracht kunnen aansturen die gelijkstaat aan miljoenen toponderzoekers. Dat is een voorwaardelijke inschatting, geen huidige meting.
De mogelijke gevolgen die de auteurs schetsen lopen uiteen: cyber- of biologische dreigingen zouden zich sneller kunnen ontwikkelen dan tegenmaatregelen; mensen zouden minder controle kunnen houden als zij minder betrokken raken bij AI-onderzoek; en een land zou een bescheiden voorsprong kunnen omzetten in een beslissende. De uitkomst blijft onzeker.
Welke maatregelen stellen de auteurs voor?
De voorgestelde aanpak draait om zicht op de voortgang en mogelijkheden om in te grijpen. De auteurs noemen openbare rapportage over de ontwikkeling van AI-R&D, onafhankelijke evaluatoren of auditors en maatregelen om het tempo van verbetering te begrenzen.
Daarnaast stellen zij voor om specifieke AI-R&D-projecten in datacenters stil te kunnen leggen, geautomatiseerde systemen af te zonderen en noodplannen op te stellen. Het zijn aanbevelingen van de auteurs, geen algemene regels die al van kracht zijn.
Wat zegt de voorspelling voor 2028?
De auteurs voorspellen dat AI tegen 2028 projecten volledig zou kunnen automatiseren waar mensen maanden aan werken. Het gaat om een verwachting over bepaalde AI-R&D-projecten, niet om alle vormen van onderzoek of een aangetoonde huidige capaciteit.
Zij noemen ook factoren die de geschetste versnelling kunnen afremmen: beperkingen in rekenkracht, technische problemen met automatisering, afnemende meeropbrengsten, lange trainingsrondes, knelpunten in toeleveringsketens en regelgeving. AI zou volgens de auteurs bovendien kunnen helpen om risico’s te beperken.
