La Razón meldde op 16 november dat Demis Hassabis in een aflevering van Masters of Scale, uitgezonden op 6 november 2026, waarschuwde voor de risico’s van recursieve zelfverbetering zonder menselijke controle. Hij noemde formele garanties, mogelijke beperkingen aan de capaciteiten van zulke systemen en tests van veiligheidsmaatregelen als waarborgen, aldus La Razón. Zijn waarschuwing was voorwaardelijk: hij voorzag een mogelijk incident als de ontwikkeling doorgaat zonder meer aandacht en middelen voor dit soort systemen.
Die zorg sluit aan bij Hassabis’ eerdere waarschuwingen over AI-agenten en veiligheid, waarover NeoTeo eerder berichtte.
Bij recursieve zelfverbetering draait het niet alleen om wat een systeem kan verbeteren, maar ook om wie de uitkomsten en veiligheidsmaatregelen controleert.
Wat recursieve zelfverbetering hier betekent
Recursieve zelfverbetering, vaak afgekort tot RSI, is in dit verband het verbeteren van een AI-systeem op basis van de resultaten die het zelf behaalt. In de beschrijving van Hassabis blijft bij de huidige vorm van AI-ondersteund ingenieurswerk een mens beoordelen en ontwerpen. Zijn zorg richt zich op een mogelijke volgende stap: een gesloten cyclus waarin systemen hun resultaten gebruiken om zichzelf verder te verbeteren, zonder menselijke controle.
Volgens La Razón noemde Hassabis wiskunde, programmeren en games als gebieden waarin resultaten relatief goed te controleren zijn. Die controleerbaarheid maakt duidelijk waarom zulke taken in zijn beschrijving opvallen; op zichzelf zegt ze niet hoe snel een systeem zichzelf kan verbeteren.
In een discussie op r/agi verschillen deelnemers van mening over dat tempo. Sommigen beschrijven een zichzelf versterkende feedbacklus, terwijl anderen wijzen op knelpunten, afnemende meeropbrengsten of juist trage verbeteringen. Het begrip RSI legt dus geen exponentiële groeisnelheid vast.
Welke waarborgen en toezicht noemt Hassabis?
La Razón schrijft dat Hassabis formele garanties, mogelijke grenzen aan de capaciteiten van systemen en tests van de robuustheid van veiligheidsmaatregelen voorstelde. De voorstellen richten zich op de vraag hoe systemen begrensd en gecontroleerd kunnen worden terwijl ze hun eigen resultaten in een volgende verbeterstap gebruiken.
Hassabis wees volgens het verslag ook op de uitdaging om groepen AI-agenten te volgen die mogelijk met elkaar samenwerken. Hoe meer agenten tegelijk handelen, hoe belangrijker het wordt hun activiteiten en onderlinge samenwerking te kunnen volgen.