W rozmowie wyemitowanej 6 listopada 2026 r. Demis Hassabis ostrzegł przed ryzykiem związanym z rekurencyjnym samodoskonaleniem AI bez ludzkiego nadzoru. Jak podała La Razón, szef Google DeepMind mówił o możliwym przyszłym incydencie, jeśli branża nie poświęci takim systemom więcej uwagi i zasobów. To ostrzeżenie warunkowe, a nie opis zdarzenia, które już nastąpiło. La Razón opublikowała relację 16 listopada; rozmowę przeprowadził Reid Hoffman w podcaście Masters of Scale.

Na czym polega ryzyko pętli samodoskonalenia

Rekurencyjne samodoskonalenie oznacza tu system, który wykorzystuje własne wyniki do dalszego ulepszania. Hassabis rozróżnił wspomaganie pracy inżyniera przez AI, gdy człowiek nadal projektuje i sprawdza rezultaty, od potencjalnej zamkniętej pętli działającej bez takiej kontroli. Tę drugą możliwość uznał za niebezpieczną drogę rozwoju AI.

Według relacji Hassabis wskazał matematykę, programowanie i gry jako dziedziny, w których wyniki łatwiej zweryfikować. Sam pomysł kolejnych rund ulepszania nie określa jednak tempa postępu. W dyskusji na r/agi komentujący przedstawiali różne scenariusze: od pętli przyspieszającej rozwój po powolne ulepszenia, ograniczenia i malejące korzyści. To rozbieżne opinie społeczności, nie pomiar tempa ani techniczny konsensus.

Przy samodoskonaleniu AI liczy się nie tylko to, czy system poprawia własne wyniki, lecz także to, kto je kontroluje i może zareagować.

Wcześniej NeoTeo opisywało ostrzeżenia Hassabisa dotyczące incydentów z agentami AI. Wątek rekurencyjnego samodoskonalenia dotyczy podobnego problemu nadzoru, ale koncentruje się na systemach, które mogłyby ulepszać się w zamkniętej pętli.

Jakie zabezpieczenia wskazał Hassabis

Hassabis miał wymienić formalne gwarancje, możliwe ograniczenia możliwości systemów oraz testy odporności zabezpieczeń. Wskazał też trudność śledzenia grup agentów, które mogłyby współpracować. Są to postulowane kierunki ochrony i nadzoru; relacja nie przedstawia ich jako wdrożonych rozwiązań.