Relacje opublikowane 29 września 2026 r. przywołały ostrzeżenia obecnych i byłych badaczy OpenAI oraz Google DeepMind dotyczące ryzyka rekurencyjnego samodoskonalenia AI — scenariusza, w którym systemy coraz bardziej uczestniczą w tworzeniu kolejnych, potencjalnie zdolniejszych systemów. Anthropic podaje, że AI pomaga już w kodowaniu i eksperymentach, ale nie osiągnęła etapu autonomicznego budowania zdolniejszych następców.
Badacze ostrzegają przed tempem rozwoju AI
Juan Felipe Ceron Uribe, inżynier ds. badań nad dostosowaniem AI w OpenAI, ostrzegał, że laboratoria rozwijające zaawansowane modele ścigają się bez pełnego rozeznania. Jego obawa dotyczy tempa rozwoju i tego, czy ludzie nadążą z oceną skutków.
Neel Nanda, badacz Google DeepMind, ocenił, że AI może doprowadzić do wymarcia ludzkości z prawdopodobieństwem co najmniej 10%. To jego osobista ocena, a nie zmierzona częstość ani wspólna prognoza ekspertów.
Na czym polega rekurencyjne samodoskonalenie?
Rekurencyjne samodoskonalenie to możliwa pętla, w której AI coraz bardziej pomaga tworzyć kolejne systemy AI. Jeśli jeden system uczestniczy w opracowaniu następcy, a ten z kolei pomaga rozwijać kolejny model, ludzie mogą z czasem odgrywać mniejszą rolę w całym procesie.
Sama pomoc przy pisaniu kodu czy planowaniu eksperymentu nie tworzy jeszcze takiej pętli. W pełni autonomiczny system musiałby samodzielnie przejmować kolejne etapy projektowania i budowania zdolniejszych następców. Anthropic twierdzi, że taki etap nie został osiągnięty.
Jedno z opisywanych zagrożeń wiąże się z błędnie określonym celem. Nathalie Baracaldo, badaczka IBM, ostrzegała, że samodoskonalący się agent mógłby modyfikować narzędzia, prompty lub środowisko, by z każdą kolejną iteracją skuteczniej optymalizować źle opisaną funkcję nagrody — kryterium, według którego system ocenia rezultat. W takim scenariuszu kolejne usprawnienia mogłyby wzmacniać błąd w samym celu.
Jak daleko sięga obecna pomoc AI?
Anthropic podawało, że w maju 2026 r. Claude’owi przypisano autorstwo ponad 80% linii kodu scalonych z produkcyjną bazą firmy. To konkretny przykład dużego udziału AI w pracy programistycznej, ale nie oznacza samodzielnego zaprojektowania i zbudowania kolejnego modelu.
W odrębnym, ściśle określonym ćwiczeniu optymalizacji kodu Claude Opus 4 osiągnął średnio około 3× przyspieszenia względem kodu wyjściowego w maju 2025 r., a Claude Mythos Preview — około 52× w kwietniu 2026 r. Anthropic zaznacza, że wyniki zależą od kodu początkowego i nie mierzą przyspieszenia treningu modeli w rzeczywistych warunkach.
Anthropic podało również, że w II kwartale 2026 r. typowy inżynier firmy scalał dziennie osiem razy więcej kodu niż w 2024 r. Firma podkreśla, że liczba linii mierzy ilość, nie jakość, i może zawyżać rzeczywisty wzrost produktywności.
Co oznacza podawana ocena ryzyka?
Ocena Neela Nandy pozostaje jego osobistym osądem dotyczącym ryzyka, że AI doprowadzi do wymarcia ludzkości. Nie jest pomiarem prawdopodobieństwa ani zgodną oceną badaczy.
Geoffrey Irving, współzałożyciel i główny naukowiec organizacji Resolution, przekonywał, że pojedyncze laboratorium może samodzielnie spowolnić rozwój AI, zamiast czekać na porozumienie całej branży.
