Doniesienia opublikowane 28 września 2026 r. przedstawiły ostrzeżenie autorów raportu: automatyzacja badań i rozwoju AI mogłaby gwałtownie przyspieszyć postęp. Autorzy proponują nadzór nad takimi pracami, a opisywany przez nich scenariusz pozostaje warunkowy.

Na czym polega ostrzeżenie autorów

Badania i rozwój AI obejmują prace nad tworzeniem oraz ulepszaniem systemów sztucznej inteligencji. Gdyby AI pomagała automatyzować kolejne etapy tych prac, mogłaby przyspieszać rozwój następnych systemów. To właśnie możliwość nakręcania się takiego procesu autorzy wskazują jako powód do przygotowania nadzoru.

W relacjach o raporcie jako jego autorów wymieniono między innymi Geoffrey Hinton, Yoshua Bengio, Jack Clark i Jakub Pachocki. Raport ma ponad 20 autorów.

Co oznacza „eksplozja inteligencji”

Autorzy używają określenia „eksplozja inteligencji” na opisanie możliwego gwałtownego przyspieszenia rozwoju AI: postęp, który w innych warunkach zająłby lata, mógłby nastąpić w ciągu miesięcy lub krócej. Nie chodzi tu o pojedynczy skok możliwości, lecz o scenariusz, w którym AI automatyzuje prace przyczyniające się do dalszego rozwoju AI.

W jednym z warunkowych szacunków autorzy opisują, że jeśli systemy osiągnęłyby ekspercki poziom w badaniach i rozwoju AI, jeden człowiek mógłby kierować pracą AI odpowiadającą potencjałem milionom czołowych ludzkich badaczy. To element rozważanego scenariusza, nie opis obecnej skali pracy systemów.

Jakie środki nadzoru proponują autorzy

Propozycje mają zwiększyć widoczność postępów i dać możliwość reagowania, zanim automatyzacja badań i rozwoju AI nabierze tempa. Obejmują:

  • raportowanie postępów w badaniach i rozwoju AI;
  • niezależne oceny prowadzone przez audytorów;
  • ograniczanie tempa rozwoju;
  • możliwość wstrzymania wybranych projektów badawczo-rozwojowych prowadzonych w centrach danych;
  • odizolowanie zautomatyzowanych systemów badawczo-rozwojowych;
  • plany reagowania awaryjnego.

Autorzy przedstawiają te środki jako rekomendacje. Ich celem jest umożliwienie oceny rozwoju AI i przygotowanie sposobów zatrzymania lub odizolowania wybranych prac, jeśli zajdzie taka potrzeba.

Prognoza na 2028 rok i jej ograniczenia

Autorzy prognozują, że do 2028 roku AI mogłaby w pełni automatyzować projekty badawczo-rozwojowe, które ludziom zajmują miesiące. To przewidywanie dotyczące przyszłych możliwości, a nie stwierdzenie, że AI już wykonuje takie projekty samodzielnie.

Na rozpatrywany scenariusz mogą wpływać ograniczenia mocy obliczeniowej, trudności z automatyzacją, malejące z czasem korzyści, długie treningi modeli, łańcuchy dostaw i regulacje. Autorzy podkreślają również niepewność skutków; AI mogłaby zarazem przyspieszać działania ograniczające ryzyko.