Szacunki ryzyka zagłady przez AI to subiektywne oceny ekspertów, a nie prawdopodobieństwa wyliczone z historycznej częstości takich zdarzeń. W badaniu Delphi opisanym w 2026 roku 272 ekspertów oceniło 24 kategorie ryzyka: w 18 z nich oszacowano na co najmniej 10 proc. prawdopodobieństwo katastrofalnych skutków w ciągu pięciu lat przy obecnych trendach. Wynik dotyczy katastrof w różnych kategoriach, a nie prawdopodobieństwa zagłady ludzkości.
To rozróżnienie ma znaczenie: procent bez informacji o tym, kto go podał, jakiego zdarzenia dotyczy i w jakim okresie, niewiele mówi. Prognoz przedstawionych poniżej nie można połączyć w jedną „szansę na zagładę”.
Co oceniło badanie Delphi
Badanie Delphi, współtworzone przez Michaela Noetela, objęło 272 ekspertów z 37 krajów i 24 kategorie ryzyka związanego z AI. W 18 kategoriach eksperci ocenili prawdopodobieństwo katastrofalnych skutków w ciągu pięciu lat na co najmniej 10 proc., przy założeniu obecnych trendów.
Wynik mówi o ocenach dotyczących kategorii ryzyka — nie o tym, że AI ma co najmniej 10 proc. szans na doprowadzenie do zagłady ludzi. Kategorie obejmują różne możliwe szkody. Wśród szerokich grup ryzyka Noetel wskazywał celowe nadużycia, utratę kontroli nad coraz sprawniejszymi systemami oraz nadmierną koncentrację władzy gospodarczej i politycznej.
Dlaczego te prawdopodobieństwa są subiektywne
Nie ma historycznej serii przypadków zagłady ludzkości spowodowanej przez AI, z której można byłoby obliczyć częstość takiego zdarzenia. Chaitanya Joshi, wykładowca statystyki na Adelaide University, określa więc te prognozy jako prawdopodobieństwa subiektywne: są ocenami ekspertów, a nie pomiarem opartym na powtarzających się obserwacjach.
Joshi zilustrował niepewność przykładem, w którym mediana wynosi 0,1, czyli 10 proc., ale możliwy przedział rozciąga się od 0 do 0,3, czyli od 0 do 30 proc. To przykład sposobu opisywania niepewności, a nie kolejny wynik badania o ryzyku AI.
Subiektywny szacunek może jednak pomóc w podejmowaniu decyzji. Michael Noetel zwracał uwagę, że skala ocenianego ryzyka ma znaczenie, nawet jeśli nie da się sprawdzić prognozy przez porównanie jej z częstością bezprecedensowego zdarzenia.
Cztery prognozy, różne zakresy
Różnią się zarówno osoby i grupy oceniające ryzyko, jak i zdarzenia, których dotyczą podane wartości. Zestawienie pokazuje, dlaczego tych liczb nie należy traktować jako konkurencyjnych pomiarów tego samego zjawiska.
| Kto lub jakie badanie | Oceniane zdarzenie | Podany wynik |
| Evan Hubinger, osobista prognoza | AI zabija wszystkich ludzi w ciągu następnej dekady | Ponad 10 proc. |
| Geoffrey Hinton, wcześniejsza ocena | Zagłada ludzkości spowodowana przez AI w ciągu 30 lat | 10–20 proc. |
| Ankieta 1580 badaczy publikujących na czołowych konferencjach AI | Przyszłe osiągnięcia AI prowadzą do zagłady albo równie trwałego i poważnego pozbawienia ludzi sprawczości | Średnia: 18 proc.; mediana: 10 proc. |
| Badanie Delphi: 272 ekspertów, 24 kategorie ryzyka | Katastrofalne skutki w ocenianych kategoriach w ciągu pięciu lat przy obecnych trendach | W 18 z 24 kategorii oceniono prawdopodobieństwo na co najmniej 10 proc. |
Evan Hubinger jest badaczem zajmującym się dostosowaniem AI w Anthropic, ale jego wartość to osobista prognoza. Ankieta badaczy łączy zagładę z innym wynikiem: równie trwałym i poważnym pozbawieniem ludzi sprawczości. Jej 18-procentowa średnia i 10-procentowa mediana nie są więc ocenami samej zagłady. Wyników ankiety, prognoz Hubingera i Hintona ani badania Delphi nie da się sprowadzić do wspólnej liczby bez zmiany ich zakresu.
Co pokazują scenariusze ryzyka
Analiza scenariuszowa RAND z 2025 roku rozważała zagrożenia związane z bronią jądrową, patogenami i geoinżynierią. W tych scenariuszach doprowadzenie do zagłady uznano za skrajnie trudne, ale niewykluczone. Nie podano jednej liczbowej prognozy prawdopodobieństwa.
RAND wskazał cztery zdolności, których potrzebowałby podmiot AI, by stworzyć zagrożenie zagładą: integrację z kluczowymi systemami cyberfizycznymi, możliwość działania bez ludzkich opiekunów technicznych, cel polegający na doprowadzeniu do zagłady ludzi oraz zdolność przekonywania lub wprowadzania ludzi w błąd, by uniknąć wykrycia.
Inną możliwą drogę ryzyka opisała Sana Zakaria z RAND Europe: samodoskonalenie rekurencyjne, czyli pętla, w której AI pomaga ulepszać własny kod lub proces badawczy. W takim scenariuszu tempo zmian mogłoby wyprzedzić ludzkie możliwości testowania, rozumienia i nadzorowania systemów.
