W wywiadzie opublikowanym przez EL PAÍS 21 października 2026 roku Geoffrey Hinton ocenił, że prawdopodobieństwo, iż AI doprowadzi do zagłady ludzkości, przekracza 1%. Zaproponował też, by przed premierą chatbota jego bezpieczeństwo wykazywać statystycznie przed agencją rządową.
Co oznacza ocena Hintona
To osobista ocena Hintona, nie wynik pomiaru ani konsensus naukowy. Naukowiec uznał to ryzyko za znaczące i stwierdził, że należy traktować je poważnie.
Szerszy kontekst stanowi wcześniejszy tekst NeoTeo o badaniu Delphi i ocenach ryzyka katastrofalnych skutków AI. Tamto badanie dotyczyło ocen różnych kategorii ryzyka; Hinton podał własną ocenę prawdopodobieństwa zagłady ludzkości.
Test bezpieczeństwa przed premierą chatbota
Hinton proponuje, by chatbot nie trafiał do użytkowników, dopóki jego bezpieczeństwo nie zostanie statystycznie wykazane przed agencją rządową. Opowiada się za publicznym nadzorem nad AI, ponieważ uważa, że firmom nie można powierzyć samoregulacji.
To propozycja kontroli przed premierą: ocenę bezpieczeństwa miałby otrzymać także organ publiczny, a nie wyłącznie sama firma rozwijająca chatbot.
Osobny pomysł na projektowanie AI
W odrębnym materiale Fox Business przypisał Hintonowi pomysł, by zaawansowaną AI projektować z instynktami macierzyńskimi, jako systemy pełniące rolę „AI-matek”, a nie asystentów. To koncepcja dotycząca zachowania systemu, odrębna od proponowanej przez Hintona kontroli publicznej przed premierą chatbota.
