Geoffrey Hinton ocenił, że istnieje 10–20 proc. ryzyka, iż AI doprowadzi do wyginięcia ludzkości w nadchodzących dekadach. Przedstawił tę liczbę jako sygnał poważnego zagrożenia, a nie prognozę konkretnego zdarzenia. Równocześnie AI Security Letter zaleca, by modele zdolne do działań w cyberprzestrzeni początkowo odłączać od sieci, a po podłączeniu do internetu ograniczać ich dozwolone działania stosownie do trudności w przewidywaniu awarii bezpieczeństwa. The Guardian opublikował wywiad z Hintonem 13 października 2026 r., a AI Security Letter przedstawia zalecenia dotyczące zabezpieczeń.

16 października 2026 r. The Next Web podał, że strona listu wymieniała 489 sygnatariuszy. To datowany stan listy, którego główny postulat dotyczy sposobu kontrolowania dostępu modeli do sieci.

Co oznacza szacunek Hintona?

W wywiadzie opublikowanym przez The Guardian Hinton mówił o własnym szacunku ryzyka, że AI może doprowadzić do wyginięcia ludzi w nadchodzących dekadach. Liczba 10–20 proc. miała podkreślać powagę zagrożenia, nie przewidywać określonego zdarzenia.

Jensen Huang zakwestionował naukowe podstawy tego szacunku i skrytykował wcześniejsze przewidywania Hintona. Huang wypowiedział się o nich 23 września w rozmowie z Ezrą Kleinem; relację z jego uwagami opublikował później The Guardian. Obaj przedstawili więc odmienne oceny ryzyka: Hinton uzasadniał, dlaczego warto traktować je poważnie, a Huang podważał podstawy jego liczbowego oszacowania.

Izolacja sieciowa jako punkt wyjścia

List zaleca stosowanie rygorystycznych zabezpieczeń wobec modeli zdolnych do działań cybernetycznych oraz początkowe domyślne odłączanie ich od sieci. Taka izolacja sieciowa, nazywana też air-gappingiem, ogranicza połączenia modelu z internetem i innymi sieciami.

Jeśli model ma być połączony z internetem, list zaleca dopasować zakres jego dozwolonych działań do ograniczonej możliwości przewidzenia, czy doprowadzą one do awarii bezpieczeństwa. To kryterium wiąże poziom dostępu z tym, jak trudno przewidzieć skutki działań modelu.

Organ i standardy dopiero w propozycji

Sygnatariusze proponują powołanie międzynarodowego organu, który opracowywałby dobre praktyki w zakresie zgodności działania modeli z zamierzonymi celami oraz zabezpieczeń pozwalających na szerszy dostęp niż izolacja sieciowa. Miałby też rejestrować i śledzić przypadki niepowodzeń w zabezpieczeniach. List postuluje zgłaszanie takich incydentów organowi, a z czasem również ich upublicznianie.

Dokument wskazuje, że incydenty mogą wiązać się zarówno z problemami z dostosowaniem działania modelu do zamierzonych celów, jak i z niedociągnięciami w praktykach cyberbezpieczeństwa. Dlatego zaleca równoległą pracę nad lepszym dopasowaniem modeli i mocniejszym sandboxowaniem, czyli uruchamianiem ich w odizolowanym środowisku. Powołanie organu i te zasady są propozycjami zawartymi w liście.

Wcześniejszy tekst NeoTeo szerzej omawia apel o międzynarodowy nadzór nad zaawansowaną AI.