13 października 2026 r. Reuters poinformował, że około 400 naukowców z 34 krajów zaapelowało o międzynarodowy nadzór nad zaawansowaną sztuczną inteligencją zdolną do działań w cyberprzestrzeni. Proponowany organ miałby ustalać standardy zabezpieczania takich systemów i prowadzić rejestr poważnych incydentów. To apel, nie utworzona instytucja ani przyjęte zasady. Relacja Reutersa przedrukowana przez Idaho Business Review wymienia wśród sygnatariuszy Geoffrey Hinton i Yoshua Bengio.

Jakie zadania miałby międzynarodowy organ?

Według relacji Reutersa organ miałby opracować wspólne dla branży standardy zabezpieczania modeli i nadzorować ich przestrzeganie. Miałby też prowadzić rejestr poważnych incydentów związanych z bezpieczeństwem; docelowo rejestr mógłby być publiczny.

Apel zakłada początkowe odizolowanie najbardziej zaawansowanych modeli od zewnętrznych sieci. Taka izolacja, określana też jako air gap, ma ograniczyć połączenia modelu z otoczeniem. Naukowcy postulowali również niezależny nadzór. Organizacje rozwijające lub testujące modele zdolne do działań cybernetycznych miałyby natychmiast stosować rygorystyczne zabezpieczenia, podczas gdy rządy pracowałyby nad formalniejszym systemem nadzoru.

Geoffrey Hinton, jeden z sygnatariuszy, wcześniej proponował kontrolę bezpieczeństwa systemów AI przed ich premierą. Opis tej odrębnej propozycji Hintona dotyczy oceny przed udostępnieniem produktu; apel naukowców skupia się na międzynarodowych standardach zabezpieczeń i zgłaszaniu incydentów.

Jak apel wypada na tle innych inicjatyw?

Osobny apel, opisany przez Naiz, podpisały 22 państwa i instytucje. Wzywały do utrzymania ludzkiego kierownictwa nad AI i ustanowienia wspólnych zasad, a także do rozważenia utworzenia międzynarodowej instytucji. Relacja Naiz opisuje więc odrębną inicjatywę dyplomatyczną, nie apel naukowców.

W Unii Europejskiej art. 14 aktu o AI dotyczy skutecznego nadzoru człowieka nad systemami wysokiego ryzyka. Zgodnie z omówieniem tego przepisu osoby nadzorujące powinny rozumieć możliwości i ograniczenia systemu, móc zignorować jego wynik lub przerwać działanie, a zakres nadzoru ma odpowiadać poziomowi ryzyka i autonomii. Omówienie art. 14 przedstawia obowiązki dotyczące określonej kategorii systemów w UE, a nie globalny organ proponowany przez naukowców.

Reuters opisał też dobrowolne porozumienie dotyczące bezpieczeństwa, podpisane przez Anthropic, OpenAI, Google, Meta, xAI i Nvidia mniej więcej miesiąc przed apelem. Według tej relacji porozumienie nie ma formalnego mechanizmu egzekwowania.