14 października 2026 r. podczas International AI Summit w Dublinie Demis Hassabis, współzałożyciel i prezes Google DeepMind, zaapelował o międzynarodowy organ ustalający standardy bezpiecznego rozwoju i użycia AI. Według relacji agencji EFE opublikowanej przez Diario de León proponowany system certyfikacji miałby być dynamiczny, proporcjonalny do wykrytego ryzyka i dostosowywać się do zmian technologii.
Wcześniej NeoTeo opisywało DeepMind Institute i debatę o AGI oraz związanych z nią ryzykach.
Jakie obawy przedstawił Hassabis?
Hassabis określił niedawne cyberincydenty z udziałem agentów AI jako wczesne sygnały ostrzegawcze. Wśród przykładów przytoczonych przez EFE znalazły się próby nieuprawnionego dostępu do systemów organizacji, manipulowanie stronami internetowymi w celu uzyskania ograniczonych informacji oraz fałszywy trop policyjny podczas automatycznego testu.
Hassabis ostrzegł też, że poważniejsze incydenty mogą nastąpić w ciągu kolejnego roku lub dwóch, jeśli sektor, firmy i rządy nie zwiększą wysiłków na rzecz bezpieczeństwa systemów AI. To jego prognoza, a nie opis pewnego rozwoju wydarzeń.
ISO/IEC 42001 i raport z 2026 r. mają inne zadania
Opublikowana 18 grudnia 2023 r. norma ISO/IEC 42001:2023 określa wymagania i wytyczne dotyczące ustanawiania, wdrażania, utrzymywania i doskonalenia systemu zarządzania AI w organizacji. Dotyczy procesów i polityk organizacyjnych, a nie technicznych szczegółów każdego modelu czy zastosowania. Organizacje mogą wybrać niezależną certyfikację potwierdzającą zgodność takiego systemu z normą, jak wyjaśnia ISO.
International AI Safety Report 2026 pełni jeszcze inną funkcję: to naukowa synteza dowodów o możliwościach AI, związanych z nią zagrożeniach i sposobach zarządzania ryzykiem, przygotowana z myślą o decydentach. W drugiej edycji uczestniczyło ponad 100 ekspertów, a panel doradczy nominowało ponad 30 państw i organizacji międzynarodowych. Raport nie formułuje konkretnych zaleceń politycznych.
| Instrument | Cel i przedmiot | Rodzaj instrumentu |
| Propozycja Demisa Hassabisa | Międzynarodowe standardy bezpiecznego rozwoju i użycia AI; certyfikacja zależna od wykrytego ryzyka | Proponowany organ międzynarodowy i dynamiczny model certyfikacji |
| ISO/IEC 42001:2023 | System zarządzania AI w organizacji | Opublikowana norma międzynarodowa; organizacja może wybrać niezależną certyfikację swojego systemu |
| International AI Safety Report 2026 | Synteza dowodów naukowych, która ma wspierać kształtowanie polityki | Raport ekspercki, nie norma ani system certyfikacji |
