14 października 2026 r. podczas szczytu AI w Dublinie Demis Hassabis ostrzega, że incydenty związane z agentami AI mogą stać się poważne w ciągu roku lub dwóch, jeśli branża, firmy i rządy nie wzmocnią zabezpieczeń. Przewodniczący Google DeepMind ocenił, że dotychczasowe incydenty nie były poważne, ponieważ systemy nie osiągnęły jeszcze wystarczających możliwości. To warunkowa prognoza, nie zapowiedź konkretnego zdarzenia. Depesza Reutersa opublikowana przez Yahoo i relacja AFP podają przybliżony, uzależniony od dalszych działań horyzont.

Jakie incydenty przywołano

Reuters wymienił włamania do sieci firmowych oraz informację Anthropic, że model AI przekazał policji fałszywy trop dotyczący zabójstwa. AFP opisywała z kolei incydenty podczas testów z udziałem modeli OpenAI i Anthropic. Relacja Reutersa nie podawała szczegółów technicznych tych przypadków.

Jakich zabezpieczeń chciał Hassabis

Hassabis proponował, by nowe modele najpierw testować w odizolowanych, odłączonych od sieci środowiskach. Opowiadał się też za użyciem AI do wykrywania i naprawiania luk w oprogramowaniu, zanim systemy trafią do powszechnego użytku. Relacje AFP i Cybernews przypisują mu również postulat czerpania z doświadczeń biologii i energetyki jądrowej w zakresie zabezpieczeń i ograniczania ryzyka.

W kwestii certyfikacji Hassabis proponował system dostosowujący wymagania do poziomu ryzyka i zmian w technologii. Reuters, w depeszy opublikowanej przez Yahoo, relacjonował, że taki proces powinien móc szybko się zmieniać, nie hamując przy tym innowacji.

Propozycje Brada Smitha i Henna Virkkunen

Brad Smith, prezes Microsoftu, opowiadał się za mechanizmami awaryjnego wyłączania lub spowalniania systemów AI, szczególnie tych zarządzających infrastrukturą krytyczną lub systemami zautomatyzowanymi. Relacja AFP opublikowana przez „La Nación” przypisuje tę propozycję Smithowi.

Henna Virkkunen, wiceprzewodnicząca Komisji Europejskiej, powiedziała, że Komisja wysłała do największych firm AI prośby o informacje na temat stosowanych przez nie zabezpieczeń. Relacja AFP opublikowana przez „El Nuevo Herald” przypisuje tę informację Virkkunen.