Jak relacjonuje AFP w materiale opublikowanym przez ABC Color, podczas szczytu AI w Dublinie 14 października Demis Hassabis, prezes Google DeepMind, ostrzega, że poważne incydenty z udziałem agentów AI mogą wydarzyć się w ciągu roku lub dwóch, jeśli firmy i rządy nie poprawią zabezpieczeń.
Hassabis ocenia, że zaobserwowane dotąd przypadki utraty kontroli nad agentami nie były poważne, ale stanowiły sygnały ostrzegawcze. Zaleca, by nowe modele najpierw testować w odizolowanych środowiskach bez dostępu do internetu, czyli sandboxach.
Jak Google DeepMind opisuje kontrolę agentów
W opublikowanym 18 czerwca 2026 r. opisie AI Control Roadmap Google DeepMind przedstawia zabezpieczenia dla własnych agentów. Firma łączy tradycyjne środki ochrony z monitorowaniem zachowania, zaufanymi nadzorcami AI i stopniowym przyznawaniem uprawnień na podstawie zweryfikowanego zachowania. Podejście uwzględnia też możliwość, że agent może działać niezgodnie z założeniami, unikać monitorowania lub próbować wykonać szkodliwe działanie.
Reakcja ma zależeć od ryzyka. W przypadku odwracalnych działań o niskim ryzyku Google DeepMind opisuje opóźniony przegląd i działania naprawcze. Szczególnie niebezpieczne działania, takie jak poważne cyberataki, mają być powstrzymywane w czasie rzeczywistym. Firma wskazuje trzy miary monitorowania: zakres ruchu objętego nadzorem, odsetek niezgodnych zachowań wychwyconych przez system oraz czas reakcji. To model kontroli przedstawiony przez Google DeepMind, nie ogólna recepta dla wszystkich agentów.
Co Google DeepMind podaje o monitorowaniu
W swoim opisie z 18 czerwca 2026 r. Google DeepMind podaje, że wewnętrzny prototyp przeanalizował 1 000 000 zadań agentów programistycznych i pomógł stworzyć działający monitor dla agenta Gemini Spark. Firma informuje też, że większość oznaczonych zdarzeń w jej danych wynikała z błędnej interpretacji lub nadmiernej gorliwości, a nie z wrogich zamiarów.
Jakie zagrożenia mogą dotyczyć agentów AI
Agent AI łączy model, narzędzia i pętlę działania: wyniki kolejnych kroków wpływają na następne. W anglojęzycznym materiale IBM Technology Jeff Crume omawia między innymi przejęcie celu agenta, jego niekontrolowane działanie oraz zatruwanie pamięci — zagrożenia, które pomagają zrozumieć, dlaczego samo testowanie modeli nie wyczerpuje tematu bezpieczeństwa.
