15 października 2026 r. NBC News opublikował relację Joanny Stern z ekskluzywnego wywiadu z Satya Nadellą, prezesem Microsoftu. Według NBC News Nadella chce, by Windows był najbezpieczniejszym i najpotężniejszym systemem operacyjnym dla agentów AI, a zarazem ostrzega przed bezkrytycznym zaufaniem do takich agentów.
NeoTeo opisywało wcześniej propozycję Nadelli dotyczącą awaryjnego hamulca dla modeli AI.
Co oznacza ryzyko wewnętrzne związane z agentem AI?
Nie każdy problem z agentem oznacza celowe nadużycie. Poradnik Identra rozróżnia przypadkowe ujawnienie danych w niezatwierdzonej usłudze, świadome niewłaściwe użycie przyznanego dostępu, przejęcie konta oraz zmanipulowanie agenta wrogimi instrukcjami. Nietypowe działanie jest tropem do zbadania, a nie samoistnym dowodem winy.
Aby ustalić, co się wydarzyło, warto odtworzyć, jakie dane zostały użyte, dokąd trafiły, jakie instrukcje otrzymał agent, jaki był cel biznesowy i kto odpowiadał za sesję. Te szczegóły pomagają odróżnić pomyłkę od nadużycia albo przejęcia konta. Identra opisuje te scenariusze i zalecane zabezpieczenia w swoim poradniku o ryzyku wewnętrznym związanym z AI.
Jak ograniczyć ryzyko dostępu?
Identra zaleca zasadę najmniejszych uprawnień: agent i połączone aplikacje powinny mieć dostęp tylko do zasobów potrzebnych do danego zadania. Dostęp do odczytu warto oddzielić od prawa do eksportu danych, a udostępnianie treści na zewnątrz uzależnić od zgody człowieka. Samo zatwierdzenie narzędzia AI nie oznacza, że każda wysłana do niego informacja lub instrukcja jest dozwolona. Wyłączenie trenowania modelu również nie rozstrzyga o retencji treści, dostępie do konta ani udostępnianiu danych.
Przydatny ślad audytowy powinien łączyć użytkownika, konto, agenta, zasób, działanie i jego rezultat. Dzięki temu organizacja może sprawdzić nie tylko, że coś się stało, lecz także kto lub co miało dostęp do danego zasobu i jaki był skutek działania.
Ed Jennings, dyrektor generalny Darktrace, podobnie podkreślał znaczenie obserwowania zachowania agentów i działań wykraczających poza ich wyznaczoną rolę. W rozmowie Bloomberg Tech opublikowanej 24 września 2026 r. omawiał też AI Signal Labs Darktrace, przedstawiając perspektywę dostawcy cyberbezpieczeństwa.
Co ankieta BeyondID mówi o gotowości i monitorowaniu?
W komunikacie z 25 czerwca 2025 r. BeyondID przedstawiło wyniki ankiety wśród liderów IT w USA. Organizacje deklarowały gotowość na wykorzystanie AI w obszarze bezpieczeństwa częściej, niż zgłaszały konkretne praktyki monitorowania i mapowania agentów. Komunikat BeyondID z wynikami ankiety podaje trzy miary:
| Wskaźnik | Wynik w ankiecie |
| Organizacje deklarujące gotowość na AI w obszarze bezpieczeństwa | 85% |
| Organizacje monitorujące dostęp lub zachowanie wdrożonych systemów AI | Mniej niż 50% |
| Organizacje regularnie mapujące agentów do zasobów krytycznych | 30% |
To wyniki ankiety BeyondID wśród liderów IT w USA, a nie pomiar wszystkich organizacji.
