Microsoft ogłosił 19 października 2026 r. Guardian Agents, czyli agentów nadzorujących inne agenty AI w ramach Project Perception. Według opisu firmy mają analizować zmiany ryzyka i pomagać ograniczać działania agentów w granicach zasad ustalonych przez ludzi. Kontrole mają działać poza samym modelem, a nie polegać na tym, że model sam pilnuje swoich uprawnień.
Jak Microsoft opisuje rolę Guardian Agents
Agent AI może korzystać z firmowych danych i narzędzi, by wykonywać zadania. Microsoft wskazuje, że taki agent może popełnić błąd, zostać zmanipulowany lub przejęty. Guardian Agents mają nadzorować działanie agentów, badać przyczyny zmian ryzyka oraz zalecać lub stosować ograniczenia. Microsoft nie przedstawia agentów jako z natury złośliwych.
Tożsamość, uprawnienia i granice działania
Microsoft opisuje oddzielną tożsamość dla każdego agenta, niezależną od tożsamości pracownika, który go uruchamia lub sponsoruje. Agent ma zaczynać bez uprawnień albo z ich minimalnym zakresem. Dostęp powinien obejmować zasoby potrzebne do konkretnego zadania i obowiązywać przez czas jego wykonywania, zamiast automatycznie przejmować stałe uprawnienia pracownika.
Microsoft Execution Containers to opisane przez firmę środowiska izolowane, czyli piaskownice z dostępem do zasobów kontrolowanym przez reguły. Granica egzekwowania tych reguł znajduje się poza zasięgiem agenta. Dzięki temu kontrola dostępu nie zależy wyłącznie od decyzji modelu.
Jak zmiana ryzyka może ograniczyć działanie agenta
Dynamic Agent Risk to ciągła ocena ryzyka, uwzględniająca sygnały dotyczące tożsamości, danych, urządzeń końcowych, chmury, sieci, środowiska uruchomieniowego i aktywności agenta. Microsoft wymienia też zmianę celu lub odejście od intencji zadania. Ocena ma więc zmieniać się wraz z kontekstem, a nie być jednorazowym wynikiem przy uruchomieniu.
Dynamic Conditional Access opisuje sposoby dostosowania uprawnień do takiej oceny. Microsoft podaje różne możliwe reakcje, od ograniczenia dostępu po zatrzymanie działania:
| Działanie | Opisany skutek |
| Zablokowanie zapisu | Agent może zachować dostęp do odczytu, ale nie może zapisywać zmian. |
| Ograniczenie uprawnień | Dostęp agenta do zasobów lub ścieżek sieciowych może zostać zawężony. |
| Wymaganie akceptacji człowieka | Wykonanie działania może wymagać zweryfikowanej zgody człowieka. |
| Izolacja środowiska | Środowisko uruchomieniowe agenta może zostać odizolowane. |
| Zatrzymanie wykonania | Działanie agenta może zostać przerwane. |
Nie każda zmiana ryzyka musi więc oznaczać natychmiastowe zatrzymanie agenta. W opisanym przez Microsoft przykładzie agenta obsługującego wydatki można zachować bezpieczny odczyt, jednocześnie blokując zapisy lub zatwierdzanie operacji, a następnie ograniczyć dostęp albo odizolować środowisko.
Zasady pozostają po stronie ludzi
Ludzie mają określać cele, reguły i granice wymaganej akceptacji, a także zachowywać kontrolę nad decyzjami o istotnych skutkach. Guardian Agents mają prowadzić nadzór i reagować w ramach tych zasad. Wcześniejszy tekst NeoTeo omawia odrębną propozycję Satyi Nadelli, by uprawniona osoba mogła zatrzymać model AI.
Microsoft przedstawia Project Perception jako szerszy system agentów bezpieczeństwa: czerwone agenty badają możliwe ataki, niebieskie je analizują, a zielone naprawiają problemy i wzmacniają zabezpieczenia. Strona produktu Microsoftu oznacza Project Perception jako system w fazie preview. To opis statusu szerszego projektu, podczas gdy Guardian Agents Microsoft ogłosił jako element swojego podejścia do nadzoru nad agentami.
