AI Act UE nie ustanawia osobnej kategorii prawnej „agenta AI”. Komisja Europejska wyjaśnia, że istniejące definicje systemu AI i modelu AI ogólnego przeznaczenia mogą obejmować agentów — zależnie od konkretnego przypadku. Jej rozważania dotyczące agentów mają charakter wstępny, a sama nazwa produktu nie przesądza, które przepisy będą miały zastosowanie. Komisja Europejska wyjaśnia, jak AI Act obejmuje agentów.
Jak Komisja ujmuje agentów AI?
Komisja opisuje agenta jako system, który może odbierać i przetwarzać informacje z otoczenia, a następnie działać na ich podstawie. Zazwyczaj agent obejmuje model AI ogólnego przeznaczenia (GPAI, od angielskiego general-purpose AI) oraz interfejs będący częścią systemu AI. To opis typowej konstrukcji, nie uniwersalna definicja: określenie „agent” jest używane w różny sposób, a granice tego pojęcia wciąż się kształtują.
Dlatego kluczowe jest to, jak działa dany system i do czego jest przeznaczony, a nie to, czy jego twórca nazywa go agentem. Istniejące przepisy mogą mieć zastosowanie, ale nie każdy agent automatycznie podlega temu samemu zestawowi obowiązków.
Kiedy mogą mieć zastosowanie poszczególne przepisy?
Komisja wskazuje kilka odrębnych ścieżek. Ich warunki i przedmiot różnią się w zależności od tego, czy chodzi o praktyki systemu, jego przejrzystość, klasyfikację jako systemu wysokiego ryzyka, czy ryzyko modelu GPAI.
| Ścieżka | Czego dotyczy | Warunek lub skutek |
| Zakazane praktyki, art. 5 | Szkodliwej manipulacji i wykorzystywania podatności | Gdy zakazane praktyki mogą z uzasadnionym prawdopodobieństwem spowodować poważną szkodę, potrzebne mogą być zabezpieczenia w projekcie i rozwoju systemu. |
| Przejrzystość, art. 50 | Zasad przejrzystości dotyczących agenta | Od 2 sierpnia 2026 r., jeśli agent jest przeznaczony do interakcji z osobami fizycznymi lub generowania treści. |
| System wysokiego ryzyka | Dodatkowych wymagań rozdziału III | Wymagania mają zastosowanie, jeśli agent zostanie sklasyfikowany jako system AI wysokiego ryzyka. |
| Model GPAI o ryzyku systemowym | Ryzyka związanego z modelem leżącym u podstaw agenta | Autonomia i korzystanie z narzędzi mogą mieć decydujące znaczenie przy wyznaczaniu modelu o ryzyku systemowym. Dostawców takich modeli dotyczą obowiązki zarządzania ryzykiem uwzględniające te cechy. |
Przejrzystość z art. 50 zależy więc od przeznaczenia agenta: reguły te obejmują systemy zaprojektowane do interakcji z osobami fizycznymi lub generowania treści. Sama obecność modelu GPAI nie oznacza natomiast, że cały agent jest systemem wysokiego ryzyka.
Ocena ryzyka systemowego dotyczy z kolei modelu GPAI, a nie klasyfikacji agenta jako systemu wysokiego ryzyka. Autonomia i używanie narzędzi mogą mieć znaczenie dla tej odrębnej oceny; nie zastępują klasyfikacji systemu.
Oceniając agenta, oddziel klasyfikację całego systemu od oceny ryzyka jego modelu — to dwie różne ścieżki regulacyjne.
Co oznaczają wstępne wytyczne Komisji?
Komisja określa swoje rozważania regulacyjne dotyczące agentów jako wstępne. AI Office monitoruje rozwój tej technologii i może rozważyć dalsze działania, jeśli okażą się potrzebne. Wytyczne wyjaśniają, jak istniejące kategorie mogą obejmować agentów, ale nie przesądzają klasyfikacji konkretnego systemu.