De AI Act geeft AI-agenten geen aparte juridische status: volgens de Europese Commissie zijn het doorgaans AI-systemen, en soms speelt ook een model voor algemene doeleinden (GPAI-model) mee. De toepasselijke verplichtingen hangen af van het beoogde gebruik, de risicoklasse en de rol van de betrokken organisaties.
Voor wie een agent ontwikkelt of inzet, betekent dat dat één etiket niet volstaat. Je moet kijken naar wat het systeem doet, wie het aanbiedt en wie het gebruikt.
Hoe de AI Act AI-agenten behandelt
‘AI-agent’ is geen wettelijk gedefinieerde categorie. De Europese Commissie gebruikt de term voor uiteenlopende systemen en zegt dat agenten doorgaans onder de definitie van een AI-systeem vallen. De specifieke uitleg van de Commissie over agenten is voorlopig.
De Verordening (EU) 2024/1689 beoordeelt systemen aan de hand van hun beoogde doel en de wettelijke criteria. Autonomie of toegang tot hulpmiddelen maakt een agent dus niet op zichzelf hoog risico. Dezelfde techniek kan onder andere regels vallen wanneer zij voor een ander doel wordt ingezet.
Transparantie en toepassingsdata
Sinds 2 augustus 2026 gelden de transparantieregels van artikel 50 voor de systemen die binnen de voorwaarden van dat artikel vallen. De Europese Commissie noemt agenten die bedoeld zijn om met natuurlijke personen te communiceren of inhoud te genereren.
Artikel 50 bevat verschillende verplichtingen. Aanbieders moeten mensen laten weten dat ze met AI communiceren, behalve wanneer dat in de omstandigheden al duidelijk is. Aanbieders van generatieve systemen moeten daarnaast AI-gegenereerde output machineleesbaar markeren. Gebruiksverantwoordelijken hebben afzonderlijke openbaarmakingsplichten voor bepaalde deepfakes en teksten over zaken van algemeen belang.
| Datum | Mijlpaal |
| 2 februari 2025 | Verboden AI-praktijken en bepalingen over AI-geletterdheid werden van toepassing. |
| 2 augustus 2025 | Verplichtingen voor GPAI-modellen werden van toepassing. |
| 27 juli 2026 | De Digital Omnibus trad in werking en wijzigde de planning voor hoog-risicosystemen. |
| 2 augustus 2026 | De AI Act werd algemeen van toepassing; ook de transparantieregels van artikel 50 gelden sinds deze datum voor gedekte systemen. |
| 2 december 2026 | Overgangstermijn voor de markeer- en detectieverplichting uit artikel 50(2) voor systemen die al op de markt waren. |
| 2 december 2027 | De regels voor hoog-risicosystemen uit bijlage III gaan gelden. |
| 2 augustus 2028 | De regels uit bijlage I gaan gelden voor hoog-risico-AI die in gereguleerde producten is ingebouwd. |
De regels over transparantie en die over hoog risico hebben dus verschillende voorwaarden. Een melding dat iemand met AI praat, maakt een systeem niet automatisch hoog risico.
Risicoklasse bepaalt welke rolverplichtingen gelden
| Regelgebied | Relevante voorwaarde | Betrokken partij of systeem |
| Verboden praktijken | De praktijk voldoet aan de voorwaarden van artikel 5, zoals bepaalde vormen van schadelijke manipulatie of uitbuiting van kwetsbaarheden. | De partij die de verboden praktijk uitvoert. |
| Transparantie, artikel 50 | Het systeem is bedoeld om rechtstreeks met mensen te communiceren, of valt onder de regels voor generatieve output en specifieke openbaarmakingen. | Aanbieders en, voor bepaalde openbaarmakingen, gebruiksverantwoordelijken. |
| Hoog risico | Het beoogde doel valt onder de wettelijke criteria voor hoog-risicosystemen. | Aanbieders en gebruiksverantwoordelijken van het betreffende systeem. |
| Systeemrisico van een GPAI-model | Een modelbeoordeling weegt onder meer autonomie en toegang tot hulpmiddelen mee. | De aanbieder van het onderliggende GPAI-model. |
Voor hoog-risicosystemen hebben aanbieders en gebruiksverantwoordelijken verschillende taken. Aanbieders moeten onder meer risico’s beheren, gegevensbeheer en technische documentatie regelen, logboeken bijhouden en aan de toepasselijke conformiteitsbeoordeling en monitoring na marktintroductie voldoen. Gebruiksverantwoordelijken moeten het systeem volgens de instructies gebruiken, bevoegd en deskundig menselijk toezicht organiseren, de werking monitoren en logboeken onder hun controle bewaren.
Dat toezicht kan betekenen dat een mens uitkomsten beoordeelt, negeert of aanpast, of de werking onderbreekt wanneer dat nodig is. De verordening schrijft niet voor dat iemand elke handeling van elke agent vooraf moet goedkeuren.
Wanneer een partij verderop in de keten aanbieder wordt
Artikel 25 kan een distributeur, importeur, gebruiksverantwoordelijke of andere partij als aanbieder van een hoog-risicosysteem behandelen wanneer die partij het systeem onder eigen naam of merk op de markt brengt, het ingrijpend wijzigt, of het beoogde doel verandert waardoor het systeem hoog risico wordt. Niet iedere aanpassing leidt tot zo’n rolwijziging; de wettelijke voorwaarden moeten van toepassing zijn.
De beoordeling van een GPAI-model staat los van die van de agent
Een GPAI-model is een AI-model voor algemene doeleinden. Bij de beoordeling of zo’n model systeemrisico oplevert, kunnen autonomie en toegang tot hulpmiddelen meewegen. Dat is een beoordeling op modelniveau. Die factoren maken niet automatisch iedere agent of ieder model tot systeemrisico-AI.
Aanbieders van modellen die als systeemrisico worden aangewezen, krijgen aanvullende verplichtingen, waaronder modelbeoordelingen, risicobeperking, incidentmelding en cyberbeveiliging. Dat staat naast de beoordeling van de agent als AI-systeem.
AI Act-plichten bepalen niet zelfstandig de schadevergoeding
De AI Act kent verschillende verplichtingen toe aan aanbieders en gebruiksverantwoordelijken, maar bepaalt op zichzelf niet wie een persoon vergoedt voor concrete schade door een agent. De verordening laat bestaande rechten en rechtsmiddelen uit EU- en nationaal recht, waaronder schadevergoedingsrechten, intact.
