Artikel 55 van de Europese AI-verordening verplicht aanbieders van AI-modellen voor algemene doeleinden met systeemrisico om ernstige incidenten zonder onnodige vertraging te melden aan het Europees AI-bureau en, waar passend, nationale bevoegde autoriteiten. De Gedragscode voor AI voor algemene doeleinden noemt concretere termijnen voor aanbieders die de afspraken daarin gebruiken. Artikel 73 regelt een afzonderlijke meldroute voor aanbieders van hoogrisico-AI-systemen.
Welke route geldt, hangt dus af van het soort aanbieder en AI-systeem. De termijnen van de Gedragscode en artikel 73 zijn niet automatisch van toepassing op een melding onder artikel 55.
Wat artikel 55 verplicht
Artikel 55, lid 1, onder c, geldt voor aanbieders van AI-modellen voor algemene doeleinden (GPAI-modellen) die als modellen met systeemrisico zijn aangemerkt. Zij moeten informatie over ernstige incidenten bijhouden, documenteren en zonder onnodige vertraging melden. Ook mogelijke corrigerende maatregelen vallen onder de meldplicht. De melding gaat naar het AI-bureau en, waar passend, naar nationale bevoegde autoriteiten.
De verordening schrijft voor artikel 55 geen vast aantal dagen voor. De termijn is ‘zonder onnodige vertraging’. De Europese Commissie zegt dat ernstige cyberincidenten die verband houden met een model of de fysieke infrastructuur ervan onder haar uitleg van ernstige incidenten vallen. Daaronder noemt ze cyberaanvallen en het ongeoorloofd buitmaken van modelgewichten.
De Gedragscode heeft eigen termijnen
De Gedragscode voor AI voor algemene doeleinden is een vrijwillige manier om naleving aan te tonen. De Europese Commissie staat ook andere passende manieren toe. De precieze termijnen hieronder zijn afspraken uit de Code, geen algemene wettelijke termijn voor alle aanbieders onder artikel 55:
- Bij een ernstig cyberincident meldt een aanbieder die deze Code-afspraken volgt het incident uiterlijk vijf dagen nadat die weet dat het model erbij betrokken is.
- Zolang het incident niet is opgelost, volgen updates ten minste elke vier weken.
- Het eindrapport volgt uiterlijk 60 dagen nadat het incident is opgelost.
- De aanbieder bewaart de documentatie vijf jaar, gerekend vanaf de latere van de documentatiedatum en de incidentdatum.
De termijn van vijf dagen geldt dus voor de specifieke melding van een ernstig cyberincident volgens de Code-afspraken. Artikel 55 zelf blijft het bredere criterium ‘zonder onnodige vertraging’ hanteren.
Artikel 73 is een andere meldroute
Artikel 73 geldt voor aanbieders van hoogrisico-AI-systemen. Zij melden ernstige incidenten aan de markttoezichthouder van de lidstaat waar het incident plaatsvond. Artikel 55 richt zich daarentegen op aanbieders van GPAI-modellen met systeemrisico en noemt het AI-bureau als ontvanger.
| Regeling | Voor wie | Ontvanger | Termijn | Juridische status |
| Artikel 55 | Aanbieders van GPAI-modellen met systeemrisico | AI-bureau en, waar passend, nationale bevoegde autoriteiten | Zonder onnodige vertraging | Wettelijke meldplicht |
| Gedragscode, maatregel 9.3 | Aanbieders die de Code-afspraken volgen, bij ernstige cyberincidenten | AI-bureau en, waar van toepassing, nationale bevoegde autoriteiten | Eerste melding binnen vijf dagen na kennis van betrokkenheid van het model; updates ten minste elke vier weken zolang het incident voortduurt; eindrapport binnen 60 dagen na oplossing | Vrijwillige nalevingsroute |
| Artikel 73 | Aanbieders van hoogrisico-AI-systemen | Markttoezichthouder van de lidstaat waar het incident plaatsvond | Meteen zodra een oorzakelijk verband of een redelijke waarschijnlijkheid daarvan is vastgesteld, en uiterlijk binnen 15 dagen; binnen twee dagen voor bepaalde wijdverspreide inbreuken of ernstige verstoringen van kritieke infrastructuur; binnen 10 dagen bij overlijden | Wettelijke meldplicht |
De termijnen in artikel 73 zijn maxima; de melding moet eerder plaatsvinden zodra aan de genoemde voorwaarde is voldaan. De termijn van twee dagen geldt voor specifieke gevallen, waaronder bepaalde wijdverspreide inbreuken en ernstige verstoringen van kritieke infrastructuur. Voor incidenten met een overlijden geldt de termijn van 10 dagen, onder de voorwaarden van het artikel. Artikel 73 verplicht aanbieders ook het incident direct te onderzoeken, risico’s te beoordelen, corrigerende maatregelen te nemen en met toezichthouders samen te werken.
Hoe cyberincidenten met een model worden beoordeeld
De Europese Commissie interpreteert ernstige incidenten onder artikel 55 als ernstige cyberincidenten die verband houden met een model of de fysieke infrastructuur ervan. Artikel 3 van de verordening noemt onder meer overlijden of ernstige gezondheidsschade, ernstige en onomkeerbare verstoring van kritieke infrastructuur, schending van verplichtingen uit EU-recht ter bescherming van grondrechten en ernstige schade aan eigendommen of het milieu als categorieën van ernstige incidenten.
Of artikel 55 ook geldt wanneer een model zelf als aanvaller optreedt, is een betwiste juridische uitleg. Een analyse van Lawfare redeneert dat dit onder de brede uitleg van de Commissie kan vallen. Die uitleg is geen rechterlijke uitspraak. De Commissie zegt dat alleen het Hof van Justitie van de Europese Unie de verordening bindend kan uitleggen.
Wat geldt voor modellen in ontwikkeling
Volgens de Europese Commissie geldt de AI-verordening doorgaans niet voor onderzoek, tests of ontwikkeling voordat een model op de markt wordt gebracht of in gebruik wordt genomen. Tegelijk kunnen sommige verplichtingen voor aanbieders van GPAI-modellen, waaronder risicobeoordeling en risicobeperking, betrekking hebben op modellen die voor de markt bestemd zijn terwijl ze nog in ontwikkeling zijn. Dat onderscheid maakt de toepassing op een ontwikkelmodel afhankelijk van de omstandigheden en de specifieke verplichting.
Dit artikel geeft algemene informatie. De beoordeling van een concreet incident hangt af van de status van het model, de feiten en de toepasselijke meldroute.
