Ein KI-Agent ist nach Einschätzung der Europäischen Kommission in der Regel ein KI-System; eine eigene Rechtskategorie für Agenten kennt die EU-KI-Verordnung nicht. Welche Pflichten gelten, hängt vor allem vom Einsatzzweck, der Risikoklasse und der Rolle der beteiligten Organisationen ab.
Für die Praxis zählt deshalb nicht allein, ob ein System als „Agent“ bezeichnet wird. Entscheidend ist, was es tun soll und wer es anbietet oder einsetzt.
Welche Pflichten gelten bereits, welche folgen später?
Die Regeln der EU-KI-Verordnung greifen zu unterschiedlichen Zeitpunkten. Artikel 50 gilt seit dem 2. August 2026; die Hochrisikovorschriften der Anhänge III und I folgen zu späteren Terminen.
| Datum | Geltung |
| 2. Februar 2025 | Die Verbote bestimmter KI-Praktiken und die Vorschriften zur KI-Kompetenz begannen zu gelten. |
| 2. August 2025 | Die Pflichten für KI-Modelle mit allgemeinem Verwendungszweck (GPAI-Modelle) begannen zu gelten. |
| 27. Juli 2026 | Der Digital Omnibus trat in Kraft und änderte den Zeitplan für Hochrisiko-KI. |
| 2. August 2026 | Artikel 50 gilt für erfasste Transparenzpflichten. Die Kommission bezieht Agenten ein, die für den Kontakt mit natürlichen Personen oder für die Erzeugung von Inhalten bestimmt sind. |
| 2. Dezember 2027 | Die Hochrisikovorschriften für Systeme nach Anhang III sollen gelten. |
| 2. August 2028 | Die Hochrisikovorschriften für KI in regulierten Produkten nach Anhang I sollen gelten. |
Artikel 50 bündelt verschiedene Transparenzpflichten. Ist ein KI-System dafür bestimmt, direkt mit Menschen zu interagieren, muss sein Anbieter sie grundsätzlich darüber informieren, dass sie mit einer KI interagieren. Das gilt nicht, wenn der KI-Einsatz unter den Umständen offensichtlich ist. Für bestimmte generative Systeme gelten außerdem maschinenlesbare Kennzeichnungspflichten. Bei Systemen, die bereits auf dem Markt sind, läuft für die Pflichten aus Artikel 50 Absatz 2 eine Übergangsfrist bis zum 2. Dezember 2026.
Risikoklasse und Rolle bestimmen die Pflichten
Ein KI-Agent wird nicht allein durch seine Autonomie oder den Zugriff auf Werkzeuge zum Hochrisikosystem. Maßgeblich sind sein vorgesehener Zweck und die gesetzlichen Kriterien. Dazu zählen bestimmte Anwendungen in der Personalrekrutierung, im Bildungsbereich, bei der Bewertung der Kreditwürdigkeit und in kritischen Infrastrukturen.
Für Hochrisikosysteme unterscheidet die Verordnung zwischen Anbietern und Betreibern. Die Pflichten stehen in der Verordnung (EU) 2024/1689.
| Regelbereich | Maßgebliche Prüfung oder Auslöser | Betroffene Rolle oder Ebene |
| Transparenz nach Artikel 50 | Vorgesehene direkte Interaktion mit Menschen oder Erzeugung von Inhalten; für bestimmte Pflichten gelten eigene Bedingungen. | Anbieter und, für bestimmte Offenlegungspflichten, Betreiber |
| Hochrisiko-Einstufung | Vorgesehener Zweck und Kriterien der Verordnung, nicht die Bezeichnung als Agent. | KI-System |
| Pflichten für Hochrisikosysteme | Einstufung als Hochrisiko-KI und jeweilige Funktion in der Wertschöpfungskette. | Anbieter und Betreiber mit unterschiedlichen Pflichten |
| Wechsel zur Anbieterrolle nach Artikel 25 | Bestimmte Fälle, in denen eine Organisation ein Hochrisikosystem unter eigenem Namen anbietet, wesentlich verändert oder seinen Zweck so ändert, dass es dadurch zum Hochrisikosystem wird. | Nachgelagerte Organisation, etwa ein Betreiber, Importeur oder Händler |
| Systemisches Risiko eines GPAI-Modells | Bewertung des Modells; Autonomie und Werkzeugzugriff sind dabei relevante Faktoren. | Anbieter des zugrunde liegenden GPAI-Modells |
Anbieter von Hochrisikosystemen müssen unter anderem Risikomanagement, Daten-Governance, technische Dokumentation, automatische Protokollierung, Konformitätsbewertung und Überwachung nach dem Inverkehrbringen sicherstellen. Betreiber müssen das System gemäß den Anweisungen verwenden, qualifizierte und befugte menschliche Aufsicht organisieren, den Betrieb überwachen und die ihrer Kontrolle unterliegenden Protokolle aufbewahren.
Wirksame menschliche Aufsicht umfasst bei Hochrisikosystemen die Möglichkeit, Ausgaben zu überprüfen, zu verwerfen oder zu übersteuern sowie den Betrieb bei Bedarf zu unterbrechen. Die Verordnung verlangt keine pauschale vorherige Freigabe jeder Aktion eines KI-Agenten.
Artikel 25 kann die Rolle eines nachgelagerten Unternehmens verändern. Wer ein Hochrisikosystem unter eigenem Namen auf den Markt bringt, es wesentlich verändert oder seinen Verwendungszweck so ändert, dass es dadurch als Hochrisikosystem eingestuft wird, kann selbst als Anbieter gelten. Nicht jede Anpassung löst diesen Rollenwechsel aus.
Das GPAI-Modell wird gesondert bewertet
Ein Agent kann ein GPAI-Modell nutzen; dessen Bewertung ist jedoch eine andere Frage als die Risikoklasse des Agentensystems. Autonomie und Zugriff auf Werkzeuge zählen zu den Faktoren, anhand derer geprüft wird, ob ein zugrunde liegendes GPAI-Modell ein systemisches Risiko birgt. Daraus folgt keine automatische Einstufung jedes Agenten oder jedes Modells als systemisch riskant.
Die Europäische Kommission bezeichnet ihre agentenspezifischen Hinweise als vorläufig. Für die Einordnung eines konkreten Systems bleiben dessen Zweck und die Rollen der beteiligten Organisationen entscheidend.
Pflichten nach der KI-Verordnung entscheiden nicht allein über Schadenersatz
Die EU-KI-Verordnung lässt bestehende Rechte und Rechtsbehelfe nach Unionsrecht und nationalem Recht, einschließlich Ansprüchen auf Ersatz von Schäden, unberührt. Die Pflichten eines Anbieters oder Betreibers nach der Verordnung bestimmen daher für sich genommen nicht, wer im konkreten Schadensfall Ersatz leisten muss.
