Der EU AI Act führt „KI-Agent“ nicht als eigene Rechtskategorie. Nach Einschätzung der Europäischen Kommission können bestehende Regeln für KI-Systeme und KI-Modelle mit allgemeinem Verwendungszweck (GPAI-Modelle) auf Agenten zutreffen. Welche Pflichten gelten, hängt unter anderem davon ab, was das System tun soll und wie es eingestuft wird. Die Kommission bezeichnet ihre Überlegungen zu Agenten als vorläufig.

Für die rechtliche Einordnung zählt nicht das Etikett „KI-Agent“, sondern welche Funktion das System erfüllt und welche Bedingungen für die jeweilige Regel gelten.

Was die Kommission unter einem KI-Agenten versteht

Ein KI-Agent verarbeitet typischerweise Eingaben aus seiner Umgebung und handelt auf Grundlage dieser Verarbeitung. Die Kommission beschreibt solche Systeme meist als Kombination aus einem GPAI-Modell und einer Schnittstelle, die Teil eines KI-Systems ist. Das ist eine typische Beschreibung, keine einheitliche Definition für jedes Produkt: Der Begriff wird unterschiedlich verwendet und ist im Gesetz nicht eigens definiert.

Damit kann ein Agent unter die vorhandenen Regeln für KI-Systeme oder GPAI-Modelle fallen. Der Name allein entscheidet aber nicht über seine rechtliche Einordnung.

Welche Regeln können für Agenten gelten?

Die Kommission beschreibt mehrere Wege, über die bestehende Vorschriften relevant werden können. Sie betreffen unterschiedliche Aspekte: das Verhalten eines KI-Systems, seine Einstufung als Hochrisiko-System oder das Risiko des zugrunde liegenden Modells.

RegelungsbereichWorauf er sich beziehtGenannte BedingungMögliche Folge
Verbotene Praktiken nach Artikel 5Das KI-System und seine AnwendungSchädliche Manipulation oder das Ausnutzen von Schwächen kann eine verbotene Praxis darstellen.Wenn solche Praktiken vernünftigerweise erheblichen Schaden verursachen können, können Schutzmaßnahmen bei Entwicklung und Gestaltung nötig sein.
Transparenz nach Artikel 50Agenten, die mit natürlichen Personen interagieren oder Inhalte erzeugen sollenDer Agent ist für mindestens einen dieser Zwecke bestimmt.Die Transparenzregeln gelten laut Kommission seit dem 2. August 2026.
Hochrisiko-Regeln in Kapitel IIIDas KI-SystemDer Agent wird als Hochrisiko-KI-System eingestuft.Für das System gelten zusätzliche Anforderungen aus Kapitel III.
Systemisches RisikoDas zugrunde liegende GPAI-ModellAutonomie und Werkzeugnutzung können für die Einstufung als Modell mit systemischem Risiko entscheidend sein.Anbieter solcher Modelle unterliegen Risikomanagementpflichten, die autonome Fähigkeiten und den Einsatz als Agent berücksichtigen.

Bei Artikel 50 kommt es auf die Zweckbestimmung an: Ein Agent muss dafür vorgesehen sein, mit Menschen zu interagieren oder Inhalte zu erzeugen. Die Transparenzregeln sind deshalb nicht pauschal für jede Nutzung eines Systems relevant.

Hochrisiko-System und systemisches Modellrisiko sind zwei verschiedene Einstufungen

Die Hochrisiko-Regeln beziehen sich auf das KI-System. Ob sie für einen Agenten gelten, hängt davon ab, ob das System als hochriskant eingestuft wird. Das systemische Risiko betrifft dagegen das zugrunde liegende GPAI-Modell. Dabei können dessen Autonomie und die Nutzung von Werkzeugen eine entscheidende Rolle spielen.

Die beiden Wege lassen sich nicht zu einer einzigen Einstufung zusammenfassen: Ein Agentensystem kann eine eigene Hochrisiko-Einstufung haben, während das Risiko des zugrunde liegenden Modells separat betrachtet wird. Anbieter von GPAI-Modellen mit systemischem Risiko müssen in ihrem Risikomanagement auch autonome Fähigkeiten und den agentischen Einsatz berücksichtigen.

Warum das Etikett „Agent“ nicht genügt

Wer einen Assistenten oder ein Automatisierungstool einordnet, sollte nicht allein auf dessen Produktnamen schauen. Entscheidend ist, welche Funktion das System erfüllt, wofür es vorgesehen ist und ob die Bedingungen einer konkreten Regel erfüllt sind. Die Kommission beschreibt die typischen Merkmale von Agenten ausdrücklich mit Vorbehalten, weil der Begriff verschiedene Systeme umfasst.

Ihre Überlegungen zur Regulierung von KI-Agenten seien vorläufig, erklärt die Kommission. Das AI Office beobachtet die Entwicklung und kann bei Bedarf weitere Strategien erwägen.