Artikel 50 der EU-KI-Verordnung verlangt keinen sichtbaren Hinweis unter jedem KI-generierten Social-Media-Beitrag. Anbieter müssen bestimmte KI-Ausgaben maschinenlesbar kennzeichnen; Betreiber müssen dem Publikum nur in gesetzlich festgelegten Fällen offenlegen, dass Inhalte künstlich erzeugt oder verändert wurden. Die Vorschriften gelten seit dem 2. August 2026.
Eine Plattformkennzeichnung wie Metas „AI info“ ist davon getrennt: Sie folgt der Kennzeichnungsmethode der Plattform und ist nicht automatisch die Offenlegungspflicht nach EU-Recht.
Was eine Plattformkennzeichnung aussagt
Meta zufolge kann das Label „AI info“ erscheinen, wenn das Unternehmen branchenübliche Hinweise auf KI in einem Bild erkennt oder jemand beim Hochladen angibt, dass ein Inhalt mit KI erzeugt wurde. Meta sagt, seine Kennzeichnungsmethode werde weiterentwickelt und erfasse möglicherweise nicht alle KI-bearbeiteten Inhalte. Ein Label gibt daher wieder, worauf Metas Verfahren reagiert hat; es ist keine vollständige forensische Feststellung über die Entstehung einer ganzen Datei. Meta beschreibt die Kennzeichnungsmethode und ihre Grenzen.
Ein Plattformhinweis und eine gesetzliche Offenlegung können beide sichtbar sein, beruhen aber auf unterschiedlichen Regeln und Auslösern.
Meta veröffentlichte außerdem Zahlen für den Zeitraum vom 1. bis 29. Oktober 2024. Das Unternehmen meldete mehr als 360 Millionen Facebook-Inhalte und mehr als 330 Millionen Instagram-Inhalte, bei denen das Label angesehen wurde; bei Threads waren es mehr als 730.000 Inhalte. Separat zählte Meta über 380 Milliarden Label-Einblendungen auf Facebook, mehr als eine Billion auf Instagram und über 150 Millionen auf Threads. Eine Einblendung zählt, wenn das Label erscheint; die Zahlen bezeichnen keine einzelnen Personen. Meta meldete zudem knapp 6 Millionen Facebook-Inhalte, über 13 Millionen Instagram-Inhalte und knapp 70.000 Threads-Inhalte mit einer Aktion am Label, etwa einem Klick für weitere Informationen. Diese Momentaufnahme beschreibt Metas eigene Zählung für den genannten Zeitraum.
Anbieter markieren, Betreiber legen offen
Artikel 50 unterscheidet zwischen Anbietern von KI-Systemen und Betreibern, die ein KI-System verwenden oder Inhalte damit veröffentlichen. Anbieter müssen synthetische Audio-, Bild-, Video- und Textausgaben so markieren, dass sie maschinenlesbar als künstlich erzeugt oder verändert erkennbar sind. Eine maschinenlesbare Markierung ist nicht dasselbe wie ein für das Publikum sichtbarer Hinweis.
Für Betreiber hängt die sichtbare Offenlegung davon ab, welcher Inhalt veröffentlicht wird und unter welchen Umständen:
| Verantwortliche Rolle | Pflicht nach Artikel 50 | Auslöser und Wirkung |
| Anbieter eines KI-Systems | Bestimmte synthetische Audio-, Bild-, Video- und Textausgaben maschinenlesbar markieren | Die Markierung soll die Erkennung künstlich erzeugter oder veränderter Ausgaben ermöglichen. |
| Betreiber, der ein Deepfake veröffentlicht oder zugänglich macht | Klar offenlegen, dass der Inhalt künstlich erzeugt oder verändert wurde | Gilt für ein Deepfake, das Menschen, Gegenstände, Orte, Einrichtungen oder Ereignisse so nachbildet, dass es fälschlich echt oder wahrheitsgetreu wirkt. Der Hinweis muss spätestens bei der ersten Begegnung des Publikums mit dem Inhalt erfolgen. |
| Betreiber, der bestimmte öffentliche Texte veröffentlicht | KI-generierte oder veränderte Texte kennzeichnen | Gilt, wenn der Text die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren soll und weder einer substanziellen menschlichen Prüfung noch redaktioneller Kontrolle mit übernommener redaktioneller Verantwortung unterlag. |
Die Erläuterungen der Europäischen Kommission zu Artikel 50 beschreiben die Pflichten von Anbietern und Betreibern sowie deren Ausnahmen. Für künstlerische, kreative, satirische oder fiktionale Werke gilt eine angepasste Offenlegung, die den Genuss des Werks nicht beeinträchtigen soll.
Wann die Offenlegungspflicht für Betreiber greift
Ein Deepfake im Sinne der Verordnung ist ein KI-generiertes oder manipuliertes Bild, eine entsprechende Audioaufnahme oder ein Video, das bestehende Personen, Gegenstände, Orte, Einrichtungen oder Ereignisse nachbildet und fälschlich echt oder wahrheitsgetreu wirken würde. Für einen solchen Inhalt muss der Betreiber klar auf die künstliche Erzeugung oder Veränderung hinweisen, spätestens wenn das Publikum erstmals damit konfrontiert wird.
Bei Texten greift die Pflicht enger: Der Inhalt muss die Öffentlichkeit über eine Angelegenheit von öffentlichem Interesse informieren sollen. Außerdem entfällt die Offenlegungspflicht, wenn der Text substanziell von einem Menschen geprüft oder redaktionell kontrolliert wurde und jemand redaktionelle Verantwortung dafür übernimmt. Die bloße Unterstützung beim Formulieren eines Textes löst nach Artikel 50 deshalb nicht automatisch eine sichtbare Kennzeichnung aus.
Eine natürliche Person ist von den Betreiberpflichten ausgenommen, wenn sie KI ausschließlich privat und nicht beruflich nutzt. Regelmäßiger wirtschaftlicher Nutzen sowie geschäftliche, berufliche oder freiberufliche Tätigkeit gelten laut Kommission als berufliche Nutzung. Die Ausnahme für private Nutzung betrifft die Pflichten von Betreibern, nicht die separate Kennzeichnungspflicht eines Anbieters. Der Rechtsrahmen gilt innerhalb seines territorialen Anwendungsbereichs auch für bestimmte Anbieter und Betreiber außerhalb der EU, wenn die Ausgabe ihres KI-Systems in der Union verwendet wird. Der konsolidierte Text der EU-KI-Verordnung regelt den Anwendungsbereich und die Definition des Deepfakes.
Was am 2. Dezember 2026 endet
Artikel 50 gilt seit dem 2. August 2026. Bis zum 2. Dezember 2026 läuft eine Übergangsfrist für Anbieter generativer KI-Systeme, die bereits vor dem 2. August auf den Markt gebracht wurden. Sie betrifft ausschließlich deren Pflicht nach Artikel 50 Absatz 2, Ausgaben maschinenlesbar zu markieren und erkennbar zu machen. Die Frist ist kein allgemeiner Aufschub der sichtbaren Offenlegungspflichten für Betreiber. Die EU-Verordnung zur Übergangsfrist begrenzt sie auf diese Anbieterpflicht.
