xAI und Grok: Klage behauptet Training mit CSAM

Eine vorgeschlagene Sammelklage in den USA behauptet, dass xAI und X Material mit Bezug zu Jane Doe als Teil von Daten für das Training von Grok verwendet hätten. Die Beschwerde verlangt Schadensersatz, die Vernichtung relevanten Materials und eine gerichtliche Sperre für die Erzeugung von Child Sexual Abuse Material (CSAM) sowie möglicherweise weiterer sexualisierter Inhalte. Das sind Vorwürfe aus einer Zivilklage – keine gerichtliche Feststellung und kein Beweis für eine absichtliche Auswahl oder einen tatsächlichen Einfluss auf ein Modell.

Was die Klage behauptet

Jane Doe tritt als Klägerin in einer vorgeschlagenen Sammelklage gegen xAI und X auf. Die Beschwerde behauptet, CSAM mit Bezug zu Jane Doe, darunter Material mit lang bekannten Hash-Werten, sei in einem Datensatz enthalten gewesen, den xAI verwendet habe. Hash-Werte sind digitale Prüfsummen, mit denen bekannte Dateien wiedererkannt werden können. Die Klage stellt diesen Zusammenhang als Teil ihrer rechtlichen Argumentation dar; sie belegt damit nicht automatisch, wie das Material in den Datensatz gelangte oder ob es später ein Modell beeinflusste.

Die Beschwerde beruft sich auf US-Bundesgesetze zu Darstellungen sexuellen Missbrauchs von Kindern und auf Masha’s Law. Dass ein Gesetz in einer Klage angeführt wird, entscheidet jedoch weder über die Begründetheit der Vorwürfe noch über den Ausgang des Verfahrens.

Wie der behauptete Datenweg aussehen soll

Ein zentraler Vorwurf betrifft den möglichen Weg der Daten: Die Beschwerde interpretiert die Bedingungen von xAI so, dass öffentliche Beiträge auf X und Ausgaben von Grok standardmäßig als Trainingsdaten dienen könnten. Nach dieser Darstellung könnte dadurch auch von einem KI-System erzeugtes problematisches Material in spätere Trainingsprozesse gelangen.

Wichtig ist die Trennlinie: Die Klage behauptet einen solchen Zusammenhang, sie stellt aber nicht fest, dass xAI CSAM absichtlich ausgewählt hat. Ebenso ist damit nicht bewiesen, dass das Material tatsächlich das Verhalten eines Modells beeinflusst hat. Ob es absichtlich ausgewählt, versehentlich aufgenommen oder überhaupt in einer Weise für ein Modell genutzt wurde, die den Vorwurf trägt, bleibt in der vorliegenden rechtlichen Darstellung offen.

Die praktische Bedeutung des Vorwurfs liegt trotzdem auf der Hand: Bei generativen Systemen ist nicht nur die einzelne Ausgabe relevant. Entscheidend ist auch, welche Daten in einen Trainingsprozess gelangen können und welche Schutzmechanismen bekannte Missbrauchsdaten erkennen und aussortieren. Im konkreten Fall macht die Beschwerde daraus eine rechtliche These – kein bereits feststehendes technisches Ergebnis.

Welche Abhilfen beantragt werden

Jane Doe beantragt mehrere Formen von Abhilfe. Dazu gehören:

• Schadensersatz für Betroffene, deren reale Bilder nach der Darstellung der Klage zur Erzeugung von CSAM mit Grok verwendet worden sein sollen;
• die Vernichtung relevanten von Grok erzeugten Materials, das xAI möglicherweise gespeichert oder für Training verwendet haben könnte;
• eine Unterlassungsanordnung gegen die Erzeugung von CSAM und möglicherweise gegen weitere sexualisierte Ausgaben, darunter nicht einvernehmliche intime Bilder und bestimmte als „Bikini“-Bilder bezeichnete Inhalte.

Diese Punkte beschreiben, was die Klägerin beim Gericht beantragt. Sie sind keine Maßnahmen, die bereits angeordnet wurden. Auch aus dem Antrag auf Vernichtung folgt nicht, dass jedes darin genannte Material tatsächlich gespeichert oder zum Training eingesetzt wurde.

Zivilklage ist keine Strafanklage

Die Einreichung dieser Zivilklage bedeutet nicht automatisch, dass Beschäftigte von xAI oder Elon Musk mit Gefängnisstrafen oder Strafanzeigen rechnen müssen. Ein Zivilverfahren und ein Strafverfahren sind rechtlich getrennte Wege. Eine mögliche strafrechtliche Verfolgung wäre ein eigenes staatliches Verfahren und würde einen entsprechenden Nachweis nach den einschlägigen Strafgesetzen erfordern.

Für die Einordnung der Nachricht ist das entscheidend: Die Beschwerde erhebt schwerwiegende Vorwürfe und fordert weitreichende Abhilfe. Sie ist aber weder eine strafrechtliche Anklage noch eine Verurteilung. Ebenso liegt damit keine gerichtliche Feststellung einer Haftung vor.

Nicht mit dem Stability-AI-Fall verwechseln

Ein weiteres Verfahren mit Bezug zu KI-generierten Missbrauchsdarstellungen ist nicht identisch mit der Klage von Jane Doe. Die Unterschiede im Überblick:

Die Fälle betreffen also teilweise ähnliche Risiken, sind aber unterschiedliche Verfahren mit unterschiedlichen Klägern, Beklagten und Vorwürfen. Aus dem einen Verfahren lässt sich kein Ergebnis für das andere ableiten.

Was die Klage für die Einordnung von Grok bedeutet

Der Fall verschiebt die Frage weg von der einzelnen problematischen Ausgabe hin zur gesamten Kette: Welche Beiträge und Ergebnisse dürfen in Datensammlungen einfließen? Wie werden bekannte Missbrauchsdaten erkannt? Und wer trägt Verantwortung, wenn ein System solche Inhalte erzeugt oder mit ihnen weitertrainiert werden könnte?

Das sind wichtige Fragen für die Sicherheit generativer KI. Die vorliegende Klage beantwortet sie allerdings nicht abschließend. Sie formuliert Vorwürfe und verlangt konkrete Rechtsmittel. Ob die behaupteten Daten tatsächlich verwendet wurden, ob eine absichtliche Auswahl vorlag und ob daraus eine rechtliche Haftung folgt, ist damit nicht entschieden.

Kurz gesagt: Die Klage gegen xAI und X behauptet einen Zusammenhang zwischen CSAM, Grok-Training und bestimmten Ausgaben. Sie verlangt Schadensersatz, Löschung beziehungsweise Vernichtung relevanten Materials und eine Sperre künftiger Ausgaben. Bis zu einer gerichtlichen Entscheidung bleibt das eine zivilrechtliche Behauptung – ernst zu nehmen, aber nicht mit einem erwiesenen Sachverhalt zu verwechseln.