Jane Doe accusa xAI: CSAM nei dati usati per addestrare Grok

La proposta di class action presentata da Jane Doe contro xAI e X sostiene che materiale di abuso sessuale su minori (CSAM), compreso materiale che raffigurerebbe la ricorrente, sia stato inserito in dati usati per addestrare Grok. La denuncia chiede danni, la distruzione del materiale pertinente e un’ingiunzione contro la generazione di CSAM e di altri contenuti sessualizzati. Sono richieste contenute in una causa civile: non equivalgono a una constatazione giudiziaria di responsabilità.

Cosa sostiene la proposta di class action

Jane Doe è indicata come ricorrente anonima nella proposta di azione collettiva. La denuncia chiama in causa xAI, sviluppatrice di Grok, e X. Secondo l’atto, un dataset utilizzato da xAI avrebbe incluso CSAM che raffigurerebbe Jane Doe, anche materiale associato a valori hash di lunga data.

Il punto centrale è dunque il presunto impiego di materiale illecito nel contesto dei dati collegati a un sistema di generazione di immagini e video. La denuncia richiama le leggi federali statunitensi sul materiale di abuso sessuale su minori e Masha’s Law, un quadro normativo che consente ai sopravvissuti di avanzare richieste civili per condotte come produzione, possesso e distribuzione.

Questo non significa che la denuncia abbia dimostrato che il materiale sia stato scelto deliberatamente, che abbia influenzato Grok o che un tribunale abbia già riconosciuto una violazione. L’atto descrive la posizione della parte ricorrente; l’accertamento giudiziario è un passaggio diverso.

Il percorso dei dati contestato

La denuncia sostiene che i post pubblici su X e gli output di Grok siano trattati per impostazione predefinita come dati utilizzabili per l’addestramento. Nella ricostruzione proposta da Jane Doe, questo potrebbe creare un percorso attraverso il quale materiale generato dal sistema o pubblicato sulla piattaforma finisca in successive attività di formazione dei modelli.

Qui serve una distinzione importante. L’atto non dimostra se il materiale sia stato selezionato intenzionalmente, incluso per errore o effettivamente utilizzato in modo da produrre un effetto su un modello. Non dimostra nemmeno, da solo, quale sia stato l’impatto concreto sui sistemi di Grok. Confondere una contestazione sul percorso dei dati con la prova del funzionamento interno del modello sarebbe un salto logico.

La questione ha comunque un peso pratico: quando un servizio collega contenuti pubblicati dagli utenti, output generati e addestramento successivo, la gestione dei dati diventa parte della responsabilità del prodotto. In questo caso, però, la portata precisa di quel collegamento resta una delle questioni da decidere nel procedimento.

I rimedi chiesti da Jane Doe

La ricorrente chiede al tribunale tre categorie principali di intervento:

• danni per le persone le cui immagini reali dell’infanzia sarebbero state usate per generare CSAM con Grok;
• distruzione del materiale generato da Grok che xAI potrebbe conservare o utilizzare per l’addestramento;
• un’ingiunzione per bloccare la generazione di CSAM e, potenzialmente, di altri contenuti sessualizzati, tra cui immagini intime non consensuali e contenuti NSFW descritti nella denuncia come immagini “in bikini”.

Sono rimedi richiesti, non ordini già emessi. La differenza è tutt’altro che formale: un’ingiunzione esiste solo se viene disposta dal tribunale, mentre la proposta di class action chiede che il giudice la conceda.

Una causa civile non è una condanna penale

La presentazione della causa non comporta automaticamente accuse penali né il carcere per i dipendenti di xAI. Un procedimento civile e un procedimento penale sono percorsi distinti: per arrivare a una condanna penale servirebbe un’azione separata dello Stato e la prova richiesta dalle relative norme criminali.

Allo stesso modo, la denuncia non stabilisce una responsabilità personale di Elon Musk. Il suo nome compare nel contesto dell’associazione pubblica con xAI e X, ma il materiale fornito non dimostra accuse penali o responsabilità individuali nei suoi confronti.

La frase più corretta, quindi, è anche la meno spettacolare: la causa mette in discussione presunte pratiche di xAI e chiede rimedi civili; non è un’indictment, non è una condanna e non è una decisione del tribunale.

Il procedimento separato che coinvolge Stability AI

La causa di Jane Doe non è lo stesso procedimento di un’altra azione collettiva descritta in relazione a contenuti abusivi generati dall’IA. Quel caso separato coinvolge cinque ricorrenti e Stability AI, oltre a SpaceXAI, indicata come ex xAI; sostiene che Grok e Stable Diffusion siano stati usati per creare immagini abusive a partire da fotografie di minori.

Le somiglianze spiegano perché i due casi possano essere accostati, ma non autorizzano a fonderli: cambiano i ricorrenti, i convenuti e la formulazione delle accuse.

Cosa resta da stabilire

Il nucleo della causa è una serie di accuse contenute in una denuncia civile. Il materiale disponibile non stabilisce che xAI abbia scelto intenzionalmente CSAM per addestrare Grok, che quel materiale abbia influenzato il modello o che un tribunale abbia già riconosciuto una responsabilità.

Per il lettore, la distinzione decisiva è questa: la denuncia descrive ciò che Jane Doe sostiene e ciò che chiede al tribunale; non anticipa il risultato del procedimento. Anche la richiesta di bloccare determinati output non significa che un simile divieto sia già in vigore per effetto di questo caso.

La vicenda porta comunque al centro un problema concreto dell’IA generativa: la distanza tra un contenuto che può circolare online, il modo in cui una piattaforma lo tratta e l’eventuale uso successivo nei dati di addestramento. In questa causa, quella distanza è oggetto di contestazione legale. Non è ancora un fatto accertato.