De voorgestelde collectieve rechtszaak van Jane Doe stelt dat xAI materiaal met kindermisbruik (CSAM), waaronder materiaal dat haar zou betreffen, heeft gebruikt in gegevens voor de training van Grok. De klacht tegen xAI en X vraagt om schadevergoeding, vernietiging van relevant gegenereerd materiaal en een verbod op toekomstige CSAM-uitvoer. Het gaat om beschuldigingen in een civiele zaak, niet om een rechterlijke vaststelling van aansprakelijkheid.
Wat de voorgestelde collectieve zaak beweert
De klacht stelt dat CSAM waarin Jane Doe zou voorkomen, waaronder materiaal met al langer bestaande hashwaarden, deel uitmaakte van een dataset die xAI gebruikte. Een hashwaarde is een digitale herkenningscode waarmee bekende bestanden kunnen worden herkend; de klacht voert dit aan als onderdeel van haar juridische theorie.
Dat betekent niet dat vaststaat dat xAI het materiaal bewust heeft geselecteerd, dat het daadwerkelijk invloed had op een model of dat medewerkers strafbare feiten hebben gepleegd. De juridische status is die van een ingediende klacht met beweringen over xAI, X en Grok.
De klacht beroept zich op federale wetgeving rond kinderpornografie en op Masha’s Law, een wettelijk kader dat overlevenden een civiele rechtsgrond geeft voor onder meer claims rond productie, bezit en verspreiding. Ook dat beroep bepaalt op zichzelf niet hoe de zaak afloopt.
De vermeende route van de trainingsgegevens
Volgens de klacht worden openbare berichten op X en uitvoer van Grok standaard als trainingsgegevens behandeld. De eiseres stelt dat daardoor ook door AI gegenereerd CSAM later invloed zou kunnen krijgen op training. Of die route in deze zaak daadwerkelijk is gevolgd en welk effect dat op een model zou hebben gehad, staat hiermee niet vast.
Dat onderscheid is belangrijk. Een klacht beschrijft de juridische stelling van een eiseres; ze bewijst niet automatisch hoe een trainingsdataset is samengesteld of hoe een model zich heeft ontwikkeld. De zaak draait daarom niet alleen om de inhoud van mogelijk misbruikmateriaal, maar ook om de vraag welke waarborgen een AI-bedrijf toepast voordat gegevens opnieuw in een trainingsproces terechtkomen.
Welke maatregelen Jane Doe vraagt
De klacht vraagt de rechter om drie soorten maatregelen:
- Schadevergoeding voor slachtoffers van wie echte jeugdfoto’s volgens de klacht zijn gebruikt om CSAM-uitvoer met Grok te maken.
- Vernietiging van relevant door Grok gegenereerd materiaal dat mogelijk is opgeslagen of voor training is gebruikt.
- Een verbod op het genereren van CSAM en mogelijk bredere categorieën geseksualiseerde uitvoer, waaronder niet-consensuele intieme beelden en bepaalde NSFW-uitvoer.
Dit zijn gevraagde maatregelen, geen bevelen die al door een rechter zijn opgelegd. De voorgestelde collectieve status betekent bovendien dat Jane Doe de zaak namens een bredere groep wil voeren; dat maakt de aansprakelijkheid van xAI of X niet automatisch bewezen.
Een civiele zaak is geen strafrechtelijke veroordeling
Kunnen medewerkers van xAI door deze rechtszaak automatisch in de gevangenis belanden? Nee. Het indienen van een civiele zaak leidt niet vanzelf tot strafrechtelijke aanklachten of een gevangenisstraf. Daarvoor zou een afzonderlijke strafrechtelijke procedure nodig zijn, met bewijs volgens de toepasselijke strafwetten.
Ook de beschikbare informatie stelt geen persoonlijke strafrechtelijke aansprakelijkheid van Elon Musk of medewerkers van xAI vast. Elon Musk is in het dossier genoemd als oprichter en publiek figuur die met xAI en X wordt geassocieerd; dat is iets anders dan een vaststelling dat hij persoonlijk aansprakelijk is.
De afzonderlijke zaak rond Stability AI
Een andere rechtszaak over AI-gegenereerde beelden van minderjarigen moet niet met de zaak van Jane Doe worden samengevoegd. Die afzonderlijke procedure omvat vijf eisers en noemt Stability AI als extra gedaagde. De belangrijkste verschillen:
| Zaak | Eisers | Gedaagden | Hoofdverwijt | Gevraagde maatregelen |
| Voorgestelde zaak van Jane Doe | Jane Doe, met voorgestelde collectieve status | xAI en X | De klacht stelt dat CSAM, waaronder materiaal dat Jane Doe zou betreffen, in gegevens voor Grok-training terechtkwam en dat Grok schadelijke uitvoer genereerde | Schadevergoeding, vernietiging van relevant materiaal en een verbod op CSAM en mogelijk andere geseksualiseerde uitvoer |
| Afzonderlijke verwante zaak | Vijf eisers | SpaceXAI, voorheen xAI, en Stability AI | De eisers stellen dat Grok en Stable Diffusion zijn gebruikt om schadelijke beelden te maken op basis van foto’s van minderjarigen | Schadevergoeding en strengere veiligheidsmaatregelen |
De twee zaken hebben dus een verwant onderwerp, maar verschillende eisers, gedaagden en geformuleerde vorderingen.
Wat de klacht niet vaststelt
De klacht stelt niet vast dat xAI opzettelijk CSAM heeft geselecteerd, dat het materiaal een model daadwerkelijk heeft beïnvloed of dat een rechter aansprakelijkheid heeft vastgesteld. Evenmin volgt uit deze civiele procedure op zichzelf dat iemand strafrechtelijk wordt vervolgd.
De kern is daarom preciezer dan de kortste samenvatting doet vermoeden: Jane Doe vraagt de rechter om verantwoordelijkheid en concrete maatregelen naar aanleiding van een vermeende relatie tussen misbruikmateriaal, Grok-uitvoer en trainingsgegevens. De uitkomst van die juridische stellingen is daarmee nog niet gegeven.
