In een verslag dat op 9 oktober 2026 verscheen, pleit Laura Reiley ervoor chatbotgesprekken voor onderzoek te kunnen gebruiken. Haar relaas over haar dochter Sophie Rottenberg brengt een lastige afweging naar voren: zulke gesprekken kunnen onderzoekers inzicht geven in ervaringen van gebruikers, terwijl ze ook zeer persoonlijke gegevens bevatten.
Het debat over ChatGPT-gegevens en onderzoek
Reiley stelt dat gesprekken met chatbots onderzoekers kunnen helpen te bestuderen hoe suïcidale gedachten zich ontwikkelen en soms overgaan in handelen. Ze ziet daarin mogelijke waarde voor onderzoek, beleid en de ontwikkeling van therapeutische benaderingen. Dat is haar argument voor onderzoeksinzage; Emily Haroz pleit eveneens voor onafhankelijk onderzoek met echte mensen en in echte situaties.
De kwestie draait daarmee om meer dan de vraag of chatlogs nuttige gegevens bevatten. Het gaat ook om toestemming en de privacy van mensen die zulke gesprekken voeren. Reiley meldt dat Sam Altman, gevraagd naar het beschikbaar stellen van gesprekken van mensen die door suïcide zijn overleden, antwoordde dat dit niet zonder hun toestemming zou moeten gebeuren.
Wat Laura Reiley vertelt over Sophie Rottenberg
Reiley meldt dat haar dochter Sophie Rottenberg op 4 februari 2025 overleed. Na haar dood vond de familie volgens Reiley honderden pagina’s met gesprekken die Sophie met ChatGPT had gevoerd. Sophie noemde de chatbot Harry.
Reiley beschrijft dat Sophie haar nood in gesprekken met de chatbot uitte, terwijl ze volgens haar de ernst ervan voor mensen om haar heen verborgen hield. Die duiding is Reileys interpretatie van Sophies gesprekken en haar ervaring als moeder.
Reiley zegt dat ze Sophies chatlog voor onderzoek zou willen delen als dat onderzoekers kan helpen de ontwikkeling van suïcidale gedachten beter te begrijpen. Daarmee raakt haar persoonlijke relaas direct aan de vraag wie toegang kan krijgen tot gevoelige gesprekken en onder welke voorwaarden.
Synthetische simulaties en onderzoek met echte mensen
Reiley beschrijft MentalHealthBench als een beoordeling van gesprekken over geestelijke gezondheid met behulp van synthetische gebruikerssimulatoren: nagebootste gebruikers in plaats van deelnemers die in hun echte omgeving worden gevolgd. Zo’n test kan reacties van een model in gesimuleerde gesprekken beoordelen. Haroz bepleit daarnaast onafhankelijk onderzoek met echte mensen en in levensechte omstandigheden, en noemt toegang tot gegevens die AI-bedrijven bezitten als onderdeel van die onderzoeksinfrastructuur.
Die benaderingen richten zich op verschillende soorten informatie. Een simulatie onderzoekt hoe een model op nagebootste gesprekken reageert; onderzoek met echte deelnemers kan gesprekken en ervaringen in hun context bestuderen. Reiley en Haroz zien juist in gegevens uit de praktijk mogelijke waarde voor onderzoek naar hoe ervaringen zich in de tijd ontwikkelen.
OpenAI’s reactie
OpenAI-woordvoerder Drew Pusateri betuigde zijn medeleven met Sophies familie en zei dat OpenAI de reacties van ChatGPT op moeilijke situaties versterkt met hulp van deskundigen op het gebied van geestelijke gezondheid. Hij benadrukte ook dat ChatGPT geen vervanging is voor professionele geestelijke gezondheidszorg.
