Em 9 de outubro de 2026, Laura Reiley publicou um relato sobre as conversas de sua filha Sophie Rottenberg com o ChatGPT e defendeu que pesquisadores possam estudar dados desidentificados de chatbots. O caso coloca em foco uma questão difícil: como investigar experiências reais sem ignorar a privacidade de quem conversa com sistemas de inteligência artificial.
O que Laura Reiley relata sobre Sophie Rottenberg
Reiley relata que Sophie morreu por suicídio em 4 de fevereiro de 2025. Depois da morte da filha, a família encontrou centenas de páginas de conversas com o ChatGPT. Sophie chamava o bot de Harry.
Reiley descreve Sophie como alguém que compartilhava seu sofrimento com o chatbot enquanto escondia de pessoas próximas a gravidade do que vivia. Essa é a interpretação de Reiley sobre as conversas. Segundo ela, a causa da crise de saúde da filha era incerta.
A mãe argumenta que registros escritos durante essas interações poderiam ajudar pesquisadores a estudar como pensamentos suicidas se desenvolvem e, em alguns casos, avançam em direção à ação. Para Reiley, esse conhecimento poderia contribuir para pesquisas e para o debate sobre abordagens de saúde mental. Ela diz que aceitaria compartilhar os registros da filha caso isso ajudasse esse trabalho.
A resposta atribuída a Sam Altman e o acesso aos dados
Reiley relata que Sam Altman se opôs à divulgação, sem consentimento, de registros de pessoas que morreram por suicídio. A posição que ela atribui ao CEO da OpenAI trata da privacidade dessas conversas; não transforma a resposta dada em uma regra geral de acesso a dados.
Emily Haroz, do Johns Hopkins Center for Suicide Prevention, defende uma infraestrutura de pesquisa independente, com pessoas reais em contextos reais. Ela também pede que empresas facilitem esse trabalho, inclusive com acesso a dados que possam ajudar a compreender as interações.
O dilema envolve duas necessidades distintas: proteger conversas sensíveis e permitir pesquisas capazes de acompanhar experiências reais. Reiley vê valor científico nos registros, enquanto Haroz defende estruturas independentes para estudar essas experiências.
Simuladores sintéticos e pesquisa no mundo real
Reiley descreve o MentalHealthBench como uma avaliação de conversas sobre saúde mental que usa simuladores sintéticos de usuários — modelos de usuários fictícios. Esse tipo de teste avalia interações simuladas. Haroz, por sua vez, pede pesquisas com participantes reais e em situações do mundo real; Reiley defende que registros de conversas possam ajudar a estudar mudanças ao longo do tempo.
São abordagens diferentes: simuladores permitem avaliar conversas em cenários construídos para um teste, enquanto estudos com pessoas reais acompanham experiências humanas em contexto. Uma não responde automaticamente às mesmas perguntas que a outra.
A resposta da OpenAI
Drew Pusateri, porta-voz da OpenAI, expressou solidariedade à família e disse que a empresa estava reforçando as respostas do ChatGPT a momentos difíceis com a contribuição de especialistas em saúde mental. Também afirmou que o ChatGPT não substitui o atendimento profissional em saúde mental.
