9 października 2026 r. Laura Reiley opisała rozmowy swojej córki Sophie Rottenberg z ChatGPT i argumentowała, że zanonimizowane dane chatbotów mogą pomóc badać rozwój myśli samobójczych. Relacjonuje też odpowiedź Sama Altmana na pytanie o udostępnianie takich zapisów badaczom bez zgody ich autorów.

Relacja Reiley o Sophie Rottenberg

Reiley podała, że Sophie zmarła 4 lutego 2025 r. Po jej śmierci rodzina znalazła setki stron rozmów z ChatGPT. Reiley opisała, że córka zwierzała się chatbotowi z trudnych przeżyć, a przed otoczeniem ukrywała ich skalę. To jej interpretacja rozmów i ich roli w życiu Sophie.

Reiley uważa, że takie zapisy mogą pomóc badaczom przyjrzeć się temu, jak myśli samobójcze mogą rozwijać się i przechodzić w działanie. Mówi, że udostępniłaby rozmowy córki, gdyby mogły służyć takim badaniom. To argument za wartością badawczą tych danych, a nie dowód, że dostęp do nich zapobiega samobójstwom.

Co Reiley relacjonuje o stanowisku Sama Altmana

Reiley relacjonuje, że zapytała Sama Altmana, czy OpenAI powinno udostępniać badaczom zapisy rozmów osób, które zmarły w wyniku samobójstwa. Według jej relacji Altman odpowiedział, że nie bez zgody tych osób. Jego wypowiedź dotyczyła odpowiedzi na pytanie; nie stanowi opisu zasad udostępniania wszystkich danych OpenAI.

Emily Haroz opowiada się za niezależną infrastrukturą badawczą, badaniami z udziałem prawdziwych osób i w rzeczywistych warunkach. Wskazuje też na potrzebę współpracy firm i dostępu do unikatowych danych, które mogą pomóc lepiej zrozumieć te doświadczenia.

Symulatory użytkowników a badania w rzeczywistych warunkach

Reiley opisała MentalHealthBench jako projekt wykorzystujący syntetyczne symulatory użytkowników do oceny rozmów o zdrowiu psychicznym. Symulator pozwala sprawdzać odpowiedzi modelu w odtworzonych scenariuszach. Haroz postuluje badania z udziałem ludzi i w realnym kontekście, które mogą uwzględniać przebieg doświadczeń w czasie.

To różne podejścia do badania zachowania chatbotów: test symulacyjny ocenia odpowiedzi w przygotowanych sytuacjach, a badania terenowe dotyczą doświadczeń prawdziwych użytkowników. Reiley i Haroz wskazują na wartość danych z rzeczywistych interakcji, w tym na możliwość badania zmian zachodzących w czasie.

Odpowiedź OpenAI

Rzecznik OpenAI Drew Pusateri przekazał, że firma wzmacnia reakcje ChatGPT w trudnych sytuacjach, korzystając z wiedzy specjalistów od zdrowia psychicznego. Podkreślił też, że ChatGPT nie zastępuje profesjonalnej pomocy psychologicznej ani psychiatrycznej, a prace nad reakcjami systemu są kontynuowane.