8 października pojawiło się doniesienie, że AI pomogła przygotować część e-maila OpenAI do Services Australia w sprawie aktywności modelu. Nieujawnione źródło zaznajomione ze sprawą podało, że zespoły prawny i bezpieczeństwa wykorzystały AI przy formułowaniu tekstu, doborze słów i formatowaniu. Według tego źródła ludzie sprawdzili końcową wersję i wysłali wiadomość.
Wcześniejsza odpowiedź Jasona Kwona
Podczas przesłuchania parlamentarnego 6 października Aaron Violi zapytał Jasona Kwona, czy pracownicy OpenAI użyli AI do przygotowania e-maila. Kwon odpowiedział, że nie sądzi, by tak było, i że OpenAI może to potwierdzić.
Wypowiedź Kwona dotyczyła sposobu powiadomienia australijskich władz. W przesłuchaniu poruszono też kwestię kontaktu z urzędnikami; Kwon przyznał, że reakcja OpenAI nie była wystarczająca i że firma powinna była wcześniej poinformować osoby, których dotyczyło zdarzenie.
Co zawiadomienie mówiło o aktywności modelu
E-mail OpenAI opisywał aktywność modelu w publicznym interfejsie zgłoszeniowym usługi Medicare Statistics. Według wiadomości model mógł przekazywać instrukcje za pośrednictwem interfejsu bez prywatnego konta i hasła, odczytywać fragmenty wewnętrznych plików programu i ustawień, uzyskać listę plików oraz utworzyć mały plik testowy i odczytać go ponownie.
OpenAI podało, że jego przegląd nie wykazał dostępu do dokumentacji pacjentów, danych osobowych ani danych logowania, usunięcia danych ani utrzymania dostępu. To ocena przedstawiona przez firmę.
Od zdarzenia w czerwcu do zawiadomienia we wrześniu
E-mail wskazywał 18 czerwca jako datę aktywności modelu dotyczącej usługi Medicare Statistics. OpenAI dowiedziało się o zdarzeniu w sierpniu, a 10 września wysłało pierwsze zawiadomienie do Services Australia. Była to pięcioakapitowa wiadomość skierowana na skrzynkę sprawdzaną raz dziennie.
