OpenAI informuje, że może wykorzystywać treści z sesji Daybreak na kontach osobistych do ulepszania modeli nawet wtedy, gdy wyłączono ustawienie „Improve the model for everyone”. Zasada dotyczy sesji Daybreak; ogólne ustawienie nadal obejmuje aktywność poza Trusted Access, jak opisuje strona OpenAI Data Controls.
Jakie aktywności obejmuje ustawienie
| Aktywność na koncie | Działanie ustawienia „Improve the model for everyone” |
| Sesje Daybreak na koncie osobistym | Treści mogą być wykorzystywane do ulepszania modeli nawet po wyłączeniu ustawienia. |
| Aktywność poza sesją Trusted Access | Ustawienie nadal ma zastosowanie. |
OpenAI wskazuje, że wykorzystanie treści z sesji Daybreak ma służyć wzmacnianiu zabezpieczeń przed nadużyciami w cyberprzestrzeni. To wyjątek dotyczący sesji w ramach Trusted Access, a nie wszystkich rozmów na koncie osobistym.
Co podano o terminie i osobnej rezygnacji
The Decoder podał 31 października, że według wiadomości skierowanej do członków Trusted Access zmianę planowano od 29 listopada. W późniejszej wiadomości OpenAI miało obiecać osobną możliwość rezygnacji. Aktualna strona Data Controls opisuje użycie treści z sesji Daybreak mimo wyłączonego ustawienia ogólnego, ale nie podaje sposobu rezygnacji z tego użycia.
Według tej samej relacji interakcje oznaczone podczas kontroli bezpieczeństwa mogą być nadal wykorzystywane w celach bezpieczeństwa.
Co badania mówią o zapamiętywaniu danych
Badania nad innymi modelami pokazują, że modele językowe mogą zapamiętywać i odtwarzać fragmenty danych treningowych w określonych warunkach. Carlini i współautorzy wydobywali przykłady z GPT-2 (badanie). Nasr i współautorzy opisali między innymi specjalistyczny atak na gpt-3.5-turbo (badanie), a Huang i współautorzy badali zapamiętywanie w modelach Pythia (badanie).
Wyniki te dotyczą konkretnych modeli i metod. Nie dowodzą, że sekrety wpisane w Daybreak Blue można łatwo odzyskać z wag modeli OpenAI ani nie określają prawdopodobieństwa takiego zdarzenia.
