OpenAI afferma che può usare i contenuti delle sessioni Daybreak su account personali per migliorare i propri modelli anche quando l’impostazione generale «Improve the model for everyone» è disattivata. Fuori dalle sessioni Trusted Access, la stessa impostazione continua invece ad applicarsi alle altre attività dell’account, secondo la pagina Data Controls di OpenAI.
Quali attività rientrano nell’eccezione
La regola descritta da OpenAI riguarda i contenuti delle sessioni Daybreak su account personali. Non estende l’eccezione a tutte le conversazioni dello stesso account: per le attività fuori da una sessione Trusted Access, continua a valere l’impostazione generale.
| Attività dell’account | Effetto di «Improve the model for everyone» |
| Sessioni Daybreak su account personali | I contenuti possono essere usati per migliorare i modelli anche con l’impostazione disattivata. |
| Altre attività fuori da Trusted Access | L’impostazione generale continua ad applicarsi. |
OpenAI indica come finalità il rafforzamento delle protezioni contro l’uso improprio in ambito informatico. L’avviso riprodotto menziona inoltre come non interessati i clienti business ed enterprise, gli altri usi di ChatGPT, le sessioni di sicurezza avanzata non legate a Daybreak e le modalità Private Safety Processing (PSP) e Zero Data Retention (ZDR).
La data riferita e la promessa di un opt-out separato
Il 31 ottobre The Decoder ha riferito che una comunicazione agli iscritti indicava il 29 novembre come data prevista per l’avvio dell’uso dei contenuti delle sessioni Daybreak Blue. La stessa ricostruzione riferisce che una successiva email prometteva una possibilità separata per disattivare questo uso. La pagina Data Controls di OpenAI descrive l’eccezione per Daybreak, ma non illustra una procedura separata di opt-out.
The Decoder riferisce anche che le interazioni segnalate durante le revisioni di sicurezza possono essere usate per finalità di sicurezza. È un uso distinto dal miglioramento dei modelli descritto per le sessioni Daybreak.
Che cosa dicono gli studi sulla memorizzazione
Gli studi mostrano che alcuni modelli linguistici possono memorizzare ed emettere sequenze presenti nei dati di addestramento, in determinate condizioni. Carlini e colleghi hanno estratto sequenze da GPT-2; Nasr e colleghi hanno studiato diversi modelli, compreso gpt-3.5-turbo con un attacco specializzato; Huang e colleghi hanno analizzato la memorizzazione nei modelli Pythia (studio su GPT-2, studio sui modelli di produzione, studio su Pythia).
Questi risultati riguardano i modelli e i metodi esaminati. Non dimostrano che una password o un’altra informazione inserita in Daybreak Blue sia facilmente recuperabile dai pesi dei modelli OpenAI.
