A OpenAI diz que pode usar o conteúdo de sessões do Daybreak Blue em contas pessoais para melhorar seus modelos mesmo quando a configuração geral “Improve the model for everyone” está desligada. Fora das sessões do Trusted Access, essa configuração continua valendo, segundo a página Data Controls da OpenAI.
Como a regra se aplica às outras atividades da conta
A exceção descrita pela OpenAI se refere ao conteúdo de sessões Daybreak em contas pessoais. Ela não altera a aplicação da configuração geral às demais atividades fora do Trusted Access.
| Atividade da conta | Efeito da configuração “Improve the model for everyone” |
| Conteúdo de sessões Daybreak em conta pessoal | A configuração desligada não impede que esse conteúdo seja usado para melhorar modelos. |
| Outras atividades fora do Trusted Access | A configuração geral continua valendo. |
A OpenAI informa que usa esse conteúdo para fortalecer as proteções contra uso malicioso em cibersegurança. Um aviso atribuído à empresa também diz que clientes empresariais, outros usos do ChatGPT e sessões de Advanced Account Security que não sejam Daybreak não seriam afetados. O aviso afirma ainda que a mudança não altera o tratamento de Private Safety Processing (PSP) nem de Zero Data Retention (ZDR).
A data prevista e a opção separada
Em 31 de outubro de 2026, o site The Decoder relatou que um aviso a participantes do Trusted Access previa o início do uso dos dados em 29 de novembro. A reportagem também disse que a OpenAI prometeu, em uma mensagem posterior, uma opção separada para sair desse uso. O relato não especifica o ano da data prevista.
A mesma reportagem diz que interações sinalizadas durante análises de segurança ainda poderiam ser usadas para fins de segurança. Esse uso é distinto do aprimoramento dos modelos. A OpenAI apresenta o fortalecimento das proteções contra uso malicioso em cibersegurança como objetivo da política.
O que estudos sobre memorização mostram
Pesquisas encontraram exemplos de modelos que reproduzem trechos dos dados usados no treinamento, mas os resultados dependem do modelo e das condições do teste. Em um estudo, Carlini e coautores extraíram sequências literais do GPT-2 por meio de consultas ao modelo, inclusive trechos que apareciam em apenas um documento de treinamento (estudo sobre extração de dados do GPT-2).
Nasr e coautores estudaram diferentes famílias de modelos e descreveram um ataque especializado ao gpt-3.5-turbo como específico daquele modelo (pesquisa sobre extração de dados de modelos de linguagem). Já Huang e coautores investigaram a memorização em modelos Pythia em experimentos controlados (estudo sobre memorização literal).
Esses trabalhos mostram que a memorização e a extração podem ocorrer em certas condições. Eles não testaram o Daybreak Blue nem demonstram que uma senha ou chave enviada em uma sessão seja fácil de recuperar dos pesos dos modelos da OpenAI.
