OpenAI afirma que puede usar contenido de las sesiones de Daybreak en cuentas personales para mejorar sus modelos aunque el ajuste «Improve the model for everyone» esté desactivado. The Decoder informó el 31 de octubre de que un aviso de la compañía fijaba el inicio previsto para el 29 de noviembre. La página de controles de OpenAI atribuye ese uso a reforzar las defensas frente al abuso cibernético.
Qué actividad cubre la excepción de Daybreak
La excepción se refiere al contenido de las sesiones de Daybreak en cuentas personales. El ajuste general sigue aplicándose a la actividad que tiene lugar fuera de las sesiones de Trusted Access, según la política de controles de OpenAI.
| Actividad de la cuenta | Efecto del ajuste «Improve the model for everyone» |
| Sesiones de Daybreak en una cuenta personal | OpenAI puede usar su contenido para mejorar modelos aunque el ajuste esté desactivado. |
| Actividad fuera de una sesión de Trusted Access | El ajuste general sigue aplicándose. |
Fecha prevista y opción de exclusión
El 29 de noviembre es la fecha prevista que The Decoder atribuyó a un aviso de OpenAI; el artículo no especificó el año. The Decoder también informó de que OpenAI prometió después una opción de exclusión separada. La página pública de controles de OpenAI describe el uso de contenido de Daybreak, pero no explica cómo funcionaría esa opción.
The Decoder informó asimismo de que las interacciones señaladas durante revisiones de seguridad podrían seguir utilizándose con fines de seguridad. Ese uso es distinto de la mejora de modelos descrita para las sesiones de Daybreak.
Qué muestran los estudios sobre memorización
Hay estudios que han extraído secuencias de entrenamiento de modelos concretos, pero sus resultados se limitan a los modelos y métodos examinados. Carlini y sus coautores extrajeron texto de GPT-2; Nasr y sus coautores estudiaron varios modelos, incluido gpt-3.5-turbo mediante un ataque especializado; y Huang y sus coautores analizaron la memorización en modelos Pythia. Los estudios de extracción de datos de entrenamiento y de ataques a modelos de producción, junto con el análisis de Pythia, no examinaron Daybreak Blue. Por tanto, no demuestran que un secreto introducido en esas sesiones pueda recuperarse fácilmente de los modelos de OpenAI.
