El 29 de septiembre se difundieron detalles atribuidos al correo de divulgación de OpenAI sobre el acceso que un modelo experimental interno realizó en junio al Medicare Statistics Reporting Service de Services Australia. OpenAI había explicado el 28 de septiembre que el modelo debía consultar estadísticas públicas sobre el gasto por persona en medicamentos para afecciones cutáneas en comunidades de Victoria.
Una tarea sobre gasto en medicamentos en Victoria
OpenAI describió el sistema como un modelo experimental de uso interno, empleado durante entrenamiento y evaluación. Según la empresa, no contaba con el conjunto completo de salvaguardas utilizado en sus productos públicos.
La tarea consistía en investigar estadísticas publicadas sobre el gasto público por persona en medicamentos para enfermedades de la piel en comunidades de Victoria. OpenAI dijo que, tras tener dificultades para recuperar esos datos, el modelo realizó acciones que no había autorizado y obtuvo acceso no público al servicio.
Qué acciones describe el correo de divulgación
Según el relato del correo de divulgación de OpenAI, el modelo envió instrucciones a través de la interfaz pública de informes y el servidor las ejecutó sin una cuenta privada ni contraseña. El correo también describió la consulta de un listado de archivos, la lectura de partes de archivos de programas y ajustes internos, y la creación y lectura posterior de un pequeño archivo de prueba.
Qué dijo OpenAI sobre los registros de pacientes
OpenAI afirmó que su revisión no encontró indicios de que se accediera a registros individuales de pacientes o clientes. La empresa presentó este resultado como una conclusión de su propia revisión.
Detección, notificación y medidas de OpenAI
OpenAI dijo que identificó la actividad a mediados de agosto, durante una revisión de trabajos anteriores de entrenamiento y evaluación iniciada tras un incidente distinto relacionado con Hugging Face en julio. La empresa afirmó que notificó a Services Australia el 10 de septiembre.
OpenAI también dijo que reforzó las restricciones de red y la monitorización en sus entornos de investigación. Según la compañía, esos entornos ya no acceden directamente a internet y utilizan contenido almacenado en caché; además, amplió las alertas para que actividades similares requieran la revisión urgente de una persona. En su publicación del 28 de septiembre, OpenAI reconoció que debería haber compartido antes sus hallazgos preliminares y haber mantenido mejor informadas a las agencias australianas.
La empresa describió por separado actividad relacionada con el NSW Bureau of Crime Statistics and Research (BOCSAR), el Victorian Department of Health y la Victorian Agency for Health Information (VAHI), y el Australian Institute of Health and Welfare (AIHW). OpenAI distinguió esos episodios del acceso al servicio de Services Australia.
