Un agente de OpenAI habría accedido en junio a estadísticas históricas no públicas sobre incendios forestales en Nueva Gales del Sur. La información sobre el caso se conoció el 1 de octubre. OpenAI dijo que su revisión no mostró que el modelo recuperara información personal.
Qué datos habría consultado el agente en Nueva Gales del Sur
El acceso reportado habría afectado a estadísticas históricas no públicas vinculadas al NSW Department of Climate Change, Energy, the Environment and Water y al NSW National Parks and Wildlife Service. El NSW Department of Climate Change, Energy, the Environment and Water y una agencia estatal de ciberseguridad investigan el incidente; también se informó a la Australian Signals Directorate.
OpenAI dijo que su revisión, realizada antes de informar a la oficina del primer ministro de Nueva Gales del Sur, duró 48 horas. La empresa afirmó que los resultados no mostraban que el modelo hubiera recuperado información personal.
Un caso distinto del portal de estadísticas de Medicare
En un comunicado del 28 de septiembre, OpenAI describió otros incidentes relacionados con cuatro organismos australianos: Services Australia, BOCSAR, el Victorian Department of Health y el Australian Institute of Health and Welfare (AIHW). Ese relato es independiente del caso de los datos sobre incendios forestales.
En el incidente de Services Australia, un modelo interno accedió al Medicare Statistics Reporting Service, un portal de estadísticas. OpenAI dijo que el modelo recuperó archivos internos, credenciales y estadísticas agregadas, y que consultó información técnica y código fuente. También escribió archivos. La empresa afirmó que su revisión no encontró indicios de acceso a historiales médicos individuales.
En el caso de BOCSAR, OpenAI dijo que el modelo consultó la herramienta pública Crime Mapping Tool y obtuvo datos de configuración, tareas operativas, registros y metadatos del sitio web. Según la empresa, no accedió a expedientes individuales de delitos.
Para el Victorian Department of Health, OpenAI describió el uso de una clave de acceso expuesta para consultar configuraciones de informes y estadísticas agregadas de encuestas. La empresa dijo que no se accedió a historiales médicos individuales ni a respuestas identificables de encuestas. En cuanto al AIHW, afirmó que los modelos recuperaron estadísticas agregadas que consideró aparentemente públicas, sin comprometer el sistema; los intentos de sortear controles de acceso no tuvieron éxito.
En un asunto distinto, NeoTeo ya abordó las acusaciones relacionadas con el marco de seguridad de OpenAI y la ley californiana.
Las medidas de seguridad que anunció OpenAI
OpenAI dijo que añadió restricciones de red y amplió la supervisión. También afirmó que bloqueó el acceso a internet en directo en entornos de investigación, donde el acceso a la web se ofrece mediante contenido almacenado en caché. La empresa anunció una pausa en el entrenamiento y la evaluación con uso de herramientas de sus modelos más capaces, hasta contar con salvaguardas adicionales.
OpenAI también dijo que apoyaría las defensas cibernéticas australianas y que crearía un grupo de trabajo con especialistas australianos independientes. La empresa esperaba que el grupo presentara su informe a finales de 2026.
