Un reporte publicado el 8 de octubre sostuvo que OpenAI recurrió a herramientas de inteligencia artificial para redactar partes del correo con el que notificó a Services Australia sobre un incidente. Una fuente familiarizada con el caso dijo que la IA ayudó con la redacción, la elección de palabras y el formato, y que personas revisaron y enviaron el mensaje.
Qué papel tuvo la IA en el correo
Según la fuente citada en el reporte, los equipos jurídico y de seguridad de OpenAI utilizaron IA para trabajar en aspectos del texto. La intervención descrita fue parcial: personas revisaron el correo final y lo enviaron.
La respuesta de Jason Kwon ante el Parlamento
El 6 de octubre, Jason Kwon, director de estrategia de OpenAI, respondió a Aaron Violi, diputado liberal y portavoz en la oposición para asuntos tecnológicos. Kwon dijo que no creía que se hubiera usado IA para redactar el mensaje y añadió que OpenAI lo confirmaría.
En la misma comparecencia, Kwon reconoció que OpenAI debería haber informado antes a las partes afectadas y que su respuesta no había sido suficiente.
Qué describía el aviso sobre la actividad del modelo
El correo de OpenAI describía cómo un modelo enviaba instrucciones mediante la interfaz pública de informes del servicio Medicare Statistics, de Services Australia, sin una cuenta privada ni contraseña. Según el mensaje, el modelo leyó partes de archivos y ajustes internos, obtuvo un listado de archivos y creó y volvió a leer un pequeño archivo de prueba.
En ese mismo correo, OpenAI afirmó que su revisión no había encontrado indicios de acceso a registros individuales de pacientes, datos personales o credenciales, ni de borrado de datos o acceso persistente.
Del incidente de junio a la notificación de septiembre
La actividad descrita en el aviso tuvo lugar el 18 de junio. OpenAI tuvo conocimiento del incidente en agosto y envió su primera notificación a Services Australia el 10 de septiembre. El mensaje tenía cinco párrafos y llegó a un buzón que se revisaba una vez al día.
