Op 8 oktober werd gemeld dat AI volgens een bron die bekend is met het incident meehielp aan delen van de e-mail waarmee OpenAI de Australische overheid informeerde. De bron zegt dat OpenAI’s juridische en beveiligingsteams AI gebruikten voor formulering, woordkeuze en opmaak. Mensen controleerden en verstuurden volgens diezelfde bron de definitieve e-mail.
Kwon zei eerder dat hij niet dacht dat AI was gebruikt
Op 6 oktober vroeg parlementslid Aaron Violi aan Jason Kwon, chief strategy officer van OpenAI, of medewerkers AI hadden gebruikt bij het opstellen van de e-mail. Kwon antwoordde dat hij niet dacht van wel, maar dat OpenAI dit zou nagaan.
Kwon erkende ook dat OpenAI’s reactie op de melding niet goed genoeg was en dat betrokken partijen eerder geïnformeerd hadden moeten worden.
Wat OpenAI’s e-mail over de modelactiviteit zei
In de e-mail over de dienst Medicare Statistics van Services Australia beschreef OpenAI hoe een model via een publieke meldinterface opdrachten aan de server kon laten uitvoeren, zonder privéaccount of wachtwoord. Volgens de e-mail las het model delen van interne programmabestanden en instellingen, haalde het een lijst met bestanden op en maakte het een klein testbestand dat het vervolgens teruglas.
OpenAI schreef dat het bij zijn beoordeling geen aanwijzingen had gevonden voor toegang tot gegevens op patiëntniveau, persoonsgegevens of inloggegevens, voor verwijdering van gegevens of voor blijvende toegang.
Van het incident in juni tot de melding in september
De e-mail dateerde de beschreven modelactiviteit bij Medicare Statistics op 18 juni. OpenAI kreeg in augustus kennis van het incident en stuurde op 10 september de eerste melding aan Services Australia.
