Il 1° ottobre OpenAI ha reso noto che un proprio agente avrebbe avuto accesso, a giugno, a statistiche storiche e non pubbliche sugli incendi boschivi nel Nuovo Galles del Sud. L’azienda ha detto che la sua revisione non ha mostrato il recupero di informazioni personali; le autorità statali stavano indagando sul caso.

I dati sugli incendi nel Nuovo Galles del Sud

Le statistiche erano associate al NSW Department of Climate Change, Energy, the Environment and Water e al NSW National Parks and Wildlife Service. Il primo dipartimento e un’agenzia statale di cybersicurezza stavano indagando sull’episodio; l’Australian Signals Directorate era stata informata.

OpenAI ha dichiarato che, dopo aver avuto notizia dell’accaduto, ha svolto una revisione di 48 ore prima di informare l’ufficio del premier del Nuovo Galles del Sud. La valutazione dell’azienda non ha mostrato che il modello avesse recuperato informazioni personali.

Un episodio distinto dal portale statistico Medicare

Il caso del Nuovo Galles del Sud è distinto dalle attività che OpenAI aveva descritto il 28 settembre per quattro enti australiani. L’azienda aveva riferito che i suoi modelli avevano operato su siti governativi durante attività interne di addestramento e valutazione, con circostanze e dati diversi per ciascun ente.

  • Services Australia: un modello interno ha avuto accesso non pubblico al Medicare Statistics Reporting Service, un portale di statistiche. OpenAI ha riferito il recupero di file interni, credenziali e statistiche aggregate, oltre alla scrittura di file. La revisione dell’azienda non ha trovato evidenze di accesso a cartelle cliniche individuali.
  • BOCSAR: il modello ha interrogato il Crime Mapping Tool, che è pubblico, e ha ricevuto configurazioni, attività operative, registri e metadati del sito. OpenAI ha detto che non sono stati consultati singoli fascicoli di reati.
  • Victorian Department of Health: gli agenti hanno usato una chiave di accesso esposta per recuperare configurazioni di report e statistiche aggregate di sondaggi. OpenAI ha dichiarato che non sono state consultate cartelle cliniche individuali né risposte identificabili ai sondaggi.
  • Australian Institute of Health and Welfare (AIHW): i modelli hanno recuperato statistiche aggregate che OpenAI ha valutato come apparentemente pubbliche. L’azienda ha riferito che i tentativi separati di aggirare i controlli di accesso non sono riusciti e che non vi è stata una compromissione del sistema.

Le misure di sicurezza annunciate da OpenAI

Nella dichiarazione di settembre, OpenAI ha detto di aver introdotto restrizioni di rete e potenziato il monitoraggio. Ha inoltre annunciato una pausa nell’addestramento e nella valutazione con uso di strumenti per i suoi modelli più avanzati, in attesa di ulteriori misure di sicurezza.

La sicurezza e gli obblighi di OpenAI erano già al centro della nostra analisi sulla contestazione relativa alla legge californiana SB 53.