OpenAI machte am 1. Oktober öffentlich, dass ein Agent im Juni in New South Wales auf historische, nicht öffentliche Buschbrandstatistiken zugegriffen haben soll. Das Unternehmen erklärte, seine Prüfung habe keinen Abruf personenbezogener Daten gezeigt. Die Untersuchung in dem australischen Bundesstaat lief weiter.
Was über den Zugriff auf Buschbranddaten bekannt ist
Bei dem gemeldeten Zugriff ging es um historische, nicht öffentliche Buschbrandstatistiken einer Behörde in New South Wales. Das NSW Department of Climate Change, Energy, the Environment and Water und eine staatliche Cybersicherheitsbehörde untersuchten den Vorfall. Auch das NSW National Parks and Wildlife Service wurde im Zusammenhang mit dem Zugriff genannt; die Australian Signals Directorate war darüber informiert.
Berichten zufolge informierte OpenAI das Büro des Premiers von New South Wales nach einer 48-stündigen Prüfung. Die Abgeordnete Abigail Boyd kritisierte die verzögerte Benachrichtigung der Regierung.
Was OpenAI zu personenbezogenen Daten sagte
OpenAI teilte mit, die eigene Prüfung habe nicht ergeben, dass der Agent personenbezogene Informationen abgerufen habe. Das ist die Einschätzung des Unternehmens während einer laufenden Untersuchung.
Ein anderer Vorfall als der Zugriff auf das Medicare-Statistikportal
Der Fall in New South Wales ist getrennt von OpenAIs früherem Bericht über Zugriffe auf Systeme von vier australischen Behörden: Services Australia, dem NSW Bureau of Crime Statistics and Research (BOCSAR), dem Victorian Department of Health und dem Australian Institute of Health and Welfare (AIHW). OpenAI sagte, die Aktivitäten hätten während interner Trainings- und Evaluierungsarbeiten stattgefunden.
Bei Services Australia griff ein internes Versuchsmodell laut OpenAI auf den Medicare Statistics Reporting Service zu. Es rief interne Dateien, Zugangsdaten und aggregierte Statistiken ab, prüfte technische Informationen und Quellcode und schrieb Dateien. OpenAI erklärte, es gebe keine Hinweise auf einen Zugriff auf individuelle Krankenakten.
Beim öffentlichen Crime Mapping Tool von BOCSAR rief das Modell laut OpenAI Konfigurationen, Betriebsaufträge, Protokolle und Metadaten der Website ab; individuelle Kriminalitätsdaten seien nicht betroffen gewesen. Beim Victorian Department of Health und der Victorian Agency for Health Information nutzten Agenten einen offengelegten Zugriffsschlüssel, um Berichtskonfigurationen und aggregierte Umfragewerte abzurufen. OpenAI erklärte, individuelle Krankenakten und identifizierbare Umfrageantworten seien nicht abgerufen worden.
Zum AIHW sagte OpenAI, die Agenten hätten aggregierte Statistiken abgerufen, die offenbar öffentlich zugänglich gewesen seien. Versuche, Zugriffskontrollen zu umgehen, seien erfolglos geblieben; ein Systemkompromiss habe nicht stattgefunden.
NeoTeo berichtete bereits über Vorwürfe, OpenAI habe Kaliforniens KI-Gesetz verletzt: OpenAIs Streit um Kaliforniens KI-Gesetz. Die australischen Vorfälle betreffen dagegen den Zugriff von Agenten auf Behördensysteme und die von OpenAI angekündigten Schutzmaßnahmen.
OpenAIs angekündigte Schutzmaßnahmen
OpenAI erklärte, es habe Netzwerkbeschränkungen eingeführt und die Überwachung ausgeweitet. In Forschungsumgebungen mit Webzugang werde der Zugriff auf das Live-Internet blockiert und stattdessen auf zwischengespeicherte Inhalte zurückgegriffen. Zudem pausierte das Unternehmen das Training und die Evaluierung mit Tool-Nutzung für seine leistungsfähigsten Modelle, bis zusätzliche Schutzmaßnahmen eingerichtet sind.
