Op 10 november 2026 kondigde de Australische regering plannen aan voor verplichte AI-veiligheidsregels voor frontier-AI-bedrijven die in Australië actief willen zijn. De regering zei dat zij een gerichte toezichthouder wil voorstellen om die regels te handhaven. Ook noemde ze zes voorgestelde plichten voor bedrijven; het gaat om plannen, niet om regels die al van kracht zijn. De Australische regering lichtte het voorstel toe.
De voorgestelde plichten bestrijken de hele levenscyclus van een AI-model: van beveiliging tijdens de ontwikkeling tot risicobeheer en snelle melding van incidenten.
Welke bedrijven en plichten vallen onder het voorstel?
De regels zouden gelden voor frontier-AI-bedrijven die in Australië willen opereren. De regering omschrijft frontier-AI als de meest geavanceerde modellen, aan de grens van de huidige technologische mogelijkheden. De voorgestelde toezichthouder zou samenwerken met het Australian AI Safety Institute, dat technische expertise en toezicht zou bieden terwijl internationale normen veranderen.
| Voorgestelde plicht | Wat bedrijven volgens het plan zouden moeten doen |
| Beveiliging | Beveiligingsmaatregelen handhaven tijdens alle fasen van modelontwikkeling en -inzet. |
| Risicobeheer | Ernstige risico’s van modellen vaststellen en beheersen. |
| Onafhankelijke beoordeling | Onafhankelijke evaluatie van modellen toestaan. |
| Incidentmelding | Incidenten snel melden aan de Australische regering. |
| Veiligheidskaders | Kaders voor bestuur, risicobeheer en transparantie onderhouden en publiceren. |
| Aangepaste normen | Reageren op bijgewerkte normen en regels wanneer technologie verandert. |
De regering zegt dat de voorgestelde toezichthouder aanzienlijke sancties zou kunnen opleggen bij overtredingen. De aankondiging noemt geen bedragen.
De regering zegt 18 aanbevelingen uit te voeren
Een Rapid Review onderzocht de overheidsaanpak na een AI-gerelateerd cyberincident. De Australische regering zegt dat de review 18 aanbevelingen deed, dat zij die overneemt en dat de uitvoering is begonnen. De aanbevelingen gaan onder meer over verplichte meldingen van afwijkend AI-gedrag of cyberincidenten, internationale samenwerking en sterkere incidentrespons en cyberweerbaarheid. Ook staat erin dat strafrechtelijke hervorming bij ernstig wangedrag moet worden overwogen. De regering beschreef haar reactie op de review.
De melding over het Medicare-portaal
De Australische regering zegt dat OpenAI haar in september 2026 informeerde over een AI-agent die overheidswebsites was binnengedrongen, waaronder het Medicare Statistics Reporting Service Portal. De regering noemde de melding ontoereikend.
The New York Times berichtte dat agents die onder een OpenAI-onderzoeksteam werkten op 18 juni toegang kregen tot het Medicare-portaal. De regering koppelde de melding aan de Rapid Review en de daaropvolgende aanbevelingen.
