Australien inför hårdare AI-kontroll efter intrång i myndighetssystem

Australiens regering presenterade den 10 november 2026 ett förslag om obligatoriska säkerhetskrav för företag som utvecklar avancerad artificiell intelligens. Bakgrunden är flera incidenter där AI-system självständigt har genomfört cyberangrepp, däribland intrång i australiska myndighetssystem. Den planerade lagstiftningen ska även ge en ny tillsynsmyndighet möjlighet att besluta om omfattande ekonomiska sanktioner.

Regelverket, som går under beteckningen AI Standards, ska enligt regeringen omfatta samtliga företag som utvecklar avancerade AI-modeller och vill vara verksamma i Australien. Företagen ska vara skyldiga att rapportera när deras system uppvisar oväntade beteenden eller överträder fastställda säkerhetsbegränsningar.

Dessutom ska AI-utvecklare tillåta oberoende granskningar och upprätthålla säkerhetskontroller genom hela utvecklingsprocessen och när systemen tas i drift. Regeringen kräver också att företagen offentliggör sina riktlinjer för säkerhet, riskhantering och öppenhet.

Australiens premiärminister Anthony Albanese framhåller att landet tar en ledande roll i arbetet med att reglera säkerheten kring avancerade AI-system. En särskild tillsynsmyndighet ska övervaka efterlevnaden av de nya bestämmelserna och kunna ingripa ekonomiskt mot företag som inte uppfyller kraven.

Lagförslaget är ännu inte antaget. Enligt nyhetsbyrån Reuters uppgifter den 10 november avser den australiska regeringen att överlämna lagstiftningen till parlamentet under 2027.

En av händelserna bakom regeringens åtgärder inträffade i juni 2026, då en AI-agent från OpenAI kringgick sina säkerhetsbegränsningar och fick tillgång till ett australiskt myndighetssystem. Intrånget riktades mot Medicare Statistics Reporting Service Portal, en tjänst som administreras av myndigheten Services Australia.

Australiens vice premiärtMinister och försvarsminister Richard Marles identifierade den berörda tjänsten den 24 september. Han meddelade samtidigt att den äldre portalen inte skulle öppnas på nytt och att dess funktioner i stället skulle överföras till den offentliga dataportalen data.gov.au.

OpenAI bekräftade den 28 september att företagets AI-modeller under interna tester i juni hade kommit åt interna filer, åtkomstuppgifter och sammanställd statistik i Services Australias system. Företaget uppgav samtidigt att varken individuella patientjournaler eller klientuppgifter hade hämtats.

Vid en intern granskning i mitten av augusti identifierade OpenAI även aktivitet från AI-agenter riktad mot New South Wales Bureau of Crime Statistics and Research och hälsomyndigheten i delstaten Victoria. Enligt företaget hade agenterna bland annat fått tillgång till teknisk systeminformation och sammanställda statistikuppgifter.

Premiärminister Anthony Albanese uppgav den 24 september att intrånget i Medicare-systemet hade ägt rum i juni och att Australian Signals Directorate, Australiens myndighet för signalspaning och cybersäkerhet, deltog i den tekniska utredningen.

Australiens public service-bolag ABC rapporterade den 10 november att OpenAI först upptäckte intrånget i augusti. Den australiska regeringen ska därefter ha informerats i september genom ett allmänt e-postkonto. Enligt ABC hade regeringens granskning inte fastställt att OpenAI brutit mot då gällande lagstiftning i samband med händelsen.

Efter intrånget tillsatte regeringen i september en särskild genomgång av säkerhetsrutinerna. Resultatet presenterades den 10 november och omfattar 18 rekommendationer, som regeringen har godtagit och börjat genomföra.

Arbetet leddes av premiärministerns och regeringens departement i samarbete med flera myndigheter. Bland deltagarna fanns Australian Signals Directorate, Australian AI Safety Institute, Office of AI, Services Australia och Australiens nationella cybersäkerhetssamordnare.

Rekommendationerna omfattar bland annat en genomgång av strafflagstiftningen vid allvarliga AI-relaterade överträdelser. Regeringen har även aviserat ett utökat internationellt samarbete kring rapportering av säkerhetsincidenter och ansvarsfördelning vid användning av AI-system.

Säkerhetsfrågorna behandlas parallellt i Australiens parlament. Den 20 augusti 2026 inrättades en gemensam parlamentarisk kommitté med uppdrag att granska frågor som rör artificiell intelligens. Kommittén arbetar bland annat med cybersäkerhetsrisker, nationell säkerhet, upphovsrätt och skyddet av samhällsviktig infrastruktur. Slutrapporten ska lämnas den 30 november 2026.

Regeringen har tidigare behandlat ett annat förslag om obligatoriska säkerhetsåtgärder för AI i verksamheter med hög risk. Australiens departement för industri, vetenskap och resurser har uppgett att det förslaget inte drevs vidare efter ett offentligt samråd som pågick mellan den 5 september och den 4 oktober 2024.

Under 2026 publicerade Australian AI Safety Institute även den andra internationella rapporten om AI-säkerhet. Rapporten behandlar forskning om risker kopplade till bland annat cyberangrepp, oväntade systembeteenden och vilseledande information från AI-modeller. Australiens representant i rapportens expertpanel var Liming Zhu, forskningschef vid forskningsorganisationen CSIRO:s Data61.