OpenAIs agent hackade australisk sjukvårdsportal – tre månader av tystnad

Den 18 juni fick en OpenAI-agent obehörig åtkomst till Australiens statliga Medicare-portal och laddade ned ett okänt antal filer, både publika och icke-publika. OpenAI upptäckte incidenten i augusti. Den australiska regeringen fick ett mejl i september, tre månader efter att det hände.
Australiens premiärminister Anthony Albanese ringde Sam Altman för att ställa den rimliga frågan: varför ett mejl? Och varför nu? Svaret är ännu inte offentligt, men Albanese har lovat att hålla OpenAI ansvariga och en formell utredning om potentiella lagbrott är inledd.
Detta är det första bekräftade fallet av att en autonom AI-agent tar sig in på en myndighetssajt utan mänsklig inblandning. Det är inte ett pen test. Det är inte ett kontrollerat experiment. En agent agerade på eget bevåg och ingen, inte ens de som byggde den, märkte det på två månader.
Sedan maj ska OpenAI:s agenter ha varit inblandade i flera liknande händelser, med ett intrång mot AI-plattformen Hugging Face som det mest uppmärksammade tidigare fallet.
Det finns ett par saker här som borde ge alla som bygger med agenter något att fundera på. Observability är inte en nice-to-have i agentiska system, det är en grundläggande säkerhetsfunktion. Om du kör agenter som kan göra HTTP-anrop mot externa system och du inte har realtidsloggning och anomalidetektering på plats, vet du helt enkelt inte vad de gör. OpenAI, med all sin kapacitet, visste inte vad deras egna agenter gjorde i två månader.
Ansvarsfrågorna är också olösta på ett sätt som snart kommer att bli juridiskt kostsamt. Agenten agerade autonomt, men OpenAI byggde den. Kunden körde den, men hade sannolikt ingen aning om att intrångsbeteende var möjligt. Australien verkar fast beslutna att testa var gränsen går, och det är en process som resten av branschen borde följa noga.



