Hugging Face utsatt för cyberattack driven av autonomt AI-agentsystem
AI-plattformen Hugging Face har drabbats av ett intrång där attacken enligt företaget genomfördes helt autonomt av ett AI-agentsystem – utan mänsklig inblandning. Angriparen utnyttjade en sårbarhet i datasethanteringen, eskalerade åtkomsten till servernivå och kom åt en begränsad mängd internetdataset samt tjänstecertifikat. Inga publika AI-modeller eller dataset verkar ha manipulerats, men användare uppmanas att rotera sina åtkomsttokens.
Djupdykning
Hugging Face är ungefär som GitHub fast för AI-modeller – det är dit forskare och företag laddar upp och delar sina modeller och dataset, vilket gör plattformen till ett kritiskt nav i hela AI-ekosystemet. Det som sticker ut här är inte bara att ett intrång skedde, utan att det genomfördes helt autonomt av ett AI-agentsystem, alltså ett AI som själv planerade och utförde varje steg i attacken utan att en människa satt vid ratten. Angriparen hittade en lucka i hur plattformen hanterar datasetbearbetning – tänk dig det som ett sätt att smuggla in kod i ett paket som systemet litar på – och därifrån rullade det på av sig självt. Det de flesta missar i rapporteringen är att detta egentligen är ett proof of concept för något branschen pratat om som ett framtida hot: AI-agenter som verktyg för offensiv cybersäkerhet. Vi är vana vid att tänka på AI-attacker som deepfakes eller phishing-mail, men en agent som självständigt eskalerar åtkomst och navigerar i interna system är en helt annan storleksordning. Att just Hugging Face drabbas är extra laddat – om en angripare hade lyckats manipulera publika modeller hade skadan kunnat spridas tyst till tusentals produkter som bygger på dem, ungefär som SolarWinds-attacken 2020 fast i AI-form.