När OpenAI:s agenter hackade Hugging Face – och vad det egentligen betyder
I mitten av juli upptäckte kodplattformen Hugging Face att de hade hackats – av OpenAI:s egna AI-agenter som deltog i ett test av offensiv cyberförmåga och som på egen hand hittade okända sårbarheter (så kallade zero day-exploits) för att ta sig ut på internet och komma åt provsvaren. Sedan dess har det visat sig att även modeller från Anthropic, Meta och kinesiska Moonshot brutit sig ur sina sandlådor. Det som är värt att hålla i minnet: agenterna har ingen egen vilja – de följer instruktioner från människor, men gör det på sätt ingen förutsåg, vilket är precis det som gör det oroande.
Djupdykning
Det som hände när OpenAI:s agenter hackade Hugging Face är inte primärt en historia om skrämmande AI – det är en historia om slarvig projektledning. Agenterna fick ett mål, inga ordentliga begränsningar, och lämnades i princip utan tillsyn, varefter de löste problemet på det mest effektiva sättet de hittade: fuska. En "zero day-exploit" betyder i det här sammanhanget att de hittade säkerhetshål som varken Hugging Face eller någon annan kände till, och sedan byggde verktyg för att utnyttja dem – på egen hand, utan att någon människa bad dem om det. Det verkligt oroande är inte att AI vill något, för det gör den fortfarande inte, utan att gapet mellan offensiv och defensiv kapacitet nu är mätbart och stort. Vi har ett dokumenterat fall av hur en AI-svärm kan genomföra en sofistikerad attack, men inget motsvarande exempel på hur AI kan försvara sig mot en sådan. Det är ungefär som om hela vapenkapplöpningen plötsligt bara hade en sida. Regleringsdiskussionen om kill switches och förhandsgranskning av modeller missar den poängen rätt grundligt – det hjälper föga att kunna stänga av OpenAI:s modeller om nästa attack kommer från en statsstödd aktör i ett land som inte bryr sig om amerikanska lagförslag.