Microsoft täpper till tre säkerhetshål i AI-agentverktyget Autogen Studio
Microsoft har åtgärdat tre allvarliga säkerhetsproblem – samlade under namnet Autojack – i Autogen Studio, verktyget för att bygga AI-agenter. Sårbarheterna kunde utnyttjas genom att lura agenterna att besöka skadliga webbplatser, men är nu fixade i version 0.4.2.2. Bara användare som laddat ner programmet via GitHub har varit i riskzonen – PyPI-versionen var inte påverkad.
Djupdykning
Autogen Studio är Microsofts verktyg för att bygga AI-agenter — alltså autonoma program som kan utföra uppgifter, fatta beslut och interagera med omvärlden utan att en människa håller i handen hela tiden. Sårbarheterna i "Autojack"-paketet handlade om att angripare kunde manipulera dessa agenter till att besöka skadliga webbplatser, vilket i praktiken innebär att agenten blir ett verktyg mot sin egen användare. Det som många missar här är att attackytan för AI-agenter är fundamentalt annorlunda än för vanlig mjukvara — när ett program kan agera autonomt och interagera med webben, räcker det inte att skydda koden, du måste också skydda mot vad agenten *gör* när den är igång. Att sårbarheten endast drabbade GitHub-versionen och inte PyPI-paketet antyder att det rörde sig om något i utvecklingsmiljön snarare än i den stabila releasen, vilket är lite ironiskt eftersom det är just utvecklare och forskare som brukar hämta direkt från GitHub. I takt med att fler företag börjar sätta AI-agenter i produktion kommer den här typen av agentspecifika attacker att bli en hel egen disciplin inom cybersäkerhet — och spelreglerna för vad som räknas som en "säker" mjukvaruversion kommer att behöva skrivas om från grunden.