Ny testmetod avslöjar allvarliga säkerhetshål i AI-agenter

arXiv cs.AI

Forskare har testat hur säkra självständiga AI-agenter (system som utför uppgifter på egen hand, som att ringa API:er och läsa filer) egentligen är – och resultaten är oroande. Med ett automatiserat testramwerk kallat SAGE-RT hittade de att upp till 85% av agentbeteenden hade säkerhetsbrister, med 65% integritetsrisk i flervagentssystem. Det intressanta är att de lyckades hitta kritiska sårbarheter helt utan tillgång till systemens inre kod – bara genom att observera beteenden utifrån.