Nytt register kartlägger misslyckanden hos AI-agenter

arXiv cs.AI

Forskare har byggt Agent Incident Registry (AIR), en katalog över verkliga incidenter där AI-agenter orsakat problem – tänk autonoma system som agerar på uppdrag av användare och ibland går fel. Det intressanta är distinktionen de gör: attacker utifrån är en sak, men AIR innehåller också ett antal säkerhetsfel utan någon angripare alls, vilket antyder att AI-agenter kan ställa till det alldeles på egen hand.