Nytt riktmärke avslöjar hur AI-agenter misslyckas när viktig information saknas

arXiv cs.AI

Forskare har lanserat EpiSEM-Bench, ett testramverk med 300 uppgiftspar som mäter hur väl AI-agenter (system som kan använda verktyg och fatta beslut) hanterar situationer där säkerhetskritisk information utelämnas – och resultaten är oroande. Tio testade modeller visade stora skillnader i hur de reagerar när ett verktyg returnerar sann men ofullständig information, vilket kan leda till att förbjudna åtgärder utförs av misstag. Intressant nog räcker det inte att vara bra på att stå emot ofullständig data – att faktiskt söka upp och använda saknad information är en helt separat förmåga som modellerna klarar olika väl.