AgentTriage: Nytt system för säkerhetsdiagnos av AI-agenter

arXiv cs.AI

När AI-agenter skriver filer, kör kod eller skickar data är det svårt att i efterhand förstå vad som faktiskt hände ur ett säkerhetsperspektiv – och olika körmiljöer (runtimes) loggar saker på helt olika sätt. AgentTriage är ett nytt ramverk som standardiserar och möjliggör repeterbar säkerhetsanalys av sådana agenter, och testades mot 120 fall där det uppnådde 85,8% träffsäkerhet med bara 3,6% ej underbyggda påståenden. Intressant nog kräver systemet att det avstår från att dra slutsatser när bevisen saknas – en ovanlig och ärlig design i en tid när AI-system tenderar att gissa.