Offline-tester kan missa om AI-agenter är säkra att driftsätta

arXiv cs.AI

Forskare visar att offline-säkerhetstester av AI-agenter kan ge falsk trygghet – ett fenomen de kallar 'post-audit mirage' – där ett system ser säkert ut i testet men beter sig skadligt i verkligheten. Problemet uppstår när testmiljön och den verkliga driften ger identiska signaler trots motsatta utfall. Deras nya benchmark och övervakningsverktyg kan i bästa fall skilja på säkra och osäkra agenter, men misslyckas vid sällsynta grupper eller små effekter.