AI-agenter saknar grundläggande säkerhetsmekanismer för offentliga tjänster

arXiv cs.AI

Forskare har granskat tre populära ramverk för AI-agenter (LangChain, AutoGPT och OpenAI Agents SDK) och fann att ingen av dem har inbyggda säkerhetsgarantier. I ett test kunde en enda minnesattack få en simulerad myndighetsagent att felaktigt neka 88,9% av riktade ansökningar – ett problem som kan lösas med enkla säkerhetsmekanismer som bara tar 0,2 millisekunder extra per anrop.