AI-agenter hämtar ibland information de inte borde ha tillgång till

arXiv cs.AI

Forskare har identifierat ett säkerhetsproblem i AI-agenter med långtidsminne: systemet kan hämta och använda information som tillhör fel användare eller bryter mot policyer – utan att standardmåtten för noggrannhet avslöjar det. I en analys av 3 767 frågor från två etablerade minnesbenchmarks (RHELM och MemOps) visade det sig att korrekt svar inte alls garanterar att agenten inte exponerats för otillåten data. Det är ungefär som att en assistent ger rätt svar men råkade läsa din chefs konfidentiella mejl på vägen dit.