AI-agenter följer återkallade regler – ett säkerhetsproblem i minnessystem

arXiv cs.AI

Forskare testade fem minnessystem för AI-agenter och fann att inget av dem blockerar återkallad information som standard – den gamla, ogiltiga regeln hämtas ändå och agenten agerar på den. Problemet är att 'mjuk återkallning' (soft revocation), där fakta markeras ogiltiga men behålls i systemet, inte kontrolleras när informationen hämtas ut. Som lösning föreslår forskarna ett filterlager mellan agenten och minnesdatabasen som automatiskt håller tillbaka ogiltigförklarade poster.