Nytt försvar mot minnespoisoning i AI-agenter halverar attackfrekvensen

arXiv cs.AI

AI-agenter som använder långtidsminne kan luras av angripare som planterar skadliga minnen – ett problem som hittills krävt tunga lösningar. Det nya ramverket MIND löser detta genom att jämföra agentens beteende mot ursprunglig användarintention, och lyckades i tester minska attackframgången med över 55% utan att försämra vare sig svarstid eller uppgiftsnoggrannhet. Det är ett praktiskt fynd: skyddet kostar alltså ingenting i prestanda.