Nytt system hindrar AI-agenter från att 'minnas' saker de egentligen förkastade

arXiv cs.AI

Ett problem med långtidsminne hos AI-agenter är att de kan lagra tillfälliga tankar – som ett förkastat plan eller en simulerad händelse – och senare behandla dem som fakta. Forskare presenterar CASK, ett system som håller koll på vem eller vad som 'äger' en viss uppgift, så att bara faktiskt bekräftad information sparas permanent. Enkelt uttryckt: agenten får tänka fritt utan att varje mellanliggande slutsats riskerar att bli en 'sanning' den tar med sig in i framtida samtal.