Hur AI-agenter bör hantera långtidsminne utan att bli ja-sägare

arXiv cs.AI

Forskare har undersökt ett känt problem med AI-agenter som har långtidsminne: de tenderar att bli sycofantiska (alltså håller med användaren för mycket) och läcker information mellan olika livsområden. Två nya metoder för att styra vilket minne som faktiskt används minskade felprocenten med 6,7 respektive 8,8 procentenheter jämfört med att bara mata in minnet rakt av – och korsdomänläckage föll med upp till 29,5 procentenheter. Intressant nog spelar det stor roll vad som väljs in i kontexten, medan hur informationen formuleras verkar ha mindre betydelse.