AI-agenter glömmer fortfarande hur du vill bli behandlad

arXiv cs.AI

Forskare har testat hur väl AI-agenter minns användarpreferenser – alltså om de lär sig när du vill bli störd eller inte – och resultaten är nedslående. I ett nytt riktmärke (MemPABench) med 99 sessioner över fyra månader presterade populära minnessystem som Mem0 och RAG inte bättre än agenter utan minne alls, medan filbaserat minne förbättrade träffsäkerheten men tillämpade reglerna i fel sammanhang. Det knepigaste problemet: även när agenten hade rätt preferens tillgänglig hade den svårt att faktiskt ändra sitt standardbeteende.