Nytt system låter AI-agenter glömma smartare – halverar minnesanvändningen

arXiv cs.AI

Forskare har tagit fram StateComp, ett ramverk som lär AI-agenter att avgöra *när* äldre interaktioner är säkra att komprimera – i stället för att följa fasta scheman. I tester minskade systemet tokenanvändningen (det mått som styr hur mycket en AI 'minns' och bearbetar) med 52 procent, och extraktionen av tillståndsinformation gick 12,67 gånger snabbare. Det knepiga problemet de löser är egentligen enkelt att förstå: komprimerar man för tidigt försvinner information som agenten fortfarande behöver, väntar man för länge blir det dyrt och långsamt.