SideQuest: Modelldriven KV-cachhantering för långsiktig AI-agentresonemang

arXiv cs.AI

Forskare har utvecklat SideQuest, en teknik som låter AI-modeller själva bestämma vilken information som ska sparas i minnet under långa resoneringsuppgifter. Metoden reducerar minnesanvändningen med upp till 65% jämfört med befintliga tekniker, vilket gör det möjligt för AI-agenter att arbeta mer effektivt med komplexa uppgifter som kräver informationssökning över flera dokument.