Ny metod låter AI-agenter glömma sitt eget resonemang – och bli billigare att köra

arXiv cs.AI

Forskare har tagit fram ICLR, en metod som hjälper AI-agenter att rensa bort onödig tankehistorik allt eftersom de arbetar – ungefär som att tömma ett mentalt anteckningsblock när informationen redan är inskriven i kod eller verktygsutdata. På 260 testuppgifter förbättrades agenternas resultat från 0,699 till 0,718 i genomsnittlig poäng, samtidigt som antalet inlästa tokens (textenheter som modellen processar) minskade med upp till 33 procent. Det intressanta är insikten: resonemang behöver inte sparas för evigt – det kan kastas när det väl har 'kristalliserats' i miljön.