Ny metod minskar AI-agenters kostnad med 70 procent
Forskare har utvecklat Instruction-Tool Retrieval (ITR), en teknik som låter AI-agenter hämta endast nödvändiga instruktioner och verktyg för varje steg istället för att ladda allt varje gång. Metoden minskar kontexttokens med 95 procent och förbättrar verktygsval med 32 procent, vilket gör att agenter kan köra 2-20 gånger fler steg inom samma minnesgränser.
Djupdykning
AI-agenter har länge haft ett problem: de måller om samma instruktioner och verktyg i varje steg, som att läsa hela manualen varje gång du ska använda en skruvmejsel. Forskarna bakom Instruction-Tool Retrieval (ITR) har nu löst detta genom att bara hämta relevanta instruktioner och verktyg för varje specifik uppgift - som en smart assistent som bara plockar fram det du behöver just nu. Resultatet är imponerande: 95% färre tokens per steg, 32% bättre verktygsval och 70% lägre kostnader, vilket gör att agenterna kan köra 2-20 gånger fler loopar inom samma minnesgränser. Detta är särskilt revolutionerande för långkörande autonoma agenter som tidigare kvävdes av sina egna minnesanvändning. För företag innebär detta att AI-agenter plötsligt blir både smartare och billigare att driva. Nyckelinsikt: ITR visar att AI-agenter behöver mindre information för att prestera bättre - ibland är det bästa sättet att bli smartare att glömma det irrelevanta.