Ny metod låter AI-agenter lösa komplexa uppgifter med färre modell-anrop

arXiv cs.AI

Forskare har byggt ett system där en AI-agent skriver ett Python-program som hanterar flera verktygsanrop i sekvens, istället för att växla fram och tillbaka med modellen efter varje steg. Resultatet: median två modell-anrop per uppgift istället för sju, och en genomsnittlig svarstid på 1,8 sekunder – systemet vann spåret CAR-bench Track 2 med 60% korrekthet, 4,5 gånger bättre än baslinjen. Det intressanta är egentligen caching-tricket: eftersom prompten är identisk mellan anrop kom 78% av input-tokens direkt från cache, vilket kraftigt sänker både kostnad och latens.