Nytt ramverk minskar AI-tokenanvändning med upp till 55% i multi-agentsystem

arXiv cs.AI

Forskare har byggt Jev-LiteMAS, ett ramverk för multi-agentsystem (där flera AI-modeller samarbetar) som ersätter dyra generativa modeller med enklare beslutsmodeller för koordinationsuppgifter som routing och kvalitetsgranskning. Resultatet: 12,7–54,6% färre tokens utan att noggrannheten tappar mer än 1,34 procentenheter. Det intressanta är att upp till 43,5% av alla tokens i dagens system går åt till sådant som egentligen inte kräver full generativ kraft – pengar som alltså kastas i sjön.