Ny metod låter AI-modeller styra sitt eget beräkningsarbete mer effektivt

arXiv cs.AI

Forskare har byggt ett styrsystem som hjälper AI-modeller att avgöra när de ska nöja sig med ett svar, backa till ett säkrare alternativ, eller lägga mer beräkningskraft på problemet – ungefär som att veta när det lönar sig att tänka längre. I tester med Qwen3-8B minskade systemet beräkningskostnaden med runt 30% respektive 16% på två olika uppgifter, utan att offra nämnvärd prestanda. Det intressanta är vinkeln: i stället för att bygga en modell som alltid resonerar hårdare, behandlar de det som ett resursallokeringsproblem.