Nytt ramverk lär AI-modeller att tänka lagom mycket

arXiv cs.AI

Forskare har tagit fram 'Route-and-Generate' (Rouge), ett träningsramverk som hjälper språkmodeller att avgöra hur mycket tankemöda en fråga faktiskt kräver – enkla frågor får kortare svar, svårare får djupare resonemang. Problemet de löser är konkret: dagens modeller tenderar att övertänka triviala uppgifter och undertänka komplexa, vilket slösar beräkningskraft. Resultatet är bättre balans mellan noggrannhet och effektivitet på flera reasoning-tester.