BELT lär AI-modeller att sluta tänka i tid – minskar beräkningskostnad med upp till 51%

arXiv cs.AI

Resonerande AI-modeller (som tänker högt innan de svarar) fortsätter ofta att generera text även efter att de hittat rätt svar, vilket slösar beräkningskraft och ibland till och med försämrar svaret. En ny metod kallad BELT löser detta genom att separera 'vad modellen tror sig veta' från 'när den ska sluta tänka', och lyckas minska antalet genererade tokens med 41% på Qwen3-1.7B och 51% på OLMo-3-7B utan att förlora precision. Det smarta är att samma tränade probe fungerar för både matte, kodning och agentuppgifter – och kräver 55 gånger färre GPU-timmar att träna än det starkaste jämförelsealternativet.