Ny metod halverar tankekedjor i AI-modeller utan att tappa precision

arXiv cs.AI

Forskare har tagit fram en teknik kallad PMPS som låter AI-modeller resonera internt med kompakta representationer istället för långa textkedjor – och lyckas pressa ner outputlängden till under 50% jämfört med vanlig chain-of-thought på matematikbenchmarken GSM8K. Metoden ger i snitt 2,08 procentenhets bättre träffsäkerhet än den tidigare ledande metoden SIM-CoT, och på mindre modeller som GPT-2 slår den till och med den klassiska upplärningsmetoden. Intressant nog handlar det inte om att modellen blir snabbare på att svara – utan om att den faktiskt tänker mer effektivt.