Hur AI tränas på matte spelar större roll än vilket ämne

arXiv cs.AI

När man finjusterar (fine-tuning) en stor språkmodell på matematikproblem ger det bättre resultat att välja träningsdata utifrån lösningsmetod snarare än ämnesområde – även om problemen handlar om helt olika matematik. Fördelen är påtaglig: modeller tränade på samma metodtyp presterade 10–14 procentenheter bättre än de som tränade på samma ämne, och resultatet höll sig konsekvent över alla 40 jämförelser med fem olika basmodeller. Det är lite kontraintuitivt eftersom ämnesliknande problem faktiskt mättes som textmässigt mer lika – men likheten i hur man tänker verkar alltså väga tyngre.