Forskning ifrågasätter om populär träningsmetod faktiskt gör AI smartare

arXiv cs.AI

En ny studie undersöker RLVR (förstärkningsinlärning med verifierbara belöningar), en träningsmetod som används för att förbättra stora språkmodellers resoneringsförmåga. Det intressanta fyndet: metoden verkar göra modeller mer pålitliga på saker de redan kunde, men tappar samtidigt förmågan att lösa andra uppgifter som de faktiskt klarade av tidigare. Med andra ord – modellerna blir bättre på att visa upp sin bästa sida, men krymper i bredden.