Nytt träningsramverk hjälper AI-modeller lära sig av misslyckade försök

arXiv cs.AI

Forskare har utvecklat TrajEvolve, en metod för att förbättra hur stora språkmodeller tränas via förstärkningsinlärning (RL) – särskilt när uppgifterna är långa och komplexa. Istället för att modellen bara lär sig av lyckade försök, förfinar metoden tidigare misslyckade steg och skapar 'evolutionära' träningsexempel, vilket ger modellen mer högkvalitativt material att lära av. Det intressanta här är egentligen hur man löser ett klassiskt RL-problem: när rätt svar sällan dyker upp av sig självt, bygg dem istället.