Ny metod låter AI-modeller lära sig vilka ord som är värda att träna på

arXiv cs.AI

Forskare har tagit fram MetaOPD, ett system som automatiskt lär sig vilka delar av en AI-modells egna svar som är mest värdefulla att träna på – istället för att behandla alla ord lika. Metoden använder så kallad bilevel-optimering (två parallella träningsnivåer) och testades på matematisk problemlösning, där den förbättrade en liten 1,7-miljarders-parametermodell med drygt 6 procentenheter på ett standardmått (Pass@8). Det är ett ganska elegant sätt att klämma ut mer prestanda ur små modeller utan att öka storleken.