Ny metod väljer träningsdata till AI-modeller 75 gånger mer effektivt

arXiv cs.AI

Forskare har tagit fram HARP, en metod för att välja ut vilken data som används när man finjusterar (anpassar) stora språkmodeller – och den kräver 75 gånger mindre träningsdata än att köra hela datasetet, utan att tappa i prestanda. I tester över 36 olika scenarion nådde HARP bättre resultat än konkurrenterna i 23 av dem, med ett genomsnittligt noggrannhetsresultat på 64,2 jämfört med 59,3 för bästa alternativet. Det intressanta är egentligen hur mycket pengar och beräkningskraft som kan sparas i praktiken – finjustering är dyrt, och att behöva träna på en bråkdel av datan är ingen liten sak.