Nytt träningsramverk låter AI-modeller lära sig snabbt och långsamt samtidigt

arXiv cs.AI

Forskare föreslår ett träningssätt inspirerat av hur människor lär sig på olika tidsskalor – ungefär som hjärnans snabba intuition kontra långsamt eftertänkande. Metoden kombinerar vanlig parameterträning ('långsam inlärning') med kontextoptimering ('snabb inlärning'), vilket gör modellerna upp till 3 gånger mer dataineffektiva än enbart reinforcement learning. Resultatet är också att modellerna glömmer gamla kunskaper betydligt mindre – upp till 70% mindre KL-divergens (ett mått på hur mycket modellen avviker från sitt ursprung) jämfört med standard RL-träning.