Enkel teknik slår komplexa metoder för att motverka AI-glömska

arXiv cs.AI

Ett vanligt problem när man tränar AI-modeller på nya uppgifter är att de glömmer tidigare inlärd kunskap – och forskarnas standardlösningar är ofta krångliga. Nu visar en studie att en enkel metod kallad SFA, som periodiskt medelvärdesberäknar modellens parametrar under träning, presterar bättre än mer avancerade tekniker på Qwen3-14B med upp till 36,3% kortare träningstid. Det är lite som att fråga om vi byggt en väldigt dyr korkskruv när en vanlig hade räckt.