FrogNano: En liten kodningsagent tränad utan att kopiera stora modeller

arXiv cs.AI

Forskare har tränat FrogNano, en 4 miljarder parametrar stor kodningsagent, enbart via förstärkningsinlärning på cirka 1 500 syntetiska programmeringsuppgifter – utan att destillera kunskap från större modeller som GPT-4. Det intressanta är att systemet automatiskt genererar nya uppgifter anpassade till precis vad modellen kan lära sig just nu, en sorts adaptiv träningssvårighet. Resultatet tyder på att kompetenta kodningsagenter faktiskt kan byggas resurssnålt och köras på minimal hårdvara.