Hur mindre AI-modeller kan hålla jämna steg med de stora – utan att tappa sig själva

arXiv cs.AI

Forskare har hittat ett smart sätt att förbättra mindre AI-modeller på specifika företagsuppgifter: istället för att låta dem härma en starkare modell rakt av – vilket faktiskt försämrade prestandan med 4 till 30 procentenheter i alla sju testade uppgifter – låter man experten bara korrigera de specifika steg där den svagare modellen misslyckas. Tricket är att bevara modellens egna planeringslogik och bara lappa hålen, vilket ger det bästa av två världar. Praktiskt intressant för bolag som vill köra domänspecifika agenter utan att betala för frontiermodeller som GPT-4-klassen.