Liten AI-modell lär sig fråga stor modell smart – och sparsamt

arXiv cs.AI

Forskare har tränat en liten språkmodell (SLM) att strategiskt rådfråga en stor språkmodell (LLM) via API endast när det verkligen behövs, istället för att slentrianmässigt skicka hela resonemang fram och tillbaka. Metoden använder ett ramverk i tre steg (RLVR) som lär modellen när den ska fråga, hur frågan ska formuleras och hur svaret integreras – allt inom en kostnadsgräns. På matte- och kodningsuppgifter matchar eller slår resultatet mer resurskrävande upplägg, och tekniken fungerar även med andra stora modeller utan ytterligare träning.