Ny metod låter AI-modeller lära sig vilka träningsfrågor som är värda att ställa

arXiv cs.AI

Forskare har utvecklat ett ramverk kallat Ask-to-Distill som automatiskt genererar bättre träningsfrågor för så kallad kunskapsdestillation – processen där en stor AI-modell lär upp en mindre. Det smarta är att systemet kan bedöma om en fråga är värdefull utan att veta rätt svar i förväg, genom att mäta hur mycket lärare- och elevmodellen är oeniga. I tester inom matematik, kodgenerering och agentuppgifter presterade metoden bättre än att använda ooptimerade frågor eller filtrerade frågor från verkliga dataset.