Ny metod lär AI-agenter när de ska ställa följdfrågor – och hur
Ett vanligt problem med dagens AI-assistenter är att de gissar när en fråga är otydlig, istället för att be om förtydligande – vilket ger självsäkert felaktiga svar. Forskare bakom CIGAsk har tränat en 7-miljarders-parametermodell med förstärkningsinlärning att både veta när den ska fråga och hur den ska formulera frågan för att få ut rätt information. Modellen slår större konkurrenter på tre olika testbenchmarks utan att behöva anpassas per dataset.
Djupdykning
Problemet forskarna adresserar är subtilt men viktigt: nuvarande AI-modeller är dåliga på att veta när de ska be om förtydligande kontra bara svara, och när de väl frågar är frågorna ofta värdelösa. CIGAsk löser detta med reinforcement learning – ett träningssätt där modellen lär sig genom belöningar och straff – och två parallella belöningssignaler som tränar exakt dessa två förmågor samtidigt. Nyckeln är "Counterfactual Information Gain", alltså att modellen lär sig värdet av en fråga genom att jämföra hur sannolikt rätt svar är *med* kontra *utan* användarens svar på följdfrågan. Det som de flesta missar i den här typen av forskning är att det inte handlar om att göra AI:n mer försiktig eller ödmjuk – det handlar om att ge den bättre kalibreringsförmåga, samma sak som skiljer en junior analytiker som gissar från en senior som vet exakt vilken information som fattas innan de sätter igång. Att en 7-miljarders-parametermodell slår större konkurrenter utan datasetspecifik finjustering antyder att metoden lär modellen något genuint generaliserbart snarare än att memorera beteendemönster per uppgift – och det är precis vad som krävs för att AI-agenter ska fungera i verkliga, röriga arbetsflöden där ingen prompt är perfekt formulerad.