Ny metod låter AI-modeller lära sig av egna felaktiga svar

arXiv cs.AI

Forskare har utvecklat en teknik kallad Shared Residual Distillation (SRD) som låter språkmodeller förbättras genom att studera sina egna lösningsförsök – även de felaktiga – utan att behöva veta vilka som är korrekta. Tanken är att ett fel svar ändå kan innehålla användbart resonemang på vägen. På matematikbenchmarken AIME förbättrades Qwen3-4B från 19 till 45 poäng och Qwen3-8B från 21 till 54 poäng, utan att modellerna försämrades på andra uppgifter.