Ny metod låter AI-modeller träna sig själva utan facit

arXiv cs.AI

Forskare har utvecklat SIF, en träningsmetod som förbättrar språkmodellers resoneringsförmåga utan att behöva korrekta svar eller externa kontrollsystem. Tricket är att modellen jämför sin egen säkerhet på svaren och bara lär sig av de fall där den är tillräckligt konsekvent – vilket löser ett känt problem där modeller blir mer självsäkra utan att faktiskt bli bättre. På matematikbenchmarks presterade SIF 4,71 procentenheter bättre än en jämförbar metod på Qwen2.5-Math-1.5B, en relativt liten modell med 1,5 miljarder parametrar.