Ny metod förbättrar hur AI-agenter lär sig av misstag i flera steg

arXiv cs.AI

Forskare har identifierat ett grundläggande problem med hur stora språkmodeller tränas som agenter: även när en uppgift lyckas kan dåliga delbeslut längs vägen belönas av misstag. Den nya metoden C³ löser detta genom att selektivt justera vilka steg som får positiv förstärkning, baserat på modellens eget förtroende för varje beslut. I tester på flera så kallade multi-turn-benchmarks (där modellen agerar i flera steg) presterade C³ bättre än vanlig träning utan att ändra själva belöningsfunktionen.