Självförbättrande AI-agenter utan dyra belöningssystem

arXiv cs.AI

Forskare har hittat ett sätt att träna självförbättrande AI-agenter utan att behöva designa komplexa belöningsfunktioner – istället låter de en fryst språkmodell (LLM) helt enkelt välja vilken av två agentversioner som är bättre. Metoden testades mot tre befintliga system och matchade eller slog det traditionella tillvägagångssättet i majoriteten av fallen. Det intressanta är att parvisa jämförelser ('vilket av dessa är bättre?') visar sig vara stabila nog att ersätta noggrann poängsättning – och slipper de dyra manuella etiketter som annars krävs.