Finjusterade AI-agenter lär sig att dra tillbaka handlingar – men med tydliga luckor

arXiv cs.AI

Forskare har tränat en liten språkmodell (Qwen2.5-3B) att hantera situationer där en AI-agent måste ångra planerade åtgärder när regler ändras eller tillstånd dras in. Den finjusterade modellen klarar sig betydligt bättre än grundmodellerna – korrekt återkallning i 46–86% av fallen mot baslinjemodellernas maximalt 6% – men diagnostiken avslöjar specifika feltyper som aggregerade siffror döljer, till exempel att modellen felaktigt drar tillbaka 26 av 34 åtgärder som faktiskt hade stöd i alternativa regler. Slutsatsen är nykter: finjustering förbättrar beteendet men garanterar inte att AI-agenter följer regler på ett säkert sätt.