Ny metod låter AI-agenter balansera flera mål samtidigt

arXiv cs.AI

Forskare har utvecklat MOAE, ett system för att träna LLM-baserade agenter (stora språkmodeller i aktion) att samtidigt bli bättre på uppgiftslösning, interaktionskvalitet och säkerhet – utan att behöva välja bort något av dem. Istället för att slå ihop alla mål till ett enda poängvärde använder MOAE en så kallad Pareto-sökning, som sparar alla lovande kandidatlösningar längs vägen. I tester på plattformarna TravelPlanner och AgentDojo förbättrades både prestanda och trajektoriekvalitet utan att säkerheten försämrades.