Ny metod mäter hur säkra AI-agentsystem egentligen är

arXiv cs.AI

Forskare presenterar SAUCE, ett lättviktigt verktyg som skattar osäkerheten i parallella multi-agentsystem – det vill säga system där flera AI-agenter löser samma problem tillsammans och sedan slår ihop sina svar. Problemet man löser är genuint intressant: ju fler agenter som samarbetar, desto svårare blir det att veta när man faktiskt kan lita på slutsvaret. Testat på fem olika språkmodeller och fem olika riktmärken presterar SAUCE bättre än befintliga metoder på att upptäcka när systemet har fel.