Nytt ramverk låter AI-agenter följa företagsregler och hantera dolda konsekvenser

arXiv cs.AI

Forskare har tagit fram E-Ledger, ett system för AI-agenter som både kontrollerar att varje handling följer organisationens policyer innan den utförs, och håller reda på dolda regler som agenten inte kände till från start. Tillägget WorldAbduct låter systemet själv lista ut sådana dolda regler genom att analysera vad som gick fel – och resultatet är 5–15 procentenheter bättre måluppfyllnad jämfört med tidigare metoder. Det intressanta är att problemet de löser är väldigt verkligt: AI-agenter i företagsmiljöer stöter hela tiden på regler och sidoeffekter som ingen berättat om i förväg.