Ny metod avslöjar när AI-agenter felaktigt får skulden för systemfel i finansiella transaktioner

arXiv cs.AI

Forskare har byggt ett ramverk för att avgöra om en AI-agents beslut – eller ett underliggande infrastrukturfel – egentligen orsakade en ekonomisk förlust. Poängen är enkel men viktig: befintliga metoder lägger 100% av skulden på agenten även när ett tekniskt fel (som ett tappat betalningsmeddelande) var boven, vilket i ett testscenario med 545 episoder innebar att 114 383 dollar felaktigt bokfördes mot agenten. Dessutom visade sig 27,8% av fallen inte gå att dela upp linjärt – ett tecken på att enkla förklaringsmodeller kan vara mer vilseledande än användbara.