Ny metod avgör när AI-agenter kan lita på sin inbyggda världsbild

arXiv cs.AI

AI-agenter som planerar via inlärda världsmodeller (interna simuleringar av hur handlingar påverkar omvärlden) har ett grundläggande problem: när något går fel är det oklart om felet berodde på agentens beslut eller på en felaktig världsmodell. Forskarnas lösning, kallad Dual-Frontier, låter agenten agera på sin världsmodell bara när den förutsagda nyttan överstiger ett certifierat felmarginal – annars samlar den mer verifieringsdata först. I tester förbättrade metoden konsekvent beslutskvalitet och tillförlitlighet i realistiska agentpipelines.