AI-agenter är dåliga på att återhämta sig från misstag – men potentialen finns där
Forskare har undersökt hur bra AI-agenter som styr datorer via tangentbord och mus klarar av att rätta till egna fel – och resultaten är nedslående. Agenterna misslyckas med att utnyttja sin inbyggda förmåga att återhämta sig, trots att experimenten visar att god felåterställning faktiskt förbättrar slutresultatet mätbart. Studien introducerar ett nytt ramverk kallat ReTrace för att systematiskt testa just detta, och pekar på att återhämtningsförmåga är en grundläggande pusselbit för att bygga pålitliga AI-agenter.
Djupdykning
AI-agenter som kan styra din dator åt dig — klicka, skriva, navigera — är ett av de hetaste områdena inom AI just nu, men de har ett grundläggande problem: de är skört känsliga för misstag. I långa uppgifter, typ "boka en resa och uppdatera kalendern och skicka ett mail", kan ett tidigt fel kaskaderas och göra resten meningslöst, ungefär som att hoppa över ett steg i ett recept och sedan undra varför kakan inte jäste. Det forskarna bakom ReTrace påpekar är att modellerna faktiskt *kan* återhämta sig från fel — förmågan finns latent — men nuvarande agenter utnyttjar den inte. Det vill säga: det är inte ett kapacitetsproblem, det är ett styrningsproblem. Vi bygger agenter som inte ens försöker ta sig ur hål de gräver sig ner i, trots att de teoretiskt sett hade klarat det. Det de flesta missar är att detta skiftar fokus från "hur gör vi agenter smartare" till "hur gör vi agenter mer självmedvetna om sina egna misstag" — vilket är en helt annan ingenjörsutmaning. När AI-agenter börjar rulla ut i verkliga kontorsmiljöer utan sandbox-skydd och möjlighet att bara återställa allt, är förmågan att hantera kaos avgörande, inte förmågan att prestera perfekt i en kontrollerad demo.