AI-agenter är dåliga på att återhämta sig från misstag – men potentialen finns där

arXiv cs.AI

Forskare har undersökt hur bra AI-agenter som styr datorer via tangentbord och mus klarar av att rätta till egna fel – och resultaten är nedslående. Agenterna misslyckas med att utnyttja sin inbyggda förmåga att återhämta sig, trots att experimenten visar att god felåterställning faktiskt förbättrar slutresultatet mätbart. Studien introducerar ett nytt ramverk kallat ReTrace för att systematiskt testa just detta, och pekar på att återhämtningsförmåga är en grundläggande pusselbit för att bygga pålitliga AI-agenter.