Ny metod får AI-agenter att förstå konsekvenser av olika handlingar – inte bara hur saker ser ut

arXiv cs.AI

Forskare har identifierat ett problem de kallar 'counterfactual collapse' – att AI-modeller kan förutsäga visuellt trovärdiga framtider utan att faktiskt förstå skillnaden mellan olika handlingsval. Deras nya modell, CLWM, löser detta genom att aktivt separera utfall från olika beslut, vilket förbättrar planeringsprecisionen från 65,1% till 74,6% i ett test och från 67,3% till 78,9% i ett annat. Det intressanta här är att de också tar fram ett nytt mätvärde som kan granska vilken AI-representation som helst – inklusive stora förtränade modeller – innan man låter den styra en autonom agent.