När ska en AI-agent sluta agera instinktivt och börja tänka efter?

arXiv cs.AI

Forskare har testat ett system där en snabb AI-modell sköter löpande beslut i spelet Doom, men lämnar över till en långsammare tankemodell (en så kallad reasoning-modell) när osäkerheten är hög. Resultatet är blandat: att delegera de 30% minst säkra besluten till den långsammare modellen gav en liten men mätbar förbättring, men i faktiska spelomgångar klarade ingen variant av att nå målet – och reasonern förväxlade vanliga dörrar med låsta. Det intressanta är egentligen hur svårt det visar sig vara att veta *när* ett system ska byta växel, inte bara *hur*.