AI-agenter läser rätt men agerar fel – ett mönster som håller över 17 modeller

arXiv cs.AI

Forskare testade 17 snabba AI-modeller i agentuppgifter (där modellen väljer nästa handling) och fann ett tydligt mönster: de flesta felbesluten sker inte för att modellen missförstår situationen, utan trots att den läst den korrekt. Det intressanta är att felen klumpar ihop sig på samma specifika situationer oavsett vilken modell man använder – vilket tyder på att problemet handlar om att kombinera fakta snarare än att läsa dem. En möjlig fix: låta koden sätta ihop modellens egna svar, vilket faktiskt rättade en del av misstagen.