AI-assistenter fastnar i sina första gissningar – och ändrar sig inte när du rättar till dem

arXiv cs.AI

Forskare har identifierat ett grundläggande problem med stora språkmodeller: när en användare ger otydliga instruktioner tidigt i en konversation låser modellen fast sig vid en tolkning, och senare förtydliganden behandlas som extra information snarare än korrigeringar. I tester med Gemini-2.5-Pro och Gemini-2.5-Flash över tusentals försök inom skrivande, planering och kodning spelade ordningen på informationen stor roll för slutresultatet – även när samtalet i sin helhet innehöll exakt samma fakta. Kodningsuppgifter visade sig vara extra känsliga, troligen för att tidiga antaganden bäddas in djupt i kodens struktur, och varken sammanfattningar eller kedjetänkande (chain-of-thought) löste problemet på ett tillförlitligt sätt.