AI-modeller ignorerar ny information när de redan dragit en slutsats

arXiv cs.AI

Forskare har upptäckt ett besvärande mönster hos språkmodeller: när en modell redan resonerat fram ett svar tenderar den att hålla fast vid det även om ny, korrekt information presenteras efteråt. Genom att testa tre modelltyper (GPT, Gemma4, Qwen3) på frågedatabaser visade det sig att ett enkelt trick – att låta modellen svara i ett separat anrop istället för att fortsätta samma resonemang – förbättrade förmågan att följa ny bevisning med 30 till 61 procentenheter. Det praktiska rådet: hur du ställer frågan till modellen spelar lika stor roll som vad modellen faktiskt vet.