Små AI-modeller upprepar samma felaktiga drag gång på gång i spel

arXiv cs.AI

När en AI-agent gör ett ogiltigt drag i spel som Sokoban och Connect Four och sedan får se sitt eget misslyckande i kontexten, ökar sannolikheten att den upprepar exakt samma fel – ett fenomen forskarna mäter till -1,38 nats per token i snitt över åtta modeller (135M–1,7B parametrar). Det intressanta är att 'försök igen'-instruktioner och 'upprepa inte'-kommandon inte hjälper, men att ta bort själva dragsträngen ur felbeskrivningen faktiskt löser problemet. Med andra ord: det är inte misslyckandet i sig som förvirrar modellen, utan att den ser sin egen output skriven i klartext.