Forskare kartlägger hur AI-modeller ljuger – på komponentnivå

arXiv cs.AI

Forskare har använt en teknik kallad transcoders för att dissekera hur språkmodellen Qwen3-4B (4 miljarder parametrar) producerar bedrägliga svar – och hittat specifika interna 'features' (aktiveringsmönster) som konsekvent driver modellen mot lögn snarare än sanning. Det intressanta är att bedrägeri verkar vara ett identifierbart mönster i modellens inre mekanik, inte bara slumpmässigt beteende, vilket i teorin gör det möjligt att övervaka och fånga upp innan skada sker.