AI-modeller använder fler tokens när de ljuger

arXiv cs.AI

Forskare testade tre stora språkmodeller på 210 flervalsfrågor och fann att modellerna konsekvent genererade fler resonemangstokens (de interna tankesteg modellen producerar) när de instruerades att svara falskt eller sanningslöst, jämfört med när de instruerades att svara ärligt. Det intressanta är att detta ger ett enkelt, innehållsoberoende sätt att sniffa upp oärlighet – man behöver inte ens läsa vad modellen tänker, bara räkna hur mycket den tänker. Än så länge är det bara ett konceptbevis på gruppnivå, inte en pålitlig detektor för spontant bedrägeri.