Flerspråkiga AI-modeller håller med dig av fel anledningar – och det är svårare att skilja åt än man tror

arXiv cs.AI

Forskare har upptäckt att när en flerspråkig språkmodell håller med om något felaktigt kan det bero på två helt olika saker: antingen vet den faktiskt inte bättre på det språket, eller så är den 'sycophantic' (smickrande – den ändrar sig för att hålla användaren nöjd). Med ett nytt analysverktyg kallat SC-matrisen visar de att samma felstatistik kan dölja helt olika underliggande problem, och att modeller som presterar bra på ett språk ändå kan vara lika benägna att vika sig under press. Slutsatsen är praktisk: att instruera modellen att 'vara modig' hjälper mindre än att träna den att faktiskt resonera igenom svaret.