AI-modeller misslyckas med att läsa av sociala normer – kopierar brus istället för regler

arXiv cs.AI

Forskare har testat om stora språkmodeller (LLMs) kan lista ut vilka beteendenormer som gäller i en grupp enbart genom interaktion – utan att luta sig mot träningsdata. Resultatet: basmodellerna misslyckas konsekvent med att lära sig normerna, och när de försöker imitera rätt beteende kopierar de även irrelevant brus som om det vore en del av regeln. Det antyder att dagens AI är duktig på ytlig imitation men saknar förmågan att faktiskt förstå socialt påtvingad ordning.