Stora språkmodeller ser en hårdare social värld än den faktiska

arXiv cs.AI

Forskare har testat hur väl stora språkmodeller förstår 'metanormer' – alltså inte bara vad som är fel, utan vem som reagerar och hur hårt. Resultatet från sex testade modeller visar ett tydligt mönster: AI förutspår straff och negativa reaktioner oftare än vad människor faktiskt förväntar sig, och träffsäkerheten försämras ju längre social distans det är mellan parterna. Det är ett potentiellt problem om AI används i känsliga sammanhang som konfliktlösning eller samhällssimulering – modellerna kan ge en skevt bestraffningsorienterad bild av hur sociala normer faktiskt fungerar.