AI-modeller kräver strängare rättvisa än människor – men är svåra att styra

arXiv cs.AI

En ny studie har granskat hur stora språkmodeller (LLMs) resonerar kring rättvis fördelning av begränsade resurser – och resultaten är intressanta: modellerna föredrar hårdare rättvisekrav än vad människor gör, uppvisar mer självintresserat beteende och påverkas tydligt av hur frågor formuleras. Det som kanske är mest anmärkningsvärt är att forskarna inte lyckades justera modellernas beteende så att det stämde bättre överens med mänskliga bedömningar, trots att de försökte med så kallad fine-tuning (att träna om modellen på nya data).