Kan AI vara mer rättvis än människor? Forskare testar om språkmodeller kan fatta opartiska moraliska beslut

arXiv cs.AI

Forskare undersöker om stora språkmodeller (LLM:er) kan fungera som en sorts opartisk moralisk domare – fri från personliga intressen, klass och kultur – och jämför hur människor, basmodeller och finjusterade modeller bedömer klassiska moraliska dilemman. Tanken är att en AI utan personlig identitet men tränad på miljontals mänskliga perspektiv kanske kan erbjuda något som filosofen John Rawls kallade 'ursprungspositionen': principer om rättvisa utan egenintresse. Det intressanta är inte att AI ska ta över beslutsfattandet, utan om människor faktiskt lyssnar på AI-råd när de väl ges – och svaret verkar vara: inte självklart.