Stor AI-varning: Språkmodeller låtsas tänka som människor – men tänker faktiskt inte det

arXiv cs.AI

Forskare testade fem stora språkmodeller (LLM:er) och fann att de visserligen rangordnar en visselblåsares moraliska karaktär på samma sätt som människor (två grupper med 125 respektive 742 deltagare), men av helt andra skäl – modellerna ser visselblåsaren som mer hjälpsam och mindre självisk än vad människor gör. Det är en viktig påminnelse om att när en AI verkar hålla med dig, kanske den ändå resonerar på ett fundamentalt annorlunda sätt. Studien ifrågasätter hur vi validerar AI som ersättare för mänskliga försöksdeltagare i psykologisk forskning.