Forskare kartlägger personlighetsdrag hos AI-modeller – och lär sig styra dem

arXiv cs.AI

Forskare har använt det etablerade OCEAN-ramverket (ett psykologiskt verktyg för att mäta personlighetsdrag som öppenhet och neuroticism) för att kartlägga och kontrollera hur stora språkmodeller beter sig. Genom att träna så kallade low-rank adapters på sex modeller i storleksordningen 4–32 miljarder parametrar visade de att enskilda personlighetsdrag kan förstärkas eller dämpas utan att modellens grundläggande förmågor försämras – och att dragen dessutom kombineras ungefär additivt, som ingredienser i ett recept. Det intressanta här är kopplingen till säkerhet: att vrida på neuroticism-axeln påverkar hur frustrerad modellen låter, medan agreeableness styr hur sycofantisk (smickrande och instämmande) den blir.