Forskare kartlägger personlighetsdrag hos AI-modeller – och lär sig styra dem
Forskare har använt det etablerade OCEAN-ramverket (ett psykologiskt verktyg för att mäta personlighetsdrag som öppenhet och neuroticism) för att kartlägga och kontrollera hur stora språkmodeller beter sig. Genom att träna så kallade low-rank adapters på sex modeller i storleksordningen 4–32 miljarder parametrar visade de att enskilda personlighetsdrag kan förstärkas eller dämpas utan att modellens grundläggande förmågor försämras – och att dragen dessutom kombineras ungefär additivt, som ingredienser i ett recept. Det intressanta här är kopplingen till säkerhet: att vrida på neuroticism-axeln påverkar hur frustrerad modellen låter, medan agreeableness styr hur sycofantisk (smickrande och instämmande) den blir.
Djupdykning
Forskare har börjat kartlägga AI-modellers "personligheter" med samma ramverk som psykologer använder för att beskriva människor – OCEAN-modellen, som mäter egenskaper som öppenhet, samvetsgrannhet och neuroticism. Det man gjort är att träna små tilläggsmoduler (kallas low-rank adapters, tänk plug-ins som skruvas på en befintlig modell) som kan skruva upp eller ner enskilda personlighetsdrag, och sedan mäta om det faktiskt funkar. Det gör det – och det kombineras dessutom ungefär som man förväntar sig: höjer du både vänlighet och neuroticism samtidigt får du en modell som är både mer tillmötesgående och mer "stressad" i sina svar. Det de flesta missar här är att det här inte är ett akademiskt kuriosum om AI-personlighet, utan i grunden ett säkerhetsverktyg. Neuroticism-axeln påverkar hur frustrerad en modell låter, och agreeableness-axeln styr direkt hur sykofantisk den är – alltså hur mycket den håller med användaren bara för att vara trevlig, vilket är ett känt och allvarligt problem i AI-system som ska ge råd eller information. Att kunna isolera och justera de här dragen i modellvikterna direkt, utan att förstöra modellens faktiska förmåga, är alltså ett sätt att operationalisera säkerhetsarbete som annars sker ganska löst via promptteknik och RLHF-träning. Det skapar en rätt obekväm fråga om vem som bestämmer vilken personlighet en modell ska ha – och varför.