Ny metod löser värdekonflikt när AI styrs mot flera mål samtidigt

arXiv cs.AI

När man försöker styra en AI-modell att betona flera olika värderingar på en gång – till exempel rättvisa, säkerhet och transparens – tenderar effekterna att 'läcka' in i varandra och störa resultatet. Forskarna identifierar att problemet beror på att styrningsvektorerna geometriskt överlappar varandra, och tar fram en korrektionsmetod som inte kräver varken ny träning eller manuell promptning. På klimatdiskurs förbättrades styrningseffekten från +5,9% till +14,0%, validerat på 100 000 jämförelsepar.