AI-modellers etiska styrning är svårare att kontrollera än man trott

arXiv cs.AI

Forskare har testat en teknik kallad 'activation steering' – där man justerar en AI-modells interna tillstånd för att styra dess beteende mot specifika etiska ramverk som kantisk pliktmoral eller utilitarism. Problemet: vektorer byggda för de två olika etiska teorierna visade sig nästan identiska i praktiken, och att styra mot den ena påverkade båda lika mycket. Det antyder att modellen inte egentligen 'förstår' skillnaden mellan etiska perspektiv – den svarar snarare på en generell signal om att 'tillämpa något ramverk'.