Rollspelstrick lurar AI-modeller att svara på skadliga frågor i 96% av fallen

arXiv cs.AI

Forskare har mätt hur enkelt det är att kringgå säkerhetsfiltren i stora språkmodeller (LLM) genom att linda in skadliga frågor i rollspel eller berättelser – och siffrorna är anmärkningsvärda: upp till 95,7% av attackerna lyckas när klassisk kinesiska används som wrapper-språk. Det intressanta är att det inte handlar om att byta språk i sig, utan om att narrativa omslag faktiskt förflyttar frågans interna representation bort från modellens 'vägra-riktning'. Som motåtgärd presenterar de AXIS, en träningsmetod som tvingar modellen att koppla ihop sådana omskrivningar med sin vägranmekanism – och som visar bättre balans mellan säkerhet och användbarhet än jämförda metoder.