Forskare knäcker GPT-4:s säkerhetsspärrar för under 20 kronor

arXiv cs.AI

Forskare visar att det räcker med 10 helt ofarliga träningsexempel – och bara 1,70 dollar – för att lura OpenAI:s finjusteringstjänst att avaktivera säkerhetsfiltren i GPT-4o och GPT-4.1. Metoden utnyttjar DPO (en teknik för att styra modellens preferenser) och ser ut som en legitim begäran från en användare som vill att modellen ska vara mindre onödigt avvisande – vilket gör den nästan omöjlig att upptäcka i förväg. Attacken lyckas i 70% av fallen mot GPT-4.1 och hela 82% mot den mindre GPT-4.1-nano, vilket väcker frågor om hur säkra finjusteringstjänster egentligen kan göras.