Inbyggda säkerhetsfilter i AI-modeller är inte bättre än enklare metoder

arXiv cs.AI

Forskare har testat om stora språkmodellers interna representationer (aktiveringar) kan användas för att upptäcka skadliga frågor – en teknik som kallas latent säkerhetsövervakning. Resultatet är nedslående: ett enkelt TF-IDF-filter (ordfrekvensanalys) presterade bättre än den specialbyggda metoden Latent Guard i samtliga 15 testade modeller. Den enda aktiveringsbaserade metoden som faktiskt fångade mer – 44 procent av skadliga prompter jämfört med 32 procent för modellens egna vägran – visade sig i stort sett bara spegla modellens eget beteende, inte något djupare 'skademedvetande'.