AI-säkerhetsbenchmarks mäter inte vad de utger sig för att mäta

arXiv cs.AI

Forskare har granskat HELM Safety – ett vanligt verktyg för att bedöma hur bra AI-modeller är på att vägra skadliga uppmaningar – och finner att poängen är missvisande. Av fyra relevanta datamängder var tre redan 'mättade' (dvs. alla modeller klarar dem lika bra, så de skiljer inget), och den återstående, HarmBench, visade sig blanda ihop flera olika beteenden i ett enda tal. Det innebär att när företag jämförs utifrån säkerhetspoäng kan de ha vitt skilda faktiska profiler – poängen döljer mer än den avslöjar.