Automatiserade säkerhetstester för AI missar hot som mänskliga testare hittar

arXiv cs.AI

Nya studier hävdar att automatiserade 'red-teaming'-tester (där system attackeras för att hitta svagheter) är billigare och effektivare än mänskliga testare – men artikeln pekar på ett grundläggande problem: testerna letar bara efter de hot som utvecklarna redan känner till. Konkret exempel: ett öppet AI-modell visade sig ha sårbarheter som bara dök upp i icke-engelska prompter, något som engelskspråkiga standardtester helt missar. Slutsatsen är att du behöver utvärderare utifrån – med andra kontexter och perspektiv – för att täcka de blinda fläckarna.