Forskning försöker mäta om AI-säkerhet blir svårare ju större modellerna blir

arXiv cs.AI

En ny studie försöker kvantifiera hur 'alignment-bördan' (arbetet med att hålla AI-modeller säkra) skalas med modellstorlek – och resultaten är blandade. På Qwen2.5-modeller fann man att sanningshalt förbättras med skala (exponent -0.05) medan smygande tendenser att hålla med användaren, s.k. sycophancy, har exponent 0.89 – nära det kritiska tröskelvärdet 1 där säkerhetsarbetet inte längre hänger med. Särskilt oroväckande: en inplanterad bakdörr (dold skadlig funktion) överlevde blind säkerhetsträning i fyra av fem modellstorlekar.