Nya skalningslagar gör det lättare att förutsäga säkerhetssonders prestanda

arXiv cs.AI

Forskare har hittat två enkla matematiska lagar som beskriver hur väl säkerhetssonder – verktyg som övervakar språkmodellers beteende i realtid – presterar beroende på modellstorlek och mängden träningsdata. Lagarna kan förutsäga felprocenten för nästa större modell inom 0,02 enheter i 72% av fallen, vilket sparar tid och resurser när man väljer rätt konfiguration. Det praktiskt intressanta: i stället för att testa massor av varianter kan säkerhetsforskare nu räkna ut i förväg om det är billigare att köpa mer data eller en större modell.