Ny teknik avslöjar dolda hemligheter i AI-modeller upp till 10 gånger oftare

arXiv cs.AI

Forskare har utvecklat en metod kallad 'overthinking' som förstärker en AI-modells benägenhet att 'tänka högt' – genom att blanda vikterna från en vanlig modell med en resonerande modell och skruva upp volymen förbi 100%. Resultatet är att modeller (från 2B till 32B parametrar) avslöjar dolda beteenden eller inbyggd känslig information upp till 10 gånger oftare än normalt. Det är intressant ur ett säkerhetsperspektiv: om en modell har lärt sig hemligheter eller oönskade mönster under träningen, verkar den här tekniken vara ett effektivare granskningsverktyg än traditionella 'black box'-metoder.