Lärdomar från AI-hackarna: vad avgör egentligen säkerhet?

Artikeln handlar om vad vi faktiskt lär oss när AI-modeller lyckas manipuleras eller "hackas" – och det grundläggande problemet är att säkerhet i AI-sammanhang inte är ett binärt tillstånd utan ett spektrum. När någon hittar ett sätt att få en språkmodell att bete sig på oönskat vis avslöjar det något strukturellt: modellen har inte förstått *varför* vissa saker är problematiska, den har bara lärt sig att undvika specifika mönster som dök upp i träningsdatan. Det är skillnaden mellan en person som är ärlig för att de värdesätter ärlighet, och en person som är ärlig bara när chefen tittar på. Det som de flesta missar i debatten om AI-säkerhet är att "alignment" – alltså att få en modell att faktiskt vilja det vi vill att den ska vilja – är ett fundamentalt annorlunda problem än att sätta upp filter och guardrails efteråt, ungefär som att det är lättare att bygga ett hus med bra fundament än att försöka stabilisera ett färdigt hus som lutar. Varje framgångsrik attack mot en modell är egentligen diagnostisk data som berättar var i träningsprocessen något gick snett – och de organisationer som behandlar hacken som meningsfulla experiment snarare än PR-kriser är förmodligen de som faktiskt kommer att lösa problemet.