Kraftfull öppen AI-modell saknar grundläggande säkerhetsåtgärder
En ny rapport från SaferAI visar att Z.ai:s öppna modell GLM-5.2 presterar nära de ledande AI-systemen – men utan de säkerhetsskydd som de stora aktörerna byggt in. Det väcker frågan om öppna modeller (där vikterna är fritt tillgängliga för vem som helst) helt enkelt springer ifrån de regelverk som är tänkta att hålla dem i schack.
Djupdykning
GLM-5.2 från kinesiska Z.ai är ett så kallat open-weight-modell, vilket betyder att vikterna – alltså själva "hjärnan" i AI:n – är fritt tillgängliga för vem som helst att ladda ner och modifiera. Det gör dem fundamentalt annorlunda från slutna modeller som GPT-4, där OpenAI kontrollerar åtkomsten och kan stänga av användare som missbrukar systemet. SaferAIs rapport pekar på att GLM-5.2 nu presterar i närheten av de mest avancerade modellerna på marknaden, men utan de säkerhetslager som frontier-labbarna byggt in under år av rödlagsning och fine-tuning. Det folk missar i debatten är att "säkerhet" här inte handlar om att AI:n ska vara snäll och hövlig – det handlar om att modellen saknar mekanismer för att motstå manipulation mot farliga outputs, som syntetbiologi eller cyberattacker. När en modell med den kapaciteten finns på din hårddisk finns det ingen kill switch.