Kinas säkerhetstjänst varnar offentligt för AI-risker för första gången
Kinas ministerium för statssäkerhet (MSS) har för första gången uttalat sig offentligt om AI-risker – och pekar på hot mot cyberförsvar, militära system och känsliga uppgifter. Säkerhetsminister Chen Yixin varnar särskilt för att generativ AI kan massproducera desinformation, och att kinesiska företag kan läcka känslig data via utländska AI-tjänster. Enligt Financial Times har oron ökat i takt med framstegen hos just Anthropic och OpenAI.
Djupdykning
Det är något nästan ironiskt med att Kinas statssäkerhetsministerium – en organisation vars kärnverksamhet är att samla in andras känsliga uppgifter – nu larmar om att kinesiska företag kan läcka information till utländska AI-tjänster. Men det avslöjar något viktigare: Peking är på defensiven. De framsteg som OpenAI och Anthropic gjort med sina senaste modeller har tydligen oroat kinesiska tjänstemän tillräckligt för att bryta med det vanliga mönstret att hålla sådana bedömningar internt. Generativ AI – alltså system som GPT-4 eller Claude som kan skapa text, bilder och kod – är extra känsligt ur ett säkerhetsperspektiv eftersom det kan automatisera desinformation i en skala som tidigare krävde hela statliga apparater. Det verkligt intressanta är inte vad MSS säger, utan vad det signalerar: att gapet mellan kinesisk och amerikansk AI-kapacitet upplevs som tillräckligt stort för att motivera en offentlig varning, och att Kina nu aktivt försöker sätta spelregler för hur AI-säkerhet ska diskuteras diplomatiskt med Washington – sannolikt för att forma den kommande regleringen till sin fördel innan de har kommit ikapp.