Debatten om AI-säkerhet: handlar det om säkerhet eller kontroll?
Anthropics vd Dario Amodei har förespråkat globalt koordinerade åtgärder för AI-säkerhet – men inte alla håller med. Kritiker ifrågasätter om säkerhetsargumenten egentligen handlar om att centralisera makten över AI-teknologin snarare än att skydda allmänheten.
Djupdykning
Dario Amodei, VD för Anthropic, har argumenterat för att världens regeringar behöver samordna sig globalt för att hantera AI-säkerhet – ungefär som man gjort med kärnvapen eller kemiska vapen. Men kritikerna pekar på något som lätt försvinner i debatten: gränsen mellan "säkerhet" och "kontroll" är suddigare än den verkar. När ett fåtal västerländska bolag och regeringar definierar vad som räknas som "säker" AI, handlar det lika mycket om vem som får forma tekniken som om att faktiskt skydda folk från skada. Det som de flesta missar är att Anthropic själva har enorma kommersiella intressen i hur den här regleringen utformas – striktare globala regler slår hårdare mot utmanare och konkurrenter än mot de redan etablerade aktörerna. Det kallas regulatory capture, alltså när de som ska regleras istället är med och skriver reglerna till sin egen fördel. Kina och andra länder utanför den västerländska sfären lär knappast acceptera ett ramverk där Silicon Valley-bolag i praktiken sätter standarden för vad "säker" AI innebär globalt. Frågan är om AI-säkerhetsdebatten egentligen handlar om att skydda mänskligheten, eller om att cementera vem som får ha makten över en av de mest transformativa teknologierna i historien.