Anthropic lobbar för AI-säkerhetslag – men med en hake
Anthropic föreslår en federal lag som ska stoppa AI-modeller som riskerar att döda 50 eller fler personer – men det finstilta visar att myndigheter faktiskt inte får blockera en modell utan domstolsbeslut. Med andra ord: lagen ser ut som säkerhetsreglering men gör det svårare, inte lättare, för staten att agera snabbt.
Djupdykning
Anthropic har lagt fram ett lagförslag som ser ut som en säkerhetsgata men som i praktiken är ett lås med nyckeln på insidan. Kärnan i förslaget är att federala myndigheter *inte* ska kunna blockera en AI-modell från att släppas utan domstolsbeslut – även om modellen bedöms kunna orsaka masskasoffer. Det låter rimligt ur ett rättsstatsperspektiv, men det skapar en trög juridisk process i ett fält där modeller kan driftsättas på timmar, inte månader. Tröskeln på "50+ dödsfall" som referenspunkt är också värd att fundera på: det är en hög ribba som signalerar att Anthropic vill att nästan allt annat ska få grönt ljus per automatik. Det de flesta missar är att Anthropic positionerar sig som säkerhetsföretaget i AI-branschen – det är hela deras varumärke och investerarberättelse – men det här förslaget är primärt utformat för att skydda rätten att publicera modeller, inte för att stoppa dem. Det är inte nödvändigtvis hyckleri, men det är en påminnelse om att "AI safety" som begrepp kan rymma väldigt olika agendor beroende på vem som definierar det.