Newsom vill ge Kalifornien en AI-nödbroms
Kaliforniens guvernör Gavin Newsom har skrivit under ett verkställande order som kan tvinga AI-företag att bygga in en 'kill switch' – en nödavstängning – i sina mest avancerade modeller. En expertgrupp ska inom två månader ta fram rekommendationer om hur staten kan skärpa AI-tillsynen, bland annat genom oberoende revisioner och öppenhetsrapporter med externa granskare. Det är ett tydligt drag för att positionera Kalifornien som landets ledande röst i AI-reglering, mitt i en period då federal reglering i stort sett lyser med sin frånvaro.
Djupdykning
Gavin Newsom har tidigare lagt ned Californiens mest ambitiösa AI-regleringslag (SB 1047) med motiveringen att den var för bred och innovationshämmande – så det är inte utan ironi att han nu driver på för liknande mekanismer via ett exekutivt direktiv istället. En "kill switch" för frontier models (alltså de mest kraftfulla AI-systemen, som GPT-4-klassen och uppåt) handlar i praktiken om att tvinga företag att bygga in en nödbroms som kan stänga ned eller begränsa ett system om det beter sig på sätt ingen förutsett. Det låter enkelt men är tekniskt och juridiskt ett minfält – vem aktiverar den, under vilka omständigheter, och vad händer med alla tjänster som är beroende av systemet? Det de flesta missar är att detta inte primärt handlar om AI-säkerhet i teknisk mening, utan om kontroll och maktbalans. Newsom vill att Kalifornien ska ha verktyg att faktiskt tvinga Silicon Valleys AI-jättar till transparens – något federal lagstiftning hittills misslyckats med. Tvåmånadersfristen för expertgruppens rekommendationer är också suspekt kort, vilket antyder att detta är lika mycket ett politiskt positioneringsdrag inför framtida valkampanjer som ett genomtänkt regelramverk.