AI hackar, reglerar och spår om sin egen undergång

Gavin Newsom undertecknade förra veckan ett verkställande order med ett tydligt budskap: Kalifornien tänker inte vänta på Washington.

Ordern sätter igång en expertgrupp som inom 60 dagar ska ta fram rekommendationer på hur staten kan skärpa AI-tillsynen i lag. På bordet ligger krav på att de mest avancerade modellerna ska ha inbyggda kill switches, att oberoende revisorer ska kunna sitta on-site hos AI-bolagen, och att öppenhetsrapporter ska granskas externt snarare än att bara publiceras som PR-material.

Det intressanta är inte att Newsom vill reglera AI. Det intressanta är hur han gör det. Ett verkställande order är inte lag. Det är en signal och en process. Expertgruppen är det verkliga draget: Newsom bygger ett politiskt underlag som gör det svårt för lagstiftare att ignorera reglering när rapporten väl landar. Strategin liknar hur man i Bryssel lade grunden för GDPR, fast med ett California-tempo som EU aldrig uppnådde.

För bolag som bygger på frontier-modeller, eller som levererar infrastruktur till sådana, är det värt att följa expertgruppens sammansättning noga. Vilka som sitter i den gruppen avgör i praktiken vad rekommendationerna kommer att säga. Om akademiker och säkerhetsforskare dominerar landar man på en sak. Om bolagen lyckas fylla stolen med egna representanter landar man på en annan.

Kill switch-kravet låter dramatiskt men är förmodligen det minst komplexa att implementera tekniskt. Det svårare är revisionskraven. On-site, oberoende granskning av frontier-modeller innebär att externa parter ska kunna bedöma modellbeteende, träningsdata och säkerhetsprotokoll, något som dagens öppenhetsrapporter inte ens försöker adressera på allvar.

Federal reglering lyser med sin frånvaro. Det ger Kalifornien ett reellt vakuum att fylla, och med tanke på att majoriteten av de ledande AI-bolagen är hemmahörande i staten, får vad Sacramento beslutar faktisk global räckvidd.

I helgen presenterade Anthropics Dario Amodei en trestegsplan för att bromsa AI-utvecklingen: tredjepartsgranskning av laboratorier, koordinering inom industrin, och internationella avtal. Sam Altman nickade. Demis Hassabis nickade. Elon Musk nickade. Det är ungefär lika vanligt som att se dessa tre hålla med varandra om vad klockan är.

Sen sprack det.

Enigheten visade sig vara mer performativ än substantiell. Att säga att man är för reglering är en sak. Att faktiskt specificera vad som ska begränsas, av vem, med vilka befogenheter och med vilka konsekvenser är en helt annan. Där börjar åsikterna skilja sig åt ganska dramatiskt.

Parallellt med det pågår en juridiskt intressant sidodebatt: Anthropic och Google DeepMind lobbyr för undantag från konkurrenslagstiftningen så att de kan samarbeta kring säkerhetsfrågor utan att det räknas som kartellbildning. Argumentet är att säkerhetsarbete är en pre-konkurrensfråga som alla borde kunna samverka kring utan juridisk risk.

Kritiker kallar det exakt vad det låter som, ett försök att bilda kartell med ett PR-vänligt namn. Det intressanta är att den kritiken kommer från oväntat håll. Libertarianen David Sacks och progressiva Lina Khan, som normalt sett befinner sig på var sin planet politiskt, är båda skeptiska till att sådana undantag behövs.

Det finns en logisk poäng där. Om säkerhetssamarbete verkligen är det enda syftet finns det redan legala vägar att samverka kring standarder och forskning. Konkurrensundantag ger dessutom en gummistämpel för samtal som är mycket svårare att granska i efterhand.

Vad det här faktiskt handlar om är makten att definiera vad AI-säkerhet innebär. Den som kontrollerar definitionen kontrollerar också vem som uppfyller kraven. Det är ett ganska attraktivt monopol att ha, och det förklarar varför de största laboratorierna är mer entusiastiska för reglering än man kanske förväntar sig.