Kalifornien förbjuder AI-styrda uppsägningar
Guvernör Gavin Newsom har signerat en lag som gör det olagligt att låta algoritmer fatta beslut om vem som ska sägas upp i Kalifornien. Lagen stoppar även AI-baserad arbetsövervakning – inklusive på toaletter. Det är ett av de mer konkreta regleringsgreppen mot AI i arbetslivet hittills.
Djupdykning
Kalifornien har länge fungerat som ett slags legislativt laboratorium för resten av USA – vad som händer där tenderar att sprida sig österut, ibland mot arbetsgivarnas vilja. Den här lagen träffar något konkret och underrapporterat: många företag har redan i flera år använt algoritmiska system för att fatta eller förbereda beslut om personal, utan att anställda ens vetat om det. Amazons lagerarbetare är det klassiska exemplet, där produktivitetsmätningar i realtid länge kopplades direkt till varningar och avskedanden utan någon mänsklig mellanhand. Det Newsom egentligen skriver under på är en princip – att konsekvenser som förändrar ett liv kräver ett mänskligt ansikte och ett mänskligt ansvar bakom sig. Det de flesta missar i rapporteringen är att förbudet mot toalettövervakning inte är en bisarr detalj, utan kärnan i ett bredare maktproblem. Möjligheten att övervaka paustider ner på sekundnivå skapar en arbetsmiljö där kroppen själv blir ett produktivitetsproblem – och AI gör den sortens övervakning billig nog att skalas upp till hela branscher. Frågan som följer lagen hela vägen till domstol, vilket den nästan säkert kommer att göra, är var gränsen går mellan "AI som beslutsunderlag" och "AI som beslutsfattare" – en distinktion som är lätt att rita på papper och nästan omöjlig att kontrollera i praktiken.