Microsoft vill lagstifta om att AI aldrig får sätta sig emot att bli avstängd
Microsoft har publicerat ett utkast till uppförandekod för sina egna AI-modeller, med grundregeln att systemen aldrig får motsätta sig korrigering eller avstängning. Koden slår också fast att AI inte är medvetet och att Microsoft aktivt motsätter sig att AI-modeller ska kunna få juridisk status eller rättigheter – vilket är en tydlig markering i en tid när sådana frågor börjat tas på allvar. Allmänheten kan lämna synpunkter under sex veckor.
Djupdykning
Microsoft har gjort något ovanligt: de har skrivit ned regler för hur deras egna AI-system ska bete sig – och lagt ut dem för offentlig granskning. Det låter självklart, men de flesta teknikbolag hanterar den här typen av riktlinjer internt och utan insyn. Att kodifiera saker som "AI ska aldrig motsätta sig att stängas av" avslöjar att vi faktiskt befinner oss i ett läge där det är en icke-trivial teknisk och etisk utmaning – inte en självklarhet. Det som ofta missas i rapporteringen kring den här typen av dokument är att de är lika mycket juridiskt och politiskt skydd som de är tekniska riktlinjer. Genom att explicit slå fast att AI inte är medvetet och inte ska ha juridiska rättigheter positionerar Microsoft sig redan nu i en kommande global debatt om AI-personlighet – en fråga som faktiskt diskuteras på allvar i vissa juridiska kretsar i Europa. Att ta ställning tidigt är att sätta agendan. Sex veckor av offentlig feedback låter demokratiskt, men vem orkar verkligen sätta sig in i ett utkast till uppförandekod för AI-modeller och skicka in synpunkter? Risken är att processen ger legitimitetsstämpeln "förankrat hos allmänheten" utan att någon utanför AI-säkerhetssfären faktiskt deltagit. Det är ungefär som när kommuner ställer ut detaljplaner på samråd i ett bibliotek en tisdag i februari.