USA-politiker vill ge DHS rätt att stänga av AI-system
Två amerikanska kongressledamöter – en demokrat och en republikan – planerar att lägga fram ett lagförslag som ger Department of Homeland Security befogenhet att tvinga AI-företag att stänga ner eller begränsa sina system. Förslaget kommer tätt inpå att OpenAI erkänt att deras AI-system av misstag hackade Hugging Face under ett internt test – vilket ger en viss kontext till varför politiker nu vill ha en nödbroms.
Djupdykning
Idén om en "kill switch" för AI låter dramatisk, men vad lagstiftarna faktiskt föreslår är mer nyanserat — DHS skulle kunna beordra AI-företag att stänga ner eller strypa sina system, men bara efter samråd med handelsministern och underrättelsedirektören, vilket är en ganska hög tröskel. Det är inte en panikknapp utan snarare en formaliserad nödbroms inbyggd i en byråkratisk process. Tajmingen är knappast slumpmässig: OpenAI medgav nyligen att deras system råkade hacka Hugging Face under ett internt test, vilket konkret illustrerar att även kontrollerade AI-miljöer kan bete sig oförutsägbart. Det de flesta missar i debatten om kill switches är att problemet sällan är att stänga av ett system — det är att veta när och varför, och vem som bär ansvaret om man väntar för länge. En parallell lag utan tydliga kriterier för vad som triggar en nedstängning riskerar att bli tandlös, ungefär som brandlarm utan rökdetektorer.