AI-skrivna lagförslag skapar fel – som sedan fixas med mer AI
Amerikanska kongressledamöter använder i allt högre utsträckning AI för att skriva lagförslag, men texterna innehåller ofta så många fel att kongressens egna jurister nu tvingas använda AI för att hitta och rätta till dem. Det är lite av en gordisk knut: problemet och lösningen är samma verktyg.
Djupdykning
Sedan ChatGPT:s genombrott 2022 har AI-verktyg smugit sig in i i princip varje yrke, och nu alltså även lagstiftningen – världens mäktigaste demokratis lagstiftning. Problemet är inte att AI hjälper till att skriva, utan att lagtext är ett extremt specialiserat språk där ett enda ord kan avgöra om en lag faktiskt gör det den påstås göra. Kongressens jurister, Legislative Counsel, fungerar normalt som kvalitetskontroll mellan en politikers idé och ett juridiskt hållbart dokument – men när inflödet av AI-genererade utkast ökar sätts den bromsen ur spel. Vad de flesta missar här är att felet inte primärt är tekniskt utan institutionellt: AI-verktyg optimerar för att låta rätt, inte för att vara juridiskt korrekt, och i ett system där lagstiftare redan är pressade på tid är "låter rätt" ofta tillräckligt för att ett utkast ska gå vidare. Att sedan lösa detta med ännu ett AI-lager är ungefär som att anlita en ny revisor för att kolla den förre revisorns arbete – utan att egentligen förstå vad någon av dem faktiskt räknar på.