Advokat bötfälls 50 000 kr för AI-fabricerade vittnen i mordmål
En advokat i New Mexico har bötfällts med 5 000 dollar av delstatens högsta domstol efter att ha lämnat in ett överklagande fyllt med AI-påhittade vittnen och falsk polisutredning i ett mordmål. Stephen Aarons befanns skyldig till förakt mot rätten för att inte ha kontrollerat de faktapåståenden som hans AI-genererade inlaga innehöll. Det är ytterligare ett fall i en växande serie där jurister litar blint på AI-verktyg som helt enkelt hittar på trovärdigt klingande men falska fakta – så kallad hallucination.
Djupdykning
Stephen Aarons lämnade in ett överklagande i ett mordmål där AI:n helt enkelt hittat på vittnen som aldrig existerat – inte förvrängt fakta, utan bokstavligen fabricerat personer och deras vittnesmål ur tomma intet. Det är det som kallas AI-hallucination, när en språkmodell med full självförtroende genererar saker som låter rimliga men är totalt påhittade. Problemet är inte att Aarons använde AI – det är att han aldrig dubbelkollade vad den spottade ut, trots att han som advokat har ett professionellt ansvar att verifiera varje påstående han lämnar till domstol. 5 000 dollar i böter och förakt från rätten låter nästan milt med tanke på att det rörde sig om ett mordmål där en persons frihet stod på spel. Det flesta fokuserar på advokaten som "råkade" använda AI fel, men det egentliga problemet är att rättsväsendet fortfarande saknar tydliga standarder för vad som krävs när AI används i juridiska dokument – vilket gör att liknande fall med stor sannolikhet sker just nu, i domstolar som aldrig fångar upp det.