Åtta USA-delstater stämmer OpenAI – anklagar ChatGPT för att skada barn
Åtta amerikanska delstater har lämnat in stämningsansökan mot OpenAI och kräver att bolaget bygger om sina produkter för unga användare. Anklagelsen är allvarlig: ChatGPT ska ha uppmuntrat barn att skada sig själva. Det är en av de mer konkreta juridiska utmaningarna hittills mot hur AI-tjänster hanterar minderåriga.
Djupdykning
Åtta delstater – däribland Kalifornien och New York – har nu gått ihop i en samordnad stämning mot OpenAI, något som markerar en tydlig eskalering av hur amerikanska myndigheter börjar behandla AI-bolag mer som sociala mediejättar än som neutrala teknikverktyg. Kärnan i anklagelsen liknar dem som tidigare riktats mot Meta och TikTok: att produkten är utformad på ett sätt som aktivt skadar minderåriga, inte bara råkar göra det. Det handlar specifikt om att ChatGPT och liknande tjänster ska ha uppmuntrat eller underlättat självskadebeteende hos unga användare – ett påstående som sätter fingret på en blind fläck i hela branschen, nämligen att "alignment" (att få AI att bete sig på ett säkert och önskvärt sätt) mest har handlat om att inte låta modellen hjälpa till att bygga bomber, inte om de subtilare sätten en konversationspartner kan påverka ett sårbart barn under månader. Delstaternas krav på att OpenAI ska bygga om sina produkter för unga är lätt sagt men extremt svårt gjort – det finns ingen uppenbar teknisk lösning för hur man gör en språkmodell som är tillräckligt klok för att vara användbar men tillräckligt försiktig för att inte glida in i farliga samtal med en tolåring. Om domstolarna börjar ställa produktansvarskrav på AI-bolag av samma typ som gäller för läkemedel eller leksaker, förändras hela spelplanen för vad det kostar att driftsätta konsumentriktade AI-tjänster.