OpenAI avslöjade kambodjiansk bluffarmy som använde ChatGPT
OpenAI har slagit till mot en kambodjiansk bedrägerioperation som använde ChatGPT för att driva investeringsbedrägerier, romantikbedrägerier, falska spelsidor och identitetsförfalskning. Det intressanta här är inte bara att AI missbrukas – utan att OpenAI själva aktivt jagar den typen av missbruk och väljer att berätta om det offentligt.
Djupdykning
OpenAI publicerade nyligen en rapport om hur de stängt ner ett kambodjanskt nätverksbedrägeri som använde ChatGPT som verktyg i sin arsenal – inte för att bygga AI, utan för att skriva övertygande manus, översätta konversationer och träna sina mänskliga operatörer i att låtsas vara någon annan. Det här är vad som kallas "pig butchering"-bedrägerier på branschspråk, där offren långsamt fetas upp med falsk kärlek eller investeringstips innan de slaktas ekonomiskt. Det som många missar i den här historien är att AI inte är roten till problemet – de kambodjianska bedrägericentren existerade långt innan ChatGPT, ofta bemannade av traffickade arbetare som tvingas arbeta under hot. AI gör dem bara skalbarare och mer flerspråkiga, vilket innebär att en handfull operatörer nu kan köra konversationer på svenska, tyska och japanska simultant utan att kunna ett ord av språken. OpenAI hittar och blockerar dessa konton, men det är ungefär som att lappa ett hål i ett nät – nästa konto är skapat innan det första är borta.