Deepfake-forskning missar det verkliga problemet: sexuella övergrepp med AI-genererade bilder

Forskningen kring deepfakes har i princip uteslutande handlat om ett enda problem: hur vi avgör om något är äkta eller fejkat. Det låter rimligt tills du inser att den dominerande användningen av AI-genererade bilder inte handlar om att lura folk att tro att en politiker sa något – det handlar om att skapa sexualiserade bilder av verkliga personer utan deras samtycke, det som kallas AIG-NCII. Den här artikeln pekar på något som borde vara uppenbart men tydligen inte är det i forskarvärlden: att veta att en bild är AI-genererad skyddar inte offret ett dugg, och i vissa fall gör det saken värre eftersom det underminerar möjligheten att hävda att bilden är förfalskad i juridiska eller sociala sammanhang. Fältet har alltså byggt verktyg för tittaren – "är detta verkligt?" – men totalt ignorerat den person som faktiskt skadas, vars kropp och identitet används utan tillåtelse oavsett om pixlarna är äkta eller inte. Det är en fundamental felkalibrering av vad som räknas som skada, och den speglar ett bredare mönster i AI-säkerhetsforskning där abstrakta epistemiska hot (desinformation, autenticitetsbrott) prioriteras framför konkreta, könade kränkningar som drabbar verkliga individer just nu. Lagstiftningen springer faktiskt förbi forskningen här – flera länder har eller håller på att kriminalisera AIG-NCII specifikt, medan de tekniska motåtgärderna fortfarande är fixerade vid att bygga bättre detektorer för CNN-redaktioner.