EU planerar förbud mot AI-appar som skapar deepfake-nakenbilder
EU förbereder lagstiftning som förbjuder marknadsföring och försäljning av AI-system som skapar sexualiserade deepfakes utan samtycke. Förslaget kommer efter skandalen där Grok på X användes för att skapa miljontals nakenbilder av verkliga personer, inklusive barn, och kan börja gälla redan i sommar efter parlamentsomröstning den 18 mars.
Djupdykning
EU:s föreslagna förbud mot nudification-appar kommer som svar på en växande våg av AI-missbruk som skapar verkliga skador, särskilt för kvinnor och barn som blir måltavlor för icke-samtyckebaserade deepfakes. Det som gör detta förslag särskilt smart är att det fokuserar på marknadsföring och försäljning snarare än bara användning – vilket gör det lättare att genomdriva och träffa problemet vid källan. Undantaget för företag med starka säkerhetssystem visar att EU försöker balansera innovation med skydd, men det blir avgörande hur "effektiva säkerhetssystem" definieras i praktiken. Om lagen träder i kraft i sommar blir EU först i världen med denna typ av specifika AI-reglering, vilket sannolikt kommer påverka hur andra länder och plattformar hanterar liknande teknologi. Nyckelinsikt: EU sätter en global standard för hur AI-reglering kan användas för att skydda individers värdighet utan att helt strypa teknisk innovation.