TikTok testar verktyg för att upptäcka AI-genererade avbilder
TikTok håller på att testa ett opt-in-verktyg som söker igenom plattformen efter AI-skapade kopior av verkliga personer och låter skapare anmäla sådana till företaget. Verktyget testas just nu med ett urval amerikanska användare och kräver identitetsverifiering via tredjepartsföretaget Jumio – ett steg som väcker egna frågor om integritet. YouTube lanserade nyligen något liknande för alla vuxna användare, så det här verkar bli en branschstandard.
Djupdykning
TikTok testar alltså ett verktyg som låter skapare skanna av plattformen efter AI-genererade kopior av deras ansikte eller röst – något som blivit ett växande problem i takt med att deepfake-tekniken blivit tillgänglig för vem som helst med en laptop. För att använda verktyget måste du verifiera din identitet via tredjepartsbolaget Jumio, vilket innebär ett selfie-scan i realtid och en ID-kontroll. TikTok säger att de inte sparar din ID-information, men det är exakt den typen av löfte som kräver att man läser det finstilta noga. YouTube rullade ut något liknande nyligen, vilket signalerar att det här inte är en engångsgrej utan snarare en branschrörelse mot att ge skapare mer kontroll över sin digitala identitet. Det de flesta missar: det här handlar inte bara om kändisars ansikten. Det är också en implicit bekräftelse från plattformarna att AI-genererat innehåll som utger sig för att vara riktiga personer är ett problem de inte längre kan ignorera – och att ansvaret att bevaka detta, åtminstone för nu, läggs på skaparens egna axlar. Om du jobbar med influencer-marknadsföring eller hanterar varumärkessamarbeten borde det här trigga en fråga: har ni koll på om era samarbetspartners likhet redan cirkulerar i AI-genererat material ni aldrig godkänt?