AI-deepfakes av kändisar sprids via falska verifierade konton
Ett falskt Instagram-konto med över en miljon följare och blå verifieringsbock spred en AI-genererad bild föreställande skådespelaren Mia Goth – och det är långt ifrån ett isolerat fall. Det intressanta här är inte bara att deepfakes används, utan att verifieringssystemet som skulle signalera trovärdighet nu i praktiken ger bedrägeriet mer tyngd.
Djupdykning
Deepfake-bilder av kändisar är inte nytt, men det som gör det här fallet med Mia Goth extra läskigt är hur trovärdigt det verkade — ett verifierat konto med över en miljon följare, tajmat perfekt med verkliga nyheter om hennes skilsmässa. Det är klassisk desinformationstaktik: bädda in lögnen i något sant nog för att hjärnan ska sluta ifrågasätta. Det de flesta missar i debatten om AI-deepfakes är att problemet inte primärt handlar om tekniken i sig, utan om plattformarnas verifieringssystem som numera kan köpas för en månadskostnad — den blå bocken signalerar trovärdighet men garanterar ingenting. Instagram och Meta sitter på verktyg för att flagga syntetiskt innehåll, men enforcement är inkonsekvent och reaktiv snarare än proaktiv. När AI-genererade bilder dessutom blir svårare att skilja från verkligheten för varje kvartal som går, skiftar bevisbördan allt mer till den enskilda användaren — och de flesta av oss har varken tid eller träning att vara källkritiska nog.