AI-genererade profiler spred högerextremism på TikTok
Falska TikTok-profiler som utger sig för att vara svenska tjejer har samlat över 30 000 följare genom att sprida högerextremistiskt innehåll. Profilerna är helt skapade med AI-teknik och finns inte i verkligheten.
Djupdykning
AI-genererade influencers som sprider högerextrem propaganda på sociala medier representerar en ny och sofistikerad form av desinformation som utnyttjar teknikens framsteg för att manipulera opinionen. Genom att skapa trovärdiga, attraktiva virtuella personer kan extremistgrupper nå och påverka stora målgrupper utan att exponera verkliga identiteter, vilket gör det betydligt svårare för plattformarna att spåra och stoppa spridningen. Det faktum att dessa AI-personas har lyckats samla över 30 000 följare visar på teknikens kraftfulla potential att skapa engagemang och förtroende bland användare som inte är medvetna om att de interagerar med artificiella konstruktioner. Detta fenomen understryker den akuta behovet av bättre AI-detektering och mediekunnighet bland användare, eftersom gränsen mellan verkligt och artificiellt innehåll blir alltmer suddig. När extremistgrupper kan industrialisera skapandet av övertygande propaganda genom AI-teknik förändras spelplanen fundamentalt för hur desinformation sprids och bekämpas. Nyckelinsikt: AI-genererade influencers som sprider extremistiskt innehåll markerar en farlig utveckling där tekniken möjliggör massproduktion av trovärdig propaganda utan mänsklig exponering.