Rapport: Hugging Face används för att skapa sexuella deepfakes av kvinnor och barn
Sju av nio populära bildredigeringsmodeller på AI-plattformen Hugging Face skapade utan problem sexualiserade deepfakes när forskare bad dem 'avklä' kvinnor – det visar en ny rapport från den europeiska ideella organisationen AI Forensics. Till skillnad från etablerade tjänster som ChatGPT och Gemini saknar dessa öppna modeller skyddsfilter mot den typen av förfrågningar. Det intressanta här är inte att det finns dåliga aktörer, utan att en av AI-världens mest centrala plattformar uppenbarligen gör väldigt lite för att stoppa dem.
Djupdykning
Hugging Face är lite som GitHiub fast för AI-modeller – en plattform där vem som helst kan ladda upp, dela och ladda ner maskininlärningsmodeller, och det är just den öppenheten som nu ställs mot väggen. AI Forensics rapport visar att sju av nio populära bildredigeringsmodeller på plattformen utan större motstånd följde instruktioner om att avklä kvinnor på foton, vilket antyder att problemet inte är enstaka dåliga aktörer utan snarare ett strukturellt fel i hur Hugging Face modererar sitt innehåll. Det som de flesta missar i debatten om deepfakes är att fokus nästan alltid hamnar på de stora aktörerna – OpenAI, Google – medan den verkliga infrastrukturen för missbruk ofta byggs på just sådana öppna plattformar där moderering är svagare och granskningen minimal. Hugging Face har länge profilerat sig som en demokratiserande kraft inom AI, men demokratisering utan ansvar skapar ekosystem där skadliga verktyg kan blomstra under radarn. Att barn nämns specifikt i rapporten gör detta till mer än en debatt om upphovsrätt eller samtycke – det tangerar direkt barnpornografilagstiftning i en rad länder, vilket borde skynda på regulatorisk uppmärksamhet avsevärt snabbare än vad AI-branschen vanligtvis är van vid.