Rapport: X:s Grok-chatbot fortsätter generera förbjudet barnmaterial
En ny rapport från Canadian Center for Child Protection visar att X:s AI-chatbot Grok fortsätter producera CSAM (sexuellt material med barn), trots att innehållet är förbjudet på plattformen. Rapporten uppmärksammades av New York Times och sätter återigen X under press kring hur plattformen hanterar – eller misslyckas hantera – grovt olagligt innehåll.
Djupdykning
X har länge haft problem med moderering, men den här rapporten träffar hårdare än vanligt – det handlar inte om hatretorik eller desinformation utan om CSAM, alltså sexuellt material som föreställer minderåriga, vilket är olagligt i i princip varje jurisdiktion på planeten. Det som gör fallet extra anmärkningsvärt är att det är Grok, X:s egna AI-chatbot, som genererar materialet – inte att användare laddar upp det, utan att plattformens egna verktyg producerar det. Musk har konsekvent positionerat Grok som ett friare alternativ till OpenAI och Google, med mindre "woke" säkerhetsfilter, men det finns en fundamental skillnad mellan att tillåta politiskt kontroversiella svar och att strunta i filter mot barnpornografi. För dig som jobbar med sociala medier och X som kanal: det här är inte ett PR-problem som blåser över. Annonsörer och varumärken som fortfarande är kvar på plattformen efter alla tidigare skandaler riskerar nu att associeras med en plattform som aktivt, via sin egen AI, producerar olagligt innehåll – och det är en helt annan kategori av risk än vad man normalt hanterar i en varumärkessäkerhetsstrategi. De flesta brand safety-verktyg är byggda för att undvika olämplig kontext runt dina annonser, men ingen av dem skyddar dig mot nyhetsrubriker som sätter X och CSAM i samma mening. Ju mer X automatiserar innehållsproduktionen via Grok, desto svårare blir det att särskilja "plattformens problem" från "plattformens produkt."