Meta använder AI för att stoppa annonser som leder till övergrepp mot barn
Meta lanserar nya AI-verktyg för att upptäcka annonser som ser harmlösa ut men som leder användare vidare till sidor med sexuella övergrepp mot barn. Verktygen kom efter att företaget själv upptäckt att dess plattformar använts för att sprida sådant material på ett indirekt sätt – ett kryphål som är svårt att fånga med traditionella metoder.
Djupdykning
Meta har länge kämpat med problemet att skadligt innehåll inte alltid finns *på* plattformen – det gömmer sig ett klick bort. Den här typen av attack kallas ibland "landing page cloaking", där en annons ser helt oskyldig ut (en leksak, en barnklädesbutik) men leder vidare till CSAM på externa sajter. Det gör traditionell innehållsmoderering blind, eftersom AI:n som granskar annonser aldrig ser slutdestinationen. Metas nya verktyg verkar alltså inte bara analysera själva annonsen utan även vart den leder – ett tekniskt språng som kräver att systemet aktivt crawlar externa URL:er i realtid. Det de flesta missar här är att problemet inte handlar om Meta som brottsplats, utan Meta som rekryteringsverktyg. Annonserna är sofistikerade nog att passera manuell granskning, vilket betyder att det finns aktörer med tillräckliga resurser för att testa och optimera vad som fungerar – precis som legitima annonsörer A/B-testar sina kampanjer. Att Meta nu tvingas bygga AI specifikt för det här är ett tecken på att manuell moderering och enklare filter redan har spelat ut sin roll mot den här typen av hot.