EU beställer tre studier om tekniska lösningar för att märka AI-genererat innehåll
EU-kommissionen har beställt tre studier som undersöker tekniska metoder för att märka och upptäcka AI-genererat innehåll inom text, ljud och bild/video. Studierna ska ligga till grund för en uppförandekod enligt artikel 50 i AI-förordningen och bedömer befintliga tekniker, deras effektivitet och praktiska tillämpbarhet.
Djupdykning
EU:s nya AI-lag kräver att AI-genererat innehåll märks ut, men hur gör man det tekniskt när deepfakes blir allt mer sofistikerade? Dessa tre studier som Kommissionen beställt visar att utmaningen varierar dramatiskt beroende på medium - text är relativt lätt att spåra medan ljud och video kräver helt andra tekniska lösningar som vattenstämplar eller kryptografiska signaturer. Det verkliga problemet är inte bara teknisk detektion utan en katt-och-råtta-lek där AI-system snabbt kan tränas att kringgå detektionsmetoder. Medan EU försöker skapa tekniska standarder utvecklas AI-modellerna exponentiellt snabbare än regleringsramarna kan hänga med. Intressant nog speglar detta samma utmaning som musikindustrin hade med piratkopiering - teknisk copy protection knäcktes alltid, så slutligen blev lösningen ekonomiska incitament och bekvämare tjänster istället. EU:s approach riskerar att hamna i samma tekniska återvändsgränd om de inte parallellt arbetar med ekonomiska och sociala mekanismer för ansvarigt AI-användande.