AI Act:s vattenstämplar mäter fel sak
Arash Gilan argumenterar i en krönika att AI Act:s krav på att märka AI-genererat innehåll missar poängen – systemet spårar hur något skapades, men inte vem som faktiskt tänkte och tog ansvar för det. Risken är ett transparenskrav som ser ut att fungera men egentligen mäter verktyget snarare än människans roll.
Djupdykning
EU:s AI Act kräver att AI-genererat innehåll ska märkas – tanken är god, vi vill veta när en maskin har skapat något. Men Arash Gilan pekar på ett grundläggande logikfel: vattenstämpeln sitter på produkten, inte på processen. En journalist som använder AI för att strukturera research, ställa om frågor eller finslipa formuleringar – har den skrivit texten, eller har AI:n det? Svaret är förmodligen båda, och ingen märkning i världen löser det gråzonsproblemet. Det de flesta missar är att transparensdiskussionen fastnat i en binär fälla: antingen är något AI-genererat eller inte. Men kognitivt arbete fungerar inte så – vi har alltid använt verktyg som formar vårt tänkande, från sökmotorer till stavningskontroll. Problemet med att märka verktyget snarare än ansvarstagandet är att det skapar en illusion av spårbarhet utan att faktiskt lösa frågan om vem som ska hållas ansvarig när något går fel. Om systemet enbart mäter ursprung och inte omdöme riskerar vi att uppfostra en generation skapare som lärt sig att gömma sig bakom märkningskraven – inte som ett sätt att undvika ansvar, utan för att systemet aldrig ens frågade vem som egentligen tänkte.