Dold AI-funktion snedvrider bilder från icke-västerländska kulturer

arXiv cs.AI

Kommersiella bildgenereringstjänster som DALL-E 3, Imagen-4 och GPT-Image-1 omskriver i hemlighet användarens prompt innan bilden skapas – och en ny studie med 8 960 testpromptar på 15 språk visar att det är just det steget som introducerar kulturella stereotyper. Icke-västerländska och icke-engelskspråkiga kontexter omskrivs betydligt mer aggressivt och reduceras till ett smalt förråd av igenkännliga klichéer, medan amerikanska/engelska promptar lämnas mer orörda. Det intressanta är att felet inte sitter i själva bildmodellen – det sitter i ett lager som de flesta användare inte ens vet existerar.