AI-modeller genererar rasistiskt och sexistiskt innehåll
Filmregissören Valerie Veatch upptäckte att OpenAIs Sora-modell och andra AI-verktyg ofta skapar bilder genomsyrade av rasism och sexism. Hon blev också förvånad över att AI-entusiaster verkar bry sig föga om dessa problem med partiskhet i teknologin.
Djupdykning
När regissören Valerie Veatch började utforska OpenAIs Sora-teknik för att skapa videor från text, upptäckte hon något mycket oroväckande – AI:n genererade ständigt rasistiska och sexistiska bilder, och värre än så, AI-entusiasterna hon träffade verkade helt okej med det. Det här är inte bara ett tekniskt problem utan speglar de fördomar som finns inbakade i träningsdata från internet, där AI-modeller lär sig från våra samlade digitala fördomar. För alla som jobbar med sociala medier betyder det här att AI-genererat innehåll kan förstärka skadliga stereotyper på ett sätt som både är subtilt och skalbart – tänk miljontals AI-bilder som alla har samma sneda världsbild. Det räcker inte att bara använda verktygen, vi måste aktivt granska och ifrågasätta vad AI:n faktiskt producerar innan det når våra följare. Nyckelinsikt: AI-verktyg är inte neutrala – de amplifierar både våra kreativa möjligheter och våra samhälleliga fördomar.