AI-genererat innehåll sprider sig till jobbansökningar och försäkringsärenden
AI-genererad text och bilder dyker nu upp inte bara i sociala medier utan även i jobbansökningar, produktrecensioner och försäkringsärenden – vilket skapar ett växande trovärdhetsproblem på nätet. Pangrams grundare Max Spero menar att det är betydligt svårare att upptäcka AI-innehåll än vad folk tror, och en handfull startups försöker nu lösa problemet.
Djupdykning
AI-detektering låter enkelt i teorin — bara avgöra om något är "riktigt eller fejk" — men Max Spero på Pangram pekar på varför det i praktiken är ett rörligt mål. Problemet är att AI-genererat innehåll inte ser ut på ett enda sätt: en jobbansökanskriven av GPT-4 och ett försäkringskrav fabricerat av ett billigare modell lämnar helt olika fingeravtryck, och detekteringsmodeller tränade på den ena kan missa den andra. Det gör att klassiska AI-detektorer, som till exempel GPTZero, ofta slår fel — ibland flaggar de text skriven av människor som AI, vilket redan orsakat orättvisor i akademiska sammanhang. Det folk missar i debatten är att problemet inte primärt handlar om kvalitet på innehållet, utan om kontext och avsikt: en AI-genererad produktrecension som är helt korrekt är ändå ett bedrägeri mot den plattform som lovar autentiska användarröster. Branschen rör sig mot vattenstämplar och kryptografisk signering direkt från modellerna — ungefär som ett digitalt ursprungscertifikat — men det förutsätter att hela ekosystemet av AI-leverantörer enas om en standard, vilket historiskt sett tar tid och kräver regleringstryck för att faktiskt hända.