AI-drivna dejtingappar används för att blåsa användare på pengar
Säkerhetsforskaren Matthew Gore-Kormanik undersökte en bluffapp kallad Dora och fick ett videosamtal från en 'Jennifer' – men i bakgrunden syntes bara en rörlig gobeläng och hans mikrofon var inte ens påslagen, trots att 'hon' kommenterade hans röst. Det handlar om en ny typ av bedrägeri där AI-genererade profiler och troligen syntetiska röster används för att lura dejtingappanvändare, troligtvis i syfte att till slut pressa offren på pengar.
Djupdykning
AI-drivna datingbedrägerier är inte nya, men det som gör Dora-fallet anmärkningsvärt är hur lite som faktiskt behöver fungera för att lura folk. Bedragarna använde en röstkloning eller ljudloop, ett tapetklipp som "bevis" på videopresens, och ett automatiserat meddelande efteråt – allt utan att ens kontrollera om mikrofonen var på. Det är ett tecken på att skalbarheten är poängen: om man kan skicka ut tusentals "Jennifer-samtal" per dag och konvertera en bråkdel, är varje teknisk brist oviktig. För den som jobbar med sociala medier eller apputveckling är det här en påminnelse om att trust signals – verifierade profiler, live-videokrav, beteendeanalys – snabbt håller på att bli hygienfaktorer snarare än konkurrensfördel. Det de flesta missar är att AI-bedrägerierna inte primärt attackerar teknikerna, de attackerar den mänskliga impulsen att fylla i luckorna själv. En tapestry som rör sig, en röst med distortion – hjärnan vill att det ska vara en riktig person, och den jobbar aktivt för bedragaren. Plattformar som inte bygger in aktiv skepsism i sin UX – inte bara i terms of service – kommer att äga ansvaret när användare luras, oavsett om de juridiskt sett borde göra det.