Deepfake-röst lurade hennes morfar – nu bygger hon AI som avslöjar bluffen
Efter att hennes morfar blivit blåst av en deepfake-röst som imiterade hans bror grundade Tarini Padmanabhuni DetectifAI – en San Francisco-startup som tränar AI-modeller tillräckligt små för att köras direkt på mobiltelefoner och flagga falska röster i realtid. Företaget tävlar just nu i Startup Battlefield på TechCrunch Disrupt, vilket är en bra påminnelse om att AI-bedrägerier drabbar vanliga människor – och att motmedlen också börjar komma.
Djupdykning
Tarini Padmanabhuni grundade DetectifAI efter att hennes morfar blev lurad av en deepfake-röst som imiterade hans brors röst – och det är tyvärr inte ett udda fall. Röstbedrägerier har exploderat i takt med att AI-verktyg blivit tillgängliga för vem som helst, och äldre personer är oproportionerligt utsatta eftersom de sällan har en intuitiv känsla för att något "låter konstigt på ett AI-sätt". Det tekniskt knepiga med DetectifAIs approach är att de tränar modeller tillräckligt små för att köra direkt på telefonen – alltså utan att skicka din röstdata till en server – vilket löser både integritetsproblem och latensproblemet (fördröjning) som gör realtidsdetektering svårt. De flesta diskussioner om deepfake-bekämpning fokuserar på video och bilder, medan röst är den vektor som faktiskt används i riktiga bedrägerier mot riktiga människor just nu. Frågan är om detektering någonsin kan vinna kapprustningen mot generering – varje gång ett verktyg lär sig känna igen falska röster tränas nästa generation av röstklonare på att undvika precis de mönstren.