Savi samlar in 70 miljoner kronor för att skydda mot AI-bedrägerier
Säkerhetsappen Savi har tagit in 7 miljoner dollar i startkapital och lanseras nu för iPhone och Android – målet är att skydda användare från AI-genererade bedrägerier, som falska kidnappningssamtal där en närstås röst imiteras. Det är ett ganska tydligt tecken på att AI-driven social manipulation börjar bli ett tillräckligt stort problem för att investerare ska se en affär i att lösa det.
Djupdykning
AI-bedrägerier har tagit ett läskigt steg framåt – idag kan vem som helst med tillgång till ett röstklipp klona någons röst på några sekunder, vilket gör att bedragare kan ringa föräldrar och låtsas vara deras kidnappade barn med häpnadsväckande trovärdighet. Savi bygger en app som ska fungera som ett slags digitalt immunförsvar mot det här: den analyserar misstänkta samtal och meddelanden i realtid och flaggar om något verkar AI-genererat. Sjumiljonerna i seed-finansiering är egentligen ganska blygsamma för en säkerhetsprodukt, men det signalerar att investerare börjar ta konsumentskydd mot AI-bedrägerier på allvar – hittills har fokus mest legat på företagssäkerhet. Det de flesta missar i diskussionen om AI-faran är att det inte handlar om sofistikerade hackare, utan om att tröskeln för vem som kan genomföra ett övertygande bedrägeri har sjunkit dramatiskt – din granne kan göra det nu. Frågan är om en app hinner ikapp i den kapprustning som pågår, när samma AI-verktyg som Savi försöker detektera hela tiden blir bättre på att låta äkta.