Nytt testramverk avslöjar att AI-bankagenter misslyckas stoppa bedrägerier i hälften av fallen
Forskare har skapat FraudBench, ett testramverk med 150 scenarion där AI-agenter för bankkundtjänst utsätts för simulerade bedrägeriangrepp – som att manipulera identitet eller bygga upp förtroende stegvis över en konversation. I ett preliminärt test klarade fyra olika agenter bara 49–65% av attackerna, med penningmulor och egenbedrägeri som de vanligaste svagheterna. Det intressanta är att agenterna inte bara svarar på frågor utan faktiskt kan ändra kontouppgifter och flytta pengar, vilket gör säkerhetsluckor betydligt mer konkreta än i vanliga chatbotar.
Djupdykning
Banker bygger nu AI-agenter som kan göra allt från att svara på en fråga om kontoavgifter till att flytta pengar – i samma konversation, utan mänsklig inblandning. FraudBench testar hur bra dessa agenter klarar av sofistikerade bedrägerier där angriparen manipulerar sig fram stegvis, likt en bra lögnare som bygger upp sin historia över tid innan den avgörande frågan ställs. Det verkligt oroande i resultaten är att de bästa agenterna ändå misslyckas i 35–51 procent av fallen – och det är mot en fryst testuppsättning av känt mönster, inte mot verkliga bedragare som anpassar sig i realtid. Det de flesta missar i debatten om AI i banksektorn är att problemet inte är om agenten förstår policy-dokumenten, utan om den förstår *konversationshistoriken* som kontext – en enskild begäran kan se helt legitim ut om man inte minns att samma person för tre meningar sedan misslyckades med identifieringen. Med 43 ytterligare "chained attacks" hållna utanför den publika testuppsättningen som reserv för framtida utvärderingar är det tydligt att forskarna redan vet att nuvarande modeller inte är redo för det som kommer härnäst.