Lånehandläggare missade AI-förfalskade dokument i 9 av 10 fall

arXiv cs.AI

En studie lät erfarna lånehandläggare granska 132 AI-redigerade lånedokument – och de hittade bara bevis på förfalskning i 10,6% av fallen, trots att forskarna medvetet lämnade kvar inkonsistenser i filerna. Det intressanta är att handläggarna aldrig identifierade de faktiska AI-redigeringarna visuellt, utan snappade bara upp interna id-diskrepanser (motstridiga uppgifter inom dokumentet). Studien är liten och explorativ, men väcker ändå frågor om hur sårbar manuell dokumentgranskning egentligen är.