Självförbättrande AI-agenter i kreditbedömning: hur man håller dem granskningsbara

arXiv cs.AI

Forskare har testat ett system där AI-agenter (LLM-baserade) kan anpassa sig till nya kreditregler – men bara inom strikta gränser för vad de får ändra, så att en mänsklig granskare alltid kan se exakt vad som förändrats och varför. I simuleringar godkände systemets grindvakt 144 av 7 449 föreslagna ändringar, och ingen av dem försämrade modellens träffsäkerhet – medan ett system utan grindvakt släppte igenom 309 skadliga ändringar. Studien kopplar också resultaten till EU:s AI-akt för högrisk-kreditbedömning, och noterar att USA:s motsvarande vägledning från april 2026 explicit undantar agentbaserad AI från sitt tillämpningsområde – en lucka värd att hålla koll på.