Bank of England varnar: tiden rinner ut för att reglera AI-agenter
Sarah Breeden, vicechef på Bank of England, slår larm om att finansiella tillsynsmyndigheter håller på att få ont om tid för att hantera riskerna med autonoma AI-agenter på finansmarknaderna. Kärnan i oron är att självstyrande AI-system kan orsaka en marknadskollaps innan reglerarna hunnit ikapp.
Djupdykning
Bank of Englands varning handlar om något väldigt specifikt: autonoma AI-agenter, alltså AI-system som inte bara analyserar data utan faktiskt fattar och verkställer finansiella beslut på egen hand, utan att en människa godkänner varje steg. Problemet är att när många sådana system opererar samtidigt på samma marknader kan de förstärka varandras beteenden i en slags digital flockmentalitet — en krasch som normalt hade tagit veckor att eskalera kan ske på sekunder. Vi har sett något liknande förut: flashkraschen 2010 när algoritmisk handel fick Dow Jones att rasa nästan tusen punkter på minuter, innan det studsa tillbaka — men det var ändå system med hårdare begränsningar än dagens AI. Det Breeden egentligen säger, utan att säga det rakt ut, är att regleringen redan ligger efter den tekniska verkligheten och att gapet växer snabbare än myndigheterna kan stänga det. Finansbranschen är dessutom notoriskt dålig på att bromsa in frivilligt när det finns pengar att tjäna på att vara snabbast.