Så hanterar OpenAI och Anthropic autonomi i finansiella AI-agenter
På konferensen AI Engineer New York diskuterade OpenAI och Anthropic hur AI-agenter (system som självständigt utför uppgifter) kan ges tillräcklig frihet för att vara användbara inom finans – utan att fatta känsliga beslut på egen hand. Det intressanta är egentligen spänningen: ju mer autonom en agent är, desto mer värde skapar den, men också desto mer kan det gå snett när pengarna är på spel.
Djupdykning
Artikeln berör en av de mest delikata balansgångarna inom AI just nu: hur mycket självständighet ska en AI-agent få när den hanterar riktiga pengar? OpenAI och Anthropic bygger båda ut vad som kallas "agentic systems" – AI som inte bara svarar på frågor utan faktiskt utför handlingar i sekvens, som att boka möten, skicka e-post eller genomföra transaktioner – och finanssektorn är testbädden där misstag får direkta konsekvenser i kronor och ören. Det som diskuterades på konferensen handlar i grunden om var man sätter "human-in-the-loop", alltså vid vilka beslutspunkter en människa måste godkänna vad agenten gör, kontra när man låter den köra fritt. Problemet är att för många avbrott gör agenten värdelös, men för få skapar en situation där ingen riktigt vet vem som bär ansvaret när något går fel. Det de flesta missar i den här debatten är att säkerhetsproblemet inte primärt är tekniskt – det är juridiskt och organisatoriskt. Banker och finansinstitut opererar under regelramverk som MiFID II och Dodd-Frank som bygger på antagandet att en identifierbar människa fattade ett beslut. När en agent autonomt exekverar en strategi baserat på marknadsdata i realtid börjar de befintliga compliance-strukturerna spricka i fogarna, och ingen regulator har ännu gett ett tydligt svar på hur ansvarskedjan ska se ut.