Nya metoden fångar AI-agenters beteende i kompakta tillståndsmaskiner

arXiv cs.AI

Forskare har utvecklat ett sätt att omvandla AI-agenters handlingssekvenser till kompakta finita tillståndsmaskiner (FSM – en slags karta över möjliga beteendetillstånd) för att göra det lättare att övervaka och felsöka dem. Maskinerna är förvånansvärt små, bara 7–43 tillstånd, och kan förutsäga misslyckanden med upp till 0,94 i precision innan agenten ens är klar med sin uppgift. Det intressanta är att beteendemönstret verkar styras mer av miljön agenten körs i än av den underliggande AI-modellen – vilket gör metoden modell-agnostisk.