Agent Behavioral Contracts: Formell specifikation och runtime-övervakning för pålitliga autonoma AI-agenter

arXiv cs.AI

Forskare har utvecklat Agent Behavioral Contracts (ABC), ett ramverk som låter AI-agenter följa formella kontrakt precis som traditionell mjukvara gör. Systemet hittade 5,2-6,8 regelbrott per session som vanliga AI-agenter missade helt, och uppnådde 88-100% efterlevnad av hårda begränsningar. Tekniken kan begränsa AI-agenternas avvikande beteende till under 0,27 över längre sessioner.