Fem grundprinciper för att styra autonoma AI-agenter i realtid

arXiv cs.AI

Autonoma AI-agenter ställer till problem för företag eftersom de dyker upp och försvinner för snabbt för traditionella behörighetssystem – och ingen vet i förväg vad de kan komma att göra. Forskarna föreslår fem kontrollmekanismer som måste finnas på plats innan en agent får agera: discovery, identitet, styrning, attestering och supply chain-verifiering. Fyra av fem är byggda och körs i privata piloter, men systemet har ett pris – säkerhetspunkten ligger direkt i requestens kritiska väg, vilket kan omvandla driftstörningar till nekade åtgärder.