Färska data ≠ säkra AI-agenter — precisionen sitter i kontrakten, inte klockan

arXiv cs.AI

När AI-agenter utför verkliga uppgifter i system som databaser och schemaläggare kan omvärlden hinna ändras medan agenten jobbar — men det betyder inte att agentens åtgärd automatiskt är farlig. Forskarna testade tre typer av säkerhetskontroller (guards) på 3 456 körningar och fann att de enklaste versionerna, som bara kollar om data är 'för gammal', i onödan blockerade 92–95% av ofarliga situationer och kapade upp till 43% av slutförda uppgifter. Den enda kontrollen som verkligen fungerade utan att orsaka falska larm var en semantisk kontraktsmodell (en explicit beskrivning av vad som faktiskt gör en åtgärd osäker) — och AI-modellernas egna säkerhetsbedömningar visade sig vara i stort sett oanvändbara.