Det är inte agenten som fallerar – det är kontexten

arXiv cs.AI

Forskare har mätt hur kvaliteten på en AI-agents 'kontext' (de instruktioner, verktyg och regler som agenten får med sig) förutsäger hur väl den beter sig – och sambandet är tydligt: bättre kontext ger färre hallucinationer och mer regelföljande beteende. Studien testade detta via ett öppet ramverk kallat ProofAgent-Harness som bedömer kontext utifrån sju kriterier, bland annat rollklarhet, verktygsscheman och motståndskraft mot prompt injection (när illvilliga instruktioner smygs in). Det intressanta är att felen ofta uppstår innan agenten ens börjar köra – inte i modellen, utan i hur den förberetts.