Hur mycket bör en AI-agent styras av sin uppgiftsstatus?

arXiv cs.AI

Forskare har testat fyra olika sätt att låta en LLM-agent (AI som utför flerstegsjobb) hålla koll på vad som är gjort, blockerat eller kvar att göra – från att bara visa en textlogg till att tvinga fram regler via en 'grindvakt'. Det mest intressanta fyndet: en logg som agenten själv skriver presterar bättre än en korrekt checklista den bara får visa, och den hårda regeltvingaren lyfte ett 235B-modells godkännandegrad från 0,39 till 0,54 – men sänkte faktiskt en mindre 35B-modell när grindvaktens bedömning var fel. Slutsatsen är pragmatisk: tvingande styrning hjälper när felen är förutsägbara och frekventa, men slår bakut när logiken i grinden inte stämmer.