Bortom prompt-engineering: Så bygger du agenter som håller över tid
En teknisk diskussion om hur AI-agenter (autonoma system som utför uppgifter i flera steg) bör designas utan att förlita sig för mycket på att be språkmodellen att utvärdera sig själv. Kärntesen: att be en LLM granska sin egen output är en svag garanti – arkitekturen måste göra det tunga lyftet. Artikeln verkar vara ett utkast eller avkortat, vilket gör det svårt att bedöma hela argumentet.
Djupdykning
Artikeln pekar på något som många AI-byggare blundar för: att stoppa fler instruktioner i prompten är inte en lösning på agentdesign, det är ett plåster. När en agent kör länge — tänk flerstegsjobb som pågår i minuter eller timmar snarare än sekunder — ackumuleras fel och hallucinationer på ett sätt som ingen prompt i världen kan kompensera för, eftersom LLM:en (språkmodellen) inte kan utvärdera sin egen output reliabelt över tid. Det är ungefär som att be en trött revisor att både göra och granska sitt eget bokslut klockan tre på natten. Poängen som de flesta missar är att "context engineering" och "loop engineering" egentligen är nya namn på samma gamla magiska tänkande — att modellen, om vi bara formulerar oss tillräckligt smart, ska bli tillförlitlig av sig själv. Det den faktiska lösningen kräver är externa verifieringslager, deterministiska kontroller och arkitektur som inte litar på att LLM:en är sin egen vakthund.