AI-agenter som uppdaterar sina egna världsbilder under drift
Forskare har byggt EvoBelief, ett system där AI-agenter (program som agerar självständigt) kontinuerligt testar och reviderar sina antaganden om hur deras miljö fungerar – ungefär som att köra små experiment under resans gång. På ALFWorld-benchmarken förbättrades framgångsfrekvensen med upp till 31,3% jämfört med grundmodellen, och i ett vetenskapligt simuleringstest klarade systemet 83,3% av uppgifterna medan alla jämförda basmodeller landade på 0%. Det intressanta är att språkmodellen själv inte tränas om – det är kunskapen om världen, lagrad som falsifierbara regler, som uppdateras.
Djupdykning
De flesta diskussioner om hur AI-agenter blir bättre handlar om att uppdatera modellens parametrar – alltså att träna om den med ny data. EvoBelief tar en annan väg: istället för att röra modellen bygger systemet upp en separat "världsmodell" av hypoteser om hur miljön fungerar, ungefär som att hålla en levande anteckningsbok vid sidan av. När agenten gör något oväntat skapar den en hypotes, testar den mot nya observationer, och skrotar eller förfinar den om bevis talar emot – precis som vetenskaplig metod, fast automatiserad. Det som de flesta missar är att det verkliga problemet inte är att agenter är dumma, utan att de är *naivt konsekventa* – de fortsätter agera på gamla antaganden även när världen har förändrats, och en felaktig tro sprider sig tyst över alla uppgifter den påverkar. Att EvoBelief klarar av MiniGrids oanmälda regeländringar och faktiskt upptäcker kvantitativa lagar i DiscoveryWorld (från 0% till 58-83% för baselines som misslyckas helt) antyder att skillnaden mellan en kompetent och en tillförlitlig agent kanske inte sitter i modellens storlek, utan i om den vet vad den inte vet.