Kan AI-agenter förbättra sig själva – och hur långt kan det gå?

arXiv cs.AI

Forskare har analyserat vad som faktiskt begränsar AI-agenters förmåga att förbättra sig själva genom att justera sina egna verktyg och instruktioner – utan att ändra den underliggande modellen. En intressant slutsats: att generera fler kandidatförbättringar hjälper inte nödvändigtvis, om utvärderingen är det som bromsar. Dessutom visar analysen att ju närmare systemet sitt teoretiska tak kommer, desto dyrare blir det att verifiera att en förbättring faktiskt är äkta.