Forskare: AI-agenter misslyckas på grund av bristfällig data, inte bristfälliga modeller

arXiv cs.AI

En ny studie från arXiv pekar ut ett grundläggande problem med AI-agenter byggda på stora språkmodeller: de är sköra vid nya situationer och kan inte förklara sina beslut – och det beror inte på modellerna utan på hur träningsdata samlas in. Forskarna föreslår ett ramverk kallat 'Data-Centric Agentic Loop' med fyra steg (Curate, Augment, Constrain, Attribute) där robusthet och förklarbarhet byggs in i datamiljön från start, snarare än att man försöker pressa ut dem från modellen efteråt. Det är en intressant motröst till den dominerande synen att mer beräkningskraft löser allt.