AI-agenter kan förutsäga sina egna minnesbehov innan de agerar

arXiv cs.AI

Forskare har upptäckt att språkmodeller som arbetar med långa uppgifter faktiskt redan kodar in information om när de behöver komprimera eller hämta minnen – innan de ens agerar. Baserat på detta byggde de PaMER, ett system som använder dessa interna signaler för att styra minneshanteringen, vilket minskar kontextanvändningen (hur mycket text modellen håller i minnet) markant utan att tappa prestanda. Det intressanta är inte bara att det fungerar, utan att modellen på sätt och vis 'vet' vad den behöver – utan att vi bett den tänka på det.