Forskare visar att AI-modeller inte alltid bör använda externt minne

arXiv cs.AI

Nytt forskning från arXiv visar att externa kunskapskällor (så kallat 'conditional memory' – när en AI-modell slår upp information istället för att förlita sig på vad den lärt sig) inte alltid hjälper språkmodeller att resonera bättre inom vetenskap – ibland skadar det faktiskt prestandan. Forskarna testade sin metod på biologiska och kemiska uppgifter över sex olika uppgiftstyper och två modellarkitekturer, och fann att ett selektivt system som avgör *när* minnet ska aktiveras konsekvent presterade bättre än att alltid slå på det. Det intressanta är egentligen att 'mer information' inte automatiskt är bättre – rätt tajming verkar vara nyckeln.