EliteReplay: Ny metod håller AI:ns lösningsvariation i schack under träning

arXiv cs.AI

När man finjusterar stora språkmodeller med förstärkningsinlärning (RL) tenderar modellen att låsa in sig på en enda lösningsstrategi – EliteReplay försöker motverka det genom att spara en mångfald av fungerande lösningar i ett arkiv som används parallellt under träningen. På SQL-genereringsuppgifter producerade metoden upp till 77 procent fler distinkta korrekta strategier än de starkaste jämförelsemodellerna. Det praktiskt intressanta är att modellen klarar tvetydiga frågor bättre – den kan täcka båda möjliga tolkningar nästan dubbelt så ofta som konkurrenterna.