Träning av språkmodeller att fatta sammanhängande beslut

arXiv cs.AI

Forskare har testat om språkmodeller kan lära sig att fatta logiskt konsekventa beslut – alltså inte bara förutsäga rätt svar, utan hålla fast vid sina egna slutsatser och välja den handling som ger bäst förväntad nytta. Över 20 dataset visar resultaten att riktad finjustering (att träna modellen på specifika exempel) förbättrar beslutsfattandet märkbart, och att förmågan ofta överförs till helt nya situationer som modellen aldrig sett under träning. Det kanske mest intressanta: modellerna lär sig också att känna igen när de saknar tillräcklig information för att ens ta ett beslut – en förmåga som är svårare än den låter.