LLM plus regellogik ger bättre förklaringar i beslutsstödssystem

arXiv cs.AI

Forskare har kombinerat LLM:er med så kallad constraint reasoning – ett strukturerat sätt att hantera regler och begränsningar – för att förklara varför ett optimeringssystem rekommenderar ett visst beslut. Metoden bygger på att man matar LLM:en med en 'graf av skäl' som fångar logiken bakom systemets val, vilket minskar felaktiga förklaringar jämfört med att låta modellen resonera fritt. Det är en välkommen insikt: LLM:er är bra på att prata, men de behöver tydligen lite hjälp med att faktiskt förstå vad de pratar om.