Nytt verktyg kopplar LLM:er till Prolog för att slippa logiska hallucineringar

arXiv cs.AI

LLM:er är bra på språk men havererar på komplex regellogik – de hallucinerar systematiskt när kunskapsbaserna växer. Euclid-MCP är en öppen server som låter AI-agenter delegera logiska slutledningar till SWI-Prolog (ett klassiskt regelbaserat system), vilket ger exakta svar med lägre latens än att låta LLM:en gissa själv. Testerna gjordes på IT-säkerhets- och compliance-scenarier, där skillnaden mellan 'ungefär rätt' och 'exakt rätt' faktiskt spelar roll.

Djupdykning

LLMs är fantastiska på att låta som om de tänker, men de är i grunden mönstermatchningsmaskiner – och det räcker inte när du behöver veta exakt vem som har tillgång till vilket system enligt era säkerhetsregler. Euclid-MCP löser detta genom att koppla ihop språkmodeller med Prolog, ett programmeringsspråk från 70-talet byggt på formell logik där slutsatser antingen är korrekta eller fel, inget däremellan. Modellen skriver om din fråga till ett mellanformat kallat Euclid-IR, som sedan kompileras till Prolog-kod och körs deterministiskt – det vill säga att samma input alltid ger exakt samma output, till skillnad från en LLM som kan svara olika beroende på dagen. Det de flesta missar här är att problemet inte handlar om att LLMs är "för dåliga" och snart kommer bli tillräckligt bra – det handlar om att probabilistisk statistik och regelbaserad logik är fundamentalt olika verktyg som löser olika problem. Att fråga en LLM "har användare X rätt att se fil Y enligt policy Z?" är ungefär som att fråga en mycket lärd person att räkna ut din skatt i huvudet istället för att använda ett skatteprogram: imponerande om det funkar, katastrofalt när det inte gör det. Att forskarnas testfall är IT-säkerhet och compliance är talande – det är branscher där ett hallucinerande AI-svar inte är en bugg utan potentiellt ett dataintrång eller ett regelbrott.