Nytt ramverk mäter hur säker en AI egentligen är på sitt svar

arXiv cs.AI

Forskare har tagit fram ChainUQ, ett system som bedömer hur tillförlitlig en stor språkmodells slutsats verkligen är – inte bara om svaret låter rätt, utan om logiken längs vägen hänger ihop. I tester förbättrades ett viktigt mått på träffsäkerhet (AUROC) med i snitt 3,1 procent, medan kalibreringsfel (ECE) minskade med upp till 45 procent. Det intressanta är att systemet kan appliceras på nya modeller utan ytterligare träning, vilket gör det praktiskt användbart.