Nytt 'spridningslager' ska göra AI-resonemang granskningsbart – men praktiska fördelar uteblir

arXiv cs.AI

Forskare föreslår ett system kallat Deposon som loggar och granskar mellanstegen i en AI-modells resonemang (de dolda tankesteg som normalt kastas bort), med matematisk precision ned till maskinepsilon 2,2E-16. Problemet är att systemet på riktiga benchmark-tester presterar identiskt med ett enkelt sexordsfilter – skillnaden mot befintliga metoder är alltså noll i praktiken. Författarna är ovanligt ärliga med sina negativa resultat och hävdar att värdet enbart ligger i att resonemangen blir maskinverifierbara, inte i bättre svar.