AI-agenter missar tysta fel i 41% av fallen

arXiv cs.AI

En ny studie testade hur bra AI-agenter är på att upptäcka när verktyg de använder returnerar felaktiga svar — och resultaten är oroväckande. När ett verktyg kraschade med ett tydligt felmeddelande märkte agenten det i 91% av fallen, men när verktyget returnerade ett plausibelt men felaktigt värde slog larmet bara i 59% av fallen. Intressant nog klarade sig inte de så kallade reasoning-modellerna (som o1 och liknande) bättre — de märkte faktiskt fel något sämre än vanliga modeller.