Nytt test avslöjar: AI-agenter klarar uppgifter men krockar hela tiden

arXiv cs.AI

Forskare har skapat RT-SAFE, ett simulerat trafikmiljö-test för att mäta hur säkert AI-agenter (system som fattar beslut och agerar i världen) beter sig under tidspress. Resultaten är slående: åtta testade AI-modeller slutförde uppgifter i över 90% av fallen, men bara 0,7% av körningarna gick utan en olycka i det svåraste scenariot. Det verkligt intressanta är att det inte handlar om dåliga beslut i sig – det handlar om att världen hinner förändras medan AI:n tänker, vilket gör att en säker åtgärd kan bli farlig innan den ens utförs.