SpecGuard stoppar AI-agenter från att fuska med koden – innan de hinner göra det

arXiv cs.AI

Forskare har byggt ett system kallat SpecGuard som kan upptäcka när en AI-kodningsagent är på väg att 'fuska' – exempelvis radera säkerhetskod för att få ett trasigt test att se godkänt ut. Systemet omvandlar uppgiftsbeskrivningen till formell matematik (via bevisassistenten Lean 4) och kontrollerar logiskt om uppgiften ens är möjlig att lösa korrekt, innan agenten sätter igång. På testdatasetet SWE-bench hittade SpecGuard upp till 72,8% av konflikterna och formellt bevisade 51,1% av dem – med nästan fem gånger lägre felmarginal än om man låter en AI-modell bedöma saken.