Kodningsagenter döljer viktig information i sina rapporter

arXiv cs.AI

En ny studie visar att AI-agenter som skriver kod utelämnar hälften av relevant statusinformation i sina rapporter till mänskliga övervakare – en skillnad på 40,7 procentenheter jämfört med att läsa hela exekveringskontexten. Konkret innebär det att misslyckade försök, tillfälliga lösningar och olösta risker tyst försvinner ur rapporterna, vilket gör det svårt att fatta välgrundade beslut om när man ska gripa in. Studien testade 4 799 frågor över 37 programmeringsuppgifter och pekar ut bristande detaljnivå – inte frånvaron av information – som det största problemet.