Dolda fel i AI-agenter: 91 misslyckanden som ingen märkte

arXiv cs.AI

Forskare har granskat 15 vetenskapliga verktyg i ett AI-agentsystem och hittat 91 fall där verktyg verkade fungera korrekt men i själva verket levererade ofullständig eller felaktig data – utan att varna någon. De flesta felen uppstod i API-lagret (51 stycken) eller i det mellanliggande kodlagret (25 stycken), vilket innebär att felen kan sprida sig tyst vidare och förorena vetenskapliga resultat nedströms. Det är ett påtagligt problem: när AI-agenter används i forskning är tysta fel potentiellt farligare än öppna krascher, eftersom de är svårare att upptäcka.