AI-agenter är dåliga på att välja slumpmässigt – och det kan bli ett problem för revision

arXiv cs.AI

Forskare testade sex AI-modeller och fann att de följer dolda mönster när de ska göra slumpmässiga val – exempelvis baserade på tröskelvärden i identifieringsnummer eller tidsstämplar. Det innebär att om flera agenter delar samma indata väljer de ofta samma saker, vilket gör urvalet förutsägbart snarare än slumpmässigt. Problemet är särskilt känsligt i granskningssammanhang: när modellerna fick slumpmässigt välja kundärenden för mänsklig granskning följde de mönstren ändå, trots explicita instruktioner om att randomisera.