Ny metod avslöjar när AI-agenter fattar beslut som missar vad användaren egentligen vill ha

arXiv cs.AI

Forskare har identifierat ett problem de kallar 'delegationsblinda fläcken' – att en AI-agent kan utföra en uppgift framgångsrikt utan att fånga upp vilken produktförbättring användaren faktiskt hade velat se. I ett experiment med 4 800 förfrågningar till två olika modeller förblev alla 36 primära mätintervall olösta, medan en deterministisk extraherare (ett regelbaserat verktyg utan modellkoppling) löste sju av nio jämförelser utan ett enda extra modellanrop. Det intressanta är att mycket av osäkerheten alltså inte beror på dåliga data – utan på att modellgenererade rapporter introducerar onödig otydlighet som enkla strukturerade utdata hade undvikit.