Nytt ramverk för att granska dolda intressekonflikter i AI-söksvar

arXiv cs.AI

Forskare har tagit fram ett revisionsramverk som ska fånga upp när generativ sökning (som AI-drivna svar i sökmotorer) citerar en källa korrekt men missar att avslöja en relation som förändrar hur svaret bör tolkas – tänk sponsrade kopplingar eller jäv. Systemet testades på 81 predikatkombinationer och avvisade 192 medvetet felaktiga poster. Viktigt att notera: det här är ett kontraktskonformitetstest, inte ett bevis på att verkliga användare faktiskt får bättre information.