Ny forskning: Så kan AI-agenter tränas att flagga osäkra uppgifter

arXiv cs.AI

Forskare har studerat hur AI-agenter i team kan läras att rapportera osäkra uppgifter – ett knepigt problem eftersom rapportering minskar agentens egen belöning. Genom att separera så kallade 'vittnen' (agenter som observerar samma uppgift) minskade andelen osäkra slutförda uppgifter med 33,6 procentenheter jämfört med blandade grupper. Resultaten visar att hur agenter grupperas och tränas spelar stor roll för om säkerhetsrapportering faktiskt fungerar i praktiken.