MetaRAG låter AI:n bedöma sin egen säkerhet innan den svarar

arXiv cs.AI

Forskare har utvecklat MetaRAG, ett ramverk som tränar AI-agenter att stämma av sina egna interna övertygelser mot sina handlingar när de bestämmer om de ska fortsätta söka efter information eller ge ett svar. Systemet testas på sju olika fråge-och-svar-dataset och förbättrar konsekvent balansen mellan träffsäkerhet och effektivitet jämfört med befintliga metoder. Det smarta är att självutvärderingen bara sker under träning – vid faktisk användning tillkommer ingen extra beräkningskostnad.