Nytt ramverk låter människor granska och ifrågasätta AI-genererade metadata innan de låses

arXiv cs.AI

Forskare föreslår ett system kallat 'contestable governance' där AI-agenter (byggda på stora språkmodeller) föreslår metadata med poängsatta argument och källhänvisningar, men en mänsklig granskare måste godkänna, avvisa eller modifiera varje beslut innan det sparas. Det intressanta är att systemet också lagrar ett spår av vad granskaren faktiskt kontrollerade – vilket löser ett klassiskt problem: att ett snabbt klick på 'godkänn' ser likadant ut som en noggrann granskning. Konceptet testas på HVAC-system (ventilation och klimatkontroll) med öppen källkod som referensimplementation.