Ny metod avgör när AI-agenters beteende faktiskt går att diagnostisera

arXiv cs.AI

Forskare har undersökt ett simulerat hotellprisättande AI-system och kommit fram till att fel i en agents beteende ofta är osynliga – inte för att de är svåra att hitta, utan för att agenten helt enkelt aldrig besöker de tillstånd där felet syns. Studien föreslår ett tvåstegsfilter som först kontrollerar om trafikdata faktiskt täcker det misstänkta felområdet innan någon diagnos görs alls – och resultaten är lovande: 54 av 55 enheter klarade filtret med noll falska larm bland 20 testade komponenter. Det intressanta här är egentligen det omvända: att 'tyst' data ofta tolkas som 'felfri', när det i verkligheten bara betyder att felet aldrig fick chansen att synas.