Ny metod låter AI förklara varför ett annat utfall inte inträffade

arXiv cs.AI

Forskare har utvecklat en teknik som hjälper AI-modeller att svara på frågan 'vad skulle ha behövt hända annorlunda för att utfall B skulle inträffa istället?' – ett mer användbart svar än det vanliga 'vad skulle ändra prediktion A'. Metoden testad på tidsgrafar (nätverksdata där kopplingar förändras över tid) når rätt alternativt utfall i upp till 93,6% av fallen, samtidigt som antalet beräkningssteg minskar med 75–80%. Det intressanta är egentligen inte tekniken i sig utan vinklingen: att förklarbarhet handlar om att peka mot specifika alternativ, inte bara att ifrågasätta det som redan förutsagts.