Nytt ramverk förklarar AI-beslut i tidsseridata med meningsfulla mönster

arXiv cs.AI

Forskare presenterar GRAIL, ett ramverk för att förklara vad en AI-modell faktiskt tittar på när den analyserar tidsseridata – till exempel EKG-kurvor. Istället för att peka ut enskilda tidssteg (vilket blir brusigt och instabilt) använder GRAIL meningsfulla intervall som P-vågen och QRS-komplexet i ett hjärtslag, och kombinerar dem med patientdata som ålder och kön. Intressant nog är det inte modellen i sig som är nyheten, utan hur man får den att förklara sig på ett sätt som faktiskt är begripligt för en läkare.