Hur spårar man vad ett AI-system faktiskt beslutade – och varför det är svårare än det låter?

arXiv cs.AI

Forskare har undersökt hur man i efterhand kan fastställa orsakssamband (kausal attribution) i agentic AI-system – alltså system som fattar en serie beslut autonomt – och visar att de vanligaste mätmetoderna ger vilseledande resultat: ett helt avgörande steg kan se ut att ha noll effekt, medan ett passivt steg ser avgörande ut. Det är extra relevant nu eftersom EU:s AI-akt ger medborgare rätt till förklaring av AI-beslut sedan augusti 2026, men de loggningskrav som faktiskt skulle möjliggöra sådana förklaringar dröjer till december 2027 – ett juridiskt glapp som artikeln explicit adresserar.