Pålitlig AI kräver helhetssyn – förbättringar på ett område kan skada ett annat

arXiv cs.AI

En ny positionspaper pekar på ett grundläggande problem inom AI-forskning: när man försöker förbättra en egenskap hos ett AI-system – till exempel integritet – riskerar man att försämra en annan, som rättvisa. Forskarna granskar fem centrala aspekter av pålitlig AI (rättvisa, integritet, robusthet, förklarbarhet och osäkerhetshantering) och kartlägger hur de påverkar varandra negativt i par. Slutsatsen är att det inte räcker att optimera en sak i taget – forskarvärlden måste börja se helheten.