Ny metod gör AI-beslut mer rättvisa när prognoserna är opålitliga

arXiv cs.AI

Forskare har utvecklat en algoritm för så kallad online-allokering – där beslut måste fattas i realtid utan möjlighet att ångra sig – som klarar sig bättre när AI-råden den förlitar sig på visar sig vara felaktiga. Metoden kombinerar AI-prognoser med en försiktig reservstrategi och en rättvisekorrektion, och experiment visar att ojämlikheten i exponering (hur ofta olika alternativ faktiskt väljs) minskar markant. Det intressanta här är att de flesta AI-system optimeras för noggrannhet när allt fungerar, men den här studien tar felaktiga råd som utgångspunkt snarare än undantag.