AI som vet när den inte vet – halverar felrate i medicinteknisk kvalitetskontroll

arXiv cs.AI

Forskare har testat ett system för att upptäcka defekter i medicintekniska produkter som aktivt avstår från att gissa när det är osäkert – och resultaten är slående: på 266 170 verkliga FDA-rapporter minskade klassificeringsfel med 48% när modellen fick neka svar i 10% av fallen. Principen kallas epistemisk osäkerhet (modellens okunskap om vad den inte vet), och poängen är enkel: i högrisksammanhang är ett 'vet inte' ofta säkrare än ett felaktigt svar.