Nytt system lär sig när medicinsk AI ska lita på extern kunskap

arXiv cs.AI

Forskare har byggt Med-TrustRouter, en lättviktig kontroller som avgör när en medicinsk AI ska använda hämtad extern kunskap och när den ska hålla fast vid sitt eget svar – eftersom hämtad information kan vara föråldrad, manipulerad eller helt påhittad. Systemet uppnår 78,9 procent korrekthet i genomsnitt och 69,2 procent i värsta fall, vilket är en tydlig förbättring jämfört med fasta strategier som antingen litar för mycket eller för lite på extern data. Det intressanta här är inte prestationssiffrorna i sig, utan insikten att det inte finns någon universell strategi – ett kliniskt AI-system måste fatta det beslutet per fråga.