Ny metod avgör när AI ska ta över – eller lämna tillbaka kontrollen

arXiv cs.AI

Forskare har formaliserat ett länge ignorerat problem: hur och när ska kontrollen växla mellan människa och AI i pågående samarbeten? De föreslår ett mått kallat Handover Readiness Score (HRS) som väger ihop fyra faktorer – operatörens beredskap, tillit, inlärningsstabilitet och prestanda – för att styra när AI:n bör få mer eller mindre ansvar. Tanken är att systemet ska kräva ihållande positiva signaler innan autonomin ökas, men snabbt backa om något försämras, vilket gör processen granskningsbar (auditable) på ett sätt som tidigare forskning saknat.