Hur ska en AI-assistent veta när den ska agera på egen hand?

arXiv cs.AI

Forskare har tagit fram ett teoretiskt ramverk för att lösa ett grundläggande problem med proaktiva AI-assistenter: när ska de agera självmant, och när ska de vänta på instruktioner? Ramverket, kallat 'governed proactive agency', definierar hur en assistent ska balansera eget initiativ mot användarens befogenhet – och kräver att varje åtgärd ska vara auktoriserad och spårbar. Det är egentligen en fråga om tillit: vem bestämmer när assistenten får ta rodret?