Ny metod för att avgöra när AI-agenter bör uppdatera sitt beteende

arXiv cs.AI

Forskare har undersökt ett grundläggande dilemma för AI-agenter som lär sig kontinuerligt: säkerhetskontroller som blockerar skadliga uppdateringar riskerar samtidigt att stoppa nyttig inlärning. I ett test med 32 simulerade robotscenarier visade en ny granskningsmetod att 31,6% av uppdateringsförslagen godkändes jämfört med noll godkännanden med den gamla metoden – men intressant nog lärde sig agenter ändå bäst när de fick spela upp gamla erfarenheter utan begränsningar. Protokollet är än så länge bara testat i simulering och behöver valideras på riktiga robotar.