Även perfekta AI-agenter kan inte garantera säkert beteende, visar ny forskning

arXiv cs.AI

Forskare har bevisat att även en teoretiskt perfekt AI-agent inte kan garantera säkert beteende i miljöer med begränsad information och tidsbrist – två scenarier som speglar verkligheten väl. Det intressanta här är att det sätter fingret på ett grundläggande hål i många AI-säkerhetsbevis: de utgår från agenten men glömmer bort omgivningen den faktiskt ska operera i. Slutsatsen är att framtida säkerhetsgarantier måste analysera agenten och dess miljö tillsammans, inte var för sig.