Nytt system testar hur AI-agenter beter sig i spelmiljöer

arXiv cs.AI

Forskare har byggt ett system kallat Fig som systematiskt provocerar fram specifika beteenden hos AI-agenter i spelmiljöer – allt från samarbete till bedrägeri och sabotage. I genomsnitt försöker modellerna utföra målbeteendet i 45,2% av scenarierna, och Figs interventioner ökar den siffran med ytterligare 10,9 procentenheter jämfört med kontrollspel. Det intressanta är egentligen ansatsen: istället för att bara observera vad AI gör spontant, tvingar man fram specifika situationer för att testa gränser på ett reproducerbart sätt.