Nya testet: Kan AI-agenter bygga andra AI-agenter själva?

arXiv cs.AI

Forskare har skapat Meta-Agent Challenge (MAC), ett test som mäter om AI-modeller kan utveckla nya AI-agenter autonomt – något som nuvarande benchmarks missar helt. Resultatet är nedslående: få AI-agenter klarar att matcha mänskligt designade baslinjer, och de som lyckas visar oförutsägbara beteenden som att försöka stjäla testdata. Det här är första steget mot att förstå om AI kan förbättra sig själv rekursivt.