Nvidia: Det är ramverket runt AI:n – inte modellen – som avgör hur bra agenter presterar
Ny forskning från Nvidia visar att AI-agenter (självständiga AI-system som utför uppgifter) kan fungera pålitligt och hålla sig på rätt spår, även om den underliggande AI-modellen inte är särskilt kapabel – så länge 'harness', alltså den omgivande infrastrukturen och finjusteringen, är välbyggd. Det är lite som att en medioker förare kan köra säkert om bilen har tillräckligt bra säkerhetssystem.
Djupdykning
Nvidias forskning pekar på något som faktiskt förändrar hur vi bör tänka på AI-utveckling: det är inte själva hjärnans storlek som avgör om en AI-agent är användbar, utan ramverket runt den – det vill säga hur agenten tränas att hålla sig inom räls och fatta beslova beslut steg för steg. "Fine-tuning" handlar om att ta en befintlig modell och specialträna den på specifika uppgifter eller beteenden, ungefär som att anställa en generalist och sedan ge dem en intensiv praktikperiod. Det de flesta missar är att AI-debatten har fastnat i ett kapprustning om vilken modell som är störst och smartast, medan det verkliga ingenjörsarbetet – det som faktiskt avgör om systemen fungerar i verkligheten – händer i skiktet ovanpå modellen. En medelklassmodell med ett välkonstruerat ramverk kan alltså slå en toppmodell som körs utan rätt struktur, vilket är ett slag mot antagandet att mer beräkningskraft alltid vinner. Det förskjuter makten från de företag som tränar gigantiska grundmodeller mot de som är bra på att bygga och finjustera agentsystem – och det är en betydligt mer tillgänglig arena.