Import AI: 23 idéer om självförbättrande AI och ny benchmark för finjusterade modeller
Import AI:s senaste nummer tar upp tre ämnen: 23 idéer kring RSI (rekursiv självförbättring av AI), ett nytt benchmark kallat PostTrainBench+ för att mäta modellers förmåga efter finjustering, samt hur tillit och transparens påverkar 'AI-kapplöpningen' mellan aktörer. Det mest intressanta spåret är RSI-diskussionen – om AI-system som förbättrar sig själva – vilket är ett ämne som länge levt i teorin men nu börjar diskuteras mer konkret i forskarvärlden.
Djupdykning
Titeln "Which galaxy will you choose?" är klassisk Jack Clark-energi — lite kryptisk, lite filosofisk, och ändå träffsäker. Import AI är ett av de mest lästa AI-nyhetsbreven bland forskare och insiders, och avsnitt 468 rör vid tre teman som hänger ihop mer än de verkar: idéer kring RSI (recursive self-improvement, alltså AI som förbättrar sig själv i loopar), ett nytt benchmark för att mäta vad modeller faktiskt lär sig *efter* den initiala träningen, och hur transparens och förtroende förhåller sig till det geopolitiska kapprustningslogiken inom AI. Det folk missar är att PostTrainBench-grejen är subtilt viktig — vi är ganska bra på att mäta hur bra en modell är när den kommer ut ur ugnen, men vi vet faktiskt förvånansvärt lite om vad som händer när den finjusteras och anpassas av företag och användare efteråt, vilket är när de flesta av oss faktiskt möter den. RSI-diskussionen (23 idéer, inget mer) signalerar att fältet fortfarande är i brainstorm-fasen snarare än genomförande, vilket är lugnande och oroande på samma gång. Och transparens-mot-kapprustning-spänningen är egentligen kärnfrågan för hela decenniet: ju mer du delar om hur din modell fungerar, desto mer hjälper du konkurrenterna, och den logiken driver alla mot slutenhet — även de som säger sig värna om öppenhet.