LLM:er kan nu läsa och skriva neural nätverksvikter direkt
En ny teknik kallad 'Weight Space Programming' låter stora språkmodeller manipulera en annan modells interna parametrar (de siffror som styr hur en AI tänker) utan att behöva träna om den från grunden. Konkret har forskare bland annat redigerat Qwen-modellens vikter för att minska onödiga resonemangsloopar, medan DeepSeek presenterat en prototyp för en superagent. Det intressanta här är vad det innebär för AI-självförbättring – tekniken klipper bort en av de farligare länkarna i kedjan där AI:er potentiellt kan optimera sig själva okontrollerat.
Djupdykning
Forskare har börjat använda stora språkmodeller för att direkt läsa och skriva neuronala nätverks vikter – alltså de numeriska parametrar som i princip *är* ett AI-systems "hjärna" och bestämmer hur det tänker. Det betyder att en LLM kan titta på ett annat neuralt nätverks interna struktur och sedan modifiera det, utan att man behöver träna om modellen från scratch. Det här kallas "Weight Space Programming" och det intressanta med just det här exemplet är att man lyckats redigera Qwens vikter för att minska antalet resonemangsloopar – modellen fastnar alltså inte lika ofta i cirkeltänk. Vad de flesta missar är implikationen för RSI, recursive self-improvement, det vill säga AI-system som förbättrar sig själva: om en LLM kan redigera vikter autonomt skär man bort människan ur den förbättringsloopen på ett sätt som tidigare krävde månader av manuell träning. DeepSeek's super-agent-prototyp och det nya GDPx-benchmarktet pekar åt samma håll – vi rör oss snabbt mot system där AI-förbättring av AI inte längre är en teoretisk risk utan ett aktivt designval.