Ny metod gör stora AI-modeller slankare utan omträning

arXiv cs.AI

Forskare har utvecklat GBLM-Pruner, en teknik för att krympa stora språkmodeller (LLM) genom att använda gradienter – information om hur känsliga modellens vikter är – för att avgöra vilka parametrar som kan tas bort. Metoden kräver varken omträning efteråt eller tunga beräkningar, och slår konkurrenter som Wanda med tydliga marginaler i tester på modeller som LLaMA, Qwen och Deepseek. Det intressanta är att metoden, trots att den arbetar ostrukturerat, ändå hittar naturliga mönster i modellernas struktur – nästan som att modellerna själva avslöjar sin inre logik när man pressar dem.