DeepSeek krymper AI-minne med 75%
Two Minute Papers
DeepSeek har utvecklat en teknik som minskar mängden minne (KV-cache) som krävs för att köra stora språkmodeller med upp till 75 procent – utan att prestandan försämras nämnvärt. Det är intressant inte minst för att billigare och mer effektiva modeller utmanar antagandet att AI-framsteg kräver allt större hårdvara.