Muse släpper öppna AI-modeller – Glimmer får plats på ett vanligt grafikkort
Muse har lanserat två öppna vikter-modeller (modeller vars träningsparametrar är fritt tillgängliga), Glimmer och Spark, med löftet om 'personlig superintelligens'. Det intressanta är att Glimmer är tillräckligt liten för att köras på ett enda RTX 3090-grafikkort – vilket gör den tillgänglig för vanliga entusiaster utan datorcenter. En liten men konkret vinst för amerikanska öppna modeller i en tid då mycket fokus legat på slutna system.
Djupdykning
Muse AI, som länge marknadsfört sig med löftet om "personlig superintelligens", har nu släppt två öppna modeller – Glimmer och Spark – där den mindre varianten Glimmer faktiskt ryms på ett enda grafikkort av konsumentklass (RTX 3090, ett kort som kostar runt 10 000–15 000 kr och finns i många gaming-datorer). Det är en markant skillnad mot de flesta moderna AI-modeller som kräver dyr serverinfrastruktur för att köras lokalt. "Open weights" betyder att modellens faktiska parametrar – alltså det som gör modellen smart – är fritt tillgängliga för nedladdning och modifiering, till skillnad från slutna modeller som GPT-4 där du bara får prata med ett API. Det de flesta missar här är att kampen om öppna amerikanska modeller faktiskt handlar om geopolitik lika mycket som teknik – sedan DeepSeeks genombrott har narrativet dominerats av kinesiska öppna modeller som presterar oväntat bra, och varje gång ett amerikanskt alternativ dyker upp som faktiskt går att köra hemma är det en liten motvikt till det mönstret. Om Glimmer håller vad det lovar och presterar rimligt bra är det ett tecken på att gapet mellan "kan köras av vanliga människor" och "faktiskt användbar" håller på att stängas snabbare än de stora aktörerna förmodligen hade föredragit.