Bytedance tränar jättemodell med 10 biljoner parametrar
Bytedance ska enligt Financial Times träna en ny AI-modell med hela 10 biljoner parametrar – att jämföra med Anthropics toppmodell Claude Mythos 5 på 8 biljoner. Det är också tre gånger större än Kimi K3, Kinas för närvarande största modell. Bytedances nuvarande flaggskepp Doubao har redan 324 miljoner månatliga användare, så det här är ingen bluff-satsning.
Djupdykning
TikToks moderbolag Bytedance är alltså inte bara ett socialt medieföretag längre – de håller på att bygga vad som potentiellt är världens största AI-modell, mätt i parametrar (förenklat: ju fler parametrar, desto mer "hjärnkapacitet" har modellen att lära sig komplexa mönster). 10 biljoner parametrar är ett absurt tal, och om det stämmer skulle det sätta Bytedance före inte bara Anthropic utan troligen de flesta västerländska aktörerna just nu. Det folk missar i rapporteringen är att råstorlek inte automatiskt betyder bättre prestanda – OpenAIs o1 och Anthropics modeller har visat att smart träning och arkitektur kan slå brute force, så det här är lika mycket ett PR-drag som ett tekniskt genombrott. Doubao med sina 324 miljoner användare ger Bytedance dessutom något de flesta AI-labs drömmer om: en enorm pipeline av verklig användardata att fortsätta träna på. Frågan är egentligen om den amerikanska halvledarexportrestriktionen mot Kina ens gör den här träningskörningen möjlig i praktiken – och om Bytedance hittat ett sätt runt det, är det i sig den viktigaste nyheten.