Nvidia lanserar RTX Spark för krävande AI-arbete på lokala datorer
Nvidia introducerar RTX Spark-chip som kan köra stora språkmodeller med 120 miljarder parametrar lokalt, med 1 petaflop AI-prestanda och upp till 128 GB minne. Datorer från Asus, Dell, HP och andra kommer i höst, men analytiker tror att plattformen främst kommer användas i avancerade AI-arbetsstationer snarare än på massmarknaden.
Djupdykning
Nvidia försöker skapa en helt ny kategori av företagsdatorer som kan hantera stora AI-modeller lokalt – tänk MacBook Pro men för AI-utvecklare som behöver köra modeller med 120 miljarder parametrar utan att skicka data till molnet. RTX Spark med sina 128 GB minne och 1 petaflop prestanda (det är ungefär 1000 biljoner beräkningar per sekund) positioneras som en mellanklass mellan vanliga arbetsstationer och dyra AI-servrar. Det som verkligen händer här är att Nvidia testar om företag är villiga att betala premiumpriser för AI-säkerhet och hastighet – många organisationer vill inte skicka känslig data till externa AI-tjänster. Timingen är smart eftersom Windows 10-supporten upphör snart, vilket tvingar företag att uppgradera ändå, men det verkliga testet blir om utvecklare och skapare faktiskt behöver denna typ av lokal kraft eller om molnet fortfarande räcker för de flesta uppgifter.