NVIDIA lanserar Spectrum-X för storskalig AI-infrastruktur
NVIDIA presenterar Spectrum-X, en Ethernet-baserad nätverkslösning specifikt designad för AI-datacenter som behöver hantera massiva AI-beräkningar. Tekniken ska hjälpa företag bygga så kallade 'AI-fabriker' där tusentals processorer arbetar tillsammans för att träna stora AI-modeller. Det är ännu ett tecken på hur AI-boom driver fram specialiserad hårdvara utöver bara processorer.
Djupdykning
NVIDIA:s nya Spectrum-X Ethernet-teknik är deras svar på ett problem som få pratar om: när AI-modeller blir så stora att de kräver tusentals GPU:er, blir nätverket mellan dem flaskhalsen. Traditionella datacenter-nätverk byggdes för att flytta data mellan servrar, inte för att synkronisera miljontals parametrar mellan AI-chips som måste jobba perfekt synkat. Det smarta med Spectrum-X är att det bygger på öppen Ethernet-standard istället för proprietära lösningar som InfiniBand, vilket betyder att företag kan blanda hårdvara från olika leverantörer utan att bli inlåsta. Den nya MRC-funktionen (Multi-Rail Clustering) låter flera nätverksvägar jobba tillsammans som ett enda superhöghastighets-rör – lite som att ha åtta motorvägsfiler istället för en. Timing:en är perfekt när OpenAI, Google och andra bygger AI-datacenter stora som fotbollsplaner. NVIDIA positionerar sig inte bara som GPU-kungen utan som arkitekten för hela AI-infrastrukturen.