NVIDIA lanserar Minerva för att övervaka AI-fabriker i realtid
NVIDIA har lanserat Minerva, en plattform för att övervaka och felsöka stora AI-datacenter – så kallade AI-fabriker – genom att samla in data från både hårdvara och mjukvaruarbetsbelastningar. Plattformen använder egna AI-modeller för att hitta problem innan de hinner påverka produktionen, vilket är ett växande huvudbry när dessa anläggningar blir allt mer komplexa. Intressant nog löser NVIDIA alltså AI-driftsproblem med just AI.
Djupdykning
NVIDIAs nya Minerva-plattform riktar sig mot ett problem som sällan diskuteras utanför datacentervärlden: att faktiskt förstå vad som händer inuti ett AI-datacenter i realtid. "AI factories" – de enorma anläggningar som tränar och kör stora AI-modeller – genererar berg av telemetridata från tusentals GPU:er, nätverkskopplingar och kylsystem, men den datan har hittills varit svår att tolka innan något redan gått sönder. AIOps (AI-driven IT-drift) handlar om att låta AI-modeller övervaka och diagnostisera infrastruktur, ungefär som att ha en självdiagnostiserande motor istället för att vänta på att varningslampan tänds. Det de flesta missar är att det verkliga konkurrensproblemet för AI-bolag inte längre är tillgång till GPU:er, utan *utnyttjandegrad* – en trasig nod som ligger nere i tre timmar under en träningskörning kan kosta hundratusentals kronor i förlorad beräkningstid. Minerva är alltså lika mycket ett ekonomiskt effektivitetsverktyg som ett tekniskt, och positionerar NVIDIA ännu djupare i kundernas operativa kärnverksamhet – inte bara som hårdvaruleverantör utan som den oumbärliga mjukvaran ovanpå.