Schneider Electric bygger AI-infrastruktur med LangSmith
Schneider Electric har implementerat LangSmith som grund för sin LLMOps-verksamhet (hantering och driftsättning av språkmodeller i produktion). Systemet ger företaget bättre insyn i hur deras AI-produkter presterar och gör det enklare att utvärdera och skala upp dem – intressant nog visar det att tung industri nu tar AI-infrastruktur lika seriöst som teknikbolag.
Djupdykning
Schneider Electric – industrikonglomeratet bakom allt från elskåp till datacenter-infrastruktur – håller på att bygga upp vad som kallas LLMOps-grund, alltså de verktyg och processer som krävs för att driva AI-modeller i produktion på ett kontrollerat sätt, ungefär som DevOps fast för språkmodeller. De använder LangSmith, ett observabilitetsverktyg från LangChain, för att kunna se vad deras AI-system faktiskt gör under huven – vilka prompts som skickas, hur modellerna svarar, och var det går snett. Det flesta företag fokuserar på att bygga AI-demos men glömmer att driftsätta dem stabilt i skala är ett helt annat problem, och det är precis den klyftan Schneider försöker överbrygga. För ett bolag med 150 000 anställda och kunder inom kritisk infrastruktur är "AI som ibland hallucinerar" inte ett alternativ – de behöver systematisk utvärdering och loggning innan något rullas ut till ingenjörer på fältet. Det verkliga mönstret här är att de tyngsta industriföretagen nu investerar lika mycket i AI-infrastruktur som i själva modellerna, vilket kommer att skapa en ny marknad för verktyg som gör AI-system granskningsbara snarare än bara imponerande.