NVIDIA Minerva: AIOps platform az AI-gyárak üzemeltetéséhez

Mi történt?

Az NVIDIA a GTC Berlinen elindította a Minervát (NVIDIA blog). Ez egy AIOps platform, vagyis olyan üzemeltetési rendszer, amely gépi tanulással dolgozza fel a monitorozási adatokat. A célterület az AI-gyár: a sok ezer GPU-ból, nagy sebességű hálózatból és tárolóból álló klaszter, amely modelleket tanít és szolgál ki.

Mit tud?

• Egy nézet: összeköti a GPU-k, a hálózat, a tárolók, az ütemezők és a futó jobok jeleit, amelyeket ma jellemzően külön csapat, külön eszközben néz.
• Tudásgráf: logikailag feltérképezi az infrastruktúrát (GPU-k, SuperNIC-ek, switchek, kábelek) és a rajta futó jobokat, így egy lassú tanítás visszavezethető a hibás komponensre, akár több százezer GPU-s környezetben is.
• ML alapú elemzés: óránként több milliárd adatpontot dolgoz fel felügyelt és felügyelet nélküli tanulással, megtanulja a normál működést, új típusú anomáliát is észlel, illetve előre jelzi a készülő hibákat.
• Riasztásszűrés: a topológia alapján összefüggő eseményeket egyetlen incidensbe vonja össze, a valószínű kiváltó okkal együtt.
• AI asszisztens: beépített, természetes nyelvű felületen kérdezhető a klaszter állapota, javítási javaslatot ad, illetve külső agentic eszközökhöz is csatlakozik.
• Automatizálás: a javítást ember is végrehajthatja, de infrastruktúra API-kon keresztül automatizmusra is köthető.

A platform az NVIDIA által AI factory yieldnek nevezett mutatóra optimalizál, amely a GPU-órákból, a goodputból (a ténylegesen hasznos munkából), a klaszter rendelkezésre állásából és a tokentermelésből áll össze. Konkrét javulási számokat az NVIDIA nem közölt, csak annyit, hogy hosszabb a hibák közti idő és gyorsabb a javítás.

Kik használják?

Az IREN már használja. Az Aolani, a Bitdeer AI, az IBM, a Jio, a Lambda, a Quake AI és a Tesla telepítését tervezi. A Dell, a Lenovo és a Supermicro a saját AI-gyár üzemeltetési kínálatába építi.

Miért fontos?

Ekkora léptékben egy melegebben futó GPU vagy egy lassuló NVMe meghajtó az egész tanítást visszafoghatja, a hagyományos monitorozás pedig ezt külön dashboardokon, riasztásáradatban mutatja. A Minerva azt ígéri, hogy ebből egyetlen, okkal együtt jelzett teendő lesz. Aki saját GPU-klasztert üzemeltet, annak ez kevesebb kiesett GPU-órát jelenthet, a felhőbérlőknek pedig közvetve stabilabb kapacitást.

Hogyan érhető el?

Árat és általános elérhetőségi dátumot az NVIDIA nem közölt. A részletek a Minerva termékoldalán találhatók, a partnerek közül a Dell, a Lenovo és a Supermicro kínálatán keresztül is elérhető lesz.