NVIDIA Vera CPU: gyorsabb agentek, több agent/watt

Mi történt?

Az NVIDIA november 5-én közzétett blogbejegyzésében a Vera CPU agentterhelésekről szóló saját összevetését ismertette. Az állítás szerint az AI-agentek folyamatosan váltanak GPU-s érvelés és CPU-s végrehajtás között: keresés, adatbázis-lekérdezés, kódírás, tesztelés. Az AI-gyárak ráadásul teljesítménykorlátosak, ezért wattonkénti munkát kell maximalizálni.

Mit állít az NVIDIA?

Egy 100 megawattos adatközpont-összevetésben a Vera a cég szerint egyszerre jobb a leggyorsabb és a legenergiahatékonyabb x86 CPU-nál:

• a leggyorsabb x86-hoz képest iparági szinten vezető agentsebesség mellett 1,6-szor több agent wattonként,
• a legenergiahatékonyabb x86-hoz képest kétszer gyorsabb agentfutás vezető energiahatékonyság mellett.

Az üzenet az, hogy egyetlen CPU-val lehet lefedni a gyors és a sűrű agentmunkákat, ahelyett hogy gyors és sűrű x86 részeket kellene keverni.

Partnereredmények

• Perplexity: agentic kódolási feladatok 1,5-ször gyorsabban, mint hagyományos CPU-n; a cég éles rendszerbe tervezi a Verát.
• DeepInfra: agentikus orchesztrációban akár 2,2-szerese a legjobb x86-nak a négy tesztelt architektúra közül.
• ClickHouse: a standard bináris Verára hangolás nélkül közel lineárisan skálázódott 176 magon, és a ClickBench hardverlistájának élére került.
• DuckLabs: kb. 1,5-szerese az Intel Xeon 6 TPC-H SF1000 mediánjának.
• Daytona: 1000 agent-sandbox 10,8 másodperc alatt (x86-on 88,4 s), illetve 12,7 befejezett feladat/s 2000 párhuzamos sandboxnál.
• Modal: magonként akár kétszeres sandbox-átvitel a hasonló x86-hoz képest, a nyereség nagyobb terhelésnél nő. Erről korábban külön is írtunk.

Miért számít?

Ha az agentfutás CPU-oldala lassú, a drága GPU-k várakoznak. A Vera ígérete az, hogy ugyanazon a processzoron lehet gyors válaszidőt és magas wattonkénti sűrűséget vinni az AI-gyárba. A számok az NVIDIA és a partnerek saját mérései: érdemes a saját workloadon is ellenőrizni, mielőtt kapacitástervezésre építünk rájuk.