Ugrás a tartalomra
Neural Daily

EszközökHír

OpenShell referencia-architektúra: agentbiztonság chipig

Az NVIDIA a GTC Berlinen kiadta az OpenShell Reference Architecture-t: egy teljes stacket arra, hogyan fussanak az agentek zárt, felügyelt keretek között. A szabályokat a hálózati kártyán futó Sentry hardveresen is kikényszeríti.

Írta: Mikola Máté Patrik · · 2 perc olvasás

NVIDIA press image: NVIDIA OpenShell Reference Architecture
Kép: NVIDIA · Sajtókép · Official NVIDIA press/blog image · Forrás

Mi változott?

Az NVIDIA október 21-én, a GTC Berlinen bejelentette az OpenShell Reference Architecture-t (NVIDIA Newsroom). Ez a nyílt forrású OpenShell runtime-ra épül, ami kernel szintű sandboxszal, policy alapon választja el az agentet azoktól a rendszerektől, amelyekhez hozzányúlhat. Az architektúra már elérhető.

Három réteg

  • Vera Rubin NVL72: itt fut a modell inference, legyen az zárt vagy Nemotron alapú nyílt modell.
  • Vera CPU: ezen fut az agent harness és a toolhasználat, OpenShell sandboxban.
  • BlueField-4 DPU az NVIDIA Sentry szoftverrel: sávon kívül figyeli az agent viselkedését. Ha az agent kilép a megengedett keretből, a Sentry az NVIDIA szerint milliszekundumok alatt karanténba teszi.

Az edge oldalt az RTX Spark, a DGX Spark és a DGX Station gépek fedik le. Támogatott környezet a Canonical, SUSE és Red Hat alapú Linux és Kubernetes, a Windows Microsoft Execution Containers (MXC) segítségével, illetve az AWS, a Google Cloud és az Azure.

Kik állnak mögé?

A partnerlista hosszú: az Anthropic, az OpenAI, a Meta, a Google, a Cohere és a Perplexity modelljei futtathatók OpenShell infrastruktúrán. Biztonsági oldalról a CrowdStrike, a Palo Alto Networks, a Cisco, az Okta, a Zscaler és mások építik be a saját termékeikbe. Az SAP a Joule Studio runtime-ba integrálja. A ServiceNow ma tette általánosan elérhetővé az Arc nevű, hosszan futó személyes agentjét, amelynek műveleteit az OpenShell kényszeríti ki. Az európai bankok közül a BBVA és a Santander vizsgálja.

Mellé: Confidential Bare Metal

Ugyanezen a napon az NVIDIA bővítette a Confidential Computing kínálatát (NVIDIA blog). Az új Confidential Bare Metal opcióval frontier modellfejlesztők harmadik fél infrastruktúráján, bare metal gépeken is megtarthatják az irányítást a modelljük és az adataik felett. A támogatás kiterjed a Grace Blackwell NVL72 rack szintű rendszerekre, illetve a HGX és DGX Rubin NVL8 gépekre. A Cohere a Model Vaultba építi be, a Google Cloud pedig az A4X Max példányokon kínálja.

Miért számít?

Aki agentet visz élesbe, annak eddig főleg szoftveres guardrailekből kellett összeraknia a jogosultságkezelést. Az NVIDIA most hardverig lenyúló referenciát ad erre. A teljesítményszámok (például a Sentry akár 20%-os agentkapacitás-növelése) gyártói adatok, független mérés még nincs. A gyakorlati teendő: érdemes megnézni, hogy a saját felhő- vagy biztonsági szolgáltatód szerepel-e a partnerek között.

    MI segítségével készült, szerkesztő ellenőrizte. Hogyan készülnek a cikkeink

    Szerkesztőségünk ellenőrizte és szerkesztette. Rólunk

    Kapcsolódó cikkek