Nyílt modellek az európai közszférában, német personas adat

Mi történt?

Az NVIDIA október 22-én összefoglalta, hol futnak nyílt modellek európai közigazgatásban (NVIDIA blog). A közös szál: a modellt helyben lehet értékelni, helyi nyelvre igazítani, saját infrastruktúrán futtatni, az adat pedig nem hagyja el a szervezetet.

Új adatkészletek fejlesztőknek

• Nemotron-Personas-UK: a londoni Locai Labs 1 millió szintetikus personát adott ki, amelyek a brit demográfiai és földrajzi sokféleséget tükrözik. Arra jó, hogy kiderüljön, egy modell egyformán működik-e korcsoportok, iskolázottság és város vagy vidék szerint.
• Nemotron-Personas-Germany: a Soofi kutatási kezdeményezés 1 millió rekordos nyílt adatkészlete, rekordonként hat szintetikus personával. A 2022-es népszámlálásra épül, mind a 16 tartományra és 400 járásra, valódi személyes adat nélkül, NeMo Data Designerrel.

Mindkettő használható a NeMo User Sim nyílt forrású könyvtárral, amely szimulált felhasználókkal értékel és tanít modelleket, agenteket helyi nyelven. Lengyel és szlovén változat is készül a SpeakLeash, illetve a Ljubljanai Egyetem bevonásával.

Projektek országonként

• Európai Bizottság: a deepset bővíti a Haystack Enterprise Platformot, amely az AI@EC, a Bizottság saját infrastruktúráján futó AI platform alapja. Új funkció a működési költség összevetése, a válaszminőség értékelése és a hibák nyomkövetése.
• Lengyelország: a Deloitte-tal az eHealth Centre orvosi képelemző platformot épít DGX BasePOD és MONAI alapon. A munkaügyi minisztérium agentes rendszere több mint 400 munkaügyi hivatalt szolgálna ki PLLuM, GPT OSS és Inkling modellekkel.
• Németország: a Materna Sinfonie nevű on-premises platformja hangos kérdésekre ad választ a szervezeti tudásból. Minősített adatokhoz a secunet, az NVIDIA, a Red Hat és a deepset közösen tervez szuverén felhőt a SINA Cloud alapjain, német adatközpontokban.
• Franciaország: a CANUT közbeszerzési szervezet a LINAGORA és a Docaposte Twake.ai alapú munkaterét választotta, amelyet több mint 2500 intézmény érhet el külön tender nélkül.
• Görögország: a KIEFER DGX SuperPOD alapú agentes rendszert épít görög nyelvű eszközökkel.

Miért számít?

A közszféra AI bevezetésénél a kérdés ritkán a modell minősége, sokkal inkább az, hol fut és ki látja az adatot. A szintetikus persona adatkészletek ennél konkrétabb értéket adnak: torzítás- és konzisztenciatesztet lehet futtatni valódi állampolgári adat nélkül. Magyar változat egyelőre nincs a listán.