Ugrás a tartalomra
Neural Daily

ModellekHír

Hy4 flash: nyílt súlyú 220B MoE 12B aktív paraméterrel

🇬🇧 Read this article in English →

A Tencent nyílt súlyokkal kiadta a Hy4 flasht: 220 milliárd paraméteres MoE modell, tokenenként kb. 12 milliárd aktív paraméterrel, 1M tokenes kontextussal, kép- és szövegbemenettel. Az API-ára 0,07 dollár millió input tokenenként.

· 3 perc olvasás

Pontdiagram: nyílt agent-benchmarkok átlagpontszáma a feladatonkénti költség függvényében, a Hy4 flash a legolcsóbb, a Hy4 és a DeepSeek-V4.1-Flash felette
Kép: Tencent · Képernyőkép · Forrás

Mi jelent meg?

A Tencent november 16-án jelentette be a Hy4 flasht, a Hy család legolcsóbb modelljét (Tencent). A súlyok azóta három változatban letölthetők a Hugging Face-ről, a ModelScope-ról és a GitCode-ról: instruct modell, FP8-ra kvantált instruct és előtanított base modell (Hugging Face). A november 4-i Hy4 bejelentésekor a nyílt súlyokat még későbbre ígérték (Tencent Hy4: képértés és computer use, súlyok később).

  • 220 milliárd teljes paraméter, ebből 63,5 milliárd Engram (n-gram beágyazási tábla), tokenenként kb. 11,3 milliárd aktív szöveges paraméter.
  • 1M tokenes kontextus, szöveg és kép bemenet, szöveges kimenet.
  • Hibrid attention: ritka attention és 512 tokenes csúszóablak, a KV cache a Hy4-ének hatoda.
  • Beépített 0,85 milliárdos DFly2 drafter a speculative decodinghoz, amely a fő modell KV cache-ét használja.
  • API-ár: kb. 0,070 dollár input, 0,281 dollár output millió tokenenként. A Tencent szerint dekódolásban 150 token/s fölött van.

Hogyan teljesít?

A Tencent saját táblázata szerint a Hy4 flash a DeepSWE v1.1-en 64,6, az OSWorld 2.1-en 68,1, az APEX-Agents v1.1-en 63,1, az MMMU-Prón 75,8 pontot ér el. A gyenge pont a hosszú szoftverfejlesztési feladat: a Terminal-Bench 4.0-n 19,2 pont, miközben a Hy4 44,4-et ér el. A Tencent maga is a Hy4-et ajánlja összetett fejlesztési munkára, a flasht kutatáshoz, dokumentumfeldolgozáshoz, prezentációkészítéshez és computer use-hoz.

Benchmarktáblázat: a Hy4 flash pontszámai és feladatonkénti költsége a Hy4, Hy4 preview, DeepSeek-V4.1-Flash, Qwen3.8-Flash-Next, GLM-5.3-Flash és GPT-6 Luna mellett
Tencent · Képernyőkép · Forrás

Forrás: Tencent Hy, Hy4 flash model card (Hugging Face)

A belső WorkIndex mérésen a feladatonkénti költség a Hy4 Preview költségének 1/13-a, a Hy4-ének 1/20-a. Ezek a cég saját mérései, független eredmény még nincs.

Futtatás és licenc

Éles kiszolgáláshoz a Tencent a vLLM-et vagy az SGLangot ajánlja, mindkettőhöz van kész Docker image. A mintakonfiguráció az FP8 változatot 8 GPU-s tensor parallelizmussal futtatja, DFly speculative decodinggal. A Transformers támogatás egyelőre egy nyitott pull requestből telepíthető.

A licenc az Apache 2.0-ból származik, de nem az. Belső használatra szabad, kereskedelmi célra is. Külön írásos licenc kell viszont, ha valaki API-szolgáltatásként (MaaS) kínálja a modellt, illetve a cég éves árbevétele 50 millió dollár fölött van, vagy a termékének havi 100 millió feletti aktív felhasználója van (Tencent Hy License). Egy hazai cégnek vagy egyetemnek, amely saját gépen futtatná, ez jellemzően nem akadály.

Miért érdekes?

A 12 milliárd aktív paraméter és a kis KV cache miatt a Hy4 flash a saját infrastruktúrán futtatható, olcsó agentmodellek közé kerül. Ha valakinek adatvédelmi okból on-prem kell computer use vagy dokumentumfeldolgozás, érdemes összevetni a többi nyílt súlyú MoE-val, de kódoló agentnek a Terminal-Bench eredmény alapján nem ez az első választás.

    Írta Mikola Máté Patrik

    MI segítségével készült, szerkesztő ellenőrizte. Hogyan készülnek a cikkeink

    Szerkesztőségünk ellenőrizte és szerkesztette. Rólunk

    Kapcsolódó cikkek