Perplexity pplx-decider-v1.2 és Flash: új döntési modellek

Mi jelent meg?

A Perplexity Decisions API-jában két új döntési modell érhető el: a 27 milliárd paraméteres pplx-decider-v1.2, illetve az új, 4 milliárd paraméteres pplx-decider-flash-v1.2 (Perplexity changelog). A v1.2 a pplx-decider-v1.1-27b helyére lép. A Vercel AI Gateway és az OpenRouter október 16-án tette elérhetővé mindkettőt (Vercel, OpenRouter).

A döntési modell nem ír szöveget. Szöveget, JSON-t vagy képet kap, ehhez egy vagy több kérdést. Minden válaszlehetőségre valószínűséget ad vissza (Perplexity). Három kérdéstípus van:

• igen/nem kérdés: az igen valószínűsége 0 és 1 között;
• choice: a megadott opciók közül egy, mindegyikre külön valószínűséggel;
• score: szint egy sorba rendezett skálán, várható pontszámmal.

A Perplexity szerint ott hasznos, ahol ma egy chatmodelltől kérnek címkét, majd a választ parse-olják: osztályozás, routing, rubrika szerinti értékelés.

Ár és limitek

A hivatalos árlista szerint a pplx-decider-v1.2 ára 0,02 dollár, a Flash változaté 0,01 dollár millió input tokenenként (Perplexity árazás). Output tokenért nem kell fizetni, kérésenkénti díj nincs. Egy 600 input tokenes kérés a nagy modellen 0,000012, a Flashen 0,000006 dollárba kerül.

A két modell ugyanazt a kérést fogadja, a váltás egy sor a model mezőben. A közös limitek:

• 256K tokenes kontextus;
• kérésenként legfeljebb 128 kérdés;
• choice kérdésenként legfeljebb 255 opció, score kérdésenként legfeljebb 10 szint;
• kérdésenként legfeljebb 8 kép;
• szervezetenként 10 kérés másodpercenként, minden csomagban.

A pplx-decider-latest és a pplx-decider-flash-latest alias mindig a legújabb verzióra mutat. A régi v1.1-27b és v1-27b modellnevek tovább működnek, ezek már a v1.2-t hívják a v1.2 árán.

Mi változott a v1.1-hez képest?

A Hugging Face-es modellkártya szerint a v1.2 ugyanarra a Qwen3.8-27B alapmodellre épül (Hugging Face). Két dolog változott: a kérésformátum és a tanítóadat. A v1.1 egy forward passban egy kérdést válaszolt meg. A v1.2 egy szekvenciában olvassa be az állapotot és az összes kérdést. Így több kérdés nagyjából annyiba kerül, mint egy, a kérdések pedig hatnak egymásra.

A Perplexity által közölt Decision Index 0.3 eredmények:

• összesített Decision Index: 68,09 pont a v1.1 62,30 pontja helyett (egy kérdés kérésenként: 67,75);
• Knowledge: 56,3 az 51,8 helyett;
• Retrieval: 68,4 a 61,2 helyett;
• Arts: 56,2 a 47,3 helyett;
• Vision Decision Index: 77,43 a 73,22 helyett.

A csoportosítás nem mindig nyerő. Ha a kérdések egy döntés részei, javít: a SATA-Bench-en 11,3 pontot. Ha egymással versengő jelöltekről szólnak, ront: a ToolRet-en 4,8 pontot. A Perplexity ezért kétes esetben jelöltenként külön kérést javasol.

A kalibrációról a modellkártya azt írja, hogy a fejlesztői halmazon a várható kalibrációs hiba 0,014. A tanításból teljesen kihagyott döntési adatokon a valószínűségek még mindig kissé túl magabiztosak (kb. 0,05), de kevésbé, mint a v1.1-nél.

Nyílt súlyok?

A v1.1-27b-t a Perplexity nyílt súlyú modellként jelentette be (Perplexity Community). A v1.2 Hugging Face-es repója viszont a modellkártya szerint privát, letöltéshez hozzáféréssel rendelkező tokenre van szükség. Nyilvános, szabad letöltést a v1.2-höz a források nem erősítenek meg. A Flash változathoz Hugging Face-es modellkártyát nem találtunk.

Elérhetőség: mit erősítenek meg a források?

• Perplexity API: elérhető, bármely Perplexity API-kulccsal hívható a POST /v1/decisions végponton.
• Vercel AI Gateway és OpenRouter: mindkét modell elérhető.
• Árazás: a Perplexity hivatalos árlistáján szerepel, lásd fent.
• Perplexity fogyasztói app (keresés, Pro): a források nem írnak arról, hogy a modell ott megjelenne. Ezt nem erősítették meg.

Mit jelent ez a gyakorlatban?

A döntési modellek piaca gyorsan mozog. A Liquid AI egy nappal korábban kiadott d1-ultrája 0,042 dollárba kerül millió input tokenenként (Liquid AI). A Liquid összehasonlító táblázatában a Perplexity modelljéből még csak a v1.1 szerepel, a v1.2-re független mérés egyelőre nincs.

Akinek nagy mennyiségű, egyszerű routing vagy címkézés a feladata, annak a Flash a legolcsóbb belépő. A Perplexity is azt javasolja, hogy előbb saját címkézett mintán mérjük össze a két modellt. A Flasht csak akkor érdemes megtartani, ha hozza a pontossági elvárást.