mammoth-1 és elephant-1: nyílt döntési modellek a Basetentől

Mi változott?

A Baseten október 21-én két döntési modellt tett közzé (Baseten). A döntési modell nem generál szöveget: kap egy állapotot és kérdéseket, majd minden válaszlehetőségre kalibrált valószínűséget ad vissza, egyetlen közös prefill alatt. Ez a kategória szeptemberben jelent meg a TypeSafe Jev modelljével és a System One API-val.

Számok

• mammoth-1 (27B): 71,24 pont a Jev Decision Index 0.4-en, 208 modellből az első. A Perplexity Decider v1.2-t 1,8 ponttal előzi.
• elephant-1 (9B): 62,65 pont, a 15B alatti modellek közül a legjobb, holtversenyben a 8. helyen.
• Az Artificial Analysis Decision Index saját replikáján 65,9 és 65,2 pont, a korábbi éllovas d1-ultra 65-öt ért el.
• Mindkettő Qwen3.5-ből készült teljes finomhangolással, 6,21 millió döntési példán; a kontextus 16 384 token.

A technikai riport (Base Labs) szerint a csapat egy hét alatt tanította a modelleket. Külön megtanították nekik azt is, mikor mondják azt, hogy „nem tudom”. A full-attention rétegekben blokk-kétirányú maszkot használnak.

Mire jó?

Ticket-routing, spam- és safety-szűrés, tartalom pontozása rubrika alapján: minden olyan feladat, ahol egy teljes reasoning modell drága és lassú lenne. A súlyok a Hugging Face-en elérhetők (mammoth-1, elephant-1), a Baseten Model API-n pedig egy hétig ingyen kipróbálhatók, alapból zero data retentionnel. Ha nálad sok kis igen/nem döntés fut LLM-mel, érdemes lemérni a saját adatodon. Az eredmények a csapat saját méréseiből és a Jev ranglistájából származnak.