Ugrás a tartalomra
Neural Daily

EszközökHír

TokenEconomizer: 18–31%-kal olcsóbb kódoló agentek

🇬🇧 Read this article in English →

A Microsoft Research és a UC Berkeley nyílt forrású pluginja a korábbi sessionökből tanul, így ugyanabban a repóban egyre kevesebb tokent éget el. SWE-Bench feladatokon 18,4 és 30,9 százalék közötti átlagos költségcsökkenést mértek.

Írta: Mikola Máté Patrik · · 2 perc olvasás

GitHub repository card for microsoft/TokenEconomizer with the Microsoft logo
Kép: Microsoft · Képernyőkép · GitHub repository social card · Forrás

Mi ez?

A TokenEconomizer egy plugin, amely a kódoló agentet változatlanul hagyja, viszont megtanulja, hogyan működik az a repository, amelyben gyakran dolgozol. Ebből a tudásból csökkenti a pazarlást (GitHub). Claude Code, Codex, a GitHub Copilot CLI és Pi alatt fut, az opencode támogatása kísérleti. Saját API-kulcs nem kell hozzá, a modellhívásait a te agented végzi ugyanazon az előfizetésen. Ezek költségét a riportjai is tartalmazzák. Amit tanul, az a gépeden marad, a ~/.tokeneconomizer mappában.

A három mechanizmus

  • Micro-skills: a sessionök újra és újra ugyanazokat a tényeket fedezik fel (melyik build lépés kell előbb, python -m pytest a pytest helyett, melyik környezeti változó kell). A plugin ezeket a visszatérő hibákból tanulja meg, három megerősítés után pedig a session elején közli az agenttel.
  • Tool pruning: minden betöltött tool definíciója minden kéréssel újra elmegy. Ami hosszabb ideig használatlan, azt a plugin az agent saját beállításain keresztül kihagyja, egy paranccsal visszahozható.
  • Loop guard: ha egy kör ugyanazokon a hibákon pörög, egy bírálómodell eldönti, elakadt-e. Legalább 0,7-es bizonyosságnál rövid átirányító jegyzetet kap az agent, a kört viszont sosem állítja le magától.

Mennyit hoz?

A tanulmány öt agent és modell kombinációt futtatott ugyanazon a 277 SWE-Bench feladaton, hat repositoryban (arXiv). Az átlagos költség 18,4 és 30,9 százalék között csökkent, mind a 30 repó és kombináció cellában olcsóbb lett a futás, a Pass@1 pedig ötből négy esetben javult. Web-Bench feladatokon 16–21, két biztonsági audit benchmarkon 6–20 százalékos megtakarítást mértek. A költséget cache-árazással számolták, mert egy session tokenjeinek nagy része cache-ből újraolvasott kontextus.

Miért érdekes?

A kódoló agentek feladatot fejeznek be, nem spórolnak: minden kör újra kifizeti az utasításokat, a toolokat és az eddigi beszélgetést. Ha naponta ugyanabban a kódbázisban dolgozol, a TokenEconomizer ezt az ismétlődő költséget célozza, modellcsere és agentmódosítás nélkül. Minden mechanizmusa külön kapcsolható. Ha a plugin hibázik, a session úgy fut tovább, mintha nem is lenne telepítve.

    MI segítségével készült, szerkesztő ellenőrizte. Hogyan készülnek a cikkeink

    Szerkesztőségünk ellenőrizte és szerkesztette. Rólunk

    Kapcsolódó cikkek