ModellekHír
doubleAI Maxwell: AI, amely futás közben gyorsítja a kódot
Amnon Shashua, a Mobileye korábbi vezérigazgatója új cége, a doubleAI bemutatta első termékét. A Maxwell egy úgynevezett code execution model: nem kódot ír, hanem a futó programot gyorsítja. Minden módosításáról formálisan bizonyítja, hogy egyenértékű az eredetivel.
Írta: Mikola Máté Patrik · · 2 perc olvasás
Mikola Máté Patrik
Mi az a code execution model?
A doubleAI szerint a mai AI-modellek segítenek kódot írni, a futtatásba viszont nem szólnak bele (doubleAI). A Maxwell a futó program belsejében dolgozik. Figyeli a hardvert és az átfolyó adatot, megkeresi a szűk keresztmetszeteket, majd az adott géphez igazított új bináris kódot állít elő, egy JIT fordítóhoz hasonlóan. A forráskód közben változatlan marad.
A kulcs a formális verifikáció. Minden csere mellé gépileg ellenőrzött bizonyítás készül arról, hogy az új kód ugyanarra a bemenetre ugyanazt adja, ugyanazokkal a mellékhatásokkal. A cég szerint ehhez a teljes Python nyelvet formalizálták. A Maxwell CPU-n és GPU-n is dolgozik: Python-kódot cserél alacsony szintű, akár SIMD-re optimalizált kódra, PyTorch-kódot pedig az adott GPU-ra hangolt kernelekre.
Mit mutattak?
- Whisper-small beszédfelismerés RTX 4090-en: 180 átirat 106,23 helyett 49,82 másodperc alatt, azonos kimenettel.
- NetworkX betweenness centrality CPU-n, 15 futás: 61,44 helyett 17,50 másodperc.
- LTX-2.5 4K videógenerálás két B200-on: klipenként 250 helyett 134 másodperc, 1,87-szeres gyorsulás.
A Ctech szerint a cég valós terheléseken több mint 38-szor gyorsabb adatpipeline-okról és több mint 4,5-ször gyorsabb inferenciakernelekről számolt be (Ctech). A lap hozzáteszi, hogy ezeket független fél nem ellenőrizte. A bejelentés a tesztekről, a hardverről és a kiinduló teljesítményről sem ad elég részletet.
Pénz és üzleti modell
A Ctech szerint a doubleAI 200 millió dolláros A-sorozatú kört zárt a Lightspeed Venture Partners és a Bessemer Venture Partners vezetésével. Részt vett benne a Dell Technologies Capital, az NVIDIA, a Greenfield, a Pitango és a BRM is. A lap szerint a cég értékelése több mint 1 milliárd dollár, nagyjából 40 embert foglalkoztat. A díjat a megtakarított számítási költség alapján kérik majd el.
A Maxwell egyelőre early accessben érhető el, a heymaxwell.ai oldalon lehet jelentkezni.
Mit jelent ez?
A coding agentek a kódírást gyorsítják, a Maxwell azt célozza, ami utána jön: hogyan fut a kód a hardveren. A cég szerint a kettő kiegészíti egymást, a Claude Code-féle agentek írják a programot, a Maxwell pedig optimálisan futtatja. Ha a formálisan bizonyított optimalizálás tényleg skálázódik, az compute-szűkös időkben közvetlen megtakarítás. Addig érdemes saját terhelésen mérni, mielőtt bárki a 38-szoros számokra tervez.
MI segítségével készült, szerkesztő ellenőrizte. Hogyan készülnek a cikkeink
Szerkesztőségünk ellenőrizte és szerkesztette. Rólunk
