Anthropic FlashProve: bizonyítható, hogy melyik modell fut

Mi történt?

Az Anthropic Frontier Red Team csapata bemutatta a FlashProve-ot, egy nyílt forrású rendszert, amely kriptográfiai bizonyítékot ad arról, hogy egy válaszát tényleg egy adott modell generálta (Anthropic). A módszer zkSNARK, vagyis zero-knowledge bizonyítás: a modell súlyai rejtve maradnak, a felépítése viszont nem.

Mennyire gyors?

• A teszt a 400 milliárd paraméteres, 4 bites Llama 4 Maverick MoE modellen futott.
• Egyetlen H100-on kb. 110 token/s, egy 1024 tokenes kéréshez kb. 18,78 MB-os bizonyíték tartozik.
• A GPU-idő kb. 70–95-szöröse a sima vLLM-es futtatásnak.
• Az ellenőrzés 24 CPU-szálon 17 másodperc. Az egyszeri előkészítés 39 perc, utána kb. 16 millió kérésre érvényes.
• Összehasonlításképp: a korábbi VerInf ugyanezen a modellen kb. 0,02 token/s-ot tudott.

Mire jó?

Az Anthropic szerint a felhasználási területek: szabályozói ellenőrzés és a fejlesztési tempó követése, manipuláció kimutatása, az eredet igazolása, illetve annak bizonyítása, hogy egy jóváhagyott modell fut. A teljesség, a helyesség és a zero-knowledge tulajdonság bizonyítása Leanben készült, a rendszer építésében a Claude is segített. A kód Apache 2.0 licenccel elérhető a GitHubon.

A korlátok

A rendszer egyelőre csak greedy, egész számos modellt és MoE architektúrát támogat, 1024 tokenes kontextussal. A Lean-alapú ellenőrző lassú, a gyors C++ ellenőrző viszont nincs formálisan igazolva. A side channel támadások szintén nyitott kérdések.

Miért fontos?

Ha egy szolgáltató azt állítja, hogy egy auditált modellt futtat, ma ezt csak elhinni lehet. A FlashProve megmutatja, hogy a bizonyítható inference már nem elméleti kérdés: nagyságrendekkel gyorsabb, mint a korábbi módszerek. A 70–95-szörös többletköltség miatt egyelőre szúrópróbás ellenőrzésre való, nem minden kérésre.