Anthropic: akár 99%-kal kevesebb adat jut a desztillálókhoz

Mi a gond a desztillációval?

A desztilláció során egy cég milliónyi választ gyűjt egy erősebb modellből, majd ezekkel tanít egy kisebbet. A legértékesebb a Claude gondolatmenete (reasoning), mert abból látszik, hogyan jut el a válaszig. Az Anthropic szerint ezt gyakran hamis fiókok hálózatával csinálják: egy proxyhálózat egyszerre több mint 20 000 fiókot kezelt (Anthropic).

A cég két okot hoz fel. A desztillált modellek arányos biztonsági korlátok nélkül jelennek meg, ráadásul a megszerzett képességek külföldi katonai és megfigyelési rendszerekbe kerülhetnek. Példaként a Zhipu GLM-5.3-at említi, amely a cég szerint amerikai modellek kiberképességeit desztillálta.

Hogyan védekezik az Anthropic?

Az első lépés a gondolatmenet összefoglalása volt. A cég mérése szerint a Claude Opus 4.8 teljes átiratain tanított modell 80,4%-ot ért el a SWE-bench Verifieden, az összefoglalt átiratokon tanított viszont csak 71,8%-ot. A támadók erre olyan kérésekkel válaszoltak, amelyek a rejtett gondolatmenet kiírására próbálták rávenni a modellt.

• Preserved thinking: a Claude Fable 5.1 és az Opus 5.5 óta a 2026. augusztus 31-én vagy később létrehozott API-fiókok nem szerkeszthetik a Claude korábbi kontextusát.
• Az újabb modellek gondolatmenetét régebbi, gyengébb védelmű modellek nem olvashatják, a Claude Sonnet 5.5-nél pedig az átirat csak annak a szervezetnek érhető el, amelyik a kérést küldte.
• Kétlépcsős osztályozó szűri a kinyerési kísérleteket a Sonnet 5.5, az Opus 5 és 5.5, illetve a Fable 5 és 5.1 modelleken. A téves riasztás aránya 0,1% alatti.
• Aki tartósan próbálkozik, szigorúbb limitet kap, a visszaeső fiókokat pedig tiltják. A cég több tízezer fiókot tiltott le, gyakran két órán belül.

A desztillálóknak kiszivárgott reasoning tokenek napi mennyisége a védelem előtt és után, logaritmikus skálán. Forrás: Anthropic

Mit jelent ez a fejlesztőknek?

Új API-fióknál a Claude korábbi gondolatmenete utólag nem írható át, ezt az agent- és chatlogikában kezelni kell. Szeptember 24. óta az Anthropic ismét felszámítja azokat a kéréseket, amelyeket a biztonsági szűrő a válasz előtt blokkol. A cég elismeri, hogy a 0,1% alatti téves arány nem nulla, vagyis ritkán ártalmatlan kérés is fennakadhat.

Az Anthropic maga is macska-egér játéknak nevezi a helyzetet. Azt sem tudja, meddig tart az előny. Azt kéri, hogy a felhőplatformok és a többi modellfejlesztő is lépjen fel a csaló fiókok ellen.