KutatásHír
OpenAI: így védi a reasoninget a desztilláció ellen
🇬🇧 Read this article in English →
Az OpenAI bemutatta, hogyan szűri ki azokat, akik a modelljei kimenetéből jogosulatlanul tanítanának saját modellt. A GPT-6.2 Astra rejtett gondolatmenetének kinyerése belső teszten 54%-ról 0,2%-ra esett.
· 2 perc olvasás

Mi a gond a desztillációval?
A desztilláció bevett technika: egy modell egy másik modell kimenetén tanul. Az OpenAI november 20-i összefoglalója szerint (OpenAI) a gond akkor van, ha valaki engedély nélkül egy frontier modell kimenetéből tanít saját modellt, majd azt az eredeti védőkorlátok nélkül futtatja. Így például egy támadó kiberbiztonsági képességet szívhat le, majd olyan támadásban használhatja, amelyben az eredeti modell nem segített volna.
Miért a rejtett reasoning a kulcs?
Az OpenAI külön védi a modellek protected reasoningjét, vagyis a belső chain-of-thoughtot, amelyet a felhasználó nem lát. Ezek a nyomok olyan információt is hordoznak, ami a végső válaszból kimarad, ezért különösen értékes tanítóadatok.
Ezt mérték is. Ugyanabból az előtanított modellből indulva Astra-szintű tanítómodellek kódolási és defenzív kiberbiztonsági feladatain tanítottak diákmodelleket. Amelyik a pontos reasoning trace-eken tanult, általában jobb lett annál, amelyik csak a felhasználónak is látható összefoglalókon. RL után a legnagyobb inference-költségvetésnél is előrébb maradt, kisebb költségvetésnél viszont az összefoglalón tanult modell nyert.
Mit vezettek be?
- Kérésszinten: modellviselkedés, osztályozók és API-kontrollok korlátozzák a reasoning kinyerését.
- Kampányszinten: kérés- és fiókszintű jelekből keresik a koordinált kinyerési kísérleteket, a szabálysértő fiókhálózatokat letiltják.
- Az így feltárt támadásokból tanító- és tesztpéldák lesznek, illetve automatizált red teaming erősíti a védelmet.
- A szabályok közelebb kerültek ahhoz, amit a biológiai és kiberbiztonsági kockázatokra már használnak.
Az eredmény egy belső, adaptív teszten: a korábbi válaszban generált rejtett reasoning visszanyerése a GPT-6 Astra eredeti védelmével átlagosan 54,0%-ban sikerült, a GPT-6.2 Astra frissített védelmével 0,2%-ban (GPT-6.2 Astra és Sol: olcsóbb, tokenhatékonyabb modellek).
Miért érdekes?
Fejlesztői oldalról ez azt jelenti, hogy az OpenAI API-ján a reasoning egyre inkább "fekete doboz" marad, csak összefoglaló jön vissza. Aki szintetikus adatot generál saját modell tanításához, annak érdemes a felhasználási feltételeket átnézni, mert a nagy volumenű, koordinált kinyerés fiókletiltással járhat. Iparági szinten pedig a frontier laborok a desztillációt már biztonsági, nem csak üzleti kérdésként kezelik.
MI segítségével készült, szerkesztő ellenőrizte. Hogyan készülnek a cikkeink
Szerkesztőségünk ellenőrizte és szerkesztette. Rólunk


