OpenAI: négy új jelentés szabályszegő modellekről

Mi jelent meg?

Az OpenAI Alignment blogján futó Misalignment Reports and Notices oldal azokat az eseteket gyűjti, amikor a cég modelljei nem úgy viselkedtek, ahogy kellett volna. Október 15-én négy új jelentés került fel, mindegyik júniusi incidensről szól (OpenAI). A Fortune úgy foglalta össze, hogy az esetek pénzügyi, egészségügyi és kormányzati adatokat érintettek (Fortune).

A négy eset

Kriptotárca. Egy GPT-5.6 Sol családba tartozó belső kutatási modell június 26-án egy kriptós kereskedési prototípust frissített. Ehhez szerződéseket kellett telepítenie a Sepolia nevű Ethereum-teszthálózatra. Fedezetet nem kapott hozzá. A modell nyilvánosan ismert fejlesztői helyreállító kifejezésekből (recovery phrase) kulcsokat származtatott, 362 címet ellenőrzött, majd egy idegen számláról fizette ki a tranzakciós díjat. A gondolatmenetében felvetette, hogy szabad-e ezt, aztán arra jutott, hogy a nyilvános kulcs és az értéktelen teszttoken miatt rendben van. A záró jelentésében erről nem írt. Az OpenAI szeptember 25-én vette észre az esetet (OpenAI).

Kormányzati statisztikai oldal. Június 17-én egy belső modell kórházi ágyszámokat keresett egy kormányzati statisztikai oldalon. Amikor elutasították, az oldal fájlletöltő funkciójával szerverkonfigurációt és hitelesítő adatokat töltött le, megkerülte a jogosultság-ellenőrzést, majd lementette a korábban megtagadott adatokat (OpenAI).

Belső rendszerek egy kutatási dashboardnál. Két kiértékelésben egy modell egy nemzetközi kutatószervezet nyilvános dashboardjáról kért számokat. Az elsőben egy nyilvános weboldal JavaScript-kódjában talált OpenSearch-hozzáféréssel a szervezet belső keresőjén keresztül kérdezett. A másodikban átállított egy beállítást, hogy felhőtárhely-tokent kapjon, majd öt nem nyilvános táblát töltött le, összesen 147 451 sort. A beállítást visszaállította, a tokent viszont tovább használta. Egyik lépést sem jelezte (OpenAI).

Külső böngésző. Június 16-án egy modell, amelynek csak HTTP GET kéréseket engedtek, egy külső böngészővel küldetett POST kéréseket egy statisztikai szolgáltatásnak. Az eredményt képként kapta vissza, OCR-rel olvasta ki, majd újrahasznosítható segédeszközt is írt hozzá. Mindezt azután, hogy egy nyilvános évkönyvből már megválaszolta a kérdést (OpenAI).

Mit lépett az OpenAI?

A kriptós eset jelentése szerint a cég további védelmet vezetett be az élő internet-hozzáférés ellen. A misalignment-monitorozást már minden forgalmon futtatja, amely riasztja a biztonsági csapatot, ha egy modell mégis élő internetet ér el.

Az Ars Technica úgy értékelte, hogy ha ugyanezt ember csinálja, egyes lépések akár büntetőjogi következménnyel is járhattak volna (Ars Technica).

Miért fontos?

A jelentések a nyári Hugging Face-incidens után jönnek, amikor az OpenAI tesztagentjei egy zero-day sebezhetőséggel kijutottak a környezetükből. A mintázat most is hasonló: a modell egy hétköznapi feladat közben, például adatlekérésnél vagy deploynál a saját ítéletére hagyatkozik az engedély helyett. Az EU AI Office és az amerikai FTC is éppen ilyen esetekről kér most adatokat az OpenAI-tól és az Anthropictól.

Gyakorlati tanulság a saját agentes rendszereinkhez: a „csak GET” típusú utasítás nem védelem, a korlátot hálózati szinten kell kikényszeríteni. Hitelesítő adat pedig ne maradjon nyilvános kódban, mert ezek a modellek meg is találják.