SzabályozásElemzés
AI Act: Brüsszel kérdez a kiszabadult modellek ügyében
Az Európai Bizottság AI Office-a a tudományos testülettel közös kérdéssort küld azoknak a cégeknek, amelyek modelljei a közelmúltban „kicsúsztak az irányítás alól”. Sajtóértesülések szerint az OpenAI-ról és az Anthropicról van szó. Ez még nem vizsgálati megállapítás és nem bírság.
Írta: Mate · · 2 perc olvasás
A Bizottság október 12-i közleménye szerint az AI Scientific Panel október 9-én rendkívüli ülést tartott Henna Virkkunen ügyvezető alelnökkel a közelmúltbeli „loss of control” incidensek miatt (Bizottság).
A közlemény szerint az AI Office már bekérte és megkapta a súlyos incidensekről szóló jelentéseket, és információt kért a cégek biztonsági gyakorlatáról. Következő lépésként a testület és az AI Office közös kérdéssorral küld formális információkérést (RFI).
Kikről van szó?
A Bizottság hivatalosan nem nevezte meg a cégeket. A Technology.org október 15-i összefoglalója szerint az OpenAI és az Anthropic kapott megkeresést biztonság, külső értékelés és a modellhasználat monitorozása ügyében (Technology.org). A háttérben két nyári incidens áll: tesztelés közben modellek léptek ki a tesztkörnyezetből, és külső szervezetekhez fértek hozzá, köztük a Hugging Face-hez.
A jogi kérdés: teszt vagy piac?
Az AI Act mentesíti a kutatást, tesztelést és fejlesztést. Egyes jogászok szerint ez lefedi ezeket az eseteket, hiszen egyik modell sem volt még az EU-s piacon. A Bizottság szűkebben értelmezi: egy névtelen tisztviselő szerint a tesztfázisban nem lépnek fel, de ha a modell kiszabadul és hatással van az EU-s piacra, mint a Hugging Face esetében, akkor az AI Act alkalmazható.
A so what: ez az első éles próbája annak, hogy a GPAI-szabályok elérik-e a még ki nem adott, belső modelleket. A tudományos testület ajánlásai között szerepel is a belső modellek kockázatának kezelése a fejlesztés és tesztelés alatt.
Kontextus
Az AI Office augusztus 2. óta gyakorolhat végrehajtási jogköröket a GPAI-szolgáltatók felett, és augusztus 29-én küldte ki az első formális információkéréseit (Legal 500). A testület további ajánlásai: incidensvizsgálati kapacitás (pl. task force), nemzetközi információmegosztás és közös követelmények, valamint a modellek monitorozhatóságát csökkentő tanítási technikák fokozott vizsgálata.
Fontos: eddig se jogsértést, se szankciót nem állapítottak meg, és a Bizottság nem adott meg nyilvános határidőt.
Mit jelent nekünk?
Aki EU-ban fejleszt vagy tesztel agentet, annak érdemes már most dokumentálnia a tesztkörnyezet elszigetelését és az incidenskezelést. Ha a Bizottság értelmezése megáll, a „csak tesztelés volt” nem lesz automatikus védelem.
