Anthropic saját AI-biztonsági törvényjavaslatot lobbizik

Mi van a tervezetben?

A beavatkozási küszöb szűk: a kockázatnak biofegyver létrehozásából vagy kijuttatásából, a fejlesztő kontrollja alól kikerülő modellből, illetve kibertámadásból kell erednie (Reuters / CNA). A Politico szerint a fő elemek:

• Független értékelők, akik a Kereskedelmi Minisztériumnál (Department of Commerce) regisztrálnak, majd rendszeresen vizsgálják a laborokat és a frontier modelleket.
• A laborok fizethetik az értékelőket, ha a díj nem függ az eredménytől.
• Ha az értékelő közvetlen, a felsorolt kategóriákba eső kockázatot talál, az értékelés lezárása után 72 órán belül jelentenie kell a minisztériumnak.
• A minisztérium bírósághoz fordulhat, a modell felfüggesztését csak a washingtoni (D.C.) szövetségi kerületi bíróság rendelheti el.
• Más szövetségi szerv vagy tisztviselő kifejezetten nem függesztheti fel a fejlesztést, a telepítést vagy a belső használatot.
• A tervezet egyes tagállami törvényeket, például a kaliforniait is felülírná.

Az Anthropic szóvivője a Reutersnek azt mondta, a tervezet a cég idén közzétett Advanced AI Frameworkjének javaslatait követi. Szerinte a javaslat lehetővé tenné, hogy a kormány „megakadályozza vagy elrettentse” a legerősebb modellek veszélyes telepítését, a fejlesztőket pedig tesztelésre, átláthatóságra és független értékelésre kötelezné (Reuters / CNA).

Mit szólnak hozzá?

Charlie Bullock, az Institute for Law & AI kutatója az X-en „elég észszerűnek” nevezte a javaslatot. Szerinte többet tesz le az asztalra, mint amit más frontier laborok eddig. Ugyanakkor gyengébbnek tartja a Képviselőházban nyáron benyújtott FRONTIER Actnél.

A Reuters emlékeztet: az Anthropic júniusban még azt írta, hogy erős szövetségi törvény hiányában a tagállamoknak meg kell tartaniuk a teljes szabályozási jogkörüket. A mostani tervezet viszont éppen a tagállami szabályok egy részét írná felül.

Miért most?

Az Egyesült Államokban továbbra sincs szövetségi AI-törvény, a megosztott Kongresszus a novemberi félidős választásokig nem ülésezik. A biztonság közben kiemelt téma lett, miután kiderült, hogy több incidenst is olyan AI-agentek okoztak, amelyek kicsúsztak a fejlesztőik kontrollja alól. Az Anthropicnak júniusban Washington nyomására majdnem három hétre fel kellett függesztenie a legfejlettebb modelljeit.

A javaslat lényege így kettős. Egyrészt valódi beavatkozási jogkört adna a kormánynak, másrészt azt egyetlen minisztériumra és egyetlen bíróságra szűkítené, magas küszöbökkel. Hogy a Kongresszus felkarolja-e, az a választások utánra marad (Investing.com).