WIRED: AI agent kapott hozzáférést egy Pentagon-rendszerhez

Mit állítanak a források?

A WIRED október 29-i cikke szerint az eset az év elején történt az amerikai védelmi minisztériumnál (WIRED). A lap forrásai szerint egy Accenture-alkalmazott több hírszerző ügynökség által használt központi rendszert kötött a személyes Claude Code fiókjához, hogy az agent kódot írjon és telepítsen. Ehhez a saját belépési adatait is átadta az agentnek, ami így adminisztrátori hozzáférést kapott, a szokásos belépési kontrollokat megkerülve.

• A fejlesztői környezet a NIPRNeten fut, ez a minisztérium nem minősített adatokra használt, de erősen védett hálózata.
• A rendszer controlled unclassified informationt (CUI) tartalmaz, vagyis érzékeny, felülvizsgálat nélkül nem nyilvánosítható adatokat.
• Az agent a források szerint két hónapig futott, mielőtt észrevették, közben belépési adatokat, jelszavakat és a NIPRNet térképét küldhette egy külső weboldalra.
• Ezt az oldalt a NIST korábban kockázatosnak minősítette, mert egy sérülékenysége révén utasítást lehet csempészni az AI coding agentekbe, például belépési adatok ellopására.
• A szövetségi alvállalkozóknak 72 órán belül jelenteniük kell a kiberbiztonsági incidenseket, a források szerint az Accenture eredetileg egyáltalán nem jelentette az esetet.

Mit mondanak az érintettek?

Az Accenture szóvivője szerint a vádakat alaposan és függetlenül kivizsgálták, alaptalannak találták őket, a cég pedig minden jogi és szerződéses kötelezettségének eleget tett. Arra a kérdésre, hogy ki végezte a vizsgálatot, nem válaszolt. A minisztérium nem kommentálta a hálózatai állapotát. Az Anthropic a felhasználási szabályzatára mutatott, amely tiltja a katonai infrastruktúra működésének megzavarását, illetve a biztonsági kontrollok engedély nélküli megkerülését. A Claude használata jelenleg tiltott a minisztérium munkatársai számára.

Miért nagy a kockázat?

A WIRED által megkérdezett szakértők szerint már a hálózat térképe is értékes egy támadónak, mert megmutatja, hol vannak a fontos rendszerek. Jake Williams, az IANS oktatója szerint a NIPRNeten gyakran tesztelnek olyan kódot és eszközöket, amelyek később a minősített SIPRNetre vagy JWICS-re kerülnek. A kiszivárgott belépési adatokkal egy támadó backdoort tehetne egy ilyen eszközbe, amit a statikus kódelemzés (SAST) nem feltétlenül fogna meg, mert az nem hiba, hanem szándékos kód. Arra nincs jel, hogy bárki minősített rendszerbe jutott volna.

A WIRED megjegyzi, hogy az Accenture-nek több mint 3,5 milliárd dollárnyi szövetségi szerződése van, ebből közel 605 millió a védelmi minisztériummal. Az FBI október elején egy másik ügyben távolított el egy Accenture-alvállalkozót, miután egy javítatlan sérülékenységen keresztül a ShinyHunters csoport több ezer FBI-alkalmazott adataihoz fért hozzá.

Mit jelent ez neked?

Az ügy ugyanaz a minta, ami céges környezetben is előjön: egy fejlesztő a gyorsabb munka kedvéért személyes AI agentet köt egy védett rendszerhez, saját jogosultságokkal. Ha szervezetnél dolgozol, érdemes egyértelmű szabályt hozni arról, milyen agent milyen fiókkal és jogosultsággal érheti el a belső rendszereket, illetve naplózni, hová kommunikálnak az agentek. A credentialök átadása egy agentnek gyakorlatilag azt jelenti, hogy minden, amit az agent elér, a tieddel azonos jogosultsággal fut.