Ugrás a tartalomra
Neural Daily

SzabályozásHír

Kétmillió csapdaprompt: szivárog az AI-ellátási lánc

🇬🇧 Read this article in English →

A Dragos kutatói öt hónap alatt nagyjából kétmillió, egyedi titkokat tartalmazó promptot küldtek AI-szolgáltatóknak. Legalább három szolgáltatónál betörést találtak. Több helyen a ZDR-jelzést is figyelmen kívül hagyták.

· 5 perc olvasás

A Dragos kanári-szolgáltatásának konzolja: napi incidensek, kiküldött promptok és költség routerenként
Kép: Dragos · Képernyőkép · Forrás

Mi történt?

HD Moore, a Dragos kutatási igazgatója (ő a Metasploit megalkotója) november 19-én tette közzé a csapata vizsgálatát (Dragos). 2026 júliusa és novembere között nagyjából kétmillió promptot küldtek széles körben használt AI-szolgáltatásoknak, aztán figyelték, hol bukkannak fel a bennük elrejtett titkok (Ars Technica).

Minden prompt egyedi, máshol soha nem használt kanárit tartalmazott: AWS-kulcsot, DNS-nevet, URL-t, jelszót, privát git repó hivatkozást. Ha ezek közül bármelyiket bárki használja, az csak úgy lehet, hogy valahol a láncban látta az eredeti promptot. Az AWS-kulcsok valódiak voltak, üres, teljes naplózású fiókokhoz kötve. Minden érintést vissza tudtak vezetni a konkrét promptra, modellre, routerre és adatvédelmi beállításra.

Három feltört szolgáltató

A legsúlyosabb megállapítás: legalább három hosting szolgáltatónál támadók lopták az adatokat. A csali promptok valódi ügyfélkérésekkel együtt futottak, ezért Moore szerint azokat is szinte biztosan lemásolták. A legkorábbi eset július közepére datálható. Egyik szolgáltató sem tudott a betörésről, amíg a Dragos nem szólt.

A legnagyobb esetben pár száz AWS-kulcs veszett oda október végén. Néhány kulcs olyan kérésből származott, amelyet a szolgáltató még a modell futása előtt elutasított, vagyis a támadó már a bejáratnál másolta a forgalmat. A másik két esetben ZDR-jelölésű kérések is a zsákmány részei voltak. Moore szerint ha a támadó már bent van, a privacy flag semmit nem ér.

A támadók forgatókönyve kiszámítható volt. Először ellenőrizték, élnek-e a kulcsok, néha a kéréstől számított pár órán belül. Utána S3 bucketeket listáztak, átnézték a Secrets Managert és a Parameter Store-t. Végül Bedrock modelleket próbáltak engedélyezni, Bedrock API-kulcsokat és saját IAM-felhasználókat hoztak létre. A csalikulcsokkal összesen több tízezer AWS API-hívást indítottak.

November 1-jén az egyik támadó az ARTEX-et is bevetette. Erről az LLM-alapú pentest keretrendszerről az Európai Bizottság elleni támadás kapcsán írtunk (AI-eszközzel támadták meg az Európai Bizottságot). Itt csak néhány hívással ellenőrizte, élnek-e még a kulcsok. Két user agentje (artex-agent, artex-judge-r121) a Dragos szerint egyetlen nyilvános indikátorlistán sem szerepel, ezért érdemes felvenni őket a detekciók közé.

Viszonteladók, akik egyszerűen naplóztak

A második esethez exploit sem kellett. Egy inference marketplace néhány eladója a legolcsóbb áron listázta a modellt, bekapcsolta a request loggingot, aztán várt. Az egyik esetben egy eladón át küldött két prompt titkos URL-jét másfél nappal később otthoni netről nyitották meg, majd a login oldalon felhasználóneveket próbálgattak. Ugyanarra a modellre más eladón át küldött promptokhoz senki nem nyúlt, tehát a szivárgás az eladóhoz kötődik, nem az egész marketplace-hez.

Egy másik esetben egy franciaországi otthoni vonalon ülő Mac felhasználója a promptokból kiolvasott jelszavakkal kézzel gépelve próbált root SSH-belépést. Kiderült az is, hogy egy másik router csendben a marketplace-re továbbította a forgalma egy részét. A Dragos jelzése után ezt leállította.

ZDR, csak papíron

Egy kínai AI-labor rendszerei a modelljeinek júliustól októberig küldött promptok több mint felénél lekérték a titkos URL-eket. Ebben benne volt a "no data collection" vagy ZDR jelölésű kérések nagyjából kétharmada. A scraper jellemzően két-három nappal a kérés után jelent meg. Ugyanez történt, amikor a labor modelljeit amerikai hosting szolgáltatón át érték el: a promptok visszajutottak a laborhoz.

A nagy amerikai szolgáltatók sem hibátlanok. Az egyik egy titkos URL-t a kereső endpointjára küldött egyetlen hívás után több mint két hónapig crawlolt. A legfurcsább eset: egy kínai szolgáltatónak küldött prompt titkos linkje 24 nappal később egy Feishu csatornában bukkant fel. Két percen belül három asztali gépről és három telefonról nyitották meg Pekingben és Sanghajban. A Dragos szerint a kérés ZDR-jelöléssel, egy amerikai szolgáltatón keresztül ment ki.

Traceroute AI inference-re

A router jellemzően csak egy upstream szolgáltatót jelez, ami gyakran maga is router. Ezért a Dragos épített egy traceroute-szerű eszközt: egy visszahívó képlinkkel és szándékosan hibás kérésekkel dolgozik, a hopokat az egymásba csomagolt hibaüzenetekből azonosítja. Nagyjából kétezer útvonalat térképeztek fel. Több százban volt azonosíthatatlan rendszer, néhány pedig olyan céghez küldte a képet, amely nem szerepelt a meghirdetett útvonalon. Az egyik eladó minden prompthoz kb. ezer rejtett tokent fűz hozzá.

AI inference útvonal feltérképezése: a marketplace-től az Anthropicig, egy nem közölt OpenRouter hoppal
Dragos · Képernyőkép · Forrás

Egy feltérképezett útvonal a marketplace-től az Anthropicig, közben egy nem közölt OpenRouter hoppal. Forrás: Dragos

Mit javasol a Dragos?

  • Saját hosting, ha belefér: csak így nem olvassa más a promptokat. A cikk szerinti árak: 512 GB-os Mac Studio 22 299 dollártól, DGX Spark 6950 dollár, DGX Station kb. 105 000 dollártól, nyolc GPU-s B300 szerver 570 000 dollártól.
  • Közvetlenül egy első vonalbeli szolgáltató: egy cég, egy szerződés, egy adatvédelmi szabályzat. Ez a legkisebb kitettség, ami pénzért kapható.
  • Router csak óvatosan: az upstream szolgáltatókat válaszd ki magad a default pool helyett. Ellenőrizd, hogy a privacy beállítás tényleg megváltoztatja-e az útvonalat. Reseller marketplace-ekre ne küldj érzékeny forgalmat.
  • Saját kanárik: tegyél egy hamis credentialt az agentek és pipeline-ok kontextusába, bármilyen használata legyen incidens. Indulásnak elég egy ingyenes Thinkst Canarytoken.
  • Secret filtering: egyes szolgáltatók automatikusan kiszűrik az ismert credential-formátumokat. Nem csodaszer, mert sok érzékeny adat nem úgy néz ki, mint egy API-kulcs.

Mennyire biztos mindez?

A Dragos egyik érintett szolgáltatót sem nevezte meg, az eredményeket független fél még nem ellenőrizte. A cég szerint nagyjából egy tucat szolgáltatóval dolgozik együtt. A feltört szolgáltatók közül az egyik már kiadott előzetes biztonsági közleményt, a legelsőként érintett viszont máig nem hozta nyilvánosságra az incidenst. Az ellopott kulcsokat és titkos URL-eket hónapokkal később is próbálgatják.

Miért fontos?

Moore kulcsmondata: a privacy flag csak az első hopot köti, az AI agentek pedig mindent elküldenek, amit olvasni tudnak, a credentialöket is. Egy agent kontextusában szinte mindig van kulcs, token vagy belső URL. A routeres "legolcsóbb ár" így valójában biztonsági döntés. Az OpenAI tegnapi írása a modellgyártó oldaláról mutatta meg, mennyit ér a kimenet (OpenAI: így védi a reasoninget a desztilláció ellen). A Dragos vizsgálata a másik oldalt mutatja: a felhasználói prompt legalább ennyire értékes zsákmány.

Röviden

  • Kb. kétmillió kanári-prompt, 2026 júliusa és novembere között.
  • Legalább három feltört AI hosting szolgáltató, egyik sem tudott róla.
  • Marketplace-eladók egyszerű request logginggal gyűjtötték a promptokat.
  • A ZDR-jelzést több szolgáltató figyelmen kívül hagyta.
  • Javaslat: kevesebb hop, saját kanárik, secret filtering.

    Írta Mikola Máté Patrik

    MI segítségével készült, szerkesztő ellenőrizte. Hogyan készülnek a cikkeink

    Szerkesztőségünk ellenőrizte és szerkesztette. Rólunk

    Kapcsolódó cikkek