Daybreak Red Team: AI-agentes pentest az OpenAI-tól

Mi a Red Team?

A Daybreak Red Team koordinált agentcsapattal teszteli a webalkalmazásokat: a forráskódból és az alkalmazás kontextusából keresnek támadási útvonalakat, majd igazolják, hogy a sérülékenység tényleg kihasználható (OpenAI).

• Validálja a máshonnan jött találatokat is: kódszkennerek, bug bounty beküldések, disclosure riportok.
• Ellenőrzi, hogy egy patch valóban megállítja-e az exploitot. Az alkalmazás változásával újrafuttatható.
• A scope-ot izolált környezet és Guardian review kényszeríti ki, megadható, mely appokat és endpointokat érhetik el az agentek.
• Early accessben indul kiválasztott ügyfeleknek, várólistával.

És a Defense Factory?

A Defense Factory a javításra koncentrál. A repók és a meglévő biztonsági eszközök (vagy a Red Team) találatai bekerülnek, az agentek végigkövetik a hibát a kódon, majd patchet készítenek, amit mérnök néz át és tesztel merge előtt (OpenAI). A Codexben lehet kontextust adni és hangolni a javítást, illetve beállítható új commitok szkennelése vagy ütemezett ellenőrzés. Előzetesként érhető el a jogosult ChatGPT workspace-eknek.

A The Register szerint az agentek az OpenAI legújabb kibermodelljére, a múlt héten kiadott GPT-6 Cyberre épülnek (The Register; GPT-6 Cyber: az OpenAI új kiberbiztonsági modellje). Árazást nem közöltek.

Mit jelent ez a gyakorlatban?

A klasszikus szkennerek lehetséges hibát jeleznek, a Red Team azt próbálja bizonyítani, hogy a hiba ki is használható. Ez a priorizálásban segít a legtöbbet, mert a backlogban a valódi kockázat kerül előre. Greg Brockman a bemutatón úgy fogalmazott, hogy a cégek annyira lesznek biztonságban, amennyire jó frontier modellt használnak a védekezéshez. Ez erős eladói állítás. A gyakorlati kérdés inkább az, hogy mennyi hozzáférést ad valaki egy külső agentflottának a forráskódjához és a staging környezetéhez.