OpenAI: négyszeres bug bounty és AI-alapú security sprint

Mi történt?

Az OpenAI november 2-án megemelte a Security Bug Bounty programja jutalmait (OpenAI). A közepes, magas és kritikus súlyosságú hibáknál a jutalomsávok középértéke átlagosan több mint a négyszeresére nő. Ugyanaznap jelentette be a következő belső security sprintjét is, amelyet a Cathedral Systems biztonsági céggel közösen tart (OpenAI).

Mennyit lehet most keresni?

Egy kritikus sérülékenység a core termékekben, vagyis a ChatGPT-ben, a Codexben vagy az API Platformon, mostantól legfeljebb 30 000 dollárt ér. A kivételes kritikus találatok továbbra is 100 000 dollárig jogosultak, bónuszokkal viszont akár 172 000 dollárig. Három új szorzó kerül az alapösszegre:

• Minőségi bónusz: ha a report megbízható proof of conceptet ad, izolálja a hibát, illetve megmutatja a hatását, szorzót kap az alapjutalomra.
• Hűségprogram: ötszintű rendszer, amely a visszatérő kutatóknak egyre nagyobb bónuszt ad.
• Kiemelt kampányok: rövid, külön bónuszkerettel futó akciók az újonnan indított funkciókra.

Az OpenAI szemléltető példája szerint egy egykattintásos ChatGPT fióktörés korábban 6 500 dollárt hozott, az új számítással 51 577 dollárt. A még el nem bírált reportokra már az új sávok vonatkoznak, az utolsó 30 napban kifizetett jutalmaknál pedig a különbözetet utólag rendezik.

Mi az a security sprint?

Az előző sprintben az OpenAI a termékmérnökei 25 százalékát állította rá a saját rendszerei gyenge pontjainak keresésére és javítására. A mérnökök a Codexszel vizsgálták a találatokat, izolált környezetben reprodukálták a sérülékenységeket, illetve patcheket készítettek elő review-ra. A következő körben a Cathedral Systems kutatói is az OpenAI modelljeivel támadják a cég védelmét.

A cég szerint a hagyományos kibervédelem önmagában már nem elég, folyamatos, AI-ra épülő védekezési ciklus kell. Ehhez kapcsolódik, hogy hat hónapra egymilliárd dollárnyi támogatott hozzáférést ígért a kritikus szolgáltatásokat védő csapatoknak. Emellett megosztja az előző sprint architektúráját, illetve tanulságait.

Miért számít?

A ChatGPT és a Codex egyre több céges adatot és kódot kezel, így minden talált hiba sokat ér. A nagyobb jutalom több külső kutatót vonz, a belső sprint pedig azt mutatja, hogy az OpenAI a saját modelljeit élesben is védekezésre használja. Aki security kutatással foglalkozik, annak most érdemes újra ránéznie az OpenAI célpontjaira, a cég november 20–21-én az oaklandi PROMPT2PWN eseményen is jelen lesz.