OpenAI: november 29-től a Daybreak Blue adatain is tanít

Mi változik?

A Daybreak az OpenAI Trusted Access for Cyber programja ellenőrzött biztonsági szakembereknek. A Blue szint védelmi munkára ad kevesebb elutasítást, a Red szint a kiberspecifikus modellekhez nyit hozzáférést. A programtagoknak küldött e-mail szerint november 29-től a Blue munkamenetek adatai is bekerülhetnek a tanítóadatba (The Decoder).

Ez fordulat: eddig ezeket az adatokat a cég kizárta a tanításból, függetlenül attól, hogy a felhasználónál be volt-e kapcsolva az „improve the model for everyone” beállítás. A biztonsági felülvizsgálat során megjelölt interakciókat továbbra is felhasználhatják biztonsági célra.

Miért zavarja ez a szakmát?

A Blue munkamenetekben a felhasználók gyakran sérülékenységeket, belső kódot, illetve ügyfélrendszerek részleteit elemzik. A gyors felháborodás után az OpenAI egy második e-mailben külön opt-outot ígért, a részleteket még nem közölte.

A kutatók a The Decoder szerint egy korábbi ügy megismétlődésétől tartanak. Tristan Buckmaster és Levent Alpöge matematikusok Navier-Stokes vázlatokat töltöttek fel a Codexbe, majd az OpenAI hamarosan saját bizonyítást mutatott be. A cég tagadta, hogy az ő anyagaikon tanított volna, de a gyanú önmagában megmutatta, mi a tét.

Mit érdemes tenni?

Ha a csapatod Daybreak Blue-t használ ügyféladatokkal, november 29. előtt nézd meg a szerződéses feltételeket, illetve kapcsold be az opt-outot, amint elérhető. Addig érdemes abból kiindulni, hogy amit feltöltesz, az tanítóadattá válhat.