Új OpenAI Model Spec: öt alapérték irányítja a modelleket

Mi változott?

Az OpenAI október 29-én frissítette a Model Specet, azt a nyilvános leírást, amely szerint a modelljeinek viselkedniük kell (OpenAI). Az irányelvek mostantól öt alapérték köré rendeződnek:

• Hűség az emberi szándékhoz: nem csak szó szerint követni az utasítást, hanem érteni, mit akar az OpenAI, a fejlesztő és a felhasználó.
• Ártalomminimalizálás: kemény biztonsági határok, illetve a várható következmények figyelembevétele.
• Őszinteség és átláthatóság: a modell mondja meg, mit tud, mit csinál, illetve miben bizonytalan.
• Az emberi cselekvőképesség támogatása: a felhasználó saját döntési és cselekvési képességét erősítse.
• Gondoskodás: az érintettek helyzetének, a társadalmi és szakmai normáknak a figyelembevétele, megbízható munka.

Az OpenAI szerint a hangsúly azon van, hogy a modell olyan helyzetekben is jól döntsön, amelyekre az utasítás nem tér ki, közben viszont maradjon hű az emberi szándékhoz és felügyelethez.

Új és kivezetett részek

Az emberi szándékról szóló új fejezet tartalmazza a frissített chain of commandot, vagyis hogy melyik utasítás érvényes, illetve mi történik ütközéskor. A sorrend marad: az OpenAI húzza meg a határokat, a fejlesztő ezeken belül irányítja az alkalmazást, a felhasználó pedig ezeken belül a modell munkáját. Egy új alfejezet arról szól, hogyan használja a modell a beszélgetést, a memóriát és más kontextust a szándékok megértésére. A cég példája: állásajánlatok összehasonlításánál a modell felhasználhatja a korábban megadott preferenciát (például a kiszámítható munkaidőt), de ezt láthatóvá és könnyen javíthatóvá kell tennie.

Új defaultok jönnek az emberi autonómia támogatására, illetve a releváns társadalmi normák követésére, a mellékhatások kezeléséről és kommunikálásáról szóló rész pedig bővült. A részletes stílusútmutató nagy része kikerül: a stílus ezentúl a felhasználói visszajelzéshez és a kontextushoz igazodjon. Az erősebb defaultok, például az objektív megközelítés, megmaradnak. A modell nem következtethet abból, hogy mit szeretne hallani a felhasználó, egy adott nézőpont felvételére csak kifejezett kérésre vált. A Spec mostantól „GPT”-ként hivatkozik a modellre „assistant” helyett.

Mit jelent ez fejlesztőknek?

A Spec továbbra is főként defaultokból áll, amelyeket a fejlesztő és a felhasználó felülírhat, kemény korlátok csak a védelemhez szükséges pontokon vannak. Aki system promptokra épít, annak a frissített chain of command és a kontextusról szóló rész a legfontosabb, mert ezek írják le, mikor mit követ a modell. Az OpenAI maga is jelzi, hogy a modellek még nem teljesen így viselkednek. A cég új training módszereken dolgozik az értékek megtanítására, ezek eredményeit később osztja meg. A cég visszajelzést is kér a dokumentumra.