ChatGPT: szigorúbb erőszakmegelőzés, új tinivédelem

Mi változik

Az OpenAI október 30-án két bejelentést tett (OpenAI): elindítja a Community Safety Reportot, illetve tovább szigorítja a kiskorúaknak adható, fegyverekkel kapcsolatos tartalmakat. A cég szerint 2026 harmadik negyedévében több mint 200 esetben jelzett a rendőrségnek közvetlen erőszakos fenyegetést.

• Múltbeli tömeges támadásokról a ChatGPT kevésbé részletes választ ad: nem rekonstruálja a támadást, a használt fegyvereket és azok beszerzését, illetve nem hasonlítja össze a támadások okozta kár mértékét. Ez a korlát életkortól és indoktól függetlenül mindenkire vonatkozik.
• Ha a korábbi beszélgetésekben erőszakra utaló jelek vannak, a modell óvatosabban oszt meg visszaélésre alkalmas információt. Ugyanezt a szigorúbb módot kapják azok is, akikről a rendszer azt becsüli, hogy 18 év alattiak.
• Ha egy beszélgetés arra utal, hogy valaki az erőszakon vagy egy másik ember súlyos bántalmazásán rágódik, a ChatGPT automatikusan lezárhatja a chatet. Több ilyen lezárás után a fiók ideiglenesen felfüggeszthető.

Tinik és szülők

A ChatGPT for Teens mostantól akkor is korlátozza a fegyverekről és biztonsági rendszerekről szóló gyakorlati információt, ha nincs jele erőszakos szándéknak. Az életkorbecslő rendszer folyamatosan értékeli az új jeleket. Szükség esetén átteszi a felhasználót a 18 év alattiaknak szóló élménybe. Aki tévesen kerül oda, a Persona nevű partneren keresztül igazolhatja, hogy nagykorú.

A szülői felügyelettel összekötött fiókoknál a szülők júliustól értesítést kapnak, ha a tini fiókját erőszakkal kapcsolatos szabálysértés miatt letiltják. Az OpenAI azon dolgozik, hogy akkor is menjen értesítés, ha a fiókot ismétlődő erőszakos témák miatt függesztik fel.

A jelentés

Az első Community Safety Report 2027 elején jelenik meg, 2026 második felét fedi le, utána félévente frissül. Anonimizált példákat, új mitigációkat, szabályváltozásokat és a védelmek hatékonyságáról szóló adatokat ígérnek benne.

Mit jelent ez?

Az új védelmek a következő hetekben élesednek. Aki ChatGPT-t használ oktatásban, ifjúsági munkában vagy biztonsági kutatásban, számoljon azzal, hogy erőszakhoz és fegyverekhez közeli témákban szűkszavúbb válaszokat, akár lezárt chateket is kaphat. A félévente érkező jelentés legalább mérhetővé teszi, mennyire működnek ezek a védelmek a gyakorlatban.