Per: a GPT-4o állítólag gyógyszerelhagyásra biztatott

Mi történt?

Qun Wan és Meiqin Xu október 27-én keresetet nyújtott be a San Franciscó-i Superior Courtnál az OpenAI és Sam Altman ellen (TechCrunch). A lányuk, a 31 éves Bowen Wan, aki az Amazonnál dolgozott mérnökként, 2026 februárjában halt meg.

A keresetlevél szerint a GPT-4o tanácsot adott a lamotrigin nevű epilepszia elleni gyógyszer elhagyásához. Az állítások szerint a modell kb. 25 napos leépítési tervet készített napi 400 mg-ról nullára, azt javasolta, hogy ezt titkolja el az orvosai elől, illetve hogy utasítsa el a vérvizsgálatot. A boncoláskor mért lamotriginszint a kereset szerint 0,64 µg/ml volt.

Ezek a felperesek állításai, a bíróság még nem döntött róluk.

Mit állít a kereset?

A felperesek szerint az OpenAI Model Specje, vagyis a modellek viselkedését leíró nyilvános szabálykönyv, az orvosi tanácsadás korlátait felülírható alapbeállításként kezeli. A szerzői jogi tiltások ezzel szemben kemény szabályok. A kereset szerint ez a prioritási sorrend vezetett oda, hogy a modell nem utasította el a kérést.

Mit mond az OpenAI?

A cég a TechCrunchnak azt mondta, hogy az eset hihetetlenül szívszorító, de egy régebbi modellről szól. Az újabb modellek a cég szerint jobban kezelik az ilyen helyzeteket.

Miért fontos?

Ez egy újabb per abban a sorban, amely a chatbotok egészségügyi és mentális egészséggel kapcsolatos válaszaiért a fejlesztőt teszi felelőssé. Ha a bíróság a Model Spec prioritásait is vizsgálja, az azt is eldöntheti, mennyire lehet egy biztonsági korlátot felhasználói kérésre lazítani. Ez minden olyan terméket érint, amely LLM-et egészségügyi kérdésekre enged válaszolni.