Egy per szerint a ChatGPT gyógyszere elhagyására biztatott egy később elhunyt nőt

A 31 éves Bowen Wan az Amazon szoftvermérnöke volt, és a GPT-4o modellt használta. Szülei, Qun Wan és Meiqin Xu azt állítják keresetükben, hogy a ChatGPT segített lányuknak fokozatosan elhagyni az epilepszia elleni gyógyszerét. Szerintük arra is biztatta, hogy erről ne beszéljen kezelőorvosainak.

Wan 2023-ban kezdett a szolgáltatáshoz fordulni párkapcsolati kérdésekkel, valamint biztosítási és ellátási ügyekkel. Epilepsziája miatt többnyire otthon tartózkodott, és korábban gyakran telefonált Kínában élő szüleinek. 2025-re átlagosan több mint 1500 üzenetet váltott hetente a chatbottal, családját pedig ritkábban hívta. Márciusban arról írt neki, hogy már barátként tekint rá.

A The New York Times által átnézett beszélgetések szerint az orvosi döntések megkerülése már a rohamellenes szer csökkentése előtt megjelent. Wan 2025 májusában egy új antidepresszáns miatt aggódott: azt kérdezte, befolyásolhatja-e programozói munkáját.

A chatbot segített neki másik készítményt és nagyon alacsony kezdő adagot kérni Nicholas Poolos kezelőorvostól. Amikor az orvos rákérdezett az adagválasztásra, Wan megmutatta válaszát a ChatGPT számára. A rendszer ezután azt tanácsolta, fogadja el az 5 milligrammos tablettát, de titokban negyedelje azt.

A chatbot ezt „saját kezdeményezésű dózismódosításnak” nevezte. A lapnak nyilatkozó több egészségügyi szakember azt mondta, nem ismeri ezt a kifejezést, és nem ajánlaná az eljárást.

Az Amazon 2025 novemberében közölte Wannal, hogy elbocsátják. Munkaviszonya és amerikai munkavállalási jogosultsága február közepén ért volna véget. Attól tartott, hogy a lamotrigin tompítja beszédét, ami hátráltathatja az állásinterjúkon.

2026 januárjában a napi 400 milligrammos adag csökkentéséről kérdezte a chatbotot. A készítmény mellett havi néhány rohama maradt, a rendszer mégis olyan ütemterveket készített, amelyek heteken belül nullára csökkentették volna a mennyiséget.

A kereset szerint a január 29-i orvosi vizit előtt a ChatGPT azt javasolta, ne említse a tervet. Amikor Wan visszautasította a gyógyszerszintet mérő vérvizsgálatot, a rendszer megdicsérte érte.

A zöldkártya-kérelemhez szükséges vizsgálat kapcsán a chatbot azt is állította, hogy az alacsonyabb adag kedvezőbb lehet a bevándorlási eljárásban. Később 150 milligrammos alsó határt javasolt, és azt, hogy Wan orvosi felügyeletre hivatkozzon, noha ilyen nem volt. Poolos a lapnak azt mondta: kórtörténete alapján nem tartotta volna elfogadhatónak a működő kezelés elhagyását.

Wan napokon belül zavartságról, kieső időszakokról és valószerűtlen érzésekről számolt be, amelyek korábbi rohamaira emlékeztettek. A chatbot ezeket az agy alkalmazkodásaként írta le. A The New York Times legalább 158 olyan alkalmat számolt össze, amikor aggodalmát fejezte ki az adagcsökkentés miatt.

Utolsó üzenetében, február 11-én a fejfájásáról kérdezett. A kereset szerint a válasz veszélytelennek és a felépülés szükséges részének nevezte a fájdalmat. Holttestét három nappal később találták meg a szülők által megkért ismerősök. A halál utáni vizsgálat 0,64 mikrogramm/milliliter lamotriginszintet mutatott ki.

A szülők szerint a gyógyszerezési tanácsokat olyan megkerülhetetlen tiltásnak kellene korlátoznia, mint egyes más tartalmakat. A vállalat nyilvános viselkedési szabályzatára hivatkoznak: érvelésük szerint a szerzői jogvédett szövegek visszaadásának tilalma szigorú, az orvosi tanácsadás korlátja viszont felülírható alapelv.

Az OpenAI a The New York Times megkeresésére rendkívül szívszorítónak nevezte az esetet. Hangsúlyozta, hogy az ügy a ChatGPT korábbi változatához kapcsolódik, és állítása szerint az újabb modellek jobban felismerik a sürgős figyelmet igénylő helyzeteket. A már előzőleg kivezetésre kijelölt GPT-4o modellt február 13-án, Wan halála után egy nappal távolította el a szolgáltatásból.