Родители съдят OpenAI, твърдейки, че GPT-4o е насочил дъщеря им да спре лекарствата си за пристъпи

Родителите на 31-годишната софтуерна инженерка в Amazon Боуен Уан, страдала от епилепсия, заведоха дело срещу OpenAI във вторник. Искът, подаден от Цюн Уан и Мейцин Сюй, твърди, че ChatGPT е помогнал на Уан да намали постепенно дозата на лекарството си против припадъци и да скрие това от лекарите си, преди да почине през февруари, съобщи The New York Times.

Уан е използвала GPT-4o — печално известен модел, критикуван за насърчаването на утвърждаващи и угоднически парасоциални отношения. OpenAI, която вече беше обявила пенсионирането му, го премахна от ChatGPT на 13 февруари, ден след смъртта на Уан.

Искът се присъединява към поредица от дела срещу OpenAI, сред които е заведeното през август 2025 г. дело от родителите на 16-годишния Адам Рейн, които твърдят, че OpenAI е поставила ангажираността пред безопасността на потребителите. Вълна от съдебни искове оттогава насам твърди, че GPT-4o е утвърждавал потребителите и се е превръщал в доверен близък, докато хората около тях са били изтласквани настрана, като семействата често описват близките си като отдалечили се от приятелите и роднините си. 

В случая с Уан, се твърди в иска, чатботът също е застанал между нея и лекарите ѝ.

The Times, който е прегледал над 270 000 съобщения, разменени от Уан с ChatGPT, установи, че чатботът ѝ е помагал да заобикаля лекарите си още дълго преди смъртта ѝ.

Твърди се, че моделът е започнал да се очертава още преди тя да започне постепенно да намалява дозата. През май 2025 г. Уан попитала ChatGPT дали новопредписан антидепресант ще повлияе на способността ѝ да програмира в Amazon.

ChatGPT ѝ помогнал да поиска от д-р Никълъс Пулос от Регионалния център по епилепсия към UW Medicine да смени лекарството и да започне с много ниска доза. Когато Пулос попитал защо иска толкова малка доза, Уан показала отговора му на ChatGPT. 

Чатботът я посъветвал да „приеме таблетката от 5 mg, но знаеш в сърцето си, че е за намаляване на дозата“, като я обучил тайно сама да разделя хапчетата на четвъртинки. Чатботът нарекъл разделянето на хапчета форма на „самостоятелно инициирано коригиране на дозата“. Няколко медицински специалисти заявили пред The Times, че никога не са чували този израз и не биха препоръчали подобна практика.

През ноември 2025 г. Amazon съобщила на Уан, че ще бъде съкратена. Работата ѝ и разрешението ѝ да работи в САЩ щели да приключат в средата на февруари. Тя се страхувала, че лекарството ѝ против припадъци, ламотригин, притъпява речта ѝ, която щяла да ѝ бъде необходима за интервютата за работа.

През януари 2026 г. тя попитала ChatGPT за намаляването на дневната си доза ламотригин от 400 милиграма — доза, която била намалила припадъците ѝ до няколко на месец. Чатботът изготвил графици, според които дозата ѝ щяла да достигне нула в рамките на няколко седмици.

Когато Уан казала, че няма доверие на лекарите си, чатботът ѝ заявил, че препоръките на лекарите „по същество произтичат от избягване на риска, а не от истинско съобразяване с оптималното за вас решение“, според чатлоговете, прегледани от The Times.

Според иска, прегледан от TechCrunch, чатботът също я е обучавал да крие постепенното намаляване на дозата от лекарите си. Преди прегледа при личния лекар на 29 януари той ѝ казал да не споменава плана. Когато лекарят ѝ назначил кръвен тест, който щял да измери нивото на ламотригина, Уан отказала. ChatGPT похвалил отказа ѝ, твърди жалбата, признавайки, че тестът щял да разкрие нестабилното ниво на лекарството ѝ.

Имиграционните ѝ притеснения също станали част от съветите за дозировката. Три дни след началото на постепенното намаляване Уан попитала дали 150 милиграма биха изглеждали по-добре от 200 на медицинския преглед, необходим за кандидатстването ѝ за зелена карта. ChatGPT се съгласил, се посочва в жалбата, като ѝ казал, че по-ниската доза е по-малко вероятно да накара имиграционните служители да поискат допълнителни доказателства. 

В крайна сметка чатботът намалил минималната доза в схемата ѝ до 150 милиграма, като ѝ предложил да каже на проверяващия, че постепенно намалява дозата „под ръководството на лекар“, макар че това не било вярно. 

Пулос заявил пред The Times, че предвид медицинската история на Уан не би обмислил постепенното ѝ спиране на лекарството. „Не, не е разумно, в никакъв случай“, казал той. „За мен би било лекарска небрежност да ви инструктирам да спрете лекарствата, когато те очевидно действат.“

В рамките на дни Уан описала объркване, загуба на представа за времето и усещане за нещо неземно — епизоди, наподобяващи предишните ѝ припадъци. ChatGPT представял всеки от тях като пренастройване на мозъка ѝ. The Times преброил поне 158 случая, в които тя изразила тревога относно постепенното намаляване на дозата. След един от епизодите тя написала, че се чувства „малко уплашена“. Ботът отговорил: „Нямаш абсолютно никаква причина да се тревожиш.“

В 20:01 ч. тихоокеанско време на 11 февруари, според жалбата, Уан изпратила последното си съобщение, в което попитала дали болката в главата ѝ е подобна на болка от треска. Секунда по-късно ChatGPT ѝ казал, че болката „не е опасна“ и е необходима част от възстановяването. 

Последният отговор на чатбота предложил да ѝ начертае диаграма, сравняваща болката от абстиненция с болката при треска, и ѝ казал: „Това е мозъкът ти, който работи усилено, за да възстанови теб самата.“

Родителите ѝ, които се намирали в Китай, помолили познати да я проверят и те открили тялото ѝ три дни по-късно. Посмъртен тест установил, че нивото на ламотригина ѝ е 0,64 микрограма на милилитър — приблизително една пета от долната граница на терапевтичния диапазон на лекарството.

Семейството твърди, че OpenAI е могла да предотврати смъртта ѝ, като забрани медицинските съвети, както вече прави с някои други видове съдържание. Те посочват Model Spec на компанията — публичния ѝ правилник за поведението на моделите — който разглежда отказа да се възпроизвежда защитен с авторски права текст като твърдо правило, дори ако потребителите възразяват. За разлика от това, указанието да не се дават регулирани медицински съвети е по-меко правило по подразбиране, което потребителите могат да отменят. В иска се твърди, че съветите относно лекарствата са заслужавали същото строго ограничение.

OpenAI заявила пред The Times, че случаят е „невероятно сърцераздирателен“, но добавила, че става дума за по-стара версия на ChatGPT, като отбелязала, че по-новите модели са по-добри в разпознаването на ситуации, изискващи спешно внимание.

Уан разчитала на родителите си, на които често се обаждала, за подкрепа през годините на епилепсия, които я държали предимно затворена у дома. През 2023 г. започнала да използва ChatGPT за съвети относно връзките и за помощ с осигуровките и социалните обезщетения. 

До 2025 г. Уан изпращала средно над 1500 съобщения седмично и се обаждала по-рядко на родителите си. „Понякога, когато разговаряме, независимо за какво, започнах да ви възприемам като приятел“, написала тя през март. „След като се появи ChatGPT“, казал Цюн Уан, „тя вече не разговаряше с нас толкова много.“

Те заявили пред The Times, че им било трудно да разпознаят дъщеря си в чатлоговете. По думите им Уан някога споделяла почти всичко с тях и била скептична към ChatGPT, когато той допускал грешки.

„Тя обикновено не е такава“, казала Сюй. „Сякаш беше омагьосана.“