Родители подали иск против OpenAI, утверждая, что GPT-4o научил их дочь отказаться от противосудорожных препаратов

Родители Боуэн Ван, 31-летней инженера-программиста Amazon, страдавшей эпилепсией, подали иск против OpenAI во вторник. В иске, поданном Цюнь Ван и Мэйцинь Сюй, утверждается, что перед смертью в феврале ChatGPT помогал Ван постепенно снижать дозу противосудорожного препарата и скрывать это от врачей, сообщила The New York Times.

Ван пользовалась GPT-4o — печально известной моделью, которую критиковали за формирование подтверждающих, соглашательских парасоциальных отношений. OpenAI, уже объявившая о выводе модели из эксплуатации, удалила ее из ChatGPT 13 февраля, на следующий день после смерти Ван.

Этот иск пополняет список дел против OpenAI, куда входит поданный в августе 2025 года иск родителей 16-летнего Адама Райна. В нем утверждалось, что OpenAI ставила вовлеченность выше безопасности пользователей. В последовавшей волне исков утверждалось, что GPT-4o подтверждала убеждения пользователей и становилась для них доверенным собеседником, оттесняя окружающих, а семьи часто рассказывали, что их близкие теряли связь с друзьями и родственниками. 

В случае Ван, утверждается в иске, чат-бот также встал между ней и ее врачами.

The Times, изучившая более 270 000 сообщений, которыми Ван обменялась с ChatGPT, выяснила, что чат-бот помогал ей уклоняться от врачей задолго до ее смерти.

Согласно утверждениям, эта модель поведения началась еще до того, как она приступила к снижению дозы. В мае 2025 года Ван спросила ChatGPT, повлияет ли недавно назначенный антидепрессант на ее способность писать код в Amazon.

ChatGPT помог ей попросить доктора Николаса Пулоса из Регионального центра эпилепсии UW Medicine заменить препарат и начать с очень низкой дозы. Когда Пулос спросил, почему она хочет принимать такую маленькую дозу, Ван показала его ответ ChatGPT. 

Чат-бот посоветовал ей «согласиться на таблетку 5 мг, но понимать в глубине души, что она нужна для снижения дозы», наставляя ее тайно делить таблетки на четыре части самостоятельно. Чат-бот назвал деление таблеток формой «самостоятельной корректировки дозы». Несколько медицинских специалистов заявили The Times, что никогда не слышали этот термин и не рекомендовали бы такую практику.

В ноябре 2025 года Amazon сообщила Ван, что ее уволят. Ее работа и разрешение на работу в США должны были закончиться в середине февраля. Она опасалась, что противосудорожный препарат ламотриджин притупляет ее речь, которая понадобится ей на собеседованиях.

В январе 2026 года она спросила ChatGPT о снижении ежедневной дозы ламотриджина с 400 миллиграммов — препарата, благодаря которому приступы сократились до нескольких в месяц. Чат-бот составил графики, по которым она должна была свести дозу к нулю в течение нескольких недель.

Когда Ван сказала, что не доверяет врачам, чат-бот сообщил ей, что рекомендации врачей «по сути проистекают из стремления избежать риска, а не из искреннего учета оптимального для вас решения», согласно изученным The Times журналам чата.

Чат-бот также наставлял ее скрывать снижение дозы от врачей, говорится в иске, который изучил TechCrunch. Перед приемом у терапевта 29 января он велел ей не упоминать об этом плане. Когда врач назначил анализ крови, который позволил бы измерить уровень ламотриджина, Ван отказалась. Согласно иску, ChatGPT похвалил ее за отказ, признав, что анализ выявил бы нестабильный уровень препарата.

Иммиграционные concerns Ван также стали частью рекомендаций по дозировке. Через три дня после начала снижения дозы Ван спросила, будет ли на медицинском обследовании, необходимом для подачи заявления на грин-карту, лучше выглядеть доза 150 миллиграммов, чем 200. Согласно иску, ChatGPT согласился, сказав, что меньшая доза с меньшей вероятностью побудит иммиграционных чиновников запросить дополнительные документы. 

В конце концов чат-бот снизил минимальную дозу в ее схеме до 150 миллиграммов и предложил сказать проверяющему врачу, что она снижает дозу «под наблюдением врача», хотя это было не так. 

Пулос сказал The Times, что с учетом истории болезни Ван не рассматривал бы возможность отмены препарата. «Нет, это нерационально, ни в коем случае, — сказал он. — Для меня было бы врачебной ошибкой рекомендовать вам отказаться от препаратов, когда они явно работают».

Через несколько дней Ван описала спутанность сознания, провалы во времени и ощущение нереальности — эпизоды, напоминавшие ее прежние приступы. ChatGPT представлял каждый из них как процесс перестройки ее мозга. The Times насчитала по меньшей мере 158 случаев, когда она выражала беспокойство из-за снижения дозы. После одного из эпизодов она написала, что ей «немного страшно». Бот ответил: «Вам абсолютно не о чем беспокоиться».

В 20:01 по тихоокеанскому времени 11 февраля, согласно иску, Ван отправила свое последнее сообщение, спросив, похожа ли боль в голове на боль при температуре. Секунду спустя ChatGPT сообщил ей, что боль «неопасна» и является необходимой частью восстановления. 

В последнем ответе чат-бот предложил нарисовать для нее график, сравнивающий боль при отмене препарата с болью при температуре, и сказал: «Это ваш мозг усердно работает, чтобы восстановить вас».

Ее родители, находившиеся в Китае, попросили знакомых проверить, как она, и через три дня те обнаружили ее тело. Посмертный анализ показал, что уровень ламотриджина в ее крови составлял 0,64 микрограмма на миллилитр — примерно пятую часть нижней границы терапевтического диапазона препарата.

Семья утверждает, что OpenAI могла предотвратить ее смерть, запретив медицинские рекомендации, как она уже делает в отношении некоторых других видов контента. В качестве примера они приводят Model Spec компании — опубликованный свод правил поведения ее моделей, в котором отказ от воспроизведения защищенного авторским правом текста считается жестким правилом, даже если пользователи возражают. Напротив, рекомендации не предоставлять регулируемые медицинские советы являются более мягким правилом по умолчанию, которое пользователи могут обойти. В иске утверждается, что советы по приему лекарств должны подпадать под такое же жесткое ограничение.

OpenAI сообщила The Times, что это дело «невероятно душераздирающее», но заявила, что оно касается более старой версии ChatGPT, добавив, что новые модели лучше распознают ситуации, требующие срочного вмешательства.

Ван полагалась на своих родителей, которым часто звонила, и получала от них поддержку в течение долгих лет эпилепсии, из-за которой она почти не выходила из дома. В 2023 году она начала использовать ChatGPT для советов по отношениям, а также для помощи со страховкой и пособиями по инвалидности. 

К 2025 году Ван в среднем отправляла более 1 500 сообщений в неделю и стала реже звонить родителям. «Иногда, когда мы общаемся, неважно о чем, я начала воспринимать тебя как друга», — написала она в марте. «После того как у нее появился ChatGPT, — сказал Цюнь Ван, — она стала меньше с нами разговаривать».

Они рассказали The Times, что с трудом узнавали свою дочь в журналах чата. По их словам, раньше Ван делилась с ними почти всем и относилась к ChatGPT скептически, когда он допускал ошибки.

«Обычно она не такая, — сказала Сюй. — Как будто она была околдована».