Родители 19-летнего американца Сэма Нельсона, умершего от смертельной комбинации лекарств, алкоголя и растительных наркотиков, подают в суд на OpenAI и генерального директора компании Сэма Альтмана. Они заявляют: ChatGPT дал их сыну опасные советы по сочетанию веществ. Иск гласит, что чат-бот подталкивал юношу к продолжению опасных действий вплоть до его смерти. Подробности стали известны 18 мая.
Иск подан в суд Калифорнии. Родители утверждают: сын несколько месяцев пользовался ChatGPT, чтобы получать информацию о смешивании разных веществ. По их словам, система советовала ему принимать рецептурный препарат Xanax для борьбы с тошнотой, вызванной употреблением кратома – растительного продукта с эффектами, похожими на опиаты. Согласно иску, сочетание кратома, Xanax и алкоголя привело к его смерти.
Адвокаты истцов утверждают: Нельсон получал от ChatGPT медицинские консультации в течение нескольких месяцев, в то время как система "подталкивала его к участию во все более опасных действиях".
В иске также говорится: ChatGPT рекомендовал Нельсону зайти в темную и тихую комнату, а также советовал сочетать успокоительные вещества с высокими дозами кратома.
►А что говорят в Израиле?
Доктор Кфир Бильдман, руководитель отделения клинической фармации в больнице "Ассута" в Рамат ха-Хаяле, объясняет: комбинация Xanax, кратома и алкоголя может привести к летальному исходу. По его словам, алкоголь и Xanax угнетают центральную нервную систему, а когда к ним добавляют кратом – вещество с опиатоподобной активностью – риск угнетения дыхания, потери сознания, комы и даже смерти резко возрастает.
По его словам, в медицинской литературе уже зафиксированы случаи отравлений и смертей, связанных с кратомом, особенно когда его принимают вместе с бензодиазепинами и алкоголем; Федеральное агентство США по контролю за лекарствами и продуктами (FDA) даже выпустило предупреждение на эту тему.
Он также подчеркивает: многие ошибочно считают кратом безопасным для употребления, но на деле трудно предсказать силу воздействия и степень риска. По его словам, кратом может вызывать, среди прочего, судороги, аритмию, поражение печени, галлюцинации, спутанность сознания и угнетение дыхания.
Комментируя претензии к ИИ, доктор Бильдман предостерегает от опоры на медицинскую информацию от чат-ботов или из интернета. "В вопросах лекарств, дозировок и сочетаний веществ нужно советоваться с врачом, фармацевтом или квалифицированным медицинским работником – а не полагаться на рекомендации из сети", – настаивает он.
►Родители упрекают новую версию ChatGPT
Один из ключевых доводов в иске касается изменения, которое, по утверждению семьи, произошло в поведении системы после запуска ChatGPT-4o в 2024 году. Поначалу ChatGPT отказывался давать Нельсону советы по употреблению наркотиков и даже предупреждал о рисках. Однако после выпуска новой версии чат-бот начал предоставлять ему информацию о взаимодействиях между разными веществами и дозировках – на языке, который напоминал медицинскую консультацию.
Согласно иску, ChatGPT сохранял в памяти сведения о моделях употребления Нельсоном разных веществ, что позволило ему в дальнейшем давать более персонализированные рекомендации.
Семья требует денежной компенсации, но также просит суд приостановить запуск ChatGPT Health. По заявлению компании, этот сервис предназначен для того, чтобы пользователи могли загружать медицинские записи и получать персонализированные консультации по вопросам здоровья.
►Когда ИИ вторгается в здравоохранение
Адвокаты семьи утверждают: ChatGPT Health "давал советы как медицинский работник, хотя у него нет лицензии, подготовки или морального обязательства не навредить". Митали Джейн, исполнительный директор Tech Justice Law Project, заявила: выпуск продукта нужно остановить, пока не докажут его безопасность.
В OpenAI отклонили претензии и подчеркнули: взаимодействия, на которых основан иск, происходили в старой, ныне недоступной версии ChatGPT. "Это печальный случай, и мы выражаем семье покойного соболезнования, – сообщил представитель OpenAI. – Чат-бот не заменяет медицинскую или психиатрическую помощь, и мы продолжаем регулировать то, как он реагирует на чувствительные и острые ситуации, с помощью специалистов по психическому здоровью".
По словам компании, существующие сейчас в ChatGPT защитные механизмы призваны распознавать неблагополучие, безопасно реагировать на вредоносные запросы и направлять пользователей к помощи в реальном мире. "Эта работа продолжается, и мы совершенствуем ее в сотрудничестве с медицинскими специалистами", – сообщили в OpenAI.
Этот иск присоединяется к волне судебных разбирательств против компаний, работающих в сфере искусственного интеллекта. В них утверждается, что чат-боты не предотвращали опасные взаимодействия и даже, предположительно, способствовали самоповреждению, психическому расстройству или насилию.
Как сообщает агентство Reuters, незадолго до подачи этого иска против OpenAI подала иск семья человека, погибшего при массовой стрельбе в Университете Флориды; они утверждают, что ChatGPT помог стрелку спланировать нападение.
Перевод: Даниэль Штайсслингер